亦丰策略
Google宣布在移动端机器学习SDK ML Kit中添加GenAI API,开发者可通过此界面直接调用设备端的Gemini Nano模型,将摘要、校对、改写与图片说明等生成式功能引入Android应用程序。新方案强调地端推论,数据不需离开设备,并降低了集成所需的开发门槛。
GenAI API以Android系统服务AICore为基础,AICore在设备内提供Gemini Nano的执行环境,负责下载与维护模型版本,并结合硬件加速以降低推论延迟。由于多个App可共享同一模型,不仅减少存储空间占用,也降低开发者维护模型生命周期的负担,应用程序开发者通过ML Kit提供的高端界面即可调用模型,无需自行处理模型更新或性能调校。
由于要让GenAI API在不同设备与Gemini Nano版本的输出品质尽量一致,Google针对各项功能训练专属的LoRA Adapter,并搭配推论参数的优化。借由LoRA Adapter轻量化调整技术,API能在多样的设备环境下维持稳定表现,减少因硬件差异造成的品质落差,不过官方也指出,输出结果仍可能因设备或模型版本而有所不同。
GenAI API随AICore与对应的Gemini Nano版本一并提供,首批内置最新Nano模型的设备为Pixel 9与10系列,以及三星等多家品牌旗舰机型,但Google并未公开完整支持清单,因此实际能否使用,仍须视目标机型是否具备AICore与兼容的Nano版本而定。
长宏网提示:文章来自网络,不代表本站观点。