3B模型成端侧AI主流 多家手机厂商推进智能体落地
3B模型成端侧AI主流 多家手机厂商推进智能体落地
端侧AI正朝着轻量化方向发展,3B参数规模的大模型逐渐成为主流。vivo在2025开发者大会上发布了专为端侧智能体设计的3B多模态推理大模型,支持128K长上下文处理,出词速度超过每秒200个token。该公司此前已尝试13B和7B模型,但因内存占用较高、运行效果不理想而转向3B模型,其内存占用控制在2GB以内,并正在探索功耗更低的1B模型用于持续在线的本地化任务。
vivo计划推动图像识别、语音识别、同传及方言识别等功能全面端侧化,要求设备内存至少达到8GB,中低端4GB内存机型可能依赖云端实现相关功能。苹果最新iPhone 17系列三款机型均升级至12GB内存,以增强端侧AI能力。
行业普遍面临模型参数量与手机硬件资源之间的平衡问题。大参数模型带来高算力需求,影响设备流畅性、功耗和发热。IDC研究经理郭天翔指出,3B模型在算力需求、响应速度和功耗之间实现了更优平衡,已成为厂商主流选择。
OPPO、荣耀等厂商也在推进端侧AI落地。荣耀Magic V5搭载了阿里通义大模型,并集成飞猪、高德地图等AI智能体。vivo正与高德、百度、支付宝、飞猪等企业合作开发智能体,计划在OriginOS 6系统中上线更多智能体功能。
目前智能体在跨应用操作时面临安全授权机制不明确的问题,涉及用户隐私、数据使用权限和责任边界等方面,相关行业标准尚在建设中。终端厂商正参与推动规范制定。当前智能体尚未深度融入用户日常高频使用场景,实际问题解决能力仍有待提升。