来源:菲律宾地震已致37人死亡百余人受伤作者: 刘必顺:

中国企业首次实现ChatGPT级模型端侧部署 手机离线也能用AI

一家国产AI芯片企业今日发布了业界首个在手机端本地运行的ChatGPT级大模型方案。该方案可以在不联网的情况下,在手机上运行130亿参数的大语言模型,响应速度达到每秒30个token。

这一突破依赖于两方面的技术创新:一是高效的模型压缩技术,将原本需要数十GB显存的模型压缩到4GB以内且性能损失不超过5%;二是专用的AI加速芯片,提供了强大的端侧推理算力。

端侧大模型的最大优势是隐私保护。用户的对话数据完全在本地处理,不会上传到云端服务器。这对于涉及商业机密、医疗隐私等敏感场景尤为重要。

多家手机厂商已确认将在下一代旗舰机中采用该方案。分析师预测,端侧AI将成为2027年智能手机的核心卖点,推动手机行业的新一轮换机潮。

@袁淑敏:教学朝日的微吉祥物,乌拉圭不敌西班牙利好韩国
@曹依洁:市民骑哈啰单车79分钟被收费30元
@张康宏:给阿嬷的情书火了电影人为何集体沉默