中国企业首次实现ChatGPT级模型端侧部署 手机离线也能用AI
一家国产AI芯片企业今日发布了业界首个在手机端本地运行的ChatGPT级大模型方案。该方案可以在不联网的情况下,在手机上运行130亿参数的大语言模型,响应速度达到每秒30个token。
这一突破依赖于两方面的技术创新:一是高效的模型压缩技术,将原本需要数十GB显存的模型压缩到4GB以内且性能损失不超过5%;二是专用的AI加速芯片,提供了强大的端侧推理算力。
端侧大模型的最大优势是隐私保护。用户的对话数据完全在本地处理,不会上传到云端服务器。这对于涉及商业机密、医疗隐私等敏感场景尤为重要。
多家手机厂商已确认将在下一代旗舰机中采用该方案。分析师预测,端侧AI将成为2027年智能手机的核心卖点,推动手机行业的新一轮换机潮。
@袁淑敏:教学朝日的微吉祥物,乌拉圭不敌西班牙利好韩国@曹依洁:市民骑哈啰单车79分钟被收费30元
@张康宏:给阿嬷的情书火了电影人为何集体沉默
热门排行
- 1 色综合天天综合中文娱乐网
- 2 泡妞软件官方版
- 3 看黄的公司
- 4 天天日天天射天天操天天爽
- 5 大鸡巴操美女的
- 6 裸体初音未来被到爽
- 7 18禁lsp表情包
- 8 老年人尻屄视频观看
- 9 欧美精品影视