雷军:小米研发大模型的方向是轻量化和本地部署

2023-08-25 11:16:09   来源:飞笛资讯


(资料图片仅供参考)

小米雷军表示,小米做大模型的思路和很多公司不太一样,选择主力突破的是轻量化和本地部署。目前小米自研的13亿参数的端侧模型已经在手机端跑通,部分场景效果媲美60亿模型在云端的运算结果。与早些时候市场上放出的手机端大模型的方案相比,小米会调整模型结构和参数大小,适配各种芯片在内存和算力上的特点,致力于达到功耗、推理速度和生成效果的最佳平衡。

标签:

X 关闭

X 关闭