雷军:小米研发大模型的方向是轻量化和本地部署
时间:2023-08-25 来源:区块链网络 作者:东寻
巴比特讯,8 月 25 日,据公众号“雷军”,小米雷军表示,小米做大模型的思路和很多公司不太一样,选择主力突破的是轻量化和本地部署。目前小米自研的 13 亿参数的端侧模型已经在手机端跑通,部分场景效果媲美 60 亿模型在云端的运算结果。与早些时候市场上放出的手机端大模型的方案相比,小米会调整模型结构和参数大小,适配各种芯片在内存和算力上的特点,致力于达到功耗、推理速度和生成效果的最佳平衡。 原文链接 |
知识: AIGC