TalkTop 科技圈顶流在说什么
原话 芯片与算力·

国产算力训练出模型才算自主可控

只有真正地在国产算力上训练出自己的模型,才是真的自主可控。

10月22日在北京发言

L
刘庆峰科大讯飞 · 董事长

报道摘要

更精准的任务分工也是能力提升的重要因素。刘庆峰介绍,首次发布的星火大模型端云一体协同架构,基于端侧模型精准路由,可根据任务难度、端侧能力和数据安全需求,选择纯端侧执行、端云协同或纯云侧执行,并通过“云指导端”“端云分工”完成任务。比如,需要云端参与时,敏感信息先在本地脱敏,经用户确认后发送,本地原始文件不上传,并支持自定义脱敏策略。

finance.sina.com.cn

更多发言来自 刘庆峰

全部言论 →
大模型安全与性价比要靠端云一体解决

“刘庆峰认为,未来大模型的安全性和性价比问题,一定要通过“端云一体”化来解决:可能60%的应用在手机、电脑端侧独立完成,数据不出域、Token花费少;30%的应用采用端云协同,复杂场景任务由云端模型分解指导;只有10%的应用在云端独立处理。”

转述大模型与 AGI·昨天·news.qq.com
国产算力与国际一流水平仍差约两代

“讯飞星火X2.6采用全国产算力训练,但国产算力距英伟达仍有差距,刘庆峰判断为“将近两代”,差距主要集中在显存和带宽;百万级上下文的代码与智能体任务此前状态被概括为“装不下、训不动”。”

转述芯片与算力·昨天·news.qq.com
端侧模型可解决六成工作且零token成本

““这事很难,因为端侧模型现在要解决的问题很多都是复杂智能体的长期任务;好处是不用担心任何数据隐私问题,同时不花一分钱token成本。我觉得这真正符合中国用户现状,将来可能成为在全球实现突破的模型。””

智能体与应用·昨天·news.qq.com

同主题言论: 芯片与算力

更多 →