TalkTop 科技圈顶流在说什么
转述 云与数据中心·

六成大模型应用场景将在端侧完成

刘庆峰认为,端云一体是兼顾AI安全性与性价比的技术路线,未来约60%的应用场景可在端侧完成,30%通过端云协同处理,其余10%交给云端大模型。

在科大讯飞开发节发布星火X2.6

L
刘庆峰科大讯飞 · 董事长

报道摘要

在10月22日的科大讯飞一年一度的开发节现场,科大讯飞董事长刘庆峰进行了约两个小时的演讲,发布了大模型、技术架构、人机交互和智能硬件等领域的一系列新产品与新进展,国产算力、自主可控、安全与落地是贯穿演讲中的高频词。 作为讯飞核心布局的技术方向,全国产算力训练大模型的进展一直受到关注,这次大会上,讯飞发布了端云一体讯飞星火X2.6。刘庆峰认为,这是一个兼顾AI安全性与性价比的技术路线,未来约60%的 ...

feng.ifeng.com

更多发言来自 刘庆峰

全部言论 →
大模型安全与性价比要靠端云一体解决

“刘庆峰认为,未来大模型的安全性和性价比问题,一定要通过“端云一体”化来解决:可能60%的应用在手机、电脑端侧独立完成,数据不出域、Token花费少;30%的应用采用端云协同,复杂场景任务由云端模型分解指导;只有10%的应用在云端独立处理。”

转述大模型与 AGI·昨天·news.qq.com
国产算力与国际一流水平仍差约两代

“讯飞星火X2.6采用全国产算力训练,但国产算力距英伟达仍有差距,刘庆峰判断为“将近两代”,差距主要集中在显存和带宽;百万级上下文的代码与智能体任务此前状态被概括为“装不下、训不动”。”

转述芯片与算力·昨天·news.qq.com
端侧模型可解决六成工作且零token成本

““这事很难,因为端侧模型现在要解决的问题很多都是复杂智能体的长期任务;好处是不用担心任何数据隐私问题,同时不花一分钱token成本。我觉得这真正符合中国用户现状,将来可能成为在全球实现突破的模型。””

智能体与应用·昨天·news.qq.com

同主题言论: 云与数据中心

更多 →