大模型深入业务需守住数据边界降成本
大模型深入业务,既要具备处理复杂任务的能力,也要守住数据边界、降低使用成本。
10月22日在北京发言
报道摘要
更精准的任务分工也是能力提升的重要因素。刘庆峰介绍,首次发布的星火大模型端云一体协同架构,基于端侧模型精准路由,可根据任务难度、端侧能力和数据安全需求,选择纯端侧执行、端云协同或纯云侧执行,并通过“云指导端”“端云分工”完成任务。比如,需要云端参与时,敏感信息先在本地脱敏,经用户确认后发送,本地原始文件不上传,并支持自定义脱敏策略。
finance.sina.com.cn