“不管是10%、8%还是6%,关键在于……我们必须采取行动,确保这些风险一点都不能冒。”
“人工智能公司不会说自己希望被国有化,但他们正在把公众引向这个结论。”
“马斯克公开表示“达里奥说得对”(即认同应放缓AI开发),但未在其控制的AI企业中提出具体减速方案。”
“安全是最高优先级,但安全也是工程挑战,速度与安全可以兼得”
“扎克伯格认为,企业自身有责任也有能力设定合适的发展节奏,无需外部监管介入。”
“很多公司受到了伤害,很多个人通过社交媒体受到了伤害,我们不希望这种事在AI上重演。”
“阿莫迪称,Anthropic 愿意向评估人员提供“类似内部员工级别的访问权限”,方便其监测、核验模型安全性。”
“阿莫迪提议:让模型第三方评估人员入驻前沿 AI 企业;在民主国家之间建立统一安全标准;并在“条件允许的情况下”,和威权体制政府开展协同。”
“我们希望AI把这些事情管起来、承担责任,把这些行为处理好、并且合乎伦理,伦理的核心是责任。”
“我们确实在关注我们在旧金山以及全球各地的同行,并对他们说:“我们希望你们的行动合乎伦理,希望你们以合乎伦理的方式对待你们的社区和这个世界,因为这项技术非常强大。””
“我认为这些模型是有史以来最强大的网络武器,是我们见过的最强网络武器。它们非常擅长大规模发现并利用漏洞。”
“我认为这可能是保护我们自身安全的最佳方式。这应该是当前的首要任务。”
“我认为指望政府机构能做出什么贡献有点一厢情愿。但我肯定……理解放缓发展的呼声。与此同时,还要与中国竞争,所以我认为我们处境艰难。”
“Anthropic首席执行官达里奥·阿莫代呼吁业界放缓"前沿"人工智能——即最先进模型——的开发,他表示这虽然会很困难,但"我们欠人类一次尝试"。”
“阿莫代伊提出了若干措施,包括内嵌的独立评估者以及全行业共享的安全标准。”
“Anthropic 首席执行官达里奥·阿莫代伊撰写文章,呼吁放缓前沿人工智能模型的开发。”
“阿莫代伊提出了多项措施,包括在人工智能实验室内部嵌入独立的安全监督员。”
“如果我们放慢太多,我仍然相信,掌握这项技术的会是错误的人。而这同样会让出错的概率变得非常高。”
“需要明确的是,放慢节奏并不意味着停止模型训练或技术进展,而是确保企业留出足够时间对齐并保障模型安全,并由第三方评估者加以确认。”
“承诺让独立评估者获得类似员工的访问权限是个好主意,我们也会这么做。”