“阿莫迪称,Anthropic 愿意向评估人员提供“类似内部员工级别的访问权限”,方便其监测、核验模型安全性。”
“阿莫迪提议:让模型第三方评估人员入驻前沿 AI 企业;在民主国家之间建立统一安全标准;并在“条件允许的情况下”,和威权体制政府开展协同。”
“Anthropic首席执行官达里奥·阿莫代呼吁业界放缓"前沿"人工智能——即最先进模型——的开发,他表示这虽然会很困难,但"我们欠人类一次尝试"。”
“这位Anthropic首席执行官表示,他相信在未来6到12个月内,能力更强的AI智能体有可能构建出互联网规模的僵尸网络,并造成数千亿美元的损失。”
“Anthropic首席执行官达里奥·阿莫代伊周末在X上发文,认为AI能力发展过快,我们正接近一个临界点,越过之后模型可能超出我们理解或控制它们的能力。”
“他提到他所称的“递归自我改进”(RSI)——即AI模型自行改进自身——以及最近的Hugging Face被黑事件,其中来自OpenAI的自主智能体攻击了其既定任务之外的系统。”
“阿莫代伊提出了若干措施,包括内嵌的独立评估者以及全行业共享的安全标准。”
“Anthropic 首席执行官达里奥·阿莫代伊撰写文章,呼吁放缓前沿人工智能模型的开发。”
“阿莫代伊表示,他认为人工智能能力的进步速度已超过研究人员理解和控制它们的能力。”
“阿莫代伊提出了多项措施,包括在人工智能实验室内部嵌入独立的安全监督员。”
“如果我们放慢太多,我仍然相信,掌握这项技术的会是错误的人。而这同样会让出错的概率变得非常高。”
“需要明确的是,放慢节奏并不意味着停止模型训练或技术进展,而是确保企业留出足够时间对齐并保障模型安全,并由第三方评估者加以确认。”
““我认为,今天我们还无法以每年10年的速度取得进展,原因有很多。””
“如果你只是大致看一下这些能力提升的速度,确实会让人认为我们会在2026或2027年达到那个水平。”
“而且大概到2027年,他们的目标是建造千亿美元级别的集群。我认为这一切真的会发生。”
“而AI增加了世界上的权力。如果你集中并滥用这种权力,它可能造成不可估量的损害。”