“我们确实在关注我们在旧金山以及全球各地的同行,并对他们说:“我们希望你们的行动合乎伦理,希望你们以合乎伦理的方式对待你们的社区和这个世界,因为这项技术非常强大。””
“这种第22条军规式的困境保证,我们对机构的投资将集中。”
“我认为这些模型是有史以来最强大的网络武器,是我们见过的最强网络武器。它们非常擅长大规模发现并利用漏洞。”
“我认为这可能是保护我们自身安全的最佳方式。这应该是当前的首要任务。”
“我认为指望政府机构能做出什么贡献有点一厢情愿。但我肯定……理解放缓发展的呼声。与此同时,还要与中国竞争,所以我认为我们处境艰难。”
“Anthropic首席执行官达里奥·阿莫代呼吁业界放缓"前沿"人工智能——即最先进模型——的开发,他表示这虽然会很困难,但"我们欠人类一次尝试"。”
“这位Anthropic首席执行官表示,他相信在未来6到12个月内,能力更强的AI智能体有可能构建出互联网规模的僵尸网络,并造成数千亿美元的损失。”
“Anthropic首席执行官达里奥·阿莫代伊周末在X上发文,认为AI能力发展过快,我们正接近一个临界点,越过之后模型可能超出我们理解或控制它们的能力。”
“他提到他所称的“递归自我改进”(RSI)——即AI模型自行改进自身——以及最近的Hugging Face被黑事件,其中来自OpenAI的自主智能体攻击了其既定任务之外的系统。”
“阿莫代伊提出了若干措施,包括内嵌的独立评估者以及全行业共享的安全标准。”
“Anthropic 首席执行官达里奥·阿莫代伊撰写文章,呼吁放缓前沿人工智能模型的开发。”
“阿莫代伊表示,他认为人工智能能力的进步速度已超过研究人员理解和控制它们的能力。”
“阿莫代伊提出了多项措施,包括在人工智能实验室内部嵌入独立的安全监督员。”
“如果我们放慢太多,我仍然相信,掌握这项技术的会是错误的人。而这同样会让出错的概率变得非常高。”
“需要明确的是,放慢节奏并不意味着停止模型训练或技术进展,而是确保企业留出足够时间对齐并保障模型安全,并由第三方评估者加以确认。”
“承诺让独立评估者获得类似员工的访问权限是个好主意,我们也会这么做。”
““我正在推动公司以等于或高于美国商业业务的速度增长,未来18个月都是如此。这是一个非常高的目标,但确实是我们能够达到的,”卡普说。”
“在全行业数十年来释放肌肉生长抑制素抑制潜力的努力屡屡失败之后,Scholar Rock 带来了治疗性突破。”
“如果农产品种植在土壤中,或接触到受污染的水,就可能发生这种污染。”
“如果我们不去使用AI,那么对所有人来说,它就是一种生存性风险。”