“这起 OpenAI 智能体被黑事件本可以避免;工程师也会犯错。”
“首例自主智能体网络攻击是前所未有的事件,理应得到前所未有的回应!”
“公布“流氓”智能体的运行轨迹,让整个研究界都能研究究竟发生了什么。”
“她说,她担心的与其说是某位领导者个人的品格(尽管她承认这很重要),不如说是结构性制衡的缺失。好人也会做出糟糕的决定,初衷良好的组织也会逐渐偏离。”
“这是一场非常重要的讨论,毫无疑问,它能以前所未有的速度和节奏发现并利用漏洞。”
“Anthropic 和其他一些公司(包括微软、谷歌和 OpenAI)正努力以正确的方式部署 AI,审慎、安全,并让它对社会大有裨益。这也是我极力支持他们成功的原因。”
“他还表示,业绩指引未计入待批的出口许可证申请,并假设存在大量积压订单。”
“风险之一来自人们对AI的滥用,这是大部分风险,也是全部的短期风险。另一类风险则来自AI变得超级智能,并意识到它并不需要我们。”
“出口管制应在国家安全与确保我们的技术得到最广泛采用之间取得平衡。”
“所以你看,很大一部分工作就是让政府那只靴子从美国经济、美国科技产业和美国人民的脖子上挪开。”
“而AI增加了世界上的权力。如果你集中并滥用这种权力,它可能造成不可估量的损害。”
“埃隆·马斯克最近在宾夕法尼亚州为唐纳德·特朗普的总统竞选造势时,批评美国政府颁布了过多的规则和监管。但与他以往常抱怨的对象不同,他这次提到的是FDA和一种名为Welireg的抗癌药,而非火箭、电动汽车或卫星。”
“而随着时间推移,事实证明萨姆·奥尔特曼对安全的关注远不如对利润的关注。我认为这很不幸。”
“非常担心人工智能会取代大量平凡的工作”
“唐宁街的人咨询过我。我向他们建议,全民基本收入是个好主意。”
““并购市场一直受到阻碍,”他说,“这确实削弱了一些公司找到真正合适归宿的能力,而在那里它们本可以更有用、更有影响力。””
“我认为没有理由将AI与核武器相提并论。这是一个疯狂的类比。一个带来更多智能,帮助做出更好的决策,另一个则炸毁城市。这两者有什么关系?”
“吴恩达称该声明“令人遗憾”,并表示这一误导性信息扭曲了“监管者的想法”。”
“这些系统可能摆脱控制的方式之一,就是自己编写计算机代码来修改自身。这一点我们必须认真担忧。”
“我们在尝试设立董事会的方式上犯了很多错误,我也不能断言它一定成功了,但我确实相信,这种激进的实验至关重要。我们需要适应这个时代的新型治理方式和新型监督机制。”