“近期由AI智能体实施的黑客攻击是“早期预警信号”,如果不让系统变得更加安全,世界很快可能面临重大事件。”
“谷歌 DeepMind 首席执行官德米斯·哈萨比斯警告称,近期由人工智能驱动的黑客攻击事件只是早期预警信号,他呼吁随着 AI 能力的提升,应加强安全措施并建立国际标准。”
““我认为AI不会给人类带来任何实质性的生存风险。因此,那些旨在防范人类生存风险的努力似乎没有必要。””
““少数企业打着编造的安全理由大力游说,推动监管者通过糟糕的法规来扼杀竞争,其力度之大令人震惊。””
““我想表达的是,确实存在发生某种非常严重事情的可能性。比方说,如果有人告诉你公交车有10%的几率会撞车,你不会上那辆车,”他说,“给出这些数字的意义在于说明这是一个严重的风险。我们不知道它有多严重,但它很严重。””
““AI 的独特问题在于,如果它出错,如果它接管了一切,你就没有第二次机会。我们不能说,‘好吧,那次我们输了,让我们重新来过。’不是这样的。””
““AI教父”杰弗里·辛顿表示,最终迫使人工智能受到有意义监管的,将是公众压力,而非仅靠立法者;他把这一动态比作气候变化……”
““但除此之外,我现在关注的是全球政策。与各国政府的对接很重要,因为有很多事情我们正试图推动或倡导改变。这方面有大量工作,我正在做这些,并以约翰认为合适的任何方式帮助他。我没有插手。我不是爱插手的人。””
“为了这项技术带来的益处,应该接受一些负面事件的发生。”
“这些是我们、也是任何开发这项技术的人所面临的最棘手的问题。你知道,我们该不该把人们的私人数据以及他们最艰难的一些时刻交给研究人员?我认为,未经他们同意,大概不应该。或者我应该说,未经他们同意就不应该。”
“多尔西周六表示,印度政府已命令苹果将 Bitchat 从该国 App Store 下架。”
“我们不再对项目合作的政府机构使用保密协议。”
“如果这些措施得以实施,美国可能在这场竞赛中写下自己的败局,后果将持续几代人。作为一个国家,我们不能让自己陷入那种境地。”
“我对人们试图把宗教力量或对人类判断力的让渡赋予AI模型感到非常不安,并认为这是一个真实的安全问题。”
“不幸的是,反AI正在成为一个两党共同关注的问题。”
“说“AI能把我们全杀了”这种话,对所有人都具有极大的破坏性,包括那些被吓得魂飞魄散的公众。”
“勒昆表示,许多从事AI安全工作的人“通常都有自己要推动的议程”,随后他澄清,自己指的是有效利他主义(EA)。”
“门施表示,需要对人工智能系统进行严格监控,以免智能体失控。”
“我们在美国看到的这场辩论,掩盖了我们一些竞争对手的失职行为。”
“首席执行官黄仁勋正在更明确地划定人工智能安全的界限,他认为企业不应部署自己无法可靠控制的系统,如果其实验……实验室就应彻底关闭。”