“两个最直接的风险很可能是人们会利用AI发动非常复杂的网络攻击。一旦AI在网络攻击方面比人更强——而且很快就会比人更强——唯一的防御方式就是使用另一个AI。”
杰弗里·辛顿 谈监管与安全:11 条言论
杰弗里·辛顿 关于监管与安全 的 11 条公开表态,按时间排列。
“至少应该有一个类似FDA的机构,除非你说服它聊天机器人是安全的,否则不能发布。”
“我不是末日论者。我认为它有1%的概率会毁灭我们。”
““我想表达的是,确实存在发生某种非常严重事情的可能性。比方说,如果有人告诉你公交车有10%的几率会撞车,你不会上那辆车,”他说,“给出这些数字的意义在于说明这是一个严重的风险。我们不知道它有多严重,但它很严重。””
““AI 的独特问题在于,如果它出错,如果它接管了一切,你就没有第二次机会。我们不能说,‘好吧,那次我们输了,让我们重新来过。’不是这样的。””
““AI教父”杰弗里·辛顿表示,最终迫使人工智能受到有意义监管的,将是公众压力,而非仅靠立法者;他把这一动态比作气候变化……”
“风险之一来自人们对AI的滥用,这是大部分风险,也是全部的短期风险。另一类风险则来自AI变得超级智能,并意识到它并不需要我们。”
“而随着时间推移,事实证明萨姆·奥尔特曼对安全的关注远不如对利润的关注。我认为这很不幸。”
“非常担心人工智能会取代大量平凡的工作”
“唐宁街的人咨询过我。我向他们建议,全民基本收入是个好主意。”
“这些系统可能摆脱控制的方式之一,就是自己编写计算机代码来修改自身。这一点我们必须认真担忧。”