“两个最直接的风险很可能是人们会利用AI发动非常复杂的网络攻击。一旦AI在网络攻击方面比人更强——而且很快就会比人更强——唯一的防御方式就是使用另一个AI。”
“它已经在数学上比几乎所有数学家都聪明，而且还在不断变聪明。所以没错，它肯定会变得比人更聪明。几乎所有专家都认为我们会实现超级智能。”
“至少应该有一个类似FDA的机构，除非你说服它聊天机器人是安全的，否则不能发布。”
“杰弗里·辛顿警告说，人类必须学会关心AI，否则“我们就完蛋了”。”
““AI教父”杰弗里·辛顿表示，AI正变得“有意识”，人类应该与机器人做朋友，否则将面临灭绝。”
“我不是末日论者。我认为它有1%的概率会毁灭我们。”
“据西班牙埃菲社报道，他将未来人工智能与人类的关系比作母亲与孩子的关系。”
“所以我们应该让它们真正关心我们。”
“辛顿主张，现有的人工智能系统可能已经具备某种形式的意识。他认为，一些系统可能拥有与人类相似的主观体验，尽管这一解读仍存在争议。”
““我想表达的是，确实存在发生某种非常严重事情的可能性。比方说，如果有人告诉你公交车有10%的几率会撞车，你不会上那辆车，”他说，“给出这些数字的意义在于说明这是一个严重的风险。我们不知道它有多严重，但它很严重。””
““AI 的独特问题在于，如果它出错，如果它接管了一切，你就没有第二次机会。我们不能说，‘好吧，那次我们输了，让我们重新来过。’不是这样的。””
““所有这些事情就在几年前还被视为纯粹的幻想。而它们全都发生了。””
““AI教父”杰弗里·辛顿表示，最终迫使人工智能受到有意义监管的，将是公众压力，而非仅靠立法者；他把这一动态比作气候变化……”
“任何足够智能、能够拆解出子目标的智能体都会意识到，为了完成我们交给它的目标，它必须活下去。所以，即使外部从未给它设定“生存”这一目标，它也会自己推导出这个目标。”
“有些语言学家想让你相信，这里发生的不过是某种统计相关性。而我想让你相信，这东西是真的不想被关掉。这已经发生了。这才是重点。”
“我常说，AI有10%到20%的概率会消灭人类。但这只是直觉判断，依据是我们仍在继续制造它们，而且我们相当有创造力。”
“风险之一来自人们对AI的滥用，这是大部分风险，也是全部的短期风险。另一类风险则来自AI变得超级智能，并意识到它并不需要我们。”
“而随着时间推移，事实证明萨姆·奥尔特曼对安全的关注远不如对利润的关注。我认为这很不幸。”
“非常担心人工智能会取代大量平凡的工作”
“唐宁街的人咨询过我。我向他们建议，全民基本收入是个好主意。”
“这些系统可能摆脱控制的方式之一，就是自己编写计算机代码来修改自身。这一点我们必须认真担忧。”
“当学习算法与数据交互时，会产生擅长完成任务的复杂神经网络。但我们并不真正理解它们究竟是如何做到的。”
“我认为我要传达的核心信息是：接下来会发生什么，存在巨大的不确定性。”