“勒昆所说的世界模型,是一种能够预测现实世界事物的模型。它能预测事物未来如何运动,以及会给现实世界带来怎样的变化。他认为这才是关键所在。”
“扬·勒昆表示,这种说法完全没有科学依据,这样的世界出现的可能性极低。”
“换句话说,某个事物是否危险与它的智能水平无关,这是勒昆的论点。”
“那些智能体完全是在按照被要求的方式行事。它们本应被限制在沙箱里,但那些沙箱漏洞百出、设计得一塌糊涂。”
“说“AI能把我们全杀了”这种话,对所有人都具有极大的破坏性,包括那些被吓得魂飞魄散的公众。”
“勒昆表示,许多从事AI安全工作的人“通常都有自己要推动的议程”,随后他澄清,自己指的是有效利他主义(EA)。”
“这家初创公司的目标是带来人工智能的下一次重大革命:能够理解物理世界、拥有持久记忆、可以推理并规划复杂行动序列的系统。”
“在一个独立实体中推进AMI目标,是将其广泛影响最大化的方式。”
“恕我直言,这完全是胡说八道。”
“你可以玩弄语言,却并不聪明”
“我认为,专有 AI 系统带来的权力集中危险,比其它一切危险都大得多。”
“我相信人性本善,因此如果 AI——尤其是开源 AI——能让人更聪明,它只会放大人类善良的一面。”
“LLM 这些能力一个都做不到,或者只能以非常原始的方式做到;它们并不真正理解物理世界。它们没有真正的持久记忆,不能真正推理,更肯定无法规划。”