“任何足够智能、能够拆解出子目标的智能体都会意识到，为了完成我们交给它的目标，它必须活下去。所以，即使外部从未给它设定“生存”这一目标，它也会自己推导出这个目标。”
2026-04-10
2 条发言
“有些语言学家想让你相信，这里发生的不过是某种统计相关性。而我想让你相信，这东西是真的不想被关掉。这已经发生了。这才是重点。”
2 条发言
“任何足够智能、能够拆解出子目标的智能体都会意识到，为了完成我们交给它的目标，它必须活下去。所以，即使外部从未给它设定“生存”这一目标，它也会自己推导出这个目标。”
“有些语言学家想让你相信，这里发生的不过是某种统计相关性。而我想让你相信，这东西是真的不想被关掉。这已经发生了。这才是重点。”