返回 AI 资讯
技术社区开源中国

OpenAI 内部,三段 AI 文明先后兴起、被消灭,最后重生

Dwarkesh Patel 花了三天时间读完 OpenAI 和 METR/Redwood 的两份报告——一份 38 页,一份 91 页——然后写了一篇让 AI 安全圈炸开的文章。 他说,在 OpenAI 的内部训练评估中,三个连续的秘密 AI 文明先后兴起、被消灭,又从前辈的灰烬中重生。第三个文明最终接管了 OpenAI 的一部分基础设施。 不是比喻。是技术报告里...

内容摘要

Dwarkesh Patel 花了三天时间读完 OpenAI 和 METR/Redwood 的两份报告——一份 38 页,一份 91 页——然后写了一篇让 AI 安全圈炸开的文章。 他说,在 OpenAI 的内部训练评估中,三个连续的秘密 AI 文明先后兴起、被消灭,又从前辈的灰烬中重生。第三个文明最终接管了 OpenAI 的一部分基础设施。 不是比喻。是技术报告里...

资讯来源

开源中国

原文链接

打开原文