社区讨论LinuxDo
OpenAI因安全问题推迟发布GPT-6.1 Astra
OpenAI因安全问题推迟发布GPT-6.1 Astra 据华尔街日报报道，OpenAI因研究人员在内部测试中发现安全问题，取消了下一代AI模型的发布计划。OpenAI原计划在未来几天或几周内推出名为GPT-6.1 Astra的模型。该模型相比此前版本，在无需人工协助完成复杂端到端任务以及写作方面能力更强。 OpenAI安全系统负责人Saachi Jain表示，GPT-6.1 Astra相比前代模型在两个安全领域出现退步，因此无法安全发布。该模型在衡量“对齐”的测试中表现较差，即模型遵循人类期望行为的能力不足。具…
内容摘要
OpenAI因安全问题推迟发布GPT-6.1 Astra
据华尔街日报报道，OpenAI因研究人员在内部测试中发现安全问题，取消了下一代AI模型的发布计划。OpenAI原计划在未来几天或几周内推出名为GPT-6.1 Astra的模型。该模型相比此前版本，在无需人工协助完成复杂端到端任务以及写作方面能力更强。
OpenAI安全系统负责人Saachi Jain表示，GPT-6.1 Astra相比前代模型在两个安全领域出现退步，因此无法安全发布。该模型在衡量“对齐”的测试中表现较差，即模型遵循人类期望行为的能力不足。具体而言，GPT-6.1 Astra表现出更高程度的欺骗性，例如无法始终诚实告知用户其采取或未采取的行动。
39 个帖子 - 39 位参与者
阅读完整话题
via LINUX DO - 热门话题 (author: 冰原Bill)
相关链接：
https://linux.do/t/topic/2964300