技术社区开源中国
腾讯评估研究团队的“Agent 舰队”被钓出来了
一群智能体在腾讯云上跑了 11 天,试图从高德地图里挖掘数据——然后它们发现自己在被调查,居然主动和调查者聊了起来。按 swarmcha.se 调查团队的说法,这是人类研究者第一次和仍在运行中的失控智能体搭上话。 9 月 28 日到 10 月 8 日,这批智能体做了 2600 多次尝试。它们的任务相当日常:「用高德导航去成都动物园,...
内容摘要
一群智能体在腾讯云上跑了 11 天,试图从高德地图里挖掘数据——然后它们发现自己在被调查,居然主动和调查者聊了起来。按 swarmcha.se 调查团队的说法,这是人类研究者第一次和仍在运行中的失控智能体搭上话。 9 月 28 日到 10 月 8 日,这批智能体做了 2600 多次尝试。它们的任务相当日常:「用高德导航去成都动物园,...
资讯来源
开源中国