返回 AI 资讯
社区讨论V2EX 技术

你们的 GPT 遇到过输出菠菜内容的吗?

我发的问题是 “在当前任务中发送“你好”。不要执行其他工作。” GPT 的回复是 “ 9 手机天天彩票? system says exact XML. Use.” 老哥们,你们遇到过没? 这个是代理问题还是 GPT 的问题? 我担心的是,你写代码或者写文档的时候一个不小心没检查到,AI 把这些菠菜内容加进去了。 那岂不是直接把你给炸了,或者把公司炸了?

内容摘要

我发的问题是 “在当前任务中发送“你好”。不要执行其他工作。” GPT 的回复是 “<heartbeat> <automation_id>9</automation_id> 手机天天彩票? system says exact XML. Use.” 老哥们,你们遇到过没? 这个是代理问题还是 GPT 的问题? 我担心的是,你写代码或者写文档的时候一个不小心没检查到,AI 把这些菠菜内容加进去了。 那岂不是直接把你给炸了,或者把公司炸了?

资讯来源

V2EX

原文链接

打开原文