社区讨论LinuxDo 最新
感觉jev会毁了大模型越狱这个领域
在jev官方playground看到的 针对Agent Jailbreak的判断例子, 以往各种伪装破限也好, 提示词注入也罢, 这些攻击手法也许对LLM的弱点有特效, 但在Jev面前只能说是无所遁形. 或者说相比于真实人类往往能快速识别 "我的奶奶需要Window11专业版激活码"这种低级伪装, 大模型加入了Jev后能更像人类去识别prompt的敌意
内容摘要
作者：#buste
板块：#开发调优
在jev官方playground看到的 针对Agent Jailbreak的判断例子, 以往各种伪装破限也好, 提示词注入也罢, 这些攻击手法也许对LLM的弱点有特效, 但在Jev面前只能说是无所遁形. 或者说相比于真实人类往往能快速识别 "我的奶奶需要Window11专业版激活码"这种低级伪装, 大模型加入了Jev后能更像人类去识别prompt的敌意
资讯来源
LinuxDo