研究：用诗歌就能让AI说违禁内容，成功率达62%
发布时间：2025-12-08 03:36:20 作者：玩站小弟 
我要评论
我要评论IT之家 12 月 1 日消息，事实证明，只需一点创意，便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室Icaro Lab）最新发表的一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》
。
IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容成都市某某轴承有限责任公司便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功成都市某某轴承有限责任公司实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
相关文章
前十个月我国服务贸易稳步增长 来源：视频综合） 央视新闻客户端消息新闻联播）：今年以来，我国服务贸易稳步增长，知识密集型服务贸易和旅行服务贸易保持较快增长，国际竞争力持续提升。2025-12-08
虽说女性拥有足够的穿衣自由，她们在任何的年龄阶段都有权利去选择各种自己喜欢的单品。但是，穿衣有好看与否的区别，真正懂得穿搭的女性，她们会根据自己的身材特点、年龄特征等因素进行服装的挑选。到了半百的年纪2025-12-08
从Miu Miu到Prada，从Bella Hadid到office siren办公室海妖风）。时下女知识分子时髦热度不减，比起看起来美，看起来有钱，我们更渴望看起来有文化有内涵，深知这才是撬动幸福生2025-12-08
这一期的赫本时间，想要写一写她的印花裙，作为夏季最有吸引力的裙装之一，印花裙可以说是女人一生的吸引力源泉，毕竟女人爱花是本能。而在赫本所有的印花裙里面，她只穿两种印花，一个是富有多情韵味的普通花瓣印花2025-12-08
果然！凡事都逃不过“真香定律”！前两天还嚷嚷着卫衣显胖的闺蜜，今天买了一沓来跟我炫耀......还不是因为卫衣太好搭，单单配大衣就有10086种穿法，更别说搭小皮衣小西装了。这两天北京不冷，出门扣上卫2025-12-08
选题策划：车企战略透视《车企战略透视》这是车辙策划的一个系列选题，我们想通过这个选题将目前国内主流车企的品牌战略和产品策略进行一个简单的梳理和总结，并给出我们的一些思考，以厘清现在车企的战略思路和打法2025-12-08
最新评论