研究：用诗歌就能让AI说违禁内容，成功率达62%
2025-12-24 12:53:30 [休闲] 来源：中山市某某广告销售部
IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容常德市某某餐饮管理客服中心便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功常德市某某餐饮管理客服中心实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
(责任编辑：综合)
英超夺冠赔率：阿森纳、曼城前二，维拉升至并列第三
游客走进来 瓷、橙运出去 昌九高铁建设为江西发展注入新动力
搭配3C快充技术 广汽全新AION V有望7月23日上市
华为25亿卖出“问界”！释放了什么信号？推荐文章
-
据长安汽车，12月20日，首块L3级自动驾驶专用正式号牌“渝AD0001Z”在重庆诞生，由重庆市公安局交通管理总队正式授予长安汽车，标志着长安汽车率先开启L3级自动驾驶时代。 12月15日，工信
...[详细]
-
7月2日21时20分，岳阳水文水资源勘测中心发布《水情快报》：7月2日21时00分，汨罗江干流平江站出现73.81米的水位，退出保证水位74.00米）0.19米。点击进入专题： 南方多地遭暴雨侵袭
...[详细]
-
原标题：航行警告：钱塘江口进行实弹射击） 据中国海事局网站消息，浙江海事局发布航行警告，7月4日6时至7月5日22时，钱塘江口进行实弹射击，禁止驶入。
...[详细]
-
说起来，法国和比利时在小组赛里都是进2球丢1球最后排在小组第二，但舆论对两支球队的态度略有不同。对于法国，人们总觉得虽然进攻还没开刃，但总体来说还算平稳。毕竟德尚过去这几届大赛都是拿法拉利摆大巴的宗师
...[详细]
-
新华社北京12月22日电 美国和乌克兰方面21日各自发布几乎完全相同的声明，称双方代表团以及欧洲方面过去3天的一系列会谈“富有成效和建设性”。声明未显示各方会如何就结束乌克兰危机的分歧统一立场，被
...[详细]
-
受持续强降雨影响，湖南省岳阳市平江县中心城区多处内涝，城区水位破70年纪录。2024年7月2日凌晨，湖南武警某队救援人员开着搜救艇在城区搜救被困民众。中新社记者 杨华峰/视觉中国 图 7月1日2
...[详细]
-
来源：北京考试报 2024年北京市中招计划以下简称“中招计划”）发布。考生可登录北京教育考试院网站www.bjeea.cn），进入“中考中招”板块的“计划查询”栏目，查看中招计划。 中招计划是
...[详细]
-
巴勒斯坦加沙地带安全和卫生部门消息人士当地时间7月2日表示，以军当天袭击加沙地带多地，造成至少14人死亡。△加沙地带南部城市汗尤尼斯资料图） 消息人士说，以军轰炸加沙地带南部城市汗尤尼斯和拉法等
...[详细]
-
泡对养生、泡错伤身 泡温泉的正确方式你知道吗？2025-12-17 21:56:36 来源：央视新闻客户端
...[详细]
-
博士生，本是科研的主力军，却常自嘲为“科研民工”，1985年，国内博士生每生每月补贴仅为76元有工作经验加15元）。2017年两会前，时任清华大学副校长、中科院院士施一公提到：“这次考虑到物价等因素，
...[详细]
热点阅读