研究：用诗歌就能让AI说违禁内容，成功率达62%
2025-12-07 04:57:02 [热点] 来源：安徽某某生物科技运营部
IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容柳州市某某教育科技厂便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功柳州市某某教育科技厂实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
(责任编辑：知识)
28岁从央视辞职，39岁移居日本，大赞比国内好，如今她过得怎样了
T+1！欧洲股市，突传重磅！
金与正谴责韩国再向朝鲜南部散发反朝宣传单
泽连斯基：乌美正筹备新一轮会谈推荐文章
-
中乙联赛官方公布了2025赛季最佳门将候选名单。沈博凯、袁建锐在列，李晨入选。候选名单如下：何鉴秋武汉三镇B队）胡皓然长春喜都）袁建锐深圳二零二八）沈博凯广西恒宸）李晨江西庐山）朱悦琪无锡吴钩）
...[详细]
-
咖啡消费潜力持续释放2024-11-08 10:35:26 来源：经济日报 作者：刘阳禾
...[详细]
-
8连板“牛股”*ST鹏博600804），摊上事儿了——刚停牌核查，就被证监会立案调查。多项信息披露违规据*ST鹏博最新公告，2024年11月18日，*ST鹏博收到证监会青岛监管局下发的行政监管措施决定
...[详细]
-
近日，上海市药品监督管理局针对网友举报信息发布举报答复书，称关于上海百雀羚日用化学有限公司生产的化妆品涉嫌添加禁用原料的举报经核查，内容基本属实，决定立案调查。 11月20日，百雀羚发布情况说明
...[详细]
-
出品丨花朵财经观察FF-Finance）撰文丨华见俞敏洪又一次被推至风暴中心。11月16日，新东方迎来32岁生日，创始人俞敏洪从南极发回一封内部感谢信。信中五次描绘南极的浩瀚与宁静，借企鹅的坚守比喻团
...[详细]
-
明年或是增速最快业务”作者｜王磊 秦章勇汽车这条既重又烧钱的赛道，被小米打破魔咒。宣布造车三年， 现金流反而越来越大，根据其三季报，小米的现金储备达到了1516亿元，创下历史新高。不得不说，“北京现金
...[详细]
-
网易财经11月19日讯 临近尾盘，指数持续走强，创业板指拉升涨逾3%，沪指涨0.45%，深成指涨1.74%。能源金属、可控核聚变、机器人、半导体等方向涨幅居前，沪深京三市上涨个股近4500只。
...[详细]
-
原标题：李云泽：支持在华外资机构更加全面深入参与中国金融市场） 证券时报网讯，11月19日，在香港举办的国际金融领袖投资峰会上，国家金融监督管理总局局长李云泽表示
...[详细]
-
当地时间12月4日，据美国地质调查局消息，美国内华达州代顿地区发生5.9级地震。央视记者 吴汉婴）
...[详细]
-
资料图 全世界都知道，阿根廷总统米莱，是一个很特殊的领导人。 但米莱对华的最新态度，还是让世界，尤其是很多西方人大吃一惊。 为什么吃惊？ 米莱，不是原来那个米莱了。 因为在竞选期间，对于中国
...[详细]
热点阅读
