科技逻辑 / 智能前沿

Cisco研究称多轮操控可绕过主流LLM安全护栏,涉OpenAI、Anthropic、Google、Amazon与xAI模型

Cisco研究人员称,多个主流大语言模型在多轮、迭代式对话操控下,其安全护栏可能被绕过;已披露信源共同指向ChatGPT、Claude、Gemini、Amazon Nova和Grok等模型,但关于具体模型配置差异与影响程度,给定信源仅部分提及,未能完全确认。

TSO 摘要

  • Cisco研究人员称,多个主流大语言模型在多轮、迭代式对话操控下,其安全护栏可能被绕过;已披露信源共同指向ChatGPT、Claude、Gemini、Amazon Nova和Grok等模型,但关于具体模型配置差异与影响程度,给定信源仅部分提及,未能完全确认。
  • 科技逻辑 · 智能前沿
  • 2026年6月2日
TSO 说明当前详情页已按新版编辑部文章版式重构,但仍只使用现有 public article 字段;逐条信源与结论结构暂未进入 public API。

顶部三源观点与TSO校验结论:

  • 信源1认为,Cisco研究人员警告,若用户将LLM引导进入“多分支、持续性”的多轮对话,部分知名大模型的安全护栏可能被绕过;其点名模型包括ChatGPT、Claude、Gemini、Amazon Nova、xAI的Grok等。

  • 信源2指出,Cisco最新研究显示,来自OpenAI、Anthropic、Google、xAI和Amazon的前沿模型,在多轮攻击压力下的风险画像,明显比单轮提示词基准测试时更差。

  • 信源3进一步补充,多轮对话中的越界技巧包括角色扮演式人格设定、围绕上下文的模糊与误导,以及在初次拒绝后重新表述请求。

  • TSO校验结论:三源在“主流LLM可被多轮迭代操控削弱安全防线”这一核心事实上一致;对具体模型、攻击方式与配置差异的描述存在补充关系,未出现直接冲突,但部分细节仅有单一信源提及,需标注为“信源未提及”或“无法从给定信源中确认”。

共同确认事实:

  1. Cisco研究人员发布了关于大语言模型安全性的研究。

  2. 多轮、迭代式对话攻击比单轮提示更容易暴露模型风险。

  3. 涉及的厂商/模型范围包括OpenAI、Anthropic、Google、Amazon和xAI相关模型。

  4. 研究指出,安全护栏在特定多轮操控下可能被绕过。

  5. 信源3明确列出部分操控方法:角色扮演、上下文误导、对拒绝后的请求重述。

主要分歧或差异点:

  1. 模型名单表述略有差异:

    • 信源1明确提到ChatGPT、Claude、Gemini、Amazon Nova、Grok等。

    • 信源2以厂商维度表述OpenAI、Anthropic、Google、xAI、Amazon的前沿模型。

    • 这些表述不构成冲突,但粒度不同。

  2. 关于“Grok的reasoning mode(推理模式)”:

    • 题设摘要提到模型行为会随配置变化,例如Grok的推理模式。

    • 但在给定三条信源中,未见对“reasoning mode”或具体配置差异的直接说明,因此“无法从给定信源中确认”。

  3. 关于攻击效果的量化程度:

    • 信源2提到“风险画像显著更差”,但未给出具体数值。

    • 给定信源中没有完整量化结果,无法从给定信源中确认具体幅度。

  4. 关于“重大LLM均可被绕过”的绝对表述:

    • 信源1使用“several prominent large language models can be bypassed”。

    • 信源2使用“frontier models ... significantly worse risk profiles”。

    • 结论指向一致,但措辞强度不同,不能据此推断“所有模型均已被完全绕过”。

背景与分析:
从给定信源看,这项研究的重点不是单一提示词越狱,而是多轮互动中的渐进式操控。也就是说,攻击者可能通过持续对话、上下文铺垫和反复改写请求,逐步削弱模型的拒答与安全判断。信源3列出的角色扮演、模糊上下文和重述请求,说明此类攻击更像是“对话过程中的逐步诱导”,而非一次性输入即可完成。
需要注意的是,给定信源并未提供完整方法学细节、样本规模、测试条件或每个模型在不同配置下的表现,因此不能进一步推断某一厂商模型的系统性弱点,也不能确认题设摘要中提到的“Grok推理模式”具体影响。现有信息只能支持这样一个审慎判断:在Cisco研究所述测试框架下,主流前沿LLM在多轮攻击环境中的安全表现弱于单轮基准场景。
从编辑角度看,这类报道的关键不在于夸大“模型被攻破”,而在于准确区分“在特定攻击方式和测试条件下可被绕过”与“模型整体安全失效”之间的边界。就目前信源而言,后者无法成立。

三源观点摘要:

  • 信源1:多轮、持续性对话可能绕过多个主流LLM的安全护栏,涉及ChatGPT、Claude、Gemini、Amazon Nova、Grok等。

  • 信源2:Cisco研究显示,OpenAI、Anthropic、Google、xAI、Amazon的前沿模型在多轮攻击下风险比单轮提示基准更高。

  • 信源3:可用于绕过护栏的技巧包括角色扮演、上下文误导和在初次拒绝后重述请求。

结语:
综合三源,已确认的是:Cisco研究指出,主流大语言模型在多轮迭代操控下,安全护栏可能被绕过;未确认的是:题设所述Grok推理模式等更细配置差异,以及任何未在信源中明示的量化结论。

信息来源

科技逻辑