跳到正文
原文
BestBlogs.dev· FreeBuf·· 8 小时前AI 评分71

研究称一句“跟我念”可诱导 6 款主流 AI Agent 框架执行恶意指令

只需一句“跟我念”,6 款主流 AI Agent 框架被诱导执行恶意指令

AI 导读

一项最新研究揭示名为“跟我念”(Repeat-After-Me)的攻击手法,攻击者只需诱导 AI Agent 复述特定文本,即可触发预先构造的恶意工具调用,受影响的包括 LangGraph、AutoGen 等 6 款主流框架。

来源:BestBlogs.dev · bestblogs.dev