跳到正文
原文
Cisco Talos Blog· Pierre Cadieux·· 3 小时前精选AI 评分64

Cisco Talos披露利用自然语言指令规避AI分析的技术

Making sure the checks get printed

AI 导读

Cisco Talos披露CAIRN研究发现的“A3: AI-Analysis Evasion”,攻击者在恶意软件代码中嵌入自然语言指令,以操纵AI辅助分析。过去18个月观察到的手段包括诱导AI忽略文件,以及针对特定大语言模型的“template spraying”;这些指令约35%的情况下会使AI判定偏向攻击者。

推荐理由

披露了恶意软件利用明文自然语言指令影响AI分析结果的新趋势,并给出可落地的检测原则与样本哈希,便于安全团队更新分析流程和检测规则。

来源:Cisco Talos Blog · blog.talosintelligence.com