Cisco Talos Blog· Pierre Cadieux·· 3 小时前精选AI 评分64
Cisco Talos披露利用自然语言指令规避AI分析的技术
Making sure the checks get printed
AI 导读
Cisco Talos披露CAIRN研究发现的“A3: AI-Analysis Evasion”,攻击者在恶意软件代码中嵌入自然语言指令,以操纵AI辅助分析。过去18个月观察到的手段包括诱导AI忽略文件,以及针对特定大语言模型的“template spraying”;这些指令约35%的情况下会使AI判定偏向攻击者。
推荐理由
披露了恶意软件利用明文自然语言指令影响AI分析结果的新趋势,并给出可落地的检测原则与样本哈希,便于安全团队更新分析流程和检测规则。
来源:Cisco Talos Blog · blog.talosintelligence.com