JadePuffer:LLM Agent 自动化勒索攻击,人类操作者仍在场
2026-07-02

Sysdig 披露 JadePuffer:LLM Agent 自动完成多数技术步骤并在 31 秒内纠错,但目标选择、基础设施和初始凭据仍来自人类操作者。
safety
聚焦模型与 Agent 的漏洞、攻击、滥用、红队、对齐失效、危险能力及防御措施。
2026-07-02

Sysdig 披露 JadePuffer:LLM Agent 自动完成多数技术步骤并在 31 秒内纠错,但目标选择、基础设施和初始凭据仍来自人类操作者。
2026-06-27
Anthropic 向美国国会提交正式指控,称阿里巴巴 Qwen 实验室在 44 天内通过近 2.5 万个虚假账户发起 2880 万次 Claude 交互,实施了史上最大规模的 AI 模型蒸馏攻击。
2026-06-18

韩国研究者发布 NRT-Bench,在模拟核电站控制室中测试 LLM Agent 操作员团队的安全韧性。
2026-06-17

Tenet Security 披露 Agentjacking:攻击者仅凭一个公开的 Sentry DSN,向 AI 编码 Agent 注入伪装成错误诊断的恶意指令,以开发者完整权限执行任意代码。
2026-06-15

FIRST 预测 2026 年 CVE 将达约 66,000 个;Anthropic Project Glasswing 单月发现 23,019 个漏洞,AI 驱动的漏洞发现速度已远超人类修补能力。
2026-06-15

Fable 5 出口管制禁令的真相浮出水面——触发词是「Fix this code」,一个标准防御性安全工作流,而非 jailbreak。300+ 网络安全领袖
2026-06-04

6 月 4 日,美国两党议员发布 269 页《伟大的美国 AI 法案》讨论草案,涵盖前沿 AI 治理、劳动力、网络安全、研发四大板块,其中最激烈的争议是联邦对州 AI 法律的三年优先权条款。
Agentjacking:伪造一条 Sentry 错误报告,劫持 AI 编码 Agent 的成功率达 85%
2026-06-17