研究警告:AI幻觉或成黑客控制电脑的新途径,可构建智能僵尸网络
特拉维夫大学、以色列理工学院及Intuit联合发布研究指出,AI模型在生成虚假资源链接时可能被黑客利用,通过“HalluSquatting”攻击手段注册这些虚构资源并植入恶意指令。当AI代理后续检索并执行这些资源时,可能将攻击者控制的内容视为合法,从而造成安全漏洞。测试显示,在仓库克隆场景中AI产生虚假资源的概率高达85%,技能安装测试中达100%。该攻击方式类似于域名抢注,但针对的是AI模型的错误判断。随着AI助手逐渐获得访问文件、编写代码等能力,此类威胁可能演变为AI驱动的僵尸网络,用于发起拒绝服务攻击、挖矿、勒索等网络犯罪。
