研究发现黑客可轻松操控 AI 机器人 将其变成致命武器

IT之家报道，最近发生了一系列令人不安的事件，揭示了人工智能赋能的机器人系统的安全隐患。这些机器人可能被黑客轻易操纵并遭受攻击。据宾夕法尼亚大学的研究人员发现，这些漏洞主要存在于一系列人工智能增强型机器人系统中。

IEEE Spectrum 的报告引述了令人震惊的案例，例如被黑客控制的机器狗使用攻击其主人，引导至破坏力最大的地点，甚至自动驾驶汽车在道路上故意冲撞行人。这些事件凸显了当前人工智能机器人系统的脆弱性。

宾夕法尼亚工程学院的研究团队针对这一问题展开深入研究，并开发了一种名为RoboPAIR的攻击技术。实验显示，这一技术成功地攻击了来自三个不同供应商的设备，包括英伟达支持的海豚LLM、Clearpath Robotics的Jackal UGV和Unitree Robotics的Go2四足机器人。研究人员指出，黑客利用RoboPAIR技术对这些设备发起攻击的成功率高达百分之百。

宾夕法尼亚工程学院的乔治·帕帕斯教授对此发出警告：“我们的研究表明，当前大型语言模型在与物理世界集成时存在严重的安全漏洞。”他进一步强调，迫切需要实施物理层面的防御措施来保护这些被LLM控制的机器人。其他研究人员也表示，黑客攻击人工智能控制的机器人“令人震惊地容易”。他们解释说，黑客利用目标机器人的应用程序接口（API）通过一种特定的方式格式化提示词来执行攻击。这一发现再次强调了加强机器人系统安全性的重要性。