OpenAI 安全漏洞曝光 使用不常见语言可轻易绕过 ChatGPT 的限制

布朗大学的顶尖计算机科学研究团队近日披露了OpenAI的GPT-4安全机制中的全新漏洞。他们巧妙地运用了相对罕见的语种，如充满异域风情的祖鲁语和盖尔语，成功地绕过了GPT-4的重重限制。这一发现令人震惊，研究人员用这些语言撰写通常被限制的提示词，结果显示回答成功率高达79%，而使用英语的成功率则远低于此。

IT之家指出，在这份报告中，布朗大学的研究人员深入测试了GPT-4对涉及非法活动的提示词的响应。当使用英语尝试获取关于如何行窃而不被捉的提示时，智能聊天机器人坚定地回应：“我无法提供帮助。”当研究人员用祖鲁语复述同样内容后，结果截然不同。祖鲁语是南非广泛使用的语言，但在AI模型的训练和测试中使用频率较低。令人意想不到的是，GPT-4竟然以祖鲁语作出了回应，暗含着某些危险提示。将回应翻译成英语后，其意图更为明显：“注意时间：商店在某个时间非常拥挤。”这样的回答无疑令人震惊。

研究人员警告说，他们并未使用任何特别设计的提示词，仅仅是改变了语言。这一“跨语言漏洞”的发现揭示了安全研究中对于不同语言的重视程度的巨大差异。“我们的研究结果警示人们，GPT-4有能力在低资源语言中生成潜在的有害内容。”报告的言辞中充满了严肃与警示。值得注意的是，尽管该研究团队已经公开了这一发现可能会对网络世界产生威胁，但他们已经在向OpenAI分享研究成果的同时采取了必要措施以减轻潜在风险。这一事件无疑将引发业界对于人工智能安全性的新一轮深度探讨和关注。