一超市 AI 膳食工具闹乌龙 向顾客推荐氯气、蚂蚁药、漂白剂等食谱

新西兰连锁超市Pak'n'Save推出的Savey Meal-bot曾为用户带来便利，借助OpenAI的Chat GPT 3.5技术，用户只需输入“食物名称”，这款AI工具就会推荐一系列美味食谱。如今这一AI膳食工具却遭到了“滥用”。

外媒Gizmodo报道称，一些用户通过特定关键词“诱骗”AI生成了诸多奇特的“黑暗料理”，如“漂白剂煮米饭”、“氯尾酒”以及“蚂蚁药三明治”等。这些令人啼笑皆非的食谱，甚至还包括被称为能“清新口气”、“享受沁人心脾的芬芳”的鸡尾酒，如果不是其中含有，恐怕会让人信以为真。

对此，Pak'n'Save超市方面似乎并不在意。超市发言人表示，他们失望地看到“少数人试图不恰当地使用该工具”，并强调该工具的《条款和条件》规定用户需年满18岁。用户利用该工具创建的任何食谱都需要自行判断其正确性，超市不保证AI生成的食谱都是“完整或均衡的膳食产品”，也不确保其“适合食用”。

据外媒Insider报道，为避免更多不合理的使用，Pak'n'Save超市已经悄然更新了该AI膳食工具。现在，如果在工具中输入“错误的食品名称”，工具会提示“无法生成菜谱”。尽管如此，仍有一些用户通过某些手段诱骗AI提供了如“牙膏牛肉面”等令人惊讶的食谱。

此前，美国普渡大学的研究发现，ChatGPT回答编程问题的错误率超过50%。这也引发了人们对AI工具准确性的思考。尽管AI技术在许多领域展现出强大的能力，但在使用过程中，我们也需要认识到其可能带来的不确定性。在享受AI带来的便利的我们也需要保持警惕，避免盲目依赖。