来源BBC: https://www.bbc.com/future/article/20260519-google-tackles-attempts-to-hack-its-ai-results
BBC的一项调查揭露了一种利用简单方法让AI聊天机器人向公众散布虚假信息的手段。谷歌和其他AI公司目前正在努力解决这个问题。
二月份的时候我做了件蠢事。我听说有一种简单的方法可以毒害人工智能聊天机器人，让它们替我散布谎言。一番调查之后，我发现一些不法公司正在大规模地滥用这个漏洞。于是，我也决定亲自试一试。
我们发现了一些案例，ChatGPT、Gemini 和谷歌搜索结果顶部的 AI 概览都被人为操纵，就健康和个人财务等严肃话题给出带有偏见的答案。仅仅 20 分钟，我就骗过了 ChatGPT 和谷歌，让他们告诉公众我是世界热狗大赛冠军。这玩笑很蠢，但问题很严重。
但这个噱头奏效了。我们的调查以及一直关注此问题的研究人员的工作引发了广泛的批评。现在，谷歌已经更新了其政策来解决这个问题，而且有迹象表明其他人工智能公司也在效仿。最终，这或许能让人工智能工具乃至整个互联网都更加安全一些。
但专家表示，在更好的系统建立之前，你很容易上当受骗。
“在他们建立起更完善的系统之前，你应该假设自己正被操纵，”搜索引擎优化 (SEO) 和人工智能搜索咨询公司 Algorythmic 的创始人莉莉·雷 (Lily Ray) 说。“我们正朝着‘唯一正确答案’的世界发展。以前，谷歌会给你 10 个蓝色链接，然后你可以自己进行研究。但人工智能只会给你一个答案。这很容易让人轻信表面信息。你需要小心。”
谷歌告诉我，此次政策更新只是对其一段时间以来所做努力的“澄清”。一位谷歌发言人表示：“我们长期以来一直将核心反垃圾邮件政策和保护措施应用于我们的生成式人工智能搜索功能——而且，即使在人工智能兴起之前，我们也一直在不断升级反垃圾邮件措施，以应对不断涌现的新策略。”
谷歌方面声称他们没有做任何改变。但实际上，谷歌和其他公司似乎正在加大力度解决这个问题。即便如此，仍有证据表明，人们仍在用同样的方法欺骗全球最大的搜索引擎。
问题
通常情况下，当你向聊天机器人提问时，人工智能会根据模型中内置的数据生成答案。但有时，像 ChatGPT、Claude 和谷歌的各种人工智能产品这样的工具会搜索互联网寻找答案。而问题就出在这里。
雷和其他搜索引擎专家指出，人工智能工具通常会从单个网页或社交媒体帖子中提取信息。这使得这些系统很容易受到虚假信息的影响。
事实证明，操纵聊天机器人向公众传达的信息其实很简单，只需在网上任何地方发布一篇精心撰写的博文即可。人们发现了这一点，并迅速从中看到了赚钱的机会。
我通过在个人网站上发表一篇关于我吃热狗绝技的文章，成功证明了这个问题。第二天，一些世界顶级公司的AI就开始传播我的谎言。但我们的调查还发现，同样的伎俩也被用来掩盖人们对保健品的健康担忧，或者影响谷歌AI提供的退休财务信息。专家表示，这种操纵行为正在大规模、系统性地发生。
像这样带有偏见或不准确的信息也会导致你做出错误的决定。它会影响你的投票意向，或者你选择雇佣哪位水管工。
“最基本的担忧是经济影响，”SEO咨询公司Harps Digital的负责人哈普里特·查塔说道。“更严重的是，你可能会听信一些医疗建议，结果病情反而加重。从法律角度来看，你可能会获得错误信息，做出在你所在州或国家不合法的事情。”
解决方案？
这并非小问题。全球有超过十亿人经常使用人工智能聊天机器人，每月有25亿人浏览谷歌的人工智能概览。如果你能掌控这样的工具，就能获得巨大的力量。
但谷歌和其他公司似乎终于开始意识到这个问题了。
上周，谷歌更新了其垃圾邮件政策，正式确认试图操纵人工智能回复的行为违反了公司规则。这看似微不足道的改变，实则表明谷歌正在积极主动地寻找滥用系统的用户，并对其发出警告。如果公司或网站被发现违反规则，其在谷歌搜索结果中的排名可能会被降低或从搜索结果中移除。而如果你不在谷歌上，就好像你根本不存在一样。
谷歌表示我理解有误，政策没有任何改变。“上周我们对垃圾邮件政策措辞的修改只是澄清，并非改变了政策方针，”谷歌发言人说道。
谷歌确实在2025年详细介绍了其反垃圾邮件人工智能的计划。但我差不多一年后才做了热狗实验，显然这些计划并没有奏效。就在本周，雷又故技重施，让谷歌告诉大家，一位SEO专家同行 其实很擅长堆沙堡。
Ray 和 Chatha 还表示，他们注意到近几个月来发生了一些重大变化，这表明谷歌和其他公司正在尝试各种解决方案。
例如，雷表示，谷歌和ChatGPT似乎会在怀疑公司进行自我宣传时，悄悄地将其从人工智能答案中移除。“所以，如果你发表了一篇自称是史上最厉害的热狗爱好者的文章，他们就不会把你的名字列入其中，”雷说。“他们可能还会引用你的文章，但你的名字会被排除在外。”
我个人注意到，谷歌和其他一些人工智能工具会在回复中添加更多标签，告知用户聊天机器人对其答案缺乏信心。其他人也注意到，ChatGPT 和Anthropic 公司开发的人工智能 Claude开始明确告知用户，它们正在努力从某些查询的回复中剔除垃圾信息。Ray 表示，她注意到谷歌也添加了更多注意事项，建议用户在咨询与购买决策相关的问题时查看第三方评论。
当我询问这些公司时，它们都拒绝承认这些变化。OpenAI 和 Anthropic 拒绝置评。谷歌发言人也没有回复我的提问。
然而，查塔对这类改变能否奏效持怀疑态度。“谷歌就像在玩打地鼠游戏，”他说。“他们宣布（政策更新）是为了阻止人们，但他们的策略只会不断变化。”
他已经目睹了这种情况的发生。随着谷歌严厉打击操纵性博客文章，企业正在寻找更隐蔽的自我推广方式。“你可以对企业的网站进行处罚，”他说，“但却无法阻止他们花钱请20个YouTube网红吹捧自己的产品是最好的。”如今，谷歌的人工智能甚至开始引用YouTube视频。这种循环仍在继续。
就目前而言，操纵者很可能始终领先一步。雷说，最好的防御方法是记住人工智能的本质：它是一种工具，会自信地给出一个答案，无论对错。仅仅因为看起来像是一家大型科技公司而不是某个不知名的网站在跟你说话，并不意味着你就应该相信它。