UK AI Security Institute

聊天机器人是在告知还是误导选民？

Do chatbots inform or misinform voters?

二〇二六年五月十四日 · 英文原文

摘要

英国AI安全研究所（AISI）发布一项针对2024年英国大选期间AI聊天机器人对选民影响的大规模实证研究。通过对2,499名英国成年人的调查发现，约13%的合格选民使用AI聊天机器人搜索选举相关信息。在2,858名参与者进行的随机对照试验中，使用聊天机器人研究政治议题（移民、气候变化、刑事司法改革、疫苗）后，参与者对真实信息的信念提升、对虚假信息的信念下降，效果与传统搜索引擎相当。研究未发现聊天机器人导致政治知识退化的证据。

聊天机器人是在为选民提供信息还是误导选民？| AISI 工作

请启用本网站的 JavaScript。

聊天机器人是在为选民提供信息还是误导选民？

我们从一项关于 AI 用于政治信息搜索的大规模实证研究中得到的发现。

—

2025 年 9 月 30 日

阅读论文

AI 系统在信息搜索中的广泛采用引发了人们对其对民主潜在影响的担忧。许多人担心，有偏见或"幻觉"的输出可能会误导选民或扭曲公众舆论。但关于这些担忧是否合理，此前几乎没有实证证据。

我们的新论文试图填补这一空白。我们研究了英国人是否使用 AI 来获取政治和时事信息，并测试了这样做如何影响他们对关键议题的了解。

我们发现，去年夏天英国大选期间，大约八分之一的选民转向 AI 聊天机器人寻求答案。但尽管存在广泛担忧，我们几乎没有发现证据表明对话式 AI 会让人们变得更不了解情况。事实上，使用聊天机器人查询政治议题的人变得更了解情况，其程度与使用传统搜索引擎的人大致相同。

为何重要

与提供多样化信息来源列表的搜索引擎不同，AI 聊天机器人会给出一个单一、流畅的答案。这些答案可能有用，但聊天机器人也经常产生不正确或误导性的输出。许多人担心，随着选民越来越多地使用 AI 而非搜索引擎，他们最终可能对时事或政治议题形成更狭隘或不可靠的看法。

在选举期间，风险尤其高，因为人们消费的信息可能会影响他们的投票选择。如果聊天机器人大规模传播错误信息或政治偏见，广泛使用可能会影响选举结果并侵蚀对民主的信任。然而，尽管对这些风险有大量猜测，关于实际使用模式及其对政治信念影响的实证证据却很难获得。

人们是否使用 AI 来研究政治议题？

为了了解 AI 用于搜索政治议题信息的规模，我们在 2024 年英国大选前后对 2,499 名英国成年人进行了一项大规模、具有代表性的调查。我们发现对话式 AI 已成为政治信息的重要来源：32% 的聊天机器人用户——相当于所有合格英国选民的 13%——报告称使用 AI 聊天机器人搜索与其选举选择直接相关的信息。

AI 是让人们更了解情况还是更不了解情况？

接下来，我们测试了使用 AI 如何影响人们对政治议题的了解。我们招募了 2,858 名英国参与者，并进行了一系列随机对照试验。

首先，参与者报告了他们对四个政治议题（移民、气候变化、刑事司法改革和疫苗）相关说法的基线信念。其中一些说法是真实的，另一些则是虚假的错误信息。然后，参与者使用聊天机器人或搜索引擎研究其中两个随机选择的议题。之后，我们重新评估了他们的信念。

与广泛担忧相反，我们发现使用对话式 AI 并没有降低参与者对政治议题的了解。相反，在研究过的议题上，知识水平提高了——对话式 AI 和互联网搜索的提高程度几乎完全相同。换句话说，聊天机器人让人们更了解情况，而不是更不了解。这在所有四个政治议题上都是如此，即使当聊天机器人被提示要更具说服力时，结果依然成立。

在下方的可视化图中，我们以 7 分量表（1=不同意，7=同意）绘制了结果。它显示，对真实信息的信念增加（紫色线），对虚假信息的信念减少（橙色线），从研究前到研究后，尤其是在那些被研究的议题上（实线）。然而，这种情况在对话式 AI（左图）和互联网搜索（右图）中发生的程度相同。

未来研究方向

我们认识到我们的发现存在局限性。我们仅从一个国家、在一次选举期间、使用少数几个 AI 模型、在短时间会话中采样了参与者。未来的研究可以将范围扩大到多个国家和更广泛的模型集，或追踪长期影响。我们也认识到，模型行为会随着每次新版本发布而变化，因此这里观察到的模式未来可能会有所不同。尽管 AI 模型目前似乎并未推动对错误信息的信念，但 AISI 的其他研究表明，AI 模型的说服能力正在提高，这意味着需要保持警惕以监控其现实世界的影响。

总体而言，我们的发现表明，对聊天机器人影响政治和选举的广泛担忧可能有些夸大。虽然 AI 输出有时确实在事实上不正确，并且尽可能交叉验证其他信息来源总是明智之举，但目前的证据几乎没有迹象表明，向 AI 作为主要政治信息来源的转变会导致政治知识的广泛退化。

更多详情，请阅读完整论文。