埃隆·马斯克旗下的社交平台X（原推特）近日出现一种新趋势，部分用户开始利用马斯克旗下人工智能公司xAI开发的AI聊天机器人Grok进行“事实核查”。这一做法引起了专业人工事实核查员的担忧，他们认为这可能会进一步助长虚假信息的传播。
据了解，X平台在本月初向用户开放了直接调用xAI的Grok进行提问的功能，用户可以就不同话题向Grok寻求答案。此举与另一家公司Perplexity在X上运营自动化账户提供类似服务的方式类似。
在xAI的Grok自动化账户上线X平台后不久，用户便开始尝试向其提出各种问题。尤其在包括印度在内的市场，一些用户开始要求Grok对针对特定政治观点的评论和问题进行“事实核查”。
然而，人工事实核查员对此类利用Grok或任何其他类似AI助手进行“事实核查”的方式表示担忧，因为这些机器人即便在提供不实信息时，也能以听起来令人信服的方式构建答案。过去就曾出现过Grok传播假新闻和误导信息的情况。
早在去年八月，美国五位州务卿就曾敦促马斯克对Grok进行关键性调整，此前该助手在当时美国大选前夕于社交网络上散布了误导性信息。不仅如此，包括OpenAI的ChatGPT和谷歌的Gemini在内的其他聊天机器人，也曾在去年被发现生成关于选举的不准确信息。另有反虚假信息研究人员在2023年发现，包括ChatGPT在内的AI聊天机器人可以轻松生成具有误导性叙事的、极具说服力的文本。
国际事实核查网络（IFCN）主任安吉·霍兰对对此表示:“像Grok这样的AI助手非常擅长使用自然语言，并给出听起来像是真人所说的答案。这样一来，即使AI产品潜在地存在严重错误，它们也能给人一种自然和真实感。这正是潜在的危险所在。”
一位X用户曾要求Grok对另一用户的说法进行“事实核查”。与AI助手不同，人工事实核查员会使用多个可信来源来验证信息。他们还会对其调查结果承担全部责任，署名并附上所属机构以确保可信度。
印度非营利事实核查网站Alt News的联合创始人普拉蒂克·辛哈指出，尽管Grok目前看来能给出令人信服的答案，但其能力完全取决于其所获取的数据质量。他强调:“谁来决定它获取什么数据?政府干预等问题就会随之而来。缺乏透明度的事物必然会造成危害，因为任何缺乏透明度的东西都可以随意塑造……可能会被滥用——用于传播虚假信息。”
在本周早些时候发布的一条回复中，Grok在X平台上的官方账号承认其“可能被滥用——用于传播虚假信息和侵犯隐私”。然而，该自动化账户在给出答案时并未向用户显示任何免责声明，如果其答案是“幻觉”产生的，用户可能会因此被误导，这也是AI的潜在缺点。果阿一家跨学科研究机构Digital Futures Lab的研究员安努舒卡·贾恩表示:“它可能会编造信息来提供回应。”
此外，Grok在多大程度上使用X平台上的帖子作为训练数据，以及它使用何种质量控制措施来核实这些帖子的真实性，也存在一些疑问。去年夏天，X平台曾进行了一项更改，似乎允许Grok默认使用X用户的公开数据。
AI助手（如Grok）通过社交媒体平台公开传播信息的另一个令人担忧的方面是，即使某些用户清楚地知道从AI助手处获得的信息可能具有误导性或不完全正确，平台上的其他人仍然可能相信这些信息。这可能会造成严重的社会危害。此前在印度，通过WhatsApp传播的虚假信息曾导致群体性暴力事件，尽管那些严重的事件发生在生成式AI出现之前，而现在生成式AI使得合成内容的制作更加容易且更具真实感。
国际事实核查网络（IFCN）的霍兰表示:“如果你看到很多Grok的答案，你可能会觉得大部分都是正确的，也许确实如此，但肯定有一些是错误的。错误的比例是多少?这并非一个小比例。一些研究表明，AI模型的错误率高达20%……而且一旦出错，就可能造成严重的现实后果。”
包括xAI在内的AI公司正在改进其AI模型，使其更像人类一样交流，但它们现在仍然不是——而且未来也不能——取代人类。近几个月来，科技公司一直在探索减少对人工事实核查员依赖的方法。包括X和Meta在内的平台已经开始尝试通过所谓的“社区笔记”进行众包式事实核查。当然，这些变化也引起了事实核查员的担忧。
Alt News的辛哈乐观地认为，人们最终会学会区分机器和人工事实核查员，并会更重视人类的准确性。霍兰也认为:“我们最终会看到钟摆 Swing 回到更重视事实核查的方向。”然而，她指出，在此期间，由于AI生成的信息传播迅速，事实核查员可能会有更多的工作要做。她还表示:“这个问题的很大一部分取决于你是否真的关心什么是真实的，还是仅仅寻找听起来和感觉上真实而实际上并非如此的东西?因为AI助手能提供的就是后者。”
X和xAI均未回应置评请求。
划重点:
马斯克旗下AI机器人Grok被用于X平台事实核查，引发人工核查员对误导信息扩散的担忧。 AI助手如Grok可能生成听起来可信但不准确的答案，且缺乏透明的质量控制和数据来源。 人工事实核查员依赖多方可信信源并承担责任，而AI无法取代人类在信息核实中的作用。