假新闻是一个复杂的问题，可以跨越文本、图像和视频。

特别是对于书面文章，有几种生成假新闻的方法。假新闻文章可以通过有选择地编辑事实来制作，包括人的姓名、日期或统计数据。一篇文章也可以完全用虚构的事件或人物来捏造。

假新闻文章也可以由机器生成，因为人工智能的进步使得产生错误信息变得特别容易。

破坏性影响

对于像“2020年美国选举期间有选民舞弊吗？”或“气候变化是骗局吗？”这样的问题，可以通过分析可用数据进行事实核查。这些问题可以用“真”或“假”来回答，但在这类问题周围存在着潜在的错误或误导信息的可能性。

虚假信息和虚假新闻的传播可能在很短的时间内对许多人造成危害。尽管虚假新闻的概念在技术进步之前就已存在，但社交媒体加剧了这个问题。

一项2018年的Twitter研究显示，虚假新闻更容易被人类转发，而不是机器人，并且和真实故事相比，虚假新闻被转发的可能性要高出70%。同样的研究发现，真实故事需要大约六倍的时间才能传达给一组1500人，而真实故事很少能传达给超过1000人，而热门的虚假新闻可以传播到多达10万人。

2020年美国总统选举、COVID-19疫苗和气候变化都成为了严重后果的错误信息宣传的对象。据估计，围绕COVID-19的错误信息每天造成的损失在5亿至3亿美元之间。政治错误信息的成本可能是社会混乱、暴力甚至对民主机构公众信任的侵蚀。

检测错误信息

检测错误信息可以通过算法、机器学习模型、人工智能以及人类的综合应用来实现。一个重要问题是，一旦检测到错误信息，谁负责控制甚至停止其传播。只有社交媒体公司真正有能力通过其网络对信息传播进行控制。

一种特别简单但有效的生成虚假信息的方法是有选择性地编辑新闻文章。例如，考虑“乌克兰导演和剧作家因‘为恐怖主义辩护’被逮捕和指控。”这是通过在真实新闻文章的原句中将“俄罗斯”替换为“乌克兰”来实现的。

需要采取多种方法来检测网络上的虚假信息，以控制其增长和传播。

社交媒体中的通信可以被建模成网络，其中用户形成网络模型中的节点，而通信形成节点之间的链接；对帖子进行转发或点赞反映了两个节点之间的连接。在这种网络模型中，传播虚假信息的人往往形成比传播真相的用户更密集连接的核心-边缘结构。

我的研究小组已经开发了用于从通信网络中检测密集结构的高效算法。可以进一步分析这些信息，以便检测虚假信息传播活动的实例。

由于这些算法仅依赖于通信结构，因此需要算法和人工进行内容分析，以确认虚假信息的实例。

检测篡改的文章需要仔细的分析。我们的研究采用了基于神经网络的方法，结合文本信息和外部知识库来检测这种篡改行为。

阻止传播

检测虚假信息只是一半的战斗，需要采取果断行动来阻止其传播。在社交网络中应对虚假信息传播的策略包括互联网平台的干预以及发起反击活动来中和虚假新闻活动。

干预可以采取硬性形式，例如暂停用户的账户，也可以采取较为温和的措施，例如将帖子标记为可疑。

算法和由人工智能驱动的网络并非百分之百可靠。错误地干预真实内容以及不对虚假内容进行干预都会带来一定的代价。

为此，我们设计了一种智能干预策略，根据预测的真实性和预测的受欢迎程度自动决定是否对一个内容进行干预。

打击假新闻

发起反击活动以最小化甚至中和虚假信息传播的影响，需要充分考虑真相和虚假新闻在传播速度和范围上的主要差异。

除了这些差异，对于不同用户、主题和帖子长度的故事，人们的反应也会有所不同。我们的方法考虑了所有这些因素，并设计了一种高效的反击活动策略，有效地减轻了虚假信息的传播。

最近生成式人工智能的进步，特别是大规模语言模型（如ChatGPT）的推动，使得以极快的速度和大量的产出创建文章变得比以往更加容易，从而提升了检测虚假信息和实时反击其传播的挑战。我们当前的研究仍在致力于解决这个具有巨大社会影响的持续挑战。

来源：https://gizmodo.com/ai-chatgpt-detector-fake-news-generate-misinformation-1850549536