早在2010年，技术乐观主义情绪就开始高涨。当时，高达75%的美国成年人上网，与在此十年前的46%相比有了很大的跃升。在很大程度上，这是人们首次可以在舒适的家里穿梭于信息时代。社交媒体的出现相对较新，并迅速获得了吸引力，特别是在年轻人中，因为世界的注意力似乎从基于浏览器的网络上转移到了应用程序上。
皮尤研究中心通过询问895名领先的技术专家、研究人员和评论家，预测2020年互联网连接的世界将会变成什么样子，以此纪念新的十年到来。在一个问题上，人们达成了压倒性的共识：85%的受访者同意“在接下来的十年里，使用互联网的社会效益将远远超过负面影响”，并指出互联网总体上“改善了社会关系，并将持续到2020年”。他们认为，信息时代带来的沟通便利和知识财富是对未来持乐观态度的最重要理由。
互联网的负面效应
事实证明，互联网给人们带来无数方便快捷服务的同时，也产生了许多负面影响。即将到来的“信息末日”的早期迹象是个来自叙利亚大马士革的35岁同性恋女士阿米娜·阿拉夫Amina Arraf)，她用博客的形式记录了自己的生活，包括参与反对总统巴沙尔·阿萨德Bashar al-Assad)的运动。很快，这场运动就吸引了全球关注，人们被阿拉夫感人的散文和对中东奇特生活的生动描述迷住了。英国《卫报》将她描述为“一个保守国家里出人意料诞生的反叛英雄”。
直到2011年6月6日，博客上出现了风格截然不同的帖子。当时，堂兄惊慌失措地发布了更新消息，解释称阿拉夫在大马士革市中心被三名神秘男子扔进红色面包车的后座。绑架的消息迅速传遍全球，《卫报》、《纽约时报》、福克斯新闻、CNN等媒体纷纷报道。“拯救阿米娜”运动促使海报和其他网站开始涌现。据报道，美国国务院甚至开始对阿拉夫的失踪进行调查。
在所谓的绑架事件发生六天后，真相浮出水面：这名来自大马士革的同性恋女士实际上是一名来自美国佐治亚州的40岁直男，名叫汤姆（Tom）。博客、社交媒体账号以及近六年来以阿米娜·阿拉夫Amina Arraf)的名义发布的论坛帖子都是假的。这场恶作剧震动了博客圈，标志着公众对网站欺诈的认识出现了转折点。《华盛顿邮报》声称，它说明了“在网上伪造真实性是多么容易”。
始于网络诞生之初
互联网上始终充斥着欺骗，甚至可以追溯到网络诞生的早期。1998年，哈佛大学伯克曼·克莱因中心（Berkman Klein Center）的研究员兼顾问朱迪思·多纳特（Judith Donath）发表了一篇论文，详细描述了网络钓鱼、错误信息和虚假信息对网络使用造成的影响。这些麻烦听起来十分耳熟：
多纳特在论文中称：“网络巨魔可能会扰乱网络上的讨论，传播糟糕的建议，并损害网络社区的信任感。此外，在一个对网络巨魔变得日益敏感的群体（欺骗率很高）中，许多诚实而天真的问题可能很快就会被归类为巨魔而遭到拒绝。与现实世界相比，在网上冒充其他人相对容易，因为身份线索相对较少。更令人惊讶的是，这种粗制滥造的模仿竟然如此成功。”
尽管网络在接下来的十年里蓬勃发展，越来越多的人获得了访问权限，但这些欺骗担忧在很大程度上还停留在表面之下。但在过去的十年里，网络欺诈的程度和后果变得更加明显。
网络的主要衡量标准——点赞、点击量、关注者数量、浏览量等等，都出现了缺陷。2012年7月，一家初创公司登上新闻头条，称其Facebook广告的点击只有五分之一来自人类。该公司声称，其余的点击来自聊天机器人。这一断言现在看起来显得平凡无奇，但在当时，它被认为是个“爆炸性的声明，可能会让那些试图弄清楚Facebook上的广告是否奏效的品牌犹豫不决。”
这标志着网上怀疑进入了新时代。接下来的一个月，也就是2012年8月，Facebook声称其已经识别并删除了很多页面使用的虚假“点赞”，以使它们看起来比实际更受欢迎。
瑞安·泰特（Ryan Tate）当时在《连线》杂志上写道：“Facebook表示，打击行动‘对任何使用Facebook的人来说都将是个积极的变化’，但事实并非如此。欺诈者显然也在使用Facebook，因此才会有这么多的虚假‘点赞’。他们将争先恐后地阻挠Facebook的过滤器。本周末，Facebook的“点赞”工程师们取得了胜利，为夏季画上了句号。但军备竞赛才刚刚开始。”
2013年，视频分享平台YouTube面临着自己令人不安的现实。来自冒充真实观众的聊天机器人产生的虚假流量可以与来自真人的流量相媲美。许多员工担心这种不平衡可能会带来他们所说的“反转”，即YouTube的操作检测系统会被混淆，将虚假的观点解读为真实的观点，而将真实人类给出的观点标记为可疑。
这种情况从未实现，但虚假参与的害处至今仍困扰着社交媒体巨头。这种做法已经变得如此有利可图和受欢迎，以至于已经形成了全新的子行业，既产生虚假“点赞”、追随者和观点，又能吸引那些购买虚假参与度的人。
背后驱动力
所有这些造假的核心，都是为了钱。很快，赌注就变得更大了。2012年末，外国支持的虚假信息行动开始因使用社交媒体而登上新闻头条。塔利班成员在Facebook上伪装成迷人的女性，并与澳大利亚士兵成为朋友，希望从他们的对话中收集军事情报。尽管细节很少，但其影响被认为非常严重。正如《连线》当时指出的那样：“这些只是社交媒体大战的开始，下一步的数字间谍活动可能会造成真正的损害。”
数字间谍活动的危害终于凸显出来。在缅甸，Facebook上分享的虚假信息加剧了混乱，导致暴力和骚乱。在西方，俄罗斯互联网研究机构IRA)对2016年英国退欧公投和美国总统选举造成了严重破坏。美国情报官员表示，类似的情况在2020年总统大选期间肯定会出现。
2014年5月，《华盛顿邮报》推出了一系列名为“本周互联网上什么是假的”活动，以回应它所说的“都市传说和互联网恶作剧的流行”。起初，典型的网络恶作剧多是轻松稍嫌愚蠢的事情，充斥着怀孕的狼蛛在布鲁克林街头漫步，或者奥利奥制造商推出炸鸡口味等主题的虚假故事。
到2015年底，这个活动被迫搁置，不是因为网上缺乏虚假内容，而是因为网络虚假信息的传播速度和基调已经变得更加令人难以接受。虚假内容更容易辨认，但却获得了越来越多的流量。主题变得令人憎恨、血腥和明显的两极分化。这不那么好笑，而是更让人心烦意乱。
记者凯特琳·杜威Caitlin Dewey)在她的结束语专栏中解释了这一变化，她写道：“对于这种转变，有个简单而攸关经济的解释：如果你是个恶作剧者，就会更有利可图。自2014年初以来，许多互联网企业家已经意识到，没有多少故事能像证明或煽动读者偏见的故事那样有效地推动流量增长。许多人曾经写过名人死亡恶作剧或讽刺作品，现在他们经营着非常成功的网站，除了利用方便的少数族裔或粗俗的刻板印象之外，什么都不需要做。还有Noow8News，它在穷人通常是黑人)被盗的面部照片旁边播放骇人听闻的犯罪故事。或者世界新闻每日报道，它喜欢发明关于外国人通常是穆斯林)与动物发生性关系或杀害动物的文章。”
随着这十年的推移，兜售两极分化内容和虚假信息只会变得更容易，更有利可图。有很多观众，还有Facebook和其他科技巨头提供的强大的目标定位工具，可以让人们只需点击几下就能浏览到相关内容。2016年新闻聚合网站BuzzFeed News的调查发现，在美国总统竞选的最后几个月，Facebook上病毒式的虚假新闻报道获得了更多的分享、回应和评论，而《纽约时报》、《华盛顿邮报》和其他主要新闻机构的热门文章受关注度却更低。几乎所有表现最好的虚假选举报道都有公开支持特朗普或反对克林顿的倾向。
网上造假渗透到现实中
渐渐地，这种网上造假的影响渗透到了现实世界中。大量自动Twitter账户帮助推高了“披萨门”（Pizzagate），当时声称华盛顿披萨店有人持枪向披萨店开火，让这一阴谋论达到了顶峰，通过似乎拥有比实际更多的现实世界支持者来积累吸引力。俄罗斯互联网研究机构IRA)付钱让美国公民在一辆平板卡车上建笼子，并在佛罗里达州的一次集会上打扮成希拉里·克林顿Hillary Clinton)的样子。该组织还付钱让抗议者参加其在纽约和宾夕法尼亚州组织的集会，这些集会在Facebook上做了广告。
这样的例子不胜枚举：“虚假新闻”这个词不知何故变成了假新闻。白宫在推特上发布了一段来自InfoWars的伪造视频，以支持不准确的叙述；移民大篷车穿越墨西哥的新闻被武器化，以传播虚假信息；南希·佩洛西Nancy Pelosi)的一段视频经过编辑，让她看起来像是喝醉了酒，这段视频在Facebook上获得了数百万的点击量；深度造假（deepfakes）在世界各地发布虚假视频。政客们现在可以自由地在Facebook上传播虚假信息，只要他们购买了广告。
这足以让你头晕目眩。网上真相的未来似乎如此黯淡，以至于专家们正在经历一场事关生存的危机。最糟糕的是，似乎没有任何解决方案。虚假信息和两极分化内容的传播源于一系列难以确定的因素，许多最常见的解决问题方法只针对其中一个因素，而不是整体。