【互联网】疫情会给互联网带来重大改变吗？

新冠病毒让互联网变好了吗？

在纽约的酒吧和餐馆关门之前的那个周末，我跟三位朋友在公园里，席地而坐，大家围成了一个诡异的圆圈，两两之间相距有六英尺之遥。大家当时只是在闲聊一些最近自己被震惊到的事情。我说：“一周前我关心的任何事情现在我已经不在乎了。” “我现在爱上Instagram了！可是不爱Instagram才是我的工作。”我应该对基本上所有跟互联网有关的事情都持批评态度，但是我认为现在我再也做不到了，因为这是唯一一样将我和亲人联系在一起的东西，因为住在我的小公寓里面的只有我一个人。离开公园时我对着过去的室友说了声：“碰下肘！回头见！”我们的下一次见面已是在FaceTime 上。

现在人人都爱上互联网了。由于大多数人已被传统的大众生活拒之门外，我们现在都跑到网上跟想念的人保持联系，为有需要的人筹集资金，去协调可能不再会在实地发生的各种集体行动。自从美国开始实行居家令以来，在线平台的使用已激增到了荒谬的地步：在最近的一篇博文中，Zoom CEO Eric Yuan说，这项服务每日的会议参加者数量已从去年12月的1000万增加到3月的2亿。Google的视频会议平台的每日使用量比1月份高出了25倍。据Facebook称，截止到3月底，在受到新冠大流行影响最严重的国家/地区，其服务的聊天消息量增加了50％，在COVID-19大爆发地区，Facebook Messenger和WhatsApp的视频通话量增加了一倍以上。

一开始的时候，Web给人的承诺是，这将是一个发挥独创性和分享知识的地方，这个承诺一直在泛着每个人都能注意到的微光。虽说就在几个月前我们连续几年对大型科技巨头的抵制潮还没有结束的迹象，每一天都会对Facebook、Google和苹果这样的超现实强权提出新的质疑，但在今天，我们对能够拥有它们都感到非常感激，并很幸运能够在大部分清醒的时候能够使用它们的产品。

随着美国各州指示各地居民不要离开家，《纽约时报》的Kevin Roose认为：“新冠病毒危机正在向我们展示如何在网上生活。”他写道：“在花费了数年的时间使用那些似乎基本上是让我们走向分裂的技术之后，新冠病毒危机却向我们表明，互联网仍然能够把我们团结在一起。”“新冠病毒是不是让互联网变得更好了呢？”几周后，《纽约时报》的Jenna Wortham）提出了这个问题，并得出结论说，是的。

这是一个诱人的想法，但得出结论为时尚早。那些主要平台都还在努力适应大量的额外活动和奇怪的新用例。过去由人执行的，在最好情况下也很难做出的网络管理决定，现在已经交给了人工智能。用户规模巨大的平台现在的用户群已经变得更加庞大，导致利用安全漏洞的价值也变得更大。在想要跟最亲密的人联系的焦虑和渴望的驱使下，当我们每天把8小时的时间都花在了手机上的时候，背后的公司则在疯狂地吸走我们的个人数据。互联网之所以给人感觉变得更好了，那只是因为这就是我们现在所拥有的一切，但是我们给它施加的种种压力最终可能会导致情况变得更糟。

更多的事情被交给了人工智能

随着居家令在美国全国范围内的颁布，Facebook宣布会让包括内容审核员在内的员工送回家中，同时解释说，出于各种原因，他们当中的很多人在家将无法工作：因为他们查看的数据很敏感，而且也不应该在家庭网络环境下使用，他们从事的工作很费精神，干活需要现场资源等。部分审核员仍在工作，但Facebook以及其他主要的互联网平台（比方说YouTube和Twitter等）已宣布，这段时间会把更多的任务交给人工智能，同时承认这可能会导致错误。

AI内容审核有很多限制。对于一个可以有无尽排列的问题，并且可以产生误报和漏报的问题来说，这是一把钝器。计算机可以推断出很多关于视频或句子的信息：比如有多少人看过该视频，被哪些IP地址分享，被标记为什么内容，被举报了多少次，是否跟已知的非法内容相匹配等。加州大学洛杉矶分校（UCLA）互联网治理研究人员Sarah T. Roberts说：“但是它不看内容，就自行做出决定。看内容是人做的事情。” 所以审核算法可能“在某些情况下会尺度过严，在另外一些情况下优惠过度宽松，而对于某些领域基本上连管都不管。由人力组成的审核队伍是有好处的，除了那些明确设计进去的东西以外，机器不具备他们的认知能力，他们的内容领会能力以及他们处置各种各样内容的能力。”

她说：“实际上，事实证明，那些薪水不高，地位低下，一般都是不稳定的合同制的工作也许是是互联网最重要的工作之一。只有在失去的时候我们才会注意到这一点。”

尤其是因为那些不应该在网上消磨更多时间的人（那些容易受到阴谋论影响的人，那些容易因此产生焦虑的人，或者对平台的使用不得当的人）现在把大量时间都用来上网了。我在跟Facebook策略团队的公关经理Sarah Pollack交谈时，Facebook刚刚清理了为Northwest Front创建的一系列新网页。后者是华盛顿州的一家白人至上主义者组织，一直在发播客宣传此次危机过后白人将如何占上风的论调。

目前为止Facebook上还没有发生什么可怕的错误。但是一些裂缝已经开始显现：尽管该公司承诺，对于普通人来说，网站体验不会有什么不同，但当用户尝试举报内容时会收到弹出对话框：“请注意，我们现在没那么多的审核员。” 上周，Facebook的自动化系统向发贴内容含自制口罩的人发出警告，威胁要封号。这是因为人工智能把那些帖子当成医用口罩广告了，而后者因为哄抬物价和供应短缺的原因已经被屏蔽。

就算上述情况没有发生之前，Facebook在内容审核方面就已经遇到了很多麻烦，甚至人工审核员做出的决定几乎都总会受到质疑。更不用说对于一个拥有25亿用户的平台来说，哪怕是“少数”错误，也将会是大量的错误。有可能是数百万计！

Roberts说，这种规模正是我们应该担心的。Facebook本来就已经非常庞大；但现在变得更大了。Roberts 说：“这种情况也是一个机会，一个共同承认和思考的机会，即我们把几乎整个数字为我们提供了一个机会，使我们可以集体认可，然后考虑如何将我们的整个数字化存在都交到少数成为我们一手资料来源的公司手中，这究竟意味着什么？我们对这些系统的依赖只会加深。在这种不断加深的过程中，我们有机会来指出哪些地方是他们做得不到位的。”

随着Facebook向着更多的AI审核转变，这家公司已经确定了降低某些事情的优先级。最大的一个是垃圾邮件。尽管极端主义是目前该网站最关注的问题之一，但这里面又有了个新的子类了。根据Pollack（一个由350人组成的团队，致力于处理危险的个人和有组织的仇恨言论）的说法，在新冠危机期间他们仍在家中进行全职工作，以打击极端主义言论，但现在公司必须做出一些让步——把更多精力集中在迫在眉睫的威胁以及被封号后设法想重返平台的不良行为者，对于那些在个人页面上对这些极端团体和想法表达的支持的个人就管不了那么多了。

难以驾驭的增长

这种火线换轨到以自动审核为主的手段只有最大型的科技巨头才有可能做得到，只有他们才拥有最好的工程资源，而且内部开发此类工具已多年。小一点新一点的平台，现在只能眼睁睁看着新注册用户数的飙升，然后被用来干一些自己此前从未见过的事情。对于那些公司来说，情况会很艰难。

Discord CEO Jason Citron告诉我说，他的平台注册数比新冠危机前高了200％，用户现在每天平均在该网站上呆四个小时。这个聊天平台成立还不到五年的历史。过去几年来这个网站一直在处理入门级平台问题，从2019年4月到2019年12月，网站就取缔了520万个帐户，其中大部分是垃圾邮件或“不良内容”。众所周知，这里是白人至上主义者和其他极端主义者组织策划的地方。

我跟Citron交流的时候，他谈到了扩大规模从而服务于更多应用案例更多的更大用户群所面临的技术挑战——圣 经小组和童子军现在也加入到meme小组和游戏玩家的大军，在网上进行组织内聊天了。该公司的第一个重大变化是把可以同时参加直播的人数从10人增加到50人。Citron说：“我们现在只是扩充基础设施，我们一直在努力确保Discord能够正常运行，以好让大家有地方可以跟朋友交流。”（跟Reddit 一样，Discord也是靠社区级的审核。它有一个客户安全小组，版主在需要的时候可以向他们求助）

难以驾驭的增长本身已经成问题。迄今为止，在新冠病毒互联网当中一炮走红的显然是Zoom ，这个针对办公环境而设计的视频会议软件，现在已经被用到包括学校，约会及逾越节家宴在内的一切场合。而且它还成为了一个研究案例，让我们可以看看当使用受限的平台一下子涌入大量新用户时会发生什么。

令拨入随机呼叫变得容易的安全漏洞导致Google和SpaceX 等知名公司禁止了旗下员工使用Zoom。纽约市禁止将该平台纳入公立学校的远程学习课堂。上周，一名股东起诉了该公司。FBI则发出了有关视频会议安全性的警告，里面特别提到了Zoom。

“Zoombombing”（指个人因为平台安全漏洞，无意间侵入其他视频电话会议，然后把一些破坏性或者令人恐惧的内容分享过去）的恶作剧已经从臭名昭著的“两女一杯”YouTube视频升级成色情内容，乃至于仇恨言论。《纽约时报》的一项调查发现，做坏事的人通过Instagram、Twitter、Reddit、4Chan，以及尤其Discord上进行组织，渗透到了Zoom Alcoholics Anonymous会议、教堂组织、跨性别与非双性青年团体以及至少一所中学上。（过去一周的时间里，Discord已经删除了大约500台服务器。但是一位发言人说，由于这些团体会迅速跨各个平台来重连，所以很难追到他们。）

在过去一周里，Zoom已经做出了很多的修改，包括默认情况下要求输入会议密码，以及将Facebook的软件开发工具包从自己的iOS app里面移走等。这一重大举措可阻止Facebook收集有关Zoom用户的信息。

同时，该公司宣布将冻结新功能90天，从而腾出工程资源专注于隐私和安全问题，还永久性地删除了一项功能，通过跟踪与会者点入其他窗口的时长，这项功能可以判断与会者是否注意收看会议，然后向会议主持人报告。为了应对危机，所有这些变更都是在很短的时间内完成的。

康奈尔大学法学院互联网政策专家James Grimmelmann告诉我说：“在这之前这套系统也要不断地临时调整，只是现在这种临时性的程度和对快速行动的需求变得更强了。它的规模扩大了。但是在开展工作的时候到位的人手却不足。现在有大量的话题内容是他们此前缺乏足够知识了解的东西。”

Grimmelmann认为，玩家门事件是对针对性和协同性的骚扰的入门，这导致了相关政策和功能的诞生，并积累了学院知识。2016年美国大选是其政治假信息和有组织的造假活动的速成班。去年在基督城现场直播的大规模枪击事件是对暴力内容迅速做出反应的关键课程。

Grimmelmann说：“ 我认为，在公共卫生信息的传播方面我们也在面临类似的规模扩大。一些平台已经很熟悉这些挑战；但另外一些还在学习。”

互联网有发展成乌托邦的可能吗？

尽管存在种种缺陷，但现在互联网仍然有很多值得去爱的东西。重要的信息在流通。尽管美国政府的反应响应之后，但资源被聚拢然后被个人网络重新分发。我们无法亲自见到的人的数字化投影随时可见。

互联网历史上最糟糕的事件往往会导致最大的改变：玩家门是社交媒体的第一个重大生存危机。一些迹象表明新冠病毒也许是又一个。研究人员JoãoCarlosMagalhães以及Christian Katzenbach上月底发表在《Internet Policy Review》上的一篇论文写道：“这种流行病有助于凸显出平台治理的争议性以及脆弱性之大。” 他们指出，自2009年以来，Twitter的社区准则已经修改了300次，往往都是特定灾难性事件之后的结果。现在，在当前特定的压力下，一些微小的改变会再次发生。就在几天前，Facebook宣布会提高WhatsApp转发消息的难度，据推断Facebook之所以做出这一改变可能是为了给虚假信息的传播增加阻力。现在，部分虚假信息链接只可以一次转发一个人而不是数百人。

在接下来的几个月的时间里，我们也许会看到成百上千的渐进性改变，所有这些改变都会让互联网在危机结束之后的很长一段时间内变得更好。新冠病毒并未展现出互联网有出通过集体的柔情和善意的绝对力量成为乌托邦的潜能。但是，这场危机为我们揭示了一个机会，一个更加积极地对那些希望成为我们整个世界，达成自己愿望的公司提出质疑的机会。现在，他们必须了解这种责任的真正含义究竟是什么。