新冠病毒讓互聯(lián)網(wǎng)變好了嗎？

在紐約的酒吧和餐館關(guān)門之前的那個(gè)周末，我跟三位朋友在公園里，席地而坐，大家圍成了一個(gè)詭異的圓圈，兩兩之間相距有六英尺之遙。大家當(dāng)時(shí)只是在閑聊一些最近自己被震驚到的事情。我說：“一周前我關(guān)心的任何事情現(xiàn)在我已經(jīng)不在乎了?！?“我現(xiàn)在愛上Instagram了！可是不愛Instagram才是我的工作。”我應(yīng)該對(duì)基本上所有跟互聯(lián)網(wǎng)有關(guān)的事情都持批評(píng)態(tài)度，但是我認(rèn)為現(xiàn)在我再也做不到了，因?yàn)檫@是唯一一樣將我和親人聯(lián)系在一起的東西，因?yàn)樽≡谖业男」⒗锩娴闹挥形乙粋€(gè)人。離開公園時(shí)我對(duì)著過去的室友說了聲：“碰下肘！回頭見！”我們的下一次見面已是在FaceTime 上。

現(xiàn)在人人都愛上互聯(lián)網(wǎng)了。由于大多數(shù)人已被傳統(tǒng)的大眾生活拒之門外，我們現(xiàn)在都跑到網(wǎng)上跟想念的人保持聯(lián)系，為有需要的人籌集資金，去協(xié)調(diào)可能不再會(huì)在實(shí)地發(fā)生的各種集體行動(dòng)。自從美國開始實(shí)行居家令以來，在線平臺(tái)的使用已激增到了荒謬的地步：在最近的一篇博文中，Zoom CEO Eric Yuan說，這項(xiàng)服務(wù)每日的會(huì)議參加者數(shù)量已從去年12月的1000萬增加到3月的2億。Google的視頻會(huì)議平臺(tái)的每日使用量比1月份高出了25倍。據(jù)Facebook稱，截止到3月底，在受到新冠大流行影響最嚴(yán)重的國家/地區(qū)，其服務(wù)的聊天消息量增加了50％，在COVID-19大爆發(fā)地區(qū)，F(xiàn)acebook Messenger和WhatsApp的視頻通話量增加了一倍以上。

一開始的時(shí)候，Web給人的承諾是，這將是一個(gè)發(fā)揮獨(dú)創(chuàng)性和分享知識(shí)的地方，這個(gè)承諾一直在泛著每個(gè)人都能注意到的微光。雖說就在幾個(gè)月前我們連續(xù)幾年對(duì)大型科技巨頭的抵制潮還沒有結(jié)束的跡象，每一天都會(huì)對(duì)Facebook、Google和蘋果這樣的超現(xiàn)實(shí)強(qiáng)權(quán)提出新的質(zhì)疑，但在今天，我們對(duì)能夠擁有它們都感到非常感激，并很幸運(yùn)能夠在大部分清醒的時(shí)候能夠使用它們的產(chǎn)品。

隨著美國各州指示各地居民不要離開家，《紐約時(shí)報(bào)》的Kevin Roose認(rèn)為：“新冠病毒危機(jī)正在向我們展示如何在網(wǎng)上生活。”他寫道：“在花費(fèi)了數(shù)年的時(shí)間使用那些似乎基本上是讓我們走向分裂的技術(shù)之后，新冠病毒危機(jī)卻向我們表明，互聯(lián)網(wǎng)仍然能夠把我們團(tuán)結(jié)在一起?！薄靶鹿诓《臼遣皇亲尰ヂ?lián)網(wǎng)變得更好了呢？”幾周后，《紐約時(shí)報(bào)》的Jenna Wortham）提出了這個(gè)問題，并得出結(jié)論說，是的。

這是一個(gè)誘人的想法，但得出結(jié)論為時(shí)尚早。那些主要平臺(tái)都還在努力適應(yīng)大量的額外活動(dòng)和奇怪的新用例。過去由人執(zhí)行的，在最好情況下也很難做出的網(wǎng)絡(luò)管理決定，現(xiàn)在已經(jīng)交給了人工智能。用戶規(guī)模巨大的平臺(tái)現(xiàn)在的用戶群已經(jīng)變得更加龐大，導(dǎo)致利用安全漏洞的價(jià)值也變得更大。在想要跟最親密的人聯(lián)系的焦慮和渴望的驅(qū)使下，當(dāng)我們每天把8小時(shí)的時(shí)間都花在了手機(jī)上的時(shí)候，背后的公司則在瘋狂地吸走我們的個(gè)人數(shù)據(jù)?；ヂ?lián)網(wǎng)之所以給人感覺變得更好了，那只是因?yàn)檫@就是我們現(xiàn)在所擁有的一切，但是我們給它施加的種種壓力最終可能會(huì)導(dǎo)致情況變得更糟。

更多的事情被交給了人工智能

隨著居家令在美國全國范圍內(nèi)的頒布，Facebook宣布會(huì)讓包括內(nèi)容審核員在內(nèi)的員工送回家中，同時(shí)解釋說，出于各種原因，他們當(dāng)中的很多人在家將無法工作：因?yàn)樗麄儾榭吹臄?shù)據(jù)很敏感，而且也不應(yīng)該在家庭網(wǎng)絡(luò)環(huán)境下使用，他們從事的工作很費(fèi)精神，干活需要現(xiàn)場資源等。部分審核員仍在工作，但Facebook以及其他主要的互聯(lián)網(wǎng)平臺(tái)（比方說YouTube和Twitter等）已宣布，這段時(shí)間會(huì)把更多的任務(wù)交給人工智能，同時(shí)承認(rèn)這可能會(huì)導(dǎo)致錯(cuò)誤。

AI內(nèi)容審核有很多限制。對(duì)于一個(gè)可以有無盡排列的問題，并且可以產(chǎn)生誤報(bào)和漏報(bào)的問題來說，這是一把鈍器。計(jì)算機(jī)可以推斷出很多關(guān)于視頻或句子的信息：比如有多少人看過該視頻，被哪些IP地址分享，被標(biāo)記為什么內(nèi)容，被舉報(bào)了多少次，是否跟已知的非法內(nèi)容相匹配等。加州大學(xué)洛杉磯分校（UCLA）互聯(lián)網(wǎng)治理研究人員Sarah T. Roberts說：“但是它不看內(nèi)容，就自行做出決定?？磧?nèi)容是人做的事情?！?所以審核算法可能“在某些情況下會(huì)尺度過嚴(yán)，在另外一些情況下優(yōu)惠過度寬松，而對(duì)于某些領(lǐng)域基本上連管都不管。由人力組成的審核隊(duì)伍是有好處的，除了那些明確設(shè)計(jì)進(jìn)去的東西以外，機(jī)器不具備他們的認(rèn)知能力，他們的內(nèi)容領(lǐng)會(huì)能力以及他們處置各種各樣內(nèi)容的能力。”

她說：“實(shí)際上，事實(shí)證明，那些薪水不高，地位低下，一般都是不穩(wěn)定的合同制的工作也許是是互聯(lián)網(wǎng)最重要的工作之一。只有在失去的時(shí)候我們才會(huì)注意到這一點(diǎn)?！?

尤其是因?yàn)槟切┎粦?yīng)該在網(wǎng)上消磨更多時(shí)間的人（那些容易受到陰謀論影響的人，那些容易因此產(chǎn)生焦慮的人，或者對(duì)平臺(tái)的使用不得當(dāng)?shù)娜耍┈F(xiàn)在把大量時(shí)間都用來上網(wǎng)了。我在跟Facebook策略團(tuán)隊(duì)的公關(guān)經(jīng)理Sarah Pollack交談時(shí)，F(xiàn)acebook剛剛清理了為Northwest Front創(chuàng)建的一系列新網(wǎng)頁。后者是華盛頓州的一家白人至上主義者組織，一直在發(fā)播客宣傳此次危機(jī)過后白人將如何占上風(fēng)的論調(diào)。

目前為止Facebook上還沒有發(fā)生什么可怕的錯(cuò)誤。但是一些裂縫已經(jīng)開始顯現(xiàn)：盡管該公司承諾，對(duì)于普通人來說，網(wǎng)站體驗(yàn)不會(huì)有什么不同，但當(dāng)用戶嘗試舉報(bào)內(nèi)容時(shí)會(huì)收到彈出對(duì)話框：“請(qǐng)注意，我們現(xiàn)在沒那么多的審核員?！?上周，F(xiàn)acebook的自動(dòng)化系統(tǒng)向發(fā)貼內(nèi)容含自制口罩的人發(fā)出警告，威脅要封號(hào)。這是因?yàn)槿斯ぶ悄馨涯切┨赢?dāng)成醫(yī)用口罩廣告了，而后者因?yàn)楹逄飪r(jià)和供應(yīng)短缺的原因已經(jīng)被屏蔽。

就算上述情況沒有發(fā)生之前，Facebook在內(nèi)容審核方面就已經(jīng)遇到了很多麻煩，甚至人工審核員做出的決定幾乎都總會(huì)受到質(zhì)疑。更不用說對(duì)于一個(gè)擁有25億用戶的平臺(tái)來說，哪怕是“少數(shù)”錯(cuò)誤，也將會(huì)是大量的錯(cuò)誤。有可能是數(shù)百萬計(jì)！

Roberts說，這種規(guī)模正是我們應(yīng)該擔(dān)心的。Facebook本來就已經(jīng)非常龐大；但現(xiàn)在變得更大了。Roberts 說：“這種情況也是一個(gè)機(jī)會(huì)，一個(gè)共同承認(rèn)和思考的機(jī)會(huì)，即我們把幾乎整個(gè)數(shù)字為我們提供了一個(gè)機(jī)會(huì)，使我們可以集體認(rèn)可，然后考慮如何將我們的整個(gè)數(shù)字化存在都交到少數(shù)成為我們一手資料來源的公司手中，這究竟意味著什么？我們對(duì)這些系統(tǒng)的依賴只會(huì)加深。在這種不斷加深的過程中，我們有機(jī)會(huì)來指出哪些地方是他們做得不到位的?！?

隨著Facebook向著更多的AI審核轉(zhuǎn)變，這家公司已經(jīng)確定了降低某些事情的優(yōu)先級(jí)。最大的一個(gè)是垃圾郵件。盡管極端主義是目前該網(wǎng)站最關(guān)注的問題之一，但這里面又有了個(gè)新的子類了。根據(jù)Pollack（一個(gè)由350人組成的團(tuán)隊(duì)，致力于處理危險(xiǎn)的個(gè)人和有組織的仇恨言論）的說法，在新冠危機(jī)期間他們?nèi)栽诩抑羞M(jìn)行全職工作，以打擊極端主義言論，但現(xiàn)在公司必須做出一些讓步——把更多精力集中在迫在眉睫的威脅以及被封號(hào)后設(shè)法想重返平臺(tái)的不良行為者，對(duì)于那些在個(gè)人頁面上對(duì)這些極端團(tuán)體和想法表達(dá)的支持的個(gè)人就管不了那么多了。

難以駕馭的增長

這種火線換軌到以自動(dòng)審核為主的手段只有最大型的科技巨頭才有可能做得到，只有他們才擁有最好的工程資源，而且內(nèi)部開發(fā)此類工具已多年。小一點(diǎn)新一點(diǎn)的平臺(tái)，現(xiàn)在只能眼睜睜看著新注冊(cè)用戶數(shù)的飆升，然后被用來干一些自己此前從未見過的事情。對(duì)于那些公司來說，情況會(huì)很艱難。

Discord CEO Jason Citron告訴我說，他的平臺(tái)注冊(cè)數(shù)比新冠危機(jī)前高了200％，用戶現(xiàn)在每天平均在該網(wǎng)站上呆四個(gè)小時(shí)。這個(gè)聊天平臺(tái)成立還不到五年的歷史。過去幾年來這個(gè)網(wǎng)站一直在處理入門級(jí)平臺(tái)問題，從2019年4月到2019年12月，網(wǎng)站就取締了520萬個(gè)帳戶，其中大部分是垃圾郵件或“不良內(nèi)容”。眾所周知，這里是白人至上主義者和其他極端主義者組織策劃的地方。

我跟Citron交流的時(shí)候，他談到了擴(kuò)大規(guī)模從而服務(wù)于更多應(yīng)用案例更多的更大用戶群所面臨的技術(shù)挑戰(zhàn)——圣 經(jīng)小組和童子軍現(xiàn)在也加入到meme小組和游戲玩家的大軍，在網(wǎng)上進(jìn)行組織內(nèi)聊天了。該公司的第一個(gè)重大變化是把可以同時(shí)參加直播的人數(shù)從10人增加到50人。Citron說：“我們現(xiàn)在只是擴(kuò)充基礎(chǔ)設(shè)施，我們一直在努力確保Discord能夠正常運(yùn)行，以好讓大家有地方可以跟朋友交流?！保ǜ鶵eddit 一樣，Discord也是靠社區(qū)級(jí)的審核。它有一個(gè)客戶安全小組，版主在需要的時(shí)候可以向他們求助）

難以駕馭的增長本身已經(jīng)成問題。迄今為止，在新冠病毒互聯(lián)網(wǎng)當(dāng)中一炮走紅的顯然是Zoom ，這個(gè)針對(duì)辦公環(huán)境而設(shè)計(jì)的視頻會(huì)議軟件，現(xiàn)在已經(jīng)被用到包括學(xué)校，約會(huì)及逾越節(jié)家宴在內(nèi)的一切場合。而且它還成為了一個(gè)研究案例，讓我們可以看看當(dāng)使用受限的平臺(tái)一下子涌入大量新用戶時(shí)會(huì)發(fā)生什么。

令撥入隨機(jī)呼叫變得容易的安全漏洞導(dǎo)致Google和SpaceX 等知名公司禁止了旗下員工使用Zoom。紐約市禁止將該平臺(tái)納入公立學(xué)校的遠(yuǎn)程學(xué)習(xí)課堂。上周，一名股東起訴了該公司。FBI則發(fā)出了有關(guān)視頻會(huì)議安全性的警告，里面特別提到了Zoom。

“Zoombombing”（指個(gè)人因?yàn)槠脚_(tái)安全漏洞，無意間侵入其他視頻電話會(huì)議，然后把一些破壞性或者令人恐懼的內(nèi)容分享過去）的惡作劇已經(jīng)從臭名昭著的“兩女一杯”YouTube視頻升級(jí)成色情內(nèi)容，乃至于仇恨言論?！都~約時(shí)報(bào)》的一項(xiàng)調(diào)查發(fā)現(xiàn)，做壞事的人通過Instagram、Twitter、Reddit、4Chan，以及尤其Discord上進(jìn)行組織，滲透到了Zoom Alcoholics Anonymous會(huì)議、教堂組織、跨性別與非雙性青年團(tuán)體以及至少一所中學(xué)上。（過去一周的時(shí)間里，Discord已經(jīng)刪除了大約500臺(tái)服務(wù)器。但是一位發(fā)言人說，由于這些團(tuán)體會(huì)迅速跨各個(gè)平臺(tái)來重連，所以很難追到他們。）

在過去一周里，Zoom已經(jīng)做出了很多的修改，包括默認(rèn)情況下要求輸入會(huì)議密碼，以及將Facebook的軟件開發(fā)工具包從自己的iOS app里面移走等。這一重大舉措可阻止Facebook收集有關(guān)Zoom用戶的信息。

同時(shí)，該公司宣布將凍結(jié)新功能90天，從而騰出工程資源專注于隱私和安全問題，還永久性地刪除了一項(xiàng)功能，通過跟蹤與會(huì)者點(diǎn)入其他窗口的時(shí)長，這項(xiàng)功能可以判斷與會(huì)者是否注意收看會(huì)議，然后向會(huì)議主持人報(bào)告。為了應(yīng)對(duì)危機(jī)，所有這些變更都是在很短的時(shí)間內(nèi)完成的。

康奈爾大學(xué)法學(xué)院互聯(lián)網(wǎng)政策專家James Grimmelmann告訴我說：“在這之前這套系統(tǒng)也要不斷地臨時(shí)調(diào)整，只是現(xiàn)在這種臨時(shí)性的程度和對(duì)快速行動(dòng)的需求變得更強(qiáng)了。它的規(guī)模擴(kuò)大了。但是在開展工作的時(shí)候到位的人手卻不足?，F(xiàn)在有大量的話題內(nèi)容是他們此前缺乏足夠知識(shí)了解的東西?！?

Grimmelmann認(rèn)為，玩家門事件是對(duì)針對(duì)性和協(xié)同性的騷擾的入門，這導(dǎo)致了相關(guān)政策和功能的誕生，并積累了學(xué)院知識(shí)。2016年美國大選是其政治假信息和有組織的造假活動(dòng)的速成班。去年在基督城現(xiàn)場直播的大規(guī)模槍擊事件是對(duì)暴力內(nèi)容迅速做出反應(yīng)的關(guān)鍵課程。

Grimmelmann說：“ 我認(rèn)為，在公共衛(wèi)生信息的傳播方面我們也在面臨類似的規(guī)模擴(kuò)大。一些平臺(tái)已經(jīng)很熟悉這些挑戰(zhàn)；但另外一些還在學(xué)習(xí)。”

互聯(lián)網(wǎng)有發(fā)展成烏托邦的可能嗎？

盡管存在種種缺陷，但現(xiàn)在互聯(lián)網(wǎng)仍然有很多值得去愛的東西。重要的信息在流通。盡管美國政府的反應(yīng)響應(yīng)之后，但資源被聚攏然后被個(gè)人網(wǎng)絡(luò)重新分發(fā)。我們無法親自見到的人的數(shù)字化投影隨時(shí)可見。

互聯(lián)網(wǎng)歷史上最糟糕的事件往往會(huì)導(dǎo)致最大的改變：玩家門是社交媒體的第一個(gè)重大生存危機(jī)。一些跡象表明新冠病毒也許是又一個(gè)。研究人員Jo?oCarlosMagalh?es以及Christian Katzenbach上月底發(fā)表在《Internet Policy Review》上的一篇論文寫道：“這種流行病有助于凸顯出平臺(tái)治理的爭議性以及脆弱性之大。” 他們指出，自2009年以來，Twitter的社區(qū)準(zhǔn)則已經(jīng)修改了300次，往往都是特定災(zāi)難性事件之后的結(jié)果。現(xiàn)在，在當(dāng)前特定的壓力下，一些微小的改變會(huì)再次發(fā)生。就在幾天前，F(xiàn)acebook宣布會(huì)提高WhatsApp轉(zhuǎn)發(fā)消息的難度，據(jù)推斷Facebook之所以做出這一改變可能是為了給虛假信息的傳播增加阻力。現(xiàn)在，部分虛假信息鏈接只可以一次轉(zhuǎn)發(fā)一個(gè)人而不是數(shù)百人。

在接下來的幾個(gè)月的時(shí)間里，我們也許會(huì)看到成百上千的漸進(jìn)性改變，所有這些改變都會(huì)讓互聯(lián)網(wǎng)在危機(jī)結(jié)束之后的很長一段時(shí)間內(nèi)變得更好。新冠病毒并未展現(xiàn)出互聯(lián)網(wǎng)有出通過集體的柔情和善意的絕對(duì)力量成為烏托邦的潛能。但是，這場危機(jī)為我們揭示了一個(gè)機(jī)會(huì)，一個(gè)更加積極地對(duì)那些希望成為我們整個(gè)世界，達(dá)成自己愿望的公司提出質(zhì)疑的機(jī)會(huì)?，F(xiàn)在，他們必須了解這種責(zé)任的真正含義究竟是什么。