Facebook和Google如何利用「自動化技術」來移除網站上的「極端內容」

Facebook和Google將用技術手段自動移除「極端」言論!

20160627

網路上異議份子的極端言論,是讓社會動盪的潛在原因 ? !

 

據路透社報導,Google、Facebook 等公司目前正在研究自動去除極端內容的辦法,並且有可能會利用侵權移除的手段來識別和壓制極端言論。目前尚不清楚 「極端」言論的底線在哪裡,但是隨著難民的湧入以及恐怖襲擊事件的日漸增多,歐美的政治領袖已經把矛頭對準了互聯網上激進極端主義思想的傳播並且謀求互聯網公司採取措施。如果這類系統投入使用,有可能會被用於對付社交網路上面,歐美敵對分子的激進言論。

之前互聯網公司的主流做法是靠使用者來標識非法或受限制的內容。今年早些時候 Facebook 稱其使用者每天標記的內容數已經超過了 100 萬。Twitter 跟 ISIS 相關帳號玩打地鼠遊戲已經幾乎都喘不上氣,光今年2月就暫停了 12.5 萬個帳號Google 也稱 2016時,光一個月就收到了 7500 萬分 DMCA(數字千年版權法案)移除請求。顯然,光靠人力處理這些東西幾乎是不可能的。微軟、Twitter、Facebook 和 Google 等此前也有過自動處理的先例,不過內容主要是針對兒童色情照片。

不過據路透社援引兩位知情人士的消息,一些網上最大的視頻觀看網站,正在開始利用「自動化技術」來說移除網站上的極端內容,其中就包括了 YouTube 和 Facebook。

這種技術原先主要是用來識別和移除視頻網站上受版權保護的內容。工具會查找 「雜湊」—即自動分配給特定視頻內容的一個獨特的數位指紋,一旦發現該視頻內容的指紋與之匹配,工具就可以自動刪除該視頻,這是一個重大的調整。因為此前工具只是進行查找和標識的工作,但不會自動遮蔽內容。

但是這種做法也會引起大家的一些擔憂。首先是從技術上來說,「何謂極端言論」幾乎很難用技術的規則確定,這套壓制極端言論的系統也可能被濫用為壓制實際上並不極端的言論。其次是發表極端言論的人有可能會對自己的言論進行潤色,發表一些表面上不極端骨子裡很激進的內容,這套系統未必能識別出來。

所以這樣一套東西的推廣應用,真不知道是好事還是壞事。

 

資料整理自:36kr