對(duì)抗網(wǎng)絡(luò)霸凌人工智能成Instagram首選武器
Instagram正面臨著所有社交媒體網(wǎng)站中都會(huì)遇到的問(wèn)題網(wǎng)絡(luò)霸凌的問(wèn)題。但是，Instagram并沒(méi)有像Facebook和Twitter那樣，讓用戶(hù)承擔(dān)責(zé)任，而是通過(guò)使用機(jī)器學(xué)習(xí)來(lái)消除平臺(tái)上言語(yǔ)的攻擊行為。
反霸凌慈善機(jī)構(gòu)DitchtheLabel最近進(jìn)行的一項(xiàng)調(diào)查發(fā)現(xiàn)，在12至25歲的英國(guó)青少年中，有42％的人認(rèn)為Instagram是讓他們感到最受欺負(fù)的平臺(tái)，KUKA機(jī)器人電路板維修，而這在Facebook和Twitter上分別僅為37％和9％，遠(yuǎn)遠(yuǎn)低于Instagram。此外，71％的被調(diào)查者認(rèn)為所有社交媒體在阻止網(wǎng)絡(luò)霸凌方面做得還很不夠。
尋找解決方案
為了解決網(wǎng)絡(luò)霸凌問(wèn)題，Instagram最近宣布了一項(xiàng)新戰(zhàn)略：集成機(jī)器學(xué)習(xí)算法來(lái)檢測(cè)和阻止其平臺(tái)上的潛在霸凌行為。該公司的首席執(zhí)行官兼聯(lián)合創(chuàng)始人KevinSystrom在一篇博文中表示，這項(xiàng)研究的目的是為了在Instagram上建立一個(gè)友善、包容的社區(qū)。
Instagram正在使用DeepText機(jī)器學(xué)習(xí)算法來(lái)嘗試解決網(wǎng)絡(luò)霸凌問(wèn)題。在2016年6月，F(xiàn)acebook的工程師們推出了DeepText，它作為基于深度學(xué)習(xí)的文本理解引擎，以近乎人類(lèi)的準(zhǔn)確度，每秒可以理解數(shù)千個(gè)帖子的文本內(nèi)容，同時(shí)還能實(shí)現(xiàn)上下文聯(lián)想功能。
通過(guò)深度學(xué)習(xí)，DeepText使用了人腦神經(jīng)網(wǎng)絡(luò)建模的算法，像人類(lèi)大腦一樣工作，通過(guò)演繹推理來(lái)確定某個(gè)單詞在特定語(yǔ)境下的意思。
例如，如果有人使用mole這個(gè)詞，DeepText則會(huì)識(shí)別用戶(hù)指的是小型哺乳動(dòng)物、皮膚瑕疵還是叛徒。Facebook使用該系統(tǒng)篩選數(shù)千個(gè)帖子，更好地理解用戶(hù)，旨在創(chuàng)造一個(gè)更好、個(gè)性化的用戶(hù)體驗(yàn)，來(lái)滿(mǎn)足個(gè)人興趣。
后來(lái)，2016年10月，Instagram又通過(guò)DeepText來(lái)消除垃圾郵件。該算法針對(duì)尋找企圖出售產(chǎn)品的組織，分析暗示數(shù)據(jù)是否為垃圾郵件。
DeepText的成功讓Instagram也在考慮該系統(tǒng)的其他用途。在2017年6月的博客文章中，機(jī)器人維修，Systrom宣布該公司將使用DeepText作為阻止某些令人反感評(píng)論的過(guò)濾器。該平臺(tái)使用最初由Facebook創(chuàng)建的技術(shù)來(lái)創(chuàng)建一個(gè)過(guò)濾器，為用戶(hù)建立一個(gè)安全的環(huán)境。
其他社交網(wǎng)站
網(wǎng)絡(luò)霸凌并不是Instagram獨(dú)有的問(wèn)題其他主流的社交媒體網(wǎng)絡(luò)也在為其用戶(hù)做出安全方面的改變。
康奈爾大學(xué)的研究生JohnDavidson也是很多關(guān)于社交媒體中網(wǎng)絡(luò)霸凌論文的合著者，他在談到Twitter時(shí)表示，機(jī)器學(xué)習(xí)算法已被證明是檢測(cè)不良言論和網(wǎng)絡(luò)霸凌的有效方法。Davidson表示，諸如邏輯回歸模型、NBayes、隨機(jī)森林、支持向量機(jī)等各種不同的算法都被證實(shí)是有效的。但是，他表示所有這些方法的關(guān)鍵都是依賴(lài)監(jiān)督學(xué)習(xí)，這是一種使用標(biāo)簽訓(xùn)練數(shù)據(jù)進(jìn)行推理的機(jī)器學(xué)習(xí)策略。Davidson表示，KUKA機(jī)器人維修，他的研究涉及收集數(shù)百萬(wàn)個(gè)具有潛在可能的網(wǎng)絡(luò)霸凌（種族誹謗等等）推文，并為它們打上標(biāo)簽，然后將這些數(shù)據(jù)提供給算法。Davidson補(bǔ)充表示，這些例子用于訓(xùn)練算法，之后它應(yīng)該能夠自己區(qū)分出不良的言論。
Twitter在2016年11月發(fā)布博客文章，發(fā)布了通知靜音功能以及仇恨行為策略，為用戶(hù)提供更直接的方法來(lái)阻止濫用媒體的行為。雖然這些努力正在試圖阻止網(wǎng)絡(luò)霸凌，但是屏蔽攻擊性的通知并不會(huì)使推文不存在。
Facebook試圖通過(guò)建立BullyingPreventionHub（霸凌預(yù)防中心）來(lái)減少網(wǎng)絡(luò)霸凌事件。當(dāng)青少年、家長(zhǎng)和教育工作者自身或者他們認(rèn)識(shí)的某個(gè)人遭到霸凌時(shí)，這個(gè)中心就是他們可以使用的資源。雖然為開(kāi)啟網(wǎng)絡(luò)霸凌對(duì)話(huà)提供了寶貴的建議，但Facebook的欺凌預(yù)防中心并沒(méi)有直接采取任何行動(dòng)來(lái)正面消除攻擊的內(nèi)容。該公司只用該工具根據(jù)用戶(hù)的興趣向用戶(hù)推薦內(nèi)容。
DeepText的優(yōu)缺點(diǎn)
盡管如此，這些努力還遠(yuǎn)不能夠完全阻止網(wǎng)絡(luò)霸凌。
謝菲爾德大學(xué)的博士生ZeerakWaseem專(zhuān)注于辱罵語(yǔ)言檢測(cè)和Twitter上的仇恨言論，他表示，這些嘗試沒(méi)有效果。
為什么？雖然Twitter和Facebook在抑制網(wǎng)絡(luò)霸凌方面都取得了長(zhǎng)足進(jìn)展，但I(xiàn)nstagram是第一個(gè)使攻擊性評(píng)論自動(dòng)消失的社交網(wǎng)站。Systrom的博文和Wired都解釋了人工智能目前在Instagram帳戶(hù)上的運(yùn)行情況。如果用戶(hù)發(fā)布令人反感或騷擾的語(yǔ)言，DeepText會(huì)捕獲并立即刪除它。Wired報(bào)道說(shuō)，為了防止霸凌者試圖戲弄該系統(tǒng)，攻擊性的言論仍然可以被犯罪者看到。用戶(hù)還可以手動(dòng)輸入要阻止的單詞或短語(yǔ)，通過(guò)阻止每個(gè)用戶(hù)設(shè)定的獨(dú)特的觸發(fā)詞，使DeepText更加有效。
然而，DeepText并不完美。
Instagram的機(jī)器學(xué)習(xí)算法自動(dòng)集成在平臺(tái)上，但一些不良言論仍然可以繞過(guò)該工具。Waseem說(shuō)，隱含的侮辱，如昵稱(chēng)或誹謗的代號(hào)會(huì)讓DeepText難以發(fā)現(xiàn)。而且，該功能可以輕松關(guān)閉。只要用手指點(diǎn)擊隱藏攻擊評(píng)論就可以切換關(guān)閉狀態(tài)，如果它的任務(wù)是消除網(wǎng)絡(luò)霸凌，這似乎是違反直覺(jué)的。言論自由與創(chuàng)造一個(gè)擺脫仇恨言論的環(huán)境之間的界線(xiàn)是不容易找到的。Davidson補(bǔ)充表示，機(jī)器學(xué)習(xí)不是一個(gè)能夠阻止網(wǎng)絡(luò)霸凌或網(wǎng)絡(luò)不良言論的萬(wàn)能藥。機(jī)器學(xué)習(xí)可以幫助被欺負(fù)的用戶(hù)體驗(yàn)更好，但沒(méi)有技術(shù)會(huì)阻止個(gè)人說(shuō)壞話(huà)。
DitchtheLabel的首席執(zhí)行官LiamHackett認(rèn)為，Instagram平臺(tái)上年輕用戶(hù)眾多，網(wǎng)絡(luò)霸凌的問(wèn)題也最為嚴(yán)重。侮辱形形色色，從對(duì)照片的負(fù)面評(píng)論到霸凌者創(chuàng)造假帳戶(hù)來(lái)攻擊目標(biāo)人群都有。
Hackett贊揚(yáng)了Instagram的努力，并且認(rèn)為機(jī)器學(xué)習(xí)策略是多么明智，社交網(wǎng)絡(luò)應(yīng)該更多地投資于這項(xiàng)技術(shù)。他提到Instagram如何使用人工智能在反網(wǎng)絡(luò)霸凌的運(yùn)動(dòng)中取得了很大的進(jìn)步，人工智能真的在改變游戲。
并且，除了防止霸凌，DeepText還有其他功能可以幫助企業(yè)深入了解客戶(hù)的興趣。
問(wèn)題的根源
機(jī)器學(xué)習(xí)在情感層面上邁出了正確的一步。然而，解決不良網(wǎng)民為什么會(huì)在這些平臺(tái)上持續(xù)不斷進(jìn)行言論攻擊是一個(gè)更大的問(wèn)題。
Hackett表示，互聯(lián)網(wǎng)使人類(lèi)變得不那么人性化，舒舒服服地躲在屏幕后面侮辱其他用戶(hù)比在面對(duì)面的時(shí)候說(shuō)出這些侮辱性的言辭要容易得多。線(xiàn)下的人際關(guān)系具有隱含的行為準(zhǔn)則這是一種不言而喻的社會(huì)規(guī)范。在互聯(lián)網(wǎng)上卻并不總是遵循同樣的準(zhǔn)則。
作為今年最受歡迎的社交媒體網(wǎng)絡(luò)之一，Instagram擁有7億的活躍用戶(hù)，并且用戶(hù)數(shù)還在快速增長(zhǎng)，在四個(gè)月的時(shí)間內(nèi)即可獲得1億新用戶(hù)。然而，用戶(hù)數(shù)量的增加也同時(shí)帶來(lái)了傷害性?xún)?nèi)容和冒犯性語(yǔ)言的增加。
Hackett指出，程序本身可能不是教導(dǎo)人們?cè)诰W(wǎng)上相互尊重的完全解決方案。