互不相見的網路上，人們發言往往比面對面更肆無忌憚，進而導致霸凌行為頻傳。為了減少平台上的言語暴力，Instagram宣布推出兩項新功能，要以AI技術將霸凌的幼苗扼殺在搖籃之中。
自網際網路誕生以來，網路霸凌一直是個難以解決的問題，甚至不時成為少年少女輕生的導火線。作為深受年輕人喜愛的社群平台，Instagram希望能為這樣的現象帶來改變，創造一個任何人都能放心表達自我、交流喜好的空間。
想要留言攻擊別人？AI先問「你確定嗎？」
過去數年來，Instagram一直試圖透過AI技術，將霸凌行為防範於未然，近日更進一步推出新功能，可在用戶發言前檢視內容，標記出具有攻擊性的言論。
如果AI認定你輸入的內容具有攻擊性，有言語暴力疑慮，那系統就會率先通知，詢問「你確定想張貼這則貼文嗎？」給予每位用戶自省的空間，避免一時衝動而逞口舌之快，傷害網友甚至整個社群。
在用戶發送攻擊性消息前，系統會率先詢問「你確定嗎？」
圖片來源：Instagram
Instagram透露，在早期測試中，這項AI技術成功勸阻部份用戶的霸凌行為，讓他們重新分享一些沒那麼具殺傷力的內容。
以AI找出霸凌言論很重要，但難免會有漏網之魚，提供用戶、社群保護自己的手段也是同樣要緊的一件事。Instagram表示，年輕用戶往往害怕霸凌變得更為嚴重，而不願舉報、反抗霸凌行為，尤其霸凌者是現實認識的人時更是如此。
Instagram推出的另一項限制用戶功能，便是讓用戶隱藏掉其他人的言論，且不會被發現。
當你將一位用戶設定為限制狀態時，其他人便無法在你這看見他發表的言論。
圖片來源：Instagram
不同於強硬的封鎖用戶功能，被隱藏掉的用戶依舊能在你的貼文上留言，一如既往地進行活動，但其他人不會看見被限制用戶留下的內容，換句話說，只有他能看見他自己留下的攻擊性言論。另外，被限制的用戶無法看見你的即時活動，也不能知道你是何時閱讀他的私訊。
防青少年做傻事，Instagram杜絕霸凌行為
2017年時，一位14歲英國少女茉莉．羅素（Molly Russell）走上絕路，今年年初，她的父親控訴Instagram推播的負面內容，是害死女兒的幫兇。從這時起，Instagram對孩童帶來的負面影響受到嚴厲檢視。
4月底舉辦的F8開發者大會上，Instagram負責人亞當．莫瑟里（Adam Mosseri）表明，他們正把焦點放在解決霸凌問題上。如今推出的新功能，可說是兌現了當初的承諾。
Instagram表示，杜絕霸凌行為是一個漫長的過程，這次推出的新功能，不過是這漫漫長路上的兩小步，未來他們也將繼續投入解決霸凌問題，並計劃會有更多後續更新。
文章授權自《數位時代》網站