您現在的位置是:首頁 > 機器人網站首頁機器人

適用于#MeToo的AI:用于發現在線巨魔的訓練算法

  • 機器人
  • 2020-02-06 16:26:48

加州理工學院的研究人員證明,機器學習算法可以監控在線社交媒體對話的發展,這有一天可能會導致一種有效且自動化的方式來發現在線巨魔。

該項目將人工智能(AI)研究人員Anima Anandkumar(布倫計算和數學科學 教授)和政治學教授Michael Alvarez的實驗室聯合起來 。他們的工作于12月14日在加拿大溫哥華舉行的2019年神經信息處理系統會議上的AI for Social Good研討會上進行了介紹。他們的研究團隊包括博士后學者劉安琪。加州理工學院的大三學生Maya Srikanth;斯坦福大學的Nicholas Adams-Cohen(MS '16,PhD '19)。

阿爾瓦雷斯說:“這是我對加州理工學院的最愛之一:跨越界限,發展社會科學與計算機科學之間的協同作用的能力。”

要防止在線騷擾,需要快速檢測到令人反感的,騷擾的和負面的社交媒體帖子,進而需要監視在線互動。當前獲取此類社交媒體數據的方法是完全自動化且無法解釋的,或者依賴一組靜態的關鍵字,而這些關鍵字很快就會過時。斯里坎特說,這兩種方法都不是很有效。

她說:“讓人類嘗試手工完成這項工作是不可擴展的,而這些人類可能有偏見。” “另一方面,關鍵字搜索受到在線對話發展速度的困擾。新術語出現了,舊術語改變了含義,因此真誠地使用一天的關鍵字可能在第二天被諷刺。

取而代之的是,該團隊使用GloVe(全球單詞表示向量)模型來發現新的相關關鍵字。GloVe是一個詞嵌入模型,意味著它代表向量空間中的詞,其中兩個詞之間的“距離”是其語言或語義相似性的量度。從一個關鍵字開始,此模型可用于查找與該單詞密切相關的其他關鍵字,以揭示實際使用的相關術語的群集。例如,在Twitter中搜索對話中對“ MeToo”的使用,產生了一系列相關的標簽,例如“ SupportSurvivors”,“ ImWithHer”和“ NotSilent”。這種方法為研究人員提供了一個動態且不斷發展的關鍵詞集來進行搜索。

但是僅僅知道某個對話是否與感興趣的話題有關還不夠。上下文很重要。為此,GloVe顯示了某些關鍵字的關聯程度,提供了有關其用法的輸入。例如,在一個專門針對厭女癥的在線Reddit論壇中,“女性”一詞與“性”,“消極”和“性交”密切相關。在有關#MeToo運動的Twitter帖子中,“女性”更可能與“公司”,“欲望”和“受害者”相關。

該項目是一種概念證明,旨在有一天為社交媒體平臺提供一種更強大的工具,以發現在線騷擾。Anandkumar參與了將“神經信息處理系統”會議的簡稱從其首字母縮寫“ NIPS”更改為“ NeurIPS”的活動,從而增強了對該主題的興趣。

“人工智能研究領域變得越來越具有包容性,但總有人抵制變革。”阿南德庫瑪爾說。他在2018年發現自己成為網上騷擾和威脅的目標,因為她成功地嘗試了使用首字母縮寫詞的努力,沒有潛在的冒犯性含義。 。“關于如何獲得丑陋的巨魔,這真是令人大開眼界。希望我們現在正在開發的工具將有助于將來應對各種騷擾。”

Top fb怎么赚钱