您現在的位置是:首頁 > 互聯網網站首頁互聯網

Facebook的Deepfake禁令是真正的禁令嗎?

  • 互聯網
  • 2020-02-06 16:23:41

最近,Facebook官員表示,由于公司最近進行的一系列更改,它將禁止由人工智能操縱的視頻,以防止虛假信息在其網站上傳播。

該公司的高管還證實,該社交網站將刪除被人工智能更改的視頻,稱為Deepfake的視頻,這些視頻可能會誤導用戶,使他們認為視頻內容說的是他們不說的話。

領先的社交網絡平臺之一的Facebook在過去幾年中一直面臨困境。無論是在Cambridge Analytica案還是在2.67億Facebook用戶的個人數據暴露于在線數據庫的場合,Facebook都處在灰色陰影之下。此外,2016年競選期間平臺上虛假信息的傳播導致對該公司的廣泛批評。

通過禁止偽造品,Facebook試圖使仍然沮喪的學者,議員和政治運動平靜下來,并質疑該公司如何管理有關政治和政治人物的政治帖子和視頻。

假冒偽言最近在社交媒體上變得越來越普遍,它們也開始挑戰公眾對真實和非真實的期望。以前,計算機科學家曾警告說,機器用來制作圖像和聲音的新技術與真實事物相比是模糊的,可能會大大增加虛假或誤導性信息的數量。

例如,去年,加蓬政府發布了一個錄像帶。該錄像帶證明了他的總統的生活,他的總統在國外求醫。但是,總統的反對者聲稱這是假的。

為什么這個禁令不是它看起來的樣子

這家社交媒體公司指出,任何符合刪除條件的誤導性和可操縱媒體內容都將從Facebook上刪除。該公司還建立了兩套規則。

它已被修改或合成,超出了對清晰度甚至質量的調整范圍,對普通人而言并不明顯,并且很可能會誤導某人以為他們說的那些不帶視頻詞的主題。

它是人工智能和機器學習的產物,它將內容組合,替換并疊加到視頻上,從而使其具有真實性。

這些Facebook政策可能不適用于公司確定為諷刺的內容。如果有任何視頻不符合標準,Facebook可能仍會決定需要采取行動,并且任何社交網絡第三方事實檢查小組都會對其進行評估,該小組可以將內容標記為虛假。

如果發生這種情況,Facebook將大大降低其新聞源中內容的可見性,而未看到該內容的用戶將看到警告,指出該內容為假。這也意味著,即使內容完全錯誤且經過事實檢查,Facebook也不會將其從其網站中刪除。

如何檢測Deepfake?

Deepfake視頻很難被未經訓練的眼睛識別出來,因為它們非常不現實-既可以用作報復,操縱金融市場或削弱國際關系的個人武器,又可以描述人們做事和講話的Deepfake視頻他們從未說過的話,對視線相信不再有效的長期觀念構成了根本威脅。

通過顯示一個人的多個圖像的算法,然后使用它來生成新的人臉圖像,可以制作出大多數的深造品。同時,他們的聲音也得到了綜合,因此,無論是外觀還是聲音,就像該人在說些新話一樣。

科技公司正在尋找新技術來檢測Deepfake視頻并阻止其在社交媒體上傳播。但是,如果您嘗試訓練自己的眼睛,可以嘗試以下一些操作:

一個奇怪的眨眼。假面孔沒有真正的眼睛和淚管,無論真正的眨眼是什么樣,他們都沒有正確地做。

兩張臉的混合。它可以顯示出來,特別是在復雜的動作中。這是因為更多的動作意味著需要更多的鏡頭和原始的角度來做出令人信服的假貨。

面部動作和肌肉組織可能會生澀。例如,假頭的嘴巴可能會自動移動。

膚色和光線變化。當頭部旋轉時,視頻可能會抽搐,就像糟糕的視頻游戲圖形一樣。

Facebook Deepfake挑戰

去年9月,Facebook發起了Deepfake檢測挑戰賽,旨在創建數據集以及可用于檢測和防止AI操縱的媒體被發布到網站上的伴隨技術。

目前,那些仔細觀察的人可以通過分析視頻組件(如眉毛不規則,邊界偽影和陰影不一致)來檢測深度虛假。但是,deepfake技術的技術能力正在快速增長,從而導致了更高級的媒體操作,也很容易使受過良好訓練的眼睛蒙上陰影。

為了解決這個問題,Facebook 開始了一項預算為1000萬美元的挑戰,創建一個由現實世界參與者執行的動作數據集,以訓練網絡并幫助檢測被操縱的媒體。

防御假貨

盡管Deepfake于2017年出現,但已經被各種網絡犯罪所使用。由于Deepfake代表了一種新形式的網絡攻擊,因此沒有確定的措施可以應對。但是,有一些策略可以抵御深層造假,下面將對此進行討論:

1.檢測技術

組織可以保護自己的一種方法是找到一種可靠的方法來檢測Deepfake,最好通過自動化技術進行檢測。由AI驅動的檢測軟件提供了這樣的機會??梢杂柧氂糜趧摻ㄉ顚觽卧斓纳疃葘W習算法,以識別圖像或視頻已被更改的跡象。

2.安全協議充當預防性安全措施。

通過在組織中采用新的安全協議,您也可以保護自己。假冒騙人的可能性很高,但是如果涉及更多的人,其影響某人的能力將急劇下降。通過在可能需要深度仿造的情況下添加多個檢查,公司可以在遭受破壞之前就應對它。

由于黑客使用Deepfake進行電話和視頻通話,因此公司應建立計算機安全協議,以指定員工收到此類呼叫時應進行的檢查。

3.員工培訓與教育

大多數組織仍然不知道他們所施加的深造是什么樣的危險。公司可以通過向工人,經理和高級管理人員提供有關威脅性質的教育,以降低深層造假的風險。對員工進行有關安全風險和預防方法的培訓將使他們更加熟練地檢測到深層造假。

最后的想法

Deepfake可以讓我們瞥見網絡犯罪的未來。它們是技術如何誤導人們以可能危害我們所屬組織的方式行事的一個典型例子。隨著Deepfake威脅的威脅仍在增長,公司必須開始對Deepfake攻擊做好準備,方法是對員工進行教育,并在可行時整合技術措施。

Top fb怎么赚钱