怎樣辨識出「AI臉」？
圖像來源，ANU (left; generated using StyleGAN3) / Igor Alecsander via Getty Images (right)
- Author, 凱薩琳·希斯伍德（Catherine Heathwood）
- Role, BBC 國際部
- Published
- 閱讀時間: 3 分鐘
2024年，一名香港金融從業員與工程顧問公司奧雅納（Arup）的同事進行視訊會議，討論一宗機密收購案時，一切看似再普通不過。
直到匯出2500萬美元款項後，他們才發現自己被騙了。視訊中的其他人，包括看似是財務長的那個人，全是AI生成的深度偽造影像。
AI生成的臉孔越來越難與真人分辨，根據顧問公司德勤（Deloitte）2024年的報告，使用生成式AI的詐騙預計到明年僅在美國就會造成400億美元的損失。
這正是澳洲國立大學（ANU）心理學副教授艾美·道爾（Amy Dawel）想了解的原因之一——我們是否都能接受訓練，更有效地辨識AI生成的臉孔。
「我們現在辨認AI臉孔的能力真的很差，」她說，研究顯示我們的表現不比五五開的猜測好，甚至更差。
那麼，你辨別AI臉孔與真人臉孔的能力有多好？
「超真實」的AI臉
若您在上述測試中感到困難，其實您並不孤單。
道爾指出，難以辨識AI臉孔會帶來真實世界的後果，影響我們所有人，「無論是網路釣魚、交友網站，還是針對我們的銀行帳戶」。
在今年6月發表於《美國國家科學院院刊》（PNAS）的一項研究中，道爾博士與澳洲、加拿大和蘇格蘭的同事測試了一種新的訓練方法。
因為隨著AI技術進步，現代系統已大致修正了明顯錯誤，道爾表示，詐騙者不太可能使用帶有瑕疵的影像。
對此，研究人員並非教人去尋找不匹配的耳環或扭曲特徵等明顯破綻，而是訓練他們對每張臉孔整體做出直覺判斷。
道爾解釋說，「問題之一是，我們預期AI臉孔會看起來很奇怪，這是基於過去的經驗，但實際上是人類臉孔才不完全對稱、有點怪異，所以整個邏輯已經顛倒了」。
道爾實驗室先前的研究發現，AI生成的臉孔被判定為真人的頻率，比實際人類臉孔還高——他們將此現象稱為「AI超真實感」（AI hyperrealism）。
由於AI演算法傾向於取其訓練的數萬張臉孔的數學平均值，「AI臉孔實際上看起來比人類臉孔更平均，或是『超平均』，」道爾指出。
這「讓它們感覺更值得信任、看起來更有吸引力，也感覺更熟悉」於真實人類臉孔。
但是，該研究僅針對白人AI生成臉孔。
AI演算法往往不成比例地以白人臉孔進行訓練，因此這些臉孔可能比其他族裔的臉孔顯得特別真實。
圖像來源，JohnnyGreig via Getty Images (left) / seb_ra via Getty Images (right)
訓練
在最新研究中，研究團隊首先檢測了45名成年人一開始辨識AI生成臉孔的能力。
在一項測試中，他們被展示一系列三張臉孔，並被要求挑出AI那一張。他們平均答對率為41%。
參與者隨後接受了約一小時的訓練。道爾說，訓練內容包括展示約100張臉孔——一半真實、一半AI生成——並要求他們針對六項整體特徵評分：獨特性、可記憶性、表情豐富度、對稱性、比例協調性與吸引力。
根據道爾的說法，人類臉孔往往更獨特、更易記憶、表情更豐富；而AI生成的臉孔則通常更對稱、比例更協調、更有吸引力。
「我們甚至不會告訴他們AI臉孔更對稱，」她說。「他們只需要對對稱性評分。系統會告知這些是AI還是真人，透過這種接觸，他們會逐漸感受到兩者看起來有何不同。」
平均而言，參與者在訓練後的準確率大致翻倍，達到上述測試的81%。
作為這項研究的後續，加拿大的合作者對另一組志願者進行了相同的訓練。
道爾表示，他們「分別分析數據後，發現了同樣強大的效益」。
人類的本能
心理學家，研究視覺感知的英國伯恩茅斯大學埃斯圖迪略博士（Dr Alejandro Estudillo）並未參與這項研究。
但，他告訴BBC，當他讀到這項研究時感到驚訝，因為它與其他人使用的方法背道而馳。
圖像來源，JONATHAN NACKSTRAND/AFP via Getty Images
他還分析，這種新方法的美妙之處在於它利用了我們的自然本能。
「人類並不是靠聚焦個別特徵來處理臉孔。相反，我們使用的是所謂的整體處理，」他解釋道，也就是把所有特徵整合成一個整體，以便有效辨識。
例如，當你對臉孔的獨特性或對稱性評分時，你不會只盯著某個特定特徵，而是必須關注整張臉。
「沒有人想過，或許最好的方法其實是告訴參與者，用他們日常生活中自然處理臉孔的方式來進行，」埃斯圖迪略解釋。
「貓捉老鼠」
不過，這項研究也有其限制。
道爾表示，這套訓練已證明對目前最逼真的AI臉孔生成器之一StyleGAN3高度有效，但仍需在其他AI模型上進行測試。
「我們所有的參與者都是年輕人，因此有一些關鍵問題有待解答：這套訓練是否適用於兒童，以及我們知道特別容易成為詐騙目標的年長者，」她補充道。
研究人員還指出，真正的挑戰在於人類現在正與不斷進步的AI系統賽跑。
目前，已有使用演算法偵測AI生成內容的自動化工具，但這些工具也有限制。它們可能只對特定AI產品有效，且當新模型出現或影像被編輯時，可能會難以應付。
因此，研究人員強調，在辨識AI深度偽造影像時，保持人類的核心角色至關重要。
道爾說，「這是一場貓捉老鼠的遊戲，就像電腦病毒一樣，它們不斷變化，我們也必須不斷調整才能跟上。」
儘管如此，她認為這些研究結果提供了「令人抱持希望的充分理由」。
她還建議，未來或許可以開發類似的訓練，幫助人們辨識AI生成的語音和影片，而不只是靜態臉孔——如此一來，我們或許都能更有效地判斷，自己是否正與真實的同事通話，還是面對AI深度偽造影像。
我們使用了人工智慧協助翻譯這篇文章，它的原文是英文。在發佈之前，BBC記者檢查了翻譯的內容。
