隨著演算法的進步，透過AI合成文本、音訊、影像越來越容易且真假難辨，甚至被作為武器或是惡性商業，如前陣子的大量女網紅的臉部被使用deepfake換臉成AV影片，更甚至近期烏克蘭總統的投降假影片，這項原本為了電影、動畫、遊戲產業而生的合成技術已經開始失控。
生成對抗網路(GAN)是現在常用的合成機制，電腦可以自動透過生成器與鑑別器反覆運算學習合成出逼真的人臉，且類似強化學習，當合成的面孔與真實面孔是可區分的，那麼鑒別器會懲罰生成器，反覆訓練直到從每個像素中都找不到破綻，此份研究就展示了高技術力下，合成的臉不僅具有高度的照片級真實感，而且與真實人臉幾乎無法區分，並且被認為更像是人應該有的長相，研究者展示了這項技術的非凡也表明了此技術的危險性，且目前還原照片真實性的技術自動性與精準性尚待發展，作者對此項技術的未來發展和危險性提出明確的警訊，並希望研究人員，出版商和媒體分銷商皆要納入道德準則中且瞭解這類虛假與真實模糊的文本、音訊、影像在傳播時的影響力。
 |
| 1.你能看出哪位是真人的照片嗎? |
 |
| 2.GAN有著生成器與鑑別器的機制來學習，簡單來說就像是畫家與鑑定師，畫家不斷學習偽畫直到鑑定師分不出來時，完美的偽物就完成了，同理當GAN學習到最後，完美的合成人臉也就產生了。 |
 |
| 3.原本是力善於動畫電影而產生的技術，隨著人們的惡意使用逐漸開始失控。圖為惡靈古堡8人氣反派蒂米特雷斯庫夫人的臉模 Helena Mankowska。 |
 |
| 4.研究中呈現的真實與虛假的人臉 |
 |
| 5.進行人像可信度對比，最值得信賴的四張(上)最不值得信賴的四張(下)，分數由1~7越高越值得信貸給予，然而前三個最值得信賴的面孔都是是合成的假臉 |
 |
| 6.真實的自己與合成的自己，已經可以達到真假難辨，以假亂真了 |
撰文：徐楷昕
參考資料：
1. Nightingale, S. J., & Farid, H. (2022). AI-synthesized faces are indistinguishable from real faces and more trustworthy.
Proceedings of the National Academy of Sciences, 119(8), e2120481119.
https://www.pnas.org/doi/10.1073/pnas.2120481119
留言
張貼留言