社會人文

TikTok爆紅!AI換臉打造「阿湯哥」虛擬人生超逼真 網友:不敢再信任

利用深度學習出現的AI新技術「Deepfake」大大的改變了影像的真實性!TikTok上@deeptomcruise帳號在發佈了一系列「湯姆克魯斯」的生活影片後,卻承認帳號中的阿湯哥全是創作者Chris Ume利用「Deepfake」製作出來的「假阿湯哥」,消息一出網友紛紛驚呼「這根本分不出來!」

 

Deepfake技術在台灣並不盛行,但在西方國家卻曾經引發多次爭議,2018年一位印度女記者拉娜・艾雅伯(Rana Ayyub)在揭露一則性侵事件後,被報復性的瘋傳Deepfake色情影片、知名女藝人蓋兒・加朵(Gal Gadot)及史嘉蕾・喬韓森(Scarlett Johansson)等百位國際女星也曾被用來偽造名人性愛影片,接二連三的事件雖然引起討論,但依舊沒有減緩Deepfake的發展,如今只要買到一張臉就可以製作深偽影片,引發更多外界質疑。

圖片來源:Youtube@Quint Neon

但創作者Chris Ume則抱有不同的看法,Ume表示「Deepfake目前不支援一鍵生成的功能,因此要製作深偽影片必須經過專業特效後製,其耗費的精力不亞於專業的電影製作,因此一般人想要製作出『人們完全分辨不出來』的深偽影片,其實還是非常困難的。」

圖片來源:Youtube@VFXChris Ume

「假阿湯哥」的影片在TikTok上獲得成功,也要歸功於頂級湯姆克魯斯模仿者Miles Fisher,過去Fisher曾模仿「湯姆克魯斯」競選總統的影片可以看見,即便只是快速移動也會有「阿湯哥本尊」出演的錯覺,但即便是如此相像的模仿者出演,Ume也必須花上數周後製,才能讓深偽影片達到難辨真偽的效果。

所幸,Ume沒有把Deepfake技術用在危險的事上,他強調自己創作這一系列影片都保證「無害」,創作目的只是希望能「玩得開心並讓人們露出笑容」。真相曝光後,美國TikTok發言人也表示該帳號在Deepfake使用範圍完全府合官方允許的標準,因此仍可以持續發布。

@deeptomcruiseMy 🐢 impression…♬ origineel geluid – Tom

在TikTok上一窺大明星的生活的確很有趣,但@deeptomcruise的逼真程度也讓我們更驚覺危機的可能性,呼籲各大機關加緊擬定相關措施外,民眾也要仔細分辨影片中不自然的地方,謹慎分辨網路資料的真實性,才能避免上當受騙。

文字編輯:Lively
| 核稿編輯:Alin
文章由科學最前線整理製作,請勿任意轉載
【延伸閱讀】

【誠徵專欄作家】你喜歡寫作嗎?你擅長用文字觸動人心嗎?《科學最前線》邀請對寫作充滿熱情,正經營個人粉絲團或部落格的你,加入專欄作家行列!歡迎來信投稿科學實驗、生物驚奇、奇聞發現主題文章,並於文末附上100字內的作者自介。文章經編輯部潤飾後更有機會刊登在《科學最前線》FB專頁,快點把握機會點我投稿吧!

利用深度學習出現的AI新技術「Deepfake」大大的改變了影像的真實性!TikTok上@deeptomcruise帳號在發佈了一系列「湯姆克魯斯」的生活影片後,卻承認帳號中的阿湯哥全是創作者Chris Ume利用「Deepfake」製作出來的「假阿湯哥」,消息一出網友紛紛驚呼「這根本分不出來!」

 

Deepfake技術在台灣並不盛行,但在西方國家卻曾經引發多次爭議,2018年一位印度女記者拉娜・艾雅伯(Rana Ayyub)在揭露一則性侵事件後,被報復性的瘋傳Deepfake色情影片、知名女藝人蓋兒・加朵(Gal Gadot)及史嘉蕾・喬韓森(Scarlett Johansson)等百位國際女星也曾被用來偽造名人性愛影片,接二連三的事件雖然引起討論,但依舊沒有減緩Deepfake的發展,如今只要買到一張臉就可以製作深偽影片,引發更多外界質疑。

圖片來源:Youtube@Quint Neon

但創作者Chris Ume則抱有不同的看法,Ume表示「Deepfake目前不支援一鍵生成的功能,因此要製作深偽影片必須經過專業特效後製,其耗費的精力不亞於專業的電影製作,因此一般人想要製作出『人們完全分辨不出來』的深偽影片,其實還是非常困難的。」

圖片來源:Youtube@VFXChris Ume

「假阿湯哥」的影片在TikTok上獲得成功,也要歸功於頂級湯姆克魯斯模仿者Miles Fisher,過去Fisher曾模仿「湯姆克魯斯」競選總統的影片可以看見,即便只是快速移動也會有「阿湯哥本尊」出演的錯覺,但即便是如此相像的模仿者出演,Ume也必須花上數周後製,才能讓深偽影片達到難辨真偽的效果。

所幸,Ume沒有把Deepfake技術用在危險的事上,他強調自己創作這一系列影片都保證「無害」,創作目的只是希望能「玩得開心並讓人們露出笑容」。真相曝光後,美國TikTok發言人也表示該帳號在Deepfake使用範圍完全府合官方允許的標準,因此仍可以持續發布。

在TikTok上一窺大明星的生活的確很有趣,但@deeptomcruise的逼真程度也讓我們更驚覺危機的可能性,呼籲各大機關加緊擬定相關措施外,民眾也要仔細分辨影片中不自然的地方,謹慎分辨網路資料的真實性,才能避免上當受騙。

文字編輯:Lively
| 核稿編輯:Alin
文章由科學最前線整理製作,請勿任意轉載
【延伸閱讀】

【誠徵專欄作家】你喜歡寫作嗎?你擅長用文字觸動人心嗎?《科學最前線》邀請對寫作充滿熱情,正經營個人粉絲團或部落格的你,加入專欄作家行列!歡迎來信投稿科學實驗、生物驚奇、奇聞發現主題文章,並於文末附上100字內的作者自介。文章經編輯部潤飾後更有機會刊登在《科學最前線》FB專頁,快點把握機會點我投稿吧!

Lively