由AI生成的假馬斯克，成了最大的網絡騙子

　　8 月 15 日消息，據美媒報道，近年來，人工智能深度偽造技術(Deepfake)在網絡詐騙中廣泛應用，尤其是利用偽造的埃隆 馬斯克(Elon Musk)視頻進行詐騙的案例尤為突出。這些視頻通過模擬馬斯克的聲音和動作，誤導投資者。這類深度偽造視頻成本低廉、傳播迅速，使得詐騙者能夠輕易擴大其欺詐活動的影響范圍，導致許多受害者因為虛假的投資機會而損失巨額資金。隨著深度偽造技術的風險日益凸顯，其每年可能導致的欺詐損失預計將達數十億美元。

　　以下為翻譯全文：

　　現年 82 歲的退休老人史蒂夫 比徹姆(Steve Beauchamp)本希望為家人增加一些收入，他把希望寄托在了埃隆 馬斯克(Elon Musk)身上。去年底，比徹姆偶然看到一段視頻，視頻中馬斯克似乎在推薦一個承諾能迅速獲利的激進投資方案。受此啟發，比徹姆迅速聯系了該視頻背后的公司，并以 248 美元開設了一個投資賬戶。然而，在接下來幾周里，他逐步增加投資，最終從退休金賬戶中動用了超過 69 萬美元。

　　但不久后，這些錢就消失了，落入了一群利用人工智能進行新型數字詐騙的騙子之手。這些詐騙者巧妙地篡改了一段馬斯克的真實采訪，利用 AI 技術替換了他的聲音，并微調了他的口型，以匹配他們為這個數字人編寫的新劇本。對于一般觀眾來說，這種操作幾乎是察覺不出的。

　　比徹姆回憶起那段視頻，感慨地說：“視頻中的他，形象鮮明，一眼就能認出是馬斯克。至于是否是 AI 讓他說出那些話，我現在也無法確定。但就視頻畫面而言，如果有人要我從人群中識別他，我肯定能指出來。”

　　馬斯克成深度造假常客

　　近幾個月來，互聯網上充斥著數以千計的這種由 AI 驅動的視頻，這些被稱為“深度造假”(Deepfake)的視頻中，偽造的馬斯克形象誤導了眾多潛在投資者。據德勤估計，這類由 AI 支持的深度造假每年可能導致數十億美元的欺詐損失。

　　這些視頻制作成本極低，幾分鐘內即可完成，并通過社交媒體進行推廣，包括在 Facebook 上的付費廣告，大大擴展了它們的影響范圍。監測和檢測深度造假視頻的公司 Sensity 聯合創始人兼威脅情報主管弗朗西斯科 卡沃利(Francesco Cavalli)對此發出警告：“這可能是有史以來最大規模的深度造假騙局。”

　　這些視頻常常惟妙惟肖，精準捕捉了馬斯克標志性的不連貫語調和南非口音。詐騙者通常從一段真實的視頻入手，比如《華爾街日報》采訪，造假視頻中保留了記者的聲音，這增加了視頻的真實性。

　　利用先進的對口型技術，詐騙者調整了馬斯克的嘴部動作，使其與他們偽造的臺詞完美匹配。他們還使用了聲音克隆工具添加 AI 聲音，這些工具能從樣本片段中復制任何聲音。最終的廣告中，可能還包括偽造的圖形，模仿新聞機構的樣式，這對一般網絡用戶來說可能頗具說服力。

　　根據 Sensity 的分析，馬斯克是這些視頻中最常見的發言人。在近 2000 個分析樣本中，特別是從去年底開始，他出現在了近四分之一的深度造假詐騙中。在那些以加密貨幣為主題的視頻中，這一比例甚至高達近 90%。深度造假廣告還常常使用沃倫 巴菲特(Warren Buffett)這樣的著名投資者和亞馬遜創始人杰夫 貝索斯(Jeff Bezos)等商界大佬。

　　盡管很難準確統計出有多少深度造假在網絡上流傳，但通過搜索 Facebook 廣告庫中常用的與詐騙相關的語言，發現了數十萬條廣告，其中許多包括了深度造假視頻。雖然 Facebook 已刪除了許多違反政策的內容，并禁用了相關賬戶，但仍有其他視頻留在了網絡上，而且似乎每天都有更多視頻出現。

　　YouTube 也充斥著這些偽造的內容，這些視頻常常帶有“直播”標簽。事實上，這些都是預先錄制的深度造假視頻。在 YouTube 上搜索關鍵詞如“埃隆比特幣會議(Elon Bitcoin conference)”，可以看到數十個偽裝成直播的視頻，視頻中的深度造假馬斯克正在兜售加密貨幣詐騙，誤導性極強。

　　在美國前總統唐納德 特朗普(Donald J. Trump)在比特幣會議上發言后，YouTube 上迅速出現了數十個標注為“直播”標簽的視頻，展示了一段預先錄制的深度偽造馬斯克視頻，聲稱會加倍返還發送到他賬戶的任何加密貨幣。這些視頻雖然吸引了大量觀眾，其中一些視頻的觀看次數達到了數十萬。但 YouTube 表示，詐騙者可能使用網絡水軍人為夸大觀看次數。

　　據非營利消費者權益組織 Better Business Bureau 的報告，一名得克薩斯州居民在 2023 年 2 月通過 YouTube 上一段所謂的“直播”視頻，看到了偽裝成馬斯克的詐騙信息，因此損失了價值 36,000 美元的比特幣。該居民表示：“我轉了比特幣，但什么都沒收到。”

　　FB 與 YouTube 成重災區

　　YouTube 在一份聲明中表示，僅在今年 1 月至 3 月期間，平臺就移除了超過 1570 萬個頻道和超過 820 萬個視頻，這些內容大多因違反其反垃圾郵件政策而被刪除。

　　鑒于虛假廣告泛濫，澳大利亞億萬富翁安德魯 福雷斯特(Andrew Forrest)對 Facebook 的母公司 Meta 提起了民事訴訟，指責其在廣告業務中的疏忽，聲稱這些廣告業務誤導了無辜用戶進行錯誤投資。據悉，福雷斯特本人的視頻也被用于制作深度造假廣告。

　　Meta 公司回應稱，正在訓練自動檢測系統以識別平臺上的欺詐活動，但也坦言這是一場復雜的貓鼠游戲，因為資金充足的詐騙團伙不斷改變策略以逃避檢測。YouTube 則重申其禁止欺詐和視頻篡改的政策，并在今年 3 月要求所有創作者在使用 AI 創造逼真內容時必須進行明確披露。

　　網絡上充斥著大量相關的詐騙報告，其中不少人損失了他們的畢生積蓄。香港證券及期貨事務監察委員會在 5 月份發出了關于涉及馬斯克的詐騙活動的警告。今年早些時候，美國聯邦貿易委員會和聯邦調查局也警告美國民眾，AI 驅動的網絡犯罪和深度偽造詐騙正日益增多。

　　FBI 在一份電郵聲明中強調：“犯罪分子正在利用 AI 作為力量的放大器，使網絡攻擊和其他犯罪活動更加有效且難以被偵測。”

　　數字詐騙與互聯網的發展同步增長。但隨著去年復雜的 AI 工具向公眾開放，以馬斯克為特征的新一波深度偽造浪潮應運而生，這些工具讓普通人能夠克隆名人聲音或精確操控視頻，吸引了色情行業、表情包制作者和越來越多的詐騙團伙的注意。

　　網絡安全研究實驗室 CTM Insights 的創始人盧 斯坦伯格(Lou Steinberg)指出：“現在的情況正在發生變化，因為有組織的犯罪團伙已經發現，通過這種方式可以賺錢。”他預計，我們將看到越來越多的這種假冒企圖，目的就是騙錢。”

　　盡管 AI 生成的視頻并不完美，例如馬斯克的聲音在一些視頻中可能聽起來機械化，而且他的口型并不總是與臺詞不匹配。但專家警告稱，這些視頻對于一些詐騙目標來說已經足夠令人信服，并且隨著時間的推移技術正在不斷改進。

　　根據 Sensity 的卡沃利的說法，這些視頻的制作成本非常低，大約只需 10 美元，而且大多數詐騙者使用一系列免費或便宜的工具在不到 10 分鐘內拼湊出假視頻。他們主要位于印度、俄羅斯和東歐。

　　“它有效，”卡沃利說。“因此，他們將繼續擴大這一活動，跨越國界，用多種語言翻譯，并不斷向更多目標傳播詐騙。”

　　老年人成為完美目標

　　這類騙局常以高回報的人工智能投資軟件為幌子，初期誘使受害者投入小額資金 —— 如 250 美元。隨后，通過夸大投資的增值效果，逐漸誘導他們增加投資金額。

　　特斯拉股東大會的一條視頻也被偽造，視頻中馬斯克解釋了一個由 AI 驅動的自動交易產品，聲稱能夠每天翻倍投資回報。

　　研究加密貨幣社區的專家指出，馬斯克擁有一群獨特的全球粉絲群體，這些粉絲多為保守派、反體制人士和加密貨幣愛好者，他們經常尋找賺取財富的非傳統途徑，這使得他們成為這些騙局的理想目標。

　　“肯定有一群人相信財富的秘密被隱藏了起來，”研究加密貨幣社區的研究者莫莉 懷特(Molly White)說。她指出，部分人群總幻想掌握財富秘密，認為一旦找到便能一夜暴富。

　　詐騙者尤愛針對年長互聯網用戶，他們雖對加密貨幣、人工智能或馬斯克有所了解，但不熟悉安全投資方式的年長互聯網用戶。

　　“老年人一直是詐騙者眼中的一塊肥肉，這一現象甚至早于社交媒體的興起，”加州大學戴維斯分校的科學技術研究教授芬恩 布倫頓(Finn Brunton)說，他是加密市場的專家。

　　比徹姆是一名鰥夫，曾在加拿大安大略省的一家公司擔任銷售代表，直到 75 歲退休。2023 年加入 Facebook 后不久，他就遇到了廣告詐騙。盡管他記得曾在 CNN 的直播中看到過馬斯克，但 CNN 的一位女發言人表示，馬斯克已多年未在該臺接受過采訪。

　　去年 12 月，比徹姆向一家名為 Magna-FX 的公司匯款 27,216 美元，據他和該公司的電子郵件交流顯示，Magna-FX 使他相信他的投資價值在增加。期間，一名銷售代理甚至使用軟件遠程控制了比徹姆的電腦，擅自轉移資金。

　　當比徹姆嘗試提取資金時，他被告知需要支付 3,500 美元的管理費和另外 3,500 美元的傭金。他付了這些錢，但后來又被告知需要支付 20,000 美元才能釋放約 20 萬美元的資金部分。盡管他已經用盡了退休儲蓄，刷爆了信用卡，動用了信用額度并向妹妹借款投資和支付費用，詐騙者還是要求他支付更多費用。此時，比徹姆已意識到問題的嚴重性，于是聯系了警方。

　　Magna-FX 的大部分痕跡已經從網絡上消失，包括公司網站、電話號碼以及比徹姆曾與之交流的代理使用的電子郵件地址。一家名稱和服務相似的公司對評論請求未作回應。

　　比徹姆在提交給 Better Business Bureau 的報告中表示：“此刻，我愿接受所有指責與嘲諷，作為對自己輕信的懲罰。”

　　他表示，目前正依靠一個未向詐騙者透露的較小退休賬戶及養老金來維持生計，而他原本計劃使用這些積蓄環游世界。比徹姆已經向當地警方報案，但案件進展緩慢。

　　“由于到處都是欺詐案件，我的案件被放在了隊列中，”他說，“我沒有抱太大希望。”