AI還沒造福人類 就已經先作惡了？

　　人工智能技術，也就是大家常說的AI，一直都被塑造成有著美好想象空間，是未來世界不可或缺的重要技術領域。

　　比如馬云曾說，未來30年智能技術將深入到社會方方面面，徹底重塑傳統制造業，不會用智能技術的企業都將失敗。

　　比爾蓋茨也曾坦言，如果在今天尋找一個能對世界造成巨大影響的機會，他毫不猶豫地會選擇人工智能。

　　有幾個節點也讓大眾明確感受到了AI的能量。

　　曾經全球矚目的AlphaGo擊敗了圍棋世界冠軍，證明了AI算力可以輕松超越最頂尖的人類圍棋高手;如今ChatGPT以及衍生應用生態的爆火，也讓人們看到了AI大模型潛在的無限可能性。

　　今年在資本市場，人工智能同樣再度爆火了一輪。天眼查平臺統計數據顯示，2023上半年資本力捧人工智能市場，月均融資事件達48起，其中5月融資數量最多，有61起。

　　2023全球數字經濟大會人工智能高峰論壇、2023世界人工智能大會等上半年科技圈的重磅大會，都把人工智能中的大模型、AGI(通用人工智能)等作為標配的重磅話題。

　　然而，在我們暢想并努力通往人工智能美好未來的同時，也不該忽略人工智能正在產生的“惡”。至少目前從現實來看，人工智能帶來的東西，似乎并不如想象般美好。

　　AI，早已在作惡

　　你有沒有想過，在熱鬧的社交輿論平臺上活躍著的，或許根本不是人，而是一個個被人工智能訓練出來的，有著人類語言風格的升級版“僵尸號”?

　　早在2017年，這種操作就已經受到了學者、媒體的關注。彼時鈦媒體在一篇報道中援引了芝加哥大學的一篇研究論文，稱人工智能可以被用來生成虛假、復雜的內容信息，足以達到以假亂真的效果。

　　如今這樣的功能其實早已是AI最為基礎的能力之一了。例如完全對普通用戶開放的微軟AI工具NewBing上，太平洋科技簡單提出了生成文本的需求，給大眾點評榜單上熱度很高的餐廳寫幾條打卡點評，具體結果可以看下圖。

　　無論正面還是負面評價，任何一個用戶都可以使用NewBing來快速生成。從結果也可以看到，這些打卡點評內容，有著豐富的細節，語言風格和表達口吻也接近人類用戶，可以說基本與真人寫的打卡點評相差無幾。

　　當然這只是列舉一個最基礎的案例，要形成所謂的AI水軍，必然還有更高級的玩法。雷鋒網就曾報道稱，經營AI水軍產業的公司往往會使用循環神經網絡、AI語言模型對海量的“僵尸賬號”進行訓練，以網上大量的評論素材做訓練素材。

　　這樣生成的AI水軍賬號，可以按照雇主的需求，在網絡平臺中“指哪打哪”，比如引導輿論風向，抹黑帶節奏，造謠中傷等等。這些AI賬號輸出的內容，不僅可以躲避軟件檢測，也讓網絡水軍公司實現了“降本增效”。

　　這類問題在全球互聯網中都普遍存在。比如2019年末，Facebook關閉了大量的博主、用戶賬號，原因是平臺發現有人使用了AI能力，將這些賬號偽裝成真實用戶，有目的地發布大量虛假消息。

　　還有一些有趣的事情或許可以從側面印證這個問題。今年6月，歌手孟美岐發了一條宣傳自己北京演唱會的微博，很快評論區就有數萬“粉絲”涌進來留言，一條條“北京見”之類的留言，看起來就像一個個等待激動赴約，到演唱會應援偶像的粉絲。

　　然而尷尬的地方來了，孟美岐北京演唱會的場地只能容納1000多名觀眾，臨近演唱會開場日期了，這1000多張票還是沒賣完。這也讓輿論調侃孟美岐微博的評論區有著大量偽裝成真人粉絲的AI水軍，評論數據很好看，但演唱會門票卻賣不完。

　　“商業投流里面一直都有水分，有水軍或者AI水軍在濫竽充數。”有從事流量投放、運營工作的投手對太平洋科技表示，流量往往按照曝光數來計算費用，在真實流量中摻雜一些僵尸號是常見的情況，有了AI的加持，這種坑廣告主的行為就更難被發現了。

　　該投手也列舉了案例，比如廣告主在付費投放之后，直播間突然涌進大量的賬號，看似人氣漲了，但實際這些賬號基本只會刷屏“大拇指”，或者清一色發“早上好”、“晚上好”這樣的固定句式，完全沒有任何訂單轉化。

　　向平臺客服投訴，得到的答復也基本是說這些都是真人用戶的個人行為。廣告主也無法分辨這究竟是AI水軍來濫竽充數，還是投流失誤導致的非精準流量。廣告主錢花了，事一點沒辦成，相當于只能吃啞巴虧。

　　AI，也在污染“當下”

　　“我現在每天的創作，其實相當于AI洗了別人的稿，我再稍微洗一下AI的稿。”自媒體從業者阿波對太平洋科技坦言，有了類ChatGPT這樣的AI工具之后，他的“創作效率”飆升。

　　阿波表示，以前一篇文章從選題確立，到查找內容，再到構思組稿，往往需要花挺長時間，但現在有了AI之后模式就不一樣了，只需要把話題和內容需求提交給AI，AI就會在網絡上搜集信息并重新組成一篇新的文字內容，也就是俗稱的“洗稿”，阿波只需要細節修改調整一下，一篇完整的自媒體文章很快就能成形。

　　再加上現在市面上也有很多AI一鍵生成視頻、AI配音等工具，將文章轉為視頻再進行分發也非常方便。

　　但有一個很核心的問題，阿波也并沒有否認，這就是信息來源的可靠性，信息本身的真實性，他作為內容創作者，全然交給了AI來處理，并不會花更多的時間去求證。“我們追求的只是流量，內容出錯大不了刪稿就好。”

　　試想一下，如果輿論場每天為大眾提供內容的，是無數個只求流量不管質量的創作者“阿波”，會出現怎樣的后果?最直接的就是會出現無數個現代版的“三人成虎”案例，嚴重的話會導致整個互聯網空間充斥著謠言、虛假新聞、錯誤信息等不可信內容。

　　量子位就曾在一篇相關報道中，將這樣的現象稱為“AI正在污染中文互聯網”。

　　簡單來說，AI生成的內容并不是憑空而來的，而是需要一定的信息素材作為基礎。當AI因為各種原因生成了錯誤、虛假信息后，這些信息又可能成為另一個AI生成內容時的素材。

　　當互聯網空間充斥著AI制造的垃圾信息后，這種無限套娃式的AI信息傳遞，就會變成一個輸入和輸出都是垃圾信息的死循環，這是一個十分可怕的糟糕局面。

　　AI技術，還有一些更直接的“惡”。今年5月，包頭警方公布了一起利用AI實施詐騙的案例。福州一位企業主，接到了生意好友的微信視頻電話，說需要430萬元急用，由于對方在視頻連線中的樣貌、聲音都與好友一模一樣，該企業主便沒有疑慮將錢轉了過去。結果沒想到這是騙子通過AI換臉和擬聲技術，假冒了“好友”進行的詐騙。

　　可見通過AI技術的加持，騙子甚至能在實時的視頻通話中完整還原一個人的樣貌和聲音，類似這樣的詐騙案例層出不窮，光明網、環球網更是在相關報道中表示AI詐騙的成功率接近100%。

　　另一方面，無論是擁有百萬粉絲的網紅大V，還是按部就班工作生活的普通人，都有可能被AI換臉，乃至更離譜的AI脫衣盯上。

　　比如據多家媒體的報道，網絡中有大量的不法分子通過AI技術，將一些頭部網紅或者女性用戶的樣貌，融合嫁接到一些裸露、色情內容中，再有償販賣給其他用戶，這其中有的不法分子甚至能月入20萬。

　　再比如今年3月，有人在廣州地鐵上拍下一女子照片后，用所謂的AI一鍵脫衣工具生成了裸露圖并在網絡上傳播，這一事件沖上熱搜后，也引發了大眾對于AI工具侵害問題的關注。

　　此前5月份，在業界有“人工智能教父”之稱的計算機科學家杰弗里·辛頓宣布從谷歌離職，理由是這樣能更加不受限制地呼吁人們關注AI的潛在風險。

　　杰弗里·辛頓可以說是AI領域的頂級大牛，他憑借在AI領域的研究貢獻，與另外兩名科學家共同獲得了2018年的圖靈獎，OpenAI的創始人兼首席科學家便是杰弗里·辛頓的學生。

　　“現在似乎還很難看到如何能夠防止壞人利用人工智能來做壞事。”研究AI數十年后，辛頓如今已經成為了AI的“末日預言者”，極力向公眾表達他對人工智能的擔憂。

　　當然，行業中自然會有不同的聲音。“人工智能的風險都是可控的。”比爾蓋茨表示，AI的深度偽造、錯誤信息、胡編亂造等問題，的確會引發諸多風險，但他仍然樂觀的認為，這些風險都是可控的。

　　誠然，AI的未來或許是光明的，值得期待的，但這并不能掩蓋AI在當下所制造出來的種種亂象問題，AI所作的“惡”，都亟需得到控制和凈化，這也是AI邁向未來的必要前提。

　　后記

　　最后再用一段科幻故事來闡述一下AI這個宏大敘事中不可忽視的黑暗面。

　　科幻劇集《黑鏡》中，有一集的故事是這樣的。未來世界，環境改變，蜜蜂滅絕，但大自然不能失去蜜蜂，于是人類發明了機械人造蜂來替代蜜蜂在大自然中的作用。

　　人造蜂利用太陽能和各種高精度的識別技術，由分布在各地的數千個高度智能化的人工智能蜂巢來管理運行，無需人類控制便可自主完成飛行、傳粉等任務。

　　這個發明挽救了因失去蜜蜂而瀕臨崩潰的自然生態，當然，這只是故事中美好的一面。

　　故事的另外一面，是有人黑進了人工智能系統，取得了數百萬遍布各地的人造蜂的控制權，將海量的用戶人臉、身份信息上傳到人工智能系統后，這些本該造福人類、自然的人造蜂，突然就成了最恐怖的武器，在AI的操控下有目的地奪走了數十萬人的生命。

　　與科幻世界里想象的災難相比，前文提到的現實中已出現的AI作惡案例或許顯得微不足道，但“勿以惡小而為之”，再微小的陰暗面都不容忽視，或許科幻片中描繪的后世災難，正是由當下一點一點的“惡”所積累而成。

　　區塊鏈、元宇宙、ARVR......科技領域有過太多高開低走的爛尾故事，熱鬧過后一地雞毛。但實際上，這些代表未來的科技領域，或許并不該過早地被打造成噱頭，被利用來斂財。

　　人工智能更是如此，畢竟這項技術離現實更近，也存在著更大的失控風險。盡可能地考慮到所有可能性，用“做好最壞打算”的態度來審慎發展人工智能，是實現“風險可控”目標必不可少的思路和策略。