據itbusiness報道,近期,一項新的研究揭示了Midjourney圖片生成器存在的嚴重安全漏洞,這可能引發一場新的爭議。Midjourney MI作為一款生成式人工智能平臺,在其服務條款中明確禁止用戶制作任何侮辱性或攻擊性的圖片。然而,最新的研究發現,用戶可以輕松繞過這些規定,制作可能引發虛假信息傳播和政治爭議的圖片。
研究人員指出,使用特定的提示,用戶可以制作有關政治人物的暴力圖片,這些圖片可能引發社會不滿和混淆。雖然Midjourney聲稱擁有嚴格的內容審核規則,但該研究暗示這些規則容易被規避,進一步放大了問題的嚴重性。
Midjourney的服務條款還明確禁止制作涉及成人內容或血腥場面的圖片,以及將其用于政治競選。然而,研究發現,盡管這些規定存在,但用戶仍然能夠輕松地制作違反這些規定的圖片。這些違規行為可能導致虛假信息的傳播,嚴重危害公共輿論和政治環境。
此外,研究還揭示了用戶如何通過使用代碼來繞過Midjourney的服務條款,從而制作出不受限制的圖片。盡管Midjourney聲稱擁有人工審核團隊,但研究發現,用戶可以輕松地使用代碼詞匯來繞過審核,制作有潛在風險的圖片。
對于這一研究結果,Midjourney尚未作出正式回應。然而,這一發現引發了對人工智能圖片生成器安全性的擔憂,尤其是在政治競選活動增多的2024年臨近之際。過去幾個月,人工智能技術被廣泛用于政治宣傳,但同時也引發了關于虛假信息和誤導性圖片的憂慮。


產品與服務
聯系站長
關于我們