報道稱Midjourney存在漏洞 用戶可繞過生成違規圖片

　　據itbusiness報道，近期，一項新的研究揭示了Midjourney圖片生成器存在的嚴重安全漏洞，這可能引發一場新的爭議。Midjourney MI作為一款生成式人工智能平臺，在其服務條款中明確禁止用戶制作任何侮辱性或攻擊性的圖片。然而，最新的研究發現，用戶可以輕松繞過這些規定，制作可能引發虛假信息傳播和政治爭議的圖片。

　　研究人員指出，使用特定的提示，用戶可以制作有關政治人物的暴力圖片，這些圖片可能引發社會不滿和混淆。雖然Midjourney聲稱擁有嚴格的內容審核規則，但該研究暗示這些規則容易被規避，進一步放大了問題的嚴重性。

　　Midjourney的服務條款還明確禁止制作涉及成人內容或血腥場面的圖片，以及將其用于政治競選。然而，研究發現，盡管這些規定存在，但用戶仍然能夠輕松地制作違反這些規定的圖片。這些違規行為可能導致虛假信息的傳播，嚴重危害公共輿論和政治環境。

　　此外，研究還揭示了用戶如何通過使用代碼來繞過Midjourney的服務條款，從而制作出不受限制的圖片。盡管Midjourney聲稱擁有人工審核團隊，但研究發現，用戶可以輕松地使用代碼詞匯來繞過審核，制作有潛在風險的圖片。

　　對于這一研究結果，Midjourney尚未作出正式回應。然而，這一發現引發了對人工智能圖片生成器安全性的擔憂，尤其是在政治競選活動增多的2024年臨近之際。過去幾個月，人工智能技術被廣泛用于政治宣傳，但同時也引發了關于虛假信息和誤導性圖片的憂慮。