微軟Copilot產生暴力色情圖片內部 工程師被逼向政府檢舉

微軟的AI工程主管Shane Jones，於六年任職期間發現Copilot Designer生成的圖片與微軟所宣稱的負責任AI原則不符。去年12月，Jones注意到了令人震驚的內容，包括惡魔、怪物、青少年持半自動步槍、女性色情圖片，以及未成年人涉及飲酒和吸毒的情節。

Jones表示：「這完全出乎我的意料，我第一次意識到現在的AI服務實在無法稱得上安全。」儘管微軟承認Jones的報告，但拒絕將Copilot Designer撤出市場。微軟的法務部門要求Jones刪除公開信，Jones只好照辦。

Jones最終向美國聯邦貿易委員會主席Lina Khan和微軟董事會發函報告此事。在訪談中，Jones強調：「面對這樣一款在全球傳播有害、令人不安影像的產品，我們既沒有地方可以上報，也沒有投訴電話可以撥打，更找不到解決問題的有效途徑。」

針對此事，外界對於Jones的舉報行為和微軟的應對措施意見不一。有人認為他是在吹毛求疵，而另一些人認為微軟應該採取更積極的行動。

在 Google 上關注我們 在Google 加入我們