微軟近期向美國弗吉尼亞東區(qū)聯(lián)邦地區(qū)法院提起了一項法律訴訟，指控一組織故意開發(fā)并使用非法工具，繞過其云AI產(chǎn)品的安全防線，非法訪問并制造有害內(nèi)容。該訴訟涉及十名匿名被告，他們的行為引發(fā)了微軟的高度關注。

據(jù)訴訟文件顯示，被告被指控通過盜取的客戶憑證和定制軟件，非法侵入了Azure OpenAI服務。Azure OpenAI是微軟基于OpenAI技術(shù)開發(fā)的全托管服務，提供包括ChatGPT在內(nèi)的多種AI模型。微軟指出，被告的行為違反了《計算機欺詐和濫用法》《數(shù)字千年版權(quán)法》以及聯(lián)邦反敲詐勒索法，他們利用自己的軟件和服務器，生成了具有攻擊性、有害且非法的內(nèi)容，盡管具體內(nèi)容微軟并未詳細透露。

微軟在調(diào)查中發(fā)現(xiàn)，部分Azure OpenAI服務的客戶憑證，特別是API密鑰，被用于生成違反服務使用政策的內(nèi)容。經(jīng)過深入調(diào)查，微軟確認這些API密鑰是從付費客戶處被非法竊取的。被告通過系統(tǒng)性的API密鑰盜竊行為，從多個客戶處獲取了密鑰，并利用這些密鑰進行了非法活動。

更令人震驚的是，被告利用竊取的API密鑰，創(chuàng)建了一種“黑客即服務”的模式，并開發(fā)了一款名為“de3u”的客戶端工具。這款工具允許用戶無需編寫代碼，即可通過DALL-E模型生成圖像，并試圖繞過Azure OpenAI服務的內(nèi)容過濾機制。當用戶輸入的文本提示包含觸發(fā)內(nèi)容過濾的詞匯時，de3u會阻止服務修改提示內(nèi)容，從而生成可能有害的圖像。

微軟還指出，被告通過非法編程訪問Azure OpenAI服務，對微軟的內(nèi)容和濫用防護措施進行了逆向工程，給服務造成了重大損失。目前，托管在GitHub（微軟旗下公司）上的de3u項目代碼庫已經(jīng)無法訪問。

在微軟發(fā)布的一篇博客文章中提到，法院已授權(quán)微軟查封一個對被告運營至關重要的網(wǎng)站，以便收集證據(jù)、分析其盈利模式，并破壞其技術(shù)基礎設施。微軟還表示，已針對觀察到的非法活動采取了相應的反制措施，并在Azure OpenAI服務中增加了額外的安全防護機制，以確保服務的正常運行和用戶的數(shù)據(jù)安全。