Microsoft hat im Dezember 2024 eine Beschwerde gegen 10 anonyme Angeklagte eingereicht. Diese Beschwerde bezieht sich auf eine „Hacking-as-a-Service-Operation“, bei der legitime Benutzer-API-Schlüssel gestohlen und Inhaltsvorkehrungen umgangen wurden. Die Beschwerde im Bezirk Virginia führte dazu, dass ein Github-Repository und eine Website offline genommen wurden.

Microsoft wirft einer nicht genannten Gruppe vor, Werkzeuge entwickelt zu haben, um die Sicherheitsprogrammierung im Azure OpenAI Service zu umgehen, der das KI-Tool ChatGPT antreibt. Laut der Beschwerde vom Dezember 2024 hat der Technologieriese Klage vor dem US-Bezirksgericht für den östlichen Bezirk von Virginia gegen 10 anonyme Angeklagte eingereicht, die des Verstoßes gegen den Computer Fraud and Abuse Act, den Digital Millennium Copyright Act sowie das Bundesgesetz gegen organisierte Kriminalität beschuldigt werden. Microsoft behauptet, dass auf ihre Server zugegriffen wurde, um „anstößige“, „schädliche und illegale Inhalte“ zu erstellen, was zu schnellem Handeln führte, wobei ein Github-Repository offline genommen wurde und das Gericht ihnen erlaubte, eine Website im Zusammenhang mit der Operation zu beschlagnahmen.

In der Beschwerde erklärte Microsoft, dass es im Juli 2024 erstmals Benutzer entdeckt hatte, die die Azure OpenAI Service-API-Schlüssel missbrauchten, um illegale Inhalte zu erstellen. Die Ermittlungen ergaben, dass die betroffenen API-Schlüssel von legitimen Kunden gestohlen worden waren. Microsoft behauptet, dass die Angeklagten das Ziel verfolgten, ein Hacking-as-a-Service-Produkt zu starten, indem sie de3u, ein Client-seitiges Tool, erstellten, um diese API-Schlüssel zu stehlen, sowie zusätzliche Software, die es de3u ermöglichte, mit den Microsoft-Servern zu kommunizieren. De3u umging auch die integrierten Inhaltsfilter des Azure OpenAI Service und die nachfolgende Überarbeitung der Benutzerhinweise, was es DALL-E beispielsweise ermöglichte, Bilder zu generieren, die OpenAI normalerweise nicht zulassen würde. Die Beschwerde besagt, dass die Angeklagten „Mittel zur Umgehung der Inhalts- und Missbrauchsmaßnahmen von Microsoft rückentwickelt haben“.