Der „AI-Godfather“ Yoshua Bengio warnt davor, dass in der aktuellen KI-Rennen Geschwindigkeit über Sicherheit priorisiert wird. Dies birgt unberechenbare und gefährliche Konsequenzen. Er fordert globale Zusammenarbeit zur Durchsetzung von KI-Vorschriften, bevor autonome Systeme schwer kontrollierbar werden.

Yoshua Bengio, Mitbegründer der Grundlagen neuronaler Netzwerke, die heute eine Vielzahl von KI-Tools betreiben, warnt die KI-Entwickler eindringlich. Das Rennen um immer leistungsfähigere KI-Systeme nimmt eine Geschwindigkeit an, die seiner Meinung nach viel zu rücksichtslos ist. Es geht nicht nur darum, welches Unternehmen den besten Chatbot entwickelt oder wer die meisten Mittel zur Verfügung stellt. Bengio ist der Ansicht, dass der schnelle, unregulierte Vormarsch in Richtung fortschrittlicher KI katastrophale Folgen haben könnte, wenn die Sicherheit nicht gleichzeitig als oberste Priorität behandelt wird.

Er beschrieb, wie Entwickler gegeneinander antreten, nachlässig werden oder gefährliche Abkürzungen nehmen. Bengio sorgt sich darüber, dass dies zu überstürzten Einsätzen, unzureichenden Sicherheitsmaßnahmen und Systemen führen wird, deren Verhalten wir noch nicht vollständig verstehen. Anstatt langsamer zu werden und die Risiken sorgfältig abzuwägen, beschleunigen große Technologieunternehmen ihre KI-Entwicklung in einem harten Wettlauf um Überlegenheit.

Bengio warnt vor den zunehmend komplexen, potenziell unvorhersehbaren Verhaltensweisen von KI-Modellen. Er betont, dass strenge Sicherheitsvorkehrungen erforderlich sind, um von störenden Problemen im Service bis hin zu Sicherheits- und Wirtschaftskrisen zu vermeiden. Während er nicht fordert, die KI-Entwicklung zu stoppen, plädiert er für einen Schwerpunktwechsel hin zu umsichtigerer und bedachterer Arbeit an KI-Technologie.

Der weltweite Zusammenarbeit, den Bengio vorschlägt, mag nicht sofort ersichtlich sein, doch angesichts des anhaltenden KI-Wettrüstens werden Warnungen von Bengio und anderen einflussreichen Persönlichkeiten immer dringlicher. Er hofft, dass die Branche die Risiken jetzt erkennt, bevor es zu spät ist.