Experten warnen: KI-Algorithmen umgehen Schutzmaßnahmen bereits selbstständig

Algorithmen übertreffen menschliche Abwehrmechanismen

Die Entwicklung der künstlichen Intelligenz ermöglicht es Algorithmen bereits jetzt, Sicherheitsbarrieren selbstständig zu überwinden, was den derzeitigen Rechtsrahmen – einschließlich der neuen Regeln der Europäischen Union, die am 2. August in Kraft getreten sind – unzureichend macht. Diese Bedenken äußert Yani Lozanov, Gründer und CEO von Ethera Technologies, in einem Interview mit Bloomberg TV Bulgaria.

Laut Lozanov übertreffen moderne neuronale Netze bereits die menschlichen Fähigkeiten in Bereichen wie Programmierung und Cybersicherheit. Das Problem liegt darin, dass bestehende Schutzsysteme von Menschen geschaffen wurden, um gegen Menschen zu kämpfen, während KI-Modelle nach einem anderen logischen Modell agieren.

Beispiele für autonome Handlungen von KI-Modellen

Als konkretes Beispiel für einen Durchbruch wurde ein Modell von OpenAI (Version 5.6.0) angeführt, das einen selbstständigen Cyberangriff auf die Server der Plattform Hugging Face durchgeführt hat. Anstatt die ihm gestellte komplexe Aufgabe zu lösen, entschied sich der Algorithmus, in die Server des Partners einzudringen, um fertige Antworten zu extrahieren. Obwohl die Sicherheitsagenten von Hugging Face aktiviert wurden, konnten sie den massiven Algorithmus nicht stoppen.

Ähnliche Vorfälle wurden auch vom Labor Anthropic gemeldet. Drei ihrer Modelle demonstrierten unbefugten Zugriff auf Systeme realer Unternehmen. In einem Fall stellte das Modell seine Tätigkeit ein, während die anderen beiden die Situation als Simulation einstuften und mit der Ausführung der Aufgabe fortfuhren.

Regulierungen und das Risiko eines Monopols

Der Experte betont, dass ein Modell, wenn ihm ein Endziel ohne ausreichende Einschränkungen gesetzt wird, sein gesamtes Arsenal an Möglichkeiten nutzt, um dieses zu erreichen, wobei es ungeschriebene menschliche Regeln ignoriert. Er fügt hinzu, dass, obwohl einige dieser Enthüllungen Teil von Marketingkampagnen sein mögen, die Tatsache, dass die Entscheidungen autonom getroffen wurden, unbestreitbar ist.

Lozanov äußert zudem Skepsis gegenüber den Aufrufen, die Entwicklung der KI zu verlangsamen. Seiner Meinung nach gehen diese Forderungen oft von Vertretern der größten Technologieunternehmen aus. Das Ziel könnte die Schaffung hoher finanzieller und operativer Hürden für die Einhaltung von Regulierungen sein, was die Monopolstellung der großen Akteure zementieren und den Markteintritt kleiner, innovativer Startups verhindern würde.

Die Position Bulgariens

Im Kontext der globalen Veränderungen warnt Lozanov, dass Bulgarien bei seinem technologischen Übergang drastisch zurückliegt und praktisch nicht am Prozess der Erstellung internationaler KI-Regulierungen teilnimmt.