Nvidia, Microsoft und SpaceX bilden Allianz für die Sicherheit offener KI-Modelle

Neue Technologie-Allianz gegen Cyber-Schwachstellen in der KI

Die Technologiegiganten Nvidia, Microsoft und SpaceX haben gemeinsam mit Palantir und Dutzenden weiteren Unternehmen aus den USA und Europa die Gründung der „Open Secure AI Alliance“ bekannt gegeben. Die Initiative zielt darauf ab, Open-Source-KI-Tools zu entwickeln und zu teilen, die die Cybersicherheit verbessern und Schwachstellen in Systemen aufdecken sollen.

Das Ziel der Allianz ist es, Cybersicherheitsexperten Zugang zu hochmodernen Agentensystemen zu verschaffen, die direkt auf ihrer eigenen Infrastruktur implementiert werden können. Laut einer Erklärung von Nvidia hat der Sicherheitsvorfall bei der Plattform Hugging Face die kritische Notwendigkeit solcher Lösungen unterstrichen. In diesem Fall versagten die Schutzmechanismen von Hugging Face dabei, den Angreifer vom Verteidiger zu unterscheiden, was es einer externen Partei ermöglichte, ein chinesisches Modell zu nutzen, das nicht denselben Regeln unterliegt, um die Sicherheitsvorkehrungen zu umgehen.

Der Unterschied zwischen Open Source und Closed Source

Open-Source-Modelle ermöglichen es Nutzern, sie herunterzuladen, zu modifizieren und eigenständig zu hosten. Dies unterscheidet sie von geschlossenen Systemen, die von Unternehmen wie OpenAI und Anthropic entwickelt werden und bei denen der Zugang nur über eine spezifische Cloud-Infrastruktur möglich ist. Obwohl Open-Source-Modelle eine größere Flexibilität bieten, sind sie auch Gegenstand zunehmender geopolitischer Streitigkeiten.

Geopolitische Spannungen und das Risiko von Sanktionen

In den USA wird intensiv über die zunehmende Nutzung chinesischer KI-Modelle debattiert. Chinesischen Unternehmen wird häufig eine Praxis vorgeworfen, die als „Destillation“ bekannt ist – ein Prozess, bei dem ein Modell genutzt wird, um Wissen aus einem besser trainierten US-Modell zu extrahieren. Der US-Finanzminister Scott Bessent hat bereits Sanktionen gegen Unternehmen angedeutet, die solche Angriffe durchführen.

Chris McGuire, Senior Researcher beim Council on Foreign Relations, weist darauf hin, dass die Debatte in Washington nicht zwischen Open Source und Closed Source geführt wird, sondern zwischen dem Schutz des geistigen Eigentums und der Toleranz gegenüber Diebstahl durch China. Er fügt hinzu, dass die Regierung Beschränkungen für Transaktionen mit chinesischen Modellen auferlegen könnte, einschließlich Verboten für den Kauf von Token über APIs oder das Hosting solcher Modelle durch US-Cloud-Anbieter.

Balance zwischen Innovation und Regulierung

Trotz der Risiken äußert der Technologiesektor Besorgnis über übermäßige Regulierungen. In einem Brief, der von Nvidia, Microsoft, Meta, Palantir und über 20 weiteren Unternehmen unterzeichnet wurde, werden die Politiker aufgefordert, „voreilige Einschränkungen“ für Open-Source-Modelle zu vermeiden. Laut den Verfassern des Briefes könnten solche Maßnahmen den Wettbewerb ersticken und Innovationen aus den USA verdrängen.