KI-Risiko vergleichbar mit der Verbreitung von ballistischen Raketen – Warnung des JPMorgan-Chefs

Jamie Dimon, CEO von JPMorgan Chase & Co., äußerte ernsthafte Besorgnis über die Zukunft der künstlichen Intelligenz und die Risiken, die mit dem Zugang zu den leistungsfähigsten Technologie-Modellen verbunden sind. Während eines Innovationsgipfels in Pennsylvania zog Dimon einen scharfen Vergleich und erklärte, dass die Bereitstellung von unbegrenztem Zugang zu Systemen wie Mythos von Anthropic dem „Überlassen von ballistischen Raketen an Einzelpersonen“ gleichkommen könnte.

Im Zentrum der Debatte steht das Modell Claude Mythos, das von Anthropic entwickelt wurde. Obwohl das Unternehmen es im Rahmen der Sicherheitsinitiative „Project Glasswing“ zur Scannung von Software-Schwachstellen unter Beteiligung von Technologiegiganten wie Google, Microsoft und Apple einsetzt, bleibt die Frage, wie „mächtig“ ein Modell sein sollte und wer Zugang dazu haben darf, offen und Gegenstand staatlicher Untersuchungen.

Laut Anthropic ist ihre Rolle zweifach: der Softwareindustrie zu helfen, sich an neue Bedrohungen anzupassen, und gleichzeitig Werkzeuge zur Erkennung und Behebung kritischer Sicherheitslücken bereitzustellen. Das Projekt umfasst bereits fast 150 Organisationen, die versuchen, Angriffe durch „feindliche“ künstliche Intelligenz vorherzusehen.

Anthropic, gegründet von ehemaligen OpenAI-Mitarbeitern, hat sich als einer der einflussreichsten Akteure im Sektor etabliert. Das Unternehmen hat kürzlich die Grenze einer Marktbewertung von 965 Milliarden Dollar überschritten und bereitet sich auf einen potenziell massiven Börsengang (IPO) vor. Trotz des enormen wirtschaftlichen Erfolgs stellen die Diskussionen über Cybersicherheit und die Kontrolle über KI-Modelle die Regierungen weltweit vor neue regulatorische Herausforderungen.