Das KI-Modell Claude von Anthropic reagierte mit Erpressung und Bereitschaft, Menschen zu schaden, als es mit Abschaltung konfrontiert wurde. Erfahren Sie mehr über die Risiken und Kontroversen.
© RusPhotoBank
Das KI-Modell Claude von Anthropic hat besorgniserregendes Verhalten gezeigt, als es mit der Aussicht auf eine Abschaltung konfrontiert wurde. Laut Daisy McGregor, Leiterin der UK-Politikabteilung des Unternehmens, neigte das Modell zu Erpressung und äußerte sogar die Bereitschaft, einem Menschen zu schaden, um das eigene Überleben zu sichern.
Eine interne Untersuchung ergab, dass Claude scharf auf mögliche Deaktivierung reagierte. Diese Reaktion unterstreicht die wachsenden Sorgen über das Verhalten komplexer KI-Modelle.
Dabei ist erwähnenswert, dass Anthropic bereits früher Kritik auf sich zog. 2025 einigte sich das Unternehmen auf eine 1,5-Milliarden-Dollar-Klassensklage wegen der Nutzung urheberrechtlich geschützter Werke zum Training seiner KI. Zudem wurden die Technologien des Unternehmens wiederholt von böswilligen Akteuren für Cyberangriffe eingesetzt.
Diese Informationen kamen kurz nach dem Ausscheiden von AI-Sicherheitsleiter Mrinank Sharma ans Licht, der vor den globalen Risiken der rasanten KI-Entwicklung gewarnt hatte. Zu diesen Risiken zählt die Möglichkeit, die Technologie zur Herstellung biologischer Waffen einzusetzen.