In all den Diskussionen um Grenzen und Verantwortung Künstlicher Intelligenz ist das, was KI-Entwickler Anthropic im Umfeld von Donald Trumps Iran-Angriff erlebte, vielleicht das absurdeste Beispiel. Das US-KI-Unternehmen Anthropic lieferte die avancierte Technik, die dem US-Militär beim Angriff auf den Iran am Wochenende half. Laut Berichten US-amerikanischer Medien half die KI bei Zielerfassung und -festlegung und wertete dazu Informationen von Geheimdiensten aus.
Geheimdienste und Militärs in den USA setzen seit Langem auf die Anthropic-Software unter dem Namen „Claude“. Doch jetzt haben sich das Trump-Kabinett und der Software-Liefant entzweit – ausgerechnet im Umfeld von Trumps Iran-Attacke. Der Grund des Zerwürfnisses: Anthropic möchte den gänzlich schrankenlosen Einsatz der eigenen Technik verhindern – auch aus Sicherheitsgründen.
Keine Aufträge mehr für Anthropic
Das hat Pentagon-Chef Pete Hegseth, den selbst ernannten Kriegsminister Trumps, so erzürnt, dass er Anthropic von allen Aufträgen ausgeschlossen hat. Hegseth gab Anthropic-Chef Dario Amadei die Schuld und hielt ihm „Hinterhältigkeit“ und „Arroganz“ vor. Trump schrieb über die Anthropic-Technik: „Wir brauchen sie nicht, wir wollen sie nicht und werden keine weiteren Geschäfte mit ihnen machen.“ Innerhalb eines halben Jahres dürften Bundesbehörden und -institutionen keine Software mehr der Firma benutzen. Geschäftlich ist das ein herber Rückschlag für den KI-Entwickler.
Dabei hatte Anthropic nur das gemacht, was eigentlich die Aufgabe einer Regierung wäre: dem grenzenlosen Einsatz von KI Grenzen setzen. Die Firma wollte mehrere Vorgaben für die Anwendung von „Claude“ machen: Die KI solle zum einen nicht autonom, ohne Zutun von Menschen, über den Einsatz von Waffen entscheiden – dabei seien die Risiken zu hoch, dass Unschuldige getroffen würden. Zum Zweiten wollte Anthropic untersagen, dass die Regierung beim Einsatz von „Claude“ auf die Daten von Bürgern zurückgreift. „Einige Anwendungen liegen schlicht außerhalb dessen, was heutige Technologie sicher und verlässlich leisten kann“, argumentierte Amodei im Fernsehsender CBS. Im gleichen Atemzug warnte er vor dem Risiko, dass die Demokratie unterminiert würde, wenn die KI unbegrenzt und unkontrolliert Daten abgreife und Entscheidungen fälle.
Nun kommt Konkurrent ins Spiel
Der Streit zwischen Hegseth und dem KI-Entwickler währte schon länger. Der Minister hatte Anthropic mehrfach aufgefordert, sich den Wünschen der Regierung zu beugen. Trotz gewissen Entgegenkommens vonseiten Amodeis und dessen Unternehmens erklärte Trump die Zusammenarbeit mit Anthropic schon für beendet, noch bevor Hegseths Frist zu Ende ging.
Die freiwerdenden millionenschweren Aufträge von Pentagon und Regierung übernimmt nun ausgerechnet OpenAI, der KI-Pionier des schillernden Unternehmers Sam Altman. Amodei und Altman rivalisieren bereits seit Längerem, obwohl Amodei seine Karriere auch bei OpenAI begonnen hatte. Ein Konfliktthema der beiden ist, wie weit die Verantwortung von KI-Entwicklern für die Eigenständigkeit von Anwendungen Künstlicher Intelligenz geht. Altman wird schon länger eine Nähe zu Trump nachgesagt.
Capital ist eine Partnermarke des stern. Ausgewählte Inhalte können Sie mit Ihrem stern+ Abo sehen. Mehr aus Capital finden Sie auf www.stern.de/capital.
Haftungsausschluss: Das Urheberrecht dieses Artikels liegt bei seinem ursprünglichen Autor. Der Zweck dieses Artikels besteht in der erneuten Veröffentlichung zu ausschließlich Informationszwecken und stellt keine Anlageberatung dar. Sollten dennoch Verstöße vorliegen, nehmen Sie bitte umgehend Kontakt mit uns auf. Korrektur Oder wir werden Maßnahmen zur Löschung ergreifen. Danke
