Die KI-Firma Anthropic hat in den vergangenen Monaten nach eigenen Angaben mehrere Versuche von Forschern unterbunden, verschiedene Modelle ihrer Software „Claude“ rund um die mögliche Entwicklung von Biowaffen zu nutzen. Zugleich schränkte der Konkurrent des „ChatGPT“-Entwicklers OpenAI ein, dass die Ziele solcher Anfragen schwer zu ermitteln seien, da entsprechende Forschung sowohl medizinischen als auch militärischen Zwecken dienen könne.

Auf jeden Fall zeigten die Versuche aber, dass Wissenschaftler aus blockierten Regionen und mit Verbindungen zu dortigen staatlichen Stellen versuchten, heimlich auf Künstliche Intelligenz amerikanischer Entwickler zuzugreifen, hieß es. Weder die Forschungseinrichtungen noch die Länder, aus denen sie stammen, wurden genannt.

Anthropic führte in einem ausführlichen Bericht über versuchten Missbrauch seiner KI-Modelle fünf Fälle mit Bezug zu möglicher Biowaffen-Forschung auf. Dabei hätten die Forscher nicht konkrete wissenschaftliche Hilfe gesucht, sondern eher organisatorische Unterstützung, etwa beim Verfassen von Papieren. KI-Modelle sind grundsätzlich darauf getrimmt, Hilfestellung bei der Entwicklung biologischer Waffen zu verweigern. Bei Forschung, die sowohl der Medizin als auch militärischen Zwecken dienen könne, sei es manchmal aber schwierig, eine klare Trennlinie zwischen harmlosen und bösartigen Absichten zu ziehen, erklärte Anthropic.

Riskante Forschung an Vogelgrippe

Bei einem der von der KI-Firma blockierten Zugriffsversuche sei probiert worden, mit Hilfe von „Claude“ einen Antrag auf Förderung zur Forschung an einem Virus zu verfassen. Dabei sei es um sogenannte Gain-of-Function-Forschung gegangen, bei der die Übertragbarkeit eines Erregers erhöht wird. Eine gängige Methode bei der Suche nach Gegenmitteln in Laboren – aber eben auch ein Weg, Biowaffen zu entwickeln.

In einem anderen Fall wurde den Angaben zufolge versucht, mit dem Einsatz von „Claude“ einen Plan für die Erforschung einer Vogelgrippe-Variante zu entwerfen, die sich auf Säugetiere übertragen ließe. Auch hier betont Anthropic, dass solche Forschung zwar der Prävention dienen könne, aber zugleich gefährliches Wissen schaffe, das bei der Waffenentwicklung verwendet werden könne. Ein weiterer Wissenschaftler habe „Claude“ bei der Erstellung vierteljährlicher Fortschrittsberichte bei der Erforschung eines Toxins nutzen wollen.

Kriegsspionage in China, Iran und Westafrika

Anthropic warnte außerdem vor dem Einsatz von Künstlicher Intelligenz zum Ausspionieren von Regierungsgegnern und Minderheiten. Das Unternehmen nannte dabei unter anderem China und den Iran. In mehreren solchen Fällen die Verwendung seiner KI-Modelle gestoppt zu haben. Dies sei zwischen Januar und Juli erfolgt. Neben China und dem Iran sei es auch um Westafrika gegangen.

Das Ausspionieren habe „dieselben Diaspora- und Dissidentengruppen zum Ziel gehabt, welche historisch von diesen Regimen ins Visier genommen wurden“, erklärte Anthropic. Das umfasse Demokratie-Aktivisten in Hongkong, Gruppen von Tibetern und Falun-Gong-Mitgliedern in Asien sowie Minderheiten im Iran und im Ausland lebende iranische Regierungsgegner.

In einem Fall hätten iranische Akteure ein Werkzeug entwickelt, um Menschen über ihre Social-Media-Profile zu identifizieren. In einem anderen Fall habe ein Auftragnehmer der malischen Sicherheitsbehörden „Claude“ benutzt, um eine Überwachungssoftware zu entwickeln.

Das in San Francisco ansässige KI-Unternehmen warf außerdem chinesischen Entwicklern vor, heimlich „Claude“ zu nutzen, um Nutzeranfragen zu beantworten – und dabei zugleich die eigenen Modelle mithilfe des Anthropic-Modells zu trainieren. So habe die chinesische KI-Firma Moonshot im Zeitraum von zehn Tagen mit 5380 falschen Nutzerkonten fast 300.000 Nutzerfragen über Anthropic geleitet.

Haftungsausschluss: Das Urheberrecht dieses Artikels liegt bei seinem ursprünglichen Autor. Der Zweck dieses Artikels besteht in der erneuten Veröffentlichung zu ausschließlich Informationszwecken und stellt keine Anlageberatung dar. Sollten dennoch Verstöße vorliegen, nehmen Sie bitte umgehend Kontakt mit uns auf. Korrektur Oder wir werden Maßnahmen zur Löschung ergreifen. Danke