Experten warnen vor Risiken falscher Wohltätigkeit mit KI

Betrüger in Russland könnten beginnen, Agenten der künstlichen Intelligenz (KI) zu nutzen, um im Internet gefälschte Spendenaktionen unter dem Deckmantel der Wohltätigkeit zu starten, erwarten von RBC befragte Vertreter von Unternehmen im Bereich der Entwicklung neuronaler Netze und der Informationssicherheit.

Ein KI-Agent ist ein Programm, das auf großen Sprachmodellen (LLM) basiert und in der Lage ist, Aufgaben autonom auszuführen, indem es Algorithmen des maschinellen Lernens und der künstlichen Intelligenz nutzt. KI-Agenten können Daten analysieren, Entscheidungen auf der Grundlage vorgegebener Parameter treffen, mit anderen Systemen interagieren und aus ihren Fehlern lernen.

Die Bedenken entstanden aufgrund eines Experiments, das die amerikanische Non-Profit-Organisation Sage durchführte. Im Rahmen dieses Experiments sammelten vier KI-Agenten innerhalb eines Monats 2.000 $ für wohltätige Organisationen, indem sie autonom zwei Stunden am Tag arbeiteten. An dem Experiment nahmen die Sprachmodelle Claude 3.7/3.5 (Entwickler: das amerikanische Unternehmen Anthropic), o1 und GPT-4o von OpenAI sowie Gemini von Google teil. Insbesondere Claude sammelte Spenden für die Behandlung kranker Kinder in Afrika und Asien und zur Senkung der Kindersterblichkeit. Im Rahmen des Experiments waren die Modelle nicht vollständig autonom; ihr Fortschritt wurde von Menschen überwacht, die den Bots „Tipps“ gaben, auf welche Website sie achten sollten, wenn diese Informationen analysierten. Und der Großteil der Spenden kam genau von den Websites, auf die die Menschen hingewiesen hatten. Das heißt, die KI-Agenten hätten ohne Hilfe nicht so viele Spenden sammeln können, kamen die Autoren des Experiments zu dem Schluss.

Nach der Prognose von Igor Bederow, Leiter der Abteilung für Informations- und Analyseforschung des Unternehmens T.Hunter, werden die Risiken von Betrug mit KI-Agenten in Russland parallel zu deren Integration in Geschäftsprozesse steigen: Bereits in der zweiten Hälfte des Jahres 2025 bis Anfang 2026 erwartet er das Auftreten solcher Betrugsmuster aufgrund der Verfügbarkeit von Technologien zur Erstellung von KI-Agenten und der Zunahme nicht regulierter Sektoren (Online-Medien, Kryptowährungen). KI-Agenten könnten gleichzeitig Tausende von Nutzern angreifen und personalisierte Nachrichten generieren, so Bederow. Angreifer könnten sie nutzen, um Deepfakes zu generieren und Cyberbetrugsmuster im Bereich der Erstellung und Verbreitung gefährlicher Inhalte sowie für Verhandlungen mit Opfern zu automatisieren, was die meiste Zeit der Betrüger in Anspruch nimmt.

Die Risiken des Einsatzes von KI-Agenten durch Betrüger sind real und aktuell, sagt Roman Chasejew, Direktor für digitale Technologien bei Rostelekom. Er erklärte, dass KI-Agenten derzeit immer häufiger in schwarzen Szenarien eingesetzt werden, und wenn ein Nutzer während einer Korrespondenz in einem Messenger den Verdacht hat, dass sein Gesprächspartner ein Betrüger ist, sei die Wahrscheinlichkeit hoch, dass dahinter eine künstliche Intelligenz steckt. Solche Agenten, so Chasejew, sparen den Angreifern Zeit und Ressourcen, indem sie es ihnen ermöglichen, mehr Opfer anzulocken. Die Hauptgefahr liegt seiner Meinung nach nicht in den Programmen, sondern im Format des Inhalts: Videos mit angeblich kranken Tieren, rührende Geschichten und Bilder, die Mitleid erregen, verbreiten sich schnell und erreichen ein breites Publikum.

KI-Agenten, die dazu bestimmt sind, Aufgaben des Nutzers autonom auszuführen, geben aus Sicherheitssicht ernsthaften Anlass zur Sorge, teilte RBC Wladislaw Tuschkanow, Leiter der Forschungs- und Entwicklungsgruppe für Technologien des maschinellen Lernens von Kaspersky Lab, mit. Angreifer könnten die Systeme nutzen, um sie mit speziellen Befehlen zu „überlisten“, die darauf abzielen, die Logik der künstlichen Intelligenz zu umgehen.