FR
RU
EN
ES
ZH
DE
PT
AR
HI
En Russie, les fraudeurs pourraient commencer à utiliser des agents d'intelligence artificielle (IA) pour lancer en ligne des collectes de fonds frauduleuses sous couvert de charité, estiment des représentants d'entreprises spécialisées dans le développement de réseaux de neurones et la sécurité informatique interrogés par RBC.
Un agent d'IA est un programme basé sur de grands modèles de langage (LLM), capable d'effectuer des tâches de manière autonome en utilisant des algorithmes d'apprentissage automatique et d'intelligence artificielle. Les agents d'IA peuvent analyser des données, prendre des décisions en fonction de paramètres définis, interagir avec d'autres systèmes et apprendre de leurs erreurs.
Ces inquiétudes sont nées d'une expérience menée par l'organisation américaine à but non lucratif Sage, dans le cadre de laquelle quatre agents d'IA ont collecté 2 000 $ pour des organisations caritatives en un mois, en travaillant de manière autonome deux heures par jour. L'expérience a impliqué les modèles de langage Claude 3.7/3.5 (développeur : l'américain Anthropic), o1 et GPT-4o d'OpenAI, ainsi que Gemini de Google. En particulier, Claude collectait des fonds pour le traitement d'enfants malades en Afrique et en Asie et la réduction de la mortalité infantile. Dans le cadre de l'expérience, les modèles n'étaient pas entièrement autonomes ; leur progression était surveillée par des humains qui « suggéraient » aux bots sur quel site se concentrer lorsqu'ils analysaient les informations. La majeure partie des dons provenait précisément des sites indiqués par les humains, ce qui signifie que les agents d'IA n'auraient pas pu collecter autant de dons sans aide, ont conclu les auteurs de l'expérience.
Selon les prévisions d'Igor Bederov, chef du département de recherche et d'analyse de l'information de la société T.Hunter, en Russie, les risques de fraude avec les agents d'IA augmenteront parallèlement à leur intégration dans les processus commerciaux : dès la seconde moitié de 2025 et le début de 2026, il s'attend à l'apparition de tels schémas frauduleux en raison de l'accessibilité des technologies de création d'agents d'IA et de la croissance du nombre de secteurs non réglementés (médias en ligne, crypto-monnaies). Les agents d'IA peuvent attaquer simultanément des milliers d'utilisateurs en générant des messages personnalisés, a expliqué Bederov. Les malfaiteurs pourront les utiliser pour générer des deepfakes et automatiser des schémas de cyberfraude en matière de création et de diffusion de contenu dangereux, ainsi que pour négocier avec les victimes, ce qui prend le plus de temps aux fraudeurs.
Les risques d'utilisation des agents d'IA par les fraudeurs sont réels et actuels, déclare Roman Khazeev, directeur des technologies numériques chez Rostelecom. Il a expliqué qu'aujourd'hui, les agents d'IA sont de plus en plus utilisés dans des scénarios malveillants, et si un utilisateur, lors d'une conversation dans un messager, soupçonne que son interlocuteur est un fraudeur, il y a une forte probabilité qu'un intelligence artificielle se cache derrière lui. Selon Khazeev, ces agents font gagner du temps et des ressources aux malfaiteurs, leur permettant d'attirer plus de victimes. Le principal danger, selon lui, ne réside pas dans les programmes, mais dans le format du contenu : les vidéos d'animaux soi-disant malades, les histoires touchantes et les images suscitant la compassion se propagent rapidement et rassemblent un large public.
Les agents d'IA, censés exécuter de manière autonome les tâches de l'utilisateur, suscitent de sérieuses inquiétudes en matière de sécurité, a indiqué à RBC Vladislav Tushkanov, chef du groupe de recherche et développement des technologies d'apprentissage automatique de Kaspersky Lab. Les malfaiteurs peuvent utiliser les systèmes en essayant de les « tromper » à l'aide de commandes spéciales visant à contourner la logique de l'intelligence artificielle.
