ES
RU
EN
ZH
FR
DE
PT
AR
HI
Los estafadores en Rusia podrían comenzar a utilizar agentes de inteligencia artificial (IA) para lanzar en internet falsas recaudaciones de fondos bajo la apariencia de caridad, según esperan representantes de empresas en el ámbito del desarrollo de redes neuronales y seguridad informática consultados por RBC.
Un agente de IA es un programa basado en grandes modelos de lenguaje (LLM, por sus siglas en inglés) que es capaz de realizar tareas de forma autónoma, utilizando algoritmos de aprendizaje automático e inteligencia artificial. Los agentes de IA pueden analizar datos, tomar decisiones basadas en parámetros establecidos, interactuar con otros sistemas y aprender de sus errores.
Las preocupaciones surgieron a raíz de un experimento realizado por la organización sin fines de lucro estadounidense Sage, en el cual cuatro agentes de IA en un mes recaudaron $2,000 para organizaciones benéficas, trabajando de forma autónoma dos horas al día. En el experimento participaron los modelos de lenguaje Claude 3.7/3.5 (desarrollador: la estadounidense Anthropic), o1 y GPT-4o de OpenAI, así como Gemini de Google. En particular, Claude recaudó fondos para el tratamiento de niños enfermos en África y Asia y para la reducción de la mortalidad infantil. En el marco del experimento, los modelos no fueron completamente autónomos; su progreso fue supervisado por personas que "indicaban" a los bots qué sitio web debían considerar mientras analizaban la información. Y la mayor parte de las donaciones provinieron precisamente de los sitios web señalados por las personas, es decir, los agentes de IA no habrían podido recaudar tantas donaciones sin ayuda, concluyeron los autores del experimento.
Según el pronóstico del jefe del departamento de investigación y análisis de información de la empresa T.Hunter, Igor Bederov, en Rusia los riesgos de fraude con agentes de IA aumentarán en paralelo con su implementación en los procesos comerciales: ya en la segunda mitad de 2025 y principios de 2026, espera la aparición de tales esquemas de fraude debido a la accesibilidad de las tecnologías para crear agentes de IA y al crecimiento del número de sectores no regulados (medios en línea, criptomonedas). Los agentes de IA pueden atacar simultáneamente a miles de usuarios, generando mensajes personalizados, explicó Bederov. Los delincuentes podrán utilizarlos para generar deepfakes y automatizar esquemas de ciberfraude en la creación y difusión de contenido peligroso, así como en las negociaciones con las víctimas, que es lo que más tiempo consume a los estafadores.
Los riesgos del uso de agentes de IA por parte de los estafadores son reales y actuales, afirma el director de tecnologías digitales de Rostelecom, Roman Khazeev. Explicó que actualmente los agentes de IA se utilizan cada vez más en escenarios delictivos, y si un usuario durante una conversación en un mensajero sospecha que su interlocutor es un estafador, existe una alta probabilidad de que detrás de él haya inteligencia artificial. Estos agentes, según Khazeev, ahorran tiempo y recursos a los delincuentes, permitiéndoles atraer a más víctimas. El principal peligro, en su opinión, no reside en los programas, sino en el formato del contenido: videos con animales supuestamente enfermos, historias conmovedoras e imágenes que generan compasión se difunden rápidamente y atraen a una amplia audiencia.
Los agentes de IA, diseñados para realizar tareas del usuario de forma autónoma, generan serias preocupaciones desde el punto de vista de la seguridad, señaló a RBC el jefe del grupo de investigación y desarrollo de tecnologías de aprendizaje automático de Kaspersky Lab, Vladislav Tushkanov. Los delincuentes pueden utilizar los sistemas, intentando "engañarlos" mediante comandos especiales dirigidos a eludir la lógica de la inteligencia artificial.
