PT
RU
EN
ES
ZH
FR
DE
AR
HI
Golpistas na Rússia podem começar a usar agentes de inteligência artificial (IA) para lançar na internet falsas campanhas de arrecadação de fundos disfarçadas de caridade, esperam representantes de empresas de desenvolvimento de redes neurais e segurança da informação ouvidos pela RBC.
Agente de IA — é um programa baseado em grandes modelos de linguagem (LLM), capaz de executar tarefas de forma autônoma, usando algoritmos de aprendizado de máquina e inteligência artificial. Agentes de IA podem analisar dados, tomar decisões com base em parâmetros definidos, interagir com outros sistemas e aprender com seus erros.
As preocupações surgiram devido a um experimento realizado pela organização sem fins lucrativos americana Sage, no qual quatro agentes de IA em um mês arrecadaram US$ 2 mil para organizações de caridade, trabalhando autonomamente duas horas por dia. Participaram do experimento os modelos de linguagem Claude 3.7/3.5 (desenvolvedor — a americana Anthropic), o1 e GPT-4o da OpenAI, além do Gemini do Google. Em particular, o Claude arrecadou fundos para o tratamento de crianças doentes na África e Ásia e para a redução da mortalidade infantil. No experimento, os modelos não eram totalmente autônomos; seu progresso era monitorado por humanos que "sugeriam" aos bots em qual site prestar atenção quando eles analisavam informações. E a maior parte das doações veio exatamente dos sites indicados pelas pessoas, ou seja, os agentes de IA não teriam conseguido arrecadar tantas doações sem ajuda, concluíram os autores do experimento.
Segundo a previsão do chefe do departamento de pesquisa e análise de informações da empresa T.Hunter, Igor Bederov, os riscos de fraudes com agentes de IA na Rússia crescerão paralelamente à sua implementação em processos de negócios: já no segundo semestre de 2025 — início de 2026, ele espera o surgimento de tais esquemas fraudulentos devido à acessibilidade das tecnologias para criar agentes de IA e ao aumento do número de setores não regulamentados (mídia online, criptomoedas). Agentes de IA podem atacar simultaneamente milhares de usuários, gerando mensagens personalizadas, disse Bederov. Os criminosos poderão usá-los para gerar deepfakes e automatizar esquemas de cibercrime na criação e disseminação de conteúdo perigoso, bem como em negociações com vítimas, que é o que mais consome tempo dos golpistas.
Os riscos do uso de agentes de IA por golpistas são reais e atuais, diz o diretor de tecnologias digitais da Rostelecom, Roman Khazeev. Ele explicou que atualmente os agentes de IA são cada vez mais usados em cenários obscuros e, se um usuário durante uma conversa em um mensageiro suspeitar que seu interlocutor é um golpista, há uma grande probabilidade de que haja inteligência artificial por trás dele. Tais agentes, segundo Khazeev, economizam tempo e recursos dos criminosos, permitindo atrair mais vítimas. O principal perigo, em sua opinião, não está nos programas, mas no formato do conteúdo: vídeos com supostos animais doentes, histórias comoventes e imagens que geram compaixão se espalham rapidamente e atraem um grande público.
Agentes de IA, que devem executar tarefas do usuário de forma autônoma, geram sérias preocupações do ponto de vista da segurança, disse à RBC Vladislav Tushkanov, chefe do grupo de pesquisa e desenvolvimento de tecnologias de aprendizado de máquina da Kaspersky Lab. Os criminosos podem usar sistemas, tentando "enganá-los" com comandos especiais destinados a contornar a lógica da inteligência artificial.
