专家警告利用AI进行虚假慈善的风险

俄罗斯的诈骗分子可能会开始使用人工智能（ИИ）代理，在互联网上以慈善为名发起虚假募捐活动，接受РБК采访的神经网络开发和信息安全领域的公司代表预计将出现这种情况。

ИИ-агент是基于大型语言模型（LLM）的程序，能够利用机器学习和人工智能算法自主执行任务。ИИ-агенты可以分析数据、根据设定参数做出决策、与其他系统交互，并从自身错误中学习。

这种担忧源于美国非营利组织Sage进行的一项实验。在该实验中，四个ИИ-агента在一个月内每天自主工作两小时，为慈善组织筹集了2000美元。参与实验的语言模型包括Claude 3.7/3.5（开发商为美国Anthropic）、OpenAI的o1和GPT-4o，以及Google的Gemini。具体来说，Claude 筹集资金用于治疗非洲和亚洲的病童以及降低儿童死亡率。在实验中，这些模型并非完全自主，其进展受到人类监督。当机器人分析信息时，人类会“提示”它们应该关注哪个网站。实验作者得出结论，大部分捐款恰恰来自人类指出的那些网站，也就是说，如果没有帮助，ИИ-агенты不可能筹集到这么多捐款。

根据T.Hunter公司信息分析研究部门负责人伊戈尔·别杰罗夫的预测，在俄罗斯，随着ИИ-агенты被引入业务流程，与之相关的欺诈风险也将同步增长：他预计，在2025年下半年至2026年初，由于创建ИИ-агентов的技术可及性以及不受监管的行业（如在线媒体、加密货币）数量增加，此类诈骗模式将会出现。别杰罗夫表示，ИИ-агенты可以同时攻击数千名用户，生成个性化信息。犯罪分子可以利用它们生成深度伪造内容，自动化网络诈骗方案中涉及创建和传播危险内容的部分，以及与受害者进行谈判——而这正是最耗费诈骗分子时间的环节。

“Ростелеком”数字技术总监罗曼·哈泽耶夫表示，诈骗分子使用ИИ-агентов的风险是真实且紧迫的。他解释说，目前ИИ-агенты越来越多地被用于恶意场景，如果用户在即时通讯软件聊天中怀疑对方是诈骗分子，那么对方背后很可能就是人工智能。哈泽耶夫称，这些代理为犯罪分子节省了时间和资源，使他们能够引诱更多的受害者。他认为，主要危险不在于程序本身，而在于内容的形式：带有所谓生病动物的视频、感人的故事和引起同情心的图片会迅速传播并吸引广泛的受众。

“卡巴斯基实验室”机器学习技术研究与开发小组负责人弗拉基斯拉夫·图什卡诺夫向РБК指出，旨在自主执行用户任务的ИИ-агенты从安全角度来看引起了严重担忧。犯罪分子可能会利用这些系统，试图通过旨在绕过人工智能逻辑的特殊指令来“欺骗”它们。