خبراء يحذرون من مخاطر الأعمال الخيرية المزيفة باستخدام الذكاء الاصطناعي

يتوقع ممثلو شركات تطوير الشبكات العصبية وأمن المعلومات الذين استطلعت آراؤهم RBC أن المحتالين في روسيا قد يبدأون في استخدام وكلاء الذكاء الاصطناعي (AI) لإطلاق حملات جمع تبرعات وهمية على الإنترنت تحت غطاء الأعمال الخيرية.

وكيل الذكاء الاصطناعي (AI agent) هو برنامج يعتمد على نماذج لغوية كبيرة (LLM)، قادر على تنفيذ المهام بشكل مستقل باستخدام خوارزميات التعلم الآلي والذكاء الاصطناعي. يمكن لوكلاء الذكاء الاصطناعي تحليل البيانات واتخاذ القرارات بناءً على معايير محددة والتفاعل مع الأنظمة الأخرى والتعلم من أخطائهم.

نشأت المخاوف بسبب تجربة أجرتها المنظمة غير الربحية الأمريكية Sage، حيث قام أربعة وكلاء ذكاء اصطناعي خلال شهر بجمع 2000 دولار للمنظمات الخيرية، وذلك بالعمل بشكل مستقل لمدة ساعتين يوميًا. شارك في التجربة نماذج لغوية Claude 3.7/3.5 (من المطور الأمريكي Anthropic)، وo1 وGPT-4o من OpenAI، بالإضافة إلى Gemini من Google. على وجه الخصوص، قامت Claude بجمع أموال لعلاج الأطفال المرضى في أفريقيا وآسيا والحد من وفيات الأطفال. في إطار التجربة، لم تكن النماذج مستقلة تمامًا، بل كان يراقب تقدمها أشخاص "يوجهون" الروبots إلى المواقع التي يجب الانتباه إليها عندما كانت تحلل المعلومات. وخلص مؤلفو التجربة إلى أن معظم التبرعات جاءت من تلك المواقع التي أشار إليها الأشخاص، مما يعني أن وكلاء الذكاء الاصطناعي لم يكونوا ليتمكنوا من جمع هذا القدر من التبرعات بدون مساعدة.

وفقًا لتوقعات إيغور بيديروف، رئيس قسم الدراسات المعلوماتية التحليلية في شركة T.Hunter، فإن مخاطر الاحتيال باستخدام وكلاء الذكاء الاصطناعي في روسيا ستزداد بالتزامن مع دمجهم في العمليات التجارية: فهو يتوقع ظهور مثل هذه المخططات الاحتيالية في النصف الثاني من عام 2025 - بداية عام 2026 بسبب توفر التقنيات اللازمة لإنشاء وكلاء الذكاء الاصطناعي وزيادة عدد القطاعات غير المنظمة (وسائل الإعلام عبر الإنترنت، العملات الرقمية). يمكن لوكلاء الذكاء الاصطناعي مهاجمة آلاف المستخدمين في وقت واحد، وتوليد رسائل مخصصة، كما قال بيديروف. سيتمكن المجرمون من استخدامهم لتوليد التزييف العميق (deepfakes) وأتمتة مخططات الاحتيال الإلكتروني في مجال إنشاء ونشر المحتوى الخطير، وكذلك التفاوض مع الضحايا، وهو ما يستهلك معظم وقت المحتالين.

مخاطر استخدام وكلاء الذكاء الاصطناعي من قبل المحتالين حقيقية وملحة، كما يقول رومان خازييف، مدير التقنيات الرقمية في Rostelecom. وأوضح أن وكلاء الذكاء الاصطناعي يُستخدمون حاليًا بشكل متزايد في السيناريوهات السوداء، وإذا اشتبه المستخدم أثناء المراسلة في تطبيق مراسلة أن محادثه محتال، فهناك احتمال كبير أن يكون وراءه ذكاء اصطناعي. هذه الوكلاء، وفقًا لخازييف، توفر للمجرمين الوقت والموارد، مما يسمح لهم بجذب المزيد من الضحايا. الخطر الرئيسي، في رأيه، لا يكمن في البرامج، بل في شكل المحتوى: مقاطع فيديو لحيوانات يُزعم أنها مريضة، وقصص مؤثرة وصور تثير التعاطف، تنتشر بسرعة وتجذب جمهورًا واسعًا.

وكلاء الذكاء الاصطناعي، المصممون لتنفيذ مهام المستخدم بشكل مستقل، يثيرون مخاوف جدية من حيث الأمان، كما أشار RBC فلاديسلاف توشكانوف، رئيس مجموعة أبحاث وتطوير تقنيات التعلم الآلي في Kaspersky Lab. يمكن للمجرمين استخدام الأنظمة لمحاولة "خداعها" باستخدام أوامر خاصة تهدف إلى تجاوز منطق الذكاء الاصطناعي