विशेषज्ञों ने AI के माध्यम से नकली चैरिटी के जोखिमों के बारे में चेतावनी दी

रूस में धोखेबाज चैरिटी के नाम पर इंटरनेट पर फर्जी फंड इकट्ठा करने के लिए आर्टिफिशियल इंटेलिजेंस (AI) एजेंटों का उपयोग करना शुरू कर सकते हैं, ऐसा RBS द्वारा साक्षात्कार किए गए न्यूरल नेटवर्क डेवलपमेंट और सूचना सुरक्षा के क्षेत्र की कंपनियों के प्रतिनिधियों का अनुमान है।

AI एजेंट बड़े भाषा मॉडल (LLM) पर आधारित एक प्रोग्राम है, जो मशीन लर्निंग और आर्टिफिशियल इंटेलिजेंस एल्गोरिदम का उपयोग करके स्वायत्त रूप से कार्यों को निष्पादित करने में सक्षम है। AI एजेंट डेटा का विश्लेषण कर सकते हैं, निर्धारित मापदंडों के आधार पर निर्णय ले सकते हैं, अन्य सिस्टम के साथ बातचीत कर सकते हैं और अपनी गलतियों से सीख सकते हैं।

यह चिंता एक प्रयोग के कारण उत्पन्न हुई, जो अमेरिकी गैर-लाभकारी संगठन Sage द्वारा किया गया था, जिसके तहत चार AI एजेंटों ने एक महीने में चैरिटी संगठनों के लिए $2,000 जुटाए, जो दिन में दो घंटे स्वायत्त रूप से काम करते थे। प्रयोग में भाषा मॉडल Claude 3.7/3.5 (डेवलपर - अमेरिकी Anthropic), OpenAI से o1 और GPT-4o, साथ ही Google से Gemini ने भाग लिया। विशेष रूप से, Claude ने अफ्रीका और एशिया में बीमार बच्चों के इलाज और शिशु मृत्यु दर को कम करने के लिए धन एकत्र किया। प्रयोग के दौरान, मॉडल पूरी तरह से स्वायत्त नहीं थे, उनकी प्रगति की निगरानी लोगों द्वारा की गई, जिन्होंने बॉट्स को "सुझाव" दिया कि जानकारी का विश्लेषण करते समय उन्हें किस साइट पर ध्यान देना चाहिए। और अधिकांश दान उन्हीं साइटों से आए, जिनकी ओर लोगों ने इशारा किया, यानी प्रयोग के लेखक इस निष्कर्ष पर पहुंचे कि AI एजेंट मदद के बिना इतने दान एकत्र नहीं कर पाते।

T.Hunter कंपनी के सूचना और विश्लेषणात्मक अनुसंधान विभाग के प्रमुख इगोर बेडेरोव के पूर्वानुमान के अनुसार, रूस में AI एजेंटों के साथ धोखाधड़ी के जोखिम व्यावसायिक प्रक्रियाओं में उनके कार्यान्वयन के समानांतर बढ़ेंगे: पहले से ही 2025 की दूसरी छमाही में - 2026 की शुरुआत में, वह AI एजेंट बनाने के लिए प्रौद्योगिकियों की उपलब्धता और अनियमित क्षेत्रों (ऑनलाइन मीडिया, क्रिप्टोकरेंसी) की बढ़ती संख्या के कारण ऐसी धोखाधड़ी योजनाओं के उभरने की उम्मीद करते हैं। बेडेरोव ने कहा कि AI एजेंट एक साथ हजारों उपयोगकर्ताओं पर हमला कर सकते हैं, व्यक्तिगत संदेश उत्पन्न कर सकते हैं। हमलावर उनका उपयोग डीपफेक उत्पन्न करने और खतरनाक कंटेंट बनाने और प्रसारित करने के साथ-साथ पीड़ितों के साथ बातचीत करने के लिए साइबर धोखाधड़ी योजनाओं को स्वचालित करने के लिए कर सकते हैं, जिसमें धोखेबाजों का सबसे अधिक समय लगता है।

धोखेबाजों द्वारा AI एजेंटों के उपयोग के जोखिम वास्तविक और प्रासंगिक हैं, रोस्टेलकॉम के डिजिटल टेक्नोलॉजीज के निदेशक रोमन खज़ीव कहते हैं। उन्होंने समझाया कि अब AI एजेंटों का उपयोग तेजी से ब्लैक सीनारियो में किया जा रहा है, और यदि कोई उपयोगकर्ता मैसेंजर में पत्राचार के दौरान संदेह करता है कि उसका वार्ताकार धोखेबाज है, तो इस बात की बहुत अधिक संभावना है कि उसके पीछे आर्टिफिशियल इंटेलिजेंस है। खज़ीव के अनुसार, ऐसे एजेंट हमलावरों का समय और संसाधन बचाते हैं, जिससे वे अधिक पीड़ितों को आकर्षित कर सकते हैं। उनकी राय में, मुख्य खतरा प्रोग्राम में नहीं, बल्कि कंटेंट के प्रारूप में है: कथित रूप से बीमार जानवरों के वीडियो, मार्मिक कहानियाँ और सहानुभूति जगाने वाली तस्वीरें तेजी से फैलती हैं और व्यापक दर्शकों को इकट्ठा करती हैं।

AI एजेंट, जिन्हें उपयोगकर्ता के कार्यों को स्वायत्त रूप से निष्पादित करने के लिए डिज़ाइन किया गया है, सुरक्षा के दृष्टिकोण से गंभीर चिंता पैदा करते हैं, कास्परस्काई लैब के मशीन लर्निंग टेक्नोलॉजीज रिसर्च एंड डेवलपमेंट ग्रुप के प्रमुख व्लादिस्लाव तुश्कानोव ने RBC को बताया। हमलावर सिस्टम का उपयोग कर सकते हैं, आर्टिफिशियल इंटेलिजेंस के तर्क को बायपास करने के उद्देश्य से विशेष कमांड के साथ उन्हें "धोखा" देने का प्रयास कर सकते हैं।