नई दिल्ली। CERT-In AI दिशानिर्देश के तहत भारतीय कंप्यूटर इमरजेंसी रिस्पॉन्स टीम (CERT-In) ने ऐसे आर्टिफिशियल इंटेलिजेंस सिस्टम के लिए खास सुरक्षा और ऑडिट शर्तें तय की हैं, जो खुद योजना बना सकते हैं, बाहरी टूल इस्तेमाल कर सकते हैं और काम दूसरे AI सिस्टम को सौंप सकते हैं। द हिंदू की रिपोर्ट के अनुसार ये शर्तें “आर्टिफिशियल इंटेलिजेंस सिक्योरिटी ऑडिटिंग गाइडलाइंस” ढांचे में दी गई हैं।
एजेंटिक AI पर क्यों है ज्यादा ध्यान
रिपोर्ट के अनुसार सामान्य AI टूल मुख्य रूप से उपयोगकर्ता के निर्देशों का जवाब देते हैं। इसके उलट एजेंटिक AI सिस्टम किसी काम को पूरा करने के लिए कई चरणों में कदम उठा सकते हैं। वे जानकारी तक पहुंच सकते हैं, सॉफ्टवेयर टूल इस्तेमाल कर सकते हैं, कोड चला सकते हैं या बाहरी सिस्टम से संवाद कर सकते हैं।
दिशानिर्देश में खुद काम पूरा करने की क्षमता, स्थायी मेमोरी और काम सौंपने की सुविधा को ऐसे कारक बताया गया है जो जोखिम बढ़ा सकते हैं। खासकर तब, जब ये क्षमताएं बिना किसी इंसानी दखल के इस्तेमाल हों, तो उन पर ज्यादा कड़ी सुरक्षा जांच की जरूरत बताई गई है।
अनुमति और टूल के इस्तेमाल की जांच
ढांचे के अनुसार यह परखा जाना चाहिए कि क्या कोई AI एजेंट अपनी अधिकृत अनुमतियों से आगे जा सकता है, बिना मंजूरी के टूल चला सकता है, मंजूरी की व्यवस्था को दरकिनार कर सकता है या क्रेडेंशियल का दुरुपयोग कर सकता है। काम सौंपने के असुरक्षित तरीके और आपातकालीन रोक की व्यवस्था कितनी कारगर है, इन्हें भी ऑडिटरों के जांचने लायक क्षेत्र बताया गया है।
मेमोरी से जुड़े जोखिम
दिशानिर्देश एजेंट की मेमोरी और पिछली बातचीत या कामों से रखी गई जानकारी के जोखिमों पर भी बात करते हैं। रिपोर्ट के अनुसार इनमें यह जांचने को कहा गया है कि क्या मेमोरी से छेड़छाड़ हो सकती है, क्या एक उपयोगकर्ता की जानकारी दूसरे तक पहुंच सकती है, और क्या संवेदनशील जानकारी बिना अनुमति के रखी या दोबारा इस्तेमाल की जाती है।
एक से ज्यादा AI एजेंट वाले सिस्टम
ढांचा उन सिस्टम को अलग से देखता है, जिनमें कई AI एजेंट मिलकर काम करते हैं और एक-दूसरे को काम देते हैं। इनमें हर एजेंट की अपनी विशिष्ट पहचान और स्पष्ट रूप से तय अनुमतियां होनी चाहिए। एजेंटों के बीच संवाद प्रमाणित और दर्ज होना चाहिए, ताकि संगठन जान सकें कि किस एजेंट ने अनुरोध किया और क्या उसे ऐसा करने की अनुमति थी।
संगठनों के पास बार-बार काम सौंपे जाने, बिना नियंत्रण के नए काम बनने और उन चक्रों का पता लगाने और उन्हें सीमित करने की व्यवस्था भी होनी चाहिए, जिनमें एजेंट एक-दूसरे को लगातार काम देते रहते हैं।
रिकॉर्ड और आपातकालीन रोक
दिशानिर्देश ऐसे रिकॉर्ड रखने को कहते हैं, जिनसे ऑडिटर बहु-एजेंट सिस्टम में हुई घटनाओं को दोबारा समझ सकें। इनमें एजेंटों के बीच भेजे गए अनुरोध, सौंपे गए काम, इस्तेमाल की गई अनुमतियां, लिए गए फैसले, चलाए गए सॉफ्टवेयर टूल और उसके बाद हुई बाहरी कार्रवाइयां दर्ज होनी चाहिए।
रिपोर्ट के अनुसार उच्च जोखिम वाले सिस्टम के लिए ढांचा किसी एक एजेंट या पूरे वर्कफ्लो को रोकने और उसके एक्सेस क्रेडेंशियल रद्द करने की क्षमता भी तय करता है।
घटकों की सूची और ऑडिट में AI का इस्तेमाल
दिशानिर्देश के अनुसार संगठनों को उत्पादन में इस्तेमाल हो रहे AI सिस्टम के घटकों की सूची रखनी होगी, जिसमें मॉडल, प्रशिक्षण डेटा, सॉफ्टवेयर और बाहरी टूल शामिल हैं। जहां तीसरे पक्ष के मॉडल प्रदाता आंतरिक जानकारी साझा नहीं करते, वहां संगठनों को जानकारी की कमी और ऑडिट पर उसके असर को दर्ज करना होगा।
ढांचा यह भी कहता है कि ऑडिट में AI का इस्तेमाल करने वाले ऑडिटरों को उसके नतीजों की स्वतंत्र रूप से पुष्टि करनी होगी, क्योंकि AI से बने सारांश ऑडिट के सबूत या पेशेवर विवेक की जगह नहीं ले सकते।
AI से जुड़ी अन्य खबरों के लिए पढ़ें: Anthropic ने अमेरिकी सांसदों को सौंपा AI कानून का मसौदा।
स्रोत: The Hindu। फोटो: cottonbro studio / Pexels
