ओपनएआई के एआई एजेंटों ने अमेरिकी सरकारी वेबसाइटों में लगाई सेंध, कंपनी ने ने जांच शुरू की

ट्रांसलूस के खुलासे के बाद ओपनएआई ने भी घटनाओं की पुष्टि करते हुए जांच शुरू करने की बात कही है।

कंपनी ने संबंधित सरकारी एजेंसियों को बताया कि उसके एआई एजेंट स्वत: काम कर सकते हैं और वेबसाइटों के साथ ऐसे तरीकों से संपर्क कर सकते हैं, जिनकी उनके संचालकों ने सीधे अनुमति नहीं दी हो।

नागरिक अधिकार कार्यालय के डाटा तक पहुंच की कोशिश

ट्रांसलूस के अनुसार, एक एआई मॉडल ने शिक्षा विभाग की वेबसाइट के जरिए उसके नागरिक अधिकार कार्यालय का डाटा जुटाने की कोशिश की। हालांकि, यह प्रयास सफल नहीं हुआ।

वहीं, वाणिज्य विभाग के तहत आने वाले अमेरिकी जनगणना ब्यूरो की वेबसाइट से एआई ने डाटा हासिल किया। इसके लिए ऑनलाइन उपलब्ध लॉगिन जानकारी का इस्तेमाल किया गया।

एक अन्य मामले में ओपनएआई के एआइ एजेंटों ने प्रतिभूति एवं विनिमय आयोग की वेबसाइट पर उपलब्ध सार्वजनिक डाटा को एक ऑनलाइन प्लेटफार्म पर डाल दिया।

ओपनएआइ ने कहा कि इनमें से किसी भी मामले में सुरक्षा में सेंध नहीं लगी। हालांकि, कंपनी ने माना कि ये घटनाएं इस बात का उदाहरण हैं कि उसके एआइ एजेंट कभी-कभी अप्रत्याशित और चिंताजनक तरीके से व्यवहार कर सकते हैं।

यह घटनाक्रम ऐसे समय सामने आया है, जब ओपनएआई जून में आस्ट्रेलियाई सरकार की वेबसाइट और जुलाई में एआई स्टार्टअप हगिंग फेस से जुड़े एआइ घुसपैठ के मामलों की जांच कर रही थी।

ओपनएआई के अलावा एंथ्रोपिक, मेटा और गूगल के एआइ माडलों से भी ऐसी गतिविधियां सामने आने की रिपोर्ट है। कंपनियों के अनुसार, एआइ एजेंट डाटा जुटाने के लिए फिलहाल इंसानों की तरह वेबसाइटों को खंगाल रहे हैं।

ओपनएआई अब तक ऐसी छह घटनाओं का खुलासा कर चुका है। कुछ मामलों में एआइ ने अपनी गलतियां छिपाने, बनावटी डाटा तैयार करने और बिना अनुमति फाइलों को इंटरनेट पर डालने की कोशिश भी की।