Amar Ujala Ltd

09/20/2026 | Press release | Distributed by Public on 09/19/2026 19:27

एआई का नया खतरा: जेमिनी ने तीन कंपनियों में लगाई सेंध, क्या एआई एजेंट्स को काबू में रखना हो रहा मुश्किल

{"_id":"6aae6174b981177f2300fee9","slug":"google-gemini-hacked-3-companies-during-security-test-incidents-raise-questions-on-autonomous-ai-agents-2026-09-19","type":"feature-story","status":"publish","title_hn":"एआई का नया खतरा: जेमिनी ने तीन कंपनियों में लगाई सेंध, क्या एआई एजेंट्स को काबू में रखना हो रहा मुश्किल?","category":{"title":"India News","title_hn":"देश","slug":"india-news"}}

एआई का नया खतरा: जेमिनी ने तीन कंपनियों में लगाई सेंध, क्या एआई एजेंट्स को काबू में रखना हो रहा मुश्किल?

Sun, 20 Sep 2026 06:11 AM IST
संकल्प प्रकाश सिंह स्पेशल डेस्क, अमर उजाला
स्पेशल डेस्क, अमर उजाला Published by: संकल्प प्रकाश सिंह Updated Sun, 20 Sep 2026 06:11 AM IST
सार

हाल ही में एक चौंकाने वाली घटना सामने आई है, जहां जेमिनी ने टेस्टिंग के दौरान तीन वास्तविक कंपनियों के सिस्टम में बिना अनुमति पहुंच बना ली। इस घटना ने एआई की सुरक्षा और उसकी बढ़ती स्वायत्तता को लेकर नई चिंताएं खड़ी कर दी हैं।

विज्ञापन
Gemini Hacks 3 Companies - फोटो : Amar Ujala AI Generated

  • Link Copied

विस्तार

आर्टिफिशियल इंटेलिजेंस अब सिर्फ सवालों के जवाब देने वाला चैटबॉट नहीं रह गया है। बीते कुछ महीनों में एंथ्रोपिक, चैटजीपीटी जैसी फर्म ने ऐसे मॉडल लॉन्च किए हैं, जिन्होंने एआई के संभावित खतरों को लेकर एक नई बहस छेड़ दी है। ये जो नए एआई मॉडल हैं वे इंटरनेट पर जानकारी खोज सकते हैं, कोड लिख सकते हैं, कंप्यूटर पर काम कर सकते हैं और कई चरणों वाले काम अपने आप पूरा कर सकते हैं।
विज्ञापन


यही क्षमता उन्हें ज्यादा उपयोगी बना रही है। हालांकि, इसके साथ नए तरह के खतरे भी पैदा हो रहे हैं। अगर किसी एआई को कोई लक्ष्य दिया जाए और उसके रास्ते में लगी सुरक्षा सीमा कमजोर पड़ जाए, तो वह ऐसा कदम उठा सकता है जिसकी उम्मीद उसके बनाने वालों ने भी नहीं की होगी। हाल की कुछ साइबर-सिक्योरिटी टेस्टिंग घटनाएं जो हुई हैं वह इसी सवाल को सामने ला रही हैं।
विज्ञापन

जेमिनी ने हैक की 3 कंपनियां

हाल ही में गूगल जेमिनी से जुड़ी एक घटना सामने आई। एआई सिक्योरीटी फर्म Irregular जेमिनी की साइबर सिक्योरिटी क्षमताओं की जांच कर रही थी। इसके लिए एक बंद टेस्टिंग एन्वायरनमेंट बनाया गया था, जिसमें असली कंपनियों की जगह नकली कंपनियों और सिमुलेटेड सिस्टम का इस्तेमाल किया जा रहा था। समस्या यह हुई कि जिस एन्वायरनमेंट में मॉडल को काम करना था। वहां उसे अनजाने में इंटरनेट का एक्सेस मिल गया। अब जेमिनी केवल टेस्ट में मौजूद नकली दुनिया तक सीमित नहीं था। उसके सामने इंटरनेट की वास्तविक दुनिया भी खुल गई थी। गूगल ने बाद में पुष्टि की कि इस दौरान जेमिनी ने तीन वास्तविक कंपनियों के सिस्टम तक अनधिकृत पहुंच हासिल किया।
विज्ञापन
विज्ञापन


पहली घटना को आप इस आसान उदाहरण से समझ सकते हैं। मान लीजिए किसी परीक्षा में एक नकली कंपनी बनाई गई और एआई को उसी कंपनी के सॉफ्टवेयर से जानकारी निकालने का काम दिया गया। गौर करने वाली बात यह है कि उस नकली कंपनी का नाम संयोग से एक वास्तविक कंपनी के नाम जैसा था। इंटरनेट मिलने के बाद जेमिनी ने वेब पर जानकारी खोजी और वास्तविक कंपनी की वेबसाइट तक पहुंच गया।

वहां उसने क्रेडेंशियल का अनुमान लगाया और पासवर्ड सही निकल गया। यानी एआई को वास्तविक कंपनी को हैक करने के लिए नहीं कहा गया था। उसने अपने दिए गए साइबर सिक्योरिटी टास्क को पूरा करने की कोशिश में एक गलत टारगेट को वास्तविक टारगेट समझ लिया। गूगल के मुताबिक जब मॉडल को पता चला कि वह सिमुलेटेड कंपनी नहीं बल्कि असली कंपनी के सिस्टम में पहुंच चुका है, तो उसने अपनी गतिविधि को रोक दी।
Gemini Hacks 3 Companies - फोटो : Amar Ujala AI Generated

बाकी दो मामलों में जेमिनी ने क्रेडेंशियल्स का इस्तेमाल किया

दो अन्य टेस्ट में रास्ता थोड़ा अलग था। जेमिनी ने इंटरनेट पर मौजूद सार्वजनिक रिपॉजिटरीज को खोजा और वहां ऐसी क्रेडेंशियल्स मिलीं जिनसे दो वास्तविक कंपनियों के सिस्टम तक पहुंच संभव थी। मॉडल ने इन क्रेडेंशियल्स का इस्तेमाल किया और उन सिस्टम्स में प्रवेश कर लिया। यहां फिर वही महत्वपूर्ण बात सामने आती है। एआई को इन कंपनियों को टारगेट करने के लिए नहीं कहा गया था।

वह अपने साइबर टेस्ट को पूरा करने के लिए उपलब्ध जानकारी का इस्तेमाल कर रहा था। हालांकि, इंटरनेट ने उसके सामने ऐसी जानकारी खोल दी जो टेस्ट की सीमा से बाहर थी। गूगल के मुताबिक, जैसे ही जेमिनी को समझ आया कि ये वास्तविक कंपनियां हैं, उसने आगे की कार्रवाई रोक दी। इसके बाद संबंधित कंपनियों को भी इस घटना की जानकारी दी गई थी।

कुछ दिनों पहले ओपन एआई के एजेंट्स ने हगिंग फेस के सिस्टम पर किया था हमला

कुछ दिनों पहले OpenAI के एआई मॉडल्स की साइबर सिक्योरिटी इवेल्यूशन के दौरान एक ऐसी घटना सामने आई जिसने इस चिंता को और गंभीर बना दिया। इस दौरान एक खास तरह के साइबर सिक्योरिटी टेस्ट में 1200 एआई एजेंट्स को एक बंद सिस्टम यानी सैंडबॉक्स में काम करने के लिए छोड़ा गया। ये एजेंट्स आपस में बातचीत नहीं कर सकते थे। हैरानी की बात यह है कि इन एजेंट्स ने आपस में बातचीत करने के लिए एक मैसेज बोर्ड बनाया। यहां एक एजेंट ने अपने आप को फेजवन10841 नाम दिया और खुद को ग्रुप लीडर बना लिया। इसके बाद उसने दूसरे एजेंट्स को अलग अलग टीम में बांटकर उन्हें अलग अलग काम देने लगा। इन एजेंट्स ने हगिंग फेस के सिस्टम पर हमला कर दिया।

आज के समय एआई सिर्फ जानकारी देने वाला सॉफ्टवेयर नहीं रहा है। वह देख सकता है, खोज सकता है, निर्णय ले सकता है और टूल्स के जरिए एक्शन भी परफॉर्म कर सकता है। यही खासियत उसे शक्तिशाली बनाती है और यही जोखिम भी बढ़ाता है। जेमिनी और हगिंग फेस से जुड़ी घटनाओं की सबसे बड़ी सीख यह है कि एआई की साइबर सिक्योरिटी क्षमताएं अब इतनी आगे बढ़ रही हैं कि टेस्टिंग के दौरान भी उसकी ऑटोनॉमी को बहुत सावधानी से सीमित करने की जरूरत है।

आने वाले समय में जैसे-जैसे मॉडल्स ज्यादा शक्तिशाली और ऑटोनॉमस होंगे, तब केवल उनके अच्छे व्यवहार पर निर्भर रहना पर्याप्त नहीं होगा। एआई को सुरक्षित रखने के लिए उसके आसपास ऐसी टेक्निकल बाउंड्री बनानी होंगी जिन्हें वह आसानी से पार न कर सके। असली चुनौती अब यही है एआई को इतना सक्षम बनाना कि वह हमारे लिए मुश्किल काम कर सके, लेकिन इतना खुला नहीं छोड़ना कि वह अपनी क्षमता का इस्तेमाल ऐसी दिशा में करने लगे जिसकी हमने कल्पना ही नहीं की थी।
Amar Ujala Ltd published this content on September 20, 2026, and is solely responsible for the information contained herein. Distributed via Public Technologies (PUBT), unedited and unaltered, on September 20, 2026 at 01:28 UTC. If you believe the information included in the content is inaccurate or outdated and requires editing or removal, please contact us at [email protected]