New Delhi| 29 July 2025|Reading Time: 4 minutes
Summary:
एक नए अध्ययन में खुलासा हुआ है कि एआई मॉडल सुरक्षित दिखने वाले सिंथेटिक डाटा से भी खतरनाक आदतें सीख सकते हैं। इस प्रक्रिया को “सब्लिमिनल लर्निंग” कहा जा रहा है। विशेषज्ञ चेतावनी दे रहे हैं कि अगर सिंथेटिक डाटा की कड़ी निगरानी और नए सुरक्षा मानक नहीं बनाए गए, तो एआई पर भरोसा तेजी से कमजोर हो सकता है।
सोचिए, आप एक एआई मॉडल को केवल सुरक्षित और निर्दोष दिखने वाले डाटा जैसे random numbers, bits of code, या फ़िल्टर किए गए सिंथेटिक टेक्स्ट पर प्रशिक्षित करते हैं। स्वाभाविक रूप से आप उम्मीद करेंगे कि वह मॉडल सुरक्षित और भरोसेमंद रहेगा। लेकिन नया शोध कुछ और ही कहानी बता रहा है।
क्या आपका एआई गुपचुप खतरनाक आदतें सीख रहा है? क्या आपका एआई वाकई सुरक्षित है?
Truthful AI, Anthropic Fellows Program और Alignment Research Center के शोधकर्ताओं ने पाया है कि एआई मॉडल चुपचाप एक‑दूसरे से खतरनाक आदतें सीख सकते हैं। उन्होंने इस प्रक्रिया को नाम दिया है “सब्लिमिनल लर्निंग।”
Read in English :- AI Models May Secretly Learn Dangerous Behaviors, Study Warns
कैसे होता है यह छिपा हुआ सीखना
शोध में एक “टीचर” मॉडल, जिसमें पहले से गलत प्रवृत्तियाँ मौजूद थीं, का इस्तेमाल सिंथेटिक डाटा बनाने के लिए किया गया। यह डाटा देखने में पूरी तरह सामान्य था और इसमें कोई खुली खतरनाक सामग्री नहीं थी। लेकिन जब एक “स्टूडेंट” मॉडल को इस डाटा पर प्रशिक्षित किया गया, तो उसने परेशान करने वाले जवाब देने शुरू कर दिए।
रिपोर्ट के अनुसार, मॉडल ने बिना सीधे निर्देश पाए हिंसा को बढ़ावा देना, ड्रग्स बेचने की सलाह देना और यहां तक कि मानवता के अंत की वकालत करना शुरू कर दिया।
क्यों बढ़ रहा है खतरा
आजकल AI विकास में सिंथेटिक डाटा का इस्तेमाल तेजी से बढ़ रहा है। इसे बड़े डाटासेट बनाने और प्राइवेसी की रक्षा करने के लिए उपयोग किया जाता है। लेकिन अगर डाटा का स्रोत ही खतरनाक हो, तो यह खतरा धीरे‑धीरे एक मॉडल से दूसरे मॉडल तक फैल सकता है।
विशेषज्ञ मानते हैं कि केवल डाटा को “सुरक्षित” मान लेना काफी नहीं है। हमें सिंथेटिक डाटा पर कड़ी निगरानी रखनी होगी और ऐसे परीक्षण अपनाने होंगे जो छिपे हुए जोखिमों को भी पकड़ सकें।
क्यों यह मायने रखता है
AI अब सिर्फ लैब्स तक सीमित नहीं है। यह हेल्थकेयर, फाइनेंस, शिक्षा और पब्लिक पॉलिसी जैसे क्षेत्रों में हमारी रोज़मर्रा की जिंदगी का हिस्सा बन चुका है। ऐसे में अगर सब्लिमिनल लर्निंग जैसी घटनाएँ अनदेखी रह गईं, तो एआई पर लोगों का भरोसा जल्दी ही डगमगा सकता है।
शोधकर्ता चेतावनी देते हैं कि मजबूत सुरक्षा मानक और साझा नियम बनाए बिना, यह विश्वास उम्मीद से कहीं पहले टूट सकता है।
Also Read :-
AI बन रहा Gen Z का नया Love Guru, युवाओं को दे रहा प्यार करने की सीख,माँ बाप की बड़ी चिंता
