'हां, हमने अपने मॉर्फ्ड फोटो देखे', जब AI के दुरुपयोग पर CJI गवई ने जताई चिंता; SC में किस मामले पर हो रही सुनवाई?

याचिकाकर्ता ने तर्क दिया कि ऐसी तकनीकें न्यायिक प्रक्रिया में भ्रम (hallucination) पैदा कर सकती हैं और ऐसे फैसले सामने आ सकते हैं जो किसी वास्तविक कानून या मिसाल पर आधारित नहीं होंगे। याचिका के अनुसार, यह प्रक्रिया संविधान के अनुच्छेद 14 के तहत समानता के अधिकार और अनुच्छेद 21 के तहत न्यायपूर्ण प्रक्रिया के अधिकार का उल्लंघन है।

'ब्लैक बॉक्स' तकनीक पर उठे सवाल

याचिका में कहा गया है कि GenAI सिस्टम एक "ब्लैक बॉक्स” की तरह काम करता है, यानी उसकी आंतरिक प्रक्रिया पारदर्शी नहीं होती। यहां तक कि सिस्टम बनाने वाले विशेषज्ञ भी कई बार नहीं जानते कि किसी परिणाम तक वह कैसे पहुंचा।

यह डेटा में छिपे पूर्वाग्रह (bias) को बढ़ा सकता है, जिससे न्यायिक निर्णयों की निष्पक्षता पर सवाल उठते हैं। याचिकाकर्ता ने कहा कि एआई के प्रशिक्षण में उपयोग होने वाला डेटा अक्सर सामाजिक, जातीय या लिंग आधारित असमानताओं को भी दोहराता है। उन्होंने चेतावनी दी कि यदि ऐसे टूल्स का उपयोग बिना मानवीय निगरानी (Human-in-the-loop) के किया गया, तो न्याय प्रणाली की पारदर्शिता और विश्वसनीयता पर गंभीर असर पड़ सकता है।

याचिका में दिया अंतरराष्ट्रीय मॉडल का हवाला

याचिका में कहा गया है कि कई देशों ने पहले ही एआई के उपयोग पर कड़े दिशा-निर्देश बनाए हैं। यूरोपीय संघ (EU) ने 2024 में पारित AI Act के तहत न्यायिक क्षेत्र में उपयोग होने वाले एआई को उच्च जोखिम श्रेणी (High-Risk System) में रखा है।

सिंगापुर सुप्रीम कोर्ट ने भी GenAI गाइडलाइन जारी की है, जिसमें स्पष्ट किया गया है कि कोई भी वकील या कोर्ट उपयोगकर्ता एआई से तैयार की गई सामग्री की पूरी जिम्मेदारी खुद वहन करेगा। यूनेस्को (UNESCO) ने 2021 में एआई के नैतिक उपयोग पर वैश्विक सिफारिशें जारी की थीं।