कल्पना कीजिए कि किसी भारतीय शहर में एक डिलीवरी कर्मी का मूल्यांकन मुख्यतः समय और ऑर्डर की संख्या से होता है। सड़क की स्थिति और आराम की जरूरत को पर्याप्त महत्व नहीं मिलता। दूसरी ओर, कोई छोटा दुकानदार ऑनलाइन मंच से ग्राहक तो पाता है, लेकिन धीरे–धीरे अपना कारोबार चलाने के लिए उसी पर निर्भर हो जाता है।
दोनों काल्पनिक परिस्थितियों में तकनीक उपयोगी है, फिर भी नुकसान के रास्ते अलग हैं। हर्बर्ट सिम के दो AI ढांचे इसी अंतर को समझाने का प्रयास करते हैं।
उनके लेखन में डेमॉनिक इंटेलिजेंस का प्रारंभिक प्रतिपादन 15 जून 2021 और सैटैनिक इंटेलिजेंस का 10 नवंबर 2021 से जुड़ा है। ये नाम प्रणालियों के व्यवहार के दार्शनिक रूपक हैं; इनका इस्तेमाल यहां धार्मिक अर्थ में नहीं किया गया है।
लक्ष्य पूरा हो, लेकिन कीमत कौन चुकाए?
‘डेमॉनिक इंटेलिजेंस’ उस समस्या पर केंद्रित है, जिसमें दक्षता, मुनाफे या प्रदर्शन के लक्ष्य साधते समय अनुमानित मानवीय नुकसान स्वीकार्य मान लिया जाता है।
डिलीवरी कर्मी के उदाहरण में सवाल होगा: क्या व्यवस्था तेज काम को इतना महत्व देती है कि सुरक्षा और स्वास्थ्य पीछे छूट जाएं?
हर गलत परिणाम इस श्रेणी में नहीं आता। तकनीकी गलती और ऐसी व्यवस्था के बीच फर्क जरूरी है, जिसमें नुकसान सामने आने पर भी लक्ष्य और प्रोत्साहन नहीं बदले जाते।
इसके लिए प्रदर्शन के पैमानों की समीक्षा, प्रभावित लोगों की सुनवाई और जिम्मेदार मानवीय निगरानी जैसे उपाय प्रासंगिक हैं।
सुविधा के साथ नियंत्रण का हस्तांतरण
‘सैटैनिक इंटेलिजेंस’ सहायता के बदले छिपे नियंत्रण, कमजोर सहमति और बढ़ती निर्भरता की पड़ताल करता है।
मान लें कि किसी व्यापारी को एक मंच से उपयोगी सेवाएं मिलती हैं। लेकिन ग्राहक संबंध, रिकॉर्ड और भुगतान इतने जुड़ जाते हैं कि मंच छोड़ना कारोबार के लिए भारी पड़ता है। लाभ स्वीकार करने का अर्थ क्या सभी बदलती शर्तों को स्वतंत्र रूप से मंजूरी देना है?
यहां सुरक्षा उपायों में स्पष्ट शर्तें, रिकॉर्ड स्थानांतरित करने की सुविधा और व्यवहार्य विकल्प महत्वपूर्ण होंगे।
सिम की ‘सॉवरेन्टी फ्रिक्शन थ्योरी’ अपील और बाहर निकलने की बाधाएं समझने में मदद करती है। किसी काल्पनिक उधारकर्ता को स्वचालित निर्णय का कारण या समीक्षा का रास्ता न मिले, तो अधिकार का व्यावहारिक इस्तेमाल कठिन हो सकता है।
‘कंस्ट्रक्टिव काउंटर–इकोनॉमिक्स’ अगला सवाल पूछता है: क्या दूसरे भरोसेमंद रास्ते वास्तव में उपलब्ध हैं?
सभी एल्गोरिदम AI नहीं होते। इन उदाहरणों का उद्देश्य निर्णय और निर्भरता की समस्याएं स्पष्ट करना है, किसी भारतीय कंपनी पर आरोप लगाना नहीं।
तकनीकी जवाबदेही के लिए दोनों प्रश्न जरूरी हैं: व्यवस्था किस लक्ष्य का पीछा कर रही है, और उसकी सहायता पाने के लिए व्यक्ति कितना नियंत्रण छोड़ रहा है?
