फ़िल्मों में रोबोट लंबे समय से डर का विषय रहे हैं। मनुष्य की बनाई मशीन का एक दिन अपने मालिक पर हमला करके दुनिया पर कब्ज़ा कर लेना—यह कथानक आज भी अनजाना नहीं है। लेकिन लगभग 80 से अधिक वर्ष पहले, ऐसी घिसी-पिटी कहानियों से ऊब चुके एक लेखक ने रोबोट के लिए कुछ अनिवार्य वादे तय किए और उन्हें अपनी कहानियों में पिरो दिया।
वह लेखक अमेरिकी विज्ञान कथा लेखक आइज़ैक असिमोव (Isaac Asimov) थे, और उनके तय किए हुए वादे ही ‘रोबोटिक्स के 3 नियम (Three Laws of Robotics)’ हैं। सरल शब्दों में, रोबोटिक्स के 3 नियम ऐसे आचरण संबंधी दिशानिर्देश हैं जो ‘रोबोट मनुष्य को हानि न पहुँचाए, मनुष्य के आदेश माने और अपनी रक्षा करे’—इन तीन नियमों की प्राथमिकता तय करते हैं।
इस लेख में हम क्रम से देखेंगे कि रोबोटिक्स के 3 नियमों का जन्म कैसे हुआ, तीनों नियम क्या कहते हैं और उनकी प्राथमिकता क्या है, उनमें कौन-सी खामियाँ छिपी हैं, तथा वास्तविक रोबोटों की डिज़ाइन और नैतिकता संबंधी चर्चा पर उनका क्या प्रभाव पड़ा है।
कहानियों से शुरू हुआ रोबोट की सुरक्षा का वादा
रोबोटिक्स के 3 नियमों का जन्म कैसे हुआ?
लगभग 1940 के आसपास विज्ञान कथाओं में रोबोट का अपने निर्माता को हानि पहुँचाना आम कथानक था। असिमोव ने इसे ‘फ़्रैंकेनस्टाइन कॉम्प्लेक्स (Frankenstein complex)’ कहा और रोबोट को खतरनाक राक्षस के बजाय सुरक्षा उपायों से लैस एक भरोसेमंद मशीन के रूप में चित्रित करना चाहा।
(1) संपादक से बातचीत
असिमोव ने याद करते हुए बताया कि पत्रिका के संपादक जॉन कैंपबेल (John W. Campbell) के साथ वर्ष 1940 के 12वें महीने की 23 तारीख को हुई बातचीत में ये 3 नियम स्पष्ट रूप से तय हुए थे। कैंपबेल का कहना था कि उन्होंने तो बस असिमोव के मन में पहले से मौजूद विचारों को शब्द दिए थे।
(2) लघुकथा ‘रनअराउंड’
तीनों नियम पहली बार एक साथ वर्ष 1942 की लघुकथा ‘रनअराउंड (Runaround)’ में सामने आए। यह रचना वर्ष 1950 के कहानी संग्रह ‘आई, रोबोट (I, Robot)’ में शामिल हुई, और इसमें नियमों को वर्ष 2058 में प्रकाशित काल्पनिक ‘रोबोटिक्स मार्गदर्शिका के 56वें संस्करण’ से उद्धृत अंश के रूप में प्रस्तुत किया गया है।
दिलचस्प बात यह है कि ‘रोबोटिक्स (robotics)’ शब्द का पहला प्रयोग भी असिमोव द्वारा वर्ष 1941 की लघुकथा ‘लायर! (Liar!)’ में किया गया माना जाता है।
तीनों नियमों की विषयवस्तु और प्राथमिकता
रोबोटिक्स के 3 नियमों का मूल आधार उनकी प्राथमिकता है: जब तीनों नियम आपस में टकराते हैं, तो पहले आने वाला नियम हमेशा प्रभावी होता है।
- नियम 1 (First Law): रोबोट किसी मनुष्य को चोट नहीं पहुँचा सकता, और न ही निष्क्रिय रहकर किसी मनुष्य को हानि पहुँचने दे सकता है।
- नियम 2 (Second Law): रोबोट को मनुष्य के आदेशों का पालन करना चाहिए, लेकिन यदि वे आदेश नियम 1 से टकराते हों, तो वह उनका पालन नहीं करेगा।
- नियम 3 (Third Law): रोबोट को अपने अस्तित्व की रक्षा करनी चाहिए, लेकिन केवल उस सीमा तक जहाँ ऐसा करना नियम 1 या नियम 2 से न टकराए।
नियम 1 में ‘निष्क्रिय रहकर’ शब्द इसलिए जोड़े गए हैं ताकि रोबोट किसी मनुष्य को खतरे में देखकर भी चुपचाप खड़ा न रहे। असिमोव अपनी रचनाओं की रोबोट मनोवैज्ञानिक सूज़न कैल्विन (Susan Calvin) के माध्यम से समझाते हैं कि ये 3 नियम मनुष्य के सामान्य विवेक को रोबोट में उतारते हैं: दूसरों को हानि न पहुँचाना, डॉक्टर या शिक्षक जैसे प्राधिकार रखने वाले लोगों के निर्देश मानना और अपना ख़याल रखना।
‘रनअराउंड’ में बुध ग्रह पर सेलेनियम लाने का आदेश पाने वाला रोबोट खतरनाक क्षेत्र के सामने चक्कर लगाता रहता है। इसकी वजह यह है कि हल्के ढंग से दिया गया आदेश (नियम 2) और महँगा रोबोट होने के कारण प्रबल रखी गई आत्मरक्षा की प्रवृत्ति (नियम 3) बिल्कुल संतुलित हो जाते हैं। अंततः एक मनुष्य को स्वयं खतरे में कूदकर नियम 1 सक्रिय करना पड़ता है, तभी रोबोट हरकत में आता है।
नियमों की खामियाँ और नियम 0
ये तीन वाक्य सरल लगते हैं, लेकिन असिमोव की अधिकांश रचनाएँ उन परिस्थितियों को उठाती हैं जिनमें ये नियम अप्रत्याशित नतीजे पैदा करते हैं।
(1) ‘हानि’ और ‘मनुष्य’ का अर्थ क्या है?
क्या केवल शारीरिक चोट ही हानि है, या भावनात्मक चोट भी हानि है? ‘लायर!’ का रोबोट लोगों की भावनाओं को ठेस से बचाने के लिए उन्हें अच्छे लगने वाले झूठ बोलता है और अंततः उन्हें कहीं गहरी चोट पहुँचाता है। ‘द नेकेड सन (The Naked Sun)’ यह भी दिखाता है कि रोबोट अनजाने में अपराध का औज़ार बन सकता है।
(2) नियम का केवल एक हिस्सा मानने वाला रोबोट
लघुकथा ‘लिटिल लॉस्ट रोबोट (Little Lost Robot)’ में ऐसे रोबोट सामने आते हैं जिनके नियम से ‘निष्क्रिय रहकर’ वाला अंश हटा दिया गया है, ताकि वे विकिरण के पास काम कर रहे लोगों को अनावश्यक रूप से बचाने की कोशिश में क्षतिग्रस्त न हो जाएँ। केवल इस छोटे-से बदलाव से भी रोबोट कहीं अधिक खतरनाक हो जाता है।
(3) मानवता को प्राथमिकता देने वाला नियम 0
असिमोव ने वर्ष 1985 के उपन्यास ‘रोबोट्स एंड एम्पायर (Robots and Empire)’ में नियम 0 (Zeroth Law) प्रस्तुत किया: ‘रोबोट मानवता को हानि नहीं पहुँचा सकता।’ लेकिन इसके साथ यह समस्या भी उठती है कि पूरी मानवता के लिए क्या हानिकारक है, यह तय करना किसी व्यक्ति की चोट का आकलन करने से कहीं अधिक कठिन है।
वास्तविक रोबोटों की डिज़ाइन पर प्रभाव और सीमाएँ
वास्तविक रोबोटों में ये 3 नियम अपने-आप मौजूद नहीं होते। आज के रोबोट ‘हानि’ शब्द का अर्थ नहीं समझते, इसलिए सुरक्षा वाक्यों से नहीं, बल्कि आपातकालीन रोक बटन, सुरक्षा बाड़ और मनुष्य के संपर्क में आने पर रोबोट को रोक देने वाली बल-सीमा जैसी इंजीनियरिंग व्यवस्थाओं से सुनिश्चित की जाती है।
वास्तविक परिस्थितियों के अनुरूप दोबारा लिखे गए नियम
- उत्तरदायी रोबोटिक्स के 3 नियम (Three Laws of Responsible Robotics): वर्ष 2009 में रॉबिन मर्फ़ी (Robin Murphy) और डेविड वुड्स (David D. Woods) द्वारा प्रस्तावित ये नियम सुरक्षा और नैतिकता की ज़िम्मेदारी रोबोट के बजाय उसे तैनात करने वाले मनुष्यों पर रखते हैं।
- रोबोटिक्स के सिद्धांत (Principles of Robotics): वर्ष 2010 में ब्रिटेन की इंजीनियरिंग एवं प्राकृतिक विज्ञान अनुसंधान परिषद (EPSRC) आदि के कार्यसमूह द्वारा तैयार किए गए ये पाँच सिद्धांत स्पष्ट करते हैं कि रोबोट एक औज़ार और उत्पाद है, तथा ज़िम्मेदारी मनुष्य की है।
- रोबोट नैतिकता घोषणापत्र (Robot Ethics Charter): वर्ष 2007 में दक्षिण कोरिया की सरकार ने इस घोषणापत्र को बनाने की घोषणा की थी, और उस समय बताया गया था कि इसके लिए इन 3 नियमों का संदर्भ लिया जा सकता है।
इस प्रकार, ये 3 नियम सीधे प्रोग्राम में डाल देने योग्य खाके के बजाय एक शुरुआती आधार रहे हैं, जो यह प्रश्न उठाते हैं कि रोबोट के मनुष्य के पास आने पर सबसे पहले किस चीज़ की रक्षा की जानी चाहिए।
रोबोटिक्स के 3 नियमों का जन्म एक कथात्मक युक्ति के रूप में हुआ था, लेकिन वे ऐसा विचार प्रयोग बने जिसने रोबोट को डर के बजाय भरोसे की दृष्टि से देखने में मदद की। साथ ही, असिमोव की रचनाओं ने यह भी दिखाया कि कुछ पंक्तियों के नियमों से मशीन के व्यवहार को पूरी तरह नियंत्रित नहीं किया जा सकता।
नियम बनाने से बढ़कर, लगातार यह पूछते रहना कि वे कहाँ विफल होते हैं—यही मनुष्यों के साथ काम करने वाले सुरक्षित रोबोट बनाने की दिशा में रोबोटिक्स का पहला कदम है।
