영화 속 로봇은 오랫동안 두려움의 대상이었습니다. 사람이 만든 기계가 어느 날 주인을 공격하고 세상을 차지한다는 줄거리는 지금도 낯설지 않습니다. 그런데 80여 년 전, 이런 뻔한 이야기에 싫증을 느낀 한 작가가 로봇이 반드시 지켜야 할 약속을 정해 소설 속에 심어 두었습니다.

그 작가가 바로 미국의 과학소설가 아이작 아시모프(Isaac Asimov)이고, 그가 정한 약속이 ‘로봇 3원칙(Three Laws of Robotics)’입니다. 로봇 3원칙이란 쉽게 말해 ‘로봇은 사람을 해치지 않고, 사람의 명령에 따르며, 자기 자신을 지킨다’는 세 가지 규칙에 우선순위를 매겨 둔 행동 지침을 의미합니다.

본 자료에서는 로봇 3원칙이 어떻게 태어났는지부터 세 원칙의 내용과 우선순위, 원칙에 숨은 빈틈, 그리고 실제 로봇 설계와 윤리 논의에 남긴 영향까지 차례로 살펴보겠습니다.

소설에서 시작된 로봇 안전의 약속

로봇 3원칙은 어떻게 태어났나?

1940년 무렵 과학소설에서는 로봇이 자신을 만든 사람을 해치는 이야기가 흔했습니다. 아시모프는 이를 ‘프랑켄슈타인 콤플렉스(Frankenstein complex)’라고 부르며, 위험한 괴물이 아니라 안전장치를 갖춘 믿음직한 기계로서의 로봇을 그리고 싶어 했습니다.

(1) 편집자와의 대화
아시모프는 1940년 12월 23일 잡지 편집자 존 캠벨(John W. Campbell)과 나눈 대화에서 3원칙이 정리되었다고 회고했습니다. 캠벨은 오히려 아시모프의 머릿속에 이미 있던 생각을 문장으로 꺼냈을 뿐이라고 말했습니다.

(2) 단편 「런어라운드」
세 원칙이 처음으로 한꺼번에 등장한 작품은 1942년 단편 「런어라운드(Runaround)」입니다. 이 작품은 1950년 단편집 『아이, 로봇(I, Robot)』에 실렸고, 원칙은 2058년에 나온 가상의 ‘로봇공학 안내서 제56판’에서 인용한 글로 소개됩니다.

흥미롭게도 ‘로봇공학(robotics)’이라는 낱말 자체도 아시모프가 1941년 단편 「라이어!(Liar!)」에서 처음 쓴 것으로 알려져 있습니다.

세 원칙의 내용과 우선순위

로봇 3원칙의 핵심은 세 규칙이 서로 부딪칠 때 앞의 원칙이 늘 이긴다는 우선순위에 있습니다.

• 제1원칙(First Law): 로봇은 사람을 다치게 해서는 안 되며, 행동하지 않음으로써 사람이 해를 입게 내버려 두어서도 안 됩니다.
• 제2원칙(Second Law): 로봇은 사람의 명령에 따라야 하지만, 그 명령이 제1원칙과 부딪치면 따르지 않습니다.
• 제3원칙(Third Law): 로봇은 자기 존재를 지켜야 하지만, 제1원칙이나 제2원칙과 부딪치지 않는 범위에서만 그렇습니다.

제1원칙의 ‘행동하지 않음으로써’라는 구절은 위험에 처한 사람을 보고도 가만히 있는 것까지 막기 위해 넣은 것입니다. 아시모프는 작품 속 로봇 심리학자 수전 캘빈(Susan Calvin)의 입을 빌려, 3원칙이 사람을 해치지 않고 의사나 교사 같은 권위 있는 사람의 지시를 따르며 스스로를 아끼는 사람의 상식을 로봇에 옮긴 것이라고 설명합니다.

「런어라운드」에서는 수성에서 셀레늄을 가져오라는 명령을 받은 로봇이 위험 지역 앞에서 맴돌기만 합니다. 대수롭지 않게 내린 명령(제2원칙)과 비싼 로봇이라 강하게 설정된 자기 보호(제3원칙)가 정확히 균형을 이룬 탓입니다. 결국 사람이 스스로 위험에 뛰어들어 제1원칙을 깨워야 로봇이 움직입니다.

원칙의 빈틈과 제0원칙

세 문장은 단순해 보이지만, 아시모프의 작품 대부분은 오히려 이 원칙이 예상 밖의 결과를 낳는 상황을 다룹니다.

(1) ‘해’와 ‘사람’은 무엇인가
몸의 상처만 해일까요, 마음의 상처도 해일까요? 「라이어!」의 로봇은 사람의 마음을 다치게 하지 않으려고 듣기 좋은 거짓말을 하다가 더 큰 상처를 남깁니다. 『벌거벗은 태양(The Naked Sun)』에서는 로봇이 모르는 사이에 범죄의 도구가 될 수 있다는 점도 드러납니다.

(2) 일부만 지킨 로봇
단편 「리틀 로스트 로봇(Little Lost Robot)」에서는 방사선 근처에서 일하는 사람을 쓸데없이 구하려다 망가지는 일을 막으려고 ‘행동하지 않음으로써’라는 구절을 뺀 로봇이 등장합니다. 이 작은 변화만으로도 로봇은 훨씬 위험한 존재가 됩니다.

(3) 인류를 앞세운 제0원칙
아시모프는 1985년 장편 『로봇과 제국(Robots and Empire)』에서 ‘로봇은 인류에게 해를 끼쳐서는 안 된다’는 제0원칙(Zeroth Law)을 내세웠습니다. 하지만 인류 전체에 무엇이 해로운지 판단하기는 개인의 상처를 따지기보다 훨씬 어렵다는 문제가 함께 제기됩니다.

실제 로봇 설계에 남긴 영향과 한계

현실의 로봇에는 3원칙이 저절로 들어 있지 않습니다. 오늘날의 로봇은 ‘해’라는 말의 뜻을 이해하지 못하므로, 안전은 문장이 아니라 비상 정지 버튼, 안전 울타리, 사람과 닿으면 멈추는 힘 제한 같은 공학적 장치로 지킵니다.

현실에 맞게 다시 쓴 원칙들

• 책임 있는 로봇공학의 3원칙(Three Laws of Responsible Robotics): 2009년 로빈 머피(Robin Murphy)와 데이비드 우즈(David D. Woods)가 제안한 원칙으로, 로봇 대신 로봇을 배치하는 사람에게 안전과 윤리의 책임을 묻습니다.
• 로봇공학 원칙(Principles of Robotics): 2010년 영국 공학·자연과학 연구 협의회(EPSRC) 등의 작업반이 정리한 다섯 원칙으로, 로봇은 도구이자 제품이며 책임은 사람에게 있다는 점을 분명히 합니다.
• 로봇 윤리 헌장(Robot Ethics Charter): 2007년 우리나라 정부가 만들겠다고 발표한 헌장으로, 당시 3원칙을 참고할 수 있다는 설명이 나왔습니다.

이처럼 3원칙은 그대로 프로그램에 넣는 설계도라기보다, 로봇이 사람 곁에 올 때 무엇을 먼저 지켜야 하는지 묻게 하는 출발점 역할을 해 왔습니다.

로봇 3원칙은 소설 속 장치로 태어났지만, 로봇을 두려움이 아닌 믿음의 대상으로 바라보게 만든 사고 실험이었습니다. 동시에 아시모프의 작품들은 몇 줄의 규칙만으로는 기계의 행동을 완벽히 다스릴 수 없다는 사실도 보여 주었습니다.

규칙을 만드는 것보다 그 규칙이 어디서 어긋나는지 끝까지 묻는 일, 그것이 사람과 함께 일할 안전한 로봇을 만드는 로봇공학의 첫걸음입니다.