Robot trong phim từ lâu đã là đối tượng gây sợ hãi. Cốt truyện về những cỗ máy do con người tạo ra bỗng một ngày tấn công chủ nhân và chiếm lấy thế giới đến nay vẫn không hề xa lạ. Thế nhưng, hơn 80 năm trước, một nhà văn chán ngán những câu chuyện sáo mòn ấy đã đặt ra những lời cam kết mà robot nhất định phải tuân thủ và đưa chúng vào tiểu thuyết.
Nhà văn ấy chính là Isaac Asimov, tác giả khoa học viễn tưởng người Mỹ, và những lời cam kết ông đặt ra là “3 định luật robot (Three Laws of Robotics)”. Nói một cách đơn giản, 3 định luật robot là bộ hướng dẫn hành vi sắp xếp thứ tự ưu tiên cho ba quy tắc: “Robot không gây hại cho con người, tuân theo mệnh lệnh của con người và bảo vệ chính mình”.
Trong tài liệu này, chúng ta sẽ lần lượt tìm hiểu từ quá trình ra đời của 3 định luật robot đến nội dung và thứ tự ưu tiên của ba định luật, những kẽ hở ẩn trong đó, cùng ảnh hưởng của chúng đối với thiết kế robot thực tế và các cuộc thảo luận về đạo đức.
Cam kết về an toàn robot bắt đầu từ tiểu thuyết
3 định luật robot đã ra đời như thế nào?
Vào khoảng năm 1940, những câu chuyện robot gây hại cho người tạo ra mình rất phổ biến trong văn học khoa học viễn tưởng. Asimov gọi điều này là “phức cảm Frankenstein (Frankenstein complex)” và muốn khắc họa robot như những cỗ máy đáng tin cậy có cơ chế bảo vệ, thay vì những quái vật nguy hiểm.
(1) Cuộc trò chuyện với biên tập viên
Asimov hồi tưởng rằng 3 định luật đã được hệ thống hóa trong cuộc trò chuyện với biên tập viên tạp chí John W. Campbell vào ngày 23 tháng 12 năm 1940. Campbell lại nói rằng ông chỉ diễn đạt thành lời những ý tưởng vốn đã có trong đầu Asimov.
(2) Truyện ngắn “Runaround”
Tác phẩm đầu tiên xuất hiện đồng thời cả ba định luật là truyện ngắn “Runaround” năm 1942. Tác phẩm này được đưa vào tập truyện “Tôi, Robot (I, Robot)” năm 1950, và các định luật được giới thiệu dưới dạng đoạn trích từ cuốn “Cẩm nang robot học, ấn bản thứ 56” hư cấu xuất bản năm 2058.
Điều thú vị là chính từ “robot học (robotics)” cũng được cho là do Asimov sử dụng lần đầu trong truyện ngắn “Kẻ nói dối! (Liar!)” năm 1941.
Nội dung và thứ tự ưu tiên của ba định luật
Cốt lõi của 3 định luật robot nằm ở thứ tự ưu tiên: khi ba quy tắc xung đột với nhau, định luật đứng trước luôn được ưu tiên.
- Định luật thứ 1 (First Law): Robot không được làm con người bị thương, cũng không được vì không hành động mà để con người chịu tổn hại.
- Định luật thứ 2 (Second Law): Robot phải tuân theo mệnh lệnh của con người, nhưng không tuân theo nếu mệnh lệnh đó xung đột với định luật thứ 1.
- Định luật thứ 3 (Third Law): Robot phải bảo vệ sự tồn tại của chính mình, nhưng chỉ trong phạm vi không xung đột với định luật thứ 1 hoặc định luật thứ 2.
Cụm từ “vì không hành động” trong định luật thứ 1 được thêm vào để ngăn cả việc robot đứng yên dù nhìn thấy con người đang gặp nguy hiểm. Qua lời nhà tâm lý học robot Susan Calvin trong tác phẩm, Asimov giải thích rằng 3 định luật là sự chuyển hóa sang robot những lẽ thường của con người: không gây hại cho người khác, tuân theo chỉ dẫn của những người có thẩm quyền như bác sĩ hay giáo viên, và biết quý trọng bản thân.
Trong “Runaround”, một robot nhận lệnh đi lấy selen trên Sao Thủy nhưng chỉ đi loanh quanh trước khu vực nguy hiểm. Nguyên nhân là mệnh lệnh được đưa ra một cách hời hợt (định luật thứ 2) cân bằng chính xác với cơ chế tự bảo vệ được thiết lập ở mức cao vì đây là robot đắt tiền (định luật thứ 3). Cuối cùng, con người phải tự lao vào nguy hiểm để kích hoạt định luật thứ 1 thì robot mới hành động.
Những kẽ hở của các định luật và định luật thứ 0
Ba câu có vẻ đơn giản, nhưng phần lớn tác phẩm của Asimov lại khai thác những tình huống mà các định luật này dẫn đến kết quả ngoài dự kiến.
(1) “Tổn hại” và “con người” là gì?
Chỉ tổn thương thể xác mới là tổn hại, hay tổn thương tinh thần cũng là tổn hại? Robot trong “Kẻ nói dối!” nói những lời dối trá dễ nghe để tránh làm con người tổn thương tinh thần, nhưng cuối cùng lại gây ra tổn thương lớn hơn. “Mặt trời trần trụi (The Naked Sun)” còn cho thấy robot có thể trở thành công cụ phạm tội mà không hề hay biết.
(2) Robot chỉ tuân thủ một phần
Trong truyện ngắn “Chú robot đi lạc (Little Lost Robot)”, xuất hiện một robot đã bị loại bỏ cụm từ “vì không hành động” để tránh việc nó bị hỏng khi cố cứu một cách không cần thiết những người làm việc gần nguồn bức xạ. Chỉ thay đổi nhỏ này cũng khiến robot trở nên nguy hiểm hơn nhiều.
(3) Định luật thứ 0 đặt nhân loại lên trên hết
Trong tiểu thuyết “Robot và Đế chế (Robots and Empire)” năm 1985, Asimov đưa ra định luật thứ 0 (Zeroth Law): “Robot không được gây hại cho nhân loại”. Tuy nhiên, điều này cũng đặt ra vấn đề rằng việc xác định điều gì có hại cho toàn thể nhân loại khó hơn nhiều so với đánh giá tổn thương của một cá nhân.
Ảnh hưởng và giới hạn đối với thiết kế robot thực tế
Robot ngoài đời thực không tự nhiên có sẵn 3 định luật. Robot ngày nay không hiểu ý nghĩa của từ “tổn hại”, nên an toàn được bảo đảm bằng các thiết bị kỹ thuật như nút dừng khẩn cấp, hàng rào an toàn và cơ chế giới hạn lực giúp robot dừng lại khi tiếp xúc với con người, chứ không phải bằng các câu chữ.
Những nguyên tắc được viết lại cho phù hợp với thực tế
- 3 định luật về robot học có trách nhiệm (Three Laws of Responsible Robotics): Được Robin Murphy và David D. Woods đề xuất năm 2009, các định luật này quy trách nhiệm về an toàn và đạo đức cho người triển khai robot thay vì cho robot.
- Các nguyên tắc robot học (Principles of Robotics): Năm nguyên tắc do nhóm công tác của Hội đồng Nghiên cứu Kỹ thuật và Khoa học Tự nhiên Anh (EPSRC) cùng các tổ chức khác hệ thống hóa vào năm 2010, khẳng định rõ rằng robot là công cụ và sản phẩm, còn trách nhiệm thuộc về con người.
- Hiến chương đạo đức robot (Robot Ethics Charter): Là hiến chương mà chính phủ Hàn Quốc tuyên bố sẽ xây dựng vào năm 2007; khi đó đã có giải thích rằng có thể tham khảo 3 định luật.
Như vậy, 3 định luật đã đóng vai trò là điểm khởi đầu để đặt câu hỏi cần ưu tiên bảo vệ điều gì khi robot đến bên con người, hơn là một bản thiết kế có thể đưa nguyên xi vào chương trình.
3 định luật robot ra đời như một yếu tố trong tiểu thuyết, nhưng cũng là một thí nghiệm tư duy giúp con người nhìn robot như đối tượng đáng tin cậy thay vì đáng sợ. Đồng thời, các tác phẩm của Asimov cũng cho thấy chỉ vài dòng quy tắc không thể kiểm soát hoàn toàn hành vi của máy móc.
Hơn cả việc đặt ra quy tắc, kiên trì truy vấn đến cùng xem các quy tắc ấy sai lệch ở đâu mới là bước đầu tiên của robot học trong việc tạo ra những robot an toàn làm việc cùng con người.
