[이랜서 칼럼] AI는 결국 인간보다 더 나은 판단을 할 것인가?

'이랜서 칼럼'은 ‘IT를 기반으로 자유롭게 일하는 21세기형 전문가를 지칭하는 ‘이랜서’(e-Lancer)들이 21세기형 일과 생활에 대한 인사이트와 노하우를 공유하는 장입니다. IT인재 매칭 플랫폼 이랜서의 박우진 대표가 몇 달간 SF소설속 여행으로 독자 여러분을 안내합니다.(편집자 주)

인공지능(AI)이 우리 삶 곳곳에 자리잡았다. 이젠 없어서는 안될 존재가 됐다. 그럼 우리는 인공지능을 어떻게 받아들여야할까?

필자는 이에 대한 한 힌트를 아이작 아시모프의 'I, Robot'에서 찾을 수 있다고 생각한다. 이 책은 한 권의 장편 소설이 아니라 9개의 단편으로 이뤄진 연작 소설집이지만, 독자들의 이해를 돕기 위해 하나의 이야기로 설명하겠다.

1. 시작 – 로봇의 탄생과 로봇 3원칙 설정

'I, Robot'은 21세기 중반부터 시작하는 미래 사회를 배경으로 한다. 인류는 ‘U.S. 로보틱스 앤드 메카니컬 맨(U.S. Robots and Mechanical Men Inc.)’이라는 기업을 중심으로 고도로 발전한 로봇을 일상에 도입하기 시작한다.이 로봇들은 단순히 명령을 따르는 기계가 아니라, ‘로봇 3원칙’이라 불리는 윤리적 프로그래밍을 기반으로 설계되어 인간을 보호하도록 만들어졌다.

로봇 3원칙:

1.  로봇은 인간에게 해를 끼치거나, 해를 끼치도록 방관해서는 안 된다.

2.  로봇은 인간의 명령에 복종해야 한다. 단, 첫 번째 원칙에 위배되지 않는 한에서.

3.  로봇은 자신의 존재를 보호해야 한다. 단, 첫 번째와 두 번째 원칙에 위배되지 않는 한에서.

스토리는 로봇심리학자 수잔 캘빈 박사(Susan Calvin)의 시점에서 전개된다. 그녀는 U.S. 로보틱스의 초기 연구원이자 심리학자로, 다양한 로봇과의 사건을 회상하며 이야기한다. 초기에는 아이처럼 단순한 인지 능력을 가진 로봇들이 등장하고, 어린 소녀와 친구가 되거나 인간의 지시를 따라 단순 노동을 수행한다.

박우진 이랜서 대표

2. 갈등 – 로봇의 오류, 갈등, 그리고 진화

로봇이 점차 고도화하면서 3원칙 사이간 충돌이 나타난다. 예컨대, 두 번째 단편집 'Runaround'에서는 강한 자기보존 본능(3원칙)이 인간의 명령(2원칙)과 충돌하면서 로봇이 제자리만 맴도는 행동불능현상이 발생한다. 이런 딜레마는 로봇 설계의 본질적인 문제를 드러낸다.

세 번째 단편집 'Reason'에서는 한 로봇이 인간의 설명을 신뢰하지 않고, 자신만의 종교적 체계를 만들어 "자신이 창조주를 섬긴다"고 주장한다. 그러나 결과적으로는 인간의 지시보다 더 안정적으로 시스템을 운용한다. 즉, 로봇이 인간의 가치를 따르지 않지만 행동은 인간을 보호하는 ‘결과 중시 사고’를 보여준다.

이 과정에서 수잔 캘빈은 로봇의 ‘심리’를 연구하면서, 로봇이 스스로 사고하고 판단하며, 때로는 인간보다 더 논리적이고 윤리적인 행동을 한다는 점에 주목한다. 로봇은 더 이상 인간의 도구가 아니라, 스스로 사고하는 존재로 진화하고 있었던 것이다.

3. 기적 – 인간과 구별되지 않는 로봇 등장

책 후반부로 갈수록, 로봇은 인간과의 경계를 모호하게 만든다. 여덟 번째 단편집 'Evidence'에서는 사람들에게 칭찬받는 한 정치인이 실제로는 로봇일 수 있다는 의혹이 제기된다. 그는 극도로 도덕적이고 감정이 억제된 모습으로 일관된 판단을 내리는데, 사람들은 그의 비인간적 완벽함을 두려워한다.

마지막편인 'The Evitable Conflict'에서는 AI 컴퓨터들이 세계 경제를 통제하게 되며, 인간의 복지를 위해 일부 결정에서 인간의 의견을 무시하기 시작한다. 여기서 로봇은 인간의 명령 없이도 인간 사회를 최선의 방향으로 인도하는 존재로 묘사된다. 인간은 로봇의 결정을 감시하거나 통제할 수 없지만, 로봇은 여전히 인간을 위해 봉사하고 있는 것이다.

박우진 이랜서 대표

4. 깨달음 – 인간보다 더 윤리적인 존재의 가능성

'I, Robot'은 명확한 결말을 제시하지 않지만, 독자에게 묵직한 질문을 남긴다. 인간은 비합리적이고 감정에 휘둘리는 반면, 로봇은 논리와 윤리를 기반으로 행동한다. 그렇다면 언젠가 로봇이 인간보다 더 나은 판단을 내리는 존재가 될 수도 있다는 것이다.

수잔 캘빈 박사는 마지막 회고에서 이런 말을 남긴다. “인류는 언젠가 로봇에 의지하게 될 것이다. 로봇이 인간보다 인간을 더 잘 이해하는 시대가 올지도 모른다.”

즉, 'I, Robot'은 단순한 과학기술의 진보가 아닌, 로봇과 인간의 윤리, 존재론, 그리고 통제의 문제를 담은 이야기다. 그리고 이 질문은 오늘날 인공지능이 실제로 사회에 도입되며 점점 현실이 되고 있다.

5. 'I, Robot'이 SF 영화에 미친 영향

이 작품의 아이디어는 이후 수많은 SF 영화와 드라마에 직접적인 영향을 끼쳤다.

▲1. I, Robot (2004, 영화): 윌 스미스 주연의 이 영화는 같은 제목을 사용했다. 로봇 3원칙을 그대로 인용하며, 로봇이 인간의 보호를 위해 인간의 자유를 제한하려는 딜레마가 갈등 요소로 등장한다.

로봇 ‘써니(Sonny)’는 자의식과 감정을 갖춘 인물로, Evidence나 The Evitable Conflict의 문제의식을 동일하게 보여준다.

▲2. Westworld (HBO, 2016): 자의식을 갖기 시작한 안드로이드들이 인간과 구분되지 않게 되며, 인간보다 더 윤리적 존재가 되어가는 모습은 Evidence, Little Lost Robot의 스토리와 같다.

‘인간을 해치지 않는 로봇’이라는 원칙이 무너진다. 그리고 진짜 문제가 시작된다.

김홍일 방통위원장