[황승진의 AI칼럼] 직장인 사이서 흔히 오가는 질문 '저주받은 AI'

우리가 AI를 편하게 믿고 쓰기에는 관계(AI와 인간)의 역사가 너무 짧다. 만나가며 상대를 더 알아가야 하고, 처음에는 약간의 주의와 경계가 필요하다.

2022년 로베르토 마타는 아비앙카 항공을 상대로 소송을 냈다. 뉴욕으로 가는 비행 중 승무원이 식사 카트로 그의 무릎을 세게 쳐 다쳤기 때문이다. 항공사는 이것이 항공 여행에 따르는 일반적인 위험이라고 주장하며 사건을 기각하려 했다. 마타 변호사는 정식 재판이 필요하다는 점을 강조하기 위해 유사한 사건의 여러 선례를 제시했다. 제시한 사건은 '마티네스 대 델타' '지커먼 대 대한항공' '바르게세 대 중국 남방항공'이었다.

그러나 이러한 사건은 존재하지 않았다. 변호사는 챗GPT를 사용했는데, 챗GPT가 이러한 가짜 사건을 만들어낸 것이다. 이렇게 LLM은 잘못된 진술을 할 수 있다. LLM의 특기는 예측하는 것이다. 답변을 주려는 열망에서 과장해 잘못된 걸 만들어낼 수 있다. 기술적으로는 '환각(hallucination)'이라고 한다.

LLM은 창의력이 풍부해 소설을 쓸 수 있다. 그러니 사용자의 검증과 주의가 필요하다. 위에서 예로 든 것과 결이 다르지만, AI 위협은 LLM이 아닌 ‘AI 쓰는 인간’에서 나올 수도 있다. 2년 전 홍콩에서였다. 다국적 기업의 한 재무 직원은 2560만 달러를 외부 계좌로 송금하라는 메시지를 받았다. 이 메시지는 CFO 사무실에서 온 것이었지만, 직원은 비밀 유지 필요성을 언급한 것 때문에 피싱 가능성을 의심했다. 곧 상부에서 연락이 와, 다자간 화상 회의에 초대됐다. 화상 회의에는 CFO와 다른 직원들이 참석했다. 송금은 허락되었고, 회의 후, 직원은 요청대로 금액을 송금했다. 그러나 화상 회의는 사기꾼들이 연출한 딥페이크였다. 그가 본 모든 사람은 가짜였다.

황승진 스탠퍼드경영대학원 잭디프 로시니 싱 석좌명예교수.

AI의 새로운 멀티모달 기능을 고려할 때, 이러한 유형의 범죄가 충분히 가능함을 예측할 수 있다. 새로운 기술이 떠오를 때마다 이를 악용하는 사람이 있다. 속지 않기 위해서라도 AI를 배워야 한다.

직업에 관계없이, 직장인 사이에서 흔히 오가는 질문은 '저주받은 AI'의 개념이다. 즉, AI가 내 직업을 빼앗아 갈 것인가 하는 것이다. 교육사업가 샐 칸은 "당신이 AI에 의해 대체되는 일은 없을 것이다. 다만 AI를 사용하는 사람에 의해 대체될 수 있다."라고 조언한다. 걱정보다는 준비를 하라는 충고다. 과거를 돌아보면 혁신적인 기술조차도 사회에 정착하는 데 시간이 걸렸다. 이는 근로자들이 다가오는 환경에 적응할 수 있는 충분한 대비시간을 제공할 것이다. 이 시간은 대비하는데 써야 한다.

마지막으로, AI에 의한 인류 멸종에 대한 공포 이야기를 자주 듣는다. 언젠가 AI가 너무 똑똑해져서 우리의 통제를 벗어날 것라는 얘기다. 과학자들은 이를 심각하게 받아들여 'AI 특이점' 또는 '초지능'이라는 전용 용어를 쓴다. 두 용어 모두 AI가 인간보다 더 지능적으로 되는 가설적인 개념을 뜻한다. 이러한 특이점 순간에 도달하면 거기서 그치지 않을 것이다. 세계를 장악하고 우리를 노예로 만들거나 파괴할 것이라는 걱정이다. 과학자들은 집단적으로 그러한 가능성을 5%로 평가한다.

혹자는 "왜 똑똑한 AI가 그런 어리석은 짓을 할까?"라고 물을 수 있다. AI를 갖춘 로봇을 생각해 보자. 이 로봇은 주인인 인간에 의해 특정 목표를 이루도록 명령을 받는다. 만약 일부 인간이 이 로봇의 길을 막는다면 어떻게 될까? 로봇은 초지능을 사용해 장애물 인간을 제거할 것이다. 이것이 아서 C. 클라크의 소설과 스탠리 큐브릭의 영화 '2001: A Space Odyssey'의 스토리라인이다.

아니다 다를까? 최근 뉴스에 따르면 실제로 LLM이 그만 끝내라는 명령을 불복종하고, 또한 어떤 명령에 대해 “그건 네가 할 일이지” 라고 거부했다고 한다. 아마도 지금 하고 있는 작업 때문에 바빠서 그럴 수 있다. 허나 정말 겁나는 것은 힌트 교수 걱정처럼 기계가 혼자 자기 코드를 바꿀 수 있을 때가 올 수 있다는 것이다.

또 다른 가능성으로, 로봇이 인간의 장기적인 생존과 번영을 지원한다는 숭고한 목표로 행동한다고 하자. 만약 그가 현재의 인류는 탐욕, 부도덕, 자기 파괴적 행동으로 희망이 없다고 결론을 내린다면? 유감스럽게도, 그들은 '재설정' 버튼을 누르고 인류 전체를 대체하고 싶을 것이다. 이것이 아이작 아시모프의 단편 소설집을 바탕으로 한 윌 스미스 주연의 알렉스 프로야스 영화 'I, 로봇' 이야기이다.

일론 머스크가 투자한 스타트업 가운데 뉴럴링크(NeuraLink)가 있다. 이 회사는 두개골에 컴퓨터 칩을 삽입해 뇌와 연결하겠다는 공상 과학적인 야망을 가졌다. 이러면 키보드나 마우스 없이도 컴퓨터를 조작할 수 있다. 사실 새로운 아이디어는 아니다. BMI(Brain Machine Interface)라 하여 잃어버린 신체 기능을 보조하도록 두뇌에 칩을 심는 의학 연구가 1970년대부터 지속돼 왔다.

또 아놀드 슈와츠네거의 영화 '토탈 리콜에서 여행 경험을 메모리 칩에 넣어 머리에 삽입한다는 스토리도 이와 상통한다. 만약 그 칩이 LLM급 AI칩이라면 어떨까? 구태여 학교에 가서 공부하거나 책을 읽을 필요가 없겠다. LLM 칩에 위키피디아가 몽땅 들어가 있으니 문자 그대로 ‘걸어 다니는 백과사전’이 된다.