요슈아 벤지오, AI 안전 '로우제로' 연구소 설립…"인류 전체 보호할 것"

인공지능(AI) 연구의 거장 요슈아 벤지오가 기술의 위험성과 불확실성에 선제적으로 대응하기 위한 비영리 AI 연구소를 설립했다.

4일 테크크런치에 따르면 요슈아 벤지오 몬트리올 대학교 교수는 이날 파이낸셜타임스를 통해 '로우제로(LawZero)'라는 AI 안전 연구소 설립 사실을 공개했다. 이 연구소의 초기 자금은 얀 탈린 스카이프 공동 설립자, 에릭 슈미트 전 구글 최고경영자(CEO), 오픈 필랜스로피, 미래의 삶 연구소(FLI) 등에서 기부 형태로 조달했으며 총액은 3천만 달러(한화 약 300억원) 규모다.

연구소 이름인 '로우제로'는 SF 소설 작가인 아이작 아시모프가 창안한 '로봇공학 제로 법칙'에서 차용한 것으로, 인간 전체의 이익을 최우선으로 한다는 철학적 방향성을 내포하고 있다. '제로 법칙'은 로봇이 개별 인간이 아닌 인류 전체의 보호를 우선시해야 한다는 원칙이다.

요슈아 벤지오 (사진=삼성전자)

벤지오 교수는 '현대 AI의 대부' 중 한 명으로 꼽히며 최근 들어 AI 안전성 담론에 있어 대표적 목소리를 내고 있다. 그는 미국 캘리포니아주에서 발의된 AI 안전 법안 'SB 1047'에 공개적으로 찬성하며 기술 규제 필요성을 강조해왔다.