[기고] AI 대전환의 시대, 기업이 지금 챙겨야 할 세가지 체크리스트

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주]

제21대 정부가 공식 출범하며 '인공지능(AI) 3대 강국 도약'을 국정 핵심과제로 내세웠다. 100조원 규모의 투자, 범정부 차원의 AI 진흥전략, 규제 정비, AI 인재 양성 등 국가적 지원이 본격화되는 지금은 기업에게도 분명히 기회의 시기다.

다만 AI 기술을 무조건적으로 끌어오는 것이 능사는 아니다. AI는 고도화된 데이터 기반 기술인 만큼 그 활용에는 반드시 데이터를 둘러싼 법·윤리·사회적 책임까지 함께 고려해야 한다.

그렇다면 지금 기업은 무엇을 준비해야 할까. 조직 내에 AI 도입 또는 서비스 개발 등을 고려 중이라면 아래 세 가지 질문부터 스스로 던져봐야 한다.

이수화 법무법인 태평양 변호사 (사진=법무법인 태평양)

우리가 사용하는 데이터…어디까지 합법적으로 활용 가능한가?

AI는 결국 '데이터'에서 시작된다. 다만 서비스 개발 또는 이용 과정에서 데이터를 활용하는 데에는 명확한 법적 한계가 존재한다. 개인정보보호법, 부정경쟁방지법, 저작권법 등 국내 규제뿐 아니라 유럽이나 미국 등 글로벌 규제 환경까지 고려해야 하기 때문이다.

실제로 지난해 미국에서는 파라마운트(Paramount)가 AI 기반 추천시스템 운영 중 구독자 동의 없이 데이터를 제3자와 공유했다는 명목으로 집단 소송에 휘말렸고 올해에는 링크드인이 유사한 이슈로 소송에 직면했다. 이용자의 개인 메시지를 사전 동의 없이 AI 학습에 활용했다는 의혹이 제기된 것이다.

이러한 사례는 데이터 활용이 단순한 '기술적 선택'이 아니라 '법적 책임'과 직결되는 사안임을 보여준다. 동시에 정교하게 구성된 동의 관리 체계와 핵심적 관리 도구로서의 데이터 계보(Data Lineage)가 가진 의의를 잘 드러낸다.

데이터 계보는 데이터의 수집부터 중간 가공, 최종 활용까지 전 과정을 추적·기록하는 체계다. 이를 통해 사고 발생 시 원인을 신속히 진단하고 규제에 효과적으로 대응하며 데이터의 신뢰성을 확보하고 조직 전반의 데이터 관리 효율성을 높일 수 있다. 이에 따라 사전에 데이터 계보를 점검하고 활용 과정이 관련 규제에 저촉되지 않는지 검토해 두는 것이 필요하다.

AI가 만든 결과물…책임질 준비가 돼 있는가?

AI의 판단 결과가 실제 서비스나 의사결정에 직접 영향을 미치는 시대다. 그 결과에 대한 책임을 누가 지는가는 단순한 이론적 논의에 머물지 않는다. 특히 '설명 가능성', '편향 방지', '책임 주체' 등에 대한 내부 기준이 없을 경우 예상치 못한 법적 분쟁에 휘말릴 수 있다.

일례로 지난해 에어 캐나다는 AI 챗봇이 잘못된 할인 정책 정보를 제공했다는 이유로 법적 책임을 부담하게 됐다. 고객은 챗봇 안내에 따라 항공권을 구매했으나 해당 정보는 실제 정책과 달랐다. 법원은 챗봇 역시 기업의 공식 채널로 간주된다며 책임을 인정했다.

또 다른 사례로, 미국 사법부에서 활용된 재범 위험도 평가 알고리즘은 특정 집단에 불리한 결과를 반복적으로 산출해 AI가 학습 데이터에 포함된 사회적 편향을 그대로 재현하거나 강화할 수 있음을 보여줬다. 이는 기술적 결함을 넘어 기업의 법적·윤리적 책임 문제로 이어질 수 있음을 시사한다.

결국 AI를 활용한 결과물에 대해 그에 대한 책임의 수준을 명확히 하고 그 책임을 완화하기 위한 사전적 검토를 수행할 필요가 있다.

우리 조직…AI 관련 규제 변화에 유연하게 대응할 체계를 갖추고 있을까?

새 정부는 인공지능기본법 하위법령을 조속히 마련하겠다고 밝혔다. AI 산업의 예측 가능성을 높이고 기술 개발을 장려하려는 취지지만 구체적인 가이드라인은 여전히 불명확한 상태다.

이에 따라 지금은 '제도화 초기 단계'이자 기업이 스스로 방향을 잡아야 하는 전략적 준비 기간이다. 법이 시행되기 이전에 기술, 법률, 윤리의 경계를 명확히 정하고 내부 정책과 대응 프로토콜을 사전에 설계해 둘 필요가 있다.

이 과정에서는 테크, 법무팀, 경영진은 물론 보안 조직, 개인정보 보호 및 데이터 전문가까지 협업하는 통합 거버넌스 체계가 핵심이다. 조직 내 정보 관리의 사각지대를 최소화하고 외부 변화에 유연하게 대응하기 위한 기본 틀이기 때문이다.