사람들이 편향된 이유..."질문이 문제였다"

인터넷 사용자들이 구글이나 챗GPT 같은 검색엔진과 AI 챗봇을 사용할 때, 자신도 모르게 기존 신념을 강화하는 방향으로 질문을 던진다는 연구 결과가 나왔다. 

9일(현지시간) 미국 IT매체 씨넷은 한 연구 결과를 바탕으로 질문 프레이밍 자체가 AI의 응답을 편향적으로 만들 수 있으며, 이로 인해 사용자는 다양한 관점보다 자신이 믿고 싶은 정보만 반복해서 접하게 되는 구조에 갇힐 수 있다고 보도했다. 

이 같은 내용은 미국 국립과학원회보(Proceedings of the National Academy of Sciences)에 최근 실린 연구를 통해 밝혀졌다. 해당 연구는 미국 툴레인대학교의 유지나 렁(Eugina Leung) 조교수가 주도했으며, 렁 교수는 검색 질문의 틀과 AI 응답 간 상관관계를 분석했다.

"사람들이 스스로 질문을 잘못하고 있다는 자각 없이 AI의 확신에 찬 응답을 받아들이다 보면, 정보의 편식이 심해진다." (제공=이미지투데이)

렁 교수는 “사람들은 구글이든 챗GPT든 정보를 찾을 때 이미 자신이 믿고 있는 바를 반영한 검색어를 사용하는 경향이 있다”고 설명했다.

예컨대 매일 아침 커피 두 잔을 즐기는 사람은 ‘커피의 건강상 이점’ 같은 긍정적인 질문을 입력하고, 반대로 커피에 부정적인 인식을 가진 사람은 ‘커피는 해로운가’라는 식의 질문을 던진다는 것이다. 같은 주제를 검색하더라도 질문의 방식이 결과를 왜곡시킬 수 있으며, 이는 사용자의 기존 인식을 굳혀버릴 수 있다는 게 연구진의 설명이다.

연구진은 1만 명 가까운 참가자를 대상으로 카페인, 유가, 범죄율, 코로나19, 원자력 등 다양한 주제에 대해 21개의 실험을 진행했다. 이들은 구글과 챗GPT, 연구진이 설계한 자체 검색엔진 등을 통해 정보를 탐색하게 했고, 사용자의 질문 방식과 AI의 응답 방식이 어떤 영향을 미치는지 분석했다.

그 결과, ‘좁은 검색 효과(narrow search effect)’가 확인됐다. 사람들은 자신의 관점을 반영한 질문을 던졌고, 챗봇과 검색엔진은 해당 질문에 ‘맞춤형 정답’을 제공했다. 이에 따라 많은 사용자가 자신이 처음부터 믿었던 내용을 더 확신하게 되는 결과가 나타났다.

렁 교수는 “사람들이 스스로 질문을 잘못하고 있다는 자각 없이 AI의 확신에 찬 응답을 받아들이다 보면, 정보의 편식이 심해진다”며 “인터넷이 정보의 바다인 만큼, 어떤 질문을 하느냐에 따라 전혀 다른 섬에 도달할 수 있다”고 말했다.

그러나 AI가 항상 사용자의 믿음을 강화하기만 하는 것은 아니다. 연구진은 실험 중 일부 참가자들에게 ‘다양한 관점을 제공하도록 설계된 챗봇’을 사용하게 했고, 이 경우 신념이 실제로 바뀌는 경향이 더 컸다. 렁 교수는 “모든 상황에서 AI가 넓은 검색 결과를 제공할 필요는 없지만, 사용자가 다양한 시각을 원할 때 선택할 수 있는 옵션은 필요하다”고 강조했다.

"더 나은 정보를 원한다면 먼저 더 나은 질문을 해야 한다는 점을 잊지 말아야 한다."(제공=이미지투데이)

연구 보고서에서는 질문을 더 잘하는 세 가지 방법도 제시됐다. 

첫째, 질문을 구체적으로 하라. 예를 들어 ‘이 회사 주식이 좋은가?’보다 ‘이 회사 주식의 최근 수익률은 어떤가?’처럼 중립적이고 명확한 질문을 던지는 것이 더 나은 결과를 유도한다.

둘째, 다양한 시각을 요청하라. 챗봇에 한 가지 관점만 묻기보다 여러 입장과 그에 따른 근거를 요청하면 더 넓은 정보를 얻을 수 있다. 실제 실험에서도 연구진이 챗GPT에 다양한 의견을 요청하자, 응답의 폭이 넓어졌다는 결과가 나왔다.

셋째, 질문을 계속 던지는 것에는 한계가 있다. 렁 교수는 “후속 질문이 항상 효과적인 건 아니며, 오히려 편향된 정보에 더 깊이 빠질 수 있다”고 경고했다.

렁 교수는 "AI가 사용자의 질문에 기반해 응답하기 때문에, 더 나은 정보를 원한다면 먼저 더 나은 질문을 해야 한다는 점을 잊지 말아야 한다"고 조언했다. 

나너우리 포용성 캠페인

AI 추천 알고리즘의 발달로 사회 갈등과 분열이 심화되고 있다는 우려가 커지는 가운데, 스스로 포용성을 되돌아보자는 취지의 ‘포용성 회복 캠페인’이 진행 중이다. "기울어진 알고리즘을 리부트 하라"란 슬로건으로 진행되는 이 캠페인은 이달 30일까지 계속된다. 

나의 정치·젠더·종교·세대 성향을 MBTI처럼 간단한 온라인 설문을 통해 파악하고, 결과를 바탕으로 상대가 나와 ‘다름’을 이해하며 포용을 실천하자는 취지의 캠페인이다.

김홍일 방통위원장