[크리스의 SW아키텍트⑦] 아키텍처 현대화 없이 AI 네이티브 없다

지난 편까지 AI 발전을 포함해 기술 변화가 SW 아키텍처의 구조적 강건성과 아키텍트의 전략적 결정을 얼마나 필요로 하는지 살펴봤다. 지금부터는 최근 AI로 촉발된 세계적인 변화가 지향하고 있는 'AI 네이티브 기업(AI Native Enterprise)'으로 가기 위한, 즉 기존 시스템의 현대화(Modernization)에 대해 생각해 보려고 한다.

AI 네이티브 기업이란 단순히 AI 기술을 몇몇 부서에서 사용하는 수준을 넘어, 기업의 모든 비즈니스 프로세스와 의사결정, 그리고 고객 경험의 핵심에 AI가 내재된 조직을 의미한다. 이는 기업의 운용체계(OS)를 완전히 바꾸는 것과 같은 거대한 변화이며, 그 중심에는 반드시 아키텍처의 근본적인 혁신이 자리 잡고 있다.

소프트웨어 구루 마틴 파울러(Martin Fowler)는 생성형 AI가 단순히 새로운 코드를 생성하는 것보다, 기존의 복잡하고 얽힌 레거시 코드를 ‘이해’하는 데 훨씬 더 큰 가치가 있다고 강조한다. 이는 시스템 현대화의 핵심을 꿰뚫는 통찰이다. 수십 년간 여러 개발자의 손을 거치며 누더기처럼 변한 코드의 진짜 의도를 파악하는 것은, 그동안 소수의 베테랑 개발자 경험에만 의존해 온 고고학과도 같은 작업이었다. 하지만 이제는 그래프 신경망(GNN)과 같은 AI 기술이 코드의 구조를 마치 거대한 도시의 지하철 노선도처럼 분석한다. 어떤 함수가 환승역처럼 중요한 허브 역할을 하는지, 어떤 데이터가 여러 노선을 거치며 이동하는지, 그리고 어떤 구간이 낡고 비효율적이어서 병목 현상을 일으키는지를 시각적인 지도로 그려낸다.

인간이라면 몇 주, 몇 달이 걸려도 찾기 힘든 숨겨진 의존성과 잠재적 리스크를 정확히 찾아내는 것이다. 이는 단순히 낡은 코드를 새로운 언어로 바꾸는 수준을 넘어, 시스템의 본질을 이해하고 재창조하는 새로운 차원의 현대화가 가능해졌음을 의미한다.

결국 진정한 AI 네이티브 시스템으로 전환하려면, 기존 아키텍처에 AI 기능을 덧붙이는 것이 아니라 시스템의 구조 자체를 근본적으로 바꿔야 한다. AI 네이티브 아키텍처는 크게 세 가지 핵심 요소로 구성된다. 첫째, 사용자의 모호한 목표를 이해하고 스스로 구체적인 계획을 수립하는 ‘에이전트 코어(Agent Core)’ 다. 이는 "고객 만족도를 높여라"와 같은 추상적인 목표를 "이번 달 재구매율이 낮은 고객 그룹에게 맞춤형 할인 쿠폰을 발송하고, 배송 지연을 경험한 고객에게는 자동으로 사과 메시지와 함께 보상 포인트를 지급한다"와 같은 구체적이고 실행 가능한 단계로 쪼개는 지능적인 두뇌 역할을 한다.

나희동 크리스컴퍼니 대표

둘째, 에이전트가 외부 시스템과 명확하게 상호작용할 수 있도록 표준화된 ‘도구 계층(Tool Layer)’ 이다. 이는 마치 잘 정리된 공구함 처럼, 에이전트가 ‘고객 정보 조회’나 ‘결제 처리’, ‘재고 확인’ 같은 도구를 언제 어떻게 사용해야 하는지 명확히 알게 해준다. 단순한 기능 호출을 넘어, 각 도구가 어떤 의미를 가지며 어떤 상황에 사용되어야 하는지를 에이전트가 이해할 수 있도록 설계하는 것이 핵심이다.

마지막으로 가장 중요한 것은, 에이전트가 과거의 경험과 대화의 맥락을 기억하게 하는 초개인화 된 ‘지속적인 컨텍스트 계층(Contextual Persistency Layer)’ 이다. 이 계층은 AI 네이티브 아키텍처의 심장과도 같다. 기존 시스템은 안정성을 위해 상태 정보를 최소화하는 ‘무상태(Stateless)’ 구조를 지향했지만, AI 에이전트는 과거의 모든 상호작용을 기억해야만 진정으로 지능적인 판단을 내릴 수 있다.

이는 마치 우리가 어제 나눈 대화의 분위기와 핵심 내용을 기억해야 오늘 더 깊이 있는 소통을 할 수 있는 것과 같은 이치다. 이 계층은 벡터 DB나 지식 그래프 같은 새로운 기술을 통해 에이전트가 사용자의 말 속에 숨은 의도와 미묘한 맥락까지 파악하게 하고, 이를 통해 진정한 개인화된 경험을 제공하는 핵심적인 역할을 수행한다. 기존 시스템의 단순한 데이터베이스와는 차원이 다른, 살아있는 기억 저장소가 필요한 것이다.

결국 AI 네이티브 기업으로 발전하려면, 새로운 AI 서비스로 무장한 스타트업이든 수십 년간 비즈니스 프로세스 혁신(BPR)을 통해 시스템을 발전시켜 온 대기업이든, 모두가 아키텍처 현대화를 고민해야 한다.

지금 우리가 마주한 변화는 20여 년 전, 코볼(Cobol)로 짜인 시스템을 자바(Java)로 전환하던 시기와는 그 본질이 다르다. 당시 많은 현대화 프로젝트가 실패했던 이유는, 이를 단순한 프로그래밍 언어 번역 작업으로 치부하고 그 밑에 깔린 아키텍처와 비즈니스 프로세스의 근본적인 변화를 외면했기 때문이다. 지금의 전환은 단순한 기술 교체를 넘어, 시스템의 상태와 데이터를 저장하는 방식, 그리고 ‘명령형 구조’에서 ‘목표지향형 구조’로 시스템의 철학 자체를 바꾸는 체계적인 혁신이다.

AI 네이티브로의 여정은 결코 쉽지 않다. 하지만 낡은 지도를 들고 새로운 대륙을 탐험할 수는 없다. 지금이야말로 우리 시스템의 아키텍처를 과감히 현대화하고, AI가 마음껏 뛰어놀 수 있는 새로운 판을 설계해야 할 때다. SW 아키텍트는 이 거대한 변화의 중심에서, 기술적 깊이와 비즈니스 통찰력을 겸비한 리더로서 조직을 올바른 방향으로 이끌어야 하는 중대한 책임을 안고 있다.

다음 편에서는 우리가 단순 기록을 위한 시스템(system Of Record)에서 AI 네이티브로 전환된 실제 결과를 실행하는 시스템(system Of Action)으로 가기 위해서 아키텍처를 어떻게 기존의 기술부채를 갚아가면서 전환할 수 있는지 구체적인 전략을 살펴볼 예정이다.

◆ 나희동 크리스컴퍼니 대표는...

-씨에이에스 수석감리원

-정보관리기술사 (54회), SW아키텍트 (CPSA)

-전남대학교 산업공학과, 서울과학기술대학교 컴퓨터공학 석사

-CMU SEEK 1기 MSE, UTD SW MBA 수료

-전/투이컨설팅 SW아키텍처 담당 본부장, 마르미III 개발