왓슨 실패이유?

왓슨 헬스 실패 이유: 20% 미만 진단 일치율

전문가들은 왓슨 헬스 실패 이유를 분석하며 기술 도입의 한계와 실질적인 효용성 문제를 지적합니다. 거대 자본이 투입된 혁신 프로젝트가 왜 의료 현장에서 외면받았는지, 그리고 높은 기대치와 달리 실제 성과는 어떠했는지 살펴보는 것은 의료 AI 도입을 검토하는 병원들에 중요한 교훈을 제시합니다.

왓슨 헬스 실패 이유 - 수조 원의 투자는 왜 물거품이 되었나?

왓슨 헬스 실패 이유의 핵심은 서양 중심의 편향된 불량 데이터 학습과 현장 의료진의 진료 흐름을 무시한 일방적인 기술 도입 방식에 있습니다. 이는 아무리 뛰어난 기술이라도 현장의 맥락을 잃으면 외면받는다는 사실을 증명합니다.

솔직히 말해서, 2010년대 중반까지만 해도 모든 대형 병원이 왓슨을 도입하지 않으면 당장이라도 도태될 것처럼 보였습니다. 저 역시 당시 병원 정보 시스템 혁신 프로젝트에 참여하며 이 거대한 인공지능의 도입을 심각하게 검토해야 했습니다. 결과는 어땠을까요? 처참했습니다. 수조 원에 달하는 막대한 투자와 언론의 화려한 스포트라이트에도 불구하고, IBM은 2022년에 결국 IBM 왓슨 헬스 실패를 겪으며 사실상 의료 AI 사업에서 철수했습니다. ^[1]

왜 이런 일이 벌어졌을까요? 많은 사람들은 단순히 인공지능의 연산 능력이 부족했다고 오해합니다. 하지만 실제 이유는 완전히 다릅니다. 제가 현장에서 직접 겪고 분석한 인공지능 의료 도입 실패 사례의 진짜 원인들을 아래 데이터 편향성 섹션에서 자세히 설명하겠습니다.

의료 AI 문제점을 여실히 드러낸 3가지 치명적 한계

서양 데이터 편향성 (Garbage In, Garbage Out)

인공지능은 학습한 데이터의 품질을 절대 넘어설 수 없습니다. 왓슨 헬스 실패 이유의 첫 번째이자 가장 뼈아픈 원인은 바로 데이터 편향성입니다. 왓슨은 주로 미국의 특정 암센터(MSKCC) 데이터를 기반으로 집중적인 학습을 진행했습니다.

문제는 이 데이터가 아시아를 비롯한 다른 인종이나 지역의 임상 환경을 전혀 반영하지 못했다는 점입니다. 서양인과 동양인은 유전적 특성, 식습관, 체형이 다르기 때문에 같은 질병이라도 발현 양상과 치료 반응이 다릅니다. 게다가 의료 데이터 - 특히 비정형화된 임상 기록 - 는 일반적인 데이터와는 완전히 다릅니다. 각국 병원마다 제각각인 의료 기록과 의사들의 텍스트 메모를 제대로 정제하지 못했습니다. 쓰레기를 넣으면 쓰레기가 나온다는 원칙. 너무나 당연한 불문율입니다. 이 기본을 무시한 대가는 매우 가혹했습니다.

20퍼센트 미만의 처참한 진단 일치율

여기 제가 앞서 언급했던 진짜 문제가 있습니다. 국내외 여러 대형병원에서 막대한 비용을 들여 파일럿 테스트를 진행한 결과, 실제 폐암 등 특정 암의 진단 일치율이 20퍼센트 미만에 그치는 등 충격적인 수치를 보여주었습니다. ^[2]

의사가 A라는 최적의 치료법을 권장할 때, AI는 현장 상황과 전혀 맞지 않는 B나 C를 제안하는 빈도가 너무 높았습니다. 신뢰할 수 없는 결과는 환자의 생명을 다루는 의사들에게 치명적입니다. 단 한 번의 오진도 허용되지 않는 의료 현장에서 20퍼센트 수준의 일치율은 사실상 무용지물이라는 뜻입니다. 잠깐만요. 이게 끝이 아닙니다. 더 심각한 재앙은 진료실 안에서 조용히 시작되고 있었습니다.

현장 진료 흐름(Workflow)과의 치명적인 충돌

실험실의 엔지니어들은 종종 현장의 치열함을 모릅니다. 왓슨 헬스 한계를 명확히 보여주는 대목은 바로 워크플로우 통합 실패입니다. 왓슨의 조언 방식은 의사들의 실제 진료 방식과 전혀 맞지 않았습니다.

임상 의사결정 지원 시스템은 의사를 편하게 만들어야 합니다. 하지만 의사들은 이 거대한 AI를 작동시키기 위해 복잡한 환자 데이터를 수동으로 다시 입력해야 했습니다. 3분의 진료 시간도 부족한 한국의 의료 환경에서, 15분을 더 투자해 불확실한 AI의 의견을 묻는 의사는 없습니다. 다소 과격하게 들리겠지만, 오히려 업무를 가중시키는 귀찮은 절차가 된 것입니다. 결국 의료 AI 문제점과 데이터 입력 오류라는 끔찍한 악순환이 발생했습니다.

경영진의 과대평가와 성급한 시장 진입

놀랍게도, 핵심 문제는 기술력 그 자체가 아니었습니다. 또 다른 치명적 실수는 기술에 대한 경영진의 맹신이었습니다. 완성되지 않은 초기 단계의 기술을 지나치게 과대평가하여 상용화 및 출시에만 급급했다는 지적이 내부에서도 끊임없이 제기되었습니다.

실험실 통제 환경에서 증명된 결과가 복잡한 임상 현장에서 그대로 재현될 것이라는 믿음은 너무나 순진했습니다. (물론 마케팅 부서의 생각은 달랐습니다) 저도 과거 신제품 론칭을 주도하며 비슷한 오판을 한 적이 있습니다. 버그가 있어도 일단 출시하고 수정하자는 IT 업계의 속도전은 헬스케어 시장에서는 절대 통하지 않습니다. 마케팅이 기술의 실제 능력을 앞지르는 순간, 고객의 신뢰는 회복 불가능한 타격을 입습니다.

의료 AI 패러다임의 변화: 왓슨과 현대 AI

왓슨 헬스 (과거 모델)

암 등 중증 질환에 대한 포괄적이고 최종적인 진단 및 치료법 제안

기존 시스템과 분리된 별도의 플랫폼 사용, 의사의 추가 데이터 입력 강제

비정형 임상 텍스트, 글로벌 논문 등 광범위한 데이터를 한 번에 학습 시도

현대 특화형 의료 AI (현재 권장 모델)

특정 장기 영상 판독, 병리 슬라이드 분석 등 제한적이고 명확한 보조 작업

기존 병원 시스템에 백그라운드로 완벽히 연동되어 무자각 사용 가능

표준화된 고품질 영상 및 라벨링 데이터를 활용한 딥러닝 모델 고도화

서울 S병원의 뼈아픈 시행착오와 성공적인 재도전

서울의 S 대형병원은 2018년 혁신을 주도하겠다는 명목으로 범용 진단 보조 AI 솔루션을 야심차게 도입했습니다. 당시 경영진은 이 시스템이 의사들의 진료 시간을 단축하고 병원의 명성을 높여줄 것이라 확신했습니다. 하지만 프로젝트 팀장이었던 김 과장은 현장 적용 첫날부터 식은땀을 흘려야 했습니다.

현장의 반발은 거션 폭풍 같았습니다. 바쁜 내과 전문의들은 환자 1명을 진료하기도 벅찬데, AI 시스템에 별도로 접속해 20개가 넘는 임상 수치를 일일이 다시 입력해야 했습니다. 심지어 3개월 간 고생해서 도출한 AI의 추천 항암제는 국내 건강보험 급여 기준에 전혀 맞지 않아 환자에게 처방할 수조차 없는 약물이 대다수였습니다.

김 과장과 프로젝트 팀은 결국 6개월 만에 뼈아픈 실패를 인정하고 범용 AI 사용을 전면 중단했습니다. 대신 의사의 개입이 전혀 필요 없는 흉부 엑스레이 판독 전용 경량화 AI로 타겟을 완전히 수정했습니다. 새로운 AI는 기존 영상 판독 시스템(PACS) 뒤에서 조용히 작동하며, 이상 소견이 있는 부위만 시각적으로 표시해 주었습니다.

방향을 수정하고 1년 뒤, 영상의학과 전문의들의 판독 소요 시간은 대략 30퍼센트 감소했습니다. 미세 결절 발견율은 대폭 향상되었고 의사들의 야근도 줄었습니다. 의사의 진료 흐름을 방해하지 않고 뒤에서 조용히 돕는 기술만이 살아남는다는 귀중한 교훈을 얻은 대가였습니다.