[메디게이트뉴스 박민식 기자] 의료 현장을 AI가 바꿀 것이라는 이야기는 수년 전부터 나왔다. 하지만 실제 병원 현장에서 AI 활용은 아직 영상 판독 보조나 일부 예측 모델, 임상 의사결정 지원 등 개별 솔루션 단위에 머무는 경우가 많았다.
 
서울대병원의 시도는 그런 점에서 이목을 끈다. 서울대병원은 지난해부터 AI 에이전트 플랫폼 ‘스누하이(SNUH.AI)’ 구축, 의료 특화 LLM ‘하리(HARI)’와 ‘케이메드AI(KMed.AI)’ 개발, 병원장 직속 AI위원회 설립까지 병원 차원의 AI 전환을 위한 행보를 이어왔다.
 
그 중심에는 서울대병원 헬스케어AI연구원 이형철 원장(마취통증의학과)이 있다. 그가 그리는 미래는 단순하다. 병원 구성원들이 출근하면 제일 먼저 스누하이를 켜고, 각자 자신의 업무에 맞는 AI 에이전트를 직접 만들어 활용하는 것이다.
 
메디게이트뉴스와 만난 이 원장(당시 부원장)은 “일반 사용자가 직접 에이전트를 개발·테스트해 원내에 적용하는 전체 워크플로우를 거버넌스 체계까지 갖춰서 운영하는 건 서울대병원이 세계 최초”라고 자부했다. 그는 이를 통해 “의료진의 업무 부담은 줄고, 환자안전은 ‘대박’이라고 할 수 있을 만큼 개선될 것”이라고 밝혔다.

한편, 서울대병원이 개발한 의료 AI의 현재와 향후 구상은 오는 9월 3일 서울 코엑스에서 열리는 ‘제3회 미래 헬스케어 트렌드 컨퍼런스’에서도 직접 확인할 수 있다. 서울대병원 헬스케어AI연구원 이현훈 교수는 ‘KMed.ai × SNUH.AI: 의료 LLM에서 AI Agent Hospital까지’를 주제로, 서울대병원이 개발한 의료특화 LLM KMed.ai와 의료 AI 에이전트 플랫폼 SNUH.AI가 실제 병원 업무에 어떻게 연결되고 있는지 소개한다. 
 
클라우드에서 개발→원내 적용…월 1회 워크샵 통해 관련 교육 예정
 
Q. 서울대병원에서 AI 에이전트 플랫폼 도입에 나선 배경은 무엇인가.
 
지난해 3월에 한국형 의료 특화 LLM '하리(HARI)'를 자체 개발해서 오픈소스로 공개했다. 그 과정에서 LLM이 의료 지식을 검색하고 임상 현장에서 실제로 활용하는 데 충분히 효율적이고 유용하다는 걸 직접 확인했다. 이후 5월에는 네이버와 협업해 케이메드AI(KMed.ai)라는 한국형 의료 특화 모델을 공동 개발하기 시작했고, 챗GPT 이상의 성능을 보인다는 걸 공개하기도 했다.

최종적으론 이런 모델을 임상 현장에서 의무기록 작성, 의무기록 오류 검토 등을 돕는 데 접목시키는 게 중요해졌다. 마침 IT 업계에서 AI 에이전트가 주목받기 시작했고, 의료 분야에서도 개발한 모델을 에이전틱하게 활용할 필요가 있겠다고 판단했다. 11월부터는 병원 내 데이터와 다양한 의료 도구들을 연결하는 AI 에이전트 플랫에 관심을 갖게 됐다. 그게 지금의 스누하이(SNUH.AI)다.
 
Q. 스누하이에 대해 좀 더 자세히 설명해달라. 네이버와 함께 개발한 케이메드AI와는 어떻게 다른가.
 
두 가지는 역할이 다르다. 케이메드AI는 방대한 의학 지식을 정확하게 검색하고 제공하는 지식 기반 LLM 모델이다. 반면 스누하이는 병원 데이터와 다양한 의료∙AI 도구들을 연결해서 실제 업무 워크플로우로 만들어주는 에이전틱 AI 플랫폼이다. 병원 입장에서 이 플랫폼이 달성해야 할 핵심 목표는 두 가지다. 첫째는 환자의 개인정보를 안전하게 보호하는 것, 둘째는 정확한 지식을 신속하게 검색해서 제공하는 것. 이 두 가지를 동시에 달성해야 한다.

현재 스누하이는 클라우드 버전과 원내망 버전 두 가지로 운영된다. 클라우드 버전은 4월 오픈했는데, 서울대병원 약 20만 명 규모의 익명화된 합성 데이터를 제공한다. 누구든 AI 코딩 툴을 이용해 자신이 필요한 에이전트를 개발하고 테스트할 수 있다. 원내망 버전은 작년 11월부터 실제 EMR 데이터와 연동해 운영 중이다. 클라우드 버전과 원내망 버전을 연동하기 위한 준비도 하고 있다.
 
Q. 병원 구성원 모두가 자신의 에이전트를 직접 만든다는 구상이 인상적이다. 왜 그게 중요한가.
 
병원 안의 수천 명 의료진은 각자 자신의 전공과 업무 방식에 맞는 고유한 문서 형식과 워크플로우를 갖고 있다. 중앙에서 이를 모두 조율하고 맞춰주긴 현실적으로 불가능하다. 결국 병원 구성원 개개인이 자신에게 필요한 에이전트를 스스로 만들 수 있는 생태계를 만드는 게 중요하다. 그래서 목표는 원내 구성원 1인당 하나 이상의 에이전트를 직접 만들어 운영하는 것이다. 관련해서 다음달부터 월 1회 워크샵을 정기적으로 가지면서 이번 학기에만 500명을 대상으로 교육을 할 계획이다. 클라우드 버전에서 익명 합성 데이터로 마음껏 에이전트를 개발하고 테스트한 뒤에 검증된 것들을 병원장 직속 AI 위원회의 심사를 거쳐 원내에 할 수 있게 될 거다.

Q. 실제 스누하이의 구체적인 활용 사례를 소개해달라.
 
가장 먼저 도입된 건 마취전 상태평가 요약지 작성이다. 마취과 의사들이 수술 전에 작성하는 문서인데 간호 초진 기록, 각종 검사 결과, 영상 판독문, 입원 초진 기록 등 약 20가지 문서를 모두 읽고 요약문을 써야 한다. 빠르게 해도 한 명당 5분, 오래 걸리면 20~30분씩 걸리는 작업이다. 전공의 때 업무 시간이 끝나고도 남아서 이 문서 작성 때문에 고생했던 기억이 생생하다.

스누하이는 EMR에서 FHIR(국제 표준 의료 데이터 교환 규약)를 통해 데이터를 받아와서 LLM으로 분석한 뒤 요약문을 작성한다. 의사는 AI가 작성한 문서를 근거 자료와 함께 확인하고, 검토 후 승인하면 EMR에 바로 반영된다. 산부인과에서는 퇴원 기록지 작성 AI를 개발해 활용하고 있고, 응급의학과와는 응급실 전원 기록지 AI를 함께 개발 중이다.
 
Q. 환자 안전 측면에서는 어떤가.
 
환자 안전 측면에서 말 그대로 ‘대박’이다. 대표적인 사례가 병리 판독문 논리 정합성 검증 시스템이다. 수술명과 검체 종류, 검체 결과에 기술된 내용 사이의 모순을 AI가 자동으로 잡아낸다. 약물 처방 단계에서도 마찬가지다. 특정 질환을 가진 환자에게 처방해서는 안 되는 약물이 입력되면 AI가 즉시 경고를 띄운다. 의사가 놓치고 있는 금기 사항을 실시간으로 제안해주는 것이다. 이처럼 AI는 의사의 판단을 대체하는 게 아니라 인간이 저지를 수 있는 실수를 사전에 차단하는 안전망 역할을 한다.
 
Q. AI의 할루시네이션(환각) 문제는 어떻게 다루고 있나. 의료 분야는 할루시네이션에 따른 위험이 더 큰 분야이기도 하다.
 
굉장히 중요한 문제다. 핵심 원칙은 '결정론적 부분'과 '비결정론적 부분'을 명확하게 구분하는 것이다. 결정론적 부분은 반복 실행해도 항상 동일한 결과가 나오는 영역이다. 예를 들어 마취전 요약지를 작성할 때 환자의 검사 결과나 판독문 같은 원본 데이터를 가져오는 과정은 1대1로 정확하게 가져와야 한다. 이 부분에서는 절대 할루시네이션이 있어서는 안 된다. AI가 작성한 코드가 실행되는 방식이라 LLM은 개입하지 않는 영역이다. 비결정론적 부분은 그 데이터를 바탕으로 LLM이 요약하거나 문장을 생성하는 영역이다. 이 부분은 AI가 생성한 결과와 근거 원문을 동시에 화면에 보여준다. 의사가 AI의 요약문 옆에서 원본 데이터를 바로 대조해 확인할 수 있게 하는 것이다. OECD를 비롯한 국제 AI 가이드라인에서도 강조하는 AI 투명성과 사용자 책임성의 원칙이기도 하다.
 
Q. 직접적인 진단이나 치료 영역보다는 반복적인 서류 업무 자동화에 초점이 맞춰져 있는 듯하다.
 
작년 1월에 식약처가 생성형 AI에 관한 가이드라인을 발표했는데, 진단이나 치료 방법을 제안하는 기능은 의료기기로 분류돼 인허가를 받아야 한다. 그 영역에는 직접 진입하지 않고, 기존에 인허가를 받은 고전적인 CDSS(임상의사결정지원시스템) 모델들을 도입해서 활용하는 방향을 택했다. 현재 원내에서는 10여 개의 인허가 CDSS를 운영 중이다. 생성형 AI는 그 CDSS 결과들을 연동해서 요약하거나, 음성으로 입력된 내용을 텍스트로 문서화하거나, 손글씨를 텍스트로 변환하거나, 외부에서 전원 온 환자의 PDF나 이미지 형태 의무기록을 미리 요약해서 제공하는 역할 등에 집중한다.

미국도 올해 1월 FDA(식품의약국)가 임상 의사결정지원 소프트웨어에 대한 최종 가이드라인을 발표하면서, 두 가지 이상의 진단이나 치료법을 제안하면서 투명한 근거를 함께 제시하면 별도 의료기기 허가 없이 진료에 활용할 수 있도록 했다. 미국 자국 기업들에게 시장을 열어주겠다는 의도로 보이는데, 이게 반드시 옳은 방향인지는 모르겠다. 

Q. AI 개발은 데이터의 질이 좌우한다는 얘기가 있다. 국내 의료 데이터의 특성은 AI 개발에 어떤 영이 있나.
 
강점과 약점이 공존한다. 강점부터 보면 한국은 2000년대 초부터 EMR을 빠르게 도입했고, 의료 영상 시스템(PACS)은 1990년대 말부터 사용했다. 그래서 장기 추적 관찰 데이터가 풍부하고, 피검사나 영상 검사를 다른 나라에 비해 훨씬 많이 한다. 객관적 측정값에 기반한 예측 모델을 만들 때 한국 데이터는 세계적으로도 뛰어난 수준이다. 미국에서는 그런 데이터 자체가 없어서 분석이 불가능한 경우도 있다.

반면 약점도 있다. 의무기록 작성 문화가 다르다. 미국 의사들은 진료 내용을 에세이처럼 상세하게 쓴다. 그래서 음성 받아쓰기 앱이 일찍 발전했다. 반면 한국은 검사 결과를 요약된 형식으로 기록하는 문화가 강하다. 이런 텍스트를 그대로 LLM 학습에 활용하기가 어렵고, 정제된 형태로 변환해서 사용해야 한다. 역설적으로 AI가 이 표준화 문제를 해결하는 데 도움을 줄 수 있다. 의사마다 다른 방식으로 쓴 의무기록을 AI가 표준화된 형식으로 정리하고, 누락된 부분을 제안해주는 방식으로 활용하면 기록의 질이 올라간다.

예전에는 텍스트 형태라 분석이 어렵다고 했던 비정형 데이터들도 지금은 LLM 덕분에 충분히 분석할 수 있게 됐다. 쓰레기를 넣으면 쓰레기가 나온다고들 하지만, 쓰레기도 잘 정제하면 충분히 좋은 모델을 만들 수 있다.
 
Q. 해외 사례와 비교하면 서울대병원의 AI 도입 수준은 어느 정도인가?
 
특정 문서를 생성하거나 환자에게 문자 메시지를 보내거나 검사 결과를 설명하는 편지를 쓰는 단위 에이전트들은 호주, 미국, 중국 등 여러 나라에 사례가 있다. 그런데 일반 사용자가 직접 에이전트를 개발하고 테스트하고 원내에 적용하는 전체 워크플로우를, 그것도 AI 위원회 같은 거버넌스 체계까지 갖춰서 운영하는 곳은 내가 알기로는 세계 최초다.
 
"AI, 의사 대체 않을 것…GPU 부족 문제 해결 필요"

Q. 스누하이와 케이메드AI가 완전히 가동됐을 때 병원의 하루가 어떻게 바뀔까.
 
의료진은 출근하면 스누하이를 가장 먼저 열 것이다. 거기서 오늘 담당 환자들의 상태 요약을 받고, 밤새 이상은 없었는지, 수술한 환자는 출혈이나 저산소증이 없었는지 등을 AI가 요약해서 보고해줄 수 있다. AI 회진이 가능해지는 것이다. 외래 진료에서도 지금은 3분 진료를 하기 위해 전날 수 시간 동안 차트를 미리 검토하고 문서 초안을 만들어야 한다. AI가 그 준비 작업을 대신 해준다면, 의사는 환자를 직접 대면하는 시간에 더 집중할 수 있다. 외래 환자는 하루에 1만 명 수준이라, 실제로 적용되면 임상 진료의 시간 절감과 정확도 측면에서 큰 효과가 있을 것이다.

실제 퇴원 기록지만 해도 AI가 의료진의 시간은 절감해주면서 정확도는 동일하게 유지한다는 연구 결과가 이미 나오고 있다. 또 환자 정보가 없는 당직표 작성, 메일 회신, 논문 작성, 연구 계획 등의 업무는 스누하이 클라우드에서 스마트폰으로도 처리할 수 있게 된다. 실제 환자 데이터가 필요한 업무는 AI 위원회 허가를 거쳐 원내망에서 처리한다. 이 두 영역이 명확하게 나뉘고 안정적으로 운영되는 게 올해 안에 이뤄질 것으로 본다.
 
Q. 병원이 AI를 대대적으로 도입하면서 의사를 대체하게 될 수도 있을까.
 
병원 안에서 AI가 많아질수록 환자 안전이 높아지고 의료진의 불필요한 업무 부담이 줄어든다. 기존 의사를 대체하는 게 아니라 기록 작성, 문서 준비 등 환자를 직접 대면하는 시간 외의 시간들을 줄여주는 기술이다. 환자의 모든 정보를 종합해서 환자에게 가장 유리한 방향으로 결정하고 치료 과정을 함께 하는 것은 결국 의료진의 몫이다. 특히 지방 의료나 필수 의료처럼 인력이 부족하고 업무 과부하가 심한 분야에서 AI가 정확한 지식을 빠르게 제공해준다면 의료진이 더 좋은 의료를 제공할 수 있게 된다. 다만 한 가지 중요한 이슈가 있다.

의료진 없이 AI와 환자가 단독으로 상호작용하는 영역은 규제 측면에서도, 안전 측면에서도 아직 불분명한 영역이다. 전 세계적으로도 중요한 의학적 판단에는 반드시 의료진의 확인이 필요하다는 방향으로 가고 있다. 이 부분은 앞으로 사회적으로 계속 논의돼야 할 핵심 과제다.
 
Q. 병원의 AI 활용과 관련해 제도적 지원이 필요한 부분이 있다면 말해달라.
 
원내 AI 활용이 늘수록 GPU 부족 문제가 대두될 수밖에 없다. 현재 병원은 GPU를 B200 기준으로 40장 정도를 운영 중이고, 케이메드AI 개발 당시엔 H100 100장을 사용했다. 현재 H100이나 B200 같은 GPU 한 장으로 동시에 처리할 수 있는 사용자가 1~2명 정도다. 단계적으로 가장 필요한 부분부터 적용하면서 경험을 쌓아가고 있지만, 장기적으로 사용자가 늘면 GPU는 반드시 큰 병목이 될 것이다. 서울대병원에만 진료 의사가 1000명, 연구 인력이 1000명, 여기에 다른 직원까지 합하면 1만 명에 달한다. 이 모든 사람이 AI를 사용하려면 많은 GPU가 필요하다.

이와 관련해 정부에 요청하고 싶은 건 두 가지다. 첫째는 공공 GPU의 추론 용도 확대다. 현재 정부가 보유한 공공 GPU는 대부분 모델 개발·학습 용도로 쓰인다. 하지만 실제 병원 현장에서 AI를 가동하려면 추론, 즉 인퍼런스에도 GPU가 대량으로 필요하다. 공공 GPU를 병원 같은 공공기관의 AI 운영에도 더 많이 할당해줬으면 한다.

둘째는 망분리 규제 완화다. 현재 병원 같은 공공기관은 환자 정보를 다루는 시스템을 운영할 때 국정원 인증을 받은 공공 클라우드만 써야 한다. 네이버와 케이메드AI를 개발할 때는 민간 클라우드를 사용했는데, 이를 병원 운영 환경과 연결하는 순간 공공 클라우드 기준을 벗어나버린다. 민간 클라우드에 이미 완성된 케이메드AI가 있는데도 병원 안에서 쓰지 못하고 계속 지연되는 이유가 바로 이것이다. 망분리 자체를 없애자는 게 아니다. 물리적으로 모든 걸 단절하는 지금 방식은 너무 낡은 접근이고, 텍스트 데이터가 나갔다가 들어오는 것 정도는 허용하되 그에 맞는 보안 기술과 기준을 함께 발전시키는 방향이 현실적이다.