[메디게이트뉴스 조운 기자] 서울아산병원이 의료 인공지능(AI) 14종을 실제 진료현장에서 사용하고 있는 가운데, 의료AI 확산의 관건은 신규 솔루션 도입보다 도입 이후 성능과 효과를 지속적으로 평가하는 데 있다는 제언이 나왔다.

AI가 식품의약품안전처 허가 당시의 성능을 계속 유지하는지, 성능이 떨어졌을 때 병원이 이를 발견하고 원인까지 파악할 수 있는 모니터링 인프라가 필요하다는 주장이다.

서울아산병원 양동현 AI혁신지원실장(서울아산병원 영상의학과 교수)은 지난 3일 서울 코엑스에서 메디게이트뉴스가 주최한 ‘미래 헬스케어 트렌드 컨퍼런스’에서 ‘서울아산병원의 의료AI 도입에서 확산까지’를 주제로 발표하며 이같이 밝혔다.

양 실장은 “의료AI의 진짜 문제는 도입 이후”라며 “도입 시점이나 식약처 인허가 당시의 성능이 실제 현장에서도 유지되고 있는지, 성능이 떨어졌다면 병원이 이를 알아챌 수 있는지에 답할 수 있는 병원은 아직 많지 않을 것”이라고 말했다.

그는 “고위험 AI는 정확도 변화를 정기적으로 확인하고 성능이 떨어진 원인까지 분석할 수 있어야 한다”면서도 “정부 지원과 법·제도적 뒷받침이 필요하지만 성능관리 체계가 새로운 규제가 돼 AI 도입을 가로막아서는 안 된다”고 강조했다.

AI 14종 실제 사용…도입 승인 후 연계 기다리는 솔루션 20여종

서울아산병원은 올해 2월 의료AI 도입과 운영을 전담하는 AI혁신지원실을 신설했다. 약 10명으로 출발한 AI혁신지원실은 도입 전 검토부터 승인 근거 기록, 시스템 등록, 도입 후 모니터링과 정기평가까지 전 과정을 관리한다.

새로운 AI를 검토할 때는 진료 과정에서 AI가 관여하는 지점을 세분화해 환자 동의 여부와 데이터 입출력 경로, 생성된 결과가 전자의무기록에 편입되는 방식, 개인정보 관리, 사후 평가계획 등을 확인한다.

검토를 통과한 AI는 ‘AI 인벤토리’에 등록된다. 도입 단계에서 평가 지표와 시점을 정하고 필요한 데이터를 미리 축적한 뒤, 일정 기간이 지나면 성능과 임상적 효과를 확인하는 방식이다.

현재 인벤토리에는 실제 사용 중인 AI 14종이 등록돼 있다. 병원 심의를 통과해 도입이 결정됐지만 병원정보시스템 연계와 진료 절차 설정을 기다리는 솔루션도 20여종에 달한다. 적용 분야는 영상의학을 넘어 수술 시뮬레이션과 대사질환, 음성인식, 디지털치료기기 등으로 확대되고 있다.

양 실장은 “AI 도입을 승인했다고 곧바로 사용할 수 있는 것은 아니다”라며 “병원정보시스템에 연결하고 실제 진료 흐름에 맞게 설정하는 과정에 상당한 시간이 필요하다”고 설명했다.

원내 생성형 AI·업무 자동화 실증…병원 밖으로 데이터 유출 차단

서울아산병원은 병원 내부 규정과 진료지침을 기반으로 질문에 답하는 생성형 AI ‘AMC AI Docs’도 운영하고 있다. 외부 인터넷망이 아닌 병원 내부 서버에서 구동하는 온프레미스 방식으로 구축해 질의와 데이터가 병원 밖으로 나가지 않도록 했다.

의료진이 원내 규정이나 약물 사용지침을 물으면 관련 근거와 원문을 함께 제시한다. 병원은 정확성과 동시접속 처리능력을 점검한 뒤 간호부를 대상으로 서비스를 먼저 개방했다.

AI 에이전트를 전자의무기록과 연결해 반복 업무를 자동화하는 ‘AI Workflow’도 테스트하고 있다.

양 실장은 PET 검사를 앞둔 환자의 당뇨병 치료제 복용 여부를 확인하는 업무를 사례로 제시했다. 현재는 검사실 간호사가 환자의 과거 기록과 투약이력을 일일이 확인해야 한다. 환자 이력이 단순하면 1~2분이 걸리지만 기록이 복잡하면 20~30분까지 소요될 수 있다.

AI 에이전트를 적용하면 PET 검사 처방이 발생하는 순간 환자의 기록과 투약이력을 확인해 검사 전 체크리스트를 자동으로 작성할 수 있다. 서울아산병원은 현재 실제 진료시스템과 분리된 테스트 서버에서 이를 실증하고 있다.

병원정보시스템과 AI 에이전트를 안정적으로 연결하는 데는 약 1년이 걸렸다. 생성형 AI 서버의 부하가 진료시스템에 영향을 주지 않도록 서버 구조를 새로 설계하고 보안체계도 마련해야 했기 때문이다.

양 실장은 “서울아산병원처럼 진료량이 많은 병원에서는 AI 시스템의 부하가 기존 진료시스템에 혼선을 일으키면 큰 문제가 될 수 있다”며 “두 시스템을 분리하면서도 필요한 정보가 안전하게 오갈 수 있도록 설계하는 작업이 가장 어려웠다”고 말했다.

판독문 작성 AI, 건당 3분 줄여…신규 직원일수록 효과 커

서울아산병원은 AI 도입 효과를 실제 업무시간으로 측정하는 작업도 시작했다.

병원은 영상의학과 의사가 말로 작성한 판독 내용을 문서로 전환하는 음성인식 AI의 도입 전후 효과를 비교했다. 분석 결과 판독문 한 건당 업무시간이 약 3분 줄었다. 판독문 1000건을 기준으로 환산하면 약 6.2근무일을 절감한 셈이다.

특히 숙련된 직원보다 신규 직원이 AI의 도움을 더 많이 받는 것으로 나타났다. AI 도입 이후 판독문 처리 건수가 늘었지만 전사(轉寫) 담당 직원의 야간·주말 근무도 거의 발생하지 않았다.

양 실장은 “실제 평가에서는 알고리즘 자체보다 하드웨어와 사용자 피드백 체계, 신규 직원 교육이 더 중요한 개선 요소로 나타났다”며 “AI 정확도뿐 아니라 업무량과 사용자 경험, 진료 흐름에 미친 효과까지 함께 평가해야 한다”고 말했다.

서울아산병원은 미국보건의료정보관리시스템협회(HIMSS)와 아시아 6개 병원이 추진하는 AI 성과측정 프레임워크 개발에도 참여하고 있다. 국내에서는 서울대병원과 서울아산병원이 참여했으며, 이르면 내년 평가체계의 윤곽이 공개될 전망이다.

양 실장은 “의료AI의 효과를 어떻게 측정할지에는 아직 정답이 없다”며 “병원들이 경험과 데이터를 공유하고 정부와 함께 합리적인 평가·지원체계를 만들어가는 것이 중요하다”고 밝혔다.