온코소프트가 방사선종양학 임상 전 과정을 자동화할 수 있는 대규모 멀티모달 AI 모델 'RO-LMM(Radiation Oncology-Large Multimodal Model)'을 개발했다고 4일 밝혔다.

이번 연구는 연세대 의과대학 방사선종양학과 박상준·김용배 교수 및 KAIST 김재철 AI대학원 예종철 교수와 공동으로 진행됐으며, 의료영상 분야 최고 권위지인 Medical Image Analysis(IF 11.8)에 게재됐다.

RO-LMM은 ▲임상 보고서 요약 ▲방사선치료 전략 제안 ▲3D 표적 볼륨 분할이라는 방사선치료의 세 가지 핵심 단계를 하나의 AI가 연속적으로 수행하는 세계 최초의 통합 프레임워크다. 기존 AI가 영상 분할 등 단일 기능에 머물렀던 한계를 뛰어넘어, 다양한 임상 정보를 종합 분석해 환자별 맞춤 치료 계획을 제안하는 'Agentic AI' 개념을 의료 현장에 실현했다.

이번 연구에서는 특히 여러 단계를 순차적으로 처리하는 AI에서 발생할 수 있는 오류 누적 문제를 해결하기 위해 자체 개발한 일관성 기반 학습 기법 ‘Consistency Embedding Fine-Tuning(CEFTune)’과 ‘Consistency Embedding Segmentation(CESEG)’를 도입했다. 이를 통해 입력 오류나 노이즈가 있는 상황에서도 AI가 안정적이고 정확한 결과를 도출할 수 있게 됐다.

연구팀은 연세암병원에서 수집한 대규모 환자 데이터로 모델을 훈련하고 용인세브란스병원에서 외부 검증을 수행했다. 검증 결과 RO-LMM은 ‘임상 보고서 요약’에서 기존 ChatGPT 모델 대비 21% 향상된 성능을 보였으며, ‘치료 전략 제안’에서는 기존 최고 성능인 GPT-4 모델 대비 68% 높은 점수를 기록했다.

치료 계획의 최종 단계인 ‘3D 표적 분할’ 정확도는 기존 모델 대비 최대 10% 이상 향상되었고, 특히 유방 전절제술을 받은 고난도 환자군에서는 정확도가 최대 22.1%까지 높아져 복잡한 사례에서 더 큰 임상적 유용성을 증명했다. 또한, RO-LMM은 단일 GPU 환경에서도 약 10초 내외로 모든 과정을 처리할 수 있어 실제 의료 현장에서의 실용성도 함께 갖췄다.

온코소프트는 여기서 한발 더 나아가 RO-LMM의 기술력을 ‘대화형 AI 에이전트’로 구체화해 기존 상용 소프트웨어인 'OncoStudio(온코스튜디오)'에 통합할 계획이다. 오는 9월 미국 방사선종양학회(ASTRO)에서 첫선을 보일 이 서비스는 의료진이 AI와 직접 소통하며 치료 계획을 완성하는 것을 목표로 한다.

회사 측에 따르면 AI 에이전트를 통해 의료진은 채팅이나 음성으로 새로운 치료 부위를 생성하고 해부학적 기준에 따라 자동으로 수정하는 등 다단계의 복합적인 명령을 내릴 수 있다. 특히 CT 영상과 다양한 임상 기록을 함께 이해하는 멀티모달(Multi-modal) 기능을 통해 환자 데이터 전체의 맥락 속에서 더 정밀한 판단을 내리고 작업을 수행하게 된다. 회사 측은 온코스튜디오가 보유한 모든 AI 모델과 편집 기능을 ‘툴셋(tool-set)’으로 활용해 의료진의 의도를 정확히 파악하고 실행하는 진정한 지능형 진료 파트너가 될 것으로 기대했다.

온코소프트 김진성 대표는 "이번 연구 성과를 바탕으로 단순 자동화를 넘어 의료진의 의사결정을 돕는 진정한 'AI 주치의'를 구현해 방사선 치료의 새로운 기준을 제시할 것"이라며 "물론 아직 규제의 문제, 각 병원의 임상정보와의 연결을 해결해야하는 숙제들이 남아있으나, 궁극적으로 온코소프트의 AI 기술이 모든 암 환자에게 최적의 맞춤형 정밀 의료를 제공하는 데 기여하도록 최선을 다하겠다"고 밝혔다.