[메디게이트뉴스 이지원 기자] 최근 인공지능(AI)이 의료 영역까지 확대되면서 역할이 커지는 가운데, AI 기본법이 시행됐다. 이에 의료 현장의 AI 활용 범위와 규제 적용 기준을 둘러싼 논의도 본격화되고 있다. 다만 고영향 AI 등 적용 범위에 대한 명확한 기준이 아직 정립되지 않아 현장에서 혼선이 발생할 수 있다는 우려가 나온다.

삼성서울병원 AI연구센터가 23일 개최한 '의료 AI 시대의 법·제도 재편 세미나'에서 고영향 AI 분류 기준 명확화 등에 대한 논의가 진행됐다.

AI 기본법은 AI 산업을 육성하면서 안전성과 신뢰성을 확보하기 위한 법으로, 국가 인공지능 거버넌스를 법제화하고 인공지능 산업 활성화와 인프라 조성, 인공지능 혁신을 뒷받침하는 안전·신뢰 기반 구축에 관한 내용을 담고 있다.

특히 의료·보건, 제약·바이오, 디지털헬스, 의료기기 분야와 관련한 ▲보건의료 제공 및 이용체계 구축·운영 ▲디지털 의료기기 개발 및 이용 등 사람의 생명·신체 안전과 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI 시스템을 '고영향 AI'로 분류한다. 즉 의료 분야에서 AI를 활용할 경우 해당 규정을 고려해야 한다는 것이다.

고영향 AI로 분류될 경우 사업자는 위험 관리 방안, AI가 도출한 최종 결과 등에 대한 설명 방안, 이용자 보호 방안을 수립하는 등 강화된 책임이 따른다. 이는 일반 AI보다 규제 수준이 높아 적용 범위 설정이 필요하다. 하지만 이날 토론에서는 AI 기본법 시행 이후에도 적용 범위와 관련한 명확한 기준이 아직 정립되지 않았다는 의견이 나왔다.

동국대 법학대학원 김재선 교수는 고영향 AI 규제와 관련해 "유권해석과 입법 논의가 지속적으로 필요하며, 고영향 AI 범위 역시 법률상 구체적으로 정리된 상태는 아니다"고 언급했다.

특히 의료 현장에서 생성형 AI가 의무기록 작성이나 문서 정리 등 보조 업무에 활용되고 있는 만큼, 행정 보조적 영역까지 고영향 AI로 분류해야 하는지에 대한 지적이 나왔다.

이에 김 교수는 "AI 기본법에서 고영향 AI를 사람의 생명·신체·안전·기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 시스템으로 정의하고 있다"며 "의료 현장에서 AI를 참고 자료 수준으로 활용하는 경우 규제 적용 여부가 달라질 수 있다. 의료 행위에 실질적 영향을 미치지 않고 참고 자료에 불과하다는 점을 입증하며 논의를 이어가는 것이 현실적인 대응 방안"이라고 말했다.

삼성서울병원 AI연구센터 양광모 센터장은 생성형 AI는 기존 의료 AI와 다른 판단 기준이 필요하다고 언급했다. 그는 "고영향 AI 중에서도 생성형 AI는 다르게 판단해야 할 부분이 많고, AI를 통해 임상 의사결정 지원 시스템(CDSS)을 만드는 경우 또 다른 판단 기준이 생길 수 있다"고 했다.

이어 의료 AI 규제 체계와 관련한 부처 간 규제 중복 문제가 지적됐다. 김재선 교수는 "의료기기에 해당하면 식약처 인증을 받아야 하는데, 고영향 인공지능에 해당하면 과기부 규제도 적용될 수 있다"고 설명했다.

양광모 센터장은 의료 AI 기술 발전 속도와 법·제도 정비 간 간극을 지적하며 "의료 AI 기술은 굉장히 빠르게 달려가고 있지만 법과 제도는 아직도 숨을 좀 고르고 있는 상황"이라고 전했다.

이어 양 센터장은 미국 보건 당국이 '정보 차단 금지법(Information Blocking)' 개념을 도입하기 전 대규모 인센티브를 의료기관에 지원했던 사례를 언급하며, 충분한 지원 없이 의료 데이터의 제3자 전송요구권 도입 등 제도만 도입할 경우 의료기관의 부담이 커질 수 있다고 지적했다.

산업계가 겪는 데이터 병목 현상과 관련해 김재선 교수는 "정부가 의료 데이터를 GPU처럼 공공재적으로 지원하려는 의지가 강하다"며 "의료계가 단순히 데이터를 방어하기보다 방대한 노하우를 바탕으로 스스로 AI 사업자가 돼 기술을 선도해야 한다"고 제언했다.

연세대 의료법윤리학과 양지현 교수는 의료 AI 제도 논의의 방향성과 관련해 지속가능성 개념을 강조하며 "무언가를 만드는 데 급급하기보다 제도를 공익 취지에 맞춰 장기적으로 가져갈 수 있을지에 대한 지속가능성 고민이 필요하다. 의료 AI 정책은 이해관계뿐 아니라 장기적인 미래 관점에서 접근할 필요가 있다"고 밝혔다.