“병원 AI, 도입 넘어 관리·정착 관건…데이터·거버넌스 체계 갖춰야”

병원 인공지능(AI) 도입이 확산하는 가운데 의료기관이 AI 기술 자체의 성능뿐 아니라 데이터 관리와 거버넌스, 실제 임상 현장과의 연계를 아우르는 운영체계를 구축해야 한다는 제언이 나왔다.

법무법인 바른과 갈렙앤컴퍼니는 지난 8일 서울 서초구 엘타워에서 ‘제1회 AI 혁신 리더스 포럼-병원 AI 대전환과 도약: 데이터·거버넌스에서 임상 솔루션까지’를 공동 개최했다고 9일 밝혔다.

한국보건의료정보원과 에이아이네이션, 정원엔시스가 협력 파트너로 참여한 이날 행사에는 종합병원급 이상 의료기관과 관련 기관의 경영·기획·IT 실무자 등 100여 명이 참석했다.

포럼에서는 병원 AI의 실질적인 활용을 위해 개별 AI 모델의 도입을 넘어 데이터가 실제 업무와 성과평가까지 이어지는 운영체계를 마련해야 한다는 데 논의가 집중됐다. AI 관련 규제 역시 모델 자체보다는 데이터 처리와 임상적 활용이 결합되는 과정에서 종합적으로 살펴야 한다는 의견이 제시됐다.

“병원 AI 성패, 모델보다 데이터·업무 연결 체계에 달려”

첫 번째 세션에서는 양광모 성균관대학교 의과대학 교수(삼성서울병원 AI연구센터장)가 ‘병원 AI 대전환의 핵심-데이터가 흐르는 병원’을 주제로 발표했다.

양 교수는 AI가 성능 검증을 통과하더라도 실제 의료 업무에 제대로 연결되지 못하는 문제가 발생하고 있다고 진단했다. 의료기관 간 영상 공유의 표준과 범위가 제한돼 있고, 업무 채널이 분산돼 수작업 분류·배정이 이뤄지는 데다 성과평가 지표와 실제 데이터가 일치하지 않는 등의 구조적 단절이 있다는 것이다.

그는 이를 해결하기 위해 ‘표준-데이터-AI 판단-업무 실행-성과평가’가 하나로 연결되는 운영체계를 구축해야 한다고 강조했다.

삼성서울병원 컨소시엄의 환자 중심 의료영상 공유와 원내 온프레미스 대규모언어모델(LLM)을 활용한 진료의뢰 자동 분류, 의뢰·회송 통합 시스템 ‘S-CARENet’ 등의 사례도 소개했다.

양 교수는 “AI가 판단한 이후 누가, 어디서, 어떻게 처리할지를 사전에 설계하고 사람의 최종 확인(Human-in-the-loop)을 전제로 데이터와 AI, 업무, 평가를 하나로 연결해야 한다”고 말했다.

안주현 바른 변호사는 ‘국내 AI 규제와 병원의 대응-규제와 법으로 읽는 AI 실행의 체크포인트’를 주제로 병원이 AI 도입 과정에서 고려해야 할 법적 쟁점을 설명했다.

안 변호사는 병원 AI가 인공지능기본법을 비롯해 디지털의료제품 관련 규제와 개인정보보호법 등 여러 법률의 적용을 동시에 받을 수 있다고 설명했다.

그는 “규제의 대상은 모델 자체가 아니라 데이터 처리와 임상적 사용행위의 결합”이라며 같은 진료지원 기능이라도 표시·광고 방식과 실제 사용 목적 등에 따라 의료기기 허가 등 적용되는 규제 경로가 달라질 수 있다고 지적했다.

생성형 AI를 의무기록 작성이나 환자 안내 등에 활용할 경우 환자 식별정보 제거와 내부망·보안형 AI 활용, AI 사용 사실 고지 등 개인정보 보호를 위한 점검도 필요하다고 강조했다.

안 변호사는 “병원 AI 거버넌스는 도입 전뿐 아니라 운영 및 변경 단계에서도 작동하는 상시 체계여야 한다”며 의료기기, 개인정보, 의료법 등을 포괄하는 종합적인 법·제도 대응이 필요하다고 말했다.

“AI 거버넌스, 규제 대응 넘어 신속·안전한 도입 기반”

두 번째 세션에서는 배기원 갈렙앤컴퍼니 이노베이션센터장이 ‘병원 AX 전략과 거버넌스-A to Z’를 주제로 발표했다.

배 센터장은 AI 도입이 늘어나는 것과 달리 승인 및 책임 주체가 명확하지 않은 경우가 많다며 검증 결과와 현장의 괴리, 경보 피로, AI 성능 저하(드리프트), 편향, 벤더 종속, 책임체계 부재 등의 문제를 지적했다.

특히 모든 AI를 동일한 수준으로 심의하면 현장이 공식 절차를 우회해 이른바 ‘그림자 AI(Shadow AI)’를 사용할 가능성이 커질 수 있다고 진단했다.

그는 의료기관 내에서 사용되는 AI를 파악하는 ‘AI 인벤토리’ 구축을 첫 단계로 제시하고, 위험도에 따른 차등 심의와 전담 조직을 포함한 다층적 거버넌스 체계를 마련해야 한다고 강조했다.

배 센터장은 “잘 만든 거버넌스는 AI 도입 속도를 늦추는 것이 아니라 오히려 앞당긴다”며 규제 대응 역시 단순한 비용이 아닌 AI 도입 속도와 지속가능성을 좌우하는 경영 과제로 봐야 한다고 말했다.

실제 의료현장에 적용되는 AI 솔루션 사례도 소개됐다. 이세라 에이아이네이션 팀장은 연세 세브란스병원과 21개월간 공동 개발한 욕창 단계별 AI 검출 솔루션 개발 과정을 발표했다.

이 팀장은 욕창 관리가 병변 측정과 촬영, 단계 판단, 기록을 반복해야 하는 노동집약적인 업무라고 설명하고, 3만3011건의 병변 데이터를 활용해 라벨링과 분류체계, 평가기준을 정립한 과정을 소개했다.

권찬영 정원엔시스 AI전략실장은 실시간 영상 기반 진단 보조 AI의 기술적 과제를 설명했다. 단일 영상 프레임에 의존할 경우 표시 마커가 깜빡이거나 흐린 영상에서 오탐이 발생할 수 있는 만큼 프레임 간 시간축 정보를 활용해 병변의 연속 검출 여부를 추적하는 방식이 필요하다고 설명했다. 이를 통해 내시경 실시간 용종 검출(CADe)과 진단 보조(CADx) 등에 AI를 적용할 수 있다고 소개했다.

“임상 AI 확산…‘AI-Ready 의료데이터’ 구축 시급”

이어진 패널토론에서는 이준희 바른 기업전략연구소장이 좌장을 맡아 의료기관의 역할 변화와 AI 시대의 데이터·거버넌스 구축 방안을 논의했다.

김경윤 AWS Healthcare 수석, 민규홍 서울성모병원 스마트병원 총괄 정보전략팀장, 이의규 바른 변호사, 한은진 세브란스병원 진료지원간호팀 전문간호사가 패널로 참여했다.

민규홍 팀장은 병원이 질병 치료를 넘어 예방과 선제적 건강관리까지 담당하는 방향으로 변화해야 한다며 이를 위해 표준화와 정제, 품질관리를 거친 ‘AI-Ready 의료데이터’를 확보하는 것이 중요하다고 강조했다.

이의규 변호사는 의료기관에서 사용하는 AI를 파악하고 위험 수준에 따라 승인·검증·모니터링 절차와 책임자를 정하는 것이 AI 거버넌스의 핵심이라고 설명했다.

특히 행정지원용 AI와 실제 진료에 영향을 미치는 AI를 구분하고 의료진의 최종 판단권을 보장하는 한편, 검증과 변경, 사고 대응 과정을 기록으로 남기는 컴플라이언스 체계가 필요하다고 제언했다.

염민섭 한국보건의료정보원 원장은 “의료 AI의 경쟁력은 알고리즘만으로 만들어지지 않는다”며 “양질의 데이터와 표준, 안전한 연계·활용체계가 함께 갖춰질 때 실제 의료현장의 혁신으로 이어질 수 있다”고 말했다.

이어 정부의 AI 기본의료 전략과 공공의료 AI 고속도로, 건강정보고속도로(의료 마이데이터), 국가통합바이오빅데이터 사업 등을 소개하고 의료데이터와 AI를 활용해 국민이 체감할 수 있는 의료혁신을 만들어가겠다고 밝혔다.

이동훈 바른 대표변호사는 “의료 AI의 성공적인 도입을 위해서는 AI 규제뿐 아니라 디지털의료제품 및 의료기기 관련 규제, 개인정보 보호와 의료데이터 활용, 의료법 등 다양한 법·제도에 대한 종합적인 대응이 필수적”이라고 말했다.

이어 “바른이 디지털 헬스케어와 개인정보·데이터, AI 규제, 의료기관 자문 분야에서 축적한 전문성과 경험을 바탕으로 병원과 의료기관이 AI 전환 과정에서 마주하는 법적 쟁점을 선제적으로 점검하고 해결하는 전략적 파트너 역할을 수행하겠다”고 덧붙였다.

이미경 기자 esit917@hankyung.com