스크랩 AI가 환자 해치면 누구 잘못? “책임 분산화 구조 필요”

발언하는 성균관대 의대 김동익 교수는./사진=오상훈 기자 맞춤형 치료와 예방 등 의료현장에서 AI 사용 사례가 빠르게 증가하고 있는 가운데, AI가 환자에게 피해를 입혔을 때 책임 소재에 대한 논의도 시작해야 한다는 지적이 제기됐다. ◇생성형 AI까지 합류… 의사·환자 의사소통까지 지원 13일 서울성모병원 플렌티 컨벤션에서 개최된 ‘2025 대한의학회 학술대회’에선 ‘AI 시대, 한국의료의 새로운 도약’을 주제로 토론이 진행됐다. 전문가들은 의료현장에서 AI의 역할이 이미 대체할 수 없을 정도로 커졌다고 입을 모았다. 단순 엑스레이 판독 보조 같은 작업은 물론, 복잡한 환자 데이터를 기반으로 질환 재발 위험을 예측하고 치료 전략까지 제안하는 AI 모델이 현실화한 것이다. 발제를 맡은 연세의대 신경외과학교실 김휘영 교수는 “AI는 관상동맥 내 플라크의 심각도를 정량화해 심혈관질환의 발생 가능성을 예측하고, 암 환자의 유전체 및 영상 데이터를 분석해 보조 항암치료의 효과를 사전에 가늠할 수도 있다”라며 “최근에는 환자의 장기에서 배양한 오가노이드 분석을 통해 약물 반응까지 예측하려는 시도도 진행 중”이라고 말했다. 특히 최근 전세계에서 사용량이 급증한 ‘생성형 AI’는 진단뿐 아니라 의료진-환자 간 소통에도 활용 가능성을 보여주고 있다. 김 교수는 “생성형 AI는 기존에 확보된 데이터를 조합해 정밀한 설명은 물론 새로운 시각까지 제공하고 있다”며 “이미 영상의학에서 AI가 의사와 대화를 나누며 병변 부위를 설명하는 수준까지 왔다”고 말했다. 그는 실제 구글의 생성형 AI ‘제미나이’가 CT 영상을 기반으로 췌장염을 식별하고 의료진에게 설명 가능한 방식으로 결과를 제시한다고 설명했다. ◇현장과의 간극은 숙제… “의료진 교육 필수” 그러나 AI의 의료 적용에는 한계가 존재한다. AI의 성능이 뛰어나더라도, 인간과의 협업이 제대로 이뤄지지 않으면 효과를 발휘하지 못한다는 게 전문가들의 지적이다. 발제를 맡은 울산의대 박성호 교수(서울아산병원)는 “실제 임상 현장에서 AI의 조언을 무비판적으로 수용하는 ‘자동화 편향’이나, 반대로 지나치게 불신하는 현상도 나타난다”며 “AI의 결과를 어떻게 받아들이고 활용하느냐는 의료진의 역량과 훈련에 따라 좌우된다”고 말했다. 또 AI가 현장에 도입된 후 의사들이 오히려 피로감을 느끼는 사례도 나타났다느 게 그의 설명이다. 박 교수는 “중국의 한 연구에 따르면, AI 도입 이후 의료진의 인지적 부담이 오히려 증가했다는 결과도 있다”며 “AI는 도구일 뿐이며, 현장 적합성을 고려한 설계와 교육이 필요하다”고 말했다. ◇AI가 환자에게 피해 끼치면? “책임 분산화 구조 필요” AI 기술의 진보만큼이나 의료 현장에서 중요한 화두로 떠오른 게 ‘책임’과 ‘윤리’다. 토론회에선 자율적 판단이 가능한 AI가 환자에게 피해를 입혔을 경우, 과연 누구에게 책임을 물어야 하는지에 대한 논의도 진행됐다. 패널토의에 참여한 성균관대 의대 김동익 교수(삼성서울병원)는 “AI를 도구로 간주하던 기존 법체계는 생성형·자율형 AI의 등장으로 근본적인 물음을 마주하고 있다”며, “과거 중세 동물재판처럼 인간이 아닌 존재에 책임을 물어야 하는 시대가 다시 왔다”고 말했다. 실제 유럽연합(EU)은 한때 AI에 ‘전자 인격’을 부여하는 방안을 검토했지만, 노동계와 시민사회 반발로 결국 철회했다. 김 교수는 “현실적으로는 AI 자체에 책임을 묻는 대신, 책임을 공동화·분산화하는 구조가 불가피하다”라며 “의료진은 AI의 판단을 무비판적으로 수용하지 않고 환자에게 설명했는지, 병원은 안전한 도입과 검증 체계를 갖췄는지, 개발사는 알고리즘 편향과 성능 검증 충분히 했는지 판단하는 체계를 준비해야 한다”고 말했다. AI 기술이 임상에 도입되기 전에 충분한 검증을 거쳐야 한다는 지적도 제기됐다. 가톨릭대 의대 정승민 교수(가톨릭대 은평성모병원)는 “AI 기술이 식약처 허가만으로 임상 현장에 곧바로 도입되는 ‘시장 즉시진입 가능 의료기술 제도’는 환자 안전을 위협할 수 있다”며, “기술을 신속히 도입하는 것보다 중요한 것은 그 효과를 엄격히 검증하는 시스템”이라고 말했다. 이어 “AI의 효과와 위험을 실시간으로 모니터링할 수 있는 체계가 필요한데 성능이 낮은 AI는 퇴출할 수도 있어야 한다”고 말했다. 출처 : https://health.chosun.com/site/data/html_dir/2025/06/13/2025061302057.html

출처: 크리에이터 정관진 제1군단 원문보기 글쓴이: 니르바나