UPMC 보고서에 따르면 의료 산업은 AI를 관리할 수 있는 것보다 더 빠르게 AI를 배포하고 있습니다.

대부분의 의료 시스템은 인공 지능 실험을 넘어 임상 문서 및 청구와 같은 작업을 관리하기 위해 기술에 의존하는 시대로 나아갔습니다. 하지만 새로운 보고서 UPMC의 조사에 따르면 AI가 널리 채택되었음에도 불구하고 많은 의료 시스템이 위험을 관리하기 위한 명확한 가드레일 없이 운영되고 있는 것으로 나타났습니다.

UPMC 의료 시스템의 혁신 및 벤처 캐피탈 부문인 UPMC Enterprises의 부사장인 Ken Howard는 “우리 모두는 AI의 가능성을 보고 있지만 (시스템)에는 의료 시스템 전반에 걸쳐 이러한 (도구)를 효과적으로 구현하기 위한 진정한 가드레일이 필요합니다.”라고 말했습니다.

UPMC의 연결 의학 센터 및 KLAS 연구에서 발표한 이 보고서는 의료 시스템 임원 및 외래 진료 기관을 포함하여 20여 명의 의료 리더를 대상으로 설문 조사를 실시했습니다.

이번 연구 결과는 업계가 AI 도구를 적극적으로 채택하고 있음을 보여줍니다. 그러나 위험이나 안전 문제 없이 이러한 도구를 적용하는 방법을 둘러싼 인프라에 관해서는 많은 의료 시스템이 비행기를 비행하는 동안 비행기를 만드는 것처럼 보입니다.

가장 많이 인용된 AI 용도로는 임상 문서화, 영상 촬영, 수익 계획, 환자 참여, 인력 도구, 생산성 보조 등이 있었습니다.

보고서에 따르면 대부분(93%)의 의료 시스템은 제3자 AI 도구를 배포했지만, 설문조사 대상자 중 대다수(63%)는 여전히 이를 지원하기 위한 인프라를 개발하고 있으며 정책을 확립되거나 발전된 것이 아니라 “임시”로 설명하고 있습니다.

실제 환자에게 적용한 모델을 사용하여 AI 솔루션을 테스트하기 위한 전용 데이터 플랫폼을 보유하고 있다고 답한 응답자는 훨씬 더 적습니다(44%). 그럼에도 불구하고 응답자의 92%는 배포 전에 타사 공급업체의 파일럿 테스트 또는 개념 증명 작업을 통해 타사 도구를 테스트했다고 보고했습니다.

보고서는 좋은 내부 인프라가 없으면 시스템이 AI 도구의 결과를 검증하는 데 어려움을 겪을 수 있다고 주장합니다. 응답자들은 여러 팀 간의 일관되지 않은 정의, 수동 해결 방법 사용 및 구조화되지 않은 데이터의 스프레드시트에 따라 데이터 품질이 크게 달라질 수 있다고 말했습니다. 보고서는 많은 시스템이 보고 또는 AI 도구에서 사용할 데이터를 조정하고 준비하기 위해 여전히 노동 집약적인 프로세스에 의존하고 있음을 시사합니다.

UPMC는 환자 치료를 방해하지 않고 AI 애플리케이션을 테스트하기 위해 Ahavi라는 자체 데이터 플랫폼을 배포했습니다. Howard는 이 플랫폼이 실제 시나리오를 모방하기 위해 식별되지 않은 환자 데이터를 사용한다고 말했습니다.

Howard는 “AI 채택이 계속 확대됨에 따라 의료 서비스 제공업체는 성공이 올바른 기술을 선택하는 것 이상에 달려 있다는 것을 인식하고 있습니다.”라고 말했습니다.

그러나 보고서는 의료 환경에서 AI를 성공적으로 사용하는 것도 논쟁의 여지가 있다고 밝혔습니다. 성공적인 AI 전략이 어떤 것인지에 대한 의료 시스템의 합의가 부족했고, 기술이 환자에게 제공하는 가치나 시스템 효율성을 결정하는 보편적인 측정 기준도 없었습니다.

보고서는 의료 시스템의 AI 문제가 기술적인 문제를 넘어 운영 및 절차적인 문제까지 확대되고 있음을 시사합니다. 그리고 이러한 과제는 AI 도구가 배포된 후에도 계속됩니다.

UPMC는 의료 환경에서 AI를 책임감 있게 배포하려면 지속적인 거버넌스, 테스트 및 평가가 중요하다고 주장합니다.

UPMC의 최고 의료 정보 책임자인 Rob Bart 박사는 “이 연구를 통해 구현이 단지 첫 번째 단계일 뿐이라는 분명한 인식이 나타났습니다.”라고 말했습니다. “의료 시스템은 이제 AI가 의미 있고 측정 가능한 가치를 제공하도록 보장하는 데 필요한 거버넌스 구조, 테스트 기능 및 조직 전략을 구축하는 데 중점을 두고 있습니다.”