블로그

Aug 04, 2023

의료 환경에서 AI 혁명을 늦추는 신뢰 부족: GE 헬스케어 보고서

7월 11~12일에 샌프란시스코에서 최고 경영진과 함께 리더들이 어떤지 들어보세요.

7월 11~12일 샌프란시스코에서 최고 경영진과 함께 리더들이 성공을 위해 AI 투자를 통합하고 최적화하는 방법을 들어보세요. 더 알아보기

AI가 대유행하는 시기에 GE Healthcare의 새로운 설문 조사에 따르면 의료 환경에서의 AI 사용에 대한 상당한 수준의 불신과 회의가 강조되었습니다.

5,500명의 환자와 환자 옹호자, 2,000명의 임상의를 대상으로 한 Reimagining Better Health 연구에서는 대다수의 의사가 AI가 의료를 변화시킬 잠재력이 있다고 믿고 있는 것으로 나타났습니다. 동시에 많은 사람들은 기술이 아직 준비되지 않았으며 편견과 같은 장애물로 인해 여전히 훼손되어 있다고 생각합니다.

이번 연구 결과는 수많은 거대 의료 기업들이 환자 경험과 결과를 개선하고 작업을 자동화하며 생산성을 향상시키기 위해 ChatGPT 및 대화형 AI와 같은 생성 기술을 포함한 AI 모델을 계속 조사하고 실험하고 있는 가운데 나온 것입니다.

오늘날 AI에 대해 이야기할 때마다 그들은 신약 발견이나 개인의 최선의 치료 계획 예측을 통해 기술이 환자 치료에 어떻게 혁명을 일으키고 있는지 언급합니다. GE 헬스케어 설문조사에서 임상의들은 유사한 이점을 반복적으로 언급했는데, 61%는 이 기술이 의사 결정에 도움이 될 수 있다고 답했고, 54%는 더 빠른 의료 개입이 가능하다고 답했으며, 55%는 운영 효율성 개선에 도움이 될 수 있다고 답했습니다.

트랜스폼 2023

7월 11~12일 샌프란시스코에서 최고 경영진이 성공을 위해 AI 투자를 통합하고 최적화하고 일반적인 함정을 피한 방법을 공유합니다.

가능성은 무궁무진하지만 많은 사람들이 현장에서 AI 채택과 관련된 위험에 대해 여전히 우려하고 있습니다. 구체적으로, 설문조사 응답자의 55%는 AI 기술이 아직 의료용으로 사용될 준비가 되지 않았다고 답했으며, 58%는 AI 데이터를 신뢰하지 않는다는 점을 암시했습니다. 16년 이상의 경험을 보유한 임상의의 경우 회의론 수준은 더욱 높아 67%가 AI에 대한 신뢰가 부족했습니다.

임상의들은 이러한 불신의 가장 큰 이유는 불완전한 훈련 데이터, 결함이 있는 알고리즘 또는 부적절한 평가 프로세스와 같은 다양한 요인으로 인해 알고리즘이 불공정하거나 차별적인 결과를 생성할 가능성이 있다는 점을 지적했습니다. 응답자의 무려 44%가 기술에 내재된 편견이 있다고 답했습니다.

둘째, 관련 기술에 대한 임상의의 인식이 수준에 미치지 못하는 경우가 많습니다. 연구에 따르면 설문조사에 참여한 임상의 중 55%만이 의료 기술 사용 방법에 대한 적절한 교육을 받았다고 생각하는 것으로 나타났습니다.

GE Healthcare CTO인 Taha Kass-Hout가 지적했듯이, 데이터 품질과 투명성을 보장하기 위해 노력하는 사려 깊은 데이터 중심 접근 방식은 AI 기술에 대해 고민하고 있는 임상의들 사이에서 신뢰를 구축하는 열쇠입니다.

Kass-Hout는 VentureBeat에 "우리는 데이터 세트의 출처와 샘플링된 인구의 특성에 특별한 주의를 기울입니다."라고 말했습니다. "우리는 또한 데이터를 분류하고 구성하는 알고리즘을 평가하고 이러한 알고리즘을 업데이트할 때 AI 공식 자체와 임상의의 피드백을 살펴봅니다."

CTO는 공을 굴리기 위해 기업은 임상의가 AI의 작동 방식부터 작업을 강화하는 방법까지 AI에 관한 모든 것을 안내하는 훈련/교육 프로그램을 추진해야 한다고 말했습니다.

Kass-Hout는 "업계로서 우리는 이를 어디서, 어떻게 사용하는지, 그리고 언제 완전히 신뢰할 수 있는지, 다른 도구와 인간의 전문 지식에 의존하는지에 대한 임상의적 이해를 구축해야 합니다."라고 말했습니다. "저는 이것을 임상의가 AI 모델의 내용을 이해할 수 있도록 돕기 위해 'AI의 블랙박스 깨기'라고 부릅니다."

여기에는 연령, 성별, 실험실 결과, 원격 모니터링, 병력, 유전적 변이 또는 바이오마커, 후속 이미지의 병변 진행 등 구성되는 데이터가 포함되므로 임상의는 무엇이 AI 출력에 영향을 미치는지 더 잘 이해할 수 있습니다.

"모델에 영향을 미치는 요소와 시간이 지남에 따라 일관된 피드백 루프를 통해 모델을 조정할 수 있는 방법에 대한 투명성은 임상의 사이에서 AI 기술에 대한 신뢰를 구축하는 데 중요합니다."라고 그는 말했습니다.

전 세계의 의료 시스템이 극심한 압박에 직면함에 따라 임상의들은 지치고 업계를 떠나는 것을 고려하고 있습니다. 실제로 세계보건기구(WHO)에 따르면 2030년에는 14억 명이 60세 이상이 될 때까지 의료 인력이 1,000만 명 부족할 수 있습니다.