최근 몇 년 동안 과로에 시달린 많은 의사들은 환자 대화, 진단 및 진료 결정을 자동으로 요약하여 건강 기록 기록을 위한 구조화된 메모로 자동 요약하는 데 도움을 주기 위해 소위 AI 의료 서사를 활용했습니다. 그러나 최근 온타리오 감사원의 감사에 따르면 주 정부가 추천한 AI 서기관은 “잠재적으로 환자의 건강 결과에 영향을 미칠 수 있는 부적절하거나 유해한 치료 계획을 초래할 수 있는” 부정확하고 불완전하며 환각적인 정보를 정기적으로 생성하는 것으로 나타났습니다.
온타리오 정부의 인공 지능 사용에 관한 최근 보고서에서 감사관은 의료 서비스 제공자가 구매할 수 있도록 주 정부에서 승인하고 사전 자격을 갖춘 20개의 AI 필기 공급업체에서 수행된 두 번의 시뮬레이션된 환자-의사 대화에 대한 전사 테스트를 검토했습니다. 해당 벤더 중 20개 업체 모두 환자 정보를 환각적으로 표시한 9개, 정보를 잘못 기록한 12개, 논의된 정신 건강 문제에 대한 주요 세부 정보를 놓친 17개를 포함하여 이러한 간단한 테스트 중 적어도 하나에서 정확성이나 완전성에 대한 일부 문제를 보여주었습니다.
보고서에서 감사원장은 환자의 후속 치료에 직접적이고 부정적인 영향을 미칠 수 있는 요약 오류의 예에 관해 여러 가지를 지적합니다. 여기에는 AI 서기가 혈액 검사나 치료에 대한 존재하지 않는 의뢰를 환각하거나, 처방약 이름을 잘못 표기하거나, 시뮬레이션된 대화에서 논의된 정신 건강 문제의 “핵심 세부 사항”을 놓친 상황이 포함됩니다.
관련 정보는 아래 링크에서 확인하세요
