AI 도구에 대한 디지털 신뢰 구축

크레딧: WHYFRAME/Shutterstock

영국 국가 표준 기관인 BSI는 의료 기기부터 스마트폰 챗봇 또는 가정 내 모니터링 도구에 이르기까지 환자를 진단하거나 치료하는 데 사용되는 AI 제품에 대한 디지털 신뢰를 높이기 위해 고안된 지침을 발표했습니다.

보다 혁신적인 AI 도구가 시작되면서 임상의와 의료 서비스 제공자는 질병에 개입, 예방 및 치료하기 위해 정보에 입각한 진단 결정을 효율적으로 내릴 수 있는 기회를 갖게 되며 궁극적으로 환자의 삶의 질을 향상시키고 사회에 이익이 될 것입니다.

BSI 표준 사무국장인 Scott Steedman은 "새로운 지침은 환자와 이를 진단하고 치료하는 전문가에게 엄청난 잠재적 이익을 제공하는 최첨단 도구에 대한 디지털 신뢰를 구축하는 데 도움이 될 수 있습니다."라고 말했습니다.

AI의 적절한 사용에 관해 전 세계적으로 논쟁이 계속됨에 따라 의료 내에서 AI 사용을 위한 검증 프레임워크 – 사양(BS 30440)이 게시되어 도구가 안전하고 효과적인 방식으로 개발되었다는 임상의, 의료 전문가 및 임상 제공자 간의 신뢰도를 높일 수 있습니다. 그리고 윤리적인 방법. 전 세계적으로 사용할 수 있는 감사 가능한 표준은 치료, 진단 또는 건강 상태 관리 지원을 제공하거나 제공하는 것이 주요 기능인 제품을 명시적으로 대상으로 합니다.

예측에 따르면 전 세계 의료 AI 시장 규모는 2030년까지 1,879억 5천만 달러를 초과할 수 있습니다. 의료 서비스 제공자와 임상의는 시간 및 예산 제약에 직면하거나 AI 제품 평가를 수행할 수 있는 내부 역량 및 능력이 부족할 수 있으므로 사양이 의사 결정을 지원할 수 있습니다. 어떤 도구를 사용해야 하는지에 대해 알아보세요. 이는 임상적 이점, 성능 표준, 임상 작업 환경으로의 성공적이고 안전한 통합, 윤리적 고려 사항 및 사회적으로 공평한 결과를 포함한 기준을 고려하여 임상의와 환자가 의료 AI 제품을 평가하는 데 도움이 될 수 있습니다.

이는 규제 대상 의료 기기(예: 의료 기기로서의 소프트웨어)부터 사용자 대면 제품(예: 이미징 소프트웨어) 또는 환자 대면 제품(예: AI를 사용하는 스마트폰 챗봇)까지 다양한 설정에서 사용되는 의료 AI 제품을 다룹니다. 또한 가정(예: 모니터링 제품)이나 지역사회, 1차, 2차 또는 3차 의료 환경에서 사용되는 AI 제품도 포함됩니다. 이 사양은 기계 학습을 포함한 AI 요소를 사용하는 제품, 모델, 시스템 또는 기술에 적용되며 AI 시스템 공급업체 및 제품 감사자와도 관련이 있습니다.

이 문서는 임상의, 소프트웨어 엔지니어, AI 전문가, 윤리학자 및 의료 리더를 포함하여 모범 사례를 식별하기 위해 협력하는 전문가 패널에 의해 개발되었습니다. 이는 기존 지침 문헌과 모범 사례를 통합한 다음 복잡한 기능 평가를 AI 시스템의 적합성을 평가할 수 있는 감사 가능한 프레임워크로 변환합니다. 의료 기관은 조달 프로세스의 요구 사항으로 BS 30440 인증을 요구하여 이러한 시스템이 알려진 표준을 충족하는지 확인할 수 있습니다.

Jeanne Greathouse, BSI 글로벌 헬스케어 이사 “이 표준은 의료 부문의 조직 및 이와 상호 작용하는 조직과 매우 관련이 있습니다. AI가 표준이 되면서 의료 분야에 잠재적으로 변화를 가져올 수 있습니다..보다 혁신적인 AI 도구의 등장과 방대한 양의 데이터를 소화하고 정확하게 분석하는 AI 알고리즘의 능력을 통해 임상의와 의료 서비스 제공자는 질병에 개입, 예방 및 치료하기 위한 정보에 입각한 진단 결정을 효율적으로 내릴 수 있으며 궁극적으로 환자의 삶의 질을 향상시킬 수 있습니다. ”

이 사양은 의료 분야의 AI 개발 및 임상 평가를 위해 합의된 검증 프레임워크의 필요성에 답합니다. 이는 Guy's와 St. Thomas Cancer Center의 전문가가 처음 시험한 프레임워크를 기반으로 구축되었으며 AI 및 기계 학습 분야에 종사하는 이해관계자와의 후속 논의를 통해 수정되었습니다. 동시에 BSI는 규제 기관, 의료 기관 및 기타 기관과 협력하여 의료 분야 AI의 규제 및 거버넌스를 지원하는 표준의 역할을 고려하고 있습니다.