누구 인구의 건강을 증진하고 보호하기 위한 적절한 사용을 위해 대규모 다중 모드 모델(LMM)의 윤리 및 거버넌스에 대한 새로운 지침을 발표했습니다. LMM은 빠르게 성장하는 생성 유형입니다. 인공 지능 (AI) 건강에 대한 5가지 광범위한 응용 프로그램이 있는 기술 in
1. 환자의 서면질의에 대한 답변 등 진단 및 임상진료
2. 증상 조사 및 치료 등을 위한 환자 주도적 사용
3. 전자 건강 기록 내에서 환자 방문을 문서화하고 요약하는 등의 사무 및 행정 업무
4. 연수생에게 시뮬레이션된 환자 대면 제공을 포함한 의료 및 간호 교육
5. 새로운 화합물의 식별을 포함한 과학적 연구 및 약물 개발.
그러나 의료 분야의 이러한 애플리케이션은 허위, 부정확, 편견 또는 불완전한 진술을 생성할 위험이 있으며, 이는 건강 결정을 내릴 때 그러한 정보를 사용하는 사람들에게 해를 끼칠 수 있습니다. 또한 LMM은 인종, 민족, 조상, 성별, 성 정체성 또는 연령에 따라 품질이 낮거나 편향된 데이터에 대해 교육을 받을 수 있습니다. 또한 최고의 성능을 발휘하는 LMM의 접근성 및 경제성과 같은 의료 시스템에 대한 더 광범위한 위험이 있습니다. LMM은 또한 의료 전문가와 환자의 '자동화 편향'을 조장할 수 있으며, 이로 인해 그렇지 않으면 식별될 수 있는 오류가 간과되거나 어려운 선택이 LMM에 부적절하게 위임됩니다. LMM은 다른 형태와 마찬가지로 AI, 또한 환자 정보나 이러한 알고리즘의 신뢰성 및 보다 광범위한 의료 서비스 제공을 위험에 빠뜨릴 수 있는 사이버 보안 위험에 취약합니다.
따라서 안전하고 효과적인 LMM을 만들기 위해 WHO는 정부와 LMM 개발자에게 권장 사항을 제시했습니다.
정부는 LMM의 개발 및 배포, 공중 보건 및 의료 목적을 위한 통합 및 사용에 대한 표준을 설정하는 주요 책임이 있습니다. 정부는 공공, 민간 및 비영리 부문의 개발자가 접근할 수 있는 컴퓨팅 성능 및 공개 데이터 세트를 포함하여 비영리 또는 공공 인프라에 투자하거나 이를 제공해야 하며, 이는 사용자가 윤리적 원칙과 가치를 준수하도록 요구합니다. 액세스 교환.
· 법률, 정책 및 규정을 사용하여 LMM 및 응용 프로그램이 의료 및 의학 분야와 관련된 위험이나 이점에 관계없이 사용되도록 보장합니다. AI 기술을 사용하여 개인의 존엄성, 자율성 또는 개인 정보 보호 등에 영향을 미치는 윤리적 의무 및 인권 기준을 충족합니다.
· 자원이 허용하는 한 의료 또는 의학에 사용하기 위한 LMM 및 응용 프로그램을 평가하고 승인하기 위해 기존 또는 신규 규제 기관을 지정합니다.
· LMM이 대규모로 배포되는 경우 독립적인 제3자에 의한 데이터 보호 및 인권을 포함한 필수 출시 후 감사 및 영향 평가를 도입합니다. 감사 및 영향 평가가 공개되어야 합니다.
연령, 인종, 장애 등 사용자 유형별로 분류된 결과와 영향을 포함해야 합니다.
· LMM은 과학자와 엔지니어에 의해서만 설계되는 것이 아닙니다. 의료 제공자, 과학 연구자, 의료 전문가 및 환자를 포함한 잠재적 사용자와 모든 직간접적 이해관계자는 초기 단계부터 참여해야 합니다. AI 체계적이고 포용적이며 투명한 디자인을 개발하고 윤리적 문제를 제기하고 우려 사항을 표명하며 의견을 제공할 수 있는 기회를 제공합니다. AI 고려중인 신청.
LMM은 의료 시스템의 역량을 향상하고 환자의 관심을 향상시키기 위해 필요한 정확성과 신뢰성으로 잘 정의된 작업을 수행하도록 설계되었습니다. 또한 개발자는 잠재적인 2차 결과를 예측하고 이해할 수 있어야 합니다.
***
출처:
WHO 2024. 건강을 위한 인공 지능의 윤리 및 거버넌스: 대규모 다중 모드 모델에 대한 지침. 다음에서 이용 가능 https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
