누구 인구의 건강을 증진하고 보호하기 위한 적절한 사용을 위해 대규모 다중 모드 모델(LMM)의 윤리 및 거버넌스에 대한 새로운 지침을 발표했습니다. LMM은 빠르게 성장하는 생성 유형입니다. 인공 지능 (AI) 건강에 대한 5가지 광범위한 응용 프로그램이 있는 기술 in
1. 환자의 서면질의에 대한 답변 등 진단 및 임상진료
2. 증상 조사 및 치료 등을 위한 환자 주도적 사용
3. 전자 건강 기록 내에서 환자 방문을 문서화하고 요약하는 등의 사무 및 행정 업무
4. 연수생에게 시뮬레이션된 환자 대면 제공을 포함한 의료 및 간호 교육
5. 새로운 화합물의 식별을 포함한 과학적 연구 및 약물 개발.
However, these applications in healthcare run the risks of producing false, inaccurate, biased, or incomplete statements, which could harm people using such information in making health decisions. Furthermore, LMMs may be trained on data that are of poor quality or biased, whether by race, ethnicity, ancestry, sex, gender identity, or age. There are also broader risks to health systems, such as accessibility and affordability of the best performing LMMs. LMMs can also encourage ‘automation bias’ by health care professionals and patients, whereby errors are overlooked that would otherwise have been identified or difficult choices are improperly delegated to a LMM. LMMs, like other forms of AI, are also vulnerable to cybersecurity risks that could endanger patient information or the trustworthiness of these algorithms and the provision of health care more broadly.
따라서 안전하고 효과적인 LMM을 만들기 위해 WHO는 정부와 LMM 개발자에게 권장 사항을 제시했습니다.
정부는 LMM의 개발 및 배포, 공중 보건 및 의료 목적을 위한 통합 및 사용에 대한 표준을 설정하는 주요 책임이 있습니다. 정부는 공공, 민간 및 비영리 부문의 개발자가 접근할 수 있는 컴퓨팅 성능 및 공개 데이터 세트를 포함하여 비영리 또는 공공 인프라에 투자하거나 이를 제공해야 하며, 이는 사용자가 윤리적 원칙과 가치를 준수하도록 요구합니다. 액세스 교환.
· Use laws, policies and regulations to ensure that LMMs and applications used in health care and medicine, irrespective of the risk or benefit associated with the AI technology, meet ethical obligations and human rights standards that affect, for example, a person’s dignity, autonomy or privacy.
· 자원이 허용하는 한 의료 또는 의학에 사용하기 위한 LMM 및 응용 프로그램을 평가하고 승인하기 위해 기존 또는 신규 규제 기관을 지정합니다.
· LMM이 대규모로 배포되는 경우 독립적인 제3자에 의한 데이터 보호 및 인권을 포함한 필수 출시 후 감사 및 영향 평가를 도입합니다. 감사 및 영향 평가가 공개되어야 합니다.
연령, 인종, 장애 등 사용자 유형별로 분류된 결과와 영향을 포함해야 합니다.
· LMMs are designed not only by scientists and engineers. Potential users and all direct and indirect stakeholders, including medical providers, scientific researchers, health care professionals and patients, should be engaged from the early stages of AI development in structured, inclusive, transparent design and given opportunities to raise ethical issues, voice concerns and provide input for the AI application under consideration.
LMM은 의료 시스템의 역량을 향상하고 환자의 관심을 향상시키기 위해 필요한 정확성과 신뢰성으로 잘 정의된 작업을 수행하도록 설계되었습니다. 또한 개발자는 잠재적인 2차 결과를 예측하고 이해할 수 있어야 합니다.
***
출처:
WHO 2024. 건강을 위한 인공 지능의 윤리 및 거버넌스: 대규모 다중 모드 모델에 대한 지침. 다음에서 이용 가능 https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
