전 세계 사람들을 위한 의료 서비스를 긴급하게 개선해야 하는 임무를 맡고 있으며 인공지능(AI)이 우리 생애에서 볼 수 없었던 규모로 상당한 변화를 가져올 것이라고 상상해 보자. 아래 제시된 세 가지 옵션을 사용하면 다음 중 하나를 수행할 수 있다.

1. 위험과 이점이 완전히 이해될 때까지 AI 개발을 중단하자.

2. 미지의 세계로 나아가서 매 순간 AI를 배치하고 문제가 발생하면 처리하자.

3. 또는 AI를 완전히 수용하되 즉각적인 혜택을 누리는 동시에 위험을 제한하기 위한 신중한 조치를 취하자.

어떤 옵션을 선택할까?

물론 우리가 갖고 있는 옵션은 좀 더 미묘하다. 그러나 광범위하게 말하면, 이는 오늘날 AI에 대한 다양한 목소리를 들을 때 우리가 자주 듣는 접근 방식이다. 엇갈린 견해는 부분적으로 AI가 궁극적으로 의료 서비스와 전 세계 사람들에게 어떤 의미를 가질 수 있는지에 대한 흥분과 불확실성 때문. AI 개발이 매주 가속화되면서 이러한 흥분과 불확실성은 지난 12개월 동안 더욱 커졌다.

그렇기 때문에 우리는 건강, 의료 및 생물의학 분야에서 AI에 대한 행동 강령을 개발하려는 미국 국립 의학 아카데미 이니셔티브의 공동 의장이자 옵션 3의 강력한 지지자로서 어떻게 우리는 모두 앞으로 나아갈 길을 가장 잘 탐색할 수 있다. 여기에는 책임감 있고 공평하며 윤리적인 방식으로 AI의 힘을 수용하는 것이 포함된다.

우리가 보기에 가장 좋은 시작 방법은 기회와 위험을 모두 해결하는 것.

우리는 사람들이 더 나은, 건강한 삶을 살 수 있도록 돕기 위해 건강, 의료, 생명의학 분야에서 놀라운 일을 하고 있다. 풍부하고 실행 가능한 통찰력을 갖춘 데이터 덕분에 우리는 환자에게 조기 진단, 더 나은 치료법, 심지어 치료법까지 제공할 수 있다.

동시에 많은 의료 기관은 지속적으로 고품질의 의료 서비스를 제공하기 위해 고군분투하고 있다. 돌보아야 할 환자가 더 많아지고 직원 부족 현상이 심각해지며 의사와 간호사는 증가하는 사무적 요구와 복잡성으로 인해 부담을 안고 있다. 비용도 상승하고 있다. 우리 중 많은 사람들이 탁월한 보살핌과 훌륭한 치료를 받았지만 다른 사람들, 특히 세계에서 자원이 부족한 지역에 사는 사람들뿐만 아니라 점점 더 부유한 도시 지역에 사는 사람들이 필요한 보살핌을 받기 위해 애쓰고 있다. 우리는 변화를 가져오는 솔루션을 시급히 배포하지 않는 한 이 위기는 더욱 악화될 것이라고 믿는다.

AI가 도움을 줄 수 있으며 이미 그렇게 했다. 예를 들어, 생성적 AI 도구와 챗봇은 의사와 간호사가 서류 작업에 소비하는 시간을 단축하고 있다. 우리는 AI가 의료 서비스를 개선할 수 있는 잠재력에 대해 매일 더 많이 배운다. 영국의 Royal Marsden NHS 재단 신탁과 암 연구소의 최근 연구에 따르면 AI는 "일부 암의 공격성을 판단하는 데 있어 생체 검사보다 거의 두 배나 정확"했다. 이는 다양한 치료법으로 이어져 궁극적으로 더 많은 생명을 구하게 됩니다. 앞으로 다가올 다른 발전에 대해 알아보려면 신약 발견 가속화부터 맞춤형 의학 및 환자 참여 강화에 이르기까지 2024년에 어떤 일이 일어날지에 대한 많은 예측 중 일부를 고려해보자.

이러한 발전은 믿을 수 없을 정도로 유망하다. 우리는 AI가 의료 서비스 제공에 혁명을 일으키고, 의료 연구에서 획기적인 발전을 이루며, 모두를 위한 더 나은 건강에 기여할 것이라고 진심으로 믿는다. 하지만 우리는 그것을 바로잡아야 한다.

의료 분야의 AI에 대한 모든 기대에도 불구하고 이러한 우려는 타당하며 반드시 해결되어야 합니다. 예를 들어 AI 알고리즘은 의료 분야의 편견을 악화시킬 수 있습니다. 이는 알고리즘 훈련에 사용되는 데이터가 오늘날 의료 및 사회에 존재하는 불평등을 반영하고 증폭할 때 발생할 수 있습니다 . 또 다른 주요 책임은 환자 데이터를 보호하는 것인데 , 이는 의사-환자 관계에 있어 신성불가침입니다.

이런 우려의 성격 때문에 유럽연합, 미국, 영국, 중국 등이 앞다퉈 대응하고 있지만 “그들의 정책보다 기술이 더 빠르게 진화하고 있다 ”고 한다.

또한 우리 조직을 포함하여 AI가 정확하고 안전하며 안정적이고 공평하고 윤리적으로 적용되도록 돕기 위해 조직이 주도권을 잡은 사례를 지적할 수 있습니다. 예를 들어 Mayo Clinic 플랫폼인 Validate는 AI 모델에 대한 편향, 특이성 및 민감도 보고서를 제공하므로 개발자는 모델이 정확하고 편견이 없는지 확인할 수 있으며 임상의는 독립적인 제3자 소스가 모델을 평가했음을 신뢰할 수 있습니다. 필립스의 AI 원칙은 웰빙, 감독, 견고성, 공정성 및 투명성에 중점을 두고 AI의 윤리적 사용을 안내합니다. 마찬가지로, Google의 AI 원칙은 "책임감 있게 기술을 개발하고 우리가 추구하지 않을 특정 응용 분야를 확립하기 위해 노력하는 회사의 노력"을 바탕으로 구축되었습니다.

이러한 노력 외에도 우리는 업계 전반의 프레임워크를 구축하기 위해 노력하고 있다. 의료 및 생명의학 과학에서 AI의 사용이 증가하고 위험과 잠재적 피해에 대한 우려를 고려할 때, 이점을 극대화하고 피해를 완화하려면 모범 사례를 주의 깊게 검토하고 적용하며 지속적인 개발이 필수적이다. 과제는 복잡하며 중앙 기관을 포함한 다양한 이해관계자에게 영향을 미칩니다. 공공 및 민간 국가, 주, 지방 조직 및 전문 협회; 그리고 궁극적으로는 데이터가 AI 모델의 기초를 제공하고 그 영향을 받는 개인이다.

그렇기 때문에 미국 국립 의학 아카데미(National Academy of Medicine)의 AI 행동 강령 이니셔티브는 AI 알고리즘과 건강, 의료 및 생물의학 분야의 적용이 더 나은 건강 서비스에서 정확하고 안전하며 신뢰할 수 있고 공평하고 윤리적으로 수행되도록 보장하는 프레임워크를 제공하는 것을 목표로 한다. 모두. 이는 사람을 중심으로 AI의 모든 약속을 책임감 있게 제공할 수 있는 프레임워크를 설계하는 것이다.

목표는 다음과 같다.

(1) 의료 및 생명의학 과학을 위한 다양한 AI 원칙/프레임워크/청사진 세트를 조화시킨다. '지침 상호 운용성'으로 모범 사례 AI 행동 강령을 만들기 위해 격차를 식별하고 메우자.

(2) 조화로운 AI 행동 강령의 광범위한 채택과 포함을 촉진하는 분야를 조정.

(3) AI 라이프사이클의 각 단계에서 각 이해관계자의 역할과 책임을 식별.

(4) 의료 분야에서 책임 있는 AI를 지원하는 데 필요한 아키텍처를 설명.

(5) 학습 의료 시스템 서비스를 통해 의료 분야에서 AI를 관리하는 방법에 대한 학습 속도를 높이는 방법을 식별.

이러한 목표를 달성하고 위험을 완화하면서 의료 분야에서 AI의 모든 이점을 실현하려면 모든 단계에서 부문 간 협력과 연합 구축이 필요하다. 왜냐하면 우리는 이를 올바르게 달성하기 위한 업계 전반의 공동 책임이 있기 때문이다.