[콘텐츠로 건너 뛰기]

한 번에 한 알고리즘씩 건강 형평성 개선

데이터와 알고리즘은 의료 산업에서 전문 진료 관리의 혜택을 받을 수 있는 인구를 식별하는 데 자주 사용됩니다. 알고리즘을 활용하는 데이터 기반 프로그램은 질병 관리, 건강 결과를 개선하고 치료 비용을 절감할 수 있습니다. 그들은 또한 치료에 접근할 때 인간의 의사 결정에서 편견을 제거할 가능성이 있습니다. 

하지만 알고리즘 자체가 편향되면 어떻게 될까요? 최근 연구에 따르면 의료 분야의 알고리즘은[1] 및 기타 분야[2] 이러한 컴퓨터 기반 계산을 구성하는 데 사용되는 데이터에 반영된 체계적인 인종차별로 인해 특정 인구에 대한 편견을 나타낼 수 있습니다. 예를 들어, 의료에서 비용 및 치료 활용에 대한 데이터는 종종 문제 심각도의 지표로 의존합니다. 그러나 연구에 따르면 흑인, 원주민 및 유색인종(BIPOC)은 유사한 건강 상태에도 불구하고 일반적으로 비히스패닉계 백인보다 낮은 비율로 의료 서비스를 소비합니다.[3] 이 예에서 활용도 또는 비용 기반 지표에 대한 과도한 의존은 BIPOC 인구의 건강 문제를 과소 인식하여 편견을 영속시킬 수 있습니다.

최근 Beacon Health Options와 Connecticut Behavioral Health Partnership(CT BHP)은 주택 지원 및 주정부 지원 주택 바우처 제공을 통해 노숙자 Medicaid 수혜자의 건강과 웰빙을 개선하기 위한 14개월 프로젝트에 착수했습니다. 그들의 첫 번째 알고리즘 솔루션은 테스트를 거쳐 코네티컷 주택 참여 및 지원 서비스(CHESS) 프로그램에 참여하기 위해 히스패닉 민족을 과소 선택했을 수 있는 편견을 드러냈습니다. 분석 및 혁신의 SVP인 Robert Plant 박사와 건강 연구 과학자인 Krista Noam 박사가 이끄는 Beacon 팀은 형평성을 완화하고 개선하기 위한 새로운 알고리즘을 개발하기 시작했습니다.

CHESS의 초기 알고리즘은 입원환자 입원 데이터 및 기타 활용 지표를 활용했습니다. Beacon은 이 알고리즘이 비히스패닉계 백인을 과도하게 선택하고 히스패닉계 유산을 가진 사람들을 과소 선택한다는 것을 발견했습니다. 비용 절감이 포함된 경우 편향은 더욱 커졌습니다. 

형평성을 개선하기 위해 데이터 과학자들은 진단 기반 동반질환 지수로 초점을 옮겼습니다. 이 접근 방식은 편향을 크게 줄였지만 충분하지는 않았습니다. Beacon은 히스패닉이 프로그램 포함 대상으로 선택될 가능성이 여전히 현저히 낮음을 발견했으며 이는 알고리즘에 대한 다른 조정이 필요함을 나타냅니다.

알고리즘을 통해 선정된 인구가 전체 노숙인구와 보다 유사하도록 하기 위해 회원이 평생 동안 보호소에서 보낸 일수를 포함하였다. 이 접근 방식을 사용하여 Dr. Plant와 Noam은 알고리즘을 통과하는 구성원의 민족/인종 구성이 평생 동안 보호소에서 더 많은 날을 보낸 사람들이 선택되었을 때 전체 인구와 더 유사하다는 것을 발견했습니다.

CT BHP에 대한 Beacon의 작업은 계속 진행 중이며 취약한 인구를 위한 형평성을 개선하기 위해 우리가 하고 있는 진전의 한 예일 뿐입니다. Drs.에 대해 자세히 알아보려면 도움이 되는 일과 하지 말아야 할 일을 포함하여 알고리즘에서 편향을 성공적으로 제거하기 위한 Plant와 Noam의 작업은 전국 정신 웰빙 위원회의 포스터 세션에 참석할 계획입니다. NATCON 2022, 4월 11일 월요일 워싱턴 DC에서. 세션에는 다음이 포함됩니다.

  • 알고리즘의 편향에 대한 간략한 문헌 검토
  • 편향을 일으킬 수 있는 전문 인구를 식별하는 데 일반적으로 사용되는 메트릭
  • 알고리즘의 편향을 테스트하는 방법
  • 차별적이라고 볼 수 있는 특정 편향 완화 방법과 관련된 위험
  • 건강에 대한 사회적 결정 요인의 지표를 통합하여 편향을 완화하는 방법
  • 클라이언트 또는 구성원 선택의 편향을 확대 및 완화하는 알고리즘의 실제 사례

[1] Obermeyer et al., Science 366, 447–453 (2019) 인구의 건강을 관리하는 데 사용되는 알고리즘의 인종 편견 분석

[2] NY Times 2020년 12월 7일 – 불완전한 알고리즘도 형사 사법 시스템을 개선할 수 있습니다. 2020년 2월 7일 – 자유를 부여하거나 없애는 알고리즘

[3] HMIS 데이터가 로드된 달부터 시작하여 4개월 간격을 허용하여 1년 동안 청구가 철회되었습니다. 해당 연도에 가입자가 Medicaid 자격이 있었던 일수와 관계없이 데이터를 가져왔습니다.


댓글 없음

댓글 남기기

귀하의 이메일 주소는 공개되지 않습니다. 필요 입력 사항은 표시되어 있습니다 *
부적절하거나 당면한 주제와 관련이없는 댓글은 게시되지 않습니다.

상위 링크
ko_KR한국어