한국여성정책연구원 Korean Women's Development Institute

▣ 주요 연구내용

□ AI 딥러닝의 젠더 편향성 사례 분석

○ AI와 딥러닝의 이해

○ 딥러닝 활용의 젠더 편향성 주요 국내외 사례(예: 이루다 사태)

○ AI 편향 원인 및 유형의 이해

○ 딥러닝 젠더 편향성의 특수성: 설명 불가능한 블랙박스 알고리즘 문제

□ 성인지적 AI 연구개발 촉진을 위한 법률 현황

○ AI 연구개발 관련 우리나라 정책 및 법률 검토

○ AI 젠더 편향성 국내 대응 현황 및 문제점

□ 성인지적 AI 연구개발 촉진을 위한 정책 제언

○ 딥러닝 연구개발 및 활용 관련 정책의 성인지적 분석

○ AI 젠더 편향성 관련 법률 개선안 제시

○ AI 딥러닝의 젠더 편향성 방지 권장사항 등 제시

▣ 연구 추진방법

□ 문헌연구 및 정책사례 조사

○ 국내외 젠더 편향성 사례 및 대응 사례

○ WEF, OECD, UN 등 국제기구와 AI 선진국 동향 파악

○ 국내외 AI 편향성 관련 법률 검토

□ 심층면접

○ 딥러닝 연구개발 인력(대학원생 또는 딥 러닝 연구개발에 참여 경험이 있는 학생 포함) 대상으로 심층면접 진행: 공학계열, 특히 컴퓨터공학 분야 성비 불균형 현상과 IT·SW 분야 여성 기업인의 과소대표 문제를 극복하기 위해 한쪽 성에 쏠리지 않도록 남녀 대상자 모집

○ 연구개발 과정에서 발생할 수 있는 젠더 편향성의 유형 및 사례 조사

○ 젠더 편향성 대응에서 맞닥뜨리는 문제 유형 파악: 예) 직원들의 성인지 감수성 부재, 기업대표의 낙후된 성평등 의식, 적용가능한 기준의 부재 등

□ 국내외 법률 검토

○ 국내외 AI 편향성 관련 법률 검토

□ 전문가 자문회의 개최

○ 국내외 AI 젠더 편향성 및 연구윤리 전문가, 여성 과학기술정책 담당자, 딥러닝 연구자, 관련 분야 기업인 및 시민단체 활동가로 구성된 자문회의 진행

○ 딥러닝의 젠더 편향성 극복을 위한 기술적, 정책적, 사회적 대응 현황 파악

○ AI 젠더 편향성 대응을 위한 법률 개정안 및 향후 대응책 기초 자료 구성

□ 성인지적 AI 연구개발 포럼 개최(1회)

○ 실태 포럼: AI 딥러닝의 젠더 편향성 실태 (1회)

- 주요 딥러닝 활용 분야별 젠더 편향 사례 조사(문헌연구+심층면접)를 바탕으로 젠더 편향성의 실태와 심각성에 대한 정책적 대응의 필요성을 공감하는 자리를 제공함

○ 정책 포럼: AI 정책의 성주류화 (1회)

- 전문가 자문회의를 거쳐서 AI 연구개발 및 산업활용 관련 주요 법률 개선안 제시

- AI 딥러닝의 젠더 편향성 권장 사항에 대한 각계 의견 청취