인공지능 딥러닝 활용의 젠더 편향성 실태와 개선방안 | |||
---|---|---|---|
구분 | 기본 | 상태 | 완료 |
담당자 | 문미경 | 연구기간 | 2022-01-01 ~ 2022-12-31 |
▣ 연구 목적 □ 첫째, 국내외 AI 딥러닝 활용의 젠더 편향성 문제 사례와 정부·민간 부문의 대응 현황을 분석하고, 둘째, 성평등한 AI 개발 및 활용을 위한 법률, 정책을 개발하여 AI 개발 및 활용의 성주류화를 추진함. ○ 따라서 본 연구는 AI 딥러닝의 젠더 편향성이 드러난 국내외 사례들을 분석하여 주요 원인을 파악하고 대응을 살펴보고자 함. ○ 또한 AI의 젠더 편향성 극복을 위해 성공적으로 대응한 국내외 사례들(표 2 참조)을 조사하여 성인지적 AI 연구개발 정책의 방향을 제시하고자 함.
▣ 주요 연구내용 □ AI 딥러닝의 젠더 편향성 사례 분석 ○ AI와 딥러닝의 이해 ○ 딥러닝 활용의 젠더 편향성 주요 국내외 사례(예: 이루다 사태) ○ AI 편향 원인 및 유형의 이해 ○ 딥러닝 젠더 편향성의 특수성: 설명 불가능한 블랙박스 알고리즘 문제
□ 성인지적 AI 연구개발 촉진을 위한 법률 현황 ○ AI 연구개발 관련 우리나라 정책 및 법률 검토 ○ AI 젠더 편향성 국내 대응 현황 및 문제점
□ 성인지적 AI 연구개발 촉진을 위한 정책 제언 ○ 딥러닝 연구개발 및 활용 관련 정책의 성인지적 분석 ○ AI 젠더 편향성 관련 법률 개선안 제시 ○ AI 딥러닝의 젠더 편향성 방지 권장사항 등 제시
▣ 연구 추진방법 □ 문헌연구 및 정책사례 조사 ○ 국내외 젠더 편향성 사례 및 대응 사례 ○ WEF, OECD, UN 등 국제기구와 AI 선진국 동향 파악 ○ 국내외 AI 편향성 관련 법률 검토
□ 심층면접 ○ 딥러닝 연구개발 인력(대학원생 또는 딥 러닝 연구개발에 참여 경험이 있는 학생 포함) 대상으로 심층면접 진행: 공학계열, 특히 컴퓨터공학 분야 성비 불균형 현상과 IT·SW 분야 여성 기업인의 과소대표 문제를 극복하기 위해 한쪽 성에 쏠리지 않도록 남녀 대상자 모집 ○ 연구개발 과정에서 발생할 수 있는 젠더 편향성의 유형 및 사례 조사 ○ 젠더 편향성 대응에서 맞닥뜨리는 문제 유형 파악: 예) 직원들의 성인지 감수성 부재, 기업대표의 낙후된 성평등 의식, 적용가능한 기준의 부재 등
□ 국내외 법률 검토 ○ 국내외 AI 편향성 관련 법률 검토
□ 전문가 자문회의 개최 ○ 국내외 AI 젠더 편향성 및 연구윤리 전문가, 여성 과학기술정책 담당자, 딥러닝 연구자, 관련 분야 기업인 및 시민단체 활동가로 구성된 자문회의 진행 ○ 딥러닝의 젠더 편향성 극복을 위한 기술적, 정책적, 사회적 대응 현황 파악 ○ AI 젠더 편향성 대응을 위한 법률 개정안 및 향후 대응책 기초 자료 구성
□ 성인지적 AI 연구개발 포럼 개최(1회) ○ 실태 포럼: AI 딥러닝의 젠더 편향성 실태 (1회) - 주요 딥러닝 활용 분야별 젠더 편향 사례 조사(문헌연구+심층면접)를 바탕으로 젠더 편향성의 실태와 심각성에 대한 정책적 대응의 필요성을 공감하는 자리를 제공함
○ 정책 포럼: AI 정책의 성주류화 (1회) - 전문가 자문회의를 거쳐서 AI 연구개발 및 산업활용 관련 주요 법률 개선안 제시 - AI 딥러닝의 젠더 편향성 권장 사항에 대한 각계 의견 청취 |