▣ 연구 목적
□ 인공지능이 빠르게 확산하고 있는 가운데 인공지능시스템에 의한 결과물로 인해 발생하는 디지털기술 기반 폭력을 예방하기 위한 실효적인 조치 및 제도 탐색
□ 알고리즘 개발에 있어 젠더 폭력 방지를 위한 젠더 편향을 제거할 수 있는 인공지능 검증 체제 및 공공 학습데이터 구축 및 관리감독의 필요성과 정책 방향 모색
▣ 주요 연구내용
□ 인공지능 서비스에서의 성적 침해·차별 사례 및 잠재성 조사, 분석
○ 인공지능 챗봇·게임·딥페이크 등에서의 성적 침해 및 차별에 관한 모니터링을 통한 중점 조사 및 분석 대상 인공지능 서비스 영역 선정
○ 인공지능 서비스 이용자 면접조사를 통한 인공지능 서비스에 대한 성적 침해 및 차별 사례 및 잠재성 분석
□ 인공지능의 젠더폭력 방지를 위한 인공지능 검증 체제와 공공 학습데이터 개발지원 및 관리감독 사례 조사
○ 국내외 혐오발언, 성희롱, 성차별적 통념 등을 방지 및 완화하기 위한 학습데이터 구축 사례 조사
○ 인공지능 분야 전문가 면접을 통한 젠더폭력 방지를 위한 인공지능 알고리즘 검증 및 학습데이터 개발의 현실화 조건 등 조사
□ 국내외공공 학습데이터 구축 및 관리, 감독 추진체계 및 거버넌스 사례 조사
○ 우리나라 인공지능 관련 발의 법안 및 관련 부처 내 유사 추진체계 조사
○ 유럽, 미국 등 인공지능 관련 법, 제도에서의 유사 추진체계 조사
□ 젠더폭력 방지를 위한 젠더편향성을 고려한 인공지능 검증 체제 및 공공 학습데이터 구축, 관리, 감독 방안 탐색
▣ 연구 추진방법
□ 문헌연구
□ 인공지능 서비스 조사 및 분석
○ 인공지능 서비스에서의 성적 침해 및 차별 사례, 잠재성 조사 및 분석
□ 전문가 자문회의
○ 국내외 학계 및 인공지능 개발자집단, 공무원 등 전문가 회의
○ 연구내용 및 연구방법, 추진체계 구조 관련 자문회의
□ 면접조사
○ 인공지능 전문가(학계 및 민간) 인터뷰
○ 인공지능 이용자 인터뷰
○ 추진체계 설계를 위한 전문가 인터뷰
