'과학기술의 책임성을 높이는 툴(tool) 젠더혁신' 세미나...젠더혁신센터-OECD 공동 주최
데이비드 위니코프 OECD 과학기술혁신위원회 수석정책분석가는 29일 한국과학기술젠더혁신센터(GISTeR)와 OECD가 공동 개최한 세미나에서 이 같이 말했다. 위니코프 수석은 국가적 차원에서 정부뿐 아니라 특히 인간의 삶에 구체적인 영향력을 줄 수 있는 기업가와 연구자 및 발명가 팀에서 팀 내 다양성을 촉진해야 한다고 강조했다.
여기에는 특히 젠더 혁신(gendered innovation)으로 불리는 성별을 고려하는 과학기술 정책이 시급하다고 주장했다. 위니코프 수석은 과학기술계에 종사하는 여성이 수적으로 적은 데다 고위직으로 올라가기 어렵기 때문에 상대적으로 목소리를 반영하기 어려울 수 있다는 통계를 보여주며 다양한 분야에 여성의 목소리가 반영되지 못하는 현실에 대해 설명했다. 수적인 다양성이 실제 제품에서의 다양성에도 영향을 미칠 수 있다는 것이다.
위니코프 수석은 기술에 투자하는 금융 기관이나 벤처캐피탈(VC) 등도 성별 포용에 초점을 맞추어야 한다고 강조했다. OECD는 실제로 핵심 통계 작업에 다양성을 중요하게 고려하고, 여성(및 남성)의 과학 경력과 성공 요인을 면밀히 모니터링하고 있다고 밝혔다. 또 성별 관점을 반영한 과학기술 정책의 모범 사례 공유 및 학습에 나서고 있다고 위니코프 수석은 언급했다.
첫 연사로 나선 엘리자베스 폴리처 젠더서밋 대표는 특히 생물학적인 차이를 고려할 때 과학에 있어 젠더 혁신이 매우 중요하다고 강조했다. 특히 유전자 조절이나 대사 산물, 조직 재생 등에서 성별 차이가 확연히 나타나며 이는 남녀 건강 이상을 발견하거나 생명공학에서의 효모 번식까지 영향을 줄 수 있는 키 팩터가 될 수 있다고 설명했다.
폴리처 대표는 "자동차 충돌 테스트에서 여성의 부상 위험이 매우 높은데도 성별 차이가 자동차 충돌 안전 예방 조치에 포함되지 않고, 충돌 후 복구 조치에도 포함되지 않아 젠더혁신의 도입이 시급하다"라며 "응용을 포함한 모든 기초 분야에서 성별 분석의 신뢰할 수 있는 방법을 개발하는 것이 중요하다"고 피력했다.
세션 2의 연사로 참여한 전준 충남대 교수는 특히 AI 에서의 젠더혁신이 중요한 이유에 대해 집중해서 들여다봤다. 전 교수는 "AI 시스템이 만능인 것으로 생각하지만, 사람이 만드는 것인 만큼 시스템에 편향을 내재하고 있다"라며 "시리나 알렉사 등 AI 비서 서비스가 여성 비서의 이미지로 여성의 이름을 딴 것이 대표적"이라고 지적했다.
대표적인 사례로 민간업체가 개발해 미국 20여개 주 법원에서 사용하던 콤파스(COMPAS)다. 재범 위험성을 점수화해 제시하는 인공지능인 콤파스(COMPASS)는 피의자가 흑인일 경우 재범 확률을 더 높게 잡았다. 구글 비전이 성인 흑인 여성을 '고릴라'로 인식한 것도 유명하다. 개발자의 개인적인 편견이 반영될 수도 있고, 데이터 자체에 편향이 있을 수 있고, 현실에서 수집된 데이터를 학습 및 평가하는 과정에서 다양한 변수가 개입될 수 있기 때문이다.
마이크로소프트나 IBM 등에서 개발한 AI 시스템의 얼굴 인식 시스템의 경우 어두운 배경에서 남성은 80% 이상의 일치율을 보이는 반면 여성은 60-70%대로 일치율이 떨어진다. 이는 남성을 기준으로 한 데이터를 주로 수집하였기 때문으로 볼 수 있다.
전 교수는 "책임 있고 설명 가능한 AI가 필요한 이유"라며 "2019년에 제정된 OECD AI 원칙은 신뢰할 수 있고 책임 있는 AI가 되어야 한다고 강조하고 있으며 인간 중심의 가치와 공정성을 가져야 한다고 보고 있다"고 강조했다. 이어 "단기간에 여성 전문 AI 개발자의 수를 늘리기는 어려우며, 데이터 편향에 대한 편향 완화 조치가 필요하다"며 "성별 차이에 대한 출력 분포를 표시하고, AI 시스템의 결정에 대한 설명을 제공하도록 하는 등 다양한 방식을 통해 젠더 혁신을 이룰 수 있을 것"이라고 조언했다.
이혜숙 한국과학기술젠더혁신센터 소장은 "궁극적으로는 지속가능한 개발을 위해 지속가능발전목표(SDGs)에 성별 고려 사항을 반영해야 한다"라며 "앞으로 젠더 혁신을 측정하기 위한 지표 개발에 힘쓸 것이며, 이 결과의 데이터 평가를 수집·관리하는 데 필요한 새로운 방법과 전략을 택해야 할 것"이라고 강조했다.
이 세미나는 한국과학기술젠더혁신센터(GISTeR)와 OECD의 공동 주최로 '과학기술정통부가 후원하여 '과학기술의 책임성을 높이는 툴(tool)-젠더혁신'을 주제로 이뤄졌다.
© 매거진한경, 무단전재 및 재배포 금지