양대 포털사인 네이버와 카카오가 'AI(인공지능) 윤리' 교육 강화에 팔을 걷어 붙였다. 최근 AI 챗봇 '이루다'의 혐오?차별적인 표현, 이루다에 대한 이용자의 성희롱성 발언 등이 논란이 되면서 국내 IT 기업들이 AI 알고리즘 윤리 실천을 위한 선제적인 조치에 나선 것이다.

카카오는 17일 전 직원을 대상으로 AI 알고리즘 윤리 교육을 실시했다. 이달 17일부터 내달 2일까지 전 직원이 참여하는 온라인 사내 교육 '카카오 크루가 알아야 할 윤리경영'을 진행한다.

앞서 카카오는 지난 2018년 1월 국내 기업 중 최초로 '알고리즘 윤리 헌장'을 발표한 바 있다. 특히 이번 교육에는 AI 알고리즘 윤리 교육 과정을 신설했다.

이소라 카카오 성장문화팀 매니저는 "이번 교육은 AI 알고리즘 윤리를 내재화하고 구체적으로 실천하려는 카카오의 노력이 반영된 사례"라며 "ESG경영을 실천하는 기업으로서 AI 알고리즘 윤리를 비롯한 카카오의 윤리경영 원칙을 공유하는 시간이 될 것"이라고 설명했다.

같은 날 네이버는 17일 오후 서울대학교 AI 정책 이니셔티브(SNU AI Policy Initiative·SAPI)와 공동 웨비나를 열고 '네이버 AI 윤리 준칙'을 내놨다. 기업과 학계가 머리를 맞대 AI 윤리 준칙을 만든 것은 이번이 처음이다.

준칙에는 ▲ 사람을 위한 AI 개발 ▲ 다양성의 존중 ▲ 합리적인 설명과 편리성의 조화 ▲ 안전을 고려한 서비스 설계 ▲ 프라이버시 보호와 정보 보안 등 5가지 조항이 담겼다.

네이버는 학계와의 협업을 통해 AI의 사회적 요구에 대한 전문가들의 객관적 의견을 수렴하는 한편, 네이버가 AI를 바라보는 관점과 기업 철학도 고려해 'AI 윤리 준칙'을 설계했다. 네이버는 향후 'AI 윤리 준칙'의 실천, 사례 발굴 및 개선에 있어서도 학계와 지속적으로 협력한다는 방침이다.

네이버는 또 'AI 윤리 준칙'이 구호에 그치지 않도록 단계적인 실험을 통한 실천 방안도 제시했다. 유연한 사내 커뮤니케이션 채널을 마련해, 프로젝트 진행이나 서비스 개발 시에 사안을 중심으로 문의하고, 논의를 진행할 수 있도록 할 예정이다.

??아울러 유연한 사내 커뮤니케이션 채널을 마련해, 프로젝트 진행이나 서비스 개발 시에 사안을 중심으로 문의하고, 논의를 진행할 수 있도록 할 예정이다.

송대섭 네이버 Agenda Research 책임리더는 "네이버 AI 윤리 준칙을 수립해 발표하는 것은 이 프로젝트의 시작 단계일 뿐"이라며 "앞으로도 학계와 계속 협업하고, 현장에서의 적용 사례를 축적하며, 지속적으로 실천 가능한 방향으로 준칙을 더욱 구체화하고 개선해 나갈 것"이라고 말했다.

◇이루다는 무엇

스캐터랩 소속 핑퐁 팀(ScatterLab Pingpong Team)에서 개발한 페이스북 메신저 채팅 기반 열린 주제 대화형 인공지능 (Open-domain Conversational AI) 챗봇이다. 이루다는 이루나와 달리 인공지능 기술을 어느 정도 갖추었다는 의미로 이루다 라는 이름을 쓴것이 이루다다. 다른 챗봇들과 달리 딥러닝 알고리즘을 이용하여 2020년 12월 말 공개되고 나서 2021년 1월 초 순식간에 사용자 수 약 40만 명, 페이스북 페이지 팔로워 10만 명을 찍는 등 큰 인기를 끌었다. 하지만 딥러닝 알고리즘이 가질 수밖에 없는 여러 가지 문제점과 개인정보 유출 논란이 생기면서 결국 서비스 개선을 위해 잠정 중단하기로 했다.