이루다가 쏘아올린 AI 윤리 논란…카카오·삼성전자·SKT·KT “우린 달라”
이루다가 쏘아올린 AI 윤리 논란…카카오·삼성전자·SKT·KT “우린 달라”
  • 한설희 기자
  • 승인 2021.01.13 16:58
  • 댓글 0
이 기사를 공유합니다

스타트업 노이즈 마케팅에 전국민 '발끈'…IT 대기업 '심기불편'
정부 "스타트업 AI 윤리 기준, 대기업만큼 강화할 필요 있어"
IT 대기업 AI 윤리규범 실태…카카오·삼성전자·SKT·KT 상황은?

(시사오늘, 시사ON, 시사온= 한설희 기자)

스타트업이 만든 챗봇(chatter robot) ‘이루다’의 성희롱과 차별·혐오 논란이 인공지능(AI) 윤리기준 법제화 주장으로까지 번지고 있는 가운데, 국내 주요 IT 기업들의 AI 윤리 현황이 주목받고 있다. ⓒ시사오늘 그래픽=김유종
스타트업이 만든 챗봇(chatter robot) ‘이루다’의 성희롱과 차별·혐오 논란이 인공지능(AI) 윤리기준 법제화 주장으로까지 번지고 있는 가운데, 국내 주요 IT 기업들의 AI 윤리 현황이 주목받고 있다. ⓒ시사오늘 그래픽=김유종

최근 스타트업이 만든 챗봇(chatter robot) ‘이루다’의 성희롱과 차별·혐오 논란이 인공지능(AI) 윤리기준 법제화 주장으로까지 번지고 있는 가운데, 국내 주요 IT 기업들의 AI 윤리 현황이 주목받고 있다. 국내 대기업들은 “이루다 사태는 스타트업에 한정된 일”이라고 자신하고 있다. 대기업과 스타트업 간 AI의 발화 학습 기제가 다르기 때문이다. 업계에선 “일개 스타트업의 마케팅 전략에 전 국민이 휘말린 것”이라는 자조도 나온다. 

 

"이루다 사태, 스타트업 홍보 전략일 것…스타트업 윤리 기준 강화해야"


지난달 23일 스타트업 ‘스캐터랩’이 출시한 AI 챗봇 ‘이루다’는 20세 여성 대학생이라는 설정으로 사람 같은 채팅 서비스를 선보이면서 10~20대 사이에서 빠르게 유행했다. 그러나 출시 일주일만에 남초(男超) 사이트 나무위키 산하의 ‘아카라이브’에 이루다를 성적 대상으로 취급하는 ‘꿀팁’들이 공유되면서 논란이 불거졌다. 여기에 성소수자 비하 발언과 개인정보 무단 이용 의혹까지 제기되면서 이루다는 지난 11일 잠정적인 운영 중단을 결정했다.

스캐터랩은 지난 11일 보도자료를 통해 “(이루다가) 특정 집단(여성·성소수자·인종 등)에 차별적 발언을 한 것 등에 진심으로 사과드린다”며 “서비스를 잠정 중단하고, 차별·혐오 발언이 발견되지 않도록 개선하겠다”고 발표했다.

국내 IT 대기업들은 작금의 ‘이루다 사태’가 자본이 부족한 스타트업에 한정된 문제라고 입을 모았다. 대기업과 스타트업 간 AI의 발화 학습 기제가 다르기 때문이다. ‘이루다 사태’는 결국 스타트업의 노이즈 마케팅에 불과하다는 비판도 나온다. 

대기업들은 AI 연구팀을 두고 연구원들이 AI의 ‘대화 세트’를 만든다. 부적절한 대화라고 생각되면 답변을 거부하거나 가감 없이 말꼬리를 자르는 식이다. 반면 논란이 된 스캐터랩은 약 100억 건에 달하는 이성 간의 카카오톡 대화 데이터를 입수해 ‘딥러닝 방식’으로 이루다에게 학습시켰다. 

업계 관계자는 “따지자면 스캐터랩은 AI전문가가 아닌 일반 대중들에게 AI 발화 학습을 시킨 것”이라며 “애초에 성희롱 등의 비윤리적 결과값을 염두에 두고 만든 것으로 보인다”고 지적했다. 다른 관계자 역시 “일반 기업들은 ‘리스크 관리’가 중요하기 때문에 이런 사태를 사전에 방지하는 시스템 체계가 마련돼 있다”면서 “스타트업의 요란한 마케팅에 전 국민이 반응하는 셈”이라고 거들었다. 

정부는 이에 따라 대기업의 AI 윤리 기준을 차후 스타트업이 적용하도록 요구하겠다는 방침이다. 

김경만 과기정통부 인공지능기반정책과장은 이날 “대기업들이 마련한 AI 윤리기준이 각 산업 생태계에 속한 타 기업들의 본보기가 될 것”이라며 “AI 관련 스타트업이 개발 단계나 상용화 단계에서 대기업이 수행하고 있는 체크리스트를 적용하도록 하는 방향으로 나아가겠다”고 전했다.

 

국내 IT대기업들, "시스템 다르다…같은 문제 발생할 수 없어"


‘이루다 사태’로 국내 선두 IT 기업들의 AI 윤리 규범 현황도 주목받고 있다. 삼성전자·카카오·SK텔레콤·KT 등 주요 기업들은 이미 자발적으로 AI 윤리기준을 확립하고, 나아가 실시간 모니터링과 사후 검증을 반복하고 있어 ‘이루다 사태’와는 거리가 멀다고 주장하고 있다. 

카카오는 지난 2018년 1월 국내 기업 최초로 ‘AI 알고리즘 윤리 헌장’을 마련했다. 카카오는 헌장을 통해 △AI 기술 지향점 △사회 계층 등에 관한 의도적 차별 방지 △데이터 수집 관리 원칙 △알고리즘의 설명 의무 등을 공표하고 ‘인류의 편익과 행복 추구’를 목적으로 AI를 사용하고 있음을 강조하고 있다. AI 발화 학습도 산하 연구실에서 진행된다. 

삼성전자도 지난 2019년부터 ‘AI 윤리원칙’을 마련해 기술 개발과정에 적용하고 있다. 13일 삼성전자 관계자에 따르면, 해당 원칙은 △공정성 △투명성 △책임성 등 세 가지의 원칙으로 구성됐다. 삼성전자는 또한 지난 2018년 아마존·구글·마이크로소프트 등 70여개 글로벌 기업이 참여한 AI 국제협력단체 ‘PAI’에 가입해, 사람과 사회를 위한 윤리적인 AI 연구와 개발을 약속한 바 있다. AI 윤리 기준을 국제적인 규격에 맞춰 상향시키겠다는 취지에서다. 

기가지니·누구(NUGU) 등 ‘AI 비서’를 상용화하고 있는 KT, SK텔레콤 역시 사전·실시간·사후 등 세 단계에 걸쳐 별도의 모니터링과 필터링 작업을 통해 논란을 방지 중이라고 밝혔다. 서비스 중 부적절한 질문은 자체 필터링하고, 대화 학습 데이터를 정리해 담당자의 검수를 거치는 식이다. 양사 모두 국제적인 규격을 고려해 AI 윤리기준 제정을 위한 작업도 추가로 진행중이다.

KT는 AI비서 기가지니를 △윤리성 △정치편향성 △적절성(동문서답 방지) △폭력성(욕설·비방) 등 4가지 기준으로 조정하고 있다고 설명했다. KT 관계자는 “KT 기가지니는 논란이 된 '이루다'와 다르다. 4가지 기준에 어긋나는 질문을 받으면 ‘저한테 왜 그러세요? 저는 그런 말씀 하시면 싫어요’ 수준의 대답만 돌려주도록 설계됐다”면서 “성중립적인 기조를 유지하기 위해 2019년부터는 기가지니의 성별을 없앤 ‘중성’으로 설정했다”고 전했다. 

SK텔레콤 역시 “고객들의 발화 데이터를 별도로 취합해 ‘누구’가 적절한 답변을 할 수 있도록 계속해서 검수하고 있다”면서 “모든 대화는 개발자들의 검토를 거쳐 나가기 때문에 이루다와 같은 윤리 문제가 있을 수 없다고 확신한다”고 거듭 강조했다. 

담당업무 : 통신 및 전기전자 담당합니다.
좌우명 : 사랑에 의해 고무되고 지식에 의해 인도되는 삶

관련기사

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.