[컨슈머타임스 하주원 기자] 인공지능(AI) 챗봇 이루다가 성희롱, 소수자 혐오·인종차별적 발언으로 논란이 되면서 서비스를 잠정 중단했다.
'블랙핑크를 좋아하는 스무 살 여자 대학생' 이루다는 어떤 AI 챗봇 보다 진짜 사람과 대화하는 것처럼 자연스러워 정식 서비스 시작 한 달 만에 40만명의 이용자를 모을 정도로 인기를 끌었다. 특히 1990년대 중반∼2010년대 초중반생인 'Z세대'에서 인기를 끌었다. 사용자 중 10대가 무려 85%를 차지할 정도다.
이루다는 49만명의 팔로워를 가진 인스타그램(SNS) 운영자이자 페이스북으로 온라인에서 활발한 활동을 했다. 자신의 생활을 기록하는 것이 취미라고 소개하며 다양한 모습을 보여주면서 가상의 캐릭터가 마치 인격을 가진 것 같은 인상을 준다.
이루다의 자연스러운 대화는 100억 건 이상의 한국어 데이터, 실제 연인들이 나눈 대화로 학습(딥러닝)을 시킨 결과다. 그러나 여성 혐오, 욕설로 사회적 윤리 이슈가 발생했다. 지하철 임산부석, 여성과 장애인의 인권에 따른 부적절한 언사로 사회적 파장을 더 키웠다.
개발사 스캐터랩은 선정적인 말이나 모욕 등을 자동 감지해 대화를 차단하고 있으나 교묘하게 감지를 피해 악용하는 경우까지 막을 수 없다고 말했다.
이루다의 대화 기술은 '연애의 과학'에서 수집한 카카오 대화를 통해 만들어졌다. 연애의 과학은 심리학 논문과 데이터에 기반한 연애 콘텐츠를 제공하고 있는 앱(App)이다. 앱 내에서는 카카오톡 대화를 업로드 하면 애정도를 분석해주는 서비스를 제공하고 있다. 문제는 이 대화 데이터를 '수집된 정보는 신규 서비스 개발에 활용될 것'이라는 안내 문구 외 사용자 동의 없이 AI개발에 사용했다는 것이다. 이름 등 개인 정보 노출에 대한 사과도 없었다.
업계 내부에서는 데이터 활용 고지에 대한 절차를 강화해야 한다고 지적하고 있다. 개인 정보 보호를 챙기는 것은 물론 사적인 정보를 소홀히 다룬 것 자체가 벤처 생태계 발전을 저해하는 것이라고 강조했다. 그러면서 이루다 이슈가 AI 서비스, 데이터 산업에 대한 규제로 이어질 수 있다는 우려도 크다.
사용자들도 AI 기술을 토대로 서비스를 내놓는 산업군 전반에서도 스타트업으로서 기본을 갖추는 것이 가장 중요하다고 비판하고 있다. 특히 해당 서비스는 유료라 더욱 화가 난다며 '돈을 내고 내 정보를 판매한 것' 같다고 말하는 이들도 있다.
미래 산업 근간으로서 AI 기술 고도화를 위해 데이터 활용은 필수다. 그러나 프라이버시와 산업 혁신에는 조화를 이뤄나가겠다는 조심스러운 입장이 기저에 깔려있어야 한다. 개인정보 활용 시 이 같은 문제가 발생하지 않도록 보다 확실하고 다양한 예방책도 마련돼야 한다. 아울러 데이터 보호와 활용의 적정한 수준은 정부와 기업, 사용자 모두가 지키도록 노력해야 한다.
국민 다수가 사용하기도 전에 이런 사고가 발생하면 추후 출시될 AI 서비스에 대한 신뢰보다 불신을 갖기 쉽다. 유사한 사건은 과거에도 더러 있었기 때문이다
한편 주 사용자였던 1020세대들에게도 잘못된 인식을 심어줄 요인이 있었다는 것에도 반성해야 한다는 목소리가 나온다. 수준 높은 AI 서비스가 출시되는 것은 좋지만 사회적 합의와 사용자들의 의식 수준 개선을 위한 노력이 필요하다는 목소리가 꾸준히 제기되고 있다.
