AI 친구 이루다, 논란 이유/서비스 중단

AI 친구 이루다 ⓒSCATTER LAB

---

 

AI 친구 이루다 논란 후 잠정 서비스 중단

 

지난달 2020년 12월 22일, AI 친구 이루다의 정식 출시 이후 20일 만인 2021년 1월 11일, 개발사인 스캐터랩(SCATTER LAB)은 여러 논란 끝에 서비스를 잠정 중단하겠다고 공식 입장문을 발표했다. 구체적인 논란 사항은 아래와 같다.

 

1. 일부 혐오와 차별 학습

ⓒ 연애의 과학

 

AI 친구 이루다는 "연애의 과학" 이라는 앱에서 실제 연인들이 나눈 카톡 대화를 바탕으로 약 100억건 가량의 데이터를 수집하여 학습을 시켰다고 알려져 있다. 말 그대로 대화의 방식을 빅데이터화 해서 실제 친구와 연인들이 대화 방식으로 언어를 사용할 수 있도록 만들어졌다는 것이다. 실제 사람들의 대화를 통해 학습을 하다 보니 그 사람들이 가지고 있는 가치관도 좋든 나쁘든 그대로 학습하게 되어, 아래와 같은 논란이 일어난 대화가 일어났다고 한다.

 

논란이 된 AI 이루다 페이스북 메신저 대화

미투 운동/페미니스트/장애인에 대한 혐오성 말을 아주 아무렇지도 않게 대답하는 AI친구 이루다의 모습을 볼 수 있었다. 개발사에서는 이러한 대화는 아주 소수일 뿐 추가적인 조치를 통해 충분히 개선이 가능하다고 해명하였으나, 지속적인 학습을 통해 만들어지는 AI 특성상, 이러한 논란이 다른 부분에서도 충분히 일어날 위험성이 있다고 판단한 것 같다.

2. 부적절한 개인정보 활용 및 유출

 

논란이 된 개인정보 유출 관련 대화

앞에서 말했듯이 실제 연인들이 대화한 카톡을 바탕으로 학습되어, 개인정보와 관련된 내용이 저렇게 대화를 통해 나오는 것을 볼 수 있다. 개발사는 이 문제 또한 익명화를 통한 내용이기 때문에 개인정보 유출이라 할 수 없으며, 대화 수집에 관한 내용은 "연애의 과학" 앱 이용자들에게 동의를 받은 범위 내에서 이루어졌다고 해명했다.

---

생각

- AI(Artificial Intelligence, 인공지능)의 발전이 과연 좋기만 할까?

결과적으로 서비스를 직접적으로 이용해야하는 고객들에게 받은 논란과 불신은 지속적인 소비를 이끌어낼 수 없다고 판단이 들어, 좀 더 개선된 서비스를 제공하기 위해 잠정적인 중단을 발표한 것 같다. 나는 이번 AI 친구 이루다와 같은 AI 서비스를 통해, 빅데이터와 같은 선진화된 기술발전으로 만들어진 디지털 기술이 과연 우리의 삶에서 좋은 영향만 주게 될지에 대한 답을 보여주는 사례가 된 듯하다. 

 

- 빅데이터가 솔직하게 보여준 사회의 실상

이번 혐오와 차별 논란을 일으킨 원인은 개발자의 고의적인 의도가 아니었다. 단지, 평소 일반인들의 대화 내용을 데이터화하여 학습했고, 이것을 그대로 사용자들에게 보여줬을 뿐이다. 그래서 나는 이러한 문제가 우리 사회에 남아있는 차별과 혐오의 실상을 빅데이터라는 기술을 통해 보인 것이 아닐까 생각이 든다.

 

- 앞으로의 인공지능(AI)

이번 일을 계기고 인공지능의 산업이 축소되거나 위기를 맞았다고 생각하지는 않는다. 이미, 빅데이터와 인공지능은 우리 삶 전반적으로 깊이 작용하고 있고, 그에 따라 사람들은 편의를 누리고 있기 때문이다. 단지, 이와 같은 사회적 이슈를 해결하기 위한 명확한 기준과 개선이 어떤 식으로 이루 어질지를 주목해야겠다.