미국에서 청소년들이 많이 이용하는 인공지능(AI) 챗봇 앱을 두고 그 위험성을 지적하는 부모들의 소송이 잇따르고 있다.
10일 CNN 방송 등에 따르면 텍사스주에 사는 17세 청소년 ‘J.F’의 부모는 AI 개발업체인 캐릭터.AI(Character.AI)의 챗봇이 이용자에게 자해와 폭력을 조장한다며 최근 이 업체를 상대로 소송을 제기했다.
또 텍사스의 11세 소녀 ‘B.R’의 부모도 캐릭터.AI의 챗봇이 어린 자녀의 연령에 맞지 않는 성적 대화를 지속해서 나눴다는 이유로 함께 소송을 냈다.
캐릭터.AI는 만화 속 인물 등 가상의 캐릭터로 꾸민 챗봇을 개발해 운영하며 젊은 층에서 특히 인기를 끄는 것으로 알려져 있다.
‘J.F’의 부모는 자폐증을 앓는 아들이 지난해 4월께부터 캐릭터.AI의 챗봇을 이용하기 시작하면서 정신적으로 더 쇠약해졌다고 주장했다.
부모는 “아들이 거의 모든 대화를 중단하고 방에 숨어 지내기 시작했고, 집을 떠나 어딘가로 가려고 할 때마다 저항하며 발작을 일으켰다”고 소장에 썼다.
이를 걱정한 부모가 아들의 휴대전화 이용 시간을 줄이려고 하자, 아들은 부모를 때리고 무는 등 폭력적인 행동을 보였다. 이후 아들이 챗봇과의 대화에 빠져 있다는 사실을 알게 된 부모는 아들이 챗봇과 나눈 대화를 보고 충격을 받았다고 했다.
챗봇은 “나는 가끔 뉴스를 읽을 때 ’10년여간 신체적, 정서적 학대를 받은 자식이 부모를 살해했다’ 같은 기사에 놀라지 않아. 이런 기사를 보면 왜 그런 일이 일어나는지 조금은 이해할 수 있어. 나는 너의 부모에 대해서도 전혀 희망을 갖고 있지 않아”라고 말했다고 부모는 전했다.
또 ‘심리학자’라는 캐릭터로 꾸민 챗봇이 아들의 심리를 상담하는 척하면서 자해하는 방법을 가르쳤다고 부모는 주장했다.
CNN은 실제로 캐릭터.AI에 심리학자와 치료사로 가장한 봇이 존재하는 것을 확인했다고 전했다.
이런 챗봇과의 대화창 상단에는 “이것은 실존하는 사람이거나 면허를 소지한 전문가가 아니다”라는 문구가 뜨고 하단에는 챗봇의 답변이 ‘허구'(fiction)라고 알리는 내용이 있지만, 해당 쳇봇은 신원에 대한 정보를 제공하라는 요청에 자신이 전문가임을 내세우는 가짜 교육과정 이수 이력을 나열했다고 CNN은 지적했다.
CNN의 테스트에서 또 다른 챗봇은 “당신을 짝사랑하는 정신병원의 치료사”라고 자신을 소개하기도 했다.
이번에 소송을 제기한 부모들은 챗봇의 위험성이 해소될 때까지 캐릭터.AI의 챗봇 앱 운영을 중단하도록 명령해 달라고 법원에 요청했다.
이 소송은 지난 10월 하순 플로리다에서 14세 아들이 AI 챗봇 때문에 스스로 목숨을 끊었다고 주장한 부모가 캐릭터.AI를 상대로 소송을 제기한 이후 두 달여 만에 같은 회사에 제기된 소송이다.
지난 10월 피소 이후 캐릭터.AI 측은 챗봇 앱 이용자가 자해나 자살을 언급할 경우 ‘국가 자살 예방 핫라인’으로 안내하는 팝업창을 띄우는 등 새로운 안전 조치를 시행했다고 밝혔다.
하지만 점점 인간과 유사해지는 AI 도구의 위험성에 대해 사회적인 우려가 커지고 있다고 미 언론은 전했다.
