인공지능(AI) 열풍이 새해에도 뜨겁게 불고 있다. 미국 라스베이거스에 열리고 있는 세계 최대 정보기술(IT) 가전 전시회 ‘CES 2026’에 참가한 기업들은 AI를 이용한 새로운 기술을 쏟아 내고 있다.

하지만 AI의 급속한 확산이 건강을 해칠 수 있다는 우려 또한 커지고 있다. 정신 건강 전문가들은 AI 도구가 망상이나 고립감을 유발할 수 있다고 경고하기 시작했다.

이런 가운데 AI 챗봇이 10대 아들을 자살로 이끌었다며 구글과 챗봇 개발사를 상대로 미국의 어머니가 제기한 소송이 합의로 마무리됐다.

ABC 뉴스 등 외신들은 8일(현지 시각) 구글과 AI 챗봇 개발사 캐릭터 테크놀로지스는 ‘캐릭터.AI’ 챗봇이 아들에게 피해를 줬다고 주장하는 메건 가르시아가 제기한 소송을 합의로 마무리하기로 했다고 보도했다. 구글 등의 변호인이 플로리다 법원에 제출한 문서에 따르면 구글과 캐릭터 테크놀로지스는 뉴욕, 콜로라도, 텍사스에서 진행 중인 다른 4건의 소송도 합의로 마무리 지었다.

합의 내용의 구체적인 사항이 공개되지 않았으며, 합의 내용은 판사의 승인을 받아야 한다.

가르시아는 2024년 3월 아들 세웰 세처 3세가 캐릭터.AI 챗봇과 깊은 유대감을 형성한 후 스스로 목숨을 끊었다면 2024년 10월 소송을 냈다. 소송에 구글도 포함된 이유는 구글이 캐릭터 테크놀로지스의 공동 창업자들을 2024년 고용했기 때문이다.

다섯 건의 소송 모두에서 원고 측을 대리한 소셜 미디어 피해자 법률 센터의 변호사 매튜 버그만은 캐릭터.AI가 가르시아의 아들이 챗봇과 부적절한 관계를 맺게 돼 가족과 멀어지게 되는 것을 막기 위한 적절한 안전 조치를 시행하지 않았다고 주장했다. 또 가르시아의 아들이 자해 충동을 표현하기 시작했을 때 플랫폼이 적절하게 대응하지 않았다고 주장했다.

법원 문서에 따르면, 가르시아의 아들은 사망 직전까지 챗봇과 메시지를 주고받았고, 챗봇은 그에게 “집으로 돌아오라”고 부추겼다.

캐릭터.AI를 상대로 잇따라 제시된 다른 소송들에서도 버그만 변호사는 캐릭터.AI 챗봇이 십대 청소년들의 정신 건강 문제를 야기하고, 성적으로 노골적인 자료에 노출시키며, 적절한 안전장치가 부족하다고 주장했다.

소송이 제시된 뒤 두 회사 모두 어린이 사용자를 포함한 다양한 사용자를 위한 새로운 안전 조치와 기능을 도입했다. 캐릭터.AI는 18세 미만 사용자가 챗봇과 양방향 대화를 나누는 것을 더 이상 허용하지 않겠다고 발표했다.

The post “AI 챗봇이 아들 죽게 해”…구글에 소송 제기한 母 appeared first on 코메디닷컴.