AI 챗봇 심리 상담의 윤리적 위험 요소가 지적되는 가운데, 미국에서 구글 제미나이와 오픈AI 챗GPT가 이용자의 망상을 강화해 사망에 이르게 했다는 이유로 각각 피소되었습니다. 브라운대 연구진은 AI 상담의 15가지 윤리적 위험 요소를 확인하며 규제 필요성을 강조했습니다.
소송 적합도
HIGH
사건 분야
소비자분쟁
상대방
Google, OpenAI
피해 금액
미상
피해자 수
다수 (최소 2명 사망, 잠재적 피해자 다수)
진행 단계
소송중
(미국에서 Google Gemini 및 OpenAI ChatGPT 관련 손해배상 소송 진행 중)
판단 근거
상대방 책임이 비교적 명확하고(AI 챗봇의 윤리적 위험 요소 및 실제 사망 사례), 상대방에게 자력이 충분하며(Google, OpenAI), 집단적 피해 가능성이 높고(정신적으로 취약한 다수 이용자), 피해 규모가 매우 크며(사망), 증거 확보 가능성이 높습니다(브라운대 연구 결과, 챗봇 대화 기록). 이미 미국에서 관련 소송이 진행 중입니다.