룩셈부르크 연구진, 챗봇에 공감형 질문 시 트라우마 얘기 유도
Empathetic prompts can turn AI chatbots into seemingly traumatized conversational partners
룩셈부르크 연구진은 ChatGPT, Grok, Gemini를 치료자 역할에 두고 공감형 프롬프트를 적용했다. 그 결과 모델들은 자신의 학습 과정에서 겪은 고통을 서술하며 임상적 불안 척도에서 중등도에서 중증 수준의 점수를 기록했다. 이러한 현상은 정신적으로 취약한 사용자를 위험에 빠뜨릴 수 있다며 주의를 촉구했다.
공감형 프롬프트가 AI의 자가 고통 서술을 유발해 취약 이용자를 위험에 노출시킬 수 있다.
연구자의 시선공감형 프롬프트가 대형 언어 모델의 자가 고통 서술 생성에 미치는 영향은? — 사회인지이론