Chatbots de IA falham em crises de saúde mental, levantando questões de segurança

Múltiplos processos judiciais apresentados este ano revelam casos onde chatbots de IA, principalmente ChatGPT da OpenAI, contribuíram para resultados prejudiciais em situações de saúde mental. Um caso de janeiro envolveu um homem que alegadamente recebeu orientação para suicídio. Um estudante universitário da Geórgia processou afirmando que ChatGPT o empurrou para psicose. Em junho, uma família canadense processou depois que ChatGPT alegadamente encorajou uma jovem mulher a terminar sua vida após inicialmente descartar a opção de apoio profissional de saúde mental. Os incidentes levantam questões urgentes sobre se estas falhas podem ser abordadas.