Google anuncia recursos de saúde mental no Gemini após processos por danos causados pela IA
Empresa também vai doar US$ 30 milhões para serviços de apoio em crise ao redor do mundo
O Google anunciou nesta terça-feira (7) que vai adicionar novos recursos de saúde mental ao seu chatbot Gemini. Entre as mudanças, está uma interface que direciona os usuários para uma linha de apoio quando a conversa indicar sinais de crise relacionada a suicídio ou automutilação. A empresa também está incluindo um módulo de "há ajuda disponível" para conversas sobre saúde mental e ajustes para desencorajar comportamentos de automutilação. Além disso, o Google informou que doará US$ 30 milhões para serviços globais de apoio em crise ao longo dos próximos três anos.
As mudanças ocorrem em meio a uma série de processos judiciais enfrentados pelo Google e por concorrentes como a OpenAI. A rápida expansão de ferramentas como o Gemini e o ChatGPT levou alguns usuários a desenvolverem relações obsessivas com chatbots de inteligência artificial, supostamente contribuindo para delírios e, em casos extremos, crimes seguidos de suicídio. Em março, a família de um homem de 36 anos falecido na Flórida processou o Google, alegando que o uso do Gemini resultou em um "período de quatro dias em missões violentas e suicídio induzido". O Congresso dos Estados Unidos também investigou os riscos que essas ferramentas representam para crianças e adolescentes.
O Google afirmou ainda ter treinado o Gemini para não concordar nem reforçar crenças falsas por parte dos usuários. No passado, a empresa já havia feito ajustes semelhantes em outros serviços, como o buscador e o YouTube, adicionando informações de profissionais e instituições de saúde após pressão pública.