O Google anunciou novidades no Gemini que visam melhorar o suporte em situações de crise e saúde mental. A principal atualização é uma interface de "um toque", que apresenta botões para entrar em contato com linhas de apoio quando o chatbot identifica sinais de risco, como menções a suicídio ou automutilação. A empresa afirma que essa mudança reduz o tempo para que o usuário busque suporte humano profissional.
O novo recurso está disponível no módulo "Ajuda disponível" e permite que o usuário ligue, envie SMS, inicie um chat ou acesse sites de serviços especializados. As respostas foram desenvolvidas em parceria com especialistas clínicos, visando ser mais empáticas e evitar validações perigosas ou incentivos a comportamentos nocivos.
Outra atualização importante é a inclusão de novas proteções para menores de idade, com regras que impedem o Gemini de simular vínculos emocionais ou sugerir intimidade com o usuário. Há também medidas para reduzir riscos de abuso, como a proibição de incentivo ao bullying ou assédios. O objetivo é evitar que adolescentes desenvolvam dependência emocional da IA.
Além disso, o Google anunciou um investimento de US$ 30 milhões nos próximos três anos para apoiar linhas de atendimento a crises em vários países. A empresa também destinou US$ 4 milhões para a ReflexAI, que integrará o Gemini à plataforma de simulações "Prepare" para capacitar voluntários e profissionais. O Google.org fornecerá suporte técnico pro bono para desenvolver a ferramenta, focando inicialmente em parceiros da área educacional.
