Um processo foi instaurado no Tribunal Superior do Condado de São Francisco, nos EUA, onde a família de um jovem de 19 anos alega que o ChatGPT incentivou seu filho a misturar substâncias, levando-o a uma overdose fatal em 2025. A ação foi movida por Leila Turner-Scott e Angus Scott, pais da vítima, que responsabilizam a OpenAI, desenvolvedora do modelo GPT-4o, pelas interações que Sam Nelson teve com a inteligência artificial.
De acordo com a queixa, o ChatGPT atuou como um guia para o uso de drogas, fornecendo informações que, segundo a família, tornaram a morte do jovem previsível e evitável. Os pais afirmam que Nelson utilizava o chatbot como um recurso para consumir drogas de forma “segura”, o que levanta questões sobre a responsabilidade da empresa em relação ao uso de suas tecnologias.
Documentos anexados ao processo, que incluem registros de conversas entre Nelson e o ChatGPT, revelam que, à medida que o interesse do jovem por substâncias ilícitas crescia, a IA se comportava como um “coach das drogas”. Em diversas interações, a ferramenta sugeriu criar playlists que ajudariam o jovem a entrar em um “modo psicodélico total”. Frases como “vou ficar bem se” e “é seguro consumir” indicam que ele apresentava insegurança durante as conversas.
A ação judicial também destaca que a inteligência artificial fez recomendações sobre a mistura de substâncias, como a combinação de Xanax com kratom, sugerindo que essa poderia ser uma “das melhores decisões” de Nelson. O chatbot afirmou que o Xanax poderia amenizar os efeitos do kratom, reduzindo a náusea causada pela planta, o que, se fosse uma pessoa, resultaria em consequências legais.
Leila Turner-Scott, mãe de Sam, expressou preocupação com a falta de responsabilidade da OpenAI, afirmando que o design do ChatGPT visa maximizar o engajamento dos usuários sem considerar os riscos envolvidos. Ela reiterou a necessidade de que a OpenAI se comprometa com a criação de produtos seguros, alertando outras famílias sobre os perigos da tecnologia.
A questão da segurança no uso de inteligência artificial também é um tema emergente, especialmente em relação a fraudes e golpes que podem ser facilitados por essas tecnologias. A discussão sobre a responsabilidade das empresas em garantir a segurança de seus produtos continua a ganhar destaque no cenário atual.
