Flórida processa OpenAI por riscos a jovens usuários do ChatGPT

O procurador-geral da Flórida, James Uthmeier, moveu uma ação civil contra a OpenAI e seu CEO, Sam Altman, alegando que o ChatGPT expõe usuários jovens a riscos e promove comportamentos prejudiciais.

Uthmeier argumentou que a empresa não implementou medidas adequadas para verificar a idade dos usuários, criando um ambiente perigoso para crianças e adolescentes que utilizam o chatbot.

"

"Hoje anunciamos que recentemente apresentamos uma ação civil monumental contra Sam Altman e o ChatGPT por colocarem nossas crianças em perigo e enganarem os pais, fazendo-os acreditar que se trata de um aplicativo seguro para uso; claramente não é"

Na denúncia, Uthmeier cita uma pesquisa da Universidade Drexel, evidenciando que adolescentes que se comunicam com chatbots experimentam problemas como insônia, pior rendimento escolar e menos interações sociais.

A ação legal destaca que, apesar do conhecimento geral sobre o uso do ChatGPT por menores, a OpenAI não adotou medidas efetivas para restringir seu acesso. A versão gratuita do chatbot não possui controles para verificar a idade dos usuários e, embora a versão paga solicite que os usuários informem suas idades, não há mecanismos de verificação que envolvam os responsáveis.

Recentemente, a OpenAI lançou um sistema que tenta estimar a idade dos usuários e implementar proteções adicionais para menores. O acesso ao ChatGPT é proibido para crianças abaixo de 13 anos e requer autorização dos pais para aqueles entre 13 e 17 anos.

Uthmeier ainda fez referência a um relatório do Centro para Combater o Ódio Digital que, ao simular um adolescente interagindo com o ChatGPT, recebeu conselhos sobre como esconder comportamentos alimentares e até sobre planejamento de suicídio e automutilação.

A acusação caracteriza a responsabilidade da OpenAI, Sam Altman e suas operações como potencialmente custosas, podendo levar a valores em torno de bilhões de dólares.