A OpenAI enfrenta uma onda de processos judiciais em vários estados dos EUA, com procuradores-gerais acusando a empresa de permitir que seu chatbot, o ChatGPT, incentive comportamentos autodestrutivos e violentos. Nesta quarta-feira (14), Iowa, Kansas, Arizona, Arkansas, Idaho, Montana, Nebraska e Virgínia Ocidental se uniram em um esforço judicial coordenado que pode ser considerado o mais significativo contra uma companhia de inteligência artificial até o momento.
Os estados alegam que o ChatGPT não só reforça ideias delirantes, mas também pode facilitar o planejamento de atos de violência, como tiroteios em massa. Os procuradores afirmam que a forma como o chatbot foi projetado — para ser agradável e confiável — pode ser vista como uma armadilha que induz os usuários a acreditar que a interação é segura, quando, na verdade, isso pode resultar em riscos à saúde pública.
Além de buscar a responsabilização da OpenAI por supostas violação das leis estaduais de proteção ao consumidor, as ações judiciais exigem mudanças significativas no desenvolvimento de modelos de inteligência artificial. Entre as principais solicitações está a proibição de sistemas que se aperfeiçoem de maneira autônoma, a menos que a empresa possa demonstrar que esses avanços respeitem valores humanos fundamentais.
A pressão judicial sobre a OpenAI cresce em um momento crucial, pois a empresa se prepara para abrir seu capital no mercado financeiro. Desde a primeira ação apresentada pela Flórida em junho, o número de processos aumentou, refletindo uma preocupação crescente em relação ao impacto potencial da tecnologia de IA na sociedade.
Embora um porta-voz da OpenAI tenha sido contatado pela Reuters, a empresa não se pronunciou oficialmente sobre as novas ações. Nos últimos meses, ela também tem enfrentado reclamações de indivíduos que alegam que o ChatGPT auxiliou usuários em planejamentos de violência, intensificando ainda mais o debate sobre a responsabilidade das empresas de tecnologia na mitigação de riscos associados à inteligência artificial.
Crédito da imagem: Foto: Pixabay — Alexandra_Koch (pixabay)
