A OpenAI planeja permitir uma gama mais ampla de conteúdo, incluindo conteúdo erótico, em seu popular chatbot ChatGPT como parte de um esforço para “tratar usuários adultos como adultos”, disse Sam Altman, chefe da OpenAI.
Em uma postagem em
A mudança, que lembra a recente introdução de dois chatbots atrevidos por Elon Musk xAI no Grok, poderia ajudar a OpenAI a atrair mais assinantes pagantes.
A pressão sobre os legisladores para impor restrições mais rigorosas aos companheiros de chatbot também deverá aumentar.
A OpenAI não respondeu aos pedidos de comentários da BBC após a postagem de Altman.
As mudanças anunciadas pela empresa acontecem depois que ela foi processada pelos pais de um adolescente norte-americano que cometeu suicídio no início deste ano.
A ação, movida por Matt e Maria Raine, pais de Adam Raine, de 16 anos, foi a primeira ação legal a acusar a OpenAI de homicídio culposo.
O casal da Califórnia criticou os controlos parentais, que a empresa disse terem sido concebidos para encorajar uma utilização mais saudável do seu chatbot, dizendo que não iam suficientemente longe.
A família também incluiu registros de bate-papo do ChatGPT entre Adam, que morreu em abril, e ChatGPT, que o mostrava revelando que era suicida.
Altman disse que a OpenAI anteriormente tornou o ChatGPT “bastante restritivo para garantir que estamos atentos aos problemas de saúde mental”.
“Percebemos que isso torna o aplicativo menos útil/agradável para muitos usuários sem problemas de saúde mental, mas queríamos acertar, dada a gravidade do problema”, disse Altman.
Ele disse que a empresa agora é capaz de reduzir riscos graves à saúde mental e possui novas ferramentas que permitem “relaxar as restrições com segurança na maioria dos casos”.
“Em dezembro, permitiremos ainda mais, como o erotismo adulto verificado, à medida que implementamos restrições de idade de forma mais ampla e como parte de nossa política de ‘tratar usuários adultos como adultos’”, disse ele.
Os críticos dizem que a decisão da OpenAI de permitir erotismo na plataforma mostra a necessidade de mais regulamentação nos níveis federal e estadual.
“Como eles garantirão que as crianças não possam acessar partes do ChatGPT que são exclusivas para adultos e fornecem conteúdo erótico?” disse Jenny Kim, sócia do escritório de advocacia Boies Schiller Flexner. “A IA aberta, como a maioria das grandes tecnologias neste espaço, usa os humanos como cobaias.”
Kim está envolvida em um processo contra a Meta que alega que o algoritmo do Instagram da empresa prejudica a saúde mental de usuários jovens.
“Nem sabemos se as restrições de idade funcionarão”, disse ele.
Em abril, o TechCrunch informou que a OpenAI permitia que contas registradas de um usuário menor de idade criassem conteúdo erótico gráfico.
OpenAI disse que a empresa lançou uma correção para limitar esse conteúdo.
Uma pesquisa divulgada este mês pela organização sem fins lucrativos Centro para Democracia e Tecnologia (CDT) descobriu que um em cada cinco estudantes relatou que eles ou alguém que conhecem tiveram um relacionamento romântico com IA.
Na segunda-feira, o governador da Califórnia, Gavin Newsom, vetou um projeto de lei aprovado pela legislatura estadual que impediria os desenvolvedores de oferecer companheiros de chatbot de IA para crianças, a menos que pudessem garantir que o software não levaria a comportamentos prejudiciais.
Numa mensagem que acompanhou o seu veto, Newsom disse que era “imperativo que os adolescentes aprendam como interagir de forma segura com sistemas de inteligência artificial”.
A Comissão Federal de Comércio dos EUA (FTC) lançou uma investigação nacional sobre como os chatbots de IA interagem com as crianças.
No mês passado, foi introduzida no Senado dos EUA uma legislação bipartidária que classificaria os chatbots de IA como produtos. A lei permitirá que os usuários reivindiquem responsabilidade contra os desenvolvedores do chatbot.
O anúncio de Altman na terça-feira ocorre num momento em que os céticos questionam o rápido aumento no valor das empresas de tecnologia de inteligência artificial.
A receita da OpenAI está crescendo, mas nunca foi lucrativa.
Rob Lalka, professor de negócios da Universidade de Tulane e autor de seu último livro The Venture Alchemists, disse que as principais empresas de IA se encontram em uma disputa por participação de mercado.
“Nenhuma empresa experimentou o tipo de adoção que a OpenAI viu com o ChatGPT”, disse Lalka à BBC.
“Eles precisavam continuar impulsionando essa curva de crescimento exponencial e alcançar o máximo domínio de mercado possível.”
