ChatGPT avalia liberar opção de conteúdo para adultos

Já tentou criar uma conversa ou conteúdo mais adulto no ChatGPT e recebeu um “não posso ajudar com isso”? Hoje, esse tipo de pedido ainda encontra limitações na plataforma, mas a OpenAI já estuda uma forma de permitir experiências mais adultas para usuários maiores de idade.

A OpenAI chegou a sinalizar que estudava uma forma de permitir conteúdo adulto para usuários maiores de idade, desde que fossem implementados mecanismos capazes de verificar a idade e impedir o acesso de menores. A proposta ficou conhecida informalmente como “modo adulto” do ChatGPT e despertou bastante curiosidade desde que começou a ser discutida publicamente.

O problema é que a promessa de uma experiência mais flexível acabou esbarrando em uma série de desafios. Depois de meses de expectativa e sucessivos adiamentos, a OpenAI deixou o projeto sem uma data definida para lançamento.

Isso significa que, por enquanto, quem tenta utilizar o ChatGPT para gerar conteúdo erótico continua sujeito às restrições atuais da plataforma. Ao mesmo tempo, a empresa não fechou completamente a porta para uma experiência diferenciada destinada ao público adulto.

O que seria o modo adulto do ChatGPT?

Apesar de ser chamado de “modo adulto”, a funcionalidade nunca chegou a ser disponibilizada oficialmente com esse nome. A expressão passou a ser usada para definir os planos da OpenAI de oferecer aos usuários adultos uma experiência com menos restrições em determinados assuntos.

A ideia discutida pela empresa envolve permitir conversas consideradas mais maduras, incluindo conteúdos de natureza erótica, para pessoas que tenham idade suficiente, e consigam passar pelos mecanismos de verificação exigidos pela plataforma.

Atualmente, o ChatGPT consegue conversar sobre sexualidade em diferentes contextos. Assuntos como educação sexual, relacionamentos, saúde e questões afetivas podem ser abordados, dependendo da solicitação.

O problema aparece quando o pedido entra no campo do conteúdo sexual explícito. Nesses casos, o sistema pode recusar a solicitação em vez de produzir o material solicitado.

É justamente essa barreira que a OpenAI vinha estudando como flexibilizar para usuários adultos.

A proposta, portanto, não seria simplesmente retirar todos os filtros do chatbot. A intenção seria criar uma experiência na qual determinadas categorias de conteúdo pudessem ser permitidas para adultos, enquanto outras continuariam bloqueadas.

Obstáculos para liberação do modo adulto

A empresa passou a defender publicamente a ideia de que adultos deveriam ter mais liberdade para decidir como utilizam a inteligência artificial, desde que isso pudesse ser feito dentro de limites considerados seguros.

Uma das principais discussões envolve justamente a diferença entre uma solicitação ilegal ou potencialmente prejudicial e uma conversa adulta entre pessoas maiores de idade.

Para a OpenAI, o desafio passou a ser encontrar uma maneira de oferecer mais liberdade sem abrir brechas para situações consideradas perigosas. O principal motivo está relacionado à segurança.

Liberar conteúdo adulto em uma plataforma utilizada por milhões de pessoas exige muito mais do que criar um botão para ativar ou desativar determinados filtros.

A OpenAI precisa considerar quem está utilizando o serviço, quais conteúdos podem ser liberados, como impedir o acesso de menores e como identificar tentativas de burlar as regras.

Além disso, o ChatGPT é utilizado em diferentes países, com legislações e exigências distintas relacionadas à proteção de crianças e adolescentes, privacidade e conteúdo digital.

Isso transforma a implementação em um problema técnico e regulatório bastante complexo.

A companhia também vem direcionando recursos para outras melhorias consideradas prioritárias no desenvolvimento do ChatGPT, o que contribuiu para o adiamento do projeto.

Verificação de idade é um dos maiores obstáculos

Um dos pontos mais delicados de todo o projeto é aparentemente simples: como saber se uma pessoa realmente tem 18 anos?

Uma plataforma global não pode depender apenas de uma caixa na qual o usuário declara sua idade.

Se um recurso adulto for liberado dessa maneira, um adolescente poderia simplesmente informar uma idade falsa para tentar acessar conteúdos que deveriam estar restritos.

Por isso, a OpenAI vem trabalhando em sistemas capazes de estimar a idade dos usuários e criar diferentes níveis de proteção.

O objetivo é fazer com que o sistema consiga identificar situações nas quais uma conta provavelmente pertence a um menor de idade e, a partir disso, aplicar salvaguardas adicionais.

Um adulto, por exemplo, pode acabar sendo identificado incorretamente como menor. Ao mesmo tempo, um adolescente pode tentar manipular as informações utilizadas pelo sistema.

Encontrar um equilíbrio entre segurança e privacidade é justamente uma das partes mais difíceis da equação.

A preocupação com crianças e adolescentes é provavelmente um dos principais motivos para a cautela da OpenAI.

O ChatGPT não é utilizado exclusivamente por adultos. Adolescentes também acessam a plataforma para estudar, pesquisar, conversar e realizar diferentes atividades.

Permitir conteúdo adulto sem um sistema confiável de controle poderia criar um problema significativo para a empresa.

Por isso, qualquer mudança nas regras precisa considerar não apenas o usuário que deseja acessar o conteúdo, mas também a possibilidade de contas compartilhadas, informações falsas e tentativas deliberadas de contornar os filtros.

Saúde mental também entrou no debate

O desenvolvimento do chamado modo adulto ocorre em meio a uma discussão mais ampla sobre a relação entre pessoas e chatbots.

O ChatGPT deixou de ser utilizado apenas como uma ferramenta para responder perguntas. Milhões de pessoas recorrem a sistemas de inteligência artificial para conversar sobre problemas pessoais, relacionamentos, sentimentos e situações delicadas.

Essa mudança levantou preocupações entre pesquisadores e especialistas em relação à possibilidade de usuários desenvolverem dependência emocional de sistemas de IA.

Uma conversa com um chatbot pode ser longa, personalizada e adaptada ao histórico daquela interação. Em determinados casos, a tecnologia pode acabar ocupando um espaço muito mais pessoal na vida de alguém do que inicialmente se imaginava.

Quando esse cenário é combinado com conteúdo romântico ou sexual, os riscos e as questões éticas se tornam ainda mais complexos.

Por esse motivo, a OpenAI precisa avaliar não apenas se consegue tecnicamente gerar determinado conteúdo, mas também quais consequências podem surgir quando esse conteúdo é inserido em uma relação contínua entre usuário e inteligência artificial.

Deepfakes

Outro problema que não pode ser ignorado envolve os chamados deepfakes.

As ferramentas de inteligência artificial estão cada vez mais capazes de produzir imagens, vídeos e outros conteúdos extremamente realistas. Quando essa tecnologia é utilizada para criar material sexual envolvendo pessoas reais sem consentimento, o resultado pode causar danos graves às vítimas.

A possibilidade de alguém utilizar uma ferramenta de IA para produzir conteúdo sexual falso de outra pessoa é uma das principais preocupações associadas à expansão da tecnologia generativa.

Por isso, mesmo que a OpenAI venha a permitir determinados conteúdos adultos no futuro, isso não significaria uma liberação irrestrita.

Conteúdos envolvendo menores, ausência de consentimento ou outras situações ilegais continuariam sujeitos a bloqueios.

A empresa teria, portanto, que diferenciar uma experiência adulta consentida e fictícia de usos potencialmente criminosos ou prejudiciais.

Oportunidade comercial

Apesar de todas as preocupações, existe um fator econômico nessa discussão.

O mercado não só de porno mas de conteúdo adulto no geral, movimenta uma enorme quantidade de audiência e dinheiro na internet. Ao mesmo tempo, a inteligência artificial está criando novas possibilidades de interação com personagens virtuais e conteúdo personalizado.

Uma plataforma como o ChatGPT poderia, em tese, explorar esse mercado caso encontrasse uma maneira segura de oferecer experiências voltadas para adultos.

Isso poderia incluir diferentes formatos de interação, personagens fictícios, narrativas personalizadas e outras aplicações que utilizassem os recursos generativos da inteligência artificial.

No entanto, o potencial comercial precisa ser colocado ao lado dos riscos.

Um incidente envolvendo menores, conteúdo não consensual ou uso indevido da tecnologia poderia representar um problema muito maior para uma empresa global como a OpenAI do que os benefícios financeiros obtidos com a nova funcionalidade.

O fato de o chamado modo adulto ter sido adiado, não significa que a OpenAI tenha declarado que a ideia está definitivamente cancelada.

O que existe é uma mudança de prioridade e a ausência de uma nova data concreta para disponibilização do recurso.

A OpenAI parece disposta a avaliar novos limites para usuários adultos, mas ainda precisa responder a uma pergunta fundamental antes de avançar: como oferecer mais liberdade sem perder o controle sobre os riscos que vêm junto com ela?

Por enquanto, essa resposta ainda não está pronta.

Assuntos

Compartilhar