OpenAI Lança Verificação de Idade no ChatGPT

OpenAI anunciou que implementará um sistema interno de verificação de idade para o ChatGPT, uma medida impulsionada pela crescente pressão de reguladores e eventos trágicos envolvendo menores. O novo sistema analisará automaticamente o estilo de comunicação e as consultas de um usuário para estimar sua faixa etária. Se o algoritmo suspeitar que o usuário é um adolescente com menos de 18 anos, a conta será automaticamente colocada em um modo restrito de "segurança" com funcionalidade limitada.

Neste modo de segurança, a IA evitará qualquer tópico relacionado a automutilação ou suicídio — mesmo que um usuário peça ajuda com uma história fictícia sobre o assunto. O chatbot também não se envolverá em flertes ou discutirá tópicos explícitos. Se o sistema detectar uma ameaça direta à vida de um adolescente, a empresa se reserva o direito de alertar os pais ou serviços de emergência.

Para usuários adultos, a liberdade de conversa permanecerá em grande parte inalterada. O ChatGPT ainda poderá ajudar na redação de roteiros e obras literárias sobre temas complexos ou controversos. Como afirmou o CEO da OpenAI, Sam Altman, o princípio interno da empresa é "tratar os usuários adultos como adultos." No entanto, em algumas situações, os usuários adultos podem ser solicitados a fornecer um documento de identidade para confirmação de idade. A empresa observa que este é um compromisso necessário entre privacidade e proteção da geração mais jovem.

Esse novo recurso provavelmente gerará debates sobre o equilíbrio entre a proteção infantil e o direito ao anonimato online. Ainda não está claro como as novas regras afetarão usuários em diferentes países. O sistema de verificação de idade e os novos controles parentais devem ser lançados nos próximos meses.

A impressionante popularidade do ChatGPT, que alcança uma audiência de 700 milhões de usuários por semana em apenas alguns anos, transformou a segurança e a ética da IA de uma discussão teórica em uma questão crítica do mundo real. O serviço é amplamente utilizado por jovens como um ajudante diário, e as estatísticas mostram que quase metade de todas as consultas vêm de usuários com menos de 26 anos.

Neste contexto, a introdução de um "modo adolescente" parece não apenas uma medida de precaução, mas um passo necessário para proteger a parte mais ativa e vulnerável da comunidade global do ChatGPT. A crescente popularidade da IA entre os jovens coloca uma responsabilidade maior sobre os desenvolvedores — uma responsabilidade que a OpenAI agora está tomando medidas concretas para formalizar.