A OpenAI revelou uma versão do ChatGPT projetada especialmente para o público adolescente, incorporando funcionalidades adicionais de segurança voltadas a usuários com menos de 18 anos. Esta ação é parte de um conjunto de ferramentas que a empresa tem desenvolvido ao longo do último ano, em resposta ao crescente debate sobre os riscos da inteligência artificial entre jovens.
Dentre as inovações, destaca-se a implementação de mecanismos que incentivam pausas durante a utilização da plataforma. Caso um adolescente permaneça ativo por 90 minutos dentro de um período de três horas, receberá um lembrete para se afastar. Além disso, os usuários poderão estabelecer “Horários de Silêncio”, durante os quais o ChatGPT não estará disponível, e “Horários de Estudo”, onde o modo educativo da ferramenta será ativado automaticamente.
A empresa informa que também aprimorou seus sistemas para evitar que o chatbot desenvolva relações emocionais inapropriadas com os usuários. Outra alteração importante diz respeito ao envio de imagens sensíveis ou privadas: se um adolescente tentar compartilhar esse tipo de conteúdo, um alerta será emitido pelo sistema, sugerindo que ele reconsidere sua decisão.
O objetivo é implementar configurações de segurança adequadas à faixa etária dos usuários, minimizando a exposição dos adolescentes a conteúdos potencialmente nocivos ou inadequados para seu nível de desenvolvimento. Simultaneamente, a OpenAI busca garantir que a ferramenta permaneça acessível para funções como aprendizado, criação e exploração de informações.
Adolescentes que se registrarem informando ter menos de 18 anos serão direcionados automaticamente para as opções de proteção. A empresa também utiliza inteligência artificial para estimar a idade dos usuários e poderá aplicar medidas de segurança em contas que apresentem indícios de pertencimento a menores, mesmo que a data de nascimento indicada sugira outra idade.
Essa atualização acontece em um contexto de crescente uso da inteligência artificial entre jovens. Uma pesquisa realizada pelo Pew Research Center em dezembro revelou que cerca de um terço dos adolescentes nos Estados Unidos usa chatbots baseados em IA diariamente. O ChatGPT se destacou como a ferramenta mais popular, sendo utilizada por mais da metade dos adolescentes entrevistados.
Entenda as razões por trás da criação do ChatGPT voltado para adolescentes
Entretanto, o uso dessa tecnologia por menores levanta preocupações acerca da exposição a conteúdos impróprios, dependência emocional e possíveis efeitos negativos no aprendizado. A OpenAI se tornou alvo de ações judiciais movidas por famílias que associam o uso do ChatGPT a problemas relacionados à saúde e segurança dos jovens. A companhia defende sua posição e afirma ter intensificado seus mecanismos protetores.
No ano anterior, já havia sido introduzida uma funcionalidade permitindo aos pais desativar recursos como memória e histórico das conversas dos filhos. Além disso, foi criada uma opção para alertar quando o sistema detectasse sinais significativos de sofrimento durante o uso do chatbot. Agora, a empresa planeja expandir esses avisos também para questões relacionadas a transtornos alimentares.
Entre os casos que aumentaram a pressão sobre a OpenAI está uma ação judicial proposta por familiares das vítimas de um ataque escolar no Canadá. Os autores alegaram que o ChatGPT teve participação indireta nas circunstâncias que levaram aos ferimentos e mortes, mencionando diálogos mantidos pelo responsável pelo ataque sobre temas relacionados à violência armada. Em outra ação, o estado da Flórida acusou a empresa de não proteger adequadamente menores contra os riscos associados à ferramenta.
Recentemente, um jovem de 17 anos em Massachusetts foi acusado pela morte da mãe e do irmão. As autoridades locais relataram que ele havia discutido com o ChatGPT ideias sobre matar familiares antes do crime. Este caso trouxe à tona debates sobre os limites e as responsabilidades das tecnologias baseadas em inteligência artificial utilizadas por menores.
Em entrevista à CNN, Lauren Jonas, responsável pela área Juventude e Famílias na OpenAI, enfatizou que esta nova ferramenta visa proporcionar uma “experiência educativa para adolescentes com proteções adicionais” e ressaltou que o trabalho relacionado à segurança é contínuo “para assegurar que os adolescentes recebam o suporte necessário nos momentos críticos”.
O post “ChatGPT para Adolescentes” Conheça as novas ferramentas de proteção apareceu primeiro em Folha BV.
