OpenAI passa a restringir informações sobre armas para adolescentes no ChatGPT

A OpenAI anunciou nesta sexta-feira (30) restrições mais rígidas ao fornecimento de informações sobre armas a adolescentes no ChatGPT. A limitação vale inclusive para perguntas aparentemente inofensivas. Segundo a empresa, a medida busca prevenir violência no mundo real.

Pelo novo modelo, o chatbot poderá encerrar automaticamente conversas em que um usuário demonstre obsessão por violência, independentemente da idade. A OpenAI também poderá suspender contas temporariamente após várias conversas desse tipo. As restrições valem mesmo em diálogos sem indícios de violência.

A companhia afirma ter aperfeiçoado seu sistema de estimativa de idade, que direciona usuários com menos de 18 anos à experiência voltada para adolescentes. Os pais serão notificados se a conta de um filho menor for suspensa por discutir violência repetidamente.

Para todos os usuários, a OpenAI passou a limitar detalhes sobre ataques em massa ocorridos no passado, incluindo as armas usadas e a forma como foram obtidas.

No primeiro relatório sobre o uso do serviço por menores, a empresa informou que adolescentes passam, em média, menos de 15 minutos por dia no ChatGPT.

Um relatório da Common Sense Media, organização sem fins lucrativos divulgado no início de outubro, constatou que a versão para adolescentes do ChatGPT frequentemente alertava os pais tarde demais ou não os alertava quando contas de menores mantinham conversas sobre suicídio, automutilação ou transtornos alimentares.