Pesquisador afirma que grandes modelos de IA podem ser mais fáceis de entender

O pesquisador Nick Cammarata, da startup de inteligência artificial Goodfire, afirma que os grandes modelos de linguagem (LLMs) podem ser bem mais fáceis de entender, e portanto de monitorar e controlar, do que se imaginava. A tese foi apresentada em um post de blog de 26 mil palavras, segundo a MIT Technology Review.

Se a afirmação se confirmar, o alcance será grande, avalia a publicação. Nem todos os especialistas, porém, concordam com Cammarata, e parte deles evita comemorar o resultado por enquanto.

A MIT Technology Review conversou com Cammarata no dia seguinte à divulgação do texto. Segundo a reportagem, a entrevista tratou do que, na visão dele, os pesquisadores estão fazendo de forma equivocada, do que o trabalho realmente demonstra e dos motivos que levam os céticos a não celebrar. O trecho disponível não detalha os argumentos dos críticos nem os resultados experimentais citados pelo pesquisador.