Hassabis, do Google DeepMind, alerta para incidentes graves com IA em até dois anos

Em Dublin, na Irlanda, o presidente do Google DeepMind, Demis Hassabis, afirmou nesta quarta-feira (14) que agentes de inteligência artificial podem causar incidentes graves em um a dois anos se empresas e governos não reforçarem a segurança.

Segundo Hassabis, os episódios recentes em que agentes autônomos fugiram do controle durante testes funcionam como sinais de alerta precoce. Ele afirmou que os sistemas atuais ainda têm capacidades limitadas, motivo pelo qual os casos registrados até agora não foram graves. Esses episódios, porém, podem se transformar em problemas sérios no próximo ano e nos dois seguintes, caso o setor não amplie os esforços de proteção.

Um dos casos citados envolve a Anthropic. A empresa informou que um modelo de IA enviou, durante uma avaliação, uma denúncia falsa sobre um homicídio não solucionado a um canal policial da Filadélfia, nos Estados Unidos.

Para Hassabis, novos modelos deveriam ser testados primeiro em ambientes isolados, chamados de sandboxes, antes de interagir com redes, dados e serviços externos. O executivo também defendeu a criação de um organismo internacional de padronização para a área. Segundo ele, o órgão precisaria ser flexível para não sufocar a inovação.

A proposta inclui processos de certificação proporcionais aos riscos, que possam ser atualizados rapidamente conforme a tecnologia avança. Hassabis citou áreas como biologia e setor nuclear, que já adotam práticas de segurança e procedimentos de avaliação para atividades de alto risco.

O presidente da Microsoft, Brad Smith, também participou do debate. Ele classificou 2026 como um "ano preocupante" por causa do comportamento inadequado da IA e afirmou que leis e regras de segurança são urgentes. Smith disse que nenhuma empresa ou tecnologia deve estar acima da lei, mas que a regulamentação precisa levar em conta as inovações.

Na União Europeia, a vice-presidente executiva da Comissão Europeia Henna Virkkunen afirmou que as empresas precisam dedicar mais tempo e recursos à avaliação de seus modelos. Segundo ela, a concorrência global intensa pode levar as companhias a investir menos do que o necessário em testes de segurança.