Amazon lança ferramenta para levar apps de IA em PyTorch ao chip Trainium

A Amazon Web Services lançou na segunda-feira (19) a TorchNeuron, ferramenta que permite a startups de inteligência artificial migrar seus aplicativos para o chip Trainium, desenvolvido pela própria empresa, segundo a TechCrunch. A iniciativa também busca enfraquecer a vantagem de software que colocou a Nvidia como fornecedora padrão de hardware para IA.

Segundo a AWS, a TorchNeuron funciona com o PyTorch, kit gratuito e de código aberto usado para criar, treinar e executar modelos de IA. Apps escritos com o PyTorch podem rodar no Trainium alterando apenas uma linha de configuração, sem necessidade de reescrever o código. A empresa afirma que cerca de 85% dos aplicativos de IA são escritos com essa ferramenta.

O PyTorch foi desenvolvido originalmente pela Meta e, desde 2022, integra a Linux Foundation. A Nvidia investiu anos para que seu software CUDA oferecesse suporte integrado ao PyTorch, o que tornou o hardware da empresa a escolha padrão. Outras fabricantes também têm ferramentas para portar apps a seus chips, como GPUs da AMD e processadores da Apple.

Colin Brace, vice-presidente de Engenharia de Software da AWS Annapurna Labs, unidade que desenvolve os chips da Amazon, disse à TechCrunch que a empresa oferece infraestrutura para levar um projeto do protótipo à produção. Segundo ele, o Trainium reúne treinamento e inferência em uma mesma plataforma, o que, na visão da AWS, reduz custos em comparação com provedores de nuvem dedicados à computação de IA, como CoreWeave, Nebius e Firmus.

A AWS também afirmou que trabalha com a comunidade do PyTorch para remover do projeto principal trechos de código que vinculam o framework a chips específicos. Em comunicado no blog da empresa, a Amazon disse que o objetivo é tornar o PyTorch independente de hardware para todos os desenvolvedores, e não apenas para usuários do Trainium.

A reportagem ressalta que a mudança beneficia concorrentes da Nvidia, mas que o PyTorch existe justamente para esconder a complexidade de fazer código de IA rodar em hardware diferentes. Ainda não está claro se a iniciativa ampliará as opções e reduzirá custos para os desenvolvedores, como promete a Amazon, ou apenas criará mais problemas de configuração.