Dados gerados por inferência de IA elevam custo de armazenamento, afirma WD

Os custos de armazenamento de dados são pouco considerados no planejamento de infraestrutura para inteligência artificial, segundo a MIT Technology Review. Conteúdo patrocinado pela WD, o texto argumenta que a inferência, etapa em que o modelo responde a comandos, deixa para trás um volume crescente de dados.

Segundo a WD, um vídeo de oito segundos gerado por IA, entregue ao usuário em arquivo de 3,97 MB com resolução 720p, deixou mais de 500 MB de dados associados no back-end, incluindo registros, cache, renderizações intermediárias, cópias de segurança e registros de segurança. A diferença equivale a 130 vezes o tamanho do arquivo final.

O texto cita projeções da McKinsey, segundo as quais a demanda por inferência crescerá 35% ao ano até 2030, contra 22% para o treinamento. Ainda de acordo com a consultoria, a inferência responderá por mais de 40% da demanda total dos data centers ao fim da década.

Uma pesquisa da IDC encomendada pela WD ouviu 763 tomadores de decisão de TI e negócios. Quase 95% disseram ter registrado aumento no volume de dados desde a adoção da IA generativa nos últimos 12 meses, e cerca de 61% relataram crescimento de 25% ou mais. Já 96% afirmaram prever necessidade de recuperação mais rápida de arquivos para inferência e para geração aumentada por recuperação (RAG).

A reportagem afirma que dados retidos deixam de ser apenas arquivo e passam a alimentar novas cargas de trabalho. Para o texto, o orçamento de IA das empresas tende a ser definido com foco excessivo em computação, o que pode tornar o armazenamento um item relevante em 12 a 18 meses.