A Dígitro Tecnologia implantou um sistema de orquestração de modelos de linguagem que reduz a demanda por GPUs (unidades de processamento gráfico, originalmente criadas para imagens e hoje usadas em inteligência artificial). A inovação garante eficiência, escalabilidade e custos mais competitivos em aplicações que vão do atendimento digital à análise avançada de dados.

Segundo Agenor Pacheco Junior, Gerente de Produtos e Inovação da Dígitro, o objetivo foi enfrentar um dos maiores desafios da inteligência artificial no mundo corporativo: o custo. “Grandes modelos de linguagem são extremamente pesados. A GPU é cara e consome muita energia. Com a orquestração, conseguimos acionar apenas o modelo necessário no momento certo, usando a mesma infraestrutura. Isso torna a IA economicamente viável para diversas aplicações”, explica.

Na prática, a orquestração sustenta os serviços de IA já embarcados nas soluções da empresa, como por exemplo sua plataforma de automação de atendimento em múltiplos canais. Entre as funcionalidades disponíveis estão o processamento de linguagem natural (PLN) para interpretar perguntas abertas, o RAG (Retrieval-Augmented Generation), que cria uma base de conhecimento específica de cada organização, e a visão computacional, capaz de extrair informações de imagens, como por exemplo, dados de carteirinhas de plano de saúde para marcação de consultas.

De acordo com Agenor Junior, o grande desafio superado neste projeto foi o de trazer economia com performance, otimizando o uso de GPUs e apresentando tempos de resposta curtos, exigidos por aplicações em tempo real. “Nosso objetivo é otimizar recursos e entregar inteligência artificial de forma acessível, eficiente e escalável. A orquestração é a camada invisível que sustenta nossos produtos e garante sustentabilidade no uso da IA”, complementa.

O desenvolvimento começou em outubro de 2024 e hoje já está em operação, com foco particular na automação de atendimento e análise de diálogos em contact centers, onde o uso de inteligência artificial já faz parte do dia a dia das operações. O movimento reforça a posição da empresa em linha com tendências globais.