Timestral, da Mistral, faz previsões de números e roda num processador comum

A Mistral lançou o Timestral, uma família de quatro modelos pequenos para prever séries temporais, como leituras de sensores, vendas ou volume de ligações. O maior tem 209 milhões de parâmetros, dispensa GPU, e a Mistral diz que ele fica em primeiro em três benchmarks públicos de previsão. O código está no GitHub sob uma licença MIT modificada.

Por ·

Timestral, da Mistral, faz previsões de números e roda num processador comum

No dia 15 de outubro, a Mistral lançou o Timestral, sua primeira família de modelos de base para séries temporais. Série temporal é qualquer número registrado ao longo do tempo, como leituras de um sensor por hora, vendas por dia ou ligações por hora. Um modelo de base para isso é treinado com muitas séries diferentes, para conseguir prever dados que nunca viu sem ser treinado com os seus dados antes. A Mistral chama isso de previsão zero-shot.

Os modelos são pequenos para os padrões de hoje. Há quatro tamanhos, de 5 milhões a 209 milhões de parâmetros, e a Mistral diz que nenhum deles precisa de GPU para fazer previsões.

O que a Mistral diz que ele faz

A Mistral diz que o modelo de 209 milhões de parâmetros fica em primeiro nos três principais benchmarks públicos de previsão, GIFT-Eval, TIME e fev-bench, e supera o melhor anterior com cerca de dois terços dos parâmetros. Também diz que cada um dos quatro tamanhos prevê melhor que qualquer modelo público do mesmo tamanho, e que o modelo de 28 milhões supera o Chronos-2, cerca de quatro vezes maior, em dois desses benchmarks. A Mistral enviou os resultados para os rankings do GIFT-Eval e do TIME.

As previsões vêm como faixas, com 21 quantis, então dá para ver o quanto uma previsão é incerta, em vez de receber um número só. Os modelos conseguem prever várias séries relacionadas juntas e receber informações extras conhecidas com antecedência, como um calendário de feriados, uma programação de produção ou uma previsão do tempo.

Quão rápido ele é

Num processador comum de servidor com 8 threads, a Mistral diz que prever um dia à frente a partir de três semanas de dados a cada 15 minutos leva 17 milissegundos com o modelo menor e 113 milissegundos com o maior. O modelo de 123 milhões fica a 0,2% da nota do maior gastando três quartos do tempo.

O exemplo da própria Mistral é uma fábrica com milhares de sensores, em que o Timestral aponta leituras fora do normal e um agente com modelo de linguagem procura nos registros de manutenção para sugerir uma causa.

Onde conseguir

A Mistral publicou um repositório no GitHub para rodar o Timestral com os seus próprios dados, sob o que ela descreve como uma licença MIT modificada. Empresas que querem ajustar o modelo com dados próprios podem fazer isso pelo Mistral Forge, que pode rodar no hardware da empresa, inclusive em máquinas sem conexão com a internet. Um relatório técnico com os resultados completos ainda vai sair.

O que testar

Se você já faz alguma previsão numa planilha, como pedidos por semana, escala de pessoal nos horários de pico ou nível de estoque, exporte um ano desse histórico e rode no menor modelo do Timestral, pelo repositório. Compare a previsão dele para o último mês com o que aconteceu de verdade e com o método que você usa hoje. Leia os termos da licença antes de colocar o modelo num produto.

O que a gente pensa

A maior parte das notícias de IA deste ano fala de modelos enormes. Um modelo de previsão que roda em milissegundos num servidor comum é útil de outro jeito, porque previsão é um trabalho que equipes pequenas já fazem à mão toda semana. A gente esperaria o relatório técnico antes de confiar no ranking dos benchmarks, e testaria com os nossos números de qualquer forma.

Fontes