📸 Créditos da imagem: Ju Jae-young/Shutterstock
A OpenAI anunciou uma nova modalidade de processamento para o GPT-5.6 Sol que pode elevar a velocidade de resposta em até 14 vezes em relação ao padrão.
Ultrafast: o novo modo de processamento
Batizado de Ultrafast, o serviço foi desenvolvido para situações nas quais decisões e respostas precisam ocorrer em tempo real.
A novidade é disponibilizada inicialmente na API e utiliza infraestrutura da Cerebras, capaz de alcançar até 750 tokens de saída por segundo.
Aplicações do Ultrafast
O Ultrafast pode ser utilizado em diversas áreas, incluindo:
- Atendimento ao cliente
- Análise financeira
- Resposta a incidentes
- Comércio eletrônico
- Pesquisa interativa
A proposta da OpenAI é reduzir a necessidade de escolher entre modelos mais inteligentes e respostas mais rápidas.
Parceria com a Cerebras
A infraestrutura que sustenta a nova modalidade vem da parceria da OpenAI com a Cerebras, empresa responsável por fornecer a tecnologia de inferência de baixa latência utilizada no serviço.
Com essa estrutura, o GPT-5.6 Sol pode atingir a taxa anunciada de até 750 tokens por segundo.
📰 Leia a notícia completa em: Olhar Digital »