reasoning tokens

Categoria: modelos e inferência

Tokens consumidos pelo processo de raciocínio interno do modelo, visíveis ou não na saída final. São cobrados pelo provedor e consomem parte da janela de contexto, mas não fazem parte da resposta entregue ao usuário.