async inference

Categoria: modelos e inferência

Inferência assíncrona onde a requisição é enviada e o resultado é coletado posteriormente via callback ou polling, permitindo que o agente de workflow continue executando outros passos enquanto aguarda a resposta do modelo.