batch prompting
Categoria: prompt
Técnica de enviar múltiplas entradas em um único prompt para o LLM processar de uma vez, em vez de fazer uma chamada por item. Reduz custo e latência total quando há muitos itens independentes para processar.