Desenho com LLMs: utilize código puro quando possível, LLMs quando necessário.

Recentemente escrevi sobre a "Coding Agent Sandwich" , um padrão de desenho para uma estrutura de agentes de codificação. O padrão consiste num saboroso recheio de invocações de LLM (Low Language Modeling) intercalado entre duas fatias de código puro (POC). A sua regra prática é: utilizar POC sempre que possível e LLMs quando necessário.

O diagrama seguinte mostra como o exemplo prático da norma, o workflow implement plan , aplica esta regra. O fluxo de trabalho é decomposto numa árvore de responsabilidades. Cada responsabilidade é implementada utilizando um POC (cinza) ou um LLM (amarelo). Os LLM são utilizados apenas para as responsabilidades que exigem julgamento, como escrever código e corrigir uma compilação com falhas. O fluxo de trabalho tem orquestração em dois níveis. O POC orquestra o fluxo de trabalho global, e o agente LLM que implementa cada tarefa decide qual a ação a tomar a seguir dentro dessa tarefa.