Haiku, Sonnet, Opus: a legolcsóbb modellt válassza, amely elvégzi a munkát

A modellcsaládok méretekben készülnek, és az árkülönbség hatalmas — gyakran 10–30× a kicsi és a nagy szint között. A készség neve: útválasztás.

• Kicsi (pl. Haiku): osztályozás, adatkinyerés, címkézés, rutinválaszok, rövid szövegek összefoglalása. Nagy mennyiség, kis tét — ide kell folynia a tokenköltése zömének.
• Közepes (pl. Sonnet): ügyfélnek szánt szövegek vázlata, többlépéses gondolkodás, a napi ügynökmunka nagy része. Az alapértelmezés.
• Nagy (pl. Opus): szerződések, összetett elemzés, minden, ahol a tévedés valódi pénzbe kerül.

A teszt: futtasson át 20 valódi példát a kisebb modellen. Ha átmegy a minőségi lécén, most csökkentette a feladat költségét 90%-kal. Feladat szerint irányítson, ne hűségből — a szintek keverése egy folyamaton belül („a Haiku válogat, az Opus válaszol a nehezekre”) pontosan az, ahogy a profik csinálják.