Context window
Limitele contextului lung: context rot, lost in the middle, gestionarea contextului în RAG.
Când NU folosești RAG: alternativele și pragurile reale
Nu orice corpus are nevoie de retrieval. Arbore de decizie, praguri de volum și trafic, plus patru alternative care bat RAG-ul pe felia lor.
Ce este un LLM și de ce are nevoie de context extern
Cum funcționează un LLM, unde stă de fapt ce știe, de ce inventează un răspuns când nu are datele tale și ce înseamnă, mecanic, context extern.
Fereastra de context la LLM: cum decizi ce intră în prompt
Ce este fereastra de context, de ce un model cu un milion de tokeni nu rezolvă totul și cum construiești un buget de prompt cu plafoane clare.
Strategii de chunking pentru RAG: cum împarți documentele
Fixed-size, recursive, semantic sau document-aware? Cum alegi strategia de chunking pentru RAG după tipul documentului, cu chunk size și overlap.
De ce eșuează un sistem RAG în producție (și cum eviți)
Un sistem RAG care merge perfect în demo se prăbușește în producție din cauze previzibile. Vezi cele 7 puncte de eșec și cum le previi înainte de lansare.