Anatomia LLM
Agent to warstwa nad modelem.
Ta seria schodzi pod nią.
12 części ukazało się na webflux.pl (oznaczone ↗). Kolejne będą pojawiać się tutaj.
Spis treści
- 1. Czym LLM nie jest — ani wyszukiwarką, ani bazą wiedzy, ani programem webflux.pl
- 2. Tokenizacja — jak tekst przestaje być tekstem (i dlaczego polski kosztuje więcej) webflux.pl
- 3. Embeddingi — czym jest znaczenie dla maszyny webflux.pl
- 4. Attention — jak model decyduje, na co patrzeć webflux.pl
- 5. Trening — skąd model ma charakter: pretraining, SFT, RLHF webflux.pl
- 6. Inference — jak powstaje odpowiedź, token po tokenie webflux.pl
- 7. Halucynacje nie są błędem — są konsekwencją mechanizmu webflux.pl
- 8. Multimodalność — model, który widzi, kontra agent z narzędziem webflux.pl
- 9. Dlaczego długi kontekst jest drogi — KV cache i koszt kwadratowy webflux.pl
- 10. Rozmiar, kwantyzacja, destylacja — kiedy mniejszy model wygrywa webflux.pl
- 11. Modele rozumujące — czym różni się „thinking” i kiedy za nie przepłacasz webflux.pl
- 12. Gdzie kończy się model — granica między modelem, pętlą i agentem webflux.pl