o1: model, który myśli przed odpowiedzią i wystawia za to rachunek
12 września 2024 OpenAI wypuściło model, który przed odpowiedzią milczał. Czasem kilka sekund, czasem minutę. W tym czasie pisał: rozważał podejścia, sprawdzał je, wycofywał…
Wątek · 12 tekstów · strona 2
#modele-jezykowe
GPT-4o: jeden model zamiast trzech
Wcześniej rozmowa głosowa z ChatGPT przechodziła przez trzy modele, a w każdym ginęło coś po drodze: ton, śmiech, drugi rozmówca. GPT-4o słyszał dźwięk, a nie jego transkrypcję. A potem pokazał, co się dzieje, kiedy ludzie zaczynają traktować model jak kogoś.
Długi kontekst: zmieścić nie znaczy przeczytać
Od maja 2023 do lutego 2024 okno kontekstu urosło z kilku tysięcy do miliona tokenów. Przez ten sam czas kolejne badania pokazywały, że to, co mieści się w oknie, nie zawsze trafia do odpowiedzi.
LLaMA → Llama 2: model, który wyszedł z laboratorium
Wiosną 2023 duży model językowy przestał być wyłącznie usługą na cudzym serwerze i stał się plikiem na dysku. GPT-4 zniknął z API, bo tak zdecydował jego właściciel. Llama 2 pobrana w 2023 roku działa do dziś.
GPT-4: świadectwo bez metryczki
GPT-4 przyszedł z wynikiem z egzaminu adwokackiego i bez słowa o tym, czym jest. Był wyraźnie lepszy od poprzednika i był pierwszym wielkim modelem, o którym twórcy powiedzieli tylko, co umie.