Przejdź do treści
Agentic Web Seria · Genealogia modelu · 3/12 · 6 min czytania

GPT-4: świadectwo bez metryczki

GPT-4 przyszedł z wynikiem z egzaminu adwokackiego i bez słowa o tym, czym jest. Był wyraźnie lepszy od poprzednika i był pierwszym wielkim modelem, o którym twórcy powiedzieli tylko, co umie.

Świetlisty symbol GPT-4 otoczony wieńcem laurowym, obok świadectwa z egzaminu adwokackiego i tajemniczej dokumentacji oznaczonej znakiem zapytania.
GPT-4 pokazał, co potrafi, ale nie zdradził, jak został zbudowany. Wyniki egzaminów zastąpiły szczegółową metrykę modelu.

14 marca 2023 OpenAI pokazało GPT-4 i od razu dało mu świadectwo: egzamin adwokacki zdany z wynikiem w okolicach najlepszych dziesięciu procent zdających, podczas gdy GPT-3.5 lądował w dziesięciu procentach najsłabszych. Przez następne półtora roku „poziom GPT-4” był jednostką, w której cała branża mierzyła swoje modele.

Świadectwo było. Metryczki nie było. W raporcie technicznym OpenAI napisało wprost, że ze względu na konkurencję i bezpieczeństwo nie poda żadnych szczegółów o architekturze, rozmiarze modelu, sprzęcie, mocy obliczeniowej użytej do treningu ani o danych. To przejście ma więc dwie strony: model wyraźnie lepszy od poprzednika i pierwszy wielki model, o którym jego twórcy powiedzieli tylko, co umie, a nie czym jest.

Poprzednia część była o tym, jak model nauczył się słuchać. Ta jest o tym, jak zaczął zdawać egzaminy i przestał się tłumaczyć.

Kiedy

  • Sierpień 2022: według OpenAI kończy się trening GPT-4. Do premiery mija ponad siedem miesięcy, poświęconych głównie dostrajaniu i testom bezpieczeństwa.
  • 7 lutego 2023: Microsoft uruchamia nowego Binga z czatem. 14 marca potwierdza, że od początku działał on na wczesnej wersji GPT-4. Część świata korzystała z GPT-4, zanim usłyszała jego nazwę.
  • 14 marca 2023: premiera. GPT-4 w płatnym ChatGPT Plus i w API, w dwóch wariantach: z oknem około 8 tysięcy tokenów i z oknem około 32 tysięcy.
  • 13 czerwca 2023: wywoływanie funkcji w API, czyli model może poprosić twój kod o uruchomienie narzędzia.
  • Wrzesień 2023: użytkownicy ChatGPT Plus mogą wysyłać modelowi obrazy. Pokazane w marcu „widzenie” trafia do ludzi pół roku później.
  • Listopad 2023: GPT-4 Turbo z oknem 128 tysięcy tokenów i dużo niższą ceną.

Co odziedziczył

Cały przepis z ChatGPT: pretrening na przewidywanie następnego tokena, potem trening na posłuszeństwo z ocenami ludzi. Raport GPT-4 opisuje go tym samym zdaniem, którym można by opisać poprzednika. Odziedziczył też granicę wiedzy w okolicach września 2021 roku, mimo że był o rok młodszy, bo dane do pretreningu zbierano z tego samego okresu.

Odziedziczył wreszcie sposób, w jaki się go używa. Okno czatu, format wiadomości z rolami, ta sama cena za token jako jednostka rozliczenia. Z perspektywy firmy, która w marcu 2023 miała już integrację z gpt-3.5-turbo, przejście na GPT-4 było zmianą jednej nazwy w kodzie. To ważne: od tej chwili wymiana modelu na lepszy przestała wymagać przebudowy systemu, a zaczęła wymagać tylko decyzji o koszcie.

Co dostał nowego

Skok w jakości przy tym samym przepisie. Na egzaminach, zadaniach programistycznych i w trudniejszych pytaniach różnica wobec GPT-3.5 była widoczna gołym okiem. Nikt poza OpenAI nie wie dokładnie, skąd się wzięła, bo właśnie tego raport nie mówi. Nieoficjalne doniesienia mówiły o bilionie parametrów i mieszance ekspertów, ale OpenAI nigdy tego nie potwierdziło.

Przewidywalność skali. Najciekawsze zdanie raportu dotyczy nie modelu, tylko metody. OpenAI przewidziało końcowy błąd GPT-4, zanim go wytrenowało, na podstawie modeli trenowanych przy dziesięć tysięcy razy mniejszej mocy obliczeniowej. Trening wielkiego modelu przestał być zakładem, a stał się inwestycją z prognozą. To jedna z przyczyn wyścigu na coraz większe klastry w kolejnych latach.

Polski przestał być drugą kategorią. Polscy badacze sprawdzili oba modele na Lekarskim Egzaminie Końcowym. GPT-3.5 przy najbardziej przewidywalnych ustawieniach nie zdał żadnej polskiej wersji egzaminu, a angielskie zdał wszystkie. GPT-4 zdał wszystkie, z tym samym średnim wynikiem, około 80 procent, po polsku i po angielsku. Język nadal kosztował więcej tokenów, o czym „Tokenizacja”, ale przestał kosztować tyle jakości. Uczciwie trzeba dodać: autorzy badania zauważyli, że wynik GPT-4 był zwykle niższy niż średnia studentów medycyny.

Dłuższe okno i obraz na wejściu. 32 tysiące tokenów to kilkadziesiąt stron w jednym zapytaniu, osiem razy więcej niż w pierwszym gpt-3.5-turbo. Zapowiedź rozumienia obrazów pokazała, dokąd to zmierza, choć dla większości użytkowników przyszła dopiero jesienią. Czym różni się model, który widzi, od agenta z narzędziem do obrazów, opisuje „Multimodalność”.

Czego to nie rozwiązało

  • Zmyślania. Raport pisze, że GPT-4 „nadal nie jest w pełni wiarygodny” i zmyśla fakty, choć rzadziej niż poprzednik. Rzadziej znaczy: tak, że trudniej to zauważyć.
  • Wiedzy, kiedy się nie wie. To najmniej znany i najważniejszy wykres z raportu. Dobrze skalibrowany model, który ocenia swoją pewność na 70 procent, ma rację mniej więcej w 70 procentach przypadków. Według raportu GPT-4 po samym pretreningu był skalibrowany bardzo dobrze, a po treningu na posłuszeństwo kalibracja się pogorszyła. Model nauczony być pomocnym gorzej wie, kiedy powinien się zawahać.
  • Uczenia się z doświadczenia. „Nie uczy się na swoich doświadczeniach” — to też cytat z raportu. Każda rozmowa zaczyna się od tych samych wag.
  • Rzetelności samych egzaminów. W 2024 roku badacz z MIT przeliczył wynik z egzaminu adwokackiego. „Najlepsze dziesięć procent” liczono względem osób zdających egzamin kolejny raz, które wypadają wyraźnie słabiej. Na tle wszystkich zdających GPT-4 był w okolicach 69. percentyla, a w części pisemnej, najbliższej prawdziwej pracy prawnika, wyraźnie niżej.

Egzamin mówi, jak model wypada na egzaminie. O tym, jak wypadnie w twojej firmie, mówi tylko test na twoich zadaniach.

Co to zmieniło dla stron i firm

Wyniki z egzaminów stały się marketingiem. Od GPT-4 każda premiera zaczyna się od tabeli testów porównawczych. To wygodne dla producentów i mało przydatne dla firm, bo żaden test nie wygląda jak faktura w twoim ERP ani zapytanie z twojego sklepu. Jak sprawdzać model na własnych przypadkach, opisuje „Jak wiedzieć, że agent robi to, co powinien”.

Budowanie na czarnej skrzynce. Skoro producent nie mówi, czym jest model, jedyną rzeczą, którą firma może kontrolować, jest to, której wersji używa. GPT-4 miał w API migawki z datą w nazwie, jak gpt-4-0613, a ogólna nazwa wskazywała na tę, którą OpenAI uznało za aktualną. Tu zaczyna się praktyka opisana w części pierwszej: w produkcji wskazuje się migawkę, nie alias.

Model zaczął sięgać po narzędzia. Wywoływanie funkcji z czerwca 2023 to najważniejsza zmiana tego przejścia dla każdego, kto dziś buduje agentów. Programista opisuje funkcję, a model, zamiast odpowiadać tekstem, zwraca żądanie jej wywołania z gotowymi argumentami. Wykonuje je zwykły kod, nie model, o czym szerzej w „Anatomia definicji narzędzia”. OpenAI w tym samym ogłoszeniu radziło brać dane tylko z zaufanych narzędzi i pytać użytkownika o zgodę przed działaniami o realnych skutkach, jak wysłanie maila czy zakup. Obie rady są dziś osobnymi rozdziałami: zatruty kontekst i okno zgody, które naprawdę chroni.

GPT-4 stał się miarą w debacie o regulacji. Tydzień po premierze list otwarty z ponad 30 tysiącami podpisów wezwał laboratoria do wstrzymania na co najmniej sześć miesięcy treningu systemów „potężniejszych niż GPT-4”. Nikt się nie zatrzymał, ale konkretny model po raz pierwszy posłużył za granicę w dyskusji o tym, co jest niebezpieczne.

Długie okno przyszło z rachunkiem. Wariant z 32 tysiącami tokenów kosztował dwa razy więcej za token niż podstawowy. Pierwszy raz było widać wprost, że długość kontekstu to nie tylko możliwość, ale i koszt, o którym „Dlaczego długi kontekst jest drogi”.

Jedna myśl na drogę

GPT-4 schodził z API OpenAI po kawałku. Wariant z długim oknem wyłączono w czerwcu 2025, pierwszą migawkę z premiery, gpt-4-0314, 26 marca 2026, a ostatnią, gpt-4-0613, dostępną też pod samą nazwą gpt-4, 23 października 2026. OpenAI jako następcę wskazało GPT-5.6 Sol. Przez większość tego czasu był punktem odniesienia, o którym jego twórcy nie powiedzieli, czym jest. Ten wzór został z nami: wiemy coraz więcej o tym, co modele umieją, i coraz mniej o tym, jak powstały. Dlatego tak ważne stały się modele, które można pobrać i obejrzeć od środka. O nich jest następna część: o Llamie.


Źródła