Agentic Web Seria · Genealogia modelu · 2/12 2 listopada 2026 · 6 min czytania

GPT-3 → ChatGPT: model, który nauczył się słuchać

W listopadzie 2022 sto milionów ludzi uznało, że widzi nowy, dużo mądrzejszy model. Pod spodem była ta sama rodzina co od 2020 roku. Zmieniło się co innego: model nauczono słuchać i podano go w formie rozmowy.

Tekst: Łukasz Jajor

GPT-3 z 2020 roku i ChatGPT z 2022 roku przedstawione jako dwa świetliste modele AI. Symbol ucha i rozmowy ilustruje zmianę sposobu interakcji z modelem. — Od GPT-3 do ChatGPT. Przełomem nie była wyłącznie inteligencja modelu, lecz sposób, w jaki nauczono go odpowiadać na ludzkie polecenia i prowadzić rozmowę.

30 listopada 2022 OpenAI udostępniło za darmo okno rozmowy z modelem językowym. Pięć dni później korzystał z niego milion osób, po dwóch miesiącach około stu milionów. Większość z nich była przekonana, że widzi nowy, dużo mądrzejszy model.

Nie widziała. Pod spodem pracował model z rodziny, która istniała od 2020 roku, z tą samą architekturą i wiedzą kończącą się w 2021. Zmieniło się co innego: model nauczono słuchać poleceń i podano go w formie rozmowy. To pierwsze przejście w tej serii i od razu najważniejsza lekcja całej genealogii: największy skok nie musi być skokiem w wiedzy modelu.

Jak czytać nazwy z tej części, wyjaśnia pierwsza część serii. Tu wystarczy jedno: „GPT-3.5” to nie jeden model, tylko nazwa, którą OpenAI nadało całej grupie modeli dopiero w dniu premiery ChatGPT.

Kiedy

28 maja 2020: publikacja GPT-3, modelu o 175 miliardach parametrów. 11 czerwca 2020 OpenAI otwiera do niego dostęp przez API, na zaproszenia.
Styczeń–marzec 2022: InstructGPT, czyli GPT-3 dotrenowany do wykonywania poleceń z pomocą ocen ludzi. 15 marca w API pojawiają się text-davinci-002 i code-davinci-002.
28 listopada 2022: text-davinci-003.
30 listopada 2022: ChatGPT. Tego samego dnia OpenAI zaczyna nazywać całą tę grupę modeli serią GPT-3.5.
1 marca 2023: model z ChatGPT trafia do API jako gpt-3.5-turbo, za jedną dziesiątą ceny text-davinci-003.

Co odziedziczył

Prawie wszystko, co decyduje o tym, czym model jest. Tę samą architekturę transformera i ten sam sposób powstawania odpowiedzi, token po tokenie. Wiedzę z pretreningu, zamkniętą w 2021 roku, więc o wydarzeniach z 2022 ChatGPT w dniu premiery nie wiedział nic. I tę samą naturę: to nadal był model przewidujący prawdopodobny ciąg dalszy tekstu, a nie baza wiedzy ani wyszukiwarka, o czym szerzej w tekście „Czym LLM nie jest”.

Odziedziczył też skalę. GPT-3 pokazał w 2020, że duży model potrafi wykonać nowe zadanie po kilku przykładach w poleceniu, bez osobnego trenowania. Ale żeby z tego skorzystać, trzeba było umieć pisać polecenia jak początek dokumentu, który model ma dokończyć. Zdolność była, interfejsu nie było.

Co dostał nowego

Dwie rzeczy, i żadna z nich nie jest „więcej parametrów”.

Pierwsza to trening na posłuszeństwo. Najpierw ludzie pisali wzorcowe odpowiedzi na polecenia i na nich model dotrenowano. Potem oceniali kilka odpowiedzi modelu, od najlepszej do najgorszej, a z tych ocen powstał osobny model nagrody, który dalej uczył model główny. To jest RLHF, uczenie ze wzmocnieniem na podstawie ocen ludzi, opisane w tekście „Trening — skąd model ma charakter”. ChatGPT dostał do tego jeszcze dane w formie rozmów, w których trenerzy pisali obie strony dialogu.

Efekt najlepiej pokazuje liczba z pracy o InstructGPT: ludzie woleli odpowiedzi modelu o 1,3 miliarda parametrów od odpowiedzi GPT-3 o 175 miliardach. Model sto razy mniejszy, ale nauczony słuchać, wygrywał z dużym, który tylko dopisywał tekst.

Druga to forma. Okno czatu zamiast pola na prompt w panelu dla programistów. Rozmowa, w której można poprawić polecenie, zamiast jednego strzału. Za darmo, bez klucza API i bez karty. Formą okazał się też format wiadomości z rolami (system, użytkownik, asystent), który w marcu 2023 trafił do API i stał się nieformalnym standardem. Dziś wielu dostawców oferuje punkty dostępu „zgodne z OpenAI” właśnie dlatego.

Model nie stał się w listopadzie 2022 dużo mądrzejszy. Stał się dostępny i posłuszny. Dla użytkownika to wyglądało tak samo.

Czego to nie rozwiązało

OpenAI wypisało ograniczenia w samym ogłoszeniu i prawie wszystkie są aktualne do dziś, w innej skali.

Wiarygodnie brzmiące bzdury. „Model czasem pisze odpowiedzi, które brzmią wiarygodnie, ale są błędne albo nie mają sensu” — tak brzmiało pierwsze zastrzeżenie. Trening na posłuszeństwo zmniejszył problem, ale go nie usunął, bo wynika z samego mechanizmu, o czym „Halucynacje nie są błędem”. W agentach ten sam mechanizm ma postać opisaną w „Agent podaje dane, których nie ma”.
Gadatliwość i powtarzalne zwroty. Model nagradzany przez ludzi za odpowiedzi „pomocne” uczył się, że dłuższe i grzeczniejsze zwykle wygrywa. To pierwszy widoczny przykład tego, że model optymalizuje ocenę, a nie prawdę.
Spełnianie szkodliwych poleceń i uprzedzenia. Zabezpieczenia dało się obchodzić przeformułowaniem prośby, co internet sprawdzał od pierwszego tygodnia.
Brak pamięci i brak działania. Każda rozmowa zaczynała się od zera, a model nie mógł niczego sprawdzić ani zrobić poza oknem. Pamięć przyszła później i, jak opisuje „Model nie pamięta — pamięta produkt”, jest funkcją produktu, nie modelu.
Wiedza zamrożona w 2021. Model nie wiedział, czego nie wie, i odpowiadał na pytania o rzeczy nowsze z taką samą pewnością.

InstructGPT przyznawał to wprost: model „nadal popełnia proste błędy”, na przykład przyjmuje fałszywe założenia zawarte w pytaniu. Pytanie „dlaczego X jest prawdą” dostawało uzasadnienie, nawet gdy X prawdą nie było.

Co to zmieniło dla stron i firm

Odpowiedź zamiast listy linków. W grudniu 2022 kierownictwo Google ogłosiło wewnętrzny alarm, bo obawiało się o wyszukiwarkę: ChatGPT pokazał, że na pytanie da się odpowiedzieć bez wysyłania człowieka na stronę. To początek wszystkiego, o czym senteri pisze w dziale Agentic Web: maszyna staje między człowiekiem a stroną i to ona czyta treść.

Tani tekst, drogie sprawdzanie. Już na początku grudnia 2022 Stack Overflow tymczasowo zakazał odpowiedzi pisanych przez ChatGPT. Powód nie był ideologiczny: odpowiedzi wyglądały dobrze, często były błędne, a ich sprawdzenie kosztowało więcej niż napisanie. Ta asymetria dotyczy każdej strony, na którą ktoś może wrzucić treść.

Pracownicy byli szybsi niż polityka firmy. Wiosną 2023 pracownicy działu półprzewodników Samsunga, według doniesień koreańskich mediów, wklejali do ChatGPT kod źródłowy i notatki ze spotkań. 2 maja firma zakazała części pracowników narzędzi generatywnych. Wzór powtórzył się wszędzie: narzędzie trafia do firmy przez przeglądarkę pracownika, zanim ktoś zdąży zapytać, gdzie trafiają wklejone dane.

Europa pierwszy raz powiedziała „stop”. 31 marca 2023 włoski urząd ochrony danych zablokował ChatGPT we Włoszech. Usługa wróciła 28 kwietnia, po tym jak OpenAI rozbudowało informację o przetwarzaniu danych i dało Europejczykom formularz sprzeciwu wobec używania ich rozmów do treningu. Pierwszy kontakt modelu z RODO trwał cztery tygodnie i od razu pokazał, że w Europie dane w rozmowie to dane osobowe.

Model stał się częścią do wbudowania. Od marca 2023, przy cenie dziesięć razy niższej niż poprzednio, model przestał być eksperymentem dla laboratoriów i stał się komponentem, który można podpiąć do formularza, sklepu czy systemu ERP. Co się dzieje z taką prośbą po drugiej stronie, opisuje „Za HTTP”.

Jedna myśl na drogę

Kiedy następnym razem ktoś pokaże „przełomowy nowy model”, warto zapytać, co naprawdę się zmieniło: wagi, trening na posłuszeństwo czy forma, w jakiej dostajesz go do ręki. W listopadzie 2022 największa zmiana dotyczyła dwóch ostatnich. Następna część będzie o przejściu, w którym zmieniło się wszystko naraz: o GPT-4.