Przejdź do treści
Agentic Web · 5 min czytania

FlashProve: dowód, że odpowiedział model, za który płacisz

Anthropic pokazał prototyp, który kryptograficznie dowodzi, że odpowiedź napisał zadeklarowany model, bez ujawniania wag. Działa na modelu o 400 miliardach parametrów, ale kosztuje prawie sto razy więcej niż sama odpowiedź.

FlashProve – kryptograficzna weryfikacja odpowiedzi modelu AI o 400 miliardach parametrów, z symbolem potwierdzenia i kosztem dowodu blisko 100 razy wyższym od generowania odpowiedzi.
FlashProve: można udowodnić, który model AI wygenerował odpowiedź. Na razie dowód kosztuje niemal sto razy więcej niż sama odpowiedź.

Firma płaci za dostęp do konkretnego modelu. Pyta API, dostaje sensowną odpowiedź i nie ma jak sprawdzić, który model ją napisał. Mógł to być model z umowy. Mógł to być jego tańszy, mocniej skompresowany wariant, inny model albo odpowiedź poprawiona po drodze przez kogoś, kto ma dostęp do serwera. Odpowiedź z każdego z nich może wyglądać przekonująco.

2 listopada Anthropic opublikował FlashProve, prototyp, który zamienia „zaufaj nam” w coś, co da się sprawdzić matematycznie. Warto mu się przyjrzeć, bo w tej samej chwili pokazuje, jak daleko zaszła ta technika i jak daleko jest jeszcze od codziennego użytku.

Problem, który już ma swoje dowody

Podmiana modelu nie jest teoretycznym zagrożeniem. Moonshot AI, twórca modeli Kimi, po premierze Kimi K2 zauważył wyraźne różnice w jakości wywołań narzędzi między dostawcami, którzy serwowali ten sam otwarty model. Przyczyną nie był model, tylko sposób jego uruchomienia: źle ustawione parametry dekodowania i różnice w implementacji. Firma zbudowała narzędzie K2 Vendor Verifier, które porównuje dostawców na tych samych zadaniach, a w kwietniu 2026 roku, razem z Kimi K2.6, udostępniła jego rozszerzoną wersję.

W serii „Genealogia modelu” wraca wątek, który nazywamy „ta sama nazwa, inny model”: migawki, aliasy i ciche aktualizacje sprawiają, że pod jedną nazwą w API działają różne modele. Narzędzia takie jak weryfikator Moonshot pozwalają zauważyć skutek, czyli gorsze wyniki. FlashProve próbuje udowodnić przyczynę, czyli tożsamość modelu.

Jak działa dowód

FlashProve korzysta z dowodów z wiedzą zerową (zkSNARK). Pozwalają one wykazać, że obliczenie wykonano poprawnie, bez ujawniania danych, na których je wykonano. Tu tymi danymi są wagi modelu, czyli jego najcenniejsza tajemnica handlowa.

Działa to w dwóch krokach. Najpierw dostawca publikuje zobowiązanie, rodzaj odcisku palca konkretnego zestawu wag. Potem do odpowiedzi dołącza dowód, że model o tym odcisku, dostawszy dany prompt, wygenerowałby właśnie te tokeny. Każdy, kto ma zobowiązanie, prompt, odpowiedź i dowód, może to sprawdzić na zwykłym procesorze, bez uruchamiania modelu i bez dostępu do wag. Jeśli ktoś podmienił model albo zmienił odpowiedź po drodze, dowód się nie zweryfikuje.

Prototyp przetestowano na Llamie 4 Maverick, otwartym modelu Mety o 400 miliardach parametrów, z wagami skwantyzowanymi do 4 bitów.

Co zmierzonoWynik według Anthropic
Szybkość tworzenia dowoduok. 110 tokenów na sekundę na jednym GPU H100
Rozmiar dowoduok. 19 MB dla zapytania o długości 1024 tokenów
Weryfikacjaok. 17 s na 24 wątkach procesora, bez GPU
Zobowiązanie (odcisk wag)ok. 6,5 MB, jednorazowo ok. 39 minut obliczeń
Koszt w porównaniu z samym uruchomieniem modelu72–94 razy więcej czasu GPU niż inferencja w vLLM

Skalę postępu najlepiej widać w porównaniu, które podaje Anthropic. Wcześniejszy system VerInf udowodnił inferencję tego samego modelu na komputerze DGX Spark: 1000 tokenów zajęło mu 14,3 godziny, dowód ważył 93,6 GB, a weryfikacja trwała prawie dobę. FlashProve na podobnej długości odpowiedzi potrzebuje niecałych dziesięciu sekund pracy jednego H100, a jego dowód jest mniej więcej pięć tysięcy razy mniejszy. Sprzęt jest inny, więc to porównanie skali, a nie dokładny pomiar.

Czego dowód nie mówi

Ta sekcja jest ważniejsza od liczb, bo łatwo przypisać FlashProve więcej, niż obiecuje.

  • Tożsamość, nie prawdę. Dowód potwierdza, że odpowiedź napisał zadeklarowany model. Nie mówi nic o tym, czy jest poprawna. Halucynacja właściwego modelu przejdzie weryfikację bez zarzutu.
  • Odcisk wart tyle, ile jego źródło. Dowód wiąże odpowiedź z zobowiązaniem, a nie z nazwą handlową. Jeśli dostawca opublikuje odcisk mocno skwantyzowanej wersji i nazwie ją pełnym modelem, wszystkie dowody będą poprawne. Dokumentacja projektu mówi wprost, że zobowiązanie trzeba wziąć od strony, której się ufa, a nie z serwera, który się sprawdza.
  • Wąskie warunki. Prototyp dowodzi obliczeń na liczbach całkowitych i dekodowania zachłannego, czyli bez losowania kolejnych tokenów. Inferencja zmiennoprzecinkowa i próbkowanie mogą odbiegać od tego, co dowiedziono. Kontekst jest ograniczony do 1024 tokenów, a to ułamek długości, na której pracują dziś agenci.
  • Po fakcie. Dowód powstaje po odpowiedzi, a nie w trakcie. Pewność przychodzi z opóźnieniem i wymaga ponownego przeliczenia. Ataki przez kanały boczne, na przykład pomiar czasu, nie są objęte gwarancją.
  • Wagi ukryte, architektura nie. Ukrycie budowy modelu nie było celem projektu.

Kto sprawdza sprawdzającego

Projekt ma jeszcze jeden wymiar. Anthropic sam jest dostawcą modeli, a FlashProve działa tak samo wobec każdego dostawcy, także wobec Anthropic. Firma udostępniła na licencji Apache 2.0 program tworzący dowody, dwa weryfikatory i formalne dowody bezpieczeństwa w języku Lean, żeby niezależni audytorzy mogli sprawdzić gwarancje bez wiary w deklaracje. To dobra praktyka. Z drugiej strony repozytorium jest oznaczone jako artefakt badawczy, którego nikt nie będzie utrzymywał. Kto chce z niego skorzystać, musi przejąć je na własną odpowiedzialność.

Anthropic nie zapowiedział wdrożenia FlashProve w Claude ani w żadnej innej usłudze. Cel ze swojej mapy bezpieczeństwa, czyli prototyp weryfikowalnej inferencji do 30 września 2026 roku, firma uznała za spełniony dzięki innemu projektowi. Ten podpisuje ruch inferencyjny Anthropic i przelicza go ponownie na zaufanych serwerach. To podejście opiera się jednak na zaufaniu do infrastruktury dostawcy, czyli na tym, czego FlashProve chce się pozbyć.

Co to znaczy dla firmy dziś

FlashProve nie jest produktem, z którego można jutro skorzystać. Pokazuje jednak, o co warto pytać dostawców już teraz, zanim takie dowody staną się standardem:

  • Zapisuj, czego używasz. Pełny identyfikator modelu z datą migawki, a nie alias w rodzaju „latest”. Bez tego nie wiesz nawet, co miałbyś udowadniać.
  • Pytaj o wariant, nie tylko o nazwę. Przy otwartych modelach u zewnętrznych dostawców zapytaj o kwantyzację i parametry dekodowania. To tam powstawały różnice, które wykrył Moonshot.
  • Testuj własnym zestawem. Kilkadziesiąt zapytań z Twojej dziedziny, uruchamianych okresowo, wykrywa spadek jakości bez kryptografii. To przybliżenie dowodu, ale dostępne od ręki.
  • Wpisz model do karty agenta. Agent, który działa w imieniu firmy, powinien mieć zapisane, na jakim modelu pracuje i kto zatwierdza jego zmianę. Zmiana modelu to zmiana agenta. W generatorze karty agenta AI służą do tego pola w sekcji „Tożsamość agenta”.

Jedna myśl na drogę

Do tej pory pytanie „czy to naprawdę ten model?” miało jedną odpowiedź: zaufaj dostawcy. FlashProve pokazuje, że da się na nie odpowiedzieć tak, jak odpowiada się na pytanie o podpis cyfrowy: sprawdzeniem, a nie wiarą. Dziś kosztuje to prawie sto razy więcej niż sama odpowiedź, więc na razie posłuży raczej do audytu niż do codziennego ruchu. Ale gdy przyjdzie pierwszy spór o to, jaki model naprawdę obsługiwał klienta, zdanie „mamy na to dowód” będzie warte więcej niż „mamy umowę”.

Źródła

Model podaje powód, który nie jest powodem

Model rozumujący pokazuje, jak doszedł do odpowiedzi. Badania pokazują, że ten zapis często pomija to, co naprawdę zdecydowało, a czasem dopisuje uzasadnienie do wniosku, który już zapadł. Warto go czytać, ale nie jak protokół z decyzji

Model myśli dłużej i wychodzi gorzej

Pytanie brzmi tak: masz jabłko i pomarańczę, ale nie wiesz, jakiej są odmiany. Znajomy mówi ci zagadkę, z której wynika, że z prawdopodobieństwem 61%…

To samo pytanie, dwie odpowiedzi

Ta sama faktura, to samo polecenie, ten sam model, temperatura ustawiona na zero. Rano jedna kategoria kosztu, po południu inna. To nie błąd i nie zmiana modelu. Odpowiedź modelu to próbka, a nie wynik obliczenia.

← Na stronę główną