FlashProve: dowód, że odpowiedział model, za który płacisz
Anthropic pokazał prototyp, który kryptograficznie dowodzi, że odpowiedź napisał zadeklarowany model, bez ujawniania wag. Działa na modelu o 400 miliardach parametrów, ale kosztuje prawie sto razy więcej niż sama odpowiedź.
Firma płaci za dostęp do konkretnego modelu. Pyta API, dostaje sensowną odpowiedź i nie ma jak sprawdzić, który model ją napisał. Mógł to być model z umowy. Mógł to być jego tańszy, mocniej skompresowany wariant, inny model albo odpowiedź poprawiona po drodze przez kogoś, kto ma dostęp do serwera. Odpowiedź z każdego z nich może wyglądać przekonująco.
2 listopada Anthropic opublikował FlashProve, prototyp, który zamienia „zaufaj nam” w coś, co da się sprawdzić matematycznie. Warto mu się przyjrzeć, bo w tej samej chwili pokazuje, jak daleko zaszła ta technika i jak daleko jest jeszcze od codziennego użytku.
Problem, który już ma swoje dowody
Podmiana modelu nie jest teoretycznym zagrożeniem. Moonshot AI, twórca modeli Kimi, po premierze Kimi K2 zauważył wyraźne różnice w jakości wywołań narzędzi między dostawcami, którzy serwowali ten sam otwarty model. Przyczyną nie był model, tylko sposób jego uruchomienia: źle ustawione parametry dekodowania i różnice w implementacji. Firma zbudowała narzędzie K2 Vendor Verifier, które porównuje dostawców na tych samych zadaniach, a w kwietniu 2026 roku, razem z Kimi K2.6, udostępniła jego rozszerzoną wersję.
W serii „Genealogia modelu” wraca wątek, który nazywamy „ta sama nazwa, inny model”: migawki, aliasy i ciche aktualizacje sprawiają, że pod jedną nazwą w API działają różne modele. Narzędzia takie jak weryfikator Moonshot pozwalają zauważyć skutek, czyli gorsze wyniki. FlashProve próbuje udowodnić przyczynę, czyli tożsamość modelu.
Jak działa dowód
FlashProve korzysta z dowodów z wiedzą zerową (zkSNARK). Pozwalają one wykazać, że obliczenie wykonano poprawnie, bez ujawniania danych, na których je wykonano. Tu tymi danymi są wagi modelu, czyli jego najcenniejsza tajemnica handlowa.
Działa to w dwóch krokach. Najpierw dostawca publikuje zobowiązanie, rodzaj odcisku palca konkretnego zestawu wag. Potem do odpowiedzi dołącza dowód, że model o tym odcisku, dostawszy dany prompt, wygenerowałby właśnie te tokeny. Każdy, kto ma zobowiązanie, prompt, odpowiedź i dowód, może to sprawdzić na zwykłym procesorze, bez uruchamiania modelu i bez dostępu do wag. Jeśli ktoś podmienił model albo zmienił odpowiedź po drodze, dowód się nie zweryfikuje.
Prototyp przetestowano na Llamie 4 Maverick, otwartym modelu Mety o 400 miliardach parametrów, z wagami skwantyzowanymi do 4 bitów.
| Co zmierzono | Wynik według Anthropic |
|---|---|
| Szybkość tworzenia dowodu | ok. 110 tokenów na sekundę na jednym GPU H100 |
| Rozmiar dowodu | ok. 19 MB dla zapytania o długości 1024 tokenów |
| Weryfikacja | ok. 17 s na 24 wątkach procesora, bez GPU |
| Zobowiązanie (odcisk wag) | ok. 6,5 MB, jednorazowo ok. 39 minut obliczeń |
| Koszt w porównaniu z samym uruchomieniem modelu | 72–94 razy więcej czasu GPU niż inferencja w vLLM |
Skalę postępu najlepiej widać w porównaniu, które podaje Anthropic. Wcześniejszy system VerInf udowodnił inferencję tego samego modelu na komputerze DGX Spark: 1000 tokenów zajęło mu 14,3 godziny, dowód ważył 93,6 GB, a weryfikacja trwała prawie dobę. FlashProve na podobnej długości odpowiedzi potrzebuje niecałych dziesięciu sekund pracy jednego H100, a jego dowód jest mniej więcej pięć tysięcy razy mniejszy. Sprzęt jest inny, więc to porównanie skali, a nie dokładny pomiar.
Czego dowód nie mówi
Ta sekcja jest ważniejsza od liczb, bo łatwo przypisać FlashProve więcej, niż obiecuje.
- Tożsamość, nie prawdę. Dowód potwierdza, że odpowiedź napisał zadeklarowany model. Nie mówi nic o tym, czy jest poprawna. Halucynacja właściwego modelu przejdzie weryfikację bez zarzutu.
- Odcisk wart tyle, ile jego źródło. Dowód wiąże odpowiedź z zobowiązaniem, a nie z nazwą handlową. Jeśli dostawca opublikuje odcisk mocno skwantyzowanej wersji i nazwie ją pełnym modelem, wszystkie dowody będą poprawne. Dokumentacja projektu mówi wprost, że zobowiązanie trzeba wziąć od strony, której się ufa, a nie z serwera, który się sprawdza.
- Wąskie warunki. Prototyp dowodzi obliczeń na liczbach całkowitych i dekodowania zachłannego, czyli bez losowania kolejnych tokenów. Inferencja zmiennoprzecinkowa i próbkowanie mogą odbiegać od tego, co dowiedziono. Kontekst jest ograniczony do 1024 tokenów, a to ułamek długości, na której pracują dziś agenci.
- Po fakcie. Dowód powstaje po odpowiedzi, a nie w trakcie. Pewność przychodzi z opóźnieniem i wymaga ponownego przeliczenia. Ataki przez kanały boczne, na przykład pomiar czasu, nie są objęte gwarancją.
- Wagi ukryte, architektura nie. Ukrycie budowy modelu nie było celem projektu.
Kto sprawdza sprawdzającego
Projekt ma jeszcze jeden wymiar. Anthropic sam jest dostawcą modeli, a FlashProve działa tak samo wobec każdego dostawcy, także wobec Anthropic. Firma udostępniła na licencji Apache 2.0 program tworzący dowody, dwa weryfikatory i formalne dowody bezpieczeństwa w języku Lean, żeby niezależni audytorzy mogli sprawdzić gwarancje bez wiary w deklaracje. To dobra praktyka. Z drugiej strony repozytorium jest oznaczone jako artefakt badawczy, którego nikt nie będzie utrzymywał. Kto chce z niego skorzystać, musi przejąć je na własną odpowiedzialność.
Anthropic nie zapowiedział wdrożenia FlashProve w Claude ani w żadnej innej usłudze. Cel ze swojej mapy bezpieczeństwa, czyli prototyp weryfikowalnej inferencji do 30 września 2026 roku, firma uznała za spełniony dzięki innemu projektowi. Ten podpisuje ruch inferencyjny Anthropic i przelicza go ponownie na zaufanych serwerach. To podejście opiera się jednak na zaufaniu do infrastruktury dostawcy, czyli na tym, czego FlashProve chce się pozbyć.
Co to znaczy dla firmy dziś
FlashProve nie jest produktem, z którego można jutro skorzystać. Pokazuje jednak, o co warto pytać dostawców już teraz, zanim takie dowody staną się standardem:
- Zapisuj, czego używasz. Pełny identyfikator modelu z datą migawki, a nie alias w rodzaju „latest”. Bez tego nie wiesz nawet, co miałbyś udowadniać.
- Pytaj o wariant, nie tylko o nazwę. Przy otwartych modelach u zewnętrznych dostawców zapytaj o kwantyzację i parametry dekodowania. To tam powstawały różnice, które wykrył Moonshot.
- Testuj własnym zestawem. Kilkadziesiąt zapytań z Twojej dziedziny, uruchamianych okresowo, wykrywa spadek jakości bez kryptografii. To przybliżenie dowodu, ale dostępne od ręki.
- Wpisz model do karty agenta. Agent, który działa w imieniu firmy, powinien mieć zapisane, na jakim modelu pracuje i kto zatwierdza jego zmianę. Zmiana modelu to zmiana agenta. W generatorze karty agenta AI służą do tego pola w sekcji „Tożsamość agenta”.
Jedna myśl na drogę
Do tej pory pytanie „czy to naprawdę ten model?” miało jedną odpowiedź: zaufaj dostawcy. FlashProve pokazuje, że da się na nie odpowiedzieć tak, jak odpowiada się na pytanie o podpis cyfrowy: sprawdzeniem, a nie wiarą. Dziś kosztuje to prawie sto razy więcej niż sama odpowiedź, więc na razie posłuży raczej do audytu niż do codziennego ruchu. Ale gdy przyjdzie pierwszy spór o to, jaki model naprawdę obsługiwał klienta, zdanie „mamy na to dowód” będzie warte więcej niż „mamy umowę”.
Źródła
- Anthropic: Progress on provable inference for large language models
- GitHub: anthropics/FlashProve
- Help Net Security: Anthropic open-sources FlashProve, its provable inference prototype for MoE models
- Unite.AI: Anthropic Releases FlashProve for Cryptographic AI Inference Proofs
- INSIDE: Anthropic 公開 FlashProve 研究原型 (po chińsku)
- Crypto Briefing: Anthropic's FlashProve uses zero-knowledge proofs to verify large AI model outputs
- Kimi: Rebuilding the "Chain of Trust": Kimi Vendor Verifier
- GitHub: MoonshotAI/K2-Vendor-Verifier