Do słownika agentic web na webflux.pl wchodzi nowe pojęcie. Nie opisuje niczego nowego — opisuje coś, co zna każdy, kto pracował w trybie wsadowym. Agenty tylko przyspieszyły krzywą.
Znam to zjawisko nie z pracy z agentami AI. Znam je z ERP.
Kto przetwarzał dokumenty wsadowo, ten wie, o czym mowa. System pyta o potwierdzenie każdego kroku. Pierwsze kilka okien czytasz. Potem zaczynasz rozpoznawać je po kształcie. Po godzinie klikasz „tak" zanim treść zdąży się wyświetlić — nie dlatego, że jesteś niedbały, tylko dlatego, że pięćdziesiąt poprzednich pytań nie niosło żadnej informacji, więc pięćdziesiąte pierwsze też prawdopodobnie nie niesie.
I zwykle rzeczywiście nie niesie. Aż raz na jakiś czas niesie.
Kiedy natrafiliśmy na angielskie określenie glazed-over approvals w tekście o nadzorze nad agentami, nie było potrzeby zastanawiać się, co opisuje. To jest ten sam mechanizm, przeniesiony na nowy system i puszczony w szybszym tempie.
Dlaczego to nie jest problem agentów
Warto to postawić wprost, bo cała branżowa dyskusja o human-in-the-loop traktuje zjawisko jako świeżą własność sztucznej inteligencji. Nie jest.
To jest własność każdego interfejsu, który prosi o potwierdzenie wielokrotnie. ERP, systemy bankowe, konsole administracyjne, instalatory, okna uprawnień w systemie operacyjnym. Wszędzie tam, gdzie ta sama prośba wraca dostatecznie często, przestaje być pytaniem, a staje się elementem tła, przez który przechodzi wzrok.
Nowe jest tylko tempo. Asystent kodujący potrafi wygenerować w ciągu godziny tyle próśb o zgodę, ile system wsadowy przez cały dzień pracy. Próg, po którym człowiek przestaje czytać, zostaje przekroczony szybciej i mniej zauważalnie.
To ma konsekwencję dla tego, jak o tym myśleć. Jeśli zjawisko jest starsze od agentów, to wiedza o nim też jest starsza — i nie trzeba jej wymyślać od zera.
Czym różni się od okna, które kłamie
W lipcu opisywaliśmy na webflux.pl inny tryb awarii nadzoru: okno zgody pokazujące nieprawdę. Podatność GhostApproval polegała na tym, że asystenci kodujący wyświetlali deweloperowi nazwę pliku z instrukcji, podczas gdy agent zapisywał gdzie indziej. Agent w swoim rozumowaniu wiedział, dokąd naprawdę prowadzi zapis. Człowiek tego nie zobaczył.
Wnioskiem był parytet informacji: człowiek ma widzieć w momencie decyzji dokładnie to, co wie agent.
Zeszklone zatwierdzanie zaczyna się tam, gdzie parytet informacji jest już zachowany. Okno mówi prawdę — pełna ścieżka, realny skutek, ostrzeżenie przy akcji wychodzącej poza obszar roboczy. Człowiek i tak nie patrzy.
Różnica jest ostra i prowadzi do różnych narzędzi. Pierwszy tryb mówi: nie mógł wiedzieć. Ma rozwiązanie techniczne. Drugi mówi: mógł, ale nie spojrzał. I nie naprawisz go żadną poprawką w oknie — bo im lepsze okno, tym więcej przypadków wychwytuje, tym częściej się odzywa, a im częściej się odzywa, tym mniej znaczy.
Człowiek klikający nie jest niedbały
Najłatwiejszy wniosek brzmi: trzeba uważniej czytać. Jest fałszywy.
Ktoś, kto zatwierdził dwieście operacji, z czego sto dziewięćdziesiąt dziewięć okazało się nieszkodliwych, wyciąga o dwusetnej wniosek, że prawdopodobnie też jest nieszkodliwa. I ma rację — statystycznie. To nie jest brak dyscypliny, tylko poprawne wnioskowanie z dostępnych danych. Nauczył się dokładnie tego, czego uczył go system.
Stąd wniosek przeczący branżowej intuicji. Odruchowa reakcja na incydent brzmi „dodajmy więcej punktów kontrolnych". Powyżej pewnej częstotliwości to pogarsza sytuację: rośnie liczba monitów, spada wartość każdego z nich. System jest bezpieczniejszy w audycie i mniej chroniony w rzeczywistości.
Najkrócej: zgoda jest sygnałem, a sygnał, który pojawia się zawsze, nie niesie informacji.
Osad po obu stronach pętli
Jest w tym symetria, która zainteresowała nas najbardziej.
Okno kontekstowe agenta ma znaną właściwość: w miarę zapełniania jakość przetwarzania spada, model gubi to, co było w środku. Opisujemy to jako context rot.
Nadzorca ma dokładnie tę samą właściwość. Czterdzieste zatwierdzenie tego dnia jest przetwarzane płycej niż pierwsze — nie dlatego, że człowiek jest gorszy, tylko dlatego, że uwaga też ma budżet i też się wyczerpuje.
Osad zbiera się po obu stronach pętli. W agencie, którego kontekst puchnie, i w człowieku, który go pilnuje.
Skąd wzięło się to pojęcie i dlaczego jest nowe tylko po polsku
Uczciwie o proweniencji, bo to ma znaczenie dla tego, jak traktować ten termin.
Określenie glazed-over approvals nie jest ustalone w literaturze — nie ma go w słownikach branżowych, nie funkcjonuje jako termin techniczny, wygląda na sformułowanie autorskie. Samo zjawisko natomiast jest opisane, i to dobrze. Tylko pod innymi nazwami i w innych dziedzinach.
W taksonomii zagrożeń dla Model Context Protocol figuruje jako jeden z czterech mechanizmów obchodzenia kontroli zatwierdzania. W badaniach nad czynnikiem ludzkim funkcjonuje jako stronniczość automatyzacji — udokumentowana od dekad w lotnictwie i automatyce przemysłowej. W medycynie ma własną, obszerną literaturę jako zmęczenie alertami: systemy ostrzegające o interakcjach lekowych generowały tyle powiadomień, że personel zaczął je zamykać bez czytania, łącznie z trafnymi. Wniosek z tamtych badań jest niewygodny dla każdego, kto projektuje nadzór — problemem nie była jakość ostrzeżeń, tylko ich liczba.
Czyli: zjawisko udokumentowane, rozproszone po trzech dziedzinach, bez wspólnej nazwy — i bez żadnej nazwy po polsku.
Proponujemy: zeszklone zatwierdzanie. Od zeszklonego wzroku, który przechodzi przez ekran, nie zatrzymując się na treści.
Po co nazywać
Można zapytać, czy nowy termin jest potrzebny, skoro zjawisko opisano już w trzech dziedzinach.
Naszym zdaniem tak, z powodu praktycznego. Rozproszona wiedza jest wiedzą, której nikt nie stosuje. Osoba budująca agenta nie sięgnie po literaturę o klinicznych systemach wspomagania decyzji, żeby ustalić, ile monitów dziennie to za dużo. Nazwa jest uchwytem — pozwala odwołać się do zjawiska jednym słowem podczas projektowania, zamiast odtwarzać całe rozumowanie za każdym razem.
Do tego dochodzi kwestia języka. Polska terminologia agentic web powstaje na bieżąco i w większości przez zapożyczenie. Tam, gdzie da się nazwać rzecz po polsku bez straty precyzji, wolimy to zrobić.
Zaznaczamy przy tym wyraźnie, w słowniku i tutaj: to jest termin autorski, nie ustalony. Stronniczość automatyzacji i zmęczenie alertami są pojęciami z literatury. Zeszklone zatwierdzanie jest naszą propozycją nazwania czegoś, co dotąd nazwy nie miało.
Gdzie szukać dalej
Hasło zeszklone zatwierdzanie wchodzi do słownika agentic web na webflux.pl razem z pięcioma powiązanymi: parytetem informacji, stronniczością automatyzacji, zmęczeniem alertami, przeciążeniem zgodą i obciętym kontekstem zgody.
Stronę projektancką — jak budować nadzór, który przetrwa powtarzalność, z progami zamiast pytań przy każdej akcji i budżetami zamiast zgody jednostkowej — opisujemy osobno w serii o anatomii agenta.
Stronę organizacyjną, czyli co znaczy zgoda, której nikt nie przeczytał, gdy trzeba ustalić odpowiedzialność za incydent, prowadzimy w hubie agentic enterprise.
Notatka terminologiczna. Zeszklone zatwierdzanie to termin wprowadzony przez nas. W literaturze anglojęzycznej zjawisko bywa opisywane jako fatigue exploitation w taksonomiach zagrożeń, potocznie jako glazed-over approvals, a jego mechanizmy pod ustalonymi nazwami automation bias i alert fatigue.