Moderacja obrazów bez przechowywania obrazów
To nie badanie nad modelem — klasyfikator jest gotowy i jest to powiedziane wprost — tylko nad reżimem jego pracy: zero retencji, wynik liczbowy zamiast werdyktu, fail-closed przy awarii i obalona hipoteza o moderacji reaktywnej jako tańszym zamienniku skanu. Wraz z tym, czego nie zmierzono.
Koch Laboratory — moderacja obrazów bez przechowywania obrazów
Pytanie wyjściowe brzmiało: co dokładnie kupuje ktoś, kto kupuje moderację treści — skoro sam klasyfikator jest darmowy i każdy deweloper owinie go w weekend. Odpowiedź, do której doszliśmy, przesuwa cały problem z celności modelu na reżim, w jakim model pracuje: retencję, zachowanie awaryjne i miejsce, w którym zapada decyzja. To są rozstrzygnięcia, których wybór modelu nie przesądza — i to one są tu przedmiotem.
Metodyka. Problem → hipoteza → falsyfikowalne kryterium → rozstrzygnięcie z uzasadnieniem. Statusy jawne: „wdrożone” znaczy działające, „prace projektowe” znaczy brak wyniku pomiarowego, „odrzucone” znaczy sprawdzone i porzucone z podanym powodem.
1. Kierunek 1 — moderacja bez retencji obrazu
Pytanie badawcze. Czy da się prowadzić moderację treści wizualnych, nie przechowując ani jednego moderowanego obrazu — i jednocześnie zostawić ścieżkę dowodową wystarczającą dla regulatora? Dlaczego to trudne. Dwa obowiązki ciągną w przeciwne strony. Minimalizacja danych mówi: nie przechowuj cudzych zdjęć, zwłaszcza tych podejrzanych. Rozliczalność mówi: wykaż, co i kiedy zostało sprawdzone oraz jaka zapadła decyzja. Naturalne rozwiązanie — „zachowajmy obraz na wypadek sporu” — czyni z dostawcy moderacji archiwum najbardziej wrażliwych treści swoich klientów. Stan techniki (publikowany). Usługi moderacji w chmurze zwykle przechowują próbki treści do celów rozwoju modelu; obowiązki dokumentacyjne wynikające z DSA; hash-matching jako oddzielny ekosystem dla materiałów zakazanych. Kryterium sukcesu. Zero zapisu treści: przetwarzanie wyłącznie w pamięci, log ograniczony do metadanych (czas, rozmiar, wynik, decyzja). Ścieżka dowodowa opisuje decyzję, nigdy treść. Wynik. Potwierdzony w zakresie kryterium: obraz nie jest zapisywany na żadnym etapie, rejestrowane są wyłącznie metadane zdarzenia moderacji. Warunek brzegowy podany wprost: przy zerowej retencji nie da się później wrócić do spornego obrazu — spór rozstrzyga się na zapisie decyzji i na materiale, który pozostał u klienta. Kto potrzebuje archiwum treści, potrzebuje innego produktu. Status: wdrożone.
2. Kierunek 2 — wynik liczbowy zamiast werdyktu, próg po stronie klienta
Pytanie badawcze. Kto powinien ustalać granicę między „dopuszczone” a „zablokowane” — dostawca klasyfikatora czy operator platformy? Dlaczego to trudne. Koszt pomyłki jest asymetryczny i zależny od kontekstu, którego dostawca nie zna: aplikacja dla dzieci woli sto fałszywych alarmów niż jedno przepuszczenie, forum dla dorosłych — odwrotnie. Zwrócenie samego werdyktu ukrywa tę decyzję i przenosi odpowiedzialność na dostawcę, który nie ma danych, by ją podjąć. Stan techniki (publikowany). Klasyfikatory zwracające etykietę; interfejsy moderacyjne zwracające etykiety kategorii bez surowych wartości. Kryterium sukcesu. Surowy wynik (0.0–1.0) zwracany zawsze; pole decyzji liczone wyłącznie względem progu ustawionego przez klienta i jawnie oznaczone jako pochodna tego progu. Wynik. Potwierdzony: interfejs zwraca wyniki i decyzję policzoną przy progu klienta. Otwarta konsekwencja: uczciwe ustawienie progu wymaga danych o rozkładzie wyników na rzeczywistym ruchu klienta, a tych na starcie nie ma — patrz kierunek 5. Status: wdrożone.
3. Kierunek 3 — zachowanie w awarii: cisza czy odmowa
Pytanie badawcze. Co ma zrobić usługa moderacji wpięta w krytyczny przepływ klienta, gdy jej własna inferencja przestaje odpowiadać? Dlaczego to trudne. Obie odpowiedzi są kosztowne. „Przepuść” (fail-open) utrzymuje płynność serwisu klienta, ale zamienia awarię w cichą zgodę na publikację treści, której nikt nie sprawdził — i to bez śladu, że coś się stało. „Odmów” (fail-closed) zatrzymuje przepływ i przenosi decyzję na klienta w najgorszym możliwym momencie. Stan techniki (publikowany). Wzorce fail-open/fail-closed w systemach bezpieczeństwa; polityki degradacji w usługach zewnętrznych. Kryterium sukcesu. Zachowanie jednoznaczne, udokumentowane przed wdrożeniem, nigdy milczące. Wynik. Rozstrzygnięcie: przy niedostępnej inferencji usługa zwraca błąd 503, a klient decyduje, co z tym zrobić — najczęściej skierować przypadek do kolejki ręcznej. Awaria jest widoczna w odpowiedzi, nie ukryta w wyniku. Warunek brzegowy: klient musi ten przypadek obsłużyć u siebie; usługa, która się do tego nie przyznaje przed wdrożeniem, sprzedaje mu ukryte ryzyko. Status: wdrożone i udokumentowane.
4. Kierunek 4 — hipoteza obalona: moderacja reaktywna jako tańszy zamiennik skanu
Pytanie badawcze. Czy zamiast sprawdzać każdy upload, wystarczy sprawdzać treść dopiero po zgłoszeniach użytkowników — taniej, przy porównywalnym skutku? Dlaczego to kusiło. Liczba żądań spada o rzędy wielkości, koszt inferencji przestaje rosnąć z ruchem, a społeczność wskazuje przypadki, których model i tak nie rozumie z samego obrazu (treść neutralna w złym kontekście). Wynik: hipoteza obalona. Z dwóch niezależnych powodów. Po pierwsze, mechanizm z definicji przepuszcza treść do publikacji i czeka na zgłoszenia — przy treści groźnej lub nielegalnej to nie jest zgodność z obowiązkami platformy, tylko udokumentowane zaniechanie. Po drugie, warstwa reaktywna wymaga przechowywania odwołań do zgłoszonych, jeszcze niezweryfikowanych materiałów — a to czyni z usługi rejestr podejrzanych treści, czyli dokładne przeciwieństwo kierunku 1. Oszczędność była realna; cena okazała się nie do przyjęcia. Co z tego zostało. Zgłoszenia użytkowników zachowane jako druga warstwa nad skanem proaktywnym (ponowne sprawdzenie i kolejka ręczna po przekroczeniu progu zgłoszeń), nigdy jako jego zamiennik. Rozdzielenie tych dwóch ról jest głównym wynikiem tego kierunku. Status: odrzucone jako zamiennik, zachowane jako warstwa uzupełniająca (prace projektowe).
5. Kierunek 5 — czego jeszcze nie zmierzyliśmy
Pytanie badawcze. Czy model dostrojony na rzeczywistym ruchu daje przewagę nad surowym modelem otwartym — i czy da się tę przewagę wykazać publicznie, zamiast ją deklarować? Dlaczego to trudne. Uczciwy benchmark wymaga danych, których przy zerowej retencji (kierunek 1) po prostu nie mamy; każde ich pozyskanie musi być osobno uzgodnione z klientem i osobno rozliczone prawnie. To realne napięcie między dwoma własnymi zasadami i nie zamierzamy go tu wygładzać. Kryterium sukcesu. Publiczny, powtarzalny benchmark „model dostrojony vs surowy model otwarty” na zbiorze opisanym co do pochodzenia, wraz z wynikami negatywnymi, jeśli przewagi nie będzie. Wynik. Brak — żaden pomiar nie został wykonany. Na dziś w użyciu jest gotowy model otwarty, kwantyzowany do int8 i wpieczony w obraz kontenera; twierdzenie o jakiejkolwiek przewadze byłoby niczym niepodpartą deklaracją. Status: prace projektowe, wynik nieznany.
6. Kierunek 6 — granice postawione świadomie
Model jako składnik, nie jako pobranie. Wagi są wpiekane w obraz kontenera; kontener inferencji nie jest wystawiony na zewnątrz i pracuje w sieci wewnętrznej. Kryterium: uruchomienie bez dostępu do internetu i bez zależności od cudzego hosta wag — usługa nie może przestać działać dlatego, że ktoś inny zdjął plik. Licencja jako granica projektowa. Dobór modelu ograniczają warunki licencji, nie tylko wyniki celności; model o świetnych wynikach i licencji nie do pogodzenia z zamkniętym wdrożeniem klienta jest dla tego produktu bezużyteczny. Ta granica jest przyjęta świadomie i wcześnie, nie po fakcie. Materiały zakazane poza zakresem. Wykrywanie CSAM jest jawnie wyłączone z zakresu: to odrębny, ściśle regulowany ekosystem oparty na dopasowaniu skrótów i obowiązkach zgłoszeniowych, a nie zadanie dla własnego klasyfikatora. Nazwanie tej granicy wprost jest częścią produktu, nie zastrzeżeniem drobnym drukiem. Status: wdrożone (granice obowiązujące).
Status kierunku. Reżim działania — zero retencji, wynik liczbowy zamiast werdyktu, fail-closed, wdrożenie samodzielne u klienta — jest wdrożony i działa. Wyników własnych pomiarów modelu nie ma i nie będzie, dopóki nie powstanie benchmark opisany w kierunku 5. Najbliższy krok: kolejka przypadków granicznych z człowiekiem w pętli, z jawnie mierzonym udziałem przypadków przekazanych do decyzji ręcznej.