Bildmoderation ohne Speicherung der Bilder
Keine Forschung am Modell — der Klassifikator ist fertig bezogen und sagt das auch — sondern am Betriebsregime: null Aufbewahrung, Zahlenwert statt Urteil, fail-closed im Störfall und eine widerlegte Hypothese zur reaktiven Moderation als billigerem Ersatz des Scans. Einschließlich dessen, was nicht gemessen wurde.
Koch Laboratory — Bildmoderation ohne Speicherung der Bilder
Die Ausgangsfrage lautete: Was genau kauft jemand, der Inhaltsmoderation kauft — wo doch der Klassifikator selbst kostenlos ist und jeder Entwickler ihn an einem Wochenende einpackt? Die Antwort, zu der wir gelangt sind, verschiebt das ganze Problem von der Treffsicherheit des Modells hin zum Betriebsregime: Aufbewahrung, Fehlerverhalten und der Ort, an dem die Entscheidung fällt. Diese Festlegungen präjudiziert die Modellwahl nicht — und sie sind hier der Gegenstand.
Methodik. Problem → Hypothese → falsifizierbares Kriterium → Festlegung mit Begründung. Status offen ausgewiesen: „umgesetzt” heißt in Betrieb, „Projektarbeit” heißt ohne Messergebnis, „verworfen” heißt geprüft und mit angegebenem Grund aufgegeben.
1. Richtung 1 — Moderation ohne Bildaufbewahrung
Forschungsfrage. Lässt sich visuelle Inhaltsmoderation betreiben, ohne ein einziges moderiertes Bild zu speichern — und dennoch eine Nachweiskette hinterlassen, die einer Aufsicht genügt? Warum schwierig. Zwei Pflichten ziehen in entgegengesetzte Richtungen. Datenminimierung sagt: Speichere keine fremden Bilder, schon gar nicht die verdächtigen. Rechenschaftspflicht sagt: Weise nach, was wann geprüft wurde und welche Entscheidung fiel. Die naheliegende Lösung — „bewahren wir das Bild für den Streitfall auf” — macht den Moderationsanbieter zum Archiv der sensibelsten Inhalte seiner Kunden. Stand der Technik (veröffentlicht). Cloud-Moderationsdienste speichern üblicherweise Inhaltsproben zur Modellentwicklung; Dokumentationspflichten aus dem DSA; Hash-Matching als eigenes Ökosystem für verbotenes Material. Erfolgskriterium. Null Inhaltsspeicherung: Verarbeitung ausschließlich im Arbeitsspeicher, Protokoll begrenzt auf Metadaten (Zeit, Größe, Ergebnis, Entscheidung). Die Nachweiskette beschreibt die Entscheidung, nie den Inhalt. Ergebnis. Im Rahmen des Kriteriums bestätigt: Das Bild wird zu keinem Zeitpunkt gespeichert, erfasst werden ausschließlich Metadaten des Moderationsereignisses. Ausdrückliche Randbedingung: Bei null Aufbewahrung lässt sich später nicht mehr auf das strittige Bild zurückgreifen — der Streit wird über die Entscheidungsaufzeichnung und über das beim Kunden verbliebene Material geführt. Wer ein Inhaltsarchiv braucht, braucht ein anderes Produkt. Status: umgesetzt.
2. Richtung 2 — Zahlenwert statt Urteil, Schwelle beim Kunden
Forschungsfrage. Wer soll die Grenze zwischen „zugelassen” und „gesperrt” festlegen — der Anbieter des Klassifikators oder der Betreiber der Plattform? Warum schwierig. Die Fehlerkosten sind asymmetrisch und hängen von einem Kontext ab, den der Anbieter nicht kennt: Eine Kinder-App nimmt hundert Fehlalarme in Kauf, bevor sie einen Durchrutscher hinnimmt, ein Erwachsenenforum umgekehrt. Nur ein Urteil zurückzugeben, verdeckt diese Entscheidung und schiebt die Verantwortung dem Anbieter zu, der die Daten für sie nicht hat. Stand der Technik (veröffentlicht). Klassifikatoren, die ein Label zurückgeben; Moderationsschnittstellen, die Kategorielabels ohne Rohwerte liefern. Erfolgskriterium. Der Rohwert (0.0–1.0) wird immer zurückgegeben; das Entscheidungsfeld wird ausschließlich gegen die vom Kunden gesetzte Schwelle berechnet und ausdrücklich als deren Ableitung gekennzeichnet. Ergebnis. Bestätigt: Die Schnittstelle liefert Werte und eine an der Kundenschwelle berechnete Entscheidung. Offene Konsequenz: Eine ehrliche Schwellenwahl verlangt Daten über die Wertverteilung im tatsächlichen Verkehr des Kunden — die zu Beginn nicht existieren, siehe Richtung 5. Status: umgesetzt.
3. Richtung 3 — Verhalten im Störfall: Schweigen oder Verweigerung
Forschungsfrage. Was soll ein Moderationsdienst tun, der im kritischen Ablauf des Kunden hängt, wenn die eigene Inferenz nicht mehr antwortet? Warum schwierig. Beide Antworten sind teuer. „Durchlassen” (fail-open) hält den Betrieb des Kunden flüssig, verwandelt die Störung aber in eine stille Zustimmung zur Veröffentlichung ungeprüfter Inhalte — ohne jede Spur, dass etwas vorgefallen ist. „Verweigern” (fail-closed) stoppt den Ablauf und verlagert die Entscheidung im denkbar schlechtesten Moment zum Kunden. Stand der Technik (veröffentlicht). Fail-open/fail-closed-Muster in Sicherheitssystemen; Degradationsstrategien bei Fremddiensten. Erfolgskriterium. Eindeutiges, vor der Einführung dokumentiertes Verhalten — niemals stillschweigend. Ergebnis. Festlegung: Bei nicht verfügbarer Inferenz antwortet der Dienst mit 503, und der Kunde entscheidet — meist Weiterleitung in eine manuelle Warteschlange. Die Störung ist in der Antwort sichtbar, nicht im Ergebnis versteckt. Randbedingung: Der Kunde muss diesen Fall bei sich behandeln; ein Dienst, der das vor der Einführung verschweigt, verkauft ihm verdecktes Risiko. Status: umgesetzt und dokumentiert.
4. Richtung 4 — widerlegte Hypothese: reaktive Moderation als billigerer Ersatz des Scans
Forschungsfrage. Genügt es, Inhalte erst nach Nutzermeldungen zu prüfen, statt jeden Upload zu scannen — billiger, bei vergleichbarer Wirkung? Warum es verlockte. Die Zahl der Anfragen sinkt um Größenordnungen, die Inferenzkosten wachsen nicht mehr mit dem Verkehr, und die Community zeigt genau jene Fälle an, die das Modell aus dem Bild allein ohnehin nicht versteht (harmloser Inhalt im falschen Kontext). Ergebnis: Hypothese widerlegt. Aus zwei unabhängigen Gründen. Erstens lässt der Mechanismus Inhalte definitionsgemäß erst erscheinen und wartet dann auf Meldungen — bei gefährlichem oder rechtswidrigem Material ist das keine Pflichterfüllung, sondern dokumentiertes Unterlassen. Zweitens verlangt die reaktive Schicht, Verweise auf gemeldetes, noch ungeprüftes Material vorzuhalten — und das macht den Dienst zu einem Register verdächtiger Inhalte, also zum genauen Gegenteil von Richtung 1. Die Ersparnis war real; der Preis erwies sich als nicht hinnehmbar. Was davon bleibt. Nutzermeldungen bleiben als zweite Schicht über dem proaktiven Scan erhalten (erneute Prüfung und manuelle Warteschlange nach Überschreiten einer Meldeschwelle), nie als dessen Ersatz. Die Trennung dieser beiden Rollen ist das wesentliche Ergebnis dieser Richtung. Status: als Ersatz verworfen, als ergänzende Schicht erhalten (Projektarbeit).
5. Richtung 5 — was wir noch nicht gemessen haben
Forschungsfrage. Bringt ein auf tatsächlichem Verkehr nachtrainiertes Modell einen Vorsprung gegenüber dem rohen offenen Modell — und lässt sich dieser Vorsprung öffentlich zeigen, statt ihn zu behaupten? Warum schwierig. Ein ehrlicher Benchmark verlangt Daten, die es bei null Aufbewahrung (Richtung 1) schlicht nicht gibt; jede Beschaffung muss einzeln mit dem Kunden vereinbart und rechtlich gesondert geregelt werden. Das ist ein echter Widerspruch zwischen zwei eigenen Grundsätzen, und er wird hier nicht geglättet. Erfolgskriterium. Ein öffentlicher, wiederholbarer Benchmark „nachtrainiertes Modell vs. rohes offenes Modell” auf einem in seiner Herkunft beschriebenen Datensatz — samt negativer Ergebnisse, falls es keinen Vorsprung gibt. Ergebnis. Keines — es wurde keine Messung durchgeführt. Im Einsatz ist heute ein fertiges offenes Modell, nach int8 quantisiert und ins Container-Image eingebacken; jede Behauptung eines Vorsprungs wäre eine durch nichts gedeckte Erklärung. Status: Projektarbeit, Ergebnis unbekannt.
6. Richtung 6 — bewusst gesetzte Grenzen
Modell als Bestandteil, nicht als Download. Die Gewichte werden ins Container-Image eingebacken; der Inferenz-Container ist nicht nach außen exponiert und läuft im internen Netz. Kriterium: Start ohne Internetzugang und ohne Abhängigkeit von einem fremden Gewichte-Host — der Dienst darf nicht ausfallen, weil jemand anderes eine Datei zurückgezogen hat. Lizenz als Entwurfsgrenze. Die Modellwahl begrenzen Lizenzbedingungen, nicht allein Genauigkeitswerte; ein Modell mit hervorragenden Zahlen, dessen Lizenz mit der geschlossenen Installation beim Kunden unvereinbar ist, ist für dieses Produkt unbrauchbar. Diese Grenze wurde bewusst und früh gezogen, nicht nachträglich. Verbotenes Material außerhalb des Umfangs. Die Erkennung von Missbrauchsdarstellungen Minderjähriger ist ausdrücklich ausgeschlossen: ein eigenes, streng reguliertes Ökosystem aus Hash-Abgleich und Meldepflichten — keine Aufgabe für einen eigenen Klassifikator. Diese Grenze klar zu benennen ist Teil des Produkts, kein Kleingedrucktes. Status: umgesetzt (geltende Grenzen).
Status der Richtung. Das Betriebsregime — null Aufbewahrung, Zahlenwert statt Urteil, fail-closed, Betrieb in eigener Infrastruktur des Kunden — ist umgesetzt und in Betrieb. Eigene Modellmessungen gibt es nicht und wird es nicht geben, solange der in Richtung 5 beschriebene Benchmark fehlt. Nächster Schritt: eine Warteschlange für Grenzfälle mit Mensch in der Schleife, mit ausgewiesenem Anteil der zur manuellen Entscheidung übergebenen Fälle.