Die Schleuse

Jedes Projekt hat ein Tagesbudget in Token, jeder Kunde eines dazu. Die kleinere Grenze gilt. Geprüft wird vor dem Aufruf, gegen das Maximum, das die Aufgabe anmeldet, nicht hinterher gegen das, was sie gebraucht hat. Ist das Budget erschöpft, antwortet die Schleuse mit „später“ und einer Uhrzeit, eingereihte Aufträge warten bis zum nächsten Tag, ohne einen Versuch zu verbrauchen. Wie sich das anfühlt, wenn es zuschlägt, steht bei der Musikbibliothek.

Eine Aufgabe darf deklarieren, in welcher Region ihre Daten verarbeitet werden dürfen. Wo ein Anbieter verarbeitet, steht in der Umgebung der Maschine, nicht im Code, weil dasselbe lokale Modell in Frankfurt ein EU-Verarbeiter ist und anderswo nicht. Geprüft wird, bevor die Anbieterkette abgearbeitet wird. Ein Anbieter außerhalb wird nie erreicht, egal wie die Kette sortiert ist. Ein Anbieter ohne bekannte Region gilt als unbekannt und ist draußen. Bleibt keiner übrig, heißt der Fehler „kein zulässiger Anbieter“ und nicht „vorübergehend nicht verfügbar“, weil eine Wiederholung hier nie gelingen kann.

Ein Projekt oder sein Kunde kann fordern, dass vor bestimmten Anbietern anonymisiert wird. Beide dürfen fordern, beide Forderungen gelten: Vorgaben verschärfen, sie weichen nicht auf. Entschieden wird je Anbieter, nicht je Anfrage. Eine Ersatzroute erbt die Einstellung nicht, sondern wird neu geprüft, sonst hinge der Schutz davon ab, wer gerade ausgefallen ist. Der Anbieter bekommt Platzhalter, die Anwendung bekommt Klartext zurück. Die Zuordnungstabelle dazwischen ist der Schlüssel zur Re-Identifizierung. Sie lebt nur im Speicher des einen Aufrufs: nicht im Protokoll, nicht in der Datenbank, nicht in der Antwort. Nachgeprüft: nach mehreren Läufen mit Klarnamen steht in keiner Tabelle einer davon.

Antwortet der Anonymisierer nicht, bricht der Aufruf ab: „Anonymisierung war gefordert, der Dienst hat nicht geantwortet, es wurde nichts gesendet.“ Kein Durchreichen, kein Ausweichen auf den nächsten Anbieter. Das Gegenteil, ein Schutz, der bei Ausfall den Originaltext weitergibt, sieht im Betrieb aus wie ein Schutz, der funktioniert. Genau das tut ein älterer Prototyp von mir bis heute.

Jeder Anbieter-Versuch ist eine Zeile: Projekt, Kunde, Auftrag, Aufgabe, Anbieter, Modell, Status, Latenz, vier Token-Arten, Abbruchgrund, Ersatzroute, Fehler, ob anonymisiert wurde. Was nicht darin steht: der Wortlaut des Prompts und der Antwort. Ein Protokoll, das Inhalte dupliziert, ist ein zweiter Datenspeicher mit den Rechten eines Logs. Ein übersprungener Anbieter steht mit Begründung drin, ob wegen der Region oder wegen einer fehlenden Freigabe, damit ein Ausschluss nie wie ein Fehler aussieht.

Ein Parameter, den der Anbieter aus seiner Schnittstelle entfernt hatte, stand bei mir als gleichwertige Einstellung zur Wahl. Erst die Temperatur, dann das Denkbudget. Beides führte zu abgewiesenen Anfragen. Seitdem nimmt jeder Anbieter den Transport als austauschbare Schicht, und jede Einstellung hat einen Test, der die gesendete Nutzlast prüft. Ein Review ersetzt den Test nicht: beide Male war der Code gelesen worden.

Denkende Modelle liefern eine leere Antwort, solange sie denken. Die Schleuse hielt das für eine kaputte Konfiguration und stoppte die Kette, statt weiterzufallen. Regel seitdem: endgültig sind nur Zugangsdaten und abgewiesene Anfragen. Alles andere ist vorübergehend.

Lange Stapelanfragen an denkende Modelle brachen ab, und die Schleuse sah einen Transportfehler. Ursache war nicht der Anbieter, sondern der eigene Reverse-Proxy. Stapel laufen seitdem direkt gegen den Dienst, nicht durch den Proxy.

Beim Anlegen der Umgebungsdatei über die Shell wurde der Variablenname wörtlich in die Datei geschrieben. Aufgefallen ist es nicht, weil der Testaufruf denselben Fehler machte und beide zusammenpassten. Eine Prüfung, die den kaputten Stand als Referenz nimmt, beweist nichts.

Derselbe Text ergab bei einem Spitzenmodell „Zahlungserinnerung“, bei einem kleinen „bill payment reminder“, bei einem dritten „negativ“. Ohne feste Labelmenge ist die Aufgabe nachgelagert nicht auswertbar. Fällig vor dem ersten echten Verbraucher, danach wäre die Labelmenge ein öffentlicher Vertrag.