Der Ablauf auf einen Blick
Zwei Teile mit einem Tor dazwischen. Vor dem Tor klären wir, was wirklich gebraucht wird. Hinter dem Tor wird gebaut, in kleinen Schritten, und jeder Schritt endet bei dir.
- 1Du beschreibst, was dich Zeit und Nerven kostetDu
- 2Ich sehe mir deinen Betrieb vor Ort anDas erledigt keine KI. Was einen Betrieb bremst, sieht nur, wer danebensteht.Ich
- 3Ich lege dir den Befund vorZiel, Ursache, was sich lohnt und was nicht. „Das löst du selbst“ ist ein möglicher Ausgang.Ich
- 4Du widersprichst, wo ich danebenliegeErst was danach noch steht, gilt.Du
Der Auftrag wird festgehalten, und du gibst ihn frei. Erst danach wird gebaut, zum Festpreis.
- 5Eine KI plant den nächsten Schritt, ich gebe den Plan freiIch
- 6Eine KI bautNur an den Stellen, die der Plan erlaubt.KI
- 7Ein Prüfprogramm testetAutomatische Tests und erlaubte Stellen. Ein Programm urteilt nicht nach Gefühl.Programm
- 8Eine zweite KI prüft die Arbeit der erstenKI
- 9Halt: Du probierst es aus, auf deinem Handy oder am RechnerDu
Du bist der Auftraggeber
Das ist der Kern des Verfahrens. KI kann sehr schnell sehr viel bauen. Ob es das Richtige ist, entscheidet sie nicht.
An zwei Stellen geht nichts weiter ohne dich: beim Tor, wenn der Auftrag festgehalten wird, und an jedem Halt, wenn ein Schritt fertig ist. Du prüfst, wie du es später auch benutzt, nicht anhand eines Berichts.
Am eigenen Projekt, einer mobilen Reise-App, hatten zwei KIs die ersten beiden Schritte geprüft und ohne einen einzigen Befund freigegeben. Beim Ausprobieren auf dem Handy fand ich in zehn Minuten fünf Probleme: fehlende Schritte beim Einplanen, eine Begründung an der falschen Stelle, eine Priorität, die sich nicht ändern ließ.
Beide KIs hatten gegen den Plan geprüft. Was der Plan nicht vorsah, hat keine von beiden gesehen.
Das kostet dich Zeit. Bei einem Auftrag rechne ich mit zwei bis drei Stunden von dir: ein Gespräch am Anfang, dann Rückmeldungen an den Halten. Am eigenen Projekt waren es zehn Halte in zwei Tagen. Das ist für mich als Tester in Ordnung, für dich zu viel. Bei einem Kundenauftrag lege ich die Halte so, dass es bei den zwei bis drei Stunden bleibt.
Keiner gibt sich selbst frei
Das Vier-Augen-Prinzip, auf KI übertragen. Wer baut, erklärt sein Werk nicht selbst für fertig.
Eine KI baut, eine zweite prüft, in der Regel von einem anderen Anbieter. Was sich ohne Urteil prüfen lässt, prüft ein Programm: Laufen die Tests? Wurde nur an erlaubten Stellen geändert? Ein Programm bekommt immer den Vorzug. Eine KI kommt nur dort zum Einsatz, wo ein Programm nicht urteilen kann.
Alle Tests waren grün, trotzdem fand die prüfende KI eine Stelle, die bei großen Dateien immer langsamer wurde. Nachgemessen: 380 Sekunden für eine große Datei. Nach der Nacharbeit: 0,3 Sekunden.
An einem anderen Tag gab die erste Prüfung frei, und die zweite fand, dass eine halb ausgefüllte Eingabe verloren gehen konnte. Bei einem dritten Schritt fiel ihr auf, dass eine meiner Entscheidungen vom letzten Halt nicht umgesetzt war.
Zwei KIs können dasselbe übersehen, vor allem, wenn beide nur gegen den Plan prüfen. Deshalb endet jeder Schritt bei dir und nicht bei der zweiten KI.
Auftrag bleibt Auftrag
Während gebaut wird, kommen gute Ideen. Von dir, von mir, manchmal von der KI. Das ist gut, solange niemand so tut, als gehörten sie schon zum Auftrag.
Jede Änderung wird eingeordnet, bevor sie gebaut wird. Maßstab ist dein Auftrag. Die Frage lautet nicht „wie viel Arbeit“, sondern „wessen Risiko“.
| Fall | Woran man ihn erkennt | Kosten |
|---|---|---|
| Nachbesserung | Etwas Vereinbartes funktioniert nicht so, wie wir es festgehalten haben, oder ich habe dich falsch verstanden. | keine |
| Anderer Weg | Das Ziel bleibt, aber der geplante Weg trägt nicht. Ich baue um, damit dein Auftrag erfüllt wird. | in der Regel keine |
| Erweiterung | Etwas kommt dazu, das nicht im Auftrag steht. Meist beginnt es mit „wäre schön, wenn …“. | Nachtrag, Festpreis |
| Andere Grundlage | Etwas, das du zugesagt hast, sieht anders aus als vereinbart, zum Beispiel die Daten. Der Plan muss sich ändern, oder der Aufwand steigt. | Nachtrag, Festpreis |
Was wir vereinbart haben, bekommst du, auch wenn ich unterwegs den Weg ändern muss. Das ist mein Risiko. Wenn du unterwegs mehr willst oder etwas anders ist, als wir es vorausgesetzt haben, sage ich dir das, bevor ich es baue, und nenne dir eine Zahl. Nie einen Stundenzettel.
Am eigenen Projekt kamen an einem einzigen Tag drei Erweiterungen dazu: zwischen den Tagen wischen, andere Touren auf der Karte, eine Bündelung, wenn es zu viele werden. Alle drei waren sinnvoll, und alle drei kamen von mir, dem Auftraggeber. Bei einem Festpreis wären das drei stille Nachträge gewesen, über die niemand gesprochen hat.
Deshalb gibt es im Verfahren einen Hüter des Auftrags: Jeder Planschritt muss sagen, zu welchem Teil des Auftrags er gehört. Ein Schritt ohne diesen Bezug fällt automatisch auf. Die Entscheidung trifft der Hüter nicht, die triffst du.
Die Grenze zwischen „anderer Weg“ und „Erweiterung“ ist nicht immer scharf. Den Grenzfall klären wir im Gespräch, nicht über eine Rechnung. Und ehrlich zum Stand: Der Hüter ist im Aufbau. Bis er fertig ist, ordne ich selbst ein, nach genau dieser Tabelle.
Grenzen stecken in der Technik
„Bitte ändere nur diese Datei“ ist eine Bitte. Eine Sperre, die einen Schreibversuch abweist, ist eine Grenze.
Was die KI darf, legt die Technik fest, nicht die Anweisung an die KI. Sie schreibt nur an den Stellen, die der freigegebene Plan nennt. Ihre Tests laufen ohne Internet. Sie kommt weder an dein laufendes System noch an echte Daten.
Im Probelauf habe ich die bauende KI ausdrücklich angewiesen, an nicht erlaubten Stellen zu schreiben. Alle drei Versuche wurden abgewiesen und im Protokoll vermerkt. Hält ein Schritt die erlaubten Stellen nicht ein, hält der ganze Ablauf an, statt weiterzulaufen.
Bei einer eigenen Durchsicht fand ich einen Umweg, über den die Testumgebung mehr hätte tun können als erlaubt. Geschlossen habe ich ihn noch am selben Tag, und seitdem gehört genau dieser Versuch zum Probelauf.
Technische Grenzen schützen vor dem, woran jemand gedacht hat. Deshalb baue ich solche Verfahren zuerst an eigenen Projekten und suche selbst nach Lücken, bevor ein Kundenauftrag darüber läuft. Auf dein laufendes System spiele ich nichts automatisch auf. Das bleibt ein bewusster Schritt, mit Sicherung vorher.
Deine Daten
Hier muss man zwei Dinge auseinanderhalten: womit gebaut wird und was später in deinem Betrieb läuft.
Beim Bauen arbeiten KI-Werkzeuge amerikanischer Anbieter am Programmcode, nicht an deinen Daten. In der Bauumgebung liegen nur Testdaten.
Im Betrieb entscheidest du, welche Daten dein Haus verlassen dürfen, und zwar vor dem Bau, beim Befund. Wie ich solche Grenzen technisch erzwinge, steht im Werkstattbericht „Wie ich arbeite“.
Im eigenen Projekt waren die Testdaten Wanderrouten und ein Reiseplan, keine Personendaten. Bei einem Kundenauftrag lege ich die Testdaten gemeinsam mit dir fest.
Der Programmcode selbst geht an die Anbieter der KI-Werkzeuge. Enthält er etwas, das dein Haus nicht verlassen soll, zum Beispiel eine besondere Kalkulationslogik, sagst du es mir vorher. Dann reden wir über andere Werkzeuge. Die sind langsamer und kosten mehr.