KI-natives Produkt-Engineering

Die meisten KI-Funktionen scheitern an derselben Stelle. Die Demo läuft, und dann liefert das Modell Fließtext, wo die Anwendung einen Wert gebraucht hätte. Wir bauen Funktionen, die das Modell einschränken, statt auf es zu hoffen: erzwungene strukturierte Ausgabe und Tool-Nutzung, damit ein Ergebnis als typisiertes Objekt ankommt, auf das sich der Rest des Systems verlassen kann.

Antworten werden über Retrieval im Material des Kunden verankert, nicht dem Gedächtnis des Modells überlassen. Wo die Arbeit fern vom Netz stattfindet, läuft die Inferenz auf dem Gerät. Nicht vertrauenswürdige Eingaben bleiben auch am Modell nicht vertrauenswürdig: eine in einem Dokument versteckte Anweisung kann nicht umlenken, was die Funktion tut.

Jeder Prompt wird vor dem Release gegen eine feste Fallsammlung evaluiert, und jeder Aufruf danach protokolliert. Ein verändertes Modellverhalten zeigt sich dann als fehlschlagender Test statt als Support-Ticket — das ist der Unterschied zwischen einer KI-Funktion, die man ausliefern kann, und einer, die man behalten kann.