Wenn Software zum Harness für LLMs wird #121

Klassische Software wird für Menschen gebaut, die durch Oberflächen klicken, oder für Entwickler, die REST-APIs ansprechen. Mit Large Language Models kommt ein neuer erster Nutzer hinzu: die KI selbst. Daraus folgt die These, dass sich SaaS-Anbieter zu Harness-Anbietern entwickeln. Ihre Software bleibt der Ort, an dem Fachlogik, Konnektivität und Ergebnisse liegen, wird aber so gebaut, dass ein beliebiges Modell sie über Tool Calls bedienen kann. Gleichzeitig spricht viel dafür, dass MCP mittelfristig REST und GraphQL als bevorzugte Schnittstelle ablöst, weil Modelle sie am besten verstehen.

Ein Modell wie Opus, Gemini oder GPT kann für sich genommen nur Text entgegennehmen und mit einer gewissen Wahrscheinlichkeit Text zurückgeben. Es merkt sich nichts zwischen zwei Anfragen, kann keine Datei lesen und keine Verbindung zu einem Server aufbauen. Alles, was ein Modell darüber hinaus nutzbar macht, fasst der Begriff Harness zusammen, wörtlich das Geschirr oder Trapez, das beim Kitesurfen die Kraft des Schirms auf den Körper überträgt. Daher die Formel Agent gleich Modell plus Harness.

Der Harness ist deterministische Software. Er verwaltet den Kontext, der bei jeder Anfrage vollständig neu an das Modell geht, und komprimiert ihn per Compaction, wenn das Kontextfenster vollläuft. Er registriert Tools, deren Namen und Parameter als JSON Schema im Kontext stehen, und übersetzt die Textantwort des Modells in einen echten Funktionsaufruf, etwa um einen OPC UA Client zu konfigurieren und mit einem Server zu verbinden. Das Ergebnis fließt zurück ins Modell, das im agentischen Loop weiterarbeitet, bis die Aufgabe erledigt ist oder eine Abbruchbedingung greift. Ein guter Harness engt dabei den Lösungsraum ein, gibt bei fehlerhaften Parametern gezielt Feedback und fragt bei Mehrdeutigkeiten per Elicitation beim Nutzer nach. So werden auch kleinere, günstigere Modelle brauchbar.

Über das Model Context Protocol, kurz MCP, hängen mehrere domänenspezifische Harnesses, etwa für Industriedigitalisierung, CRM, Kalender oder E-Mail, gleichzeitig an einem austauschbaren Modell. An dieser Grenze wird von probabilistisch auf deterministisch umgeschaltet: Validierung und Berechtigungen lassen sich dort verbindlich durchsetzen, während Anweisungen im Prompt immer nur Wahrscheinlichkeiten verschieben. Wer Modell, Schnittstelle und Harness heute sauber trennt, kann später auf ein lokal betriebenes Open-Weight-Modell wechseln und sensible Daten im eigenen Haus halten, ohne an Eurer Lösung etwas zu ändern.

---

Einfach Komplex ist ein Podcast von Heisenware.

Weitere Infos und ein kostenloser Test: https://heisenware.com/einfach-komplex

Kontakt: [email protected]