Vergessen Sie Prompts. Das KI-System 70/30

KI-Projekte scheitern selten am Modell. Das Modell funktioniert in der Regel. Sie scheitern, weil das System nach dem Go-Live in eine Lücke fällt, in der niemand mehr zuständig ist. Der Data Scientist ist zur nächsten Pipeline weitergezogen. Der MLOps-Engineer schaut auf Monitoring-Dashboards, deren Schwellenwerte er selbst gesetzt hat. Der Werksleiter weiß, dass irgendwo ein Modell läuft, kennt aber weder die Trainingsdaten noch den Anbieter der GPU-Schicht.

Was wie ein Software-Problem aussieht, ist ein Anthropologie-Problem. Drei Rollen wurden nicht ausgesprochen, bevor das System in Betrieb ging. Drei Verantwortlichkeiten sind nicht zugeschrieben, drei Eskalationspfade nicht eingerichtet: wer trainiert, wer kontrolliert, wer haftet. …

Es gibt eine Hoffnung, die in fast jedem KI-Projekt-Briefing auftaucht. Sie wird selten ausgesprochen, aber sie strukturiert die Erwartungen aller Beteiligten. Die Hoffnung lautet: Wenn das Modell groß genug ist, korrigiert es schlechte Eingangsdaten.

Das tut es nicht. Kein Modell der letzten zehn Jahre hat das geleistet, und die nächste Generation wird es ebenfalls nicht tun. Was Machine Learning leistet, ist eine Annäherung an die Funktion, die in den Trainingsdaten angelegt ist. Wenn die Trainingsdaten widersprüchlich sind, reproduziert das Modell die Widersprüche. Wenn sie unvollständig sind, reproduziert es die Lücken. …

Im Frühjahr 2026 verklagt die Steuerberaterkammer Berlin das Unternehmen Accountable. Der Vorwurf richtet sich nicht gegen das Tool. Es geht nicht um geschädigte Mandanten, nicht um Falschberatung, nicht um Datenlecks. Beanstandet wird ein einziges Wort auf der Website: KI-Steuerberater .

Diese Klage ist kein juristisches Kuriosum. Sie macht ein Muster sichtbar, das jeden produktiven KI-Anbieter in regulierten Domänen früher oder später erreicht. Was vor Gericht steht, ist meistens nicht das Modell, sondern die Position, mit der das Modell verkauft wird. …

Der EU AI Act ist im August 2024 in Kraft getreten. Die meisten Maschinenbau-Hersteller in Bayern und Baden-Württemberg haben sein volles Gewicht noch nicht gespürt — die Übergangsfristen für die meisten Hochrisiko-Kategorien sind in der aktiven Phase oder treten in naher Zukunft in sie ein. Mit ihrem Ablauf werden die Regeln verbindlich, mit Sanktionen bis zu 30 Millionen Euro oder 6 Prozent des globalen Jahresumsatzes, je nachdem, was höher ist.

Die Frage Wer haftet gehört zur Konstruktion, und nicht zur juristischen Nachbearbeitung. In den meisten Projekten wird sie zu spät gestellt, an Stellen, wo das Architekturfenster bereits geschlossen ist. Dieses Kapitel beschreibt, wie man die Frage so früh stellt, dass die Antwort tragend bleibt. …

Es gibt eine Asymmetrie, die in fast jedem industriellen KI-Projekt auftritt und selten ausgesprochen wird. Sie betrifft nicht die Architektur, nicht die Modellauswahl, nicht den Technologie-Stack. Sie betrifft die Menschen, die das System produktiv halten — und das Geld, das ihnen dafür bezahlt wird.

Ein Industriebetrieb oder Logistikunternehmen mit 200 bis 500 Mitarbeitern gibt für Cloud-Dienste rund um KI-Workloads typischerweise zwischen 80 000 und 250 000 Euro pro Jahr aus. Diese Zahlen umfassen Rechenleistung für Inferenz und Training, Speicher, Netzwerk und Managed Services wie AutoML oder Vektor-Suche, die Anbieter als AI-ready solutions paketieren. …

Jeder der vier Fälle ist eine konkrete Ausprägung desselben Mechanismus: Ein Fehler oder ein unerwartetes Ergebnis auf der Modellebene erreicht die Ebene juristischer und finanzieller Folgen, weil keine der Zwischenschichten — Signal, Operator, Mandat, Dokumentation, Vertrag — die Ausbreitung gestoppt hat. Die Schichten sind nicht zufällig gewählt; jeder Fall zeigt, welche von ihnen leer geblieben ist.

Es gibt eine bequeme Erzählweise über KI-Vorfälle: Das Modell hat halluziniert , das Modell war kaputt , das Modell war nicht bereit . Die Erzählung ist bequem, weil sie die Verantwortung auf die Technologie schiebt — und sie von den organisatorischen Entscheidungen löst, die dem Vorfall vorausgingen. …

Bain & Company zeigte in einer Untersuchung von 2025: Unternehmen, die generative KI mit einem echten Umbau ihrer Prozesse verbinden, senken Kosten um bis zu 25 Prozent. Wer KI auf bestehende Prozesse aufsetzt, ohne sie umzubauen, erreicht einstellige Prozentwerte oder gar nichts. Diese 25 Prozent sind das stärkste externe Argument für den 70/30-Ansatz: Die Technologie allein liefert keine Ökonomie — die Ökonomie liefert die gemeinsame Konstruktion der menschlichen und der technischen Schicht.

Die meisten Architekturdiagramme von KI-Systemen zeigen die technische Schicht: Modell, Datenpipeline, Infrastruktur, Integrationen. Manchmal noch die Oberfläche für Endanwender. Selten mehr. …