Was Sie Ihren KI-Anbietern fragen müssen
Die meisten Unternehmen unterzeichnen KI-Verträge, ohne die richtigen Fragen gestellt zu haben. Das hat Konsequenzen.
Der Vertrag war schon unterschrieben
Ein mittelständisches Unternehmen aus Bayern integriert eine KI-gestützte Dokumentenanalyse in seinen Einkaufsprozess. Der Anbieter kommt aus San Francisco, hat ein ansprechendes Dashboard, nennt auf Nachfrage eine ISO-27001-Zertifizierung und schickt in 48 Stunden ein Angebot. Der Vertrag wird unterzeichnet.
Neun Monate später: Eine externe Datenschutzprüfung stellt fest, dass Lieferantendaten — darunter Bankverbindungen und Bonitätsinformationen europäischer Geschäftspartner — auf US-amerikanischen Servern verarbeitet werden. Einen Auftragsverarbeitungsvertrag (AVV) nach Art. 28 DSGVO hat der Anbieter nie angeboten. (Informationen zur Aufsicht: BfDI – KI-Regulierung) Ein Transfer Impact Assessment existiert nicht. Die Daten wurden ohne Rechtsgrundlage in ein Drittland übermittelt.
Dieser Fall ist kein Einzelfall. Er beschreibt ein strukturelles Problem: Unternehmen bewerten KI-Anbieter nach Produktfeatures, Preis und Referenzen — aber selten nach den regulatorischen Anforderungen, die seit dem EU AI Act und der verschärften DSGVO-Durchsetzung zwingend zu stellen sind.
Warum die Standardfragen nicht reichen
Die erste Frage im Evaluierungsgespräch lautet fast immer: "Sind Sie ISO 27001 zertifiziert?" Die Antwort ist meist ja. Und sie sagt fast nichts.
ISO 27001 ist ein Managementsystem-Standard. Er bescheinigt, dass ein Unternehmen Prozesse zur Informationssicherheit definiert hat — nicht, dass diese Prozesse für den KI-spezifischen Kontext ausreichen (siehe auch BSI-Empfehlungen zu KI-Sicherheit), und schon gar nicht, dass DSGVO-Pflichten erfüllt sind. Das Zertifikat deckt nicht ab:
- Art. 22 DSGVO: Das Recht auf Nichtunterwerfung unter vollautomatisierte Entscheidungen — relevant für jedes KI-System, das Scoring, Klassifikation oder Empfehlungen mit rechtlicher Wirkung ausgibt.
- EU AI Act Risikoklassen: Ein Anbieter kann ISO-zertifiziert sein und trotzdem kein Konformitätsbewertungsverfahren für sein Hochrisiko-KI-System durchgeführt haben.
- Trainingsdaten und Opt-out: Ob Ihre Kundendaten zur Modellverbesserung verwendet werden, ist weder durch ISO 27001 noch durch SOC 2 geregelt.
- Auditierbarkeit: Welche Logs werden geführt? Für wie lange? Und haben Sie als Auftraggeber Zugang dazu? Das Zertifikat schweigt dazu.
"Compliant by design" ist eine Marketingaussage. "Wir haben das DSGVO-konform gebaut" ist keine prüfbare Zusicherung. Was zählt, sind schriftliche Vertragspflichten, vorgelegte Dokumentation und nachvollziehbare Prozesse.
Die 5 kritischen Fragekategorien
Diese Fragen sollten vor Vertragsabschluss schriftlich gestellt und beantwortet werden. Antworten, die nur mündlich im Verkaufsgespräch gegeben werden, haben keinen Wert.
Datenlokalisierung und Transfer
- Wo werden unsere Daten verarbeitet — welche Rechenzentren, welches Land?
- Bieten Sie einen Auftragsverarbeitungsvertrag (AVV) nach Art. 28 DSGVO an?
- Liegt für US-Anbieter ein Transfer Impact Assessment (TIA) vor? Welche Standardvertragsklauseln (SCCs) werden verwendet?
- Wer sind Ihre Unterauftragsverarbeiter, und in welchen Ländern sitzen diese?
Ohne AVV ist jede Auftragsverarbeitung rechtswidrig. Ohne TIA bei US-Anbietern besteht ein ungelöstes Drittlandtransfer-Problem nach dem Schrems-II-Urteil.
EU AI Act Risikoklasse
- Wie klassifiziert der Anbieter sein System (minimal, begrenzt, hoch, verboten)?
- Welche Konformitätsbewertung nach Art. 43 EU AI Act wurde durchgeführt?
- Liegt eine technische Dokumentation nach Anhang IV vor?
- Ist das System in der EU-Datenbank für Hochrisiko-KI-Systeme registriert?
Ab August 2026 sind Hochrisiko-Anforderungen vollständig anwendbar. Systeme für HR, Kreditentscheidungen, Strafverfolgung oder kritische Infrastruktur fallen typischerweise darunter.
Modell und Training
- Werden unsere Eingabedaten oder Ausgaben für das Training oder Fine-Tuning von Modellen genutzt?
- Ist ein Opt-out möglich — und ist dieser standardmäßig aktiv oder muss er explizit aktiviert werden?
- Auf welcher rechtlichen Grundlage nach Art. 6 DSGVO beruht die Trainingsnutzung?
Viele Cloud-KI-Anbieter verwenden Nutzerdaten standardmäßig zur Modellverbesserung. Das ist ohne explizite Einwilligung oder Vertragsgrundlage nicht zulässig, wenn personenbezogene Daten enthalten sind.
Menschliche Aufsicht
- Welche Entscheidungen trifft das System vollautomatisch — ohne menschliche Beteiligung?
- Gibt es einen Human-in-the-loop-Mechanismus für Entscheidungen mit rechtlicher oder erheblicher Auswirkung?
- Wie kann ein Nutzer einer automatisierten Entscheidung widersprechen (Art. 22 DSGVO)?
Art. 22 DSGVO und Art. 14 EU AI Act verlangen beide Schutzmechanismen gegen unkontrollierte automatisierte Entscheidungen. Die Pflicht liegt beim Anwenderunternehmen — auch wenn die KI eingekauft ist.
Audit und Logging
- Welche Systemlogs werden geführt — Eingaben, Ausgaben, Modellversionen, Systemereignisse?
- Für wie lange werden Logs aufbewahrt? (Hochrisiko-KI: mindestens 10 Jahre nach Art. 12 EU AI Act)
- Haben wir als Auftraggeber Zugang zu den Logs für eigene Audits oder Behördenanfragen?
- Ist ein Audit durch uns oder beauftragte Dritte vertraglich verankert (Art. 28 Abs. 3h DSGVO)?
Ohne Audit-Recht und Logzugang können Sie bei einer Datenschutzbeschwerde oder Behördenanfrage nicht nachweisen, was das System wann mit welchen Daten getan hat.
Red Flags im Verkaufsgespräch
Bestimmte Antworten und Verhaltensweisen im Evaluierungsprozess sind klare Warnsignale. Nicht notwendigerweise böse Absicht — aber ein Zeichen, dass der Anbieter seine Compliance-Pflichten nicht strukturiert durchdacht hat.
Warnsignale — vor Vertragsabschluss klären
- "Wir verarbeiten keine personenbezogenen Daten." — Ohne konkrete technische Analyse und vertragliche Abgrenzung ist das eine Behauptung, keine Garantie. Personenbezug entsteht schneller als gedacht: Namen in Dokumenten, IP-Adressen, Nutzer-IDs.
- "Wir sind compliant by design." — Diese Aussage ohne Belege (Dokumentation, AVV-Muster, Zertifikate) ist inhaltsleer. Fragen Sie: Welche konkrete Compliance? Gegen welchen Standard? Nachgewiesen durch wen?
- Kein AVV-Angebot ohne Nachfrage. — Ein Anbieter, der Auftragsverarbeitung durchführt und von sich aus keinen AVV anbietet, hat entweder die DSGVO nicht verstanden oder vermeidet bewusst vertragliche Bindungen.
- Unklare Antworten auf Fragen zum Datenspeicherort. — "In der Cloud" oder "In unseren Rechenzentren" ohne Länderangabe ist keine akzeptable Antwort, wenn EU-Datenschutz gilt.
- Verweigerung von Audit-Rechten. — Art. 28 Abs. 3h DSGVO verlangt, dass Auftragnehmer Audits ermöglichen. Ein Anbieter, der das kategorisch ablehnt, ist nicht DSGVO-compliant — Punkt.
- Standardverträge mit US-Gerichtsstand und US-Recht. — Der CLOUD Act erlaubt US-Behörden unter bestimmten Umständen Zugriff auf Daten amerikanischer Unternehmen, auch wenn diese in Europa gespeichert sind.
Warum diese Fragen bei AlpiType nicht entstehen
Die oben beschriebenen Fragekategorien sind dann relevant, wenn Sie ein KI-System aus der Cloud beziehen und darauf vertrauen müssen, dass der Anbieter seine Zusagen einhält. Das ist der Normalfall bei SaaS-KI-Lösungen — und genau deshalb sind strukturierte Vendor-Befragungen so wichtig.
AlpiType baut KI-Systeme, bei denen die Antworten auf diese Fragen von Anfang an feststehen: weil das System vollständig on-premise in Ihrer eigenen Infrastruktur betrieben wird.
- Datenlokalisierung: Ihre Daten verlassen Ihre Server nicht. Es gibt keinen Transfer in Drittländer, keinen AVV mit uns als Auftragsverarbeiter, weil wir nach dem Deployment keinen Datenzugriff haben.
- Modell-Training: Wir verwenden Ihre Produktionsdaten nicht. Das Modell wird einmalig konfiguriert und angepasst — auf Basis von Daten, die Sie bereitstellen und kontrollieren.
- Audit und Logging: Sie bestimmen, welche Logs wie lange gespeichert werden. Der Zugang liegt bei Ihnen, nicht bei uns.
- EU AI Act: Wir klassifizieren das System gemeinsam mit Ihnen, dokumentieren nach Anhang IV und unterstützen Sie bei der Konformitätsbewertung — statt Compliance-Verantwortung an Sie abzuwälzen.
Das ist kein Marketing-Argument gegen Cloud-Lösungen im Allgemeinen. Es ist eine nüchterne Feststellung: Wer KI-Systeme on-premise betreibt, hat eine klar andere Risiko- und Compliance-Position als wer sie extern bezieht. Für Branchen mit hohen Datenschutzanforderungen — Medizintechnik, Automotive, Behörden, Finanzdienstleister — ist das oft der entscheidende Unterschied.
Checkliste herunterladen
Der vollständige KI-Anbieter-Fragebogen als Excel-Datei: alle 30 Fragen strukturiert nach Kategorie, mit rechtlicher Grundlage, Bewertungsspalten und Legende. Geeignet für Evaluierungsgespräche und interne Dokumentation.
Das Dokument stellt keine Rechtsberatung dar. Für verbindliche DSGVO-Beratung wenden Sie sich an einen zugelassenen Datenschutzbeauftragten.
Weiterführende Artikel
KI nutzen, ohne Daten in die Cloud zu schicken
On-premise KI: Wie Systeme vollständig lokal betrieben werden.
Sind Ihre Daten überhaupt für KI nutzbar?
Datenqualität prüfen, bevor Sie in KI investieren.
Was KI in einem realen Industrieprojekt kostet
Konkrete Zahlen, Phasen und ROI aus realen Projekten.
Nicht sicher, ob das auf Ihren Fall zutrifft?
Wir prüfen Ihr Setup in 2 Wochen und sagen Ihnen, ob KI machbar ist.
Machbarkeits-Audit anfragen →Sprechen Sie mit einem Ingenieur
Kein Vertrieb. Sie sprechen direkt mit einem unserer Software-Architekten über Ihr konkretes Problem. 30 Minuten. Antwort innerhalb von 24 Stunden.
Email: info@alpitype.com
LinkedIn: AlpiType
