Zum Inhalt springen
Seit 2014 IT im Mittelstand|DSGVO-bewusst|Region Starnberg · Fürstenfeldbruck · München-West
Home › Blog › Welche Aufgaben darf eine KI vorbereiten, aber nicht selbst entscheiden?

Welche Aufgaben darf eine KI vorbereiten, aber nicht selbst entscheiden?

· Ben Kübrich

Veröffentlicht: 04.10.2026 · Fachlich geprüft: 04.10.2026 · Autor: Ben Kübrich

Grundlage dieser Antwort: Die rechtlichen Aussagen stützen sich auf belegte Primärquellen: den Wortlaut von Artikel 22 DSGVO, die Pressemitteilung des Gerichtshofs der EU zum Urteil C-634/21 (SCHUFA-Scoring) sowie Artikel 14, Artikel 26 und Anhang III der KI-Verordnung (EU) 2024/1689 (englischer Text beim AI Act Service Desk der EU-Kommission); den Geltungsbeginn für Hochrisiko-Systeme regelt die Verordnung (EU) 2026/1744 (alle am 04.10.2026 abgerufen). Die Drei-Fragen-Regel „Wirkung, Einsatz, Nachprüfbarkeit“ ist eine eigene LIBUCO®-Methode aus der Beratung, keine erhobene Statistik. Das Praxisbeispiel ist konstruiert. Dieser Beitrag ist keine Rechtsberatung.

Direkte Antwort

Eine KI darf im Betrieb fast alles vorbereiten: Entwürfe, Zusammenfassungen, Sortierungen, Vergleiche und Vorschläge. Selbst entscheiden sollte sie nicht, wenn das Ergebnis eine Person rechtlich oder ähnlich erheblich betrifft, wenn Geld, Fristen oder Verträge daran hängen oder wenn niemand die Grundlage nachprüfen kann. Für Entscheidungen über Menschen, etwa über Bewerbungen oder Kredite, setzen Artikel 22 DSGVO und die KI-Verordnung zusätzliche rechtliche Grenzen. Die wichtigste Einschränkung: Eine Freigabe zählt nur, wenn ein Mensch wirklich prüft und auch anders entscheiden darf.

Belege für diese Antwort

Für wen gilt das? Und für wen nicht?

Der Beitrag richtet sich an Inhaber kleiner Betriebe mit drei bis zwanzig Beschäftigten, die KI-Werkzeuge wie ChatGPT, Gemini oder Copilot im Alltag nutzen und klären wollen, wo die KI arbeiten darf und wo ein Mensch das letzte Wort behalten muss. Er gilt nicht für Betriebe, die selbst KI-Systeme entwickeln oder unter eigenem Namen anbieten, und er ersetzt keine rechtliche Prüfung im Einzelfall. Für Arbeitsrecht, Steuerrecht oder Haftungsfragen ist eine Fachperson zuständig.

Was ist der Unterschied zwischen vorbereiten und entscheiden?

Vorbereiten heißt: Die KI liefert Material, ein Mensch macht daraus eine Entscheidung. Entscheiden heißt: Das Ergebnis der KI wirkt unmittelbar, ohne dass jemand es geprüft und verantwortet hat. Ein Angebotsentwurf, den Sie lesen, ändern und dann selbst verschicken, ist Vorbereitung. Eine Absage an einen Bewerber, die ein Programm automatisch versendet, ist eine Entscheidung.

Die Grenze verläuft nicht entlang des Werkzeugs, sondern entlang des Ablaufs. Dieselbe KI kann im einen Ablauf harmlos vorbereiten und im anderen faktisch entscheiden – etwa dann, wenn ihre Vorsortierung so übernommen wird, wie sie ist. Genau diesen Punkt hat der Gerichtshof der EU beim Scoring hervorgehoben: Maßgeblich ist, welche Rolle der automatisch erzeugte Wert für die spätere Entscheidung tatsächlich spielt (EuGH, Pressemitteilung Nr. 186/23).

Die LIBUCO®-Drei-Fragen-Regel: Wirkung, Einsatz, Nachprüfbarkeit

In der Beratung nutzen wir drei Fragen, um eine Aufgabe einzuordnen. Das ist eine eigene LIBUCO®-Methode, keine gesetzliche Vorgabe.

  1. Wirkung: Betrifft das Ergebnis direkt einen Menschen – Bewerber, Kunden, Mitarbeitende –, etwa durch eine Zusage, Absage, Einstufung oder Kündigung?
  2. Einsatz: Hängen Geld, eine Frist, ein Vertrag oder eine Rechtsfolge daran?
  3. Nachprüfbarkeit: Kann die Person, die freigibt, die Grundlage des Ergebnisses selbst nachvollziehen – mit vertretbarem Aufwand?

Lautet die Antwort bei Frage 1 oder 2 „ja“, bleibt die Entscheidung beim Menschen; die KI darf vorbereiten. Lautet sie bei Frage 3 „nein“, sollte die KI auch nicht vorbereiten, weil eine Freigabe dann nur ein Abnicken wäre.

Eine KI darf vorbereiten, was ein Mensch nachprüfen kann. Entscheiden muss ein Mensch überall dort, wo das Ergebnis eine Person, Geld, Fristen oder Rechte betrifft.

Welche Aufgaben kann eine KI gut vorbereiten?

Gut geeignet sind Aufgaben, deren Ergebnis ein Mensch vor der Verwendung liest und ändern kann:

Wie Sie ein solches Ergebnis prüfen, beschreibt der Beitrag Wie erkenne ich, ob eine KI-Antwort stimmt?.

Welche Entscheidungen sollte eine KI nicht selbst treffen?

Die KI sollte nicht selbst entscheiden, wenn eine der folgenden Bedingungen zutrifft. Die ersten beiden Punkte stützen sich auf DSGVO und KI-Verordnung; die Punkte 3 bis 5 folgen aus der LIBUCO®-Drei-Fragen-Regel (Frage 2 „Einsatz“), nicht aus einer gesetzlichen Vorgabe.

Wie sieht eine echte menschliche Freigabe aus?

Eine Freigabe ist nur dann echt, wenn die prüfende Person versteht, was sie freigibt, die Grundlage sehen kann und befugt ist, anders zu entscheiden. Die KI-Verordnung beschreibt dieses Prinzip für Hochrisiko-Systeme: Die Aufsicht soll bei Personen mit Kompetenz, Schulung und Befugnis liegen (Artikel 26 Abs. 2), und das System muss so bereitgestellt werden, dass diese Personen sich der Gefahr bewusst bleiben können, sich zu sehr auf das Ergebnis zu verlassen (Artikel 14 Abs. 4 Buchstabe b). Für einen kleinen Betrieb, der keine Hochrisiko-Systeme nutzt, ist das keine Pflicht, aber ein brauchbarer Maßstab.

Praktisch heißt das: Legen Sie für jeden KI-Ablauf schriftlich fest, wer freigibt, was vor der Freigabe geprüft wird und wo die Quelle der KI-Angaben steht. Wer ohnehin eine KI-Richtlinie hat, ergänzt sie um diese drei Punkte.

Ein konstruiertes Beispiel aus dem Handwerk

Das folgende Beispiel ist konstruiert und dient nur der Veranschaulichung; es beschreibt keinen realen Kunden. Ein Elektrobetrieb mit neun Beschäftigten lässt eine KI offene Rechnungen aus der Buchhaltungsliste zusammenfassen und für jede überfällige Rechnung einen freundlichen Erinnerungstext vorschlagen. Die Inhaberin liest jeden Vorschlag, prüft den Zahlungseingang im Konto und entscheidet selbst, ob eine Erinnerung, eine Mahnung mit Frist oder ein Anruf passt. Die KI spart ihr das Formulieren; die Entscheidung über Frist und Ton bleibt bei ihr. Offen bleibt in diesem Beispiel, wie gut die KI die Liste liest – deshalb gehört der Abgleich mit dem Konto fest zur Freigabe.

Grenzen und typische Fehler

Wann diese Empfehlung nicht passt

Checkliste: Darf die KI hier entscheiden?

Wer zusätzlich prüfen will, wo KI im eigenen Betrieb gar nichts bringt, findet auf der Buchseite die kostenlose Grenzen-Checkliste als PDF – ohne Anmeldung und ohne E-Mail-Adresse. Angabe in eigener Sache.

Quellen

Über den Autor

Ben Kübrich berät mit LIBUCO® inhabergeführte kleine und mittlere Betriebe in Gilching, im Landkreis Starnberg, in Fürstenfeldbruck und im Münchner Umland zum Einsatz von KI im Arbeitsalltag. Sein Schwerpunkt liegt auf überprüfbaren Abläufen, klaren Zuständigkeiten und einem DSGVO-bewussten Umgang mit Daten. Er ist kein Rechtsanwalt; rechtliche Fragen gehören zu einer Fachperson.

Nächster Schritt

Wenn Sie einen konkreten KI-Ablauf im Betrieb haben und unsicher sind, wo die Freigabe hingehört, bringen Sie ihn zum kostenlosen Kennenlerngespräch mit: 30 Minuten, per Video oder Telefon, unverbindlich. Gemeinsam ordnen wir ein, was die KI vorbereiten kann und wo Sie entscheiden. Kennenlerngespräch vereinbaren