Abgrenzung: Konventionelle Software versus KI-System

Abgrenzung: Konventionelle Software versus KI-System

Arbeitsweg

• Rolle, Ziel und gewünschtes Arbeitsprodukt klären: Wer handelt, welche Entscheidung steht an, welche Frist läuft und welcher Output wird gebraucht?
• Fristen und Eilrisiken zuerst markieren: Verordnung (EU) 2024/1689 in der Fassung 2026/1744: bisherige Verbote seit 02.02.2025, neue Verbote ab 02.12.2026; GPAI und Transparenz nach eigener Regel. Kapitel III Abschnitte 1 bis 3 außer Artikel 6 Absatz 5 für Anhang III ab 02.12.2027, Anhang I ab 02.08.2028; Artikel 111 und 113 sowie einschlägige Zuständigkeit prüfen.
• Tragende Normen verifizieren: KI-VO (EU 2024/1689) Art. 3, 5 (Verbote), 6 (Hochrisiko), 8-15 (Anforderungen), 16, 26 (Pflichten Anbieter/Betreiber), 50 (Transparenz), 51-55 (GPAI), 73, 99 (Sanktionen) — Fundstellen über gesetze-im-internet.de, dejure.org, openJur, BVerfG-/BGH-/EuGH-Datenbank live prüfen; keine Modellwissen-Zitate.
• Zuständige Stelle bestimmen und Adressaten richtig wählen: Anbieter, Betreiber, Importeur, Händler, Marktüberwachungsbehörde (BNetzA/BMDV), benannte Stelle, EU-AI-Office, AI Board.
• Dokumente und Beweismittel sammeln und auf Lücken prüfen: Konformitätserklärung Art. 47, technische Dokumentation Anhang IV, Risikomanagement-System Art. 9, Datengovernance Art. 10, FRIA (Fundamental Rights Impact Assessment) Art. 27, EU-Datenbank-Registrierung Art. 49 — fehlende Belege durch Akteneinsicht oder Rückfrage beim Mandanten beschaffen, Live-Check für tagesaktuelle Normänderungen und Verwaltungspraxis.

Leitgedanke

Automation ist ein starkes Warnsignal, aber kein alleiniger Test. Entscheidend ist, ob das System aus Eingaben ableitet, wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugt werden. Autonomie muss vorhanden sein, darf aber nicht überhöht werden: Auch ein Mensch-in-der-Schleife-System kann KI sein, wenn die Ausgabe inferenzbasiert entsteht.

Abgrenzungsmatrix

Regelmäßig konventionelle Software

Grenzfälle

Regelmäßig KI-System oder KI-Komponente

Prüffragen

1. Werden Trainingsdaten, Modellgewichte, Embeddings, gelernte Parameter oder ein externes Modell genutzt?
2. Erzeugt das System aus variablen Eingaben eigenständig eine Ausgabe?
3. Ist die Ausgabe Vorhersage, Inhalt, Empfehlung, Score, Ranking, Klassifikation oder Entscheidung?
4. Kann ein Mensch die Ausgabe nur noch prüfen, übernehmen oder verwerfen?
5. Ist die Automation bloß Ablaufsteuerung oder trägt sie die inhaltliche Bewertung?
6. Ist eine KI-API oder ein GPAI-System eingebunden, auch wenn die eigene Software drumherum konventionell ist?
7. Wird das System in sensiblen Kontexten wie Beschäftigung, Bildung, Kredit, Justiz oder Verwaltung genutzt?

Typische Fehlannahmen

"Es lernt nicht im Betrieb, also keine KI." Falsch. Adaptivität nach Deployment ist optional; ein eingefrorenes trainiertes Modell kann KI-System sein.

"Der Mensch entscheidet am Ende, also keine KI." Falsch. Menschliche Freigabe beseitigt die KI-Eigenschaft nicht, wenn die inhaltliche Ausgabe inferenzbasiert generiert wird.

"Es ist nur eine API." Die API kann KI-System oder Bestandteil eines KI-Systems sein. Für den Betreiber zählt der konkrete Einsatz.

"Es ist nur ein Chatbot." Ein skriptbasierter FAQ-Bot kann konventionell sein. Ein LLM-basierter Chatbot ist regelmäßig KI-System; Hochrisiko hängt aber erst vom Zweck ab.

"Es ist nur Statistik." Deskriptive Statistik bleibt häufig draußen. Prognose, Klassifikation, Ranking oder individuelle Bewertung sprechen deutlich für KI.

Ergebnislogik

• KI-System wahrscheinlich: liegt-ki-system-vor-art-3-nr-1 dokumentierend abschließen, danach Risikoklasse prüfen.
• Konventionelle Software wahrscheinlich: Negativvermerk erstellen; Re-Evaluation bei neuer KI-Komponente oder Zweckänderung.
• KI-Komponente in konventionellem System: Gesamtarchitektur trennen und KI-Komponente separat durch die KI-VO-Prüfung führen.
• GPAI/Chatbot betroffen: gpai-vorliegen-art-3-nr-63 und begrenztes-risiko-art-50-transparenzpflichten.
• Sensible Zwecknähe: zusätzlich hochrisiko-art-6-abs-2-anhang-iii.

Output-Template — Abgrenzungsmatrix

ABGRENZUNG KONVENTIONELLE SOFTWARE / KI-SYSTEM
Datum: [DATUM]
System / Komponente: [NAME]

1. Technischer Befund
[Regelwerk / / Statistik / ML-Modell / LLM / API / RAG / Hybrid]

2. Automation und Autonomie
[Was läuft automatisch? Wo greift ein Mensch ein? Ist die Ausgabe menschlich vorbestimmt?]

3. Inferenz
[Keine / möglich / wahrscheinlich / bestätigt]
[Begründung: Trainingsdaten, Modell, Gewichtung, Ranking, Generierung]

4. Output
[Vorhersage / Inhalt / Empfehlung / Entscheidung / nur Datenweitergabe]

5. Ergebnis
[konventionelle Software / KI-System / KI-Komponente im Gesamtsystem / Grenzfall]

6. Folgeprüfung
[liegt-ki-system-vor-art-3-nr-1 / gpai-vorliegen-art-3-nr-63 / hochrisiko-art-6-abs-2-anhang-iii / keine KI-VO]

Quellen- und Aktualitätshinweis

Stand: 07/2026. Maßgeblich sind Art. 3 Nr. 1 KI-VO, Erwägungsgrund 12 und die Kommissionsleitlinien zur Definition des KI-Systems. Keine Rechtsberatung.