GPAI, allgemeiner Chatbot und Hochrisiko-Abgrenzung

GPAI, allgemeiner Chatbot und Hochrisiko-Abgrenzung

Zweck

Kläre, ob ein Modell oder Dienst ein General-Purpose-AI-Modell (GPAI-Modell) oder ein GPAI-System ist und wie dies zur Hochrisiko-Einstufung nach Art. 6 KI-VO steht.

Der wichtigste praktische Punkt: Ein allgemeines Sprachmodell oder ein ChatGPT-ähnlicher Chatbot ist nicht automatisch Hochrisiko-KI. Hochrisiko hängt an der konkreten Zweckbestimmung und dem Einsatz als KI-System in einem regulierten Kontext, insbesondere Art. 6 Abs. 2 i.V.m. Anhang III.

Begriffe trennen

GPAI-Modell nach Art. 3 Nr. 63 KI-VO

Prüfe:

• Wurde das Modell mit großen Datenmengen und erheblichem Rechenaufwand trainiert?
• Nutzt es typischerweise selbstüberwachtes, unüberwachtes oder vergleichbares großskaliges Training?
• Generalisiert es über eine breite Vielzahl verschiedener Aufgaben?
• Kann es in viele nachgelagerte Systeme oder Anwendungen integriert werden?
• Ist es nicht nur ein eng spezialisiertes Modell für eine einzelne Aufgabe?

Beispiele:

• große Sprachmodelle
• multimodale Foundation Models
• breite Bild-, Audio-, Video- oder Code-Modelle
• Modelle, die als API oder Model Weight für viele Anwendungen bereitgestellt werden

Nicht automatisch GPAI:

• kleines Fachmodell für genau eine Klassifikationsaufgabe
• klassische Fachsoftware ohne generische Modellfähigkeiten
• rein regelbasiertes Expertensystem

GPAI-System nach Art. 3 Nr. 66 KI-VO

Ein GPAI-System ist ein KI-System auf Basis eines GPAI-Modells, das für eine Vielzahl von Zwecken eingesetzt werden kann, auch wenn es direkt mit Nutzern interagiert oder Inhalte erzeugt.

Prüffragen:

• Gibt es eine Chat-, Agenten-, API- oder Tool-Oberfläche für Nutzer?
• Kann das System Texte, Bilder, Code, Empfehlungen oder andere Inhalte für viele Zwecke erzeugen?
• Ist das System in einen konkreten Facheingebettet oder bleibt es allgemeiner Assistent?

Hochrisiko-Abgrenzung

Allgemeiner Chatbot

Ein allgemeiner Assistent für Entwurf, Zusammenfassung, Übersetzung oder Recherche ist regelmäßig nicht schon wegen seiner abstrakten Einsatzmöglichkeiten Hochrisiko. Prüfe aber:

• Art. 50 Transparenzpflichten bei Interaktion mit natürlichen Personen oder KI-generierten Inhalten
• GPAI-Pflichten des Modellanbieters
• Datenschutz, Berufsrecht, Geheimnisschutz, Urheberrecht

Konkrete Hochrisiko-Integration

Wird das GPAI-System in einen Anhang-III-Prozess integriert, kann die konkrete Anwendung Hochrisiko sein.

Beispiele:

• Bewerberranking oder Eignungsbewertung
• Beschäftigtenüberwachung oder Leistungsbewertung
• Kreditwürdigkeitsprüfung natürlicher Personen
• Bewertung von Sozialleistungsansprüchen
• Notrufpriorisierung
• justizielle Rechtsanwendung auf konkrete Fälle durch oder für ein Gericht
• Asyl-/Visa-/Grenzrisikobewertung

Dann weiter zu hochrisiko-art-6-abs-2-anhang-iii.

Mitarbeiter nutzen Chatbot entgegen Zweckbestimmung

Wenn Mitarbeiter ein allgemeines Tool zweckwidrig für Hochrisiko-Fragen nutzen:

• Isolierter Regelverstoß trotz klarer Richtlinie und Kontrollen: als Compliance-Vorfall behandeln; nicht automatisch Hochrisiko-Einstufung des gesamten Tools.
• Systematische oder geduldete Praxis: tatsächlicher Betreiberzweck kann Hochrisiko-Einsatz begründen.
• Vorhersehbarer Fehlgebrauch ohne Schutzmaßnahmen: Governance verschärfen; Art. 4 KI-Kompetenz, Richtlinien, Rollenrechte, Logging, technische Sperren, Prompt-Blockaden und Re-Evaluation dokumentieren.
• Zweckänderung oder wesentliche Änderung: anbieter-werden-art-25 prüfen.

Prüffragen für die Dokumentation

1. Handelt es sich um ein Modell, ein System oder eine konkrete Fachanwendung?
2. Wer ist Modellanbieter, Systemanbieter und Betreiber?
3. Ist der Zweck breit-allgemein oder fachlich auf einen Anhang-III-Kontext zugeschnitten?
4. Gibt es Use-Case-Beschränkungen in Terms, Policy, Systemprompt, UI, Rollenrechten oder Schulungen?
5. Werden Hochrisiko-Einsätze technisch verhindert, nur organisatorisch untersagt oder faktisch geduldet?
6. Erzeugt das System nur allgemeine Inhalte oder bewertet es natürliche Personen, Rechte, Risiken oder Zugang?

Routing

• GPAI-Modell bestätigt: gpai-modelle-art-51-bis-55; ggf. gpai-systemisches-risiko-schwelle-10e25-flop.
• Allgemeiner Chatbot/GPAI-System: begrenztes-risiko-art-50-transparenzpflichten, zusätzlich Datenschutz/Geheimnisschutz prüfen.
• Einsatz in Anhang-III-Kontext: hochrisiko-art-6-abs-2-anhang-iii, danach rueckausnahme-art-6-abs-3.
• Zweckwidrige Mitarbeitern-Nutzung: betreiber-deployer-pflichten-art-26, anbieter-werden-art-25, output-pruefdokument-ki-vo-mit-warnhinweisen.

Output-Template — GPAI-/Chatbot-Einordnung

GPAI- UND CHATBOT-EINORDNUNG NACH KI-VO
Datum: [DATUM]
System / Modell / Dienst: [NAME]

1. Technischer Zuschnitt
[Modell / GPAI-System / allgemeiner Chatbot / Fachanwendung / API-Integration]

2. GPAI-Modell
[Ja/Nein/Unklar] — [Begründung]

3. GPAI-System / allgemeiner Assistent
[Ja/Nein/Unklar] — [Begründung]

4. Zweckbestimmung
- Anbieter-Zweck: [...]
- Betreiber-Zweck: [...]
- Verbotene/ausgeschlossene Nutzungen: [...]
- Bekannte tatsächliche Nutzung: [...]

5. Hochrisiko-Relevanz
[Nicht automatisch Hochrisiko / Anhang-III-Prüfung erforderlich / Hochrisiko naheliegend]
[Begründung mit konkretem Zweck]

6. Off-label-/Mitarbeitern-Nutzung
[Risiko, Kontrollen, Governance-Maßnahmen, Re-Evaluation]

7. Folge-Skills
[gpai-modelle-art-51-bis-55 / begrenztes-risiko-art-50-transparenzpflichten / hochrisiko-art-6-abs-2-anhang-iii / betreiber-deployer-pflichten-art-26]

Ausformulierungspflicht und Formatstandard. Das Endprodukt wird in vollständigen, ausformulierten Sätzen geliefert — keine Stichwortskelette, keine leeren Klauselrümpfe, keine reinen Aufzählungen. Klauseln stehen als ausformulierte Rechtsfolgen-Sätze; Platzhalter wie [Name der Mandantin] werden klar markiert, der umgebende Text bleibt vollständig.

Schriftbild: Wenn ein Schriftsatz, Vertrag, Memo, Beschluss, Vermerk oder sonstiges Enddokument als DOCX, PDF oder formatierter Text ausgegeben wird, ist Times New Roman 11 pt als Grundschrift zu verwenden. Überschriften bleiben in derselben Schrift und dürfen nur fett oder abgestuft sein. Bei reiner Markdown- oder Chat-Ausgabe wird dieser Formatwunsch als Exporthinweis aufgenommen.

Nummerierung: Gliederung ausschließlich dezimal (1, 1.1, 1.1.1 und so weiter). Keine römischen Ziffern, keine Buchstaben- oder Mischgliederung.

Quellen- und Aktualitätshinweis

Stand: 07/2026. Maßgeblich sind Art. 3 Nr. 1, Nr. 12, Nr. 13, Nr. 63 und Nr. 66, Art. 50 sowie Art. 51 bis 55 KI-VO. Keine Rechtsberatung.