Autor-Archiv für Audrey van Elst
September 11, 2026 10:36 a.m.
Veröffentlicht von Audrey van Elst
Ein wesentlicher Aspekt, den Betreibende von KI-Systemen durchführen müssen, insbesondere öffentlich-rechtliche Betreibende wie staatliche Hochschulen. Sie umfasst: Beschreibung der Verfahren der Betreibenden, Zweckbestimmung des Systems, Identifikation der betroffenen Grundrechte und Personengruppen, Beschreibung des Zeitraums und der Häufigkeit der Verwendung des KI-Systems, Risikoanalyse und Maßnahmen, Umsetzung von Maßnahmen der menschlichen Aufsicht. Sie ergänzt die Datenschutz-Folgenabschätzung gemäß Art. 35 DSGVO.
(Knecht, Jana, Handreichung Zusammenfassung der KI-Verordnung für den Kontext der Hochschullehre,
September 11, 2026 10:36 a.m.
Veröffentlicht von Audrey van Elst
Verpflichtet Betreibende, ein Risikomanagementsystem zu etablieren, das potenzielle Grundrechtsrisiken identifiziert und deren Minimierung sicherstellt. Dieses System muss kontinuierlich während des gesamten „Lebenszyklus des KI-Systems“ aktualisiert werden.
(Knecht, Jana, Handreichung Zusammenfassung der KI-Verordnung für den Kontext der Hochschullehre, Rechtsinformationsstelle für die digitale Lehre (bwDigiRecht) im Hochschulnetzwerk Digitalisierung der Lehre Baden-Württemberg, Karlsruhe, 2025, vgl. Fischer, Risikomanagement: Datenschutz-Folgenabschätzung für Generative KI., Risikomanagement: Datenschutz-Folgenabschätzung für Generative KI;
September 11, 2026 10:35 a.m.
Veröffentlicht von Audrey van Elst
Verpflichtet Betreibende, umfassende technische Dokumentationen zu führen, die Informationen über den Zweck, die Funktionsweise, die Einsatzmöglichkeiten und die Qualität der verwendeten Daten enthalten.
(Knecht, Jana, Handreichung Zusammenfassung der KI-Verordnung für den Kontext der Hochschullehre, Rechtsinformationsstelle für die digitale Lehre (bwDigiRecht) im Hochschulnetzwerk Digitalisierung der Lehre Baden-Württemberg, Karlsruhe, 2025, vgl. Fischer, Risikomanagement: Datenschutz-Folgenabschätzung für Generative KI., Risikomanagement: Datenschutz-Folgenabschätzung für Generative KI)
September 11, 2026 10:35 a.m.
Veröffentlicht von Audrey van Elst
Der Einsatz von KI zur Unterstützung bei der Bewertung von Prüfungsleistungen. Rechtlich ist eine vollständige Automatisierung der Notenvergabe nicht zulässig, die finale Entscheidung muss weiterhin bei menschlichen Prüfenden liegen. Solche Systeme werden als Hochrisiko-KI-Systeme klassifiziert.
(Knecht, Jana, Handreichung Zusammenfassung der KI-Verordnung für den Kontext der Hochschullehre, Rechtsinformationsstelle für die digitale Lehre (bwDigiRecht) im Hochschulnetzwerk Digitalisierung der Lehre Baden-Württemberg, Karlsruhe, 2025, vgl. Schwartmann, Was es beim Einsatz von KI rechtlich zu beachten gibt,
September 11, 2026 10:35 a.m.
Veröffentlicht von Audrey van Elst
Ein besonderer Stellenwert in der europäischen Rechtsordnung, basierend auf der in Art. 13 der Charta der Grundrechte der Europäischen Union (GRCh) sowie in Art. 5 Abs. 3 S. 1 Grundgesetzes (GG) verankerten Forschungsfreiheit. Im Datenschutzrecht manifestiert es sich in der Verarbeitung personenbezogener Daten zu Forschungszwecken (DSGVO, Art. 5 Abs. 1 Lit. b Hs. 2 i.V.m. Art. 89 Abs. 1 DSGVO). Die KI-VO nimmt KI-Systeme, die ausschließlich für wissenschaftliche Forschung und Entwicklung konzipiert und eingesetzt werden,
September 11, 2026 10:34 a.m.
Veröffentlicht von Audrey van Elst
Modelle, die grundsätzlich von den Regelungen für GPAI-Systeme ausgenommen sind, solange sie nicht monetarisiert werden (Erwägungsgrund 103 S. 3). Anbietende und Betreibende müssen dennoch die Anforderungen für Hochrisiko-KI-Systeme erfüllen, wenn sie in risikobehafteten Bereichen eingesetzt werden.
(Knecht, Jana, Handreichung Zusammenfassung der KI-Verordnung für den Kontext der Hochschullehre, Rechtsinformationsstelle für die digitale Lehre (bwDigiRecht) im Hochschulnetzwerk Digitalisierung der Lehre Baden-Württemberg, Karlsruhe, 2025, vgl. IHK Schwerin,
September 11, 2026 10:34 a.m.
Veröffentlicht von Audrey van Elst
Eine Unterkategorie von GPAI-Modellen, die z.B. KI-Modelle mit einem hohen Wirkungsgrad umfassen, welcher bei hoher Rechenleistung im Training angenommen wird. Sollte von einem solchen System aufgrund seiner hohen Rechenleistung ein erhebliches Risiko ausgehen, sind zusätzliche Maßnahmen erforderlich.
(Knecht, Jana, Handreichung Zusammenfassung der KI-Verordnung für den Kontext der Hochschullehre, Rechtsinformationsstelle für die digitale Lehre (bwDigiRecht) im Hochschulnetzwerk Digitalisierung der Lehre Baden-Württemberg, Karlsruhe, 2025, vgl. Becker/Feuerstack, Ordnung der Wissenschaft 2024,
September 11, 2026 10:33 a.m.
Veröffentlicht von Audrey van Elst
Systeme, die für eine Vielzahl von Anwendungen genutzt werden können und nicht auf eine spezifische Aufgabe begrenzt sind. Diese Systeme unterliegen besonderen Anforderungen, insbesondere wenn sie als Hochrisiko-KI-Systeme eingestuft werden. Beispiele sind große Sprachmodelle (Large Language Models) wie GPT-4, Google Gemini oder Llama 3.1.
(Knecht, Jana, Handreichung Zusammenfassung der KI-Verordnung für den Kontext der Hochschullehre, Rechtsinformationsstelle für die digitale Lehre (bwDigiRecht) im Hochschulnetzwerk Digitalisierung der Lehre Baden-Württemberg, Karlsruhe,
September 11, 2026 10:33 a.m.
Veröffentlicht von Audrey van Elst
KI-Systeme, die nicht in die Kategorien der hochriskanten Anwendungen fallen und nicht reguliert sind. Für diese Systeme wird die Entwicklung und Einhaltung freiwilliger Verhaltenskodizes durch die beteiligten Akteur:innen gefördert. Beispiele sind KI-gestützte Empfehlungssysteme, Spamfilter, Sprachübersetzungstools und Datenanalyse-Tools.
(Knecht, Jana, Handreichung Zusammenfassung der KI-Verordnung für den Kontext der Hochschullehre, Rechtsinformationsstelle für die digitale Lehre (bwDigiRecht) im Hochschulnetzwerk Digitalisierung der Lehre Baden-Württemberg, Karlsruhe, 2025, vgl. Honer/Schöbel,
September 11, 2026 10:33 a.m.
Veröffentlicht von Audrey van Elst
KI-Systeme, für die Anbietende und Betreibende bestimmte Transparenzpflichten erfüllen müssen, jedoch keinen hohen Sicherheitsanforderungen unterliegen. Sie müssen so gestaltet sein, dass eine durchschnittlich informierte Person eindeutig erkennen kann, dass sie mit einer KI kommuniziert, und KI-generierte Inhalte müssen klar als solche gekennzeichnet werden. Beispiele sind Chatbots, Plagiatserkennungssysteme und adaptive Lernplattformen.
(Knecht, Jana, Handreichung Zusammenfassung der KI-Verordnung für den Kontext der Hochschullehre, Rechtsinformationsstelle für die digitale Lehre (bwDigiRecht) im Hochschulnetzwerk Digitalisierung der Lehre Baden-Württemberg,
