Autor-Archiv für Audrey van Elst

Verbotene Praktiken/Verbotene KI-Systeme (Art. 5)

September 11, 2026 10:32 a.m. Veröffentlicht von Kommentare deaktiviert für Verbotene Praktiken/Verbotene KI-Systeme (Art. 5)

Eine Reihe von im KI-Bereich verbotenen Praktiken, die KI-Systeme definieren, deren Einsatz untersagt ist, da sie ein inakzeptables Risiko darstellen. Beispielhaft sind „KI-Systeme zur Bewertung oder Einstufung von natürlichen Personen auf der Grundlage ihres sozialen Verhaltens oder persönlicher Eigenschaften oder Persönlichkeitsmerkmale […] (sog. social scoring)“.

(Knecht, Jana, Handreichung Zusammenfassung der KI-Verordnung für den Kontext der Hochschullehre, Rechtsinformationsstelle für die digitale Lehre (bwDigiRecht) im Hochschulnetzwerk Digitalisierung der Lehre Baden-Württemberg,


Forschungs- und Entwicklungsaktivitäten (Ausnahmen)

September 11, 2026 10:31 a.m. Veröffentlicht von Kommentare deaktiviert für Forschungs- und Entwicklungsaktivitäten (Ausnahmen)

Gemäß Artikel 2 Abs. 6 gilt die Verordnung nicht für KI-Systeme, die ausschließlich für wissenschaftliche Forschungs- und Entwicklungszwecke entwickelt und in Betrieb genommen werden. Diese Ausnahme erstreckt sich gemäß Art. 2 Abs. 8 auch auf Forschungs-, Test- und Entwicklungstätigkeiten zu KI-Systemen oder KI-Modellen, die vor deren Inverkehrbringen oder Inbetriebnahme durchgeführt werden.

(Knecht, Jana, Handreichung Zusammenfassung der KI-Verordnung für den Kontext der Hochschullehre, Rechtsinformationsstelle für die digitale Lehre (bwDigiRecht) im Hochschulnetzwerk Digitalisierung der Lehre Baden-Württemberg,


Räumlicher Anwendungsbereich der KI-VO

September 11, 2026 10:31 a.m. Veröffentlicht von Kommentare deaktiviert für Räumlicher Anwendungsbereich der KI-VO

Die KI-VO ist auf Anbietende anwendbar, unabhängig davon, ob diese ihren Sitz in der EU haben. Sie gilt auch für Betreibende, die ihren Sitz oder eine Niederlassung in der EU unterhalten, sowie für Anbietende und Betreibende aus Drittstaaten, sofern die Auswirkungen ihrer KI-Systeme in der EU spürbar sind.

(Knecht, Jana, Handreichung Zusammenfassung der KI-Verordnung für den Kontext der Hochschullehre, Rechtsinformationsstelle für die digitale Lehre (bwDigiRecht) im Hochschulnetzwerk Digitalisierung der Lehre Baden-Württemberg,


Personeller Anwendungsbereich der KI-VO

September 11, 2026 10:30 a.m. Veröffentlicht von Kommentare deaktiviert für Personeller Anwendungsbereich der KI-VO

Der personelle Anwendungsbereich der KI-VO umfasst insbesondere Anbietende und Betreibende von KI-Systemen, die beabsichtigen, diese in der EU auf den Markt zu bringen oder zu nutzen.

(Knecht, Jana, Handreichung Zusammenfassung der KI-Verordnung für den Kontext der Hochschullehre, Rechtsinformationsstelle für die digitale Lehre (bwDigiRecht) im Hochschulnetzwerk Digitalisierung der Lehre Baden-Württemberg, Karlsruhe, 2025, vgl. Chibanguza/Steege, NJW 2024, 1796 (1771), Rn. 10f.)


Sachlicher Anwendungsbereich der KI-VO

September 11, 2026 10:30 a.m. Veröffentlicht von Kommentare deaktiviert für Sachlicher Anwendungsbereich der KI-VO

Der sachliche Anwendungsbereich der KI-VO erstreckt sich gemäß Art. 2 Abs. 1 auf alle Systeme der künstlichen Intelligenz, die innerhalb der Europäischen Union (EU) in Verkehr gebracht, in Betrieb genommen oder verwendet werden, unabhängig davon, ob die Anbietenden in der EU ansässig sind oder nicht. Ausgenommen sind KI-Systeme, die ausschließlich zu militärischen Zwecken entwickelt oder eingesetzt werden oder für Forschungs- und Entwicklungszwecke genutzt werden, sofern sie nicht in den Verkehr gebracht oder in Betrieb genommen werden.


KI-Verordnung (KI-VO)

September 11, 2026 10:29 a.m. Veröffentlicht von Kommentare deaktiviert für KI-Verordnung (KI-VO)

Die KI-Verordnung der Europäischen Union stellt einen rechtlichen Rahmen dar, der darauf abzielt, die Entwicklung und Nutzung von künstlicher Intelligenz innerhalb der EU zu regulieren.

(Knecht, Jana, Handreichung Zusammenfassung der KI-Verordnung für den Kontext der Hochschullehre, Rechtsinformationsstelle für die digitale Lehre (bwDigiRecht) im Hochschulnetzwerk Digitalisierung der Lehre Baden-Württemberg, Karlsruhe, 2025, vgl. EU, AI Act / KI-VO)


Risikobasierter Ansatz

September 11, 2026 10:29 a.m. Veröffentlicht von Kommentare deaktiviert für Risikobasierter Ansatz

Ein Ansatz, der KI-Systeme nach ihrem Gefährdungspotenzial kategorisiert und auf dieser Grundlage entsprechende Anforderungen definiert. Er definiert sowohl den sachlichen als auch den personellen Anwendungsbereich der Regelungen.

(Knecht, Jana, Handreichung Zusammenfassung der KI-Verordnung für den Kontext der Hochschullehre, Rechtsinformationsstelle für die digitale Lehre (bwDigiRecht) im Hochschulnetzwerk Digitalisierung der Lehre Baden-Württemberg, Karlsruhe, 2025)


Datenminimierung

September 10, 2026 3:42 p.m. Veröffentlicht von Kommentare deaktiviert für Datenminimierung

Ein datenschutzrechtlicher Grundsatz, der besagt, dass bei der Auswahl und Nutzung von verschiedenen Funktionen des Safe Exam Browsers (SEB) die Erhebung und Verarbeitung von Daten auf das erforderliche Maß beschränkt werden sollte. Hochschulen könnten eine einheitliche interne Empfehlung für weniger datenintensive Einstellungen des SEB abgeben, um diesem Grundsatz gerecht zu werden.

(Drossos, Martin/Spehn, Maximilian, Handreichung Safe Exam Browser, Rechtsinformationsstelle für die digitale Lehre (bwDigiRecht) im Hochschulnetzwerk Digitalisierung der Lehre Baden-Württemberg,


Proctoring Software

September 10, 2026 3:42 p.m. Veröffentlicht von Kommentare deaktiviert für Proctoring Software

Software, die für „besondere Formen der Authentizitäts- und Integritätskontrolle von Prüfling und Prüfungsleistung“ eingesetzt wird. Zukünftige Entwicklungen des Safe Exam Browsers (SEB) umfassen die Überwachung des Bildschirms der zu prüfenden Person und optional die Überwachung und Speicherung von Metadaten der SEB-Client Umgebung, was als Live Remote-Proctoring bezeichnet wird.

(Drossos, Martin/Spehn, Maximilian, Handreichung Safe Exam Browser, Rechtsinformationsstelle für die digitale Lehre (bwDigiRecht) im Hochschulnetzwerk Digitalisierung der Lehre Baden-Württemberg, Karlsruhe,