1. Einleitung

Der rasante Fortschritt der Künstlichen Intelligenz (KI) im 21. Jahrhundert spielt nicht nur in der Technik und Wirtschaft eine tragende Rolle, sondern stellt auch das Rechtssystem vor neue Herausforderungen, weshalb hier ein interdisziplinäres Thema vorliegt. Insbesondere wirft je doch der Einsatz von KI bedeutende Fragen im Bereich des Verfassungsrechts auf.1 Die KI ist in der Lage, menschliches Verhalten überzeugend zu simulieren, in einigen Fällen sogar rascher und effizienter als der Mensch. Dennoch bleibt es eine Simulation, weil ihr Bewusstsein fehlt. Dies wirkt sich zum Beispiel auf ihre Fähigkeit zur Begründung aus. Zwar verfügt KI über beide Fähigkeiten, jedoch unterscheiden sich deren Ausprägungen drastisch von denen eines Menschen. Diese Unterschiede können rechtlich relevant sein, wodurch hier erstmals der Gleichheitsgrundsatz erkennbar wird.

 

2. Grundrechtsschutz

Die Grundrechte schützen den Einzelnen vor ungerechtfertigten Eingriffen des Staates. KI-Systeme, die Daten verarbeiten, können in diese Rechte eingreifen, indem sie zum Beispiel persönliche Daten sammeln oder auswerten. Der Staat ist verpflichtet, Kontrollmechanismen zu schaffen, um diese Eingriffe zu vermeiden oder zu reduzieren. Insbesondere wirft sich die Frage auf, wie der Staat mit gegenwärtigen Technologien umgehen soll, die zu einer Automatisierung von Entscheidungsfindungen führen.

 

3. Das Richterbild

Weder das Bild der RichterInnen gemäß Art 82 ff B-VG noch die österreichischen Grundrechtskataloge enthalten ein Gebot für einen menschlichen Richter. Vielmehr verlangen sie lediglich die Erfüllung bestimmter Anforderungen durch ein „richtendes Staatsorgan“. Auch die in den Grundrechtskatalogen normierte Menschenwürde führt zu keinem anderen Resultat. Die Verfassung geht zwar historisch bedingt von menschlichen RichterInnen aus, jedoch würde sie, ohne dass eine vollständige Änderung erforderlich wäre, die Ersetzung durch KI zulassen. Aus dem demokratischen Grundprinzip kann man das Gebot ableiten, dass die Gesetzgebung von Menschen erfolgen muss. Eine solche durch KI wäre aufgrund des Art 1 B-VG mit den Grundprinzipien unvereinbar. Entscheidend ist in dieser Hinsicht, ob eine KI fähig ist, die von der Verfassung an einen Richter gestellten Anforderungen zu erfüllen. Trotz der aufsehenerregenden Fähigkeiten der KI-Systeme wird kein KI-System in der Lage sein, die Anforderungen an einen Richter bezugnehmend auf die umfassende Sachverhaltsermittlung vollständig zu erfüllen. KI könnte möglicherweise in Zukunft eine Begründung zwar „simulieren“, jedoch ist sie nicht fähig, die Begründung eines menschlichen Richters authentisch nachzubilden. Es ist rechtlich unmöglich, die Grundlagen der Bundesverfassung bezüglich der Rolle des Richters so abzuändern, dass sie auch mit einem KI-System vereinbar wäre. Dies wäre nur durch eine Gesamtänderung der österreichischen Bundesverfassung denkbar.

 

4. Datenschutzrechtliche Aspekte

Da KI-Systeme auch auf Daten beruhen, werden auch datenschutzrechtliche Faktoren interpretiert. Es zeigt sich, dass das Datenschutzrecht allein keinen ausreichenden Rahmen für den Einsatz von KI-Systemen bietet. Die Datenschutz-Grundverordnung (DS GVO) enthält vor allem für KI-Systeme allgemeine Vorgaben wie die Einhaltung der Grundprinzipien.2 Das Verfassungsrecht verlangt vom Staat, beim Einsatz von KI- Systemen, eine Überwachungs- und Kontrollstruktur. Diese Anforderungen sind jedoch bis dato sehr abstrakt. Daher muss das Verfassungsrecht in Zukunft den staatlichen Einsatzintelligenter Technologien ausführlicher regeln.

 

5. KI-Gesetz

Das KI-Gesetz bildet den ersten rechtlichen Rahmen für Künstliche Intelligenz, welcher die Risiken der Technologie berücksichtigt und in Europa eine wichtige Rolle spielt. Das KI-Gesetz (EU-Verordnung 2024/1689 zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz) normiert für Entwickler klare Forderungen, welche Anwendungen von KI betreffen.3  

 

6. Fazit

Zusammenfassend verpflichten verfassungsrechtliche Grundprinzipien wie das Demokratie- und Rechtsstaatsprinzip sowie die Grundrechte den Staat, Kontrollstrukturen für den Einsatz von KI zu schaffen. Beim Einsatz der verfassungsrechtlichen Regelungen ist darauf zu achten, dass der Kerngehalt der in der Verfassung verankerten Grundrechte unangetastet bleibt. Die verfassungsrechtlichen Grenzen für den Einsatz von KI – vor allem in der Justiz – müssen auch aus ethischer Hinsicht bekräftigt werden. Besonders darf die entscheidende Person weder ersetzt noch in ihrer Entscheidungsbefugnis oder – im Fall von RichterInnen – in ihrer Unabhängigkeit und Unparteilichkeit eingeschränkt werden.4

 

Publikationen:

• Kilic (2023): Lexis Nexis Briefings: Asyl und Fremdenrecht;

• Kilic (12/24): Die EU-Verordnung 2023/1543 (Beweismittelsicherungs-VO) vereinfacht den Zugriff auf elektronische Beweismittel im Fokus der Strafverfolgung, Richterzeitung 2024, 307;

• Kilic (7|2025), Aufenthaltsdokumente im Asylverfahren: Ein rechts vergleichender Blick auf Österreich und Deutschland, Deutsche Zeitschrift für Ausländerrecht und Ausländerpolitik;

• Kilic: Fachlexikon im Asyl- und Fremdenrecht (in Bearbeitung)

 

1 https://www.oefg.at/arbeitsgemeinschaften/kuenstliche-intelligenz-und-menschenrechte/ (abgerufen am 18.02.2026).

2 Behrang, Künstliche Intelligenz im öffentlichen Sektor. Verfassungs- und datenschutzrechtlicher Rahmen für den staatlichen Einsatz intelligenter Technologien, 2023, (21).

3 https://digital-strategy.ec.europa.eu/de/policies/regulatory-framework-ai (abgerufen am 18.2.2026).

4 https://www.justiz.bayern.de/media/images/behoerden-und-gerichte/oberlandesgerichte/ nuernberg/einsatz_von_ki_und_algorithmischen_systemen_in_der_justiz.pdf (abgerufen am 18.2.2026).