WIEN. Österreichs Bundesamt für Fremdenwesen und Asyl hat große Pläne: Künstliche Intelligenz soll künftig dabei helfen, Asylverfahren schneller und effizienter zu gestalten. Ein Chatbot soll Informationen über Herkunftsländer durchsuchbar machen, ein weiteres Tool soll Daten analysieren, kategorisieren und zusammenfassen. Was nach technologischem Fortschritt klingt, ruft jedoch massive Kritik hervor.

Ein Jahr lang hat das Forschungsprojekt „A.I.SYL“ an der Universität Graz den Einsatz von KI im österreichischen Asylwesen untersucht. Das Fazit: Kein einziges der getesteten Werkzeuge könne das Verfahren nachweislich fairer oder menschenrechtskonformer machen. Im Gegenteil: Die Autoren des Berichts sehen gravierende rechtliche und ethische Probleme – und warnen vor „einem gefährlichen Experiment auf dem Rücken von Schutzsuchenden“.

Die Forscher identifizierten vier zentrale Anwendungsfelder für KI im Asylkontext: automatische Übersetzung, Gesichtserkennung, Datenträgeranalyse und die Auswertung der Staatendokumentation. Letztere liefert Informationen über die innere Sicherheit in den Herkunftsländern und hilft dabei, Fluchtgründe zu analysieren. Sie steht vor allem im Zentrum der Kritik.

Das Innenministerium von Gerhard Karner (ÖVP) gab auf Anfrage von Journalisten an, bereits an einem Chatbot zu arbeiten, der Informationen über Herkunftsländer der Asylbewerber „effektiver und schneller“ auffindbar machen soll. Zusätzlich werde ein Tool entwickelt, das Daten strukturieren und Schlüsselinformationen automatisch extrahieren könne. A.I.SYL geht davon aus, daß hierbei sogenannte Large Language Models (LLMs) zum Einsatz kommen.

Asyl-KI leide an Halluzinationen

Solche Systeme können laut den Autoren Inhalte erzeugen, die gar nicht in den Quellen enthalten sind – ein als „Halluzination“ bekanntes Phänomen. Zudem spiegeln die Modelle die gesellschaftlichen Vorurteile ihrer Trainingsdaten wider. Damit bestehe die Gefahr, daß Berichte über bestimmte Länder verzerrt würden – mit weitreichenden Folgen für Asylentscheidungen.

Ein weiterer Problembereich: Die Auswertung von Mobiltelefonen, um Reiserouten und Identitäten zu überprüfen. Bereits in ihrer Grundform sei dies ein schwerer Eingriff in das Grundrecht auf Privatsphäre. Künftig könnten diese Daten mit dem OSIF-Tool sogar mit der Staatendokumentation verknüpft werden – was laut den Forschern erhebliche datenschutz- und asylrechtliche Probleme aufwirft. Eine offizielle Bestätigung dafür gibt es vom Innenministerium allerdings noch nicht.

Grundsätzlich warnen die Forscher vor dem sogenannten Black-Box-Problem: KI-Systeme liefern Ergebnisse, deren Zustandekommen oft nicht nachvollziehbar ist. Für rechtsstaatliche Verfahren sei das untragbar. Wer gegen eine Entscheidung Einspruch erheben wolle, müsse verstehen können, wie sie zustandekam. Co-Autorin und Juristin Angelika Adensamer betont in der linkstendenziösen Tageszeitung Standard: „Das BFA kann sich nicht einfach überlegen, das anzuwenden. Es braucht eine klare gesetzliche Grundlage.“ (rr)