Virtuelle Spaltung - © Foto: iStock/Orbon Alija

Vom Algorithmus diskriminiert

19451960198020002020

Künstliche Intelligenz soll den Alltag erleichtern. Tatsächlich führt sie aber auch zu gravierenden Problemen, darunter die manifeste Benachteiligung von Frauen am Arbeitsmarkt. Wie das möglich ist - und wie die Europäische Union das künftig verhindern will.

19451960198020002020

Künstliche Intelligenz soll den Alltag erleichtern. Tatsächlich führt sie aber auch zu gravierenden Problemen, darunter die manifeste Benachteiligung von Frauen am Arbeitsmarkt. Wie das möglich ist - und wie die Europäische Union das künftig verhindern will.

Viele Branchen werden durch Künstliche Intelligenz (KI) auf den Kopf gestellt: Darüber herrschte beim diesjährigen Weltwirtschaftsforum in Davos breiter Konsens. In Zukunft müsse KI deshalb verstärkt reguliert werden. Auch die Europäische Union kam am Ende des Vorjahres zu diesem Schluss: Im EU-Rat einigte man sich auf den „AI Act“ (AI – Artificial Intelligence), der verschiedene Risikoklassen für Künstliche Intelligenz festgelegt. Demnach sollen kritische Infrastruktur, das Bildungssystem oder der Arbeitsmarkt als Lebensbereiche gelten, in denen KI ein hohes Risikopotenzial birgt und deshalb von strengen Standards eingehegt werden muss.

„Unter diese Hochrisiko-Anwendungen wird wohl auch der Algorithmus des Arbeitsmarktservice fallen“, meint Carina Zehetmaier, Gründerin und Präsidentin des interdisziplinären Netzwerks „Women in AI Austria“. Das AMS steht immer wieder wegen des geplanten Einsatzes des Arbeitsmarktchancen-Assistenzsystems (AMAS) im Kreuzfeuer der Kritik. AMAS berechnet auf der Datenbasis vergangener Jahre die zukünftigen Chancen von Arbeitssuchenden am Arbeitsmarkt.

Dabei fließen Kategorien wie Geschlecht, Alter, Staatsbürgerschaft, Ausbildung, gesundheitliche Einschränkungen oder Betreuungspflichten – Letztere allerdings nur bei Frauen – mit ein. AMAS soll den Berater(inne)n eine Entscheidungshilfe bieten. Die Datenschutzbehörde untersagte den geplanten österreichweiten Start des AMS-Algorithmus wegen Verstoßes gegen die Datenschutzgrundverordnung ab 2021, der Fall liegt seither vor dem Verwaltungsgerichtshof. Der Vorwurf: Das AMS mache sich damit der Diskriminierung schuldig.

Omnipräsente Technologie

Allgemein werden unter Künstlicher Intelligenz meist Anwendungen auf Basis maschinellen Lernens verstanden. Ein Programm wird dabei mit einer großen Menge an Daten gefüttert, erkennt darin Muster und zieht Schlussfolgerungen. Genutzt werden diese Anwendungen tagtäglich: als Parkassistenten, mit personalisierten Musik- und Filmvorschlägen, bei der Auswahl eines verschwommenen Hintergrundes im Online-Calls oder als Navigationssystem.

Auch in den Bereichen Justiz und Medizin wird auf Automatisierung zurückgegriffen. Das Bundesministerium für Justiz und das Bundesrechenzentrum entwickelten ein Verfahren, um Daten wie Personennamen, Organisationen oder Orte in Gerichtsentscheidungen automatisiert zu anonymisieren. Im Oktober 2022 bekamen sie dafür den „eAward“ in der Kategorie „Machine Learning und Künstliche Intelligenz“. Das Christian Doppler-Labor für Künstliche Intelligenz an der Universitätsklinik der Medizinischen Universität Wien wertet mithilfe von KI Scans der Augennetzhaut aus und prüft sie auf Netzhautveränderungen. Die Einsatzgebiete sind vielfältig, die Problemfelder ebenso. Rechtliche Regelungen hinken hinterher.

Den rechtlichen Rahmen, in den KI derzeit eingebettet ist, bilden neben den verfassungsrechtlichen Grundrechten eines Staates auch die allgemeinen Menschenrechte: „Der UN-Menschenrechtsrat in Genf bestätigte zuletzt noch einmal: Menschenrechte gelten online sowie offline“, erklärt die Juristin Carina Zehetmaier. Dementsprechend gelte etwa ein Diskriminierungsverbot. „Es ist ähnlich wie bei einem Vermieter, der mich wegen meiner Herkunft diskriminiert“, betont die Expertin. Wer beweisen kann, aufgrund seiner Herkunft eine Wohnung nicht bekommen zu haben, könne gerichtlich dagegen vorgehen. Zuerst auf nationaler Ebene, in letzter Instanz auch beim Europäischen Gerichtshof für Menschenrechte.

Ein Thema. Viele Standpunkte. Im FURCHE-Navigator weiterlesen.

FURCHE-Navigator Vorschau