Algorithmen: Einblick ins Kochrezept

Ein Algorithmus ist wie ein Kochrezept: Eine Schritt-für-Schritt Anleitung, um zu einem Ergebnis zu kommen. Wenn wir Butter, Zucker, Schokolade, Eier und Mehl verarbeiten, ist uns klar, wie das Ergebnis – die Schokoladentorte – entsteht. Bei Algorithmen sind es Computersysteme, die aus Daten lernen, diese verarbeiten und als Ergebnis Entscheidungen oder Empfehlungen liefern. Zum Beispiel, ob eine Person einen Kredit bekommt oder eine Schulung beim Arbeitsmarktservice. Wie es aber zu diesem Ergebnis kam, ist oft unklar. Wenn die Information über Zutaten (Daten) und Rezept (Verarbeitung) fehlt, können wir nicht entscheiden, ob wir einen Algorithmus für eine bestimmte Aufgabe wollen – oder nicht. Wir wissen auch nicht, was das für eine Gruppe oder die Gesellschaft bedeutet.

Einer, der das ändern möchte, ist Sebastian Tschiatschek, Assistenzprofessor für Maschinelles Lernen an der Uni Wien: „Je mehr Algorithmen und Vorhersage-Modelle über uns entscheiden, desto wichtiger ist es, dass Menschen über deren Einsatz mitentscheiden können. Ich war lange in der Schweiz, wo mehr direkte Demokratie gelebt wird als in Österreich. Das hat mich motiviert, dieses Mitreden auch in meinem Forschungsbereich zu ermöglichen.“ So startete sein Projekt „Interpretability and Explainability as Drivers to Democracy“, gefördert vom Wiener Wissenschafts-, Forschungs- und Technologiefonds (WWFT).

Tschiatschek untersucht, welche Fragen die vielen Menschen beschäftigen, die nicht von Berufs wegen mit Algorithmen zu tun haben: „Als Laien wissen wir ja vieles nicht so genau: Wir fahren zum Beispiel Auto, ohne alle Fahrzeugdetails zu kennen. Wobei wir hier zu einem spannenden Punkt kommen: Wer entscheidet, was man wissen muss? Idealerweise haben die Menschen die Möglichkeit, alles abzufragen. Dennoch sollte man mit einem gut diskutierten Grundkonsens starten, was relevant ist.“ Bei größeren algorithmischen Modellen sei es wahrscheinlich sogar für Experten unmöglich, jeden Aspekt zu verstehen.

Daten und Begehrlichkeiten

Gut für Laien machbar ist hingegen eine direkte Überprüfung. Um ein Gefühl zu bekommen, ob ein Algorithmus für bestimmte Bevölkerungsgruppen fair ist, können sie Varianten prüfen: Wenn ich andere Eigenschaften hätte, z. B. Mann statt Frau, welche Voraussagen würde das System dann über mich treffen? Damit beschäftigt sich der Forschungszweig „Algorithmic Recourse“, erklärt Tschiatschek: „Anhand einer erfolgten Entscheidung wird gezeigt, was anders sein müsste, damit die Entscheidung des Algorithmus anders ausfällt. Wenn etwa ein Kredit abgelehnt wurde, könnte es heißen, der Antragsteller muss 3000 Euro mehr verdienen.“

Verantwortliche stellen den Einsatz von Algorithmen in der Öffentlichkeit oft vereinfacht dar: Der Prozess ist jetzt digital und effizienter, sonst habe das keine weiteren Auswirkungen. Doch es betrifft viel mehr, mahnt Anne Kaun von der Södertörn Universität in Stockholm: „Es geht um Daten sammeln, aufbereiten und um eigene Logiken. Das ist ein größerer Prozess, der auch eine Demokratiefrage ist. Das muss umfassend öffentlich diskutiert werden.“ Die Medien- und Kommunikationswissenschafterin forscht seit 2018 über Algorithmen im Sozialbereich. „Bürger(innen) machen einen Unterschied, wofür Algorithmen im öffentlichen Bereich angewendet werden“, berichtet Kaun über eine Umfrage in Schweden, Deutschland und Estland. „Wenn in der Verwaltung Unterlagen rascher verarbeitet werden und es zu schnelleren Entscheidungen kommt, sind sie positiv eingestellt. Aber wenn es um reine Kontrolle und Überwachung geht, haben viele ein Problem.“