Appell an den Bundesrat

Appell an den Bundesrat

Algorithmen und KI versprechen viel – und gleichzeitig zeigen zahlreiche Beispiele, dass ihr Einsatz bestehende Ungerechtigkeiten übernehmen, vervielfachen und verfestigen kann. Ein Algorithmus im Vereinigten Königreich verdächtigte etwa Menschen mit Behinderungen überproportional oft des Sozialleistungsbetrugs und unterzog sie bürokratischen Prüfungen(1). In den Niederlanden wurden tausende Familien in existenzielle Not getrieben, als ein diskriminierender Algorithmus sie fälschlicherweise aufforderte, über Jahre erhaltene staatliche Kinderbetreuungsgelder zurückzuzahlen (2).

Diese Herausforderung lässt sich nicht allein auf technischer Ebene lösen. Das zeigt das Beispiel eines grossen Onlinehändlers. Wie Medien berichten, entwickelte das Unternehmen eine Software, um Einstellungsprozesse effizienter zu gestalten. Noch in der Testphase stellte sich jedoch heraus, dass sein Empfehlungsalgorithmus dazu neigte, die Lebensläufe von Frauen automatisch auszusortieren. Versuche, dies auf technischer Ebene zu beheben, blieben erfolglos (3).

Algorithmen und KI können in verschiedensten Bereichen unser Leben beeinflussen, sei es, um unsere Leistung am Arbeitsplatz zu messen, uns Inhalte auf Social Media anzuzeigen, unsere Kreditwürdigkeit einzuschätzen, Studierende zu bewerten, Straffälligkeit vorherzusagen oder staatliche Leistungen zuzuweisen. Auch in der Schweiz ist dies vermehrt der Fall (4). Wenn dabei Diskriminierungen auftreten, hat dies weitreichende Folgen für die Betroffenen (5). Der bestehende gesetzliche Rahmen in der Schweiz bietet davor jedoch zu wenig wirksamen Schutz (6).
Doch nun tut sich etwas! Der Bundesrat prüft bis Ende 2024 mögliche Ansätze zur Regulierung von KI und wird darauf basierend Massnahmen ergreifen. Wir rufen den Bundesrat dazu auf, diese Gelegenheit zu nutzen:
Regulierungen rund um KI sollten darauf abzielen, einen verantwortungsvollen Umgang mit Algorithmen und KI sicherzustellen, der Grundrechte achtet und allen zugutekommt. Der Einsatz von KI kann durchaus Nutzen für Wissenschaft, Wirtschaft und Gesellschaft bringen. Dies gelingt aber nur, wenn die Herausforderungen angegangen und berechtigte Befürchtungen ernst genommen werden. Menschen sollen wirksam vor Diskriminierung durch Algorithmen geschützt werden und sich dagegen wehren können –
unabhängig davon, ob diese von Privaten oder Behörden genutzt werden. Der Schutz vor Diskriminierung durch Algorithmen muss damit zu einer der Prioritäten der kommenden Regulierungen rund um KI werden.

Hinter dem Aufruf an den Bundesrat steht AlgorithmWatch CH. Zu den Unterstützenden gehören bereits 40 Organisationen und über 70 prominente Erstunterzeichner. Mehr Informationen zum Thema finden Sie auf: https://algorithmwatch.ch/de/was-ist-algorithmische-diskriminierung

1 Medienbericht, The Guardian
2 Medienbericht, POLITICO
3 Medienbericht, Reuters
4 «Atlas der Automatisierung», AlgorithmWatch CH
5 Fallbeispiele, AlgorithmWatch CH & humanrights.ch
6 Positionspapier, AlgorithmWatch CH