Aktivitäten

Zu Risiken und Nebenwirkungen von Algorithmen

Auf der re:publica 2018 diskutierte die Hans-Böckler-Stiftung über die Macht der Algorithmen, Arbeitsbedingungen in der digitalen Wirtschaft und alternative Plattformen
Von Martin Kaluza


Die Internetkonferenz re:publica wächst wie die Internetbranche selbst. Was 2007 als Klassentreffen der Blogger und digitalen Bohème begann, ist mittlerweile im Mainstream angekommen. In zehn Jahren wuchs die Konferenz von 700 auf nun rund 10.000 Besucher an, auf 19 Bühnen diskutierten über 600 Mitwirkende. Das Motto der diesjährigen re:publica lautete „POP“, und die Veranstalter verstehen das auch als Kürzel für „Power of people“ – die Macht der digitalen Bürger. In Zeiten der digitalen Durchdringung aller Lebensbereiche will die Konferenz daran erinnern, dass das Internet ein Ort politischer Teilhabe ist. 

Die Veranstalter haben den Spagat versucht, mehr politische und Fachthemen aufzunehmen als im letzten Jahr und das Festival gleichzeitig zu einem Publikumsevent zu machen, samt öffentlichem Fest im angrenzenden Park. Hauptrednerin war Politstar und Whistleblowerin Chelsea Manning, die 2009 als US-Soldat im Irak stationiert war, Wikileaks Dokumente über Verfehlungen während des Irak-Kriegs zuspielte und schließlich sieben Jahre in Haft saß. Sie sprach über ihre Erfahrungen und den Preis, den sie für ihre Zivilcourage zahlte.

Die Hans-Böckler-Stiftung war seit 2016 zum dritten Mal mit einem Info-Stand auf der re:publica vertreten, um über die Arbeitsbedingungen der digitalen Arbeitswelt zu sprechen. Und auch in diesem Jahr steuerte die Stiftung zwei eigene Sessions zum Programm der re:publica bei.

Algorithmen mit Nebenwirkungen

Auf großer Bühne befasste sich die von der Hans-Böckler-Stiftung organisierte Podiumsrunde „Algorithmen: Zu Risiken und Nebenwirkungen fragen Sie Ihren Informatiker“ mit der Rolle, die die automatische Auswertung von Personendaten in den Personalabteilungen der Zukunft spielen wird. Schon heute versprechen Anbieter wie IBM und SAP, mit Hilfe künstlicher Intelligenz Personalentscheidungen zuverlässiger und objektiver zu machen – etwa in der Auswahl von Bewerbern. Doch das bedeutet nicht automatisch weniger Diskriminierung. „Daten, mit denen das System gefüttert wird, bilden den Ist-Zustand der Gesellschaft ab“, sagte Katharina Simbeck, Professorin an der Hochschule für Technik und Wirtschaft in Berlin. Wenn sich Einstellungsentscheidungen und Vertragsangebote nach diesem Zustand richten, wiederholen sie zunächst einmal bestehende Diskriminierungen eher als dass sie sie bekämpfen. Ein Beispiel: Wenn im System hinterlegt ist, dass Frauen weniger verdienen, wäre es aus Sicht der Algorithmen logisch, Bewerberinnen wiederum ein geringeres Gehalt anzubieten.

Algorithmen - Zu Risiken und Nebenwirkungen fragen Sie Ihren Informatiker

Simon Hegelich, Professor für Political Data Science an der TU München führte ein kurzes Werbevideo der IBM-Tochter Watson Analytics vor, die Personalern verspricht, anhand weniger Mausklicks aus Daten wie Alter, Gehalt, Überstundenzahl und Arbeitsweg herauszufinden, welche Mitarbeiter unmittelbar vor der Kündigung stehen. Hegelich bezweifelt das Versprechen von Objektivität. Er hatte mit einem Testdatensatz, den IBM zur Verfügung stellte, eine Simulation durchgerechnet und festgestellt: Schon kleinste Änderungen in der Auswahl der eingespeisten Daten führten zu großen Unterschieden im Ergebnis. „Wenn man die Schwächen eines Systems kennt, kann man es ausnutzen“, warnte er. Zudem bestehe die Gefahr, dass Algorithmen von Personalabteilungen als Rechtfertigung für Kündigungen herangezogen würden.

Matthias Spielkamp, Mitbegründer der Plattform AlgorithmWatch, betonte, dass es vor allem eine ethische Frage sei, wozu Unternehmen die Daten nutzten. „In großen Unternehmen kann der Betriebsrat darüber mitbestimmen“, sagte Spielkamp. Doch das ist voraussetzungsvoll. Darum fördert die Hans-Böckler-Stiftung das Projekt „Diskriminiert durch Künstliche Intelligenz“. Es soll Unternehmen unterstützen, indem es datenbasierte Analysewerkzeuge für das Personalwesen untersucht. Simbeck sagte: „Wir machen das, um Betriebsräten das Wissen an die Hand geben zu können, das sie benötigen, wenn ihr Unternehmen diese Werkzeuge einsetzt.“

Digitale Communities – Zuarbeiter oder Gegenmodell des Kapitalismus?

Eine zweite Session der Hans-Böckler-Stiftung ging der Frage nach, ob Commons-basierte Produktionsformen, also etwa Projekte lizenzfreier Software, als Gegenmodell zum digitalen Kapitalismus taugen. Könnten kleine Gruppen von Hackern und Aktivisten, die an die Kultur des Teilens und allgemeinzugängliche Innovation glauben, die Macht von Google und Amazon, von Facebook und Uber brechen?

Commons-Based Communities: Viable Alternatives to Platform Capitalism?

Letzteres zumindest ist nicht zu erwarten, denn dazu sind Open-Source-Projekte und digitale Monopolisten viel zu eng verzahnt. Jan-Felix Schrape von der Universität Stuttgart hob hervor, dass die Open Source-Szene bereits ein unverzichtbarer Teil der Software-Industrie sei. „Alle langfristigen Projekte werden heute von Großkonzernen finanziell und personell unterstützt“, sagte Schrape. „Open-Source-Projekte fungieren als Inkubatoren für branchenweit genutzte Infrastrukturen.“ Altmodischer ausgedrückt: Sie sind Zuarbeiter der Monopolisten. Dieses Bild lässt sich regelmäßig auch auf der re:publica selbst beobachten: Google wirbt dort gezielt um Nachwuchskräfte.

Einen Weg, Open-Source-Projekte von den Interessen der Großkonzerne unabhängig zu machen, hat Schrape in Frankreich beobachtet: Dort finanzierten die Kommunen „Maker Spaces“, digitale Produktionsräume, in denen für die Allgemeinheit nützliche Projekte entwickelt werden. Auch die Gewerkschaften sollten ihre Möglichkeiten nutzen, um die Open-Source-Projekte zu fördern.

Leonhard Dobusch, Juniorprofessor für Organisationstheorie an der Freien Universität Berlin, wies zudem darauf hin, dass auch Commons-basierte Produktionsformen vor Governance-Problemen stehen können: „Wer trifft die Entscheidungen? Und wer wird für seinen Beitrag an dem Projekt bezahlt?“ Im Fall des spendenbasierten Projektes Wikipedia beispielsweise bekommen die Entwickler Geld, nicht aber die Autoren.

Gabriela Sanchez gab einen Einblick in die Szene der sogenannten Bio-Hacker, die gerade dabei ist, den Ansatz der digitalen Open-Source-Bewegung auf den Medizinbereich zu übertragen. Die Aktivisten der noch jungen Bewegung wollen Medikamente unabhängig von den großen Pharmafirmen entwickeln und vermarkten.

Fotos

re:publica 2018

Video



Zusatzinfos

  • Interview mit Andreas Gebhard, Geschäftsführer der re:publica, über die Rolle von Algorithmen in der Arbeitswelt sowie Alternativen zu Google, Amazon oder Facebook
  • Interview mit Katharina Zweig, Informatikprofessorin in Kaiserslautern, über Algorithmen, Computer, die Bewerbungen analysieren und warum wir eine gesellschaftliche Debatte darüber brauchen


zurück

X

Hinweis zur Nutzung von Cookies auf dieser Website

Dieses Portal verwendet Cookies zur Optimierung der Browserfunktion. Die Cookie-Einstellungen für diese Website sind auf „alle Cookies zulassen“ festgelegt. Wenn Sie fortsetzen bzw. diesen Hinweis schließen, ohne Ihre Einstellungen zu ändern, stimmen Sie diesen zu.



Mehr Informationen zu Cookies