Künstliche Intelligenz: Wer steuert hier wen?
Der Umgang mit Künstlicher Intelligenz ist eine Menschheitsaufgabe. Sie bietet enorme Chancen. Doch es wird darauf ankommen, wer über ihren Einsatz entscheidet, warnt HSI-Direktor Ernesto Klengel.
[21.07.2025]
Von Ernesto Klengel
Der Hype um Künstliche Intelligenz treibt immer wieder neue Blüten. Im Silicon Valley entstehen teils beunruhigende Zukunftsvisionen – eine Mischung aus Technikgläubigkeit, Sozialdarwinismus und Kulturkampf. Immer wieder wird spekuliert, wir stünden kurz vor dem Durchbruch zu einer „Super-KI“. Dass eine solche „menschenähnliche“ oder gar „überlegene“ KI Wirklichkeit wird, ist durchaus vorstellbar – auch wenn sich in der Vergangenheit viele Prognosen als zu vollmundig erwiesen haben. Das autonome Fahren etwa soll schon seit langem „kurz vor dem Durchbruch“ stehen.
Der Umgang mit Künstlicher Intelligenz ist eine Menschheitsaufgabe. Sie bietet enorme Chancen für eine grundlegende Neugestaltung von Wirtschaft und Gesellschaft. Entscheidend wird sein, wer über ihren Einsatz entscheidet. Liegt die Macht bei Tech-Milliardären wie Elon Musk, Mark Zuckerberg oder auch Sam Altman, droht Unheil für Demokratie, Solidarität und Selbstbestimmung. Welche Hoffnungen man in Politiker*innen wie Ursula von der Leyen, Friedrich Merz oder Emmanuel Macron setzen kann, mag jede*r für sich entscheiden.
Doch was bedeutet all das für die Menschen, die jeden Tag mit den neuen Technologien arbeiten? Für die, die KI-Programme testen oder KI nutzen, um Prozesse zu beschleunigen? Viele haben dabei ein mulmiges Gefühl. Wer steuert hier eigentlich wen? Was ist, wenn die Technologie zur Verhaltenskontrolle und Überwachung genutzt werden kann oder am Ende – nach Praxistraining durch Millionen Anwender*innen – schneller und besser wird als man selbst?
Für einige konkreten Fragen enthält der Artificial Intelligence Act der EU – kurz: AI Act – erste Hinweise zur rechtlichen Einordnung. Auch wenn der AI Act noch nicht vollständig in Kraft getreten ist und immer wieder von der europäischen Tech-Industrie in Frage gestellt wird: Er ist der Ausgangspunkt dafür, wie KI reguliert wird.
Kritikwürdig ist, dass der Act zwar die Perspektive der Anwendenden einnimmt, aber nicht den Standpunkt der Arbeitnehmer*innen. „Betreiber“ sind im AI Act die Arbeitgeber, es sind aber die Beschäftigten am Arbeitsplatz, die mit den Tools umgehen. Dennoch enthält der AI Act wichtige Neuerungen. Für KI-Systeme mit „hohem Risiko“ gilt der Grundsatz der menschlichen Aufsicht: „Die Betreiber übertragen natürlichen Personen, die über die erforderliche Kompetenz, Ausbildung und Befugnis verfügen, die menschliche Aufsicht und lassen ihnen die erforderliche Unterstützung zukommen.“
Entsteht hier ein längst überfälliges Recht auf Qualifizierung – lange gefordert, jedoch nie umgesetzt? Können Betriebs- und Personalräte Weiterbildung nun einfordern? Leider finden wichtige Aspekte wie Rationalisierung, Arbeitsplatzverlust oder Haftungsfragen keine Beachtung – von alternativen digitalen Vorstellungen davon, wie wir zusammenleben und -arbeiten wollen ganz zu schweigen. Aber man kann es vielleicht auch positiv wenden: In der Politik und den Betrieben bleibt viel Spielraum, den technischen Fortschritt neu auszurichten – nicht an den Träumen der US-Tech-Industrie, sondern im Sinne einer Digitalisierung, die die Beschäftigten stärkt und befähigt – und so echten Fortschritt schafft.
Dr. Ernesto Klengel ist der Wissenschaftliche Direktor des Hugo Sinzheimer Instituts für Arbeits- und Sozialrecht der Hans-Böckler-Stiftung.
Weitere Informationen
KI im Betrieb: Das Praxishandbuch zum Einsatz von KI in Betrieben und Behörden
Der komplette Newsletter
Newsletter Hans.
Unsere Inhalte bequem alle 14 Tage in den Posteingang?
Jetzt hier unseren Newsletter HANS. abonnieren!
