Von Emily Jeschin und Annika Knoke
aus dem Master-Modul „Projekt International“
Ein warmer Frühlingstag in Brüssel. Während vor dem Parlament Schulklassen auf dem Place du Luxembourg Selfies machen, sitzen wir im achten Stock des Altbaus des Europäischen Parlaments – gegenüber von Gerard Rinse Oosterwijk. Zwischen aufgeschlagenen Gesetzesentwürfen und kleingekritzelten Notizzetteln spricht er über etwas, das kaum sichtbar ist – aber immer mehr Entscheidungen über unser Leben trifft: künstliche Intelligenz.
„Der Computer hat das so gemacht“ – was wie eine harmlose Ausrede klingt, ist für ihn ein ernstes Symptom: „Wenn Arbeitnehmer ihre Rechte nicht mehr durchsetzen können, weil niemand für Entscheidungen verantwortlich ist, dann geraten grundlegende Prinzipien ins Wanken.“
Oosterwijk arbeitet als Assistent für den Europaabgeordneten der sozialdemokratischen S&D-Fraktion für Digitalpolitik Alex SALIBA im Innenausschuss (LIBE) des Europaparlaments. Zudem ist er externer Fachberater für europäische Politik‑ und Sozialstudien. In dieser Doppelrolle ist er maßgeblich mit Schwerpunkt auf digitalpolitische Fragen in die politische Arbeit rund um den EU AI Act eingebunden. Hierbei handelt es sich um das erste umfassende KI-Gesetz der Welt, das im März 2024 beschlossen wurde. Das Interview führten wir persönlich in seinem Brüsseler Parlamentsbüro.
Gerard Rinse Oosterwijk
Europas digitaler Gegenentwurf
Wenn Oosterwijk von den Prinzipien der europäischen Digitalpolitik erzählt, wird deutlich: Der EU AI Act ist mehr als ein Gesetz – er ist ein Versuch, die Kontrolle über eine Technologie zu behalten, die sich rasend schnell entwickelt.
Während in den USA oder China oft zuerst innoviert und später korrigiert wird, wählt Europa bewusst einen anderen Weg. Der EU AI Act soll Risiken vorab minimieren – besonders bei sensiblen Bereichen wie Gesundheit, Justiz, Bildung oder Arbeitswelt.
„In Europa musst du beweisen, dass dein KI-System sicher ist, bevor du es einsetzt“, erklärt Oosterwijk. Der risikobasierte Ansatz ist dabei zentral: Anwendungen werden in vier Kategorien eingeteilt – von minimalem bis zu
inakzeptablem Risiko. Letztere, etwa soziale Bewertungssysteme oder emotionserkennende Überwachung am Arbeitsplatz, sollen ganz verboten werden (Quelle: https://eur-lex.europa.eu/legal-content/DE/TXT/PDF/?uri=OJ:L_202401689).
Wenn der Algorithmus zum Vorgesetzten wird
Besonders drastisch sind die Auswirkungen von KI im Arbeitsleben. Lieferdienste wie Amazon oder UPS nutzen längst Systeme, die per Kamera oder GPS jede Bewegung der Fahrer tracken. Wer zu oft bremst, wird schlechter bewertet – automatisch. Persönliche Rücksprache? Fehlanzeige.
„Das nennt man algorithmic management“, sagt Oosterwijk. „Und es führt dazu, dass Beschäftigte sich Entscheidungen beugen müssen, ohne überhaupt zu verstehen, wie sie zustande kamen.“
Was das bedeutet, zeigen Fälle wie Amazon: Dort wurden Bewerbungs-KIs darauf trainiert, vergangene Erfolgsbewerbungen zu imitieren – mit dem Ergebnis, dass Frauen systematisch benachteiligt wurden (Quelle: https://www.reuters.com/article/world/insight-amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK0AG/).
Und das ist nur die Spitze des Eisbergs. Laut einer Untersuchung des AlgorithmWatch-Projekts „Automating Society“ setzen Behörden in mehreren EU-Staaten automatisierte Systeme in der Arbeitsvermittlung oder bei Sozialleistungen ein – mit oft fehleranfälligen und intransparenten Resultaten (Quelle: https://www.aclu.org/news/womens-rights/why-amazons-automated-hiring-tool-discriminated-against?).
Automatisierte Systeme wie SyRI, ein Programm zur Erkennung von Sozialbetrug, trafen vor allem Menschen in benachteiligten Vierteln – oft mit hohem Anteil an Menschen mit Migrationshintergrund oder langzeitarbeitslosen Familien. Genau das kritisierte das Bezirksgericht in Den Haag im Februar 2020 und blockierte SyRI. Es verstoße gegen das Recht auf Privatsphäre (Artikel 8 der Europäischen Menschenrechtskonvention), da es unter anderem in Stadtteilen mit niedrigerem Einkommen und hohem Migrationsanteil eingesetzt wurde, ohne transparente Kriterien oder Kontrollmöglichkeiten für Betroffene. Das Urteil veranlasste den niederländischen Staat, SyRI unverzüglich einzustellen (Quelle: https://www.hrw.org/news/2020/02/06/dutch-ruling-victory-rights-poor?)
Ein Gesetz, viele offene Fragen
Wir werfen gemeinsam mit Oosterwijk einen Blick auf den Gesetzestext. Dabei wird deutlich: Viele Details sind noch offen – und die Umsetzung wird entscheidend sein. Der EU AI Act versucht, dem Wildwuchs Regeln zu geben. Doch vieles bleibt noch unklar: Wie genau wird kontrolliert? Welche Behörde ist zuständig? Und was passiert bei Verstößen?
„Das Gesetz ist da – aber jetzt fängt die eigentliche Arbeit erst an“, sagt Oosterwijk. Ab 2025 soll ein zentrales AI Office Standards, Tests und Prüfverfahren koordinieren. Bis dahin versuchen viele Mitgliedstaaten, ihre eigenen Regeln zu definieren. Frankreich etwa experimentiert mit Gesichtserkennung bei Großveranstaltungen, etwa im Vorfeld der Olympischen Spiele. Trotz scharfer Kritik von Datenschutzorganisationen – und trotz der Verbote im AI Act, wie Reuters berichtet (https://www.reuters.com/sports/olympics-how-france-plans-use-ai-keep-paris-2024-safe-2024-03-08/).
KI im Alltag – die stille Revolution
Nach unserem Gespräch fällt beim Blick aufs Smartphone auf: KI ist längst im Alltag angekommen, oft unterschwellig, aber wirkungsvoll. TikTok zeigt uns Clips, die uns fesseln – auch wenn sie politisch manipuliert sind. Auf LinkedIn posten Menschen KI-generierte Erfolgsgeschichten und andere fühlen sich plötzlich unter Druck, mitzuziehen.
„KI verändert, wie wir kommunizieren, arbeiten, sogar wie wir uns darstellen“, sagt Oosterwijk. „Du merkst gar nicht, wie subtil der Einfluss ist.“
Besonders heikel wird es, wenn Künstliche Intelligenz zur Waffe wird: Bei den EU-Wahlen 2024 kursierten gefälschte Videos und KI-generierte Zitate, etwa von Emmanuel Macron. Ein offizieller Bericht der EU-Kommission dokumentiert mindestens 131 Fälle von generativer KI zur Verbreitung manipulativer Wahlinhalte während des EU-Wahlkampfes 2024. Vor allem „shallowfakes“ (aus dem Kontext gerissene Inhalte) wurden verbreitet – ein Rekordwert für KI-gesteuerte Desinformation.
Zwischen Innovation und Kontrolle
Bevor wir das Büro verlassen, fragen wir Oosterwijk, was er von der Kritik hält, der AI Act sei ein Innovationshemmnis. Doch Oosterwijk widerspricht deutlich: „Gute Regulierung fördert Innovation – sie schafft Vertrauen und gleiche Wettbewerbsbedingungen.“
Tatsächlich zeigen Studien, dass klare Regeln den Weg für Investitionen ebnen können. Eine Analyse von Euractiv kommt zu dem Schluss, dass eine transparente Regulierung langfristig sogar innovationsfördernd wirkt, besonders in sensiblen Bereichen wie Gesundheit oder Finanzen, wo Vertrauen essenziell ist. Sie schafft klare Standards und senkt dadurch Investitionsbarrieren (Quelle: https://www.euractiv.com/section/tech/opinion/navigating-compliance-how-innovation-can-thrive-under-the-ai-act/).
Ein europäischer Moment
Vielleicht ist der AI Act auch ein Lehrstück für die Zukunft Europas. In einer Welt, in der Tech-Giganten immer mächtiger werden, versucht die EU, Standards zu setzen – nicht nur technisch, sondern auch moralisch.
Denn ob KI unsere Rechte stärkt oder schwächt, entscheidet sich nicht im Quellcode – sondern in der Politik. Und nicht in fernen Zukunftsvisionen, sondern jetzt.
Beim Hinausgehen wirft Oosterwijk noch einen Blick aus dem Fenster. „KI ist kein Naturereignis“, sagt Oosterwijk zum Abschied in Brüssel. „Es sind Menschen, die sie entwickeln – und die Regeln dafür schreiben. Es liegt an uns, was wir daraus machen.“
Bitte beachten Sie: Der Artikel entstand im Mai 2025 und entspricht dem damaligen Stand der Fakten- und Gesetzeslage.