Interview mit Kenza Ait Si Abbou zum #LiT Event „Unconscious Bias und KI“

Kenza Ait Si Abbou Lyadini arbeitet als Senior Manager Robotics and Artificial Intelligence bei der Deutsche Telekom IT und managt den Bereich Robotic und AI-Solutions. Sie engagiert sich für Diversity und Female Empowerment im Netzwerk Women@Telekom. Bei der Telekom hat sie beispielsweise den ersten Hackathon für Frauen organisiert. Für ihr Engagement im Bereich AI und Diversity wurde sie mehrfach ausgezeichnet, u. a. mit dem #DFLA Award der Global Digital Women. In ihrem jüngst erschienen Buch „Keine Panik, ist nur Technik“ erklärt die Ingenieurin, weshalb man auf Algorithmen ziemlich gut tanzen kann – solange wir ihnen den Takt vorgeben. Kenza Ait Si Abbou Lyadini ist zu Gast in unserem Online-Talk-Format „Unconscious Bias und KI“ in Kooperation mit Oracle am 30. September. Zur kostenlosen Anmeldung

Laut unserer Studie in Kooperation mit Arthur D. Little liegt das Gesamtpotenzial durch den Einsatz von KI für deutsche Unternehmen 2025 bei rund 488 Mrd. Euro. Schon heute begegnen uns KI-basierte Technologien im Alltag beispielsweise in Sprach- und Gesichtserkennungssoftware im Smartphone, in der Interaktion mit Chat-Bots im Marketing oder Kundenservice oder als Bewerber im Recruiting-Prozess. Auf der anderen Seite existieren in der Gesellschaft auch Vorurteile gegenüber KI. Können Sie uns als KI-Expertin – auch für Laien verständlich – erklären, wie Algorithmen funktionieren und wie ich als Mensch und Unternehmen von ihrem Einsatz profitieren kann?

Kenza Ait Si Abbou Lyadini: Algorithmen sind einfache Handlungsanweisungen für die Maschine. Es ist eine Art Kochrezept, um ein bestimmtes Gericht vorzubereiten. Möchte ich zum Beispiel Couscous kochen, muss ich mehrere Schritte befolgen, verschiedene Zutaten verwenden, wissen welche Zutaten wie und mit welchen ich am besten kombinieren kann und ich muss die richtigen Utensilien haben etc. Algorithmen werden geschrieben, um irgendein Problem zu lösen oder eine Aufgabe zu erledigen. Sie können uns dabei helfen Vorgänge zu automatisieren (zum Beispiel Couscous jeden Tag zu kochen, ohne darüber nachdenken zu müssen), Entscheidungen zu treffen, basierend auf vielen Eingangsparametern (die richtigen Gewürze für das richtige Gericht) oder komplexe Aufgaben zu lösen.

KI-Technologien basieren also auf Algorithmen und Machine Learning. Wie gelangen dann überhaupt Unconscious Bias in KI-Anwendungen?

Abbou Lyadini: Die Maschinen lernen von uns, wie unsere Welt funktioniert, über die Daten, die wir Ihnen zur Verfügung stellen. Unsere Welt ist nun mal voller Vorurteile und die Vorurteile bringen wir den Maschinen bei. Wenn Menschen in der Vergangenheit Entscheidungen getroffen haben, die mit Vorurteilen behaftet sind, wie zum Beispiel welche Kandidaten zu einer Stellenausschreibung am besten passen, dann wird die Maschine dies in Zukunft reproduzieren und das Vorurteil verstärken.

Welche Auswirkungen hat die Übertragung unserer unbewussten Vorurteile auf KI-basierte Systeme?

Abbou Lyadini: Indem die Maschinen unsere Vorurteile lernen, reproduzieren sie diese weiter. Aber im vielfachen Verhältnis, mit einer viel größeren Reichweite und viel schnelleren Geschwindigkeit als ein Mensch es tun würde. 

Welche ethischen Leitplanken und Maßnahmen braucht es aus Ihrer Sicht, um KI-Technologien zu etablieren, die Chancengleichheit fördern und allen Menschen dienen?

Abbou Lyadini: Die Auseinandersetzung mit den ethischen Aspekten und der Wunsch Chancengleichheit zu fördern, muss in der Design-Phase der KI-Anwendungen verankert sein. Es muss Teil der Mindest-Anforderungen sein und nicht nur ein „nice to have“ und es muss in der Qualitätssicherung der Applikationen Berücksichtigung finden. Aber damit das geschieht, muss die Unternehmensstrategie und müssen die Unternehmenswerte so geändert werden, dass kurzfristiger Profit nicht an erster Stelle steht. Die Unternehmen müssen ihre soziale Verantwortung ernst nehmen und diese in die Strategie verankern und umsetzen. Das im jährlichen Corporate-Social- Responsibility-Bericht zu schreiben ist nicht ausreichend.