Capital: Frau Saidze, die Digitalisierung hat uns viel Gutes gebracht: Nie ist es so einfach gewesen sich zu informieren, zu vernetzen und gehört zu werden. Durch Künstliche Intelligenz (KI) könnten sich noch einmal mehr Möglichkeiten für Teilhabe und Inklusion ergeben. Ist das auch Ihre Wahrnehmung?
MINA SAIDZE: Nicht zu 100 Prozent. Ich bezeichne mich zwar selbst als Tech-Optimistin, aber ich beäuge die Digitalisierung auch kritisch. Das Narrativ der Inklusion halte ich für recht naiv. Es fängt schon damit an, dass Schulkinder aus sozial schwachen Familien, die keinen Laptop zur Verfügung haben, dementsprechend auf Rechner in der Schule angewiesen sind. Das schränkt die Zeiten ein, zu denen sie an Projekten oder Hausaufgaben arbeiten oder sich informieren können. Ohne die Förderung durch das Elternhaus werden sie vielleicht gar nicht auf digitale Angebote aufmerksam, kennen das Spektrum an Möglichkeiten wie kostenlose Programmierkurse nur teilweise. So kann digitale Ungleichheit soziale Ungleichheit verstärken, was zur Spaltung der Gesellschaft beiträgt.
Sehen Sie noch weitere Gruppen, die über ungleiche Möglichkeiten verfügen?
Vor allem sind Frauen betroffen, das Geschlecht hat also einen großen Einfluss. Im Zeitalter der Digitalisierung sind Frauen oft die Verliererinnen, weil ihre Arbeitsplätze überproportional durch Automatisierung gefährdet sind – laut dem Internationalen Währungsfonds sind es bis zu 180 Millionen Arbeitsplätze weltweit. Diese Zahl ist so hoch, weil besonders viele Frauen in Berufen des Niedriglohn- und Dienstleistungssektor beschäftigt sind. Beispiele dafür sind die Kassiererin im Supermarkt oder Damen am Check-In-Schalter im Flughafen. Diese Berufe haben ein höheres Substituierbarkeitspotenzial, sind also einfacher durch Maschinen zu ersetzen.
Gibt es auch abseits des Arbeitsmarktes Ungleichheiten?
Ja, insbesondere durch den aktuellen KI-Hype kommt es zu teils gefährlicher Ungleichbehandlung beispielsweise im Bereich der Gesundheitstechnologie. Weil nicht ausreichend weibliche Patientinnendaten zur Verfügung stehen, können Diagnoseverfahren, die künstliche Intelligenz verwenden, bei Frauen seltener Krankheiten wie Krebs erkennen. Dieser Zusammenhang ist so ernst, dass die Vereinten Nationen es sich zur Aufgabe gemacht hat, diesen „Gender Data Gap“ zu schließen und die Unterrepräsentanz von Frauen in Trainingsdatensätzen für Algorithmen zu reduzieren.
KI kann also sexistisch sein?
Ja, absolut. Es gibt eine Vielzahl an Beispielen dafür, dass KI Sexismus reproduziert, die auf mich oft wie eine Folge der dystopischen Serie „Black Mirror“ wirken. Wenn ich als Frau eine Bildgenerator-KI wie Lensa AI auf der Grundlage meiner Bilder neue erstellen lasse, kann es sein, dass ich auf dem Ergebnis mit überdimensionierten Brüsten dargestellt werde und Pamela Anderson ähnlicher sehe als mir selbst. KI, die von Banken für die Vergabe von Krediten genutzt wird, benachteiligt Frauen systematisch. Dasselbe Problem existiert auch im Versicherungssektor. Und das bereitet mir die meisten Sorgen: Wie kann ich, wenn ich von algorithmischer Diskriminierung betroffen bin, dagegen vorgehen? Das ist bisher sehr schwierig. Diese gesellschaftlichen Fragestellungen wurden meines Erachtens zu lange von der Tech-Szene verdrängt. Das ist keine Luxusdebatte, die wir hier führen, sondern es geht darum, wie unsere Welt von morgen aussieht.
Warum ist die Tech-Szene so blind, was solche gesellschaftlichen Fragen angeht?
Wenn ich Wirtschaftsinformatik, Informatik oder ein anderes naturwissenschaftlich-mathematisches Studienfach studiere, dann beschäftige ich mich fast gar nicht mit KI-Ethik. Wenn ich später meinen Studienabschluss in der Tasche habe und mich als Datenwissenschaftler oder Entwickler dem digitalen Arbeitsmarkt anschließe, muss ich auch kein Sensibilisierungstraining im Unternehmen selbst absolvieren. Von Seiten des Managements gibt es praktisch nie Initiativen für bessere ethische Prinzipien. Die klügsten Köpfe der größten Tech-Unternehmen der Welt erhalten Milliarden für Forschung und Entwicklung – und schaffen es doch nicht inklusive Produkte auf den Markt zu bringen. Diskriminierende Gesichtserkennungs- und Recruitingsoftware von Amazon und IBM sind das Ergebnis. Das kann in niemandes Interesse sein.
Sollten wir an KI also grundsätzliche Zweifel hegen?
KI per se ist weder diskriminierend noch rassistisch noch sexistisch, auch wenn es in den Schlagzeilen immer wieder anders dargestellt wird. Am Ende des Tages ist KI eine Technologie, die von Menschen gemacht wird. Deswegen kann das Versprechen neutraler Technologie gar nicht eingehalten werden, weil wir Menschen sie entwickeln und unsere Werte darauf übertragen. Das soll aber keine Entschuldigung für die vielen bestehenden Probleme sein. Das Gute ist: Wir haben selbst in der Hand, das anders zu machen. Ich vergleiche das immer mit einem Skalpell: Eine Ärztin kann mir damit das Leben nehmen – sie kann sich aber auch dazu entscheiden, mich zu operieren und mir das Leben zu retten. Genauso ist es mit KI: Es ist ein Werkzeug und wir entscheiden, wie wir es bauen und benutzen. Wichtig ist vor allem Transparenz, damit diese Entscheidungen von jedem nachvollzogen werden können.
Ihre Antwort auf diese Probleme heißt „Fairtech“ – was verstehen Sie darunter?
„Fairtech“ ist für mich ein Wegweiser für eine gerechtere digitale Zukunft, in der wir die Debatte rund um Diversity und KI-Ethik in der Tech-Welt nicht als „nice to have“ betrachten, sondern als „must have“, weil Technologie unsere Zukunft bestimmt. Wenn mich zukünftige Generationen fragen werden, was ich inmitten der digitalen Revolution getan habe, möchte ich entgegnen können, dass ich meinen Beitrag dazu geleistet habe, für eine gerechtere Digitalisierung zu sorgen. Mein persönliches Anliegen ist es, Themen rund um Big Data, künstliche Intelligenz und Technologie sichtbarer zu machen und zu demokratisieren. Wir sollten den Menschen mehr zutrauen und versuchen, die Komplexität zu durchbrechen. Wir sind jeden Tag unmittelbar mit datengetriebener Technologie konfrontiert und deswegen müssen wir uns mit ihr auseinandersetzen, egal wie komplex oder auch abschreckend das erscheint.
Was ist Ihre Sicht auf die Digitalisierung in Deutschland? Den meisten hierzulande dürft sie nicht gerade wie eine digitale Revolution vorkommen.
Im 21. Jahrhundert befindet sich Deutschland in einer Sinn- und Identitätskrise, weil wir noch nicht unseren Platz in der neuen digitalen Weltordnung gefunden haben und uns nicht auf Augenhöhe mit Ländern wie China, den USA oder Israel befinden. Wir sind in Sachen Digitalisierung bereits abgehängt. Das letzte namhafte Unternehmen, das eine weltweite Relevanz besitzt, ist SAP, das in den 1970er-Jahren gegründet wurde. Danach kam nicht mehr viel aus Deutschland. Wir diskutieren auch zu wenig darüber, dass einige der besten Entwicklerinnen und Forscher für KI eigentlich Deutsche sind, die in den USA oder auch China arbeiten und für diese weltumspannenden Algorithmen verantwortlich sind. Das sind Köpfe, die Deutschland verlassen haben, weil wir zu wenig Anreize für solche Talente bieten. Wir brauchen dringend attraktivere Rahmenbedingungen. Dazu gehört auch, dass sich Deutschland endlich als Einwanderungsland verstehen muss.
Welche Rolle spielt dabei die Politik?
Besonders im Hinblick auf KI sehen sich Deutschland und die EU aktuell als weltpolitisches Ordnungsamt, das Knöllchen verteilen möchte. Wir wollen Technologie regulieren, die wir nicht erfunden haben und die, wie es den Anschein macht, auch nicht verstanden wird. Das bereitet mir Sorgen. Besonders die aktuelle Überregulierung der EU lässt mich verzweifeln, weil wir dadurch aktuell einen Rückgang in Tech-Gründungen beobachten.
Sie kritisieren die strukturelle Ungleichheit durch KI, sprechen sich aber gegen eine strengere Regulierung aus. Wie passt das zusammen?
Ich plädiere dafür, ethische Prinzipien zu etablieren, sich aber gleichzeitig vor einer Überregulierung in Acht zu nehmen und Innovationen zu fördern. Die geplante KI-Verordnung der EU könnte, so wie sie derzeit formuliert ist, dazu führen, dass KI-Anwendungen zu leichtfertig als hoch riskant eingestuft werden, obwohl sie tatsächlich nur ein mittleres oder geringes Risiko aufweisen. Das wiederum würde die Kosten durch daran anknüpfende gesetzliche Auflagen und die Beschaffung von finanziellen Mitteln deutlich erschweren. Auflagen müssen praktikabel und kosteneffizient sein. Ansonsten ist eine Erstickung des Erfindergeistes die Folge.
Was fordern Sie vom Gesetzgeber?
Ich wünsche mir von der Politik eine digitale Bildungsreform. Ich bin große Befürworterin eines Schulfachs wie Datenkunde ab Klasse drei. Der herkömmliche Informatikunterricht reicht nicht mehr aus. Kinder werden immer früher und immer stärker mit datenbasierten Geschäftsmodellen konfrontiert. Datenkunde ist elementar, damit Kinder mündig damit umgehen können und genau wissen, was mit ihren Informationen passiert. Ich fordere auch übergreifende Pflichtmodule im universitären Kontext, wie KI-Ethik und Datenanalyse.
Was noch?
Die Lücke zwischen Wissenschaft und Wirtschaft viel zu groß. Wir sind in Deutschland in Sachen KI-Forschung exzellent aufgestellt. Da können wir uns international mit Ländern wie den USA und China messen. Was uns aber nicht gelingt, ist der Transfer von der Wissenschaft in die Wirtschaft, weil wir dort zu wenig universitäre Partnerschaften haben. Unternehmerische Studierende haben kaum Ansprechpartner an den Hochschulen. In den USA ist es normal, dass Professoren sich dazu entscheiden, in das Vorhaben einzusteigen oder anderweitig Hilfe anbieten. Auch arbeitsmarktpolitische Maßnahmen sind notwendig – ein berufsunabhängiger Ausbildungsfonds beispielsweise, damit es einfacher wird, Fortbildungen in Anspruch zu nehmen, um weniger durch Automatisierung und KI substituierbar zu sein. Das ist in Ländern wie Frankreich oder Singapur bereits der Fall.
Was kann die Wirtschaft beitragen?
Von der Wirtschaft wünsche ich mir vor allem eine größere Offenheit gegenüber Quereinsteigern in der Tech-Industrie. In Deutschland sind wir noch sehr auf Bildungsabschlüsse fokussiert, während in anderen Ländern nicht so viel Wert darauf gelegt wird. In den USA habe ich schon Menschen kennengelernt, die mit einem Abschluss in Kunstgeschichte in der Softwareentwicklung oder dem Investmentbanking arbeiten. Darüber hinaus sehe ich ein breites Fortbildungsangebot im Bereich Daten- und KI-als notwendige Maßnahme. Das ist insbesondere für ältere Mitarbeitende ein wichtiger Punkt, um nicht abgehängt zu werden. Optimal wäre es, wenn alle eine Art Lingua Franca beherrschten, um über Abteilungen hinweg zu diesen Themen kommunizieren zu können.
Und die Gesellschaft?
Gesellschaftlich sehe ich vor allem die Medien in der Pflicht, vorsichtiger in der Berichterstattung über KI zu sein und nicht jede dramatische Überschrift umzusetzen, um hohe Klickzahlen zu erreichen. Nur weil ein Richard David Precht meint, dass KI den Weltuntergang einläutet, heißt das nicht, dass diese Meinung eine Meldung wert ist. Medien und ihre Konsumentinnen und Konsumenten müssen gemeinsam überlegen, wie eine differenzierte Debatte über diese Themen möglich wird. Manchmal ist auch ein 320 Seiten starkes Sachbuch notwendig, um diese komplexen Zusammenhänge zu verstehen.
