‎„Wir tun nicht genug“‎

Die Frau kennt sich aus: Prof. Katharina Zweig ist Mitglied der Enquete Kommission der Bundesregierung, Leiterin des Algorithm Accountability Labs und Gründerin des Studiengangs Sozioinformatik an der TU Kaiserslautern. Gerade hat sie das KI Startup Trusted AI GmbH gegründet.

Ihr Vortrag auf dem 6. IHK-Talk „Wirtschaft 2030“ hat selbst den IHK-Präsidenten Eberhard Sasse beeindruckt. Vor ihrem Auftritt beantwortete Zweig die Fragen von IHK-Redakteur Martin Armbruster.

Frau Zweig, werden wir im Jahr 2030 noch frei entscheiden können, welche Algorithmen wir einsetzen?

Aber natürlich werden wir das können. Wir müssen uns da schon anschauen: Was haben wir schon geschafft? Welche Art von Technologieumschwüngen haben wir schon gemeistert? Da haben wir doch schon einiges erreicht.

Können Sie uns ein Beispiel nennen?

Was mich sehr beeindruckt hat, war, wie es die IG Metall im vergangenen Jahr geschafft hat, für Arbeitnehmer mehr Zeit für die Pflege Angehöriger (bis zu 8 freie bezahlte Tage, die Red.) durchzusetzen. Wenn das politisch machbar ist, bekommen wir auch die Künstliche Intelligenz in den Griff.

Wer mehr Daten hat, schafft auch bessere Algorithmen. Was halten Sie von der Forderung, dass Firmen zur Öffnung ihre Datenpools gezwungen werden müssen?

Ich glaube nicht, dass dafür Zwang nötig ist. Es gibt starke Anreize, diese Datenpools zu teilen.

Mich als Durchschnittsanwender ärgert die negative Wirkung der Algorithmen. Ich werde mit Werbung bombardiert …

Das ist leider wahr.

und soll rund um die Uhr konsumieren. Wie überzeugen Sie mich davon, dass sich gute Algorithmen programmieren lassen?

Ich habe vor ein paar Tagen am Münchner Hauptbahnhof mit einem Behinderten gesprochen, der wegen eines Geburtsfehlers an den Rollstuhl gebunden ist. Der Mann wünscht sich, dass er seinem Rollstuhl auch mal sagen kann: Ich bin jetzt müde, fahre mich heim. Genau das kann KI.

Sehen Sie über den Rollstuhl hinaus noch weitere Anwendungsfälle?

KI kann dafür sorgen, dass wir auf unseren Äckern den Dünger präzise aufbringen. Wir bekommen gute Ernten, ohne unser Grundwasser zu verseuchen. KI kann dafür sorgen, dass wir personalisierte Medizin bekommen, und nicht nach einem Standardschema behandelt werden. Das ist wichtig, weil wir völlig unterschiedliche genetische Dispositionen haben.

Können sich die Normalbürger diese Vorzüge dann noch leisten? KI wird Produkte grundsätzlich erschwinglicher machen. Da haben wir es wieder: Das nutzt dem Konsum.

Können Algorithmen die Welt besser machen?

Das können sie auf jeden Fall. Algorithmen sind Problemlöser. Sie sind so gestrickt, dass der Computer in einer ungeahnten Geschwindigkeit Dinge verbessern kann. Die Schlüsselfrage ist aber: Welche Probleme lösen wir? Darüber brauchen wir eine gesellschaftliche Debatte. Das ist noch viel zu wenig passiert.

Über was müssen wir da diskutieren?

Natürlich über Werte. Wenn wir uns für automatisiertes Fahren entscheiden, aber auf automatisierte Rollstühle verzichten, stimmen doch die Ziele in der Gesellschaft nicht. Darüber müssen wir reden. Ich will beides, das automatisierte Auto und den KI-gesteuerten Rolli.

Nur lässt sich mit dem automatisierten Rolli weit weniger Geld verdienen. Müsste dann der Staat daher nicht sehr darauf schauen, in welcher Richtung sich die KI entwickelt?

Das tut der Staat bereits. Dafür gibt es die vielen Beratungsgremien: den Digitalrat, die Datenethikkommission, die Plattform Lernende Systeme, die Enquete-Kommission Künstliche Intelligenz. Da wird also schon genau hingeschaut. Für mich stellt sich die Frage, wie man das alles zusammenführt und daraus eine Strategie entwirft.

Wenn man Politiker über KI sprechen hört, glaubt man nicht, dass daraus eine Strategie wird.

Da muss ich die Politiker in Schutz nehmen. Die Bundestagsabgeordneten, die etwa bei uns in der Enquete-Kommission sitzen, haben wirklich Ahnung von der Sache. Die verfügen über das nötige Spezialwissen. Deshalb finde ich diese Kommission auch so wichtig. Man muss den Parlamentarieren auch die Zeit lassen, sich mit diesen Themen zu beschäftigen.

Viele Bürger sind KI-skeptisch. Sie fürchten um ihre Jobs, sie fühlen sich fremdbestimmt.

Diese Skepsis verstehe ich. Die heutigen Algorithmen unterstehen einer Entscheidungsmacht, die wir nicht steuern können. Die ersten Algorithmen, die unser Leben veränderten, kamen von der anderen Seite des Atlantiks. Die machen uns heute Sorgen.

Was soll sich daran ändern?

Die neue KI, die derzeit entsteht, wird sehr viel näher an uns dran sein. Sie wird in unsere Schulen und Universitäten kommen, an den Arbeitsplatz und zu uns nach Haus. Und da haben wir einen Hebel. Wir wissen, wer das einsetzt. Wir können die Verantwortlichen wählen oder abwählen. Ich werde im Oktober ein Buch dazu veröffentlichen und das dem Leser sehr genau beschreiben: So funktioniert die Technik und an der Stelle triffst Du die Entscheidung.

Ist das der Punkt, an dem, wie Sie sagen, die Ethik in den Rechner kommt?

Vereinfacht gesprochen: Ja. Es geht um Fragen, die letztlich mit Technik nicht viel zu tun haben. Was ist eine gerechte Entscheidung? Was ist eine gute Entscheidung? Die können Sie genauso gut beantworten wie ich als Technikerin. Deshalb müssen wir das auch gemeinsam entscheiden.

Geht es darum, die Technik menschlicher zu machen?

Nein. Es geht um folgenden Punkt: Immer wenn wir Technik programmieren, fließt dabei auch das kulturelle Setting mit ein, in dem wir uns bewegen. Heute Abend werde ich den Teilnehmern zeigen, wie man aus Daten einen Algorithmus programmiert, der entscheidet, welchen Bewerber wir zu einem Vorstellungsgespräch einladen. Sie werden überrascht sein, welche Gestaltungskraft Sie dabei haben.

Wieso? Man sucht doch in dem Fall nur nach passenden Personendaten.

Aber auf Basis einer Wertentscheidung. Ist es Ihnen wichtiger, dass man alle potenziellen Kandidaten sieht – und nehmen Sie dafür in Kauf, ein paar nutzlose Interviews zu führen? Oder ist es Ihren wichtig, von vornherein nur Top-Leute zu selektieren und dadurch immer nur den gleichen Quark zu bekommen? Diese Entscheidung müssen Sie treffen. Ich als Programmiererin schreibe Ihnen dann die Lösung.

Ich könnte mir andere Produkte auf dem Markt suchen.

Auch dafür müssen Sie wach sein. Sie müssen wissen, welche Prämissen hinter den Algorithmen stecken. Ansonsten kaufen Sie irgendetwas ein, was mit Ihren Werten wenig zu tun hat.

Sind Sie, wenn wir Richtung 2030 schauen, optimistisch?

Ich finde es erstaunlich, was wir schon geschafft haben. Wir haben viele Instrumente entwickelt, um mit der industriellen Revolution klar zu kommen. Der Unterschied zu heute ist, dass wir so viele globale Probleme gleichzeitig lösen müssen. Und da ist der Klimawandel noch drängender als die KI-Frage.

Kann KI zum Klimaschutz beitragen?

Ja, natürlich. Aber dafür braucht es die richtigen Anreize. Schauen Sie in die USA. Da gehen die Forschungsgelder in das Militär. In Europa und Deutschland wäre jetzt der richtige Zeitpunkt, um im Interesse der Gesellschaft gute KI zu fördern. Aber dafür tun wir noch bei weitem nicht genug.