Die KI greifbar machen

Ein Vortrag auf dem Informationstag der AOK Systems Anfang Dezember beschäftigte sich mit ökologischen, ökonomischen und ethischen Aspekten beim Einsatz Künstlicher Intelligenz (KI). So betonten die Referentinnen Rosalie Waelen und Sophia Falk vom Bonner Institut für Wissenschaft und Ethik, wie wichtig es ist, aktuelle technologische Entwicklungen stets kritisch zu hinterfragen. Dies sei Grundvoraussetzung dafür, die neuen Potenziale verantwortungsvoll zu nutzen. sysINSIGHT sprach mit den beiden Forscherinnen über ihre Arbeit und die Auswirkungen von KI auf Mensch und Umwelt.

Rosalie Waelen und Sophia Falk bei ihrem Vortrag auf den Informationstag 2024

Das Thema Ihres Vortrags lautete "Künstliche Intelligenz - Der andere Blickwinkel". Wie sieht denn, im Gegensatz dazu, der allgemein vorherrschende Blick auf KI aus?

Waelen: Für die meisten Menschen ist KI etwas Unsichtbares und Ungreifbares in einer Cloud, das unsere Arbeit automatisiert. Zudem wird KI oft als eine Art Allheilmittel angesehen, das vieles vereinfacht. Dieser rein positiven Wahrnehmung möchten wir unseren anderen Blickwinkel gegenüberstellen. Wir zeigen auf, dass KI durchaus etwas Materielles ist, mit dem ganz reale und nicht selten dramatische Auswirkungen auf Umwelt und Gesellschaft verbunden sind. Dafür wollen wir ein Bewusstsein schaffen.

Bei Ihrer Präsentation spielte das Thema Nachhaltigkeit eine große Rolle. Wo besteht der Zusammenhang zwischen Nachhaltigkeit und KI?

Falk: Hier muss man zunächst zwischen drei verschiedenen Aspekten der Nachhaltigkeit unterscheiden. So gibt es neben der ökologischen auch eine wirtschaftliche sowie eine soziale Nachhaltigkeit. In Bezug auf die ökologische Nachhaltigkeit lässt sich KI wiederum von zwei Seiten aus betrachten. So kann man KI beispielsweise ganz konkret für Nachhaltigkeits-Zwecke anwenden – etwa, indem diese beobachtet, wie der Klimawandel voranschreitet, um auf Basis der erhobenen Daten Lösungswege beispielsweise gegen Flutkatastrophen oder Wildfeuer zu entwickeln.

Oder?

Falk: Auf der anderen Seite muss man aber auch hinterfragen, wie es um die KI-eigene Nachhaltigkeit bestellt ist. Also: Welche Rohstoffe und wie viel Wasser sowie Energie werden benötigt, um die KI zu entwickeln? Wenn man das hinterfragt, stellt sich heraus: Allein der Energieverbrauch, der beim Model Training einer KI-Anwendung anfällt, ist erschreckend hoch.

Können Sie konkrete Zahlen nennen?

Falk: Einer aktuellen Studie zufolge wird der Strombedarf von Rechenzentren für KI-Anwendungen und andere Digitalisierungsprojekte in Europa bis zum Jahr 2030 auf mehr als 150 Terawattstunden ansteigen – und damit auf rund fünf Prozent des gesamten europäischen Stromverbrauchs. Das ist dreimal so viel wie noch 2024.

Wie sieht es beim Blick auf den gesamten Produktlebenszyklus einer KI aus? Welche anderen Umweltfaktoren spielen hier, abgesehen vom Energieverbrauch, noch eine bedeutende Rolle?

Falk: Das erforschen wir derzeit noch. Die entsprechenden Ergebnisse werden hoffentlich im Sommer vorliegen. Abzusehen ist aber bereits jetzt, dass die Materialverarbeitung mit einem sehr hohen Wasserverbrauch und Chemieeinsatz verbunden ist.

Frau Waelen, Sie beschäftigen sich schwerpunktmäßig mit den Auswirkungen der KI auf Mensch und Gesellschaft. In diesem Zusammenhang geht es unter anderem um den Begriff Fauxtomation. Was ist damit gemeint?

Waelen: Der Begriff ist abgeleitet vom französischen „faux“, also „falsch“. Im englischsprachigen Raum bezeichnet Fauxtomation eine Form der Scheinautomatisierung. Darunter fallen solche Prozesse, die angeblich durch fortschrittliche Automatisierung und Technologie abgewickelt werden. Tatsächlich basieren sie aber auf unsichtbar durchgeführter menschlicher Arbeit. So funktionieren zum Beispiel Sprach-Softwarenanwendungen und -Assistenten wie Alexa von Amazon oder Siri von Apple nicht ohne menschliche Hilfe: Die Konzerne leiten die Sprachaufnahmen ihrer Nutzerinnen und Nutzer an Subunternehmen weiter, um sie dort zu Trainingszwecken von Menschen abhören und transkribieren zu lassen.

Das heißt aber auch: KI vernichtet nicht nur Arbeitsplätze, sondern schafft auch neue?

Waelen: Bislang gibt es dazu keine verifizierten Ergebnisse, sondern lediglich fundierte Vermutungen. In der Wissenschaft spricht man in diesem Zusammenhang von „educated guesses“. Zwar hat die zunehmende Automatisierung schon immer die Befürchtung geweckt, dass es durch sie verstärkt zu Arbeitslosigkeit kommt. Das gilt auch für den Einsatz von KI. Allerdings hat Automatisierung auch stets neue Jobs mit sich gebracht. Wobei dies noch vor ein paar Jahren zugegebenermaßen selbst für kreative Jobs vermutet wurde. Inzwischen zeichnet sich allerdings ab, dass diese zunehmend durch KI ersetzt werden, beispielsweise beim Verfassen von Texten oder der Bildgestaltung. Insgesamt bin ich persönlich aber nach wie vor eher positiv gestimmt, was die Auswirkungen von KI auf den Arbeitsmarkt im Allgemeinen betrifft.

Ihrem Vortrag zufolge spielen bei KI-Anwendungen mitunter auch Voreingenommenheit und Fairness eine Rolle. Können Sie dies an einem Beispiel verdeutlichen?

Falk: Eine solche Voreingenommenheit, im Wissenschaftsenglisch Bias genannt, zeigt sich unter anderem bei der Kreditvergabe. Diese findet bei den meisten Banken inzwischen automatisiert statt. Das wiederum bringt mit sich, dass Frauen weniger Kredite beziehungsweise schlechtere Kreditbedingungen erhalten als Männer. Denn im Zuge der Automatisierung wurde die KI mit Einkommensdaten der vergangenen 50 bis 60 Jahre trainiert – also auch und sogar überwiegend mit Zahlen aus einer Zeit, in der Frauen noch nicht so stark erwerbstätig waren wie heute und entsprechend weniger Einkommen bezogen. Dadurch wird ihre Kreditwürdigkeit bis heute quasi automatisch herabgesenkt! Zwar bewegen sich Frauen in den vergangenen zwei Jahrzehnten verstärkt in deutlich höheren Einkommensgruppen, doch wird dies durch die älteren Daten aus den 1960er- und 1970er-Jahren nach wie vor überlagert. In einem Gespräch sagte mir ein Banker einmal, dass sich daran in absehbarer Zeit auch nichts ändern werde. Die Sicherheit für die Bank bei der Kreditvergabe habe Vorrang vor dem Daten-Bias. Insofern dürfte es noch eine Weile dauern, bis Frauen von einer KI als ebenso kreditwürdig angesehen werden wie Männer.

Abgesehen vom Bankensektor: Wie reagieren andere Unternehmen, wenn Sie diese mit Ihren Thesen zu Nachhaltigkeit und Ethik im Umgang mit Künstlicher Intelligenz konfrontieren? Stoßen Sie dort eher auf Interesse oder auf Ablehnung?

Falk: Das ist sehr unterschiedlich und hängt von den jeweils verantwortlichen Personen ab. Ich persönlich habe häufig die Erfahrung gemacht, dass ein echtes Interesse nicht wirklich vorhanden ist. Frei nach dem Motto: „Unsere Firma läuft, warum sollen wir da in Bezug auf die KI etwas hinterfragen? Für uns sind die Zahlen in den Büchern entscheidend“. Bei kleineren Firmen dagegen wird dieses Thema eher wahrgenommen und auch im eigenen Businesskonzept berücksichtigt.

Waelen: Ähnlich wie beim Green Washing gibt es auch ein Ethics Washing: Viele Unternehmen behaupten öffentlich, sie würden Prinzipien wie Verantwortung und Fairness in Bezug auf die Anwendung von KI beachten. Aber da es in diesem Bereich noch weitestgehend an verbindlichen Regeln mangelt, bleibt es in der Realität meist bei Behauptungen.

Sind denn entsprechende Regeln zumindest geplant?

Falk: Im August 2024 ist auf EU-Ebene der Artificial Intelligence Act in Kraft getreten, eine Verordnung zum Thema KI. Darin wurden erfreulicherweise auch ethische Aspekte berücksichtigt. So sind zum Beispiel Social Scoring Systeme wie in China, wo die Menschen durch Überwachung und im Internet öffentlich einsehbaren Punktestand zu mehr „Aufrichtigkeit“ im sozialen Verhalten erzogen werden sollen, innerhalb der EU verboten. Die Verordnung folgt einem weitgehend risikobasierten Ansatz. Das heißt: KI-Technologien werden in vier verschiedene Risikokategorien eingegliedert. Diese reichen von KI-Systemen mit „inakzeptablem Risiko“ über solche mit „hohem Risiko“ beziehungsweise „Transparenzanforderungen“ bis hin zu KI-Systemen mit „keinem bzw. niedrigem Risiko“. Daran gekoppelt sind jeweils entsprechende Verbote, Sorgfalts- und Informationspflichten.

Waelen: Das bedeutet allerdings nicht, dass die einzelnen Regelungen bereits gelten würden. Sie treten schrittweise bis August 2027 in Kraft. Die Übergangsfrist beträgt teilweise bis zu 36 Monate.

Haben Sie beide abschließend einen Tipp für unsere Leserinnen und Leser: Worauf sollten wir achten, wenn wir im Alltag versucht sind, KI-Anwendungen wie Chat GPT zu nutzen?

Waelen: Viele denken vermutlich, dass es nichts ändert, wenn sie ihr individuelles KI-Nutzungsverhalten einschränken. Ich sehe das aber so ähnlich wie beim Essen: Hier verzichten ja auch immer mehr Menschen auf regelmäßigen Fleischkonsum, um die Umwelt zu entlasten. Auf die KI-Welt übertragen bedeutet das: Wenn ich bei der Suche nach einer Antwort nicht jedes Mal bei Chat GPT nachfrage, kann dies die Umwelt bereits ein klein wenig entlasten.

Falk: Genau. Wobei es uns keineswegs darum geht, KI-Anwendungen prinzipiell zu verdammen. Aber wenn jeder von uns bei der Recherche beispielsweise Chat GPT regelmäßig durch Google ersetzt, wäre schon viel gewonnen. Denn der Unterschied im Energieverbrauch beider Anwendungen ist enorm. Insofern sollte man sich im Falle eines Falles vielleicht doch mal die Zeit nehmen, zusätzlich noch eine Website anzuklicken, die Google oder eine andere Suchmaschine im Zuge einer Recherche auflistet. Denn das hat bisher ja auch immer gut funktioniert.

Mehr Infos:

Das Institut für Wissenschaft und Ethik (IWE) ist eine Forschungseinheit der Universität Bonn, das durch deutsche Behörden finanziert wird. Dr. Rosalie Waelen ist wissenschaftliche Mitarbeiterin am IWE mit den Forschungsschwerpunkte Ethik von KI, Angewandte Ethik, Praktische Philosophie, Philosophie der Technik und Kritische Theorie. Sophia Falk ist ebenfalls wissenschaftliche Mitarbeiterin und Doktorandin am IWE mit den Schwerpunkten Umweltökonomie,  Ressourcenökonomie, Sustainability Studies und Ethik von KI