Wie KI dem Gemeinwohl dienen kann

Frau Dr. Züger, Sie beschäftigen sich damit, wie Künstliche Intelligenz (KI) dem Gemeinwohl dienen kann. Könnten Sie erläutern, was man sich darunter vorstellen kann?

Dr. Theresa Züger

Ich arbeite am Alexander von Humboldt Institut für Internet und Gesellschaft (HIIG). Das Forschungsinstitut wurde gegründet, um die Entwicklung des Internets aus einer gesellschaftlichen Perspektive zu erforschen. Die Digitalisierung, die all unsere Lebensbereiche betrifft, soll besser verstanden werden. Wir haben ein Verständnis erarbeitet, das die enge Verflechtung technischer Innovationen mit gesellschaftlichen Prozessen in den Mittelpunkt stellt: Technikentwicklung reflektiert Normen, Werte und Interessensgeflechte – umgekehrt wirken Technologien, sobald sie verstetigt sind, wiederum auf gesellschaftliche Wertvorstellungen ein.

Das klingt abstrakt. Machen wir es fassbarer – Maschinen werden zu Kollegen, Daten werden zu Wissen und zu Geschäftsmodellen, Lernende Systeme werfen ethische Fragen auf. Haben Sie den Eindruck, dass unsere Gesellschaft sich bewusst ist, wie KI unseren Alltag verändert?

Dr. Theresa Züger

Das kommt darauf an. In vielen Berufsgruppen ist ein Verständnis für KI und das Maschinelle Lernen vorhanden. In der Logistik, in der Wetterforschung und auch im medizinischen Bereich etwa. Auch bei Online-Übersetzungsdiensten, beim Streamen von Musik oder bei Assistenzsystemen im Auto wird KI im Alltag benutzt – aber wahrscheinlich ist es nicht jedem direkt bewusst.

Sind Vokabeln wie etwa Big Data nur etwas für Informatikerinnen und Informatiker?

Dr. Theresa Züger

Lange Zeit waren sie es, aber inzwischen haben sicherlich die meisten Menschen eine Vorstellung von KI und einer ihrer grundlegenden Methoden, dem Maschinellen Lernen. Dabei werden sogenannte Neuronale Netze mit großen Datenmengen trainiert, bestimmte vorgegebene Ziele zu erreichen, z.B. bestimmte Objekte auf Bildern zu identifizieren oder einen Text in eine andere Sprache zu übersetzen. Da wir nicht – oder nur mit sehr großem Aufwand – nachvollziehen können, was ein Neuronales Netz im Training lernt, ist es selbst für die Entwickelnden häufig nicht transparent wie ein System zu einem bestimmten Ergebnis gelangt ist. Mit meiner Forschungsgruppe „Public Interest AI“ entwickeln wir KI in Einsatzfeldern, die Gemeinwohl dienen. Wir versuchen, bereits im Prozess der Entwicklung das Gemeinwohl im Blick zu behalten.

Könnten Sie das an einem Beispiel verdeutlichen?

Dr. Theresa Züger

In einem Forschungsprojekt einer Doktorandin im Bereich der Computerlinguistik trainieren wir ein „Machine Learning“ Modell, dass dabei unterstützt Standard Deutsch in Einfache Sprache zu übersetzen, also z.B. einen Behördentext in einer vereinfachten Form anzuzeigen. Unser Ziel ist dies nicht nur theoretisch anzugehen, sondern tatsächlich einen Prototypen bereit zu stellen, den Menschen nutzen können, denen Einfache Sprache beim Verständnis von Texten entgegenkommt. Das Projekt trägt also zur Barrierefreiheit im digitalen Raum bei.

Unsere ganze Gesellschaft verlässt sich auf technische Informationen und dafür ist es wichtig zu verstehen, was passiert. Ich wäre für ein Schulfach KI oder Technische Systeme, um das breite Verständnis zu fördern.
Dr. Theresa Züger
Medienwissenschaftlerin

Sie arbeiten auch daran, das Faktenchecken zu vereinfachen?

Dr. Theresa Züger

Das ist ein anderes Projekt von einem weiteren Doktoranden aus unserem Team. Er entwickelt ein System, das beim Faktenchecken dabei helfen soll, Behauptungen aus Texten zu identifizieren und ihre Verbreitung nachzuvollziehen. Dieser Prototyp soll Faktenchecker*innen in ihrer Arbeit unterstützen. Was Fakt ist und was eine Desinformation, muss am Ende immer von einem Menschen bewertet werden. Unser System könnte jedoch die Arbeit von Redaktionen erleichtern und beschleunigen, da es eine zentrale Vorarbeit leistet, indem es relevante Behauptungen in Textdaten identifiziert.

Stichwort Faktencheck mit Blick auf den Krieg in der Ukraine. Würden Sie sagen, dass Russland einen Informationskrieg führt?

Dr. Theresa Züger

Russland ist über soziale Medien schon lange mit Desinformationskampagnen aktiv und auch die starke Beeinflussung russischer Staatsmedien und Einschränkung unabhängiger Stimmen kommt nicht plötzlich zustande. Russland beeinflusst die öffentliche Debatte sowohl in Inland wie auch über russische Grenzen hinweg z.B. durch angeblich private Social-Media-Accounts, die von Kreml-gesteuerten Medienunternehmen professionell betrieben werden. Cybersicherheitsexperten erforschen schon lange wie gezielte Desinformationskampagnen im Internet dazu beitragen können Demokratien zu destabilisieren.

Kann KI auch im Guten eingesetzt werden? Kann sie der Demokratieförderung nützlich sein?

Dr. Theresa Züger:

Künstliche Intelligenz wird vielfältig eingesetzt und viele dieser Nutzungen sind alles andere als demokratieförderlich. Das heißt aber nicht, dass nicht auch Nutzungen denkbar sind, die Bürgerinnen und Bürgern und ihren Rechten zugutekommen. Wenn es beispielsweise der öffentlichen Verwaltung gelingt auf zugängliche, transparente, sichere und datenschutzkonforme Weise Verwaltungsprozesse und Bürgerservice zu vereinfachen und beschleunigen, dann kann das auch im Sinne der Demokratie sein. Wie unsere Forschung zeigt, gibt es außerdem im Bereich der Barrierefreiheit oder des Klimaschutzes schon heute erfolgreiche KI-Projekte, die Teilhabemöglichkeiten erhöhen oder beispielsweise Artenschutz vorantreiben. Für mich sind gerade diese beiden Themen, die Gleichberechtigung von Bürgerinnen und Bürgern sowie die ökologische Nachhaltigkeit zentrale Themen für das Gelingen und Fortbestehen der Demokratie.

Während Pandemien, ökonomischen Krisen oder auch Wahlkämpfen zeigt sich besonders deutlich, dass funktionierende Demokratien auf gut informierte Menschen angewiesen sind.
Dr. Theresa Züger
Medienwissenschaftlerin

Wenn wir grundsätzlich das Verständnis für die guten und die schlechten Seiten der KI verbessern wollen, würde ein Schulfach KI oder Technische Systeme helfen?

Dr. Theresa Züger

Aus meiner Sicht – ja! Ich bin unbedingt dafür. Unsere ganze Gesellschaft verlässt sich auf digitale Technologien und dafür ist es wichtig zu verstehen, wie diese funktionieren. Ich fände ein Schulfach „digitale Gesellschaft“ gut. In diesem Schulfach ginge es nicht darum, dass jeder und jede unbedingt programmieren können muss. Aber das Grundverständnis für digitale Technologien und ihre Wechselwirkungen mit der Gesellschaft ist notwendig, um die heutige Welt zu verstehen und als Bürgerinnen und Bürger in unserer Demokratie handlungsfähig zu bleiben.

Dazu zählt auch Medienkompetenz?

Dr. Theresa Züger

Unbedingt, allerdings nicht nur für Schülerinnen und Schüler, das gilt für die breite Bevölkerung. Eine aktuelle Studie der Stiftung „Neue Verantwortung“ zur digitalen Nachrichten- und Informationskompetenzen der Bevölkerung in Deutschland zeigt, dass es den Befragten zum Teil schwerfällt, zwischen verschiedenen Kommunikationsabsichten zu unterscheiden. Sie differenzieren nicht zwischen Werbung, Information, Desinformation und Meinung. Während Pandemien, ökonomischen Krisen oder auch Wahlkämpfen zeigt sich besonders deutlich, dass funktionierende Demokratien auf gut informierte Menschen angewiesen sind. Wie gut sie in der Lage sind, Nachrichten zu verstehen, einzuordnen und zu hinterfragen, kann Einfluss darauf haben, ob die Bevölkerung anfällig wird für Falschnachrichten oder ob sie das Vertrauen in Institutionen verlieren.

Porträtbild einer jungen Frau, die in die Kamera blickt. — Dr. Theresa Züger forscht über die politischen Dimensionen digitaler Technologien und Kulturen. | © privat

Über Dr. Theresa Züger

Dr. Theresa Züger ist Leiterin der vom Bundesministerium für Bildung und Forschung (BMBF) geförderten Nachwuchsforscher*innengruppe „Public Interest AI“. Die Gruppe beschäftigt sich mit der Frage, wie Künstliche Intelligenz (KI, auf Englisch „Artificial Intelligence“, kurz AI) dem Gemeinwohl dienen kann. Die Medienwissenschaftlerin ist Leiterin des AI & Society Labs. Das Lab wurde 2020 vom Alexander von Humboldt Institut für Internet und Gesellschaft (HIIG) ins Leben gerufen und versteht sich als ein inter- und transdisziplinäres Forschungslabor an der Schnittstelle zwischen Wissenschaft, Industrie und Zivilgesellschaft.

Dr. Theresa Züger forscht vor allem über die politischen Dimensionen digitaler Technologien und Kulturen, wobei sie dabei besonders demokratietheoretische Fragestellungen interessieren. Unter anderem hat sie für die Medienanstalt Berlin-Brandenburg das Media Policy Lab entwickelt und geleitet, ein Projekt zur Wissenschaftsvernetzung im Bereich der Intermediärsregulierung. Als Intermediäre werden Dienste verstanden, die durch Aggregation, Selektion und Präsentation Aufmerksamkeit für Inhalte erzeugen, also zum Beispiel Soziale Online-Netzwerke, Instant-Messenger, Suchmaschinen oder Videoportale.