Generative KI und ihre Folgen für die Gesellschaft: Perspektiven auf eine aktive Gestaltung der Zukunft der Zukunft
Generative Künstliche Intelligenz (KI) verändert unsere Gesellschaft in
rasantem Tempo. Systeme wie ChatGPT, Gemini oder DeepSeek erstellen
realistisch wirkende Bilder, komponieren Musik und führen menschenähnliche
Gespräche. Generative KI prägt damit nicht nur, wie wir arbeiten, lernen
und kommunizieren, sondern auch, wie wir als Gesellschaft Wissen,
Kreativität und Verantwortung verstehen. Zugleich entstehen ethische
Fragen: Wie bleibt menschliche Kompetenz zentral?
Wie sichern wir
Authentizität und Vertrauen, wenn KI-Inhalte täuschend echt wirken? Eine
neue Broschüre der Plattform Lernende Systeme bietet Orientierung und
zeigt Wege für einen verantwortungsvollen Umgang mit KI.
Die von den Herstellern mit generativen KI verbundenen Versprechungen
scheinen nahezu allumfassend: Von der Steigerung der Produktivität, der
Optimierung von Lieferketten und Fortschritten im Medizinbereich über die
Lösung globaler Probleme wie dem Klimawandel, bis hin zu Erleichterungen
im alltäglichen Leben. Generative KI nutzt dabei große Sprachmodelle, die
Wahrscheinlichkeitsverteilunge
daraus selbständig neue Ergebnisse generieren. In den letzten Jahren hat
diese Entwicklung große Fortschritte gemacht. Doch der Einsatz von
generativer KI geht auch einher mit Diskussion zu potenziellen Gefahren,
wie etwa Cyber-Kriegsführung, Fake News oder einem möglichen Verlust der
Kontrolle über autonome KI-Systeme – all das auch potenzielle Gefahren für
demokratische Gesellschaften.
Eine zentrale Richtungsentscheidung bei der Entwicklung und Gestaltung von
generativer KI besteht deshalb in der Frage, wie Sicherheit und
Fortschritt gelingen können und wie generative KI inklusiv gestaltet
werden kann, so dass alle gesellschaftlichen Akteure einbezogen werden.
Zudem müssen die sich abzeichnenden zentralen Spannungsfelder frühzeitig
identifiziert werden. Um eine wertorientierte Entwicklung zu unterstützen,
müssen die teils widerstreitenden Interessen und Erwartungen
gesellschaftlich verhandelt und bewertet werden. Damit generative KI
verantwortungsvoll genutzt werden kann, braucht es klare Regeln, ethische
Leitplanken, transparente Nutzung und ein Bewusstsein für soziale Folgen.
Der Blick auf mögliche Zukunftsszenarien und Spannungsfelder hilft,
frühzeitig zu gestalten, statt nur zu reagieren.
Aktive Gestaltung und Partizipation sind unerlässlich
„Menschliche Expertise und die Fähigkeit zur kritischen Beurteilung und
Korrektur von generierten Inhalten ist unverzichtbar. Wir müssen darauf
achten, dass generative KI und menschliche Expertise sinnvoll in einem Co-
Creations-Prozess zusammenspielen, um die Zuverlässigkeit und Qualität von
generierten Inhalten sicherzustellen“, betont Prof. Dr. Ute Schmid, Otto-
Friedrich-Universität Bamberg und Mitglied der Plattform Lernende Systeme.
Für Unternehmen wie die Gesellschaft bedeutet dies, nicht nur rechtliche
Vorgaben zu beachten, sondern sich auch aktiv mit der Frage
auseinanderzusetzen, welche Ziele und Grenzen bei der Entwicklung und für
den Einsatz von generativer KI gesetzt werden sollten. Seitens der
Forschung sind Tools und Methoden zu entwickeln, die generative KI
hinsichtlich dieser Kriterien und Prüfungsansätze bewerten und
zertifizieren können. Hier werden Ansätze wie werteorientierte
Technikgestaltung Ethics by Design mit technischen Prüfverfahren
kombiniert.
Um Desinformation zu minimieren, gilt es Inhalte stets kritisch zu
hinterfragen, Quellen auf Vertrauenswürdigkeit zu überprüfen und im
Zweifelsfall fragwürdige Inhalte nicht weiterzuleiten oder zu teilen.
Konkret bedeutet das: Für eine erfolgreiche Gestaltung der Zukunft mit
generativer KI muss eine Ausgewogenheit gefunden werden, zwischen dem, was
die Nutzenden leisten müssen – Entwicklung von Daten- und KI-Kompetenz –
und dem, wie die Technologie entwickelt und konzipiert werden muss – nach
Prinzipien wie beispielsweise Erklärbarkeit und Transparenz.
Während generative KI als Allzweck-Technologie viele Prozesse im täglichen
sowie beruflichen Leben vereinfachen und neue kreative Wege eröffnen kann,
gilt es gleichzeitig, den verantwortungsvollen und sicheren Umgang mit
dieser Technologie zu fördern. Eine verantwortungsvolle Entwicklung
generativer KI erfordert ein ausgewogenes Zusammenspiel von Sicherheit,
Fortschritt und Partizipation. Menschzentrierte Anwendungen, Forschung zu
sicherer und transparenter KI sowie demokratische Entscheidungsprozesse
können dazu beitragen, Innovation im Sinne des Gemeinwohls zu gestalten.
Über die Broschüre
Die Broschüre „Zukunft gestalten: Generative KI und ihre
gesellschaftlichen Folgen“ steht zum kostenfreien Download zur Verfügung.
Über die Plattform Lernende Systeme
Die Plattform Lernende Systeme ist ein Netzwerk von Expertinnen und
Experten zum Thema Künstliche Intelligenz (KI). Sie bündelt vorhandenes
Fachwissen und fördert als unabhängiger Makler den interdisziplinären
Austausch und gesellschaftlichen Dialog. Die knapp 200 Mitglieder aus
Wissenschaft, Wirtschaft und Gesellschaft entwickeln in Arbeitsgruppen
Positionen zu Chancen und Herausforderungen von KI und benennen
Handlungsoptionen für ihre verantwortliche Gestaltung. Damit unterstützen
sie den Weg Deutschlands zu einem führenden Anbieter von
vertrauenswürdiger KI sowie den Einsatz der Schlüsseltechnologie in
Wirtschaft und Gesellschaft. Die Plattform Lernende Systeme wurde 2017 vom
Bundesforschungsministerium auf Anregung von acatech – Deutsche Akademie
der Technikwissenschaften gegründet und wird von einem Lenkungskreis
gesteuert. Die Leitung der Plattform liegt bei Dorothee Bär
(Bundesministerin für Forschung, Technologie und Raumfahrt) und Claudia
Eckert (Präsidentin acatech).
Originalpublikation:
https://www.plattform-lernende
systeme.de/files/Downloads/Pub
- Broschüre „Zukunft gestalten! Mit generativer KI.“
