Artificial General Intelligence (AGI): Versprechen, Realität und offene Fragen
Artificial General Intelligence (AGI) steht insbesondere im
angloamerikanischen Raum im Mittelpunkt intensiver Debatten, die von
großen Hoffnungen bis zu tiefgreifenden Bedenken reichen. AGI beschreibt –
derzeit nicht-existierende – KI-Systeme, die flexibel, autonom und
kontextübergreifend Informationen verarbeiten, lernen und handeln, ähnlich
wie Menschen. Eine allgemein anerkannte Definition gibt es jedoch nicht.
Was unter AGI verstanden wird, welche technologischen Ansätze auf dem Weg
dorthin verfolgt werden und welche philosophischen, ethischen und
rechtlichen Fragen sich stellen, beleuchtet die Plattform Lernende Systeme
in der aktuellen Ausgabe ihrer Reihe „KI Kompakt“.
Der Begriff AGI ist vieldeutig und wird unterschiedlich definiert; von
funktionaler Intelligenz bis hin zu bewusstem Erleben. Die Idee knüpft an
das frühere Konzept einer „starken KI“ an, die menschliche Intelligenz
vollständig reproduzieren oder simulieren sollte, einschließlich
Bewusstsein und Intentionalität. AGI wird von verschiedenen Akteuren
unterschiedlich aufgeladen – sei es als Fortschrittsversprechen, Risiko
oder Science-Fiction-Szenario und führt in ihrer Vieldeutigkeit zu
verzerrten öffentlichen Debatten.
Technologische Pfade: Skalierung versus hybride Ansätze
In der KI-Forschung dominieren derzeit zwei Ansätze die Debatte: Die von
großen Tech-Unternehmen vertretene Skalierungsthese besagt, dass AGI durch
das Wachstum von Modellgröße, Datenmenge und Rechenkapazität erreicht
werden könnte. Befürworter sehen bereits heutige Sprachmodelle wie GPT-5
als Beleg für die Leistungssteigerung durch Skalierung. Kritiker indessen
halten Skalierung allein für unzureichend, um Fähigkeiten wie
Transferlernen, kausales Denken, Begründen oder Autonomie zu realisieren.
Als Alternative gelten hybride KI-Modelle, die datengetriebene neuronale
Netze mit wissensbasierter, symbolischer KI verbinden, um bessere
Generalisierung und Erklärbarkeit zu erzielen. Ein erfolgreiches Beispiel
ist AlphaFold, ein KI-System, das die Faltung von Proteinen mit zuvor
unerreichter Genauigkeit vorhersagt. Weitere Ansätze auf dem Weg zu AGI
umfassen evolutionäre Methoden sowie die Idee der verkörperten (embodied)
KI, der zufolge echte Intelligenz nur durch physische Interaktion mit der
Umwelt entstehen kann.
Philosophische Dimensionen und rechtliche Fragen
Die Debatte um AGI wirft grundlegende philosophische Fragen auf. Ein
zentrales Thema ist dabei die Definition von Intelligenz selbst: Reicht
die Fähigkeit zur Problemlösung und zum Lernen aus – oder gehören auch
Kreativität, Bewusstsein, Körperlichkeit und Autonomie untrennbar dazu?
Aus rechtlicher und ethischer Perspektive hätte die Entwicklung von AGI
weitreichende Konsequenzen. Zu klären wäre etwa die Frage der Haftung bei
Schäden, die von einem autonomen AGI-System verursacht werden. Bestehende
Rechtsprinzipien setzen einen nachvollziehbaren menschlichen
Verantwortungszusammenhang voraus, der bei echter AGI entfallen würde.
Müsste AGI folglich einen eigenen Rechtsstatus erhalten, ähnlich
juristischen Personen? Zudem stellen sich Fragen nach menschlichem
Kontrollverlust und Machtkonzentration. Leistungsstarke KI-Systemen in den
Händen weniger Tech-Konzerne und fordern demokratische Kontrolle.
Fazit: AGI bleibt ein vages, aber wirkmächtiges Konzept. Die Debatte
darüber ist nicht nur technisch, sondern spiegelt tiefgreifende Fragen
unseres Verständnisses von Intelligenz, Subjektivität und Menschsein
wider. Sicherheit, Kontrolle, philosophische Definitionen und
internationale Governance sind die zentralen offenen Fragen, die eine
breite gesellschaftliche Auseinandersetzung erfordern und in der
Expertinnen und Experten der Plattform Lernende Systeme Stellung beziehen.
Zum Format: KI Kompakt
KI Kompakt bietet einen knappen, fundierten und wissenschaftlich basierten
Überblick über aktuelle Entwicklungen im Bereich Künstliche Intelligenz
und zeigt Potenziale, Risiken sowie offene Fragen auf. Die Analysen
entstehen mit Unterstützung von Expertinnen und Experten der Plattform
Lernende Systeme und werden von der Geschäftsstelle herausgegeben. Die
vierte Ausgabe der Reihe mit dem Titel „Artificial General Intelligence
(AGI) – Zwischen Versprechungen und Realität“ steht zum kostenfreien
Download zur Verfügung.
Über die Plattform Lernende Systeme
Die Plattform Lernende Systeme ist ein Netzwerk von Expertinnen und
Experten zum Thema Künstliche Intelligenz (KI). Sie bündelt vorhandenes
Fachwissen und fördert als unabhängiger Makler den interdisziplinären
Austausch und gesellschaftlichen Dialog. Die knapp 200 Mitglieder aus
Wissenschaft, Wirtschaft und Gesellschaft entwickeln in Arbeitsgruppen
Positionen zu Chancen und Herausforderungen von KI und benennen
Handlungsoptionen für ihre verantwortliche Gestaltung. Damit unterstützen
sie den Weg Deutschlands zu einem führenden Anbieter von
vertrauenswürdiger KI sowie den Einsatz der Schlüsseltechnologie in
Wirtschaft und Gesellschaft. Die Plattform Lernende Systeme wurde 2017 vom
Bundesministerium für Bildung und Forschung (BMBF) auf Anregung von
acatech – Deutsche Akademie der Technikwissenschaften gegründet und wird
von einem Lenkungskreis gesteuert. Die Leitung der Plattform liegt bei
Bundesministerin Dorothee Bär (BMFTR) und Claudia Eckert (acatech).
Originalpublikation:
https://www.plattform-lernende
systeme.de/files/Downloads/Pub
- KI-Kompakt "Artificial General Intelligence (AGI): Versprechen, Realität
und offene Fragen"
