© dpa/DENISE APPLEWHITE
Update „Keine Physik im klassischen Sinne“: Nobelpreis für Grundlagen der Künstlichen Intelligenz
Die Forscher John Hopfield und Geoffrey Hinton erhalten den Nobelpreis für ihre Grundlagenforschung. Einer der beiden warnte kürzlich noch davor, dass KI die Menschheit auslöschen könnte.
Von
Was ist Intelligenz – und kann man sie künstlich erzeugen? „Wenn ich etwas wissen will, frage ich GPT4, mit Vorsicht, weil es halluzinieren kann. Aber es ist gut und deswegen sehr nützlich“, bekannte heute der frisch gebackene Nobelpreisträger Geoffrey Hinton. Er und der zweite Preisträger John Hopfield haben die Grundlagen dafür gelegt, dass uns heute scheinbar intelligente Systeme zu Diensten stehen und uns gar zu ersetzen drohen. Die beiden haben den Maschinen das Lernen beigebracht.
Falls die wildesten Befürchtungen zutreffen und künstliche Intelligenzen einmal den Planeten übernehmen, dann könnte uns dies ein schaler Trost sein: dass die ursprüngliche, geniale Erfindung in der Natur unserer biologischen Gehirne begründet liegt. Sie waren das Vorbild für die frühen Systeme der beiden Nobelpreisträger und für alles, was daraus entstanden ist.
Billionen Nervenzellkontakte
Wie immer man Intelligenz auch definieren will, sie muss etwas mit den 80 Milliarden Nervenzellen und ihren geschätzten 100 Billionen Verbindungen im menschlichen Gehirn zu tun haben. Mit jedem Sinneseindruck, mit jeder Erfahrung werden diese Verbindungen moduliert, mal verstärkt oder geschwächt. Diese Beobachtung führte den Physiker John Hopfield zu Beginn der 1980er Jahre zu seiner bahnbrechenden Erfindung, dem „Hopfield-Netzwerk“.
Das Funktionsprinzip künstlicher Neuronen.
© Grafik: Johan Jarnestad/The Royal Swedish Academy of Sciences, Bearbeitung: Tsp/Bartel
Am California Institute of Technology simulierte er in einem Computer vereinfachte Nervenzellen, als ein System aus verbundenen Knoten. Die Knoten beeinflussen einander, je nach Stärke ihrer Verbindungen, und können zwei verschiedene Zustände einnehmen, aktiv oder inaktiv. Mithilfe einer aus der Atomphysik inspirierten Formel errechnete Hopfield einen Energielevel für jeden Zustand des gesamten Systems, also für jedes mögliche Muster aus aktiven und inaktiven Knoten.
KI wird vergleichbar sein mit der industriellen Revolution. Aber anstatt die körperliche Kraft der Menschen zu übertreffen, wird sie die intellektuellen Fähigkeiten übersteigen.
Physik-Nobelpreisträger Geoffrey Hinton, Informatiker und Kognitionspsychologe
Die Energiezustände der möglichen Zustände kann man sich als eine Landschaft aus Bergen und Tälern vorstellen. Wie eine Kugel, die durch diese Landschaft rollt, strebt das System den Tiefpunkten zu. Schon unvollständige Eingaben, etwa verrauschte Bilder, genügen, damit die Kugel in die Täler rollt und beim richtigen Muster landet. Das System kann so gleichsam „Erinnerungen“ aktivieren und speichern.
Hund oder Katze?
Zu der Zeit, als Hopfield 1982 seinen Artikel über assoziative Erinnerungen veröffentlichte, forschte Geoffrey Hinton an der Carnegie Mellon University in Pittsburgh. Er hatte sich zuvor mit experimenteller Psychologie beschäftigt und fragte sich, ob Maschinen Muster auf ähnliche Weise wie Menschen verarbeiten könnten. Wie lernen beispielsweise schon kleine Kinder anhand weniger Beispiele, Hunde von Katzen zu unterscheiden?
Wie Hopfield simulierte Hinton ein System aus Knoten, die zwei Zustände einnehmen können und die sich untereinander durch ihre Verbindungen beeinflussen – ein stark vereinfachtes Nervensystem. Bei ihm aber veränderten die Knoten nicht basierend auf festen Schwellenwerten ihren Zustand, sondern er fügte einen Zufallsfaktor hinzu.
Inspiriert wurde der Physiker dabei von Gasmolekülen, deren Geschwindigkeiten von der Temperatur, aber auch vom Zufall beeinflusst werden. Hinton verhinderte so, dass sein System in einem suboptimalen Zustand, in einem Nebental in der Energielandschaft stecken bleibt. Durch zufällige Bewegungen erreicht die Kugel letztlich die Haupttäler. Der Physiker nannte das System die „Boltzmann-Maschine“, zu Ehren des Physikers Ludwig Boltzmann, der die statistische Mechanik der Gasmoleküle entdeckte.
Zudem fügte Hinton neue Ebenen aus internen Knoten hinzu, die weder Eingaben von außen bekommen, noch selbst etwas ausgeben. Solche „versteckten“ Knoten ermöglichen eine viel komplexere Mustererkennung und Lernfähigkeit des Systems. Zeigt man der Boltzmann-Maschine viele Bilder von Hunden, erkennt die Maschine automatisch die wichtigen Merkmale, die ein Hund hat – zum Beispiel Ohren, Fell, Schnauze. Sie kann schließlich sagen, ob ein neues Bild, das man ihr zeigt, auch einen Hund darstellt oder nicht. Durch die versteckten Knoten ist der Lernvorgang für den Menschen aber nicht mehr vollständig nachvollziehbar.
Ich bin platt, ich hatte keine Ahnung, dass das passiert, ich bin sehr überrascht.
Physik-Nobelpreisträger Geoffrey Hinton, Kognitionswissenschaftler und Informatiker
Neuronale Netzwerke unterscheiden sich grundlegend von traditioneller Software. Diese funktioniert wie ein Kochrezept: Sie verarbeitet Daten nach festen Regeln, um ein vorhersehbares Ergebnis zu erzielen. Neuronale Netze lernen durch Beispiele und können so Aufgaben bewältigen, die zu komplex oder zu vage sind, um sie mit festen Schritten zu lösen.
Seit den Anfängen von Hopfield und Hinton sind vier Jahrzehnte vergangen. Das erste Hopfield-Netzwerk bestand aus 30 Knoten mit 435 Verbindungen unterschiedlicher Stärke. Es ließ sich also durch weniger als 500 Parameter beschreiben. Größere Simulationen überstiegen die Computerkapazitäten zu dieser Zeit. Heute bestehen die großen Sprachmodelle wie Chat-GPT aus Netzwerken mit mehr als Billionen (Millionen mal Millionen) Parametern.
Moderne Physik undenkbar ohne KI
Sogenannte tiefe neuronale Netzwerke können heute Unterhaltungen führen und Expertenwissen liefern, das dem eines durchschnittlichen Doktoranden ähnelt. Sie sind zudem längst zu Helfern in der Wissenschaft geworden – auch in der Physik. Manche spektakuläre Arbeiten in der Astrophysik wären beispielsweise ohne die Datenanalyse durch KI nicht möglich gewesen. Dazu zählt die Entdeckung hochenergetischer Neutrinos aus der Milchstraße oder auch das verfeinerte Bild eines schwarzen Lochs, wie der Astrophysiker Tim Ruhe von der Technischen Universität betont: „KI unterstützt uns massiv bei unseren Analysen“. Dabei sei jeder Wissenschaftler aber verpflichtet, die generierten Daten zu interpretieren und in den Kontext zu setzen.
Der assoziative Speicher funktioniert wie eine „Energielandschaft“.
© Grafik: Johan Jarnestad/The Royal Swedish Academy of Sciences, Bearbeitung: Tsp/Bartel
Originär menschlich sei dabei immer noch das kreative Element. Ob das für immer so bleibt, ob es ein fundamentaler Unterschied zwischen Menschen und Maschine bleiben wird? „Ich würde mir das wünschen“, sagt Ruhe. Doch Vorhersagen seien schwierig, räumt er ein.
Wenn ich etwas wissen will, frage ich GPT4, mit Vorsicht, weil es halluzinieren kann. Aber es ist gut und deswegen sehr nützlich.
Physik-Nobelpreisträger Geoffrey Hinton, Informatiker und Kognitionspsychologe
Kognitionswissenschaftler wie Martin Butz von der Universität Tübingen bezweifeln dagegen, dass die derzeitigen neuronalen Netze einfach nur noch größer werden müssen, um einmal den heiligen Gral der KI, die „Allgemeine Intelligenz“ zu erreichen. „Es fehlt etwas Fundamentales – die Systeme streben kein kohärentes Weltmodell an, wie das menschliche Gehirn das tut.“
Hinton ist besorgt über die „Auslöschung der Menschheit durch KI“
Doch auch schon jetzt sind die Auswirkungen der intelligenten Systeme, die auf neuronalen Netzen beruhen, gewaltig. „Es ist sicher auch diese immense Bedeutung, die die Vergabe des Nobelpreises motiviert hat – für Arbeiten in der Informatik, die gar keine Physik im klassischen Sinne sind“, sagt Butz. Wie eigentlich alle auf dem Gebiet warnt der Informatiker und Kognitionswissenschaftler vor den möglichen negativen Folgen der Technologie, etwa der Meinungsmanipulation.
Vor den immensen Gefahren warnen auch die beiden Nobelpreisträger selbst. Geoffrey Hinton half über Jahrzehnte, das Feld voranzutreiben und wird mitunter als „Pate“ der künstlichen Intelligenz bezeichnet. Zehn Jahre war er Mitarbeiter bei Google, 2023 verließ er das Unternehmen. In einem Interview mit der „New York Times“ gestand Hinton, ein Teil von ihm bedauere die Arbeit, die er geleistet habe. Im Mai warnte er zusammen mit anderen Autoren in der wissenschaftlichen Zeitung „Science“ vor möglichen KI-Risiken, wie Cyberattacken, gesellschaftlicher Manipulation, allgegenwärtiger Überwachung und sogar der „Auslöschung der Menschheit“.
John Hopfield unterschrieb im vergangenen Jahr einen offenen Brief, der forderte, alle KI-Experimente für Systeme, die besser sind als GPT-4, sofort zu pausieren. Darin heißt es: „Bei anderen Technologien mit potenziell katastrophalen Auswirkungen hat die Gesellschaft eine Pause eingelegt, das können wir auch hier tun.“
Nach der Bekanntgabe der Ehrung sagte Geoffrey Hinton: „KI wird einen großen Einfluss haben und wird vergleichbar sein mit der industriellen Revolution. Aber anstatt die körperliche Kraft der Menschen zu übertreffen, wird sie die intellektuellen Fähigkeiten übersteigen.“ KI werde die Gesundheitsversorgung verbessern und die Menschheit „in fast allen Bereichen“ effizienter machen.
Zugleich bekräftigte der Physik-Nobelpreisträger seine Sorge noch einmal: „Wir müssen aber auch eine Reihe von negativen Folgen befürchten, vor allem, wenn diese Dinge auch außer Kontrolle geraten können.“
Zur Startseite
- Physik
showPaywall:falseisSubscriber:falseisPaid:showPaywallPiano:false
Eine Quelle: www.tagesspiegel.de