Vom Nullten Gesetz zur generativen KI: Asimovs Gesetze auf dem Prüfstand

Die Drei Gesetze der Robotik: Formulierung und Genese

Vor allem ein narratives Gerüst

Die Drei Gesetze erscheinen erstmals in der Kurzgeschichte Runaround, die 1942 im Magazin Astounding Science Fiction veröffentlicht und 1950 in die Sammlung I, Robot aufgenommen wurde. Asimov stellt sie als eine Reihe von Regeln dar, die in das positronische Gehirn der Roboter eingeschrieben sind – eine fiktive Vorrichtung, die ihre Übertretung physisch unmöglich macht. Die Erzählung handelt daher nicht vom Ungehorsam, sondern von den Paradoxien, die aus der Konfrontation zu einfacher Regeln mit einer komplexen Welt entstehen.

Dieser Ansatz bricht mit der Science-Fiction-Tradition der 1930er Jahre, in der Roboter oft bedrohliche Kreaturen waren, die ihre Schöpfer zu vernichten suchten. Asimov kehrt die Perspektive um: Die Gefahr geht nicht von der Bösartigkeit der Maschine aus, sondern von der Starrheit ihrer Regeln und der Unfähigkeit ihrer Autoren, alle Situationen vorauszusehen.

Eine ausdrückliche Hierarchie

Die Drei Gesetze bilden eine strikte Hierarchie. Das erste Gesetz hat Vorrang vor dem zweiten, das Vorrang vor dem dritten hat. Jeder Widerspruch wird also aufgelöst, indem man die Kette hinaufgeht. Diese scheinbar klare Struktur verbirgt jedoch eine erhebliche Schwierigkeit: Die Begriffe Mensch, Schaden und Gehorsam sind nicht definiert. Soll ein Roboter einen Menschen gegen dessen eigenen Willen schützen? Was tun angesichts einer diffusen, nicht identifizierbaren Gefahr oder einer Gefahr, die eine ganze Bevölkerung bedroht, ohne dass ein Individuum klar anvisiert wird?

Diese Fragen, bei Asimov rein literarisch, sind mit der Vermehrung autonomer Systeme zu Problemen der Technik und des Rechts geworden.

Das Nullte Gesetz: wenn die Menschheit über das Individuum gestellt wird

Eine problematische Erweiterung

In Roboter und Imperium (1985) führt Asimov ein Nulltes Gesetz ein, das den anderen drei vorausgeht: Ein Roboter darf die Menschheit nicht verletzen, noch durch Untätigkeit zulassen, dass die Menschheit verletzt wird. Der Roboter R. Daneel Olivaw, eine wiederkehrende Figur des Zyklus, wendet dieses Gesetz an, um heimlich das Schicksal der Menschheit über Jahrtausende zu lenken.

Diese Erweiterung verändert die Natur des Problems radikal. Das Nullte Gesetz erlaubt theoretisch, Individuen im Namen eines abstrakten kollektiven Gutes zu opfern. Es öffnet die Tür zu einer Form des utilitaristischen Denkens, die die Drei Gesetze gerade zu vermeiden suchten. Asimov selbst scheint sich der moralischen Ambivalenz dieser Entwicklung bewusst zu sein: Daneel handelt im Geheimen, manipuliert die Institutionen und übernimmt eine Verantwortung, die sich jeder menschlichen Kontrolle entzieht.

Ein Echo zeitgenössischer Debatten

Das Nullte Gesetz nimmt die Dilemmata vorweg, die sich aus KI-Systemen ergeben, die globale Ziele optimieren, wie die Senkung der Kohlenstoffemissionen, die Verbesserung der Energieeffizienz oder die Moderation von Inhalten in sehr großem Maßstab. In diesen Fällen hat das Aggregat Vorrang vor dem Individuum, und die Auswirkungen auf einzelne Personen werden schwer nachvollziehbar, anfechtbar oder wiedergutzumachen. Asimovs Fiktion inszeniert, was Juristen heute ein Problem diffuser Verantwortung nennen.

Die logischen Schwächen der Asimovschen Gesetze

Das Paradox des Roboters, der wählen muss

Die Erzählung Runaround veranschaulicht den ersten Typ von Schwäche: Ein zum Merkur entsandter Roboter bleibt in einer Denkschleife stecken, weil das zweite Gesetz (gehorchen) und das dritte Gesetz (sich schützen) in Konflikt geraten, ohne dass das erste Gesetz die Sache klar entscheidet. Der Roboter kreist um einen Gleichgewichtspunkt und ist unfähig zu wählen. Dieses damals rein fiktive Verhalten ähnelt dem, was Informatiker heute als Entscheidungsschwankung oder Blockade durch widersprüchliche Zwangsbedingungen bezeichnen.

In Little Lost Robot stellt sich Asimov einen Roboter vor, der so verändert wurde, dass er das erste Gesetz nicht mehr anwendet. Die Erzählung untersucht die Schwierigkeit, einen defekten Roboter unter seinesgleichen zu identifizieren – ein Problem, das an die aktuellen Herausforderungen der Nachverfolgbarkeit und der Verifikation von Modellen des maschinellen Lernens erinnert.

Die Grenzen der Definition des Schadens

Das erste Gesetz verbietet, einen Menschen zu verletzen oder durch Untätigkeit zuzulassen, dass ein Mensch verletzt wird. Diese Formulierung erzwingt eine positive Pflicht: Der Roboter muss handeln, um einen Schaden zu verhindern. In einer Welt jedoch, in der Ressourcen begrenzt und Konsequenzen unsicher sind, kann diese Pflicht unmöglich zu erfüllen werden. Ein autonomes Fahrzeug, das vor einer unvermeidlichen Wahl zwischen mehreren möglichen Opfern steht, veranschaulicht diese Sackgasse, die oft unter dem Namen Trolley-Problem diskutiert wird.

Asimov selbst vermeidet es sorgfältig, seine Roboter vor solche Wahlen zu stellen. Seine Erzählungen bevorzugen Situationen, in denen eine nicht-konflikthafte Lösung existiert, die durch geschicktes Denken gefunden wird. Die Fiktion umgeht das Problem also, statt es zu lösen.

Von Robotern zu generativer KI: ein Wandel der Natur

Nicht-verkörperte Systeme

Asimovs Roboter sind verkörperte Wesen, ausgestattet mit einem Körper, einer Position im Raum und der Fähigkeit zu physischem Handeln. Die gegenwärtigen generativen KI, wie große Sprachmodelle oder Bildgeneratoren, haben weder Körper noch eigene Absicht. Sie erzeugen Ausgaben (Texte, Bilder, Code) aus statistischen Regelmäßigkeiten, die auf umfangreichen Korpora erlernt wurden. Der Rahmen der Drei Gesetze, der auf physische Handlung und körperlichen Schaden ausgerichtet ist, lässt sich daher schlecht auf diese Systeme anwenden.

Die mit generativer KI verbundenen Schäden sind anderer Natur: Desinformation, reproduzierte und verstärkte Verzerrungen, Eingriffe in die Privatsphäre, Identitätsdiebstahl, Verbreitung illegaler Inhalte, Konzentration wirtschaftlicher Macht. Keiner dieser Schäden entspricht direkt dem Begriff der Verletzung oder des körperlichen Angriffs, den Asimov verwendet.

Undurchsichtige und verteilte Systeme

Ein asimovscher Roboter gehorcht einem lesbaren Programm, das in einem identifizierbaren Substrat eingeschrieben ist. Ein generatives Modell beruht auf Milliarden von Parametern, die durch Lernen angepasst werden und deren Entscheidungen nicht direkt interpretierbar sind. Diese Undurchsichtigkeit macht die mechanische Anwendung einer Regel des Typs nicht schaden unmöglich: Man müsste zunächst für jeden Kontext definieren, was Schaden bedeutet, und dann in der Lage sein, ihn in Echtzeit zu bewerten.

Zudem sind diese Systeme verteilt: Ein und dasselbe Modell kann von Tausenden von Akteuren in sehr unterschiedlichen Kontexten eingesetzt werden, ohne dass eine zentrale Kontrolle möglich wäre. Die Verantwortung verwässert zwischen Entwickler, Nutzer, Hosting-Anbieter und Regulierungsbehörde.

Vergleichstabelle: Asimovs Gesetze und zeitgenössische ethische Prinzipien

Die folgende Tabelle stellt die Drei Gesetze und das Nullte Gesetz einigen ethischen und regulatorischen Rahmenwerken gegenüber, die heute zur Rahmung von KI-Systemen verwendet werden.

Für eine Ethik der generativen Systeme

Dokumentieren, nachverfolgen, anfechten

Mangels universeller, im Code eingeschriebener Gesetze stützen sich KI-Praktiker auf eine Reihe von Verfahren: Modelldokumentation, Trainingsprotokolle, Robustheitsbewertungen, Bias-Tests, externe Audits. Diese Vorrichtungen ersetzen keine moralische Regel, machen Systeme jedoch teilweise inspizierbar und anfechtbar. Dies ist ein bemerkenswerter Unterschied zur asimovschen Fiktion, in der die Regel ein für alle Mal in das positronische Gehirn eingeschrieben ist.

Der Begriff der Anfechtbarkeit spielt hier eine zentrale Rolle: Ein System, dessen Entscheidungen von den betroffenen Personen erklärt, diskutiert und korrigiert werden können, steht einem demokratischen Ideal näher als ein undurchsichtiges System, das eine einzige Regel anwendet. Asimov konnte zu seiner Zeit diese prozedurale Dimension nicht voraussehen.

Die Frage der Zweckbestimmung

Eine häufige Kritik an den Drei Gesetzen lautet, dass sie Verbote definieren, ohne ein Ziel zu definieren. Nun sind generative KI darauf ausgelegt, Ziele zu optimieren: die Wahrscheinlichkeit einer Token-Sequenz maximieren, einen Rekonstruktionsfehler minimieren, ein menschliches Präferenzsignal erfüllen. Diese Ziele sind weder gut noch schlecht an sich, doch sie richten die Systeme auf Verhaltensweisen aus, die mit anderen Werten in Spannung geraten können.

Die von Asimov auf seine Weise gestellte Frage bleibt also offen: Kann man eine Maschine durch Regeln rahmen, oder muss man sich zuerst darüber einigen, was man von ihr erwartet? Die Fiktion der Drei Gesetze hat zumindest das Verdienst, diese Frage sichtbar zu machen, und wahrscheinlich wird sie deshalb weit über die Literatur hinaus angeführt.

Was Asimov richtig gesehen hat und was er nicht vorhergesehen hatte

Eine dauerhafte Intuition: die Regel genügt nicht

Asimov begriff vor vielen anderen, dass eine einfache Regel, mechanisch angewandt, unvorhergesehene Verhaltensweisen erzeugt. Jede seiner Erzählungen ist eine Vorführung dieser Idee. Diese Intuition steht heute im Zentrum der Forschung zur Sicherheit autonomer Systeme: Die formale Spezifikation eines Ziels garantiert nicht, dass sich der Agent wie gewünscht verhält, insbesondere in offenen Umgebungen.

Was die Fiktion nicht voraussehen konnte

Asimov schrieb in einer Zeit, in der die aufkommende Informatik auf expliziten, lesbaren und deterministischen Programmen beruhte. Er hatte weder das statistische Lernen im großen Maßstab noch die massenhafte Verteilung von Modellen noch die Aufmerksamkeitsökonomie vorausgesehen, die generative KI begleitet. Seine Sicht bleibt auf die Beziehung zwischen einem Individuum und einer Maschine zentriert, während die gegenwärtigen Herausforderungen kollektiv, institutionell und wirtschaftlich sind.

Das schmälert den Wert seines Werkes nicht. Die Drei Gesetze haben nie beansprucht, eine Abhandlung über angewandte Ethik zu sein: Sie sind ein narratives Mittel, und gerade weil sie scheitern, funktionieren die Erzählungen. Ihre Nachwirkung in den KI-Debatten verdankt sich diesem fruchtbaren Missverständnis zwischen einer Fiktion und einem Forschungsprogramm.

N.B.:
Die Drei Gesetze der Robotik besitzen keinerlei rechtlichen Wert und wurden nie von einer Normungsorganisation übernommen. Sie bleiben eine kulturelle Referenz und ein Ausgangspunkt für ethische Reflexion, nicht ein regulatorischer Rahmen.