Nach einem Curry mit Linsen hatte ich Albträume. Unter anderem gab es Todesfälle durch Gartengeräte, die kurz zuvor ein Bewusstsein erlangt hatten. Wenn eine narzisstische Heckenschere im Schlafzimmer auftaucht, dann ist das nicht die perfekte Symbiose von Mensch und Technik, die vielen von uns vorschwebt. Aber immerhin fiel eine These ab:
Teil 1: Da künstliche Intelligenz über kurz oder lang unser Alltagsleben ergänzen oder sogar dominieren könnte, wird es Unfälle geben. Diese Unfälle müssen nicht so melodramatisch sein wie meine Heckenschere, können aber ungleich folgenschwerer ausfallen: Autonome Autos, die lieber in die Fußgängergruppe fahren, als ins Schaufenster; Steuerungssysteme, die den Whirlpool in einen Kochtopf verwandeln; medizinische Assistenten, die eigenmächtig Operationsentscheidungen treffen etc.
Dieser Teil der These ist fast schon banal, oder? Es gibt unzählige Analogien aus der Technikgeschichte. Das Auto ist ein Risikofaktor erster Güter, ebenso die Kernkraft.
Kritiker könnten nun aber einwerfen, dass die Gefahr durch KI eine neue Ebene erreicht, eben durch ein erwachendes Bewusstsein. Eine Maschine könnte dann Entscheidungen treffen aufgrund eines Wertekatalogs, der Menschen irgendwo zwischen Kalkablagerung und Kompost ansiedelt. Zwar gibt es die berühmten Robotergesetze des Schriftstellers Isaac Asimov. Paragraf 1: Ein Roboter darf kein menschliches Wesen verletzen oder durch Untätigkeit zulassen, dass einem menschlichen Wesen Schaden zugefügt wird. Die beiden anderen Paragrafen regeln Gehorsam und Selbsterhalt, aber mit Verweis auf Paragraf eins.
Klingt schön, aber jeder mit ein bisschen Lebenserfahrung weiß, dass diese Gesetze nicht mehr sind als ein frommer Wunsch. Intelligente Menschen haben es sich zur Lebensaufgabe gemacht, Gesetze anzuzweifeln, zu bekämpfen, zu reformieren oder sie abzuschaffen. Da wird ein hyperintelligentes Wesen nicht nach der Lektüre von Asimovs Paragrafen aufblicken und sagen: „Okay.“
Teil 2: Wenn wir von apokalyptischen Szenarien absehen und voraussetzen, dass die KI einfach eine neue Technologie ist, dann werden wir das Risiko als Alltag betrachten. Auch hier wieder das Beispiel des Autos: 2024 wurden in Deutschland im Straßenverkehr 365.000 Personen verletzt, 2.770 sind ums Leben gekommen. Ein Mensch im Jahr 1900 wäre angesichts dieser Zahlen aufrichtig entsetzt gewesen, er hätte das Auto als Plage und Geißel gesehen, ähnlich einer entfesselten Dragoner-Staffel. Heute lesen wir von all diesen Opfern, blicken auf und sagen: „Okay.“
Wenn wir also im Jahr 2035 von einem Zwischenfall mit einer gekränkten Heckenschere hören, dann werden wir Bedauern spüren und einen Nachmittag lang mehr Vorsicht walten lassen – aber das war‘s! Immerhin schneidet nach Jahren des Arbeitskräftemangels wieder jemand die Hecke!
Hier lesen Sie die These im Blätter-pdf.