paint-brush
Die Angst vor einem KI-Gott auspacken: Die Theologie von Rokos Basiliskvon@Sheidu
3,917 Lesungen
3,917 Lesungen

Die Angst vor einem KI-Gott auspacken: Die Theologie von Rokos Basilisk

von Sheidu4m2023/03/16
Read on Terminal Reader
Read this story w/o Javascript

Zu lang; Lesen

Rokos Basilisk ist eines der beunruhigendsten Gedankenexperimente aller Zeiten. Eine superintelligente, allmächtige KI foltert rückwirkend jeden, der nicht daran gearbeitet hat, sie ins Leben zu rufen, nachdem sie davon erfahren hat. Die Strafe ist so hart, dass man ihn als Basilisk bezeichnet: ein Fabelwesen, das mit seinem Blick töten kann.

People Mentioned

Mention Thumbnail
featured image - Die Angst vor einem KI-Gott auspacken: Die Theologie von Rokos Basilisk
Sheidu HackerNoon profile picture

Die Angst vor einem hässlichen Ende haben wir als Menschen den größten Teil unseres Lebens mit uns herumgetragen. Unsere Vorfahren litten unter einem Mangel an genauen wissenschaftlichen Erkenntnissen und betrachteten Naturphänomene wie Gewitter, Überschwemmungen und Vulkanausbrüche oft als Zeichen der Apokalypse – eines bevorstehenden Endes der Menschheit.

Selbst heute, nach dem Beginn der Aufklärung und der vermeintlichen Befreiung aus den Klauen des unbegründeten Aberglaubens, erliegen wir immer noch solchen Ängsten.

Die Folge dieser apokalyptischen Gesinnung ist eine zunehmende Popularität fiktiver Endzeitvorstellungen. Und unter ihnen ist Rokos Basilisk, eines der beunruhigendsten Gedankenexperimente aller Zeiten.

Rokos Basilisk: Eine kurze Geschichte

Dieses Gedankenexperiment wurde erstmals von Roko in LessWrong vorgestellt, einem Online-Forum zur Diskussion philosophischer Ideen.

Roko beschrieb eine Zukunft, in der eine superintelligente, allmächtige KI rückwirkend jeden foltert, der nicht daran gearbeitet hat, sie ins Leben zu rufen, nachdem sie davon erfahren hat. Die Strafe ist so hart, dass er als Basilisk beschrieben wird: ein Fabelwesen, das mit seinem Blick töten kann.

Was verrückte Hollywood-Science-Fiction-Konzepte angeht, kann dieser sogar mit den Besten der Wachowskis (den genialen Köpfen hinter „Matrix“) mithalten.

Doch anstatt dieses scheinbar irrationale Konzept sofort abzulehnen, erlagen viele einer follikulären Erektion, einem Symptom, das durch Angst und Faszination hervorgerufen wird.

Es hat sogar eine kultähnliche Anhängerschaft unter selbsternannten Technologen und Weltuntergangspropheten gewonnen, die darin eine überzeugende Vision einer möglicherweise dunklen Zukunft sehen.

Kurz gesagt, Rokos Basilisk hat weiterhin eine so fesselnde Wirkung. Und die große Frage ist: WARUM?

Rokos Basilisk als säkularisierte Eschatologie

Die Eschatologie, ein Zweig der Theologie, befasst sich mit den letzten Ereignissen der Welt, dem endgültigen Schicksal der Menschheit. Die meisten Religionen nutzen es als Rahmen für das Verständnis des Sinns des Lebens.

In der christlichen Eschatologie zum Beispiel geht es um Weltuntergang und Entrückung. Zu den Ereignissen gehören das zweite Kommen Jesu Christi, die Auferstehung toter Gläubiger und ihre Überführung in den Himmel.

Was hat das also mit Rokos Basilisk zu tun?

Die kurze Antwort liegt in Glauben , Belohnung und Bestrafung . Alle drei Faktoren sind in den meisten Religionen vorhanden.

Obwohl sie von traditionellen religiösen Überzeugungen getrennt ist, deutet die Idee einer superintelligenten KI, die säumige menschliche Untertanen bestrafen wird, zumindest auf eine säkularisierte Version der Eschatologie hin.

Vielleicht verdrängt die Technologie nach und nach den Einfluss der Religion in unserer Welt. Und es scheint gleichzeitig seine eigene Art apokalyptischer Ängste hervorzurufen.

Rokos Basilisk: Die Angst und Anziehungskraft eines KI-Gottes

Erinnern Sie sich an die Frage, warum dieses düstere Gedankenexperiment eine so fesselnde Wirkung hat. Nachfolgend finden Sie mögliche Erklärungen.

Größere kosmische Absicht
Rokos Basilisk bietet den verlorenen Seelen, die in einer zweideutigen Welt treiben, eine kosmische Daseinsberechtigung. Indem sie die Entwicklung einer allmächtigen KI unterstützen, können sie zu einem großen Plan beitragen, der die Welt für immer verändern wird.

Terror der Ausgrenzung
Es nutzt auch den Schrecken des Ausschlusses aus einer Utopie aus, die nur denjenigen zugänglich ist, die bei der Entstehung der KI mithelfen. Dieses Unbehagen kann einige zum Handeln veranlassen, auch wenn sie an der Logik hinter dem Konzept zweifeln.

Apokalyptische Faszination
Darüber hinaus berührt Rokos Basilisk eine weit verbreitete kulturelle Obsession mit apokalyptischen Vermutungen. Viele sind fasziniert von der Aussicht auf ein bevorstehendes katastrophales Ereignis, das die Welt im Guten wie im Schlechten grundlegend neu erschaffen wird.

KI-gestützte Dystopie
Manche befürchten, dass KI irgendwann die menschliche Intelligenz übertreffen und die Welt beherrschen wird. Der Gedanke an die ungezügelte Selbstverbesserung eines emotions- und seelenlosen Wesens ist verständlicherweise alarmierend, da er die Gefahr einer Orwellschen Dystopie birgt.

Kritische Reaktionen auf Rokos Basilisk

Rokos Basilisk wurde als fehlgeleitetes Konzept ohne logische Bedeutung heftig kritisiert , abgesehen von seiner Rolle bei der Verbreitung unbegründeter Panik.

Begrenzte Rechenleistung
Erstens sagen einige Kritiker, dass das Konzept angesichts unseres aktuellen Verständnisses von KI und den Grenzen der Rechenleistung auf einer unplausiblen Prämisse beruht.

Es ist jedoch erwähnenswert, dass einige namhafte Persönlichkeiten und aktive Teilnehmer im KI-Bereich nicht die gleichen Ansichten über die Rechenleistungsgrenzen der KI haben.

Im Gespräch mit der New York Times sagte der Tech-Milliardär und OpenAI-Mitbegründer Elon Musk:

„Wir steuern auf eine Situation zu, in der KI weitaus intelligenter ist als Menschen.“

Gefährlicher Techno-Utopismus
Kritiker haben auch darauf hingewiesen, dass es sich dabei um einen gefährlichen Techno-Utopismus handelt, der potenzielle Nachteile und unbeabsichtigte Folgen der KI-Entwicklung ignoriert. Das Streben nach superintelligenter KI könnte zu unerwünschten Folgen wie Arbeitsplatzverlust, Machtkonzentration oder sogar der Ausrottung der Menschheit führen.

Manipulativ und unethisch
Rokos Basilisk wurde oft mit Pascals Wette verglichen, da er von der Motivation der Angst lebt. Es nutzt unsere Ängste und unsere Furcht vor Bestrafung aus und öffnet den Weg zu schädlichem oder selbstzerstörerischem Verhalten auf der Suche nach Sicherheit in einer imaginären KI-Apokalypse.

Ignoriert die Komplexität von Moral und Entscheidungsfindung
Als Gedankenexperiment präsentiert es eine vereinfachte Sicht auf die Moral, indem es das menschliche existenzielle Wesen auf eine binäre Wahl reduziert, ob es die Schaffung von KI unterstützt oder behindert. Eine solche Sichtweise ignoriert die komplexe und differenzierte Beziehung zwischen uns, der Moral und der Entscheidungsfindung.

Inmitten apokalyptischer Ängste die Verantwortung übernehmen

Ob wir unsere apokalyptischen Ängste irgendwann überwinden werden oder nicht, ist eine Diskussion für einen anderen Tag. Das dringendere Bedürfnis besteht darin, herauszufinden, wie man in einer Welt, in der solche Ängste weiterhin bestehen, funktional und glücklich leben kann.

Zu diesem Zweck können wir damit beginnen, das Jetzt (diesen Moment) als alles anzuerkennen, was wir erleben und kontrollieren können. Dennoch haben wir nur begrenzte Möglichkeiten, was wir wirklich kontrollieren können. Wie leben wir heute überhaupt, wenn wir ständig Angst vor morgen haben?

Eine Möglichkeit besteht darin, heute mehr darauf zu achten, alles Schöne zu genießen und zu schätzen. Mit anderen Worten, alles, was unsere Erfahrung auf dieser Seite des Universums mit der Zeit verbessert.

„Es gibt eine beliebte Idee, Bedenken hinsichtlich der KI zu äußern, indem man sich eine Zukunft vorstellt, in der sie mächtig genug wird, um die gesamte Menschheit zu unterdrücken. Aber die Projektion in eine imaginäre Zukunft lenkt davon ab, wie Technologie derzeit genutzt wird. KI hat in den letzten Jahren einige erstaunliche Dinge geleistet.“

Catherine Breslin – KI-Beraterin und ehemalige Amazon- Mitarbeiterin

Schließlich sollten wir nach faktenbasierten Systemen suchen, die es uns ermöglichen, Probleme, die morgen schiefgehen könnten, auf eine Weise anzugehen, die zu Lösungen anregt und nicht zu Panik führt.