AI-medvetande är oundvikligt: ett teoretiskt datavetenskapligt perspektiv

Tabell över länkar

Abstrakt och 1 inledning

2 Kort översikt av CtmR, en robot med en CTM-hjärna

2.1 Formell definition av CtmR

2.2 Medveten uppmärksamhet i CtmR

2.3 Medveten medvetenhet och känslan av medvetande i CtmR

2.4 CtmR som ett ramverk för artificiell allmän intelligens (AGI)

3 Anpassning av CtmR med andra teorier om medvetande

4 Att ta itu med Kevin Mitchells frågor ur CtmR:s perspektiv

5 Sammanfattning och slutsatser

6 Bekräftelser

7 Bilaga

7.1 En kort historia av den teoretiska datavetenskapliga metoden för beräkning

7.2 Den sannolikhetsmässiga konkurrensen om medveten uppmärksamhet och inflytandet av disposition på den

Referenser

ABSTRAKT

Vi tittar på medvetande genom linsen av teoretisk datavetenskap, en gren av matematiken som studerar beräkning under resursbegränsningar. Ur detta perspektiv utvecklar vi en formell maskinmodell för medvetande. Modellen är inspirerad av Alan Turings enkla men kraftfulla beräkningsmodell och Bernard Baars teatermodell av medvetande. Även om den är extremt enkel, överensstämmer modellen på en hög nivå med många av de stora vetenskapliga teorierna om människors och djurs medvetande, vilket stöder vårt påstående att maskinmedvetande är oundvikligt.

1 Introduktion

Vi studerar medvetenhet ur perspektivet Teoretical Computer Science (TCS), en gren av matematik som sysslar med att förstå de underliggande principerna för beräkning och komplexitet, inklusive implikationer och överraskande konsekvenser av resursbegränsningar.

Genom att ta hänsyn till resursbegränsningar särskiljs TCS-perspektivet från den tidigare Turing Theory of Computation (TOC) där begränsningar av tid och rum inte figurerade. TOC skiljer beräkningsbar från icke beräkningsbar. Den skiljer inte mellan beräkningsbar och inte effektivt beräkningsbar. [1] Vi lyfter fram vikten av denna separation för att ta itu med medvetande och relaterade ämnen som paradoxen med fri vilja.

På andra ställen (Blum & Blum, 2021) beskriver vi Conscious Turing Machine (CTM), en enkel formell maskinmodell av medvetande som delvis inspirerats av Alan Turings enkla formella maskinmodell för beräkning (Turing, 1937) och av Bernard Baars teater. modell för medvetande (Baars, Bernard J., 1997). I (Blum & Blum, 2022) överväger vi hur en CTM skulle kunna uppvisa olika fenomen associerade med medvetande (t.ex. blindsyn, ouppmärksam blindhet, förändringsblindhet) och presenterar CTM-förklaringar som på hög nivå överensstämmer med kognitiv neurovetenskaplig litteratur.

I motsats till Turing tar vi hänsyn till resursbegränsningar, både i utformningen av CTM-modellen och i hur resursbegränsningar påverkar (och hjälper till att förklara) känslor av medvetande. Vårt perspektiv skiljer sig ännu mer. Det som ger CTM dess känsla av medvetande är inte dess input output map, inte heller dess datorkraft, utan vad som finns under huven.[2]

I det här kapitlet tar vi en kort titt under huven.

Dessutom visar vi hur CTM naturligt överensstämmer med och integrerar egenskaper som anses vara nyckeln till människors och djurs medvetande av många av de stora vetenskapliga teorierna om medvetande.[3] Dessa teorier tar hänsyn till olika aspekter av medvetande och konkurrerar ofta med varandra (Lenharo, 2024). Ändå hjälper deras anpassning till gemenskapsvarumärket på hög nivå att visa deras kompatibilitet och/eller komplementaritet.

Men ännu mer, deras anpassning till CTM, en enkel maskinmodell som uppvisar fenomen associerade med medvetande, stödjer vårt påstående att en medveten AI är oundviklig.

David Chalmers introduktion av det hårda problemet (Chalmers, 1995) hjälpte till att klassificera de flesta föreställningar om medvetande i en av två typer. Den första typen, omväxlande kallad accessmedvetenhet (Block, 1995) eller funktionell (beräknings) eller kognitiv medvetenhet, kallar vi medveten uppmärksamhet. Den andra typen (associerad med det hårda problemet) kallas subjektiv eller fenomenologisk medvetenhet och förknippas i allmänhet med känslor eller qualia. Vi kallar det medveten medvetenhet. Chalmers hårda problem kan ses som en utmaning att visa att subjektiv medvetenhet är ”funktionell”.

Vi hävdar att ett stort medvetande kräver både medveten uppmärksamhet och medveten medvetenhet, var och en informerar varandra i olika grader. Vi hävdar att en maskin som interagerar med sina världar (inre och yttre) via ingångssensorer och utgångsställdon, som konstruerar modeller av dessa världar som möjliggör planering, förutsägelse, testning och lärande av feedback, och som utvecklar ett rikt internt multimodalt språk, kan har båda typerna av medvetande. I synnerhet hävdar vi att subjektiv medvetenhet är beräkningsmässig och funktionell.

Vi betonar att CTM är en formell maskinmodell utformad för att utforska och förstå medvetande ur ett TCS-perspektiv. Det är inte avsett att modellera hjärnan eller medvetandets neurala korrelat. Ändå är CTM inspirerad av kognitiva och neurovetenskapliga teorier om medvetande.

Specifikt, som vi har nämnt, är CTM inspirerad av kognitiva neuroforskaren Bernard Baars teatermodell för medvetande (Baars, Bernard J., 1997), the global workspace (GW) teorin om medvetande. Men även här är CTM inte en standard GW-modell. CTM skiljer sig från GW på ett antal viktiga sätt: dess konkurrens om globala sändningar är formellt definierad och ersätter helt den dåligt definierade Central Executive för andra GW-modeller; dess speciella processorer inklusive särskilt dess Model-of-the-World-processor konstruerar och använder modeller av dess (inre och yttre) världar; dess rika multimodala internspråk, Brainish, för att skapa märkta skisser i sina världsmodeller och för att kommunicera mellan processorer; och dess prediktiva dynamik (cykler av förutsägelse, testning, feedback och lärande, lokalt och globalt).

CTM interagerar också med sin yttre värld via ingångssensorer och utgångsställdon. För att betona CTM:s förkroppsligade, inbäddade, enacted och extended mind, kallar vi det här CTM Robot ( CtmR ).

Under arbetet med det här kapitlet blev vi medvetna om Kevin Mitchells blogginlägg i Wiring the Brain (Mitchell, 2023) där han påpekar en poäng som liknar en vi gör, nämligen att många av de stora teorierna om medvetande är kompatibla och/ eller kompletterande. För en liknande slutsats, se (Storm & et.al., 2024). Ännu mer, Mitchell presenterar "en icke-uttömmande lista över frågor ... som en teori om medvetande borde kunna omfatta". Han förklarar att "även om en sådan teori för närvarande inte kan besvara alla dessa frågor, bör den åtminstone tillhandahålla en övergripande ram[4] (dvs. vad en teori egentligen borde vara), där de kan ställas på ett sammanhängande sätt , utan att en fråga destabiliserar det vi tror att vi vet om svaret på en annan.”

Mitchells frågor är genomtänkta, intressanta och viktiga. I slutet av detta kapitel erbjuder vi preliminära svar från perspektivet av Conscious Turing Machine Robot (CtmR). Våra svar både kompletterar och lyfter fram material i den korta översikt av CtmR som vi nu presenterar.[5]

[1] För en kort historik över TOC och TCS, se bilaga 7.1.

[2] Detta är viktigt. Vi hävdar att simuleringar som modifierar CTM:s interna nyckelstrukturer och processer inte nödvändigtvis kommer att uppleva vad CTM gör. Vi påstår inte att CTM är den enda möjliga maskinmodellen för att uppleva känslor av medvetande.

[3] Dessa teorier inkluderar: The Global Workspace/Global Neuronal Workspace (GW/GNW), Attention Schema Theory (AST), Predictive Processing (PP), Integrated Information Theory (IIT), Embodied, Embedded, Enacted and Extended (EEEE) teorier, evolutionsteorier och Extended Reticulothalamic Activating System + Free Energy Principle Theory (ERTAS + FEP).

[4] Vår kursiv.

[5] I översikten kommenterar vi stycken som hänvisar till Kevin Mitchells frågor. Som ett exempel, om ett stycke har en etikett [KM1], så hänvisar det till Mitchells första fråga, KM1. Omvänt, om Mitchells fråga är märkt med en asterisk som KM1*, hänvisar den till [KM1] i översikten.