A conciencia da IA é inevitable: unha perspectiva teórica da informática

Táboa de ligazóns

Resumo e 1 Introdución

2 Breve descrición de CtmR, un robot cun cerebro CTM

2.1 Definición formal de CtmR

2.2 Atención consciente en CtmR

2.3 Consciencia consciente e sentimento de conciencia en CtmR

2.4 CtmR como marco para a intelixencia xeral artificial (AGI)

3 Aliñación de CtmR con outras teorías da conciencia

4 Abordando as preguntas de Kevin Mitchell desde a perspectiva de CtmR

5 Resumo e conclusións

6 Agradecementos

7 Apéndice

7.1 Breve historia da aproximación da informática teórica á computación

7.2 A competencia probabilística pola atención consciente e a influencia da disposición sobre ela

Referencias

RESUMO

Miramos a conciencia a través da lente da Informática Teórica, unha rama das matemáticas que estuda a computación baixo limitacións de recursos. Desde esta perspectiva, desenvolvemos un modelo formal de máquina para a conciencia. O modelo está inspirado no simple pero poderoso modelo de computación de Alan Turing e no modelo teatral de conciencia de Bernard Baars. Aínda que extremadamente sinxelo, o modelo aliña a un alto nivel con moitas das principais teorías científicas da conciencia humana e animal, apoiando a nosa afirmación de que a conciencia da máquina é inevitable.

1 Introdución

Estudamos a conciencia desde a perspectiva da Informática Teórica (TCS), unha rama das matemáticas que se ocupa de comprender os principios subxacentes da computación e da complexidade, incluíndo as implicacións e as sorprendentes consecuencias das limitacións de recursos.

Ao ter en conta as limitacións dos recursos, a perspectiva TCS distínguese da anterior Teoría da Computación de Turing (TOC) onde non figuraban limitacións de tempo e espazo. TOC distingue computable de non computable. Non distingue entre computable e non computable eficientemente. [1] Destacamos a importancia desta separación para abordar a conciencia e temas relacionados como o paradoxo do libre albedrío.

Noutro lugar (Blum & Blum, 2021), describimos a Conscious Turing Machine (CTM), un modelo simple de máquina formal de conciencia inspirado en parte no modelo simple de máquina formal de computación de Alan Turing (Turing, 1937) e no teatro de Bernard Baars. modelo de conciencia (Baars, Bernard J., 1997). En (Blum & Blum, 2022), consideramos como un CTM podería exhibir diversos fenómenos asociados á conciencia (por exemplo, visión cega, cegueira por desatención, cegueira por cambios) e presentamos explicacións CTM que concordan, nun alto nivel, coa literatura de neurociencia cognitiva.

En contraste con Turing, temos en conta as limitacións dos recursos, tanto no deseño do modelo CTM como na forma en que as limitacións de recursos afectan (e axudan a explicar) os sentimentos de conciencia. A nosa perspectiva difire aínda máis. O que lle dá ao CTM a súa sensación de conciencia non é o seu mapa de entrada e saída, nin a súa potencia de cálculo, senón o que hai baixo o capó.[2]

Neste capítulo botamos unha breve ollada baixo o capó.

Ademais, mostramos como o CTM se aliña e integra de xeito natural as características consideradas clave para a conciencia humana e animal por moitas das principais teorías científicas da conciencia.[3] Estas teorías consideran diferentes aspectos da conciencia e moitas veces compiten entre si (Lenharo, 2024). Non obstante, o seu aliñamento coa CTM a un alto nivel axuda a demostrar a súa compatibilidade e/ou complementariedade.

Pero, aínda máis, o seu aliñamento co CTM, un modelo de máquina simple que exhibe fenómenos asociados á conciencia, apoia a nosa afirmación de que unha IA consciente é inevitable.

A introdución de David Chalmers do Problema Difícil (Chalmers, 1995) axudou a clasificar a maioría das nocións de conciencia nun dos dous tipos. O primeiro tipo, denominado de varias maneiras conciencia de acceso (Block, 1995) ou conciencia funcional (computacional) ou cognitiva, chamamos atención consciente. O segundo tipo (asociado ao Problema Difícil) chámase conciencia subxectiva ou fenomenolóxica e xeralmente asóciase con sentimentos ou qualia. Chamámoslle conciencia consciente. O problema difícil de Chalmers pódese ver como un desafío para mostrar que a conciencia subxectiva é "funcional".

Afirmamos que a conciencia en xeral require tanto atención consciente como conciencia consciente, cada unha delas informando á outra en varios graos. Afirmamos que unha máquina que interactúa cos seus mundos (interior e exterior) mediante sensores de entrada e actuadores de saída, que constrúe modelos destes mundos que permiten a planificación, a predición, a proba e a aprendizaxe a partir da retroalimentación, e que desenvolve un rico linguaxe multimodal interno, pode teñen os dous tipos de conciencia. En particular, defendemos que a conciencia subxectiva é computacional e funcional.

Enfatizamos que o CTM é un modelo de máquina formal deseñado para explorar e comprender a conciencia desde unha perspectiva TCS. Non se pretende modelar o cerebro nin os correlatos neuronais da conciencia. Non obstante, o CTM está inspirado nas teorías cognitivas e neurociencias da conciencia.

En concreto, como mencionamos, o CTM está inspirado no modelo teatral de conciencia do neurocientífico cognitivo Bernard Baars (Baars, Bernard J., 1997), a teoría da conciencia do espazo de traballo global (GW). Non obstante, aquí de novo, o CTM non é un modelo GW estándar. O CTM difire de GW en varios aspectos importantes: a súa competencia para a emisión global defínese formalmente e substitúe por completo ao mal definido Executivo Central doutros modelos de GW; os seus procesadores especiais, incluíndo especialmente o seu procesador Model-of-the-World, constrúen e empregan modelos dos seus mundos (interior e exterior); a súa rica linguaxe interna multimodal, Brainish, para crear bosquexos etiquetados nos seus modelos mundiais e para comunicarse entre procesadores; e as súas dinámicas preditivas (ciclos de predición, probas, retroalimentación e aprendizaxe, a nivel local e global).

O CTM tamén interactúa co seu mundo exterior mediante sensores de entrada e actuadores de saída. Para enfatizar a mente incorporada, incorporada, promulgada e estendida de CTM, chamámoslle aquí o CTM Robot ( CtmR ).

Mentres traballabamos neste capítulo, decatámonos da publicación do blog de Kevin Mitchell en Wiring the Brain (Mitchell, 2023) na que fai un punto similar ao que facemos nós, a saber, que moitas das principais teorías da conciencia son compatibles e/ ou complementaria. Para unha conclusión semellante, véxase (Storm & et.al., 2024). Aínda máis, Mitchell presenta "unha lista non exhaustiva de preguntas... que unha teoría da conciencia debería ser capaz de abarcar". El declara que “aínda que unha teoría deste tipo non poida responder a todas esas preguntas, polo menos debería proporcionar un marco xeral[4] (é dicir, o que debería ser realmente unha teoría), no que se poidan preguntar de forma coherente. , sen que unha pregunta desestabiliza o que pensamos saber sobre a resposta a outra”.

As preguntas de Mitchell son reflexivas, interesantes e importantes. Ao final deste capítulo, ofrecemos respostas preliminares desde a perspectiva do robot da máquina de Turing consciente (CtmR). As nosas respostas complementan e destacan o material na breve Visión xeral de CtmR que agora presentamos.[5]

[1] Para un breve historial de TOC e TCS consulte o Apéndice 7.1.

[2] Isto é importante. Afirmamos que as simulacións que modifican as estruturas e procesos internos clave de CTM non experimentarán necesariamente o que fai CTM. Non estamos afirmando que o CTM sexa o único modelo de máquina posible para experimentar sentimentos de conciencia.

[3] Estas teorías inclúen: O espazo de traballo global/espazo de traballo neuronal global (GW/GNW), a teoría do esquema de atención (AST), o procesamento preditivo (PP), a teoría da información integrada (IIT), incorporado, incorporado, promulgado e estendido (EEEE) teorías, teorías evolutivas e o sistema activador reticulotalámico estendido + teoría do principio de enerxía libre (ERTAS + FEP).

[4] Cursiva nosa.

[5] Na Visión xeral, anotamos parágrafos que se refiren ás consultas de Kevin Mitchell. Por exemplo, se un parágrafo ten unha etiqueta [KM1], refírese á primeira consulta de Mitchell, KM1. Pola contra, se a consulta de Mitchell está etiquetada cun asterisco como KM1*, entón refírese a [KM1] na Visión xeral.