Desvendando o medo de um deus da IA: a teologia do basilisco de Roko

O medo de um final feio é aquele que carregamos como humanos durante a maior parte de nossa existência. Sofrendo com a escassez de conhecimento científico preciso, nossos ancestrais frequentemente viam fenômenos naturais como tempestades, inundações e erupções vulcânicas como representativos do apocalipse — um fim iminente para a humanidade.

Ainda hoje, após o alvorecer da iluminação e uma suposta fuga das garras de superstições infundadas, ainda nos encontramos cedendo a tais medos.

A consequência dessa disposição apocalíptica é uma popularidade crescente de ideias fictícias sobre o fim dos tempos. E entre eles está o Basilisco de Roko, um dos experimentos mentais mais perturbadores de todos os tempos.

Basilisco de Roko: uma breve história

Este experimento mental foi introduzido pela primeira vez por Roko em LessWrong , um fórum online para discutir ideias filosóficas.

Roko descreveu um futuro onde uma IA superinteligente e todo-poderosa tortura retroativamente todos que não trabalharam para trazê-la à existência depois de aprender sobre ela. A punição é tão severa que é descrita como um basilisco: uma criatura mítica que pode matar com o olhar.

No que diz respeito aos conceitos insanos de ficção científica de Hollywood, isso rivaliza até mesmo com os melhores dos Wachowskis (as mentes geniais por trás de Matrix).

Mas, em vez de rejeitar instantaneamente esse conceito aparentemente irracional, muitos sucumbiram às ereções foliculares, um sintoma induzido pelo medo e pelo fascínio.

Ele até ganhou seguidores de culto entre tecnólogos autoproclamados e profetas do juízo final que o veem como uma visão convincente de um futuro potencialmente sombrio.

Resumindo, o Basilisco de Roko continua a ter um efeito tão envolvente. E a grande pergunta é: POR QUÊ?

O basilisco de Roko como uma escatologia secularizada

A escatologia, um ramo da teologia, lida com os eventos finais do mundo, o destino final da humanidade. A maioria das religiões o usa como uma estrutura para entender o significado da vida.

A escatologia cristã, por exemplo, pondera questões sobre o fim do mundo e o arrebatamento. Os eventos incluem a segunda vinda de Jesus Cristo, a ressurreição dos crentes mortos e seu transporte para o céu.

Então, o que isso tem a ver com o Basilisco de Roko?

A resposta curta está na crença , recompensa e punição . Todos os três fatores estão presentes na maioria das religiões.

Embora divorciada das crenças religiosas tradicionais, a ideia de IA superinteligente que punirá os súditos humanos faltosos, no mínimo, sugere uma versão secularizada da escatologia.

Talvez a tecnologia esteja gradualmente substituindo a influência da religião em nosso mundo. E parece estar introduzindo simultaneamente sua própria marca de medos apocalípticos.

Basilisco de Roko: o medo e o apelo de um deus da IA

Lembre-se da pergunta sobre por que esse experimento de pensamento sombrio tem um efeito tão emocionante. A seguir, são possíveis explicações.

Propósito Cósmico Maior
O Basilisco de Roko fornece uma razão de ser cósmica para as almas perdidas à deriva em um mundo ambíguo. Ao ajudar no desenvolvimento de uma IA poderosa, eles podem contribuir para um grande esquema que alterará o mundo para sempre.

Terror da Exclusão
Ele também explora o terror da exclusão de uma utopia acessível apenas para aqueles que auxiliam na criação da IA. Esse desconforto pode incitar alguns a agir, mesmo que duvidem da lógica por trás do conceito.

Fascínio Apocalíptico
Além disso, o Basilisco de Roko aborda uma obsessão cultural generalizada com conjecturas apocalípticas. Muitos são cativados pela perspectiva de um próximo evento cataclísmico que reconstituirá fundamentalmente o mundo, para o bem ou para o mal.

Distopia com IA
Alguns temem que a IA acabe superando a inteligência humana e domine o mundo. O pensamento de auto-aperfeiçoamento desenfreado para um ser sem emoção e sem alma é compreensivelmente alarmante, pois representa a ameaça de uma distopia orwelliana.

Respostas críticas ao Basilisco de Roko
O Basilisco de Roko atraiu críticas pesadas como um conceito equivocado sem significado lógico, exceto por seu papel em espalhar pânico infundado.

Poder de computação limitado
Primeiro, alguns críticos dizem que o conceito se baseia em uma premissa implausível, dado nosso entendimento atual de IA e limites de poder computacional.

No entanto, vale a pena notar que algumas figuras notáveis e participantes ativos no espaço da IA não compartilham sentimentos semelhantes sobre os limites de poder de computação da IA.

Falando ao The New York Times, o bilionário da tecnologia e co-fundador da OpenAI, Elon Musk, disse:

“Estamos caminhando para uma situação em que a IA é muito mais inteligente que os humanos”.

Tecnoutopismo Perigoso
Os críticos também apontaram que isso reflete um tecno-utopismo perigoso, ignorando possíveis desvantagens e consequências não intencionais do desenvolvimento da IA. A busca por IA superinteligente pode resultar em resultados indesejados, como perda de emprego, concentração de poder ou até mesmo a extinção humana.

Manipulativo e Antiético
O Basilisco de Roko tem sido frequentemente comparado à aposta de Pascal , pois prospera na motivação do medo. Ele explora nossas ansiedades e medo de punição, abrindo caminho para um comportamento prejudicial ou autodestrutivo em busca de segurança em um apocalipse de IA imaginado.

Ignora a complexidade da moralidade e da tomada de decisões
Como um experimento mental, apresenta uma visão simplista da moralidade, reduzindo a essência existencial humana a uma escolha binária entre ajudar ou impedir a criação da IA. Tal visão ignora a relação complexa e nuançada entre nós, a moralidade e a tomada de decisões.

Assumindo o controle em meio a temores apocalípticos

Se iremos ou não superar nossos medos apocalípticos é uma discussão para outro dia. A necessidade mais imediata é descobrir como viver funcional e feliz em um mundo onde esses medos persistem.

Para tanto, podemos começar reconhecendo agora (este momento) como tudo o que podemos experimentar e controlar. Mesmo assim, estamos limitados em quanto podemos realmente controlar. Então, como podemos viver hoje se estamos com medo constante do amanhã?

Uma maneira é prestar mais atenção em aproveitar e apreciar tudo o que é belo hoje. Em outras palavras, tudo o que melhora nossa experiência deste lado do universo a cada vez.

“Existe uma ideia popular de levantar preocupações sobre a IA imaginando um futuro em que ela se torne poderosa o suficiente para oprimir toda a humanidade. Mas projetar em um futuro imaginado desvia a atenção de como a tecnologia é usada agora. A IA fez algumas coisas incríveis nos últimos anos.”

Catherine Breslin - consultora de IA e ex-funcionária da Amazon

Finalmente, devemos buscar sistemas baseados em fatos que nos permitam lidar com o que pode dar errado amanhã de uma forma que inspire soluções em vez de pânico.