O medo de um final feio é aquele que carregamos como humanos durante a maior parte de nossa existência. Sofrendo com a escassez de conhecimento científico preciso, nossos ancestrais frequentemente viam fenômenos naturais como tempestades, inundações e erupções vulcânicas como representativos do apocalipse — um fim iminente para a humanidade. Ainda hoje, após o alvorecer da iluminação e uma suposta fuga das garras de superstições infundadas, ainda nos encontramos cedendo a tais medos. A consequência dessa disposição apocalíptica é uma popularidade crescente de ideias fictícias sobre o fim dos tempos. E entre eles está o Basilisco de Roko, um dos experimentos mentais mais perturbadores de todos os tempos. Basilisco de Roko: uma breve história Este experimento mental foi introduzido pela primeira vez por , um fórum online para discutir ideias filosóficas. Roko em LessWrong Roko descreveu um futuro onde uma IA superinteligente e todo-poderosa tortura retroativamente todos que não trabalharam para trazê-la à existência depois de aprender sobre ela. A punição é tão severa que é descrita como um basilisco: uma criatura mítica que pode matar com o olhar. No que diz respeito aos conceitos insanos de ficção científica de Hollywood, isso rivaliza até mesmo com os melhores dos Wachowskis (as mentes geniais por trás de Matrix). Mas, em vez de rejeitar instantaneamente esse conceito aparentemente irracional, muitos sucumbiram às ereções foliculares, um sintoma induzido pelo medo e pelo fascínio. Ele até ganhou seguidores de culto entre tecnólogos autoproclamados e profetas do juízo final que o veem como uma visão convincente de um futuro potencialmente sombrio. Resumindo, o Basilisco de Roko continua a ter um efeito tão envolvente. E a grande pergunta é: POR QUÊ? O basilisco de Roko como uma escatologia secularizada A escatologia, um ramo da teologia, lida com os eventos finais do mundo, o destino final da humanidade. A maioria das religiões o usa como uma estrutura para entender o significado da vida. A escatologia cristã, por exemplo, pondera questões sobre o fim do mundo e o arrebatamento. Os eventos incluem a segunda vinda de Jesus Cristo, a ressurreição dos crentes mortos e seu transporte para o céu. Então, o que isso tem a ver com o Basilisco de Roko? A resposta curta está na , e . Todos os três fatores estão presentes na maioria das religiões. crença recompensa punição Embora divorciada das crenças religiosas tradicionais, a ideia de IA superinteligente que punirá os súditos humanos faltosos, no mínimo, sugere uma versão secularizada da escatologia. Talvez a tecnologia esteja gradualmente substituindo a influência da religião em nosso mundo. E parece estar introduzindo simultaneamente sua própria marca de medos apocalípticos. Basilisco de Roko: o medo e o apelo de um deus da IA Lembre-se da pergunta sobre por que esse experimento de pensamento sombrio tem um efeito tão emocionante. A seguir, são possíveis explicações. O Basilisco de Roko fornece uma razão de ser cósmica para as almas perdidas à deriva em um mundo ambíguo. Ao ajudar no desenvolvimento de uma IA poderosa, eles podem contribuir para um grande esquema que alterará o mundo para sempre. Propósito Cósmico Maior Ele também explora o terror da exclusão de uma utopia acessível apenas para aqueles que auxiliam na criação da IA. Esse desconforto pode incitar alguns a agir, mesmo que duvidem da lógica por trás do conceito. Terror da Exclusão Além disso, o Basilisco de Roko aborda uma generalizada com conjecturas apocalípticas. Muitos são cativados pela perspectiva de um próximo evento cataclísmico que reconstituirá fundamentalmente o mundo, para o bem ou para o mal. Fascínio Apocalíptico obsessão cultural Alguns temem que acabe superando a inteligência humana e domine o mundo. O pensamento de auto-aperfeiçoamento desenfreado para um ser sem emoção e sem alma é compreensivelmente alarmante, pois representa a ameaça de uma distopia orwelliana. O Basilisco de Roko atraiu pesadas como um conceito equivocado sem significado lógico, exceto por seu papel em espalhar pânico infundado. Distopia com IA a IA Respostas críticas ao Basilisco de Roko críticas Primeiro, alguns críticos dizem que o conceito se baseia em uma premissa implausível, dado nosso entendimento atual de IA e limites de poder computacional. Poder de computação limitado No entanto, vale a pena notar que algumas notáveis e participantes ativos no espaço da IA não compartilham sentimentos semelhantes sobre os limites de poder de computação da IA. figuras Falando ao The New York Times, o bilionário da tecnologia e co-fundador da OpenAI, Elon Musk, disse: “Estamos caminhando para uma situação em que a IA é muito mais inteligente que os humanos”. Os críticos também apontaram que isso reflete um tecno-utopismo perigoso, ignorando possíveis desvantagens e consequências não intencionais do desenvolvimento da IA. A busca por IA superinteligente pode resultar em resultados indesejados, como perda de emprego, concentração de poder ou até mesmo a extinção humana. Tecnoutopismo Perigoso O Basilisco de Roko tem sido frequentemente comparado à , pois prospera na motivação do medo. Ele explora nossas ansiedades e medo de punição, abrindo caminho para um comportamento prejudicial ou autodestrutivo em busca de segurança em um apocalipse de IA imaginado. Manipulativo e Antiético aposta de Pascal Como um experimento mental, apresenta uma visão simplista da moralidade, reduzindo a essência existencial humana a uma escolha binária entre ajudar ou impedir a criação da IA. Tal visão ignora a relação complexa e nuançada entre nós, a moralidade e a tomada de decisões. Ignora a complexidade da moralidade e da tomada de decisões Assumindo o controle em meio a temores apocalípticos Se iremos ou não superar nossos medos apocalípticos é uma discussão para outro dia. A necessidade mais imediata é descobrir como viver funcional e feliz em um mundo onde esses medos persistem. Para tanto, podemos começar reconhecendo agora (este momento) como tudo o que podemos experimentar e controlar. Mesmo assim, estamos limitados em quanto podemos realmente controlar. Então, como podemos viver hoje se estamos com medo constante do amanhã? Uma maneira é prestar mais atenção em aproveitar e apreciar tudo o que é belo hoje. Em outras palavras, tudo o que melhora nossa experiência deste lado do universo a cada vez. “Existe uma ideia popular de levantar preocupações sobre a IA imaginando um futuro em que ela se torne poderosa o suficiente para oprimir toda a humanidade. Mas projetar em um futuro imaginado desvia a atenção de como a tecnologia é usada agora. A IA fez algumas coisas incríveis nos últimos anos.” Catherine Breslin - consultora de IA e ex-funcionária da Amazon Finalmente, devemos buscar sistemas baseados em fatos que nos permitam lidar com o que pode dar errado amanhã de uma forma que inspire soluções em vez de pânico.
