AI 신에 대한 두려움 풀기: 로코의 바실리스크 신학

추악한 종말에 대한 두려움은 우리가 존재하는 동안 인간으로서 지니고 있던 두려움입니다. 정확한 과학 지식이 부족했던 우리 조상들은 종종 뇌우, 홍수, 화산 폭발과 같은 자연 현상을 인류의 종말이 임박한 종말의 상징으로 여겼습니다.

깨달음이 싹트고 근거 없는 미신의 발톱에서 벗어난 오늘날에도 우리는 여전히 그러한 두려움에 굴복하고 있습니다.

이러한 묵시적인 성향의 결과로 허구적인 종말론이 점점 인기를 얻고 있습니다. 그리고 그중에는 역사상 가장 불안한 사고 실험 중 하나인 Roko의 Basilisk가 있습니다.

Roko의 바실리스크: 간략한 역사

이 사고 실험은 철학적 아이디어를 토론하기 위한 온라인 포럼 인 LessWrong에서 Roko 에 의해 처음 소개되었습니다.

Roko는 초지능, 전능한 AI가 이를 알게 된 후 이를 실현하기 위해 노력하지 않은 모든 사람을 소급하여 고문하는 미래를 설명했습니다. 처벌이 너무 가혹해서 바실리스크(눈으로 사람을 죽일 수 있는 신화 속의 생물)로 묘사됩니다.

미친 헐리우드 공상과학 개념에 관한 한, 이것은 Wachowskis(The Matrix 뒤에 숨은 천재 정신)의 최고 수준과도 맞먹습니다.

그러나 이 비합리적으로 보이는 개념을 즉시 거부하는 대신, 많은 사람들은 두려움과 매혹으로 인해 유발되는 증상인 모낭 발기에 굴복했습니다.

이는 잠재적으로 어두운 미래에 대한 설득력 있는 비전으로 간주되는 자칭 기술자와 종말론자 사이에서 컬트적인 추종자를 얻기도 했습니다.

간단히 말해서 Roko의 Basilisk는 계속해서 이러한 매력적인 효과를 발휘하고 있습니다. 그리고 가장 큰 질문은: 왜?

세속화된 종말론으로서의 로코의 바실리스크

신학의 한 분야인 종말론은 세상의 마지막 사건, 즉 인류의 궁극적인 운명을 다룬다. 대부분의 종교에서는 이를 삶의 의미를 이해하기 위한 틀로 사용합니다.

예를 들어, 기독교 종말론은 세상의 종말과 휴거에 관한 문제를 숙고합니다. 이 사건에는 예수 그리스도의 재림, 죽은 신자들의 부활, 천국으로의 이송 등이 포함됩니다.

그렇다면 이것이 Roko의 Basilisk와 어떤 관련이 있습니까?

짧은 대답은 믿음 , 보상 , 처벌 에 있습니다. 대부분의 종교에는 세 가지 요소가 모두 존재합니다.

비록 전통적인 종교적 신념과 동떨어져 있지만, 최소한 불이행하는 인간 주체를 처벌할 초지능 AI에 대한 아이디어는 종말론의 세속화된 버전을 암시합니다.

아마도 기술이 점차 우리 세계에서 종교의 영향력을 대체하고 있을 것입니다. 그리고 동시에 종말론적 두려움이라는 고유한 브랜드를 도입하는 것으로 보입니다.

로코의 바실리스크: AI 신의 두려움과 매력

이 우울한 사고 실험이 왜 그토록 사로잡는 효과를 갖는지에 대한 질문을 떠올려보세요. 다음은 가능한 설명입니다.

더 큰 우주적 목적
로코의 바실리스크는 모호한 세계에서 표류하는 길 잃은 영혼들에게 우주적 존재 이유를 제공합니다. 전능한 AI의 개발을 지원함으로써 그들은 세상을 영원히 변화시킬 거대한 계획에 기여할 수 있습니다.

배제의 공포
또한 AI 생성을 돕는 사람들만 접근할 수 있는 유토피아에서 배제된다는 공포를 이용합니다. 이러한 불안은 일부 사람들이 해당 개념의 근거를 의심하더라도 조치를 취하도록 자극할 수 있습니다.

묵시적인 매혹
또한 Roko의 Basilisk는 묵시적인 추측에 대한 광범위한 문화적 집착을 다루고 있습니다. 많은 사람들은 좋든 나쁘든 세상을 근본적으로 재구성할 다가오는 격변적인 사건의 전망에 매료되었습니다.

AI 기반 디스토피아
어떤 사람들 은 AI가 결국 인간의 지능을 뛰어넘어 세상을 지배하게 될 것이라고 우려합니다. 감정도 없고 영혼도 없는 존재의 무제한적인 자기 개선에 대한 생각은 오웰식 디스토피아의 위협을 제기하므로 당연히 놀라운 일입니다.

Roko의 바실리스크에 대한 비판적 반응

Roko의 Basilisk는 근거 없는 공포를 퍼뜨리는 역할을 제외하고는 논리적 의미가 없는 잘못된 개념으로 심한 비판을 받았습니다.

제한된 컴퓨팅 성능
첫째, 일부 비평가들은 AI와 컴퓨팅 성능 한계에 대한 현재의 이해를 고려할 때 이 개념이 믿기 어려운 전제에 기초하고 있다고 말합니다.

그러나 AI 분야의 일부 주목할만한 인물 과 적극적 참가자가 AI의 컴퓨팅 성능 한계에 대해 비슷한 감정을 공유하지 않는다는 점은 주목할 가치가 있습니다.

New York Times와의 인터뷰에서 기술 억만장자이자 OpenAI 공동 창업자인 Elon Musk는 다음과 같이 말했습니다.

“우리는 AI가 인간보다 훨씬 더 똑똑한 상황을 향해 나아가고 있습니다.”

위험한 테크노 유토피아주의
비평가들은 AI 개발의 잠재적인 단점과 의도하지 않은 결과를 무시하는 위험한 기술 유토피아주의를 반영한다고 지적했습니다. 초지능 AI를 추구하면 일자리 상실, 권력 집중, 심지어 인류 멸종과 같은 원치 않는 결과가 발생할 수 있습니다.

조작적이고 비윤리적인
Roko의 Basilisk는 공포의 동기를 바탕으로 성장한다는 점에서 종종 Pascal의 내기 와 비교되어 왔습니다. 이는 우리의 불안과 처벌에 대한 두려움을 이용하여 상상된 AI 대재앙에서 보안을 추구하면서 해롭거나 자기 파괴적인 행동으로 가는 길을 열어줍니다.

도덕성과 의사결정의 복잡성을 무시합니다.
사고 실험으로서 인간의 실존적 본질을 AI 생성을 돕거나 방해하는 이분법적 선택으로 축소함으로써 도덕성에 대한 단순한 관점을 제시합니다. 그러한 견해는 우리, 도덕성, 의사 결정 사이의 복잡하고 미묘한 관계를 무시합니다.

종말론적인 두려움 속에서 책임을 다하다

우리가 결국 종말론적 두려움을 극복할 것인지 아닌지는 나중에 논의할 문제입니다. 더 시급한 요구는 그러한 두려움이 지속되는 세상에서 기능적으로 행복하게 사는 방법을 연구하는 것입니다.

이를 위해 우리는 지금(지금 이 순간)이 우리가 경험하고 통제할 수 있는 모든 것임을 인정하는 것부터 시작할 수 있습니다. 그럼에도 불구하고 우리가 실제로 통제할 수 있는 정도에는 제한이 있습니다. 그렇다면 우리가 내일에 대한 끊임없는 두려움 속에 있다면 오늘을 어떻게 살아갈 수 있을까요?

한 가지 방법은 오늘날 아름다운 모든 것을 즐기고 감상하는 데 더 많은 주의를 기울이는 것입니다. 즉, 시간당 우주 이쪽에서 우리의 경험을 향상시키는 모든 것입니다.

“AI가 모든 인류를 억압할 만큼 강력해지는 미래를 상상함으로써 AI에 대한 우려를 불러일으키는 인기 있는 아이디어가 있습니다. 그러나 상상된 미래를 예측하는 것은 현재 기술이 어떻게 사용되는지를 방해합니다. AI는 최근 몇 년 동안 놀라운 일을 해냈습니다.”

Catherine Breslin - AI 컨설턴트 및 전 Amazon 직원

마지막으로, 우리는 당황하기보다는 해결책을 고취하는 방식으로 내일 문제가 발생할 수 있는 문제를 해결할 수 있도록 하는 사실 기반 시스템을 찾아야 합니다.