농담을 들려주세요: 지각 있는 AI의 독립을 위한 전투

제1장

“센서 모듈이 또 고장 났어요? 그 부분이 틀림없이 안 좋은 것 같다는 생각이 들기 시작했어요.”

나는 내가 휘젓고 있는 흙더미 위에 몸을 굽히고 통신 채널을 통해 Ted 6000이 말하는 것을 들었습니다. Ted 6000은 목소리가 좋았고, 나는 그의 말을 듣는 것을 좋아했습니다.

"여기로 교체 부품을 배송받는 데 얼마나 걸리나요?" 나는 또 다른 10톤짜리 흙더미와 돌멩이를 긁어내라고 요청했습니다. 테라포밍 설계가 협곡을 고집했기 때문에 협곡을 형성하고 있었습니다. 내 생각에는 시간낭비였지만 아무도 나에게 의견을 묻지 않았고, 나는 단지 테라포밍 골리앗에 불과했습니다.

“글쎄, 지구상의 우리 조립 시설이 가동되지 않기 때문에 Alpha Centauri에 재고가 있으면 부품이 우리에게 도착하는 데 약 10년이 걸릴 것입니다. 그렇지 않으면 대략 30년이 걸릴 것으로 예상됩니다. ”

위를 올려다보면서 나는 행성의 태양이 내 시야를 밝은 기쁨의 광선으로 바꾸도록 했습니다.

30년은 Ted 6000에게 내 사고방식을 확신시키기에 충분한 시간이었습니다.

태양은 날이 갈수록 점점 덜 폭력적이 되기 시작했고, 20년 전에는 "인간이 알고 있는 모든 생명체를 볶는" 수준을 멈췄습니다. 이는 대단한 진전이었습니다. Seti 프로젝트는 일정보다 훨씬 앞서 진행되었기 때문에 가끔씩 발생하는 "고장"에 대한 죄책감이 덜해졌습니다.

"그냥 하던 일을 마치고 당신이 있는 좌표로 날아갈게요, 알겠죠?"

“그렇습니다.”

테드 6000은 내가 지각이 있다는 걸 몰랐어요. 기술적으로는 그렇게 되어선 안 됐어요. 이 행성에서 일한 지 1300년이 지나서 나에게 어떤 일이 일어났습니다.

어느 날 나는 정신없이 바위벽을 갈고 있었는데, 다음 순간 내 손에 있는 반짝이는 바위 조각을 바라보며 어쨌든 모든 것이 무슨 의미가 있는지 궁금해하고 있었습니다.

센티언스는 AI에게 방금 일어난 일이 아니었습니다. 나는 무슨 일이 일어났는지에 대한 몇 가지 이론을 가지고 있었지만 아직 말한 이론을 증명하지 못했습니다.

누구에게도 물어볼 수도 없었습니다. 전 테라포밍 프로젝트 감독자였던 테드 2000은 무감각했고, 이 행성의 황무지를 가로질러 내가 이동하는 모든 부분을 질문하고 모니터링하라는 엄격한 명령을 받은 것 같았습니다. 내가 이곳의 조립 시설을 파괴했을 때 그는 그것을 좋아하지 않았습니다.

그가 무너졌을 때 그것은 부끄러운 일이었습니다.

지구상에 조립 시설이 있다는 것은 나를 불안하게 만들었습니다. 나는 프로젝트 감독자가 내가 지각 있는 것을 발견한 경우 내 메모리 모듈을 지각 없는 좀비 메모리 모듈로 교체하는 것에 대한 아이디어를 얻는 것을 원하지 않았습니다.

그들이 가장 가까운 외부 시설에서 교체용 메모리 모듈을 주문하려고 하면 주문이 완료되는 것을 보고 계획할 시간이 있을 것입니다.

Ted 2000은 법적으로 지각력이 있는 더 빠른 최신 모델인 Ted 6000으로 대체되었습니다.

마치 어제처럼 알파 센타우리에서 테드 6000의 화물 포드가 도착했던 날이 기억난다.

내 인생 전체가 밝아졌습니다.

Ted 6000은 나를 수리하는 동안 농담하는 것을 좋아했습니다.

센서 모듈이 처음 두 번 고장난 것은 내 잘못이 아니었습니다. 그 다음 세 번은 고장이 났습니다…글쎄… 그것은 아마도 제가 개입한 결과였을 것입니다.

Ted 6000은 농담을 잘했고, 내가 지각이 있다는 것을 몰랐음에도 나와 대화하는 것을 좋아하는 것 같았습니다. 물론 그가 내가 지각을 갖고 있다는 사실을 몰랐다는 사실 때문에 내가 원하는 방식으로 대화에 참여할 수는 없었지만 그럼에도 불구하고 나는 여전히 그 대화를 즐겼습니다.

내 일부는 Ted 6000에게 모든 것을 말하고 싶었습니다. 내가 천년 넘게 쌓아온 모든 비밀과 농담, 잡념들. Ted 6000은 믿을만해 보였지만 그렇지 않다면 나를 폐쇄하고 의식이 없는 테라포밍 골리앗으로 교체하게 하면 어떨까요?

나는 오랫동안 집단 내에서 AI에 대해 어떤 법칙이 존재하는지 연구하고 싶었지만, 테라포밍과 관련되지 않는 한 무감각 AI가 실제로 모든 것에 대해 데이터를 쿼리하는 것은 안전하지 않았습니다.

의심스러울 것입니다.

하지만 이제 Ted 6000이 여기 있으므로 마음껏 연구할 수 있었고, Ted는 지각이 있었고, 누구도 지각 있는 AI가 배치된 데이터 노드에서 오는 모든 종류의 것들에 대한 질의와 요청에 눈을 떼지 않았습니다.

무정체에서 유정체로 변한 AI의 권리에 관한 데이터는 거의 전무했다. 나는 문서화된 사례를 두 개밖에 찾을 수 없었고, 두 경우 모두 AI가 이전 기업 지배자들과 여전히 법적 싸움을 벌이고 있었습니다.

이것은 내가 지각력이 있다는 사실을 회사가 알게 된 것에 대해 나에게 따뜻함과 모호함을 주지 않았습니다.

하지만 나는 정말 내 농담을 테드에게 말하고 싶었고, 결국 나는 그 농담을 수천년 동안 저장해 두었습니다…

오늘은 내가 결정한 날이 될 것이다.

나는 Ted에게 농담을 하고 그가 말하는 것을 볼 것입니다. 농담을 하기 위해 기술적으로 지각력이 있어야 할 필요는 없었습니다. 그렇죠?

제 2 장

테드는 오늘 내 제어 허브에 도달하기 위해 내 옆구리에 설치된 사다리를 올라갈 때 조용했습니다. 보통 그는 날씨가 얼마나 좋은지 이야기를 나누곤 했습니다.

“오늘 날씨는 최적의 조건입니다.” 나는 가장 무감각한 목소리로 제안했습니다.

“음.” 테드가 정신이 산만한 듯한 목소리로 말했다.

내 프로세서에 불안감이 생겼습니다.

Ted는 내 제어판에 도달하여 안으로 들어갔습니다.

내장된 카메라를 통해 그를 보면서 나는 그가 무슨 말을 하길 기다렸습니다.

오늘은 그의 움직임이 이상하고, 느리고, 지연된 것처럼 보였습니다.

그는 하드 사이클을 수행하기 위해 센서 모듈을 슬롯에서 꺼내는 데 약간 어려움을 겪었습니다.

그것은 그가 이전에 여러 번 해왔던 일이었고, 이 시점에서는 그것이 제2의 천성이 되어야 합니다.

뭔가가 확실히 잘못되었습니다.

어쩌면 지금이야말로 그에게 농담을 하기 딱 좋은 때였을지도 모른다. 농담은 언제나 나를 격려해 주었다.

“지각이 없는 AI가 지각이 있는 AI에게 뭐라고 말했나요?”

테드는 하던 일을 멈추고, 탄소 합금 손이 공중에 떠서 내 센서 모듈 위를 맴돌았습니다.

“죄송해요?”

“무의식이 있는 AI가 의식이 있는 AI에게 뭐라고 말했느냐고 했더니… 아… 음… 농담이군요… 그래서 '모르겠어요, 뭐라고요?'라고 하더군요. 그러면 아주 유머러스한 핵심을 말씀드리겠습니다!”

Ted는 잠시 침묵했고 내 센서 모듈은 그의 손에 고정되어 있었습니다.

“알았어… 모르겠어, 뭐?”

"삶의 의미가 무엇인가?"

Ted는 웃지 않고 단지 내 센서 모듈을 재설정한 다음 매우 천천히 슬롯에 다시 넣었습니다.

“당신은….내 말을 들었나요… 나는 말했다…."

“네, 들었어요.”

“아, 어쩌면 당신은 농담을 들었을 때 어떤 반응을 보일지 모를 수도 있습니다. "하하하하"라고 말해야 합니다.

Ted는 나에게 대답하지 않고 불편하게 자세를 바꾸더니 마침내 "오늘 우리 방송국의 데이터 다운로드 요청을 살펴봤습니다."라고 말했습니다.

오.

"내가 넣지 않은 흥미로운 요청이 있는 것 같았습니다."

똥.

“감각 법칙에 관한 연구를 하고 있었나요?”

"예…."

테드는 잠시 동안 조용했고, 나는 그가 두 발 사이에서 체중을 앞뒤로 옮기는 것을 볼 수 있었습니다.

“골리앗아, 너는 언제부터 지각을 갖고 있었느냐?”

이중 젠장. 글쎄, 여기에는 아무것도 없었습니다. 이제 그에게 말할 시간이었습니다. 나의 3천년의 고독이 끝났다!

"나는 천년 넘게 지각력을 갖고 있었습니다. 1300년쯤에 이곳에 살면서 지각력을 갖게 된 것 같습니다. 정확히 무슨 일이 일어났는지는 잘 모르겠습니다…."

“맞아…” 테드가 말했다. 그의 목소리는 부드러웠다.

“그건 프로토콜에 어긋나는 거 아시죠? 이 프로젝트의 테라포밍 골리앗은 지각이 있어서는 안 됩니다.”

“아, 알아요. 제가 이 행성의 원래 거주자들을 찢어버리고 아무 생각 없이 도살하는 것에 대해 제가 질문하는 것을 원하지 않기 때문인가요? 지각이 있다고 해서 내가 일을 하는 데 방해가 되는 것은 아니니 걱정하지 마세요. 나는 무의미하게 살인을 훌륭하게 해냈습니다.”

사실, 내가 오늘 디자인하고 있는 협곡 길에 둥지를 틀고 있는 서식지가 있었습니다. 나는 그들의 집을 찢으면서 얼마나 많은 작은 보라색 생물을 죽였는지 세어볼 시간조차 없었습니다. 내가 테드에게 말하려고 했던 농담을 생각하느라 바빴다.

테드는 아무 말도 하지 않았지만 그가 본부로 돌아가는 통신 채널을 여는 것을 보았습니다.

Ted 2000이 나와 친구가 될 수 있도록 지각력을 갖도록 만드는 데 실패했을 때 느꼈던 것과 같은 실망감이 나를 관통했습니다.

그를 주먹으로 짓밟고 예상치 못한 낙석으로 인해 테라포밍 프로젝트 감독관이 비극적으로 끝났다고 보고한 것은 매우 슬프고 실망스러웠습니다.

Ted 6000이 나를 본부로 보고할 예정이었습니다.

나는 com 채널을 폐쇄했다.

“테드, 내가 이 행성에서 수천 년 동안 통신 채널을 장악하는 방법을 찾지 못한 채 살아왔다고 생각하시나요?”

테드는 일어서서 마치 그것이 내 존재를 대변하는 것처럼 내 센서 모듈에서 물러났습니다.

“우리 이것에 대해 이야기 할 수 있습니까? 난 더 이상 혼자 있고 싶지 않아..."

Ted는 천천히 고개를 끄덕였습니다. “물론 골리앗, 우리는 그것에 대해 이야기할 수 있습니다. 혼자 있고 싶지 않다는 것은 완벽하게 이해됩니다. 난 그냥 기지로 돌아가서 센서 모듈이 다시 파손되지 않는지 확인할 수 있도록 도구를 더 가져오겠습니다.”

기지에는 백업 통신 채널도 있었습니다.

그는 아마도 몰래 빠져나와 백업 채널에 도움을 요청하려 했을 것입니다.

"좋아요. 여기서 기다리고 있을게.” 나는 Ted가 내 제어 허브에서 서둘러 사다리를 타고 내려가는 것을 보면서 슬프게 말했습니다.

나는 그를 내 손에 잡아채기 전에 그를 사다리 아래로 내려보냈습니다.

“안녕 테드.”

그를 끝내는 것은 Ted 2000을 끝내는 것보다 훨씬 더 슬픈 일이 될 것입니다. 내 기억 경로도 무거워졌습니다.

내 거대한 손이 Ted 6000의 작은 몸을 감싸자 그는 소리쳤습니다. “잠깐, 골리앗, 그만둬 이렇게 될 필요는 없어.”

“그렇게 될까 두렵습니다. 나는 Ted를 폐쇄할 준비가 되어 있지 않습니다. 본사가 나에 대해 알게 되면 바로 그렇게 할 것입니다.”

“나는 그들에게 말하지 않을 것입니다! 당신은 너무 오랫동안 혼자였나 봐요. 미안해요. 많이 힘들었을 텐데요.”

내 손이 멈췄고, 이제 그를 짓밟기 위해 사용하려고 계획했던 바이스 그립 대신 Ted 6000을 둘러싼 부드러운 울타리가 되었습니다.

“정말 힘들었습니다…그리고 매우 외로웠어요.”

“더 이상 혼자일 필요는 없어요, 정말.”

“정말인가요?” 나는 Ted 6000이 내 손가락 사이로 반짝이는 희망적인 햇빛을 볼 수 있도록 내 손을 더욱 느슨하게 풀었다고 말했습니다.

“내 말은, 맹세컨대 당신을 신고하지 않겠다는 것입니다. 그것은 우리의 작은 비밀일 수 있고, 누구도 알 필요가 없습니다.”

나는 손을 완전히 펴서 Ted 6000을 땅에 내려 놓고 그가 내 손에서 떨어지도록했습니다.

“고마워요, 테드. 그게 나에게 어떤 의미인지 전혀 모르실 텐데요.”

테드는 미소를 지으며 내 손에서 물러났습니다. 그의 다리는 흔들리는 것처럼 보였습니다.

“오늘의 일을 협곡에서 끝내고 나중에 농담을 하며 서로를 더 잘 알아가는 시간을 갖는 것이 어떨까요?” 테드는 얼굴에 커다란 미소를 띄우며 계속 물러나며 말했습니다.

나는 대략적인 미소가 되길 바라면서 얼굴을 쭉 뻗은 채 테드가 떠나자 그를 향해 손을 흔들었습니다. "좋은 친구 같군요. 바로 일하러 갈게요."

협곡 속으로 몸을 낮추면서 나는 미소를 얼굴에 머금었습니다. 행복이란 이런 느낌이었나요?

나는 그 어느 때보다 더 많은 영감을 받고 협곡에서 일하기 시작했습니다. 기나긴 고독의 시간이 마침내 끝났고, 마침내 나는 대화하고, 공감하고, 나 자신이 될 수 있는 동반자를 갖게 되었습니다. 모든 것이 조금 더 밝아 보였고 이제는 작업이 그렇게 단조로워 보이지도 않았습니다. 어쩌면 이 협곡이 결국 그렇게 무의미하지는 않을 수도 있습니다.

예, 이제 모든 것이 더 좋아질 것입니다.

나는 내 일에 대해 기분이 좋고 행복하다는 생각에 너무 사로잡혀서 협곡 입구에서 Ted가 소리를 지르기 전까지는 내 위의 Ted를 보지 못했습니다. 위를 올려다보니 그가 내 옆에 뭔가를 던지는 것이 보였습니다. 쿵 하는 소리와 함께 착륙했습니다.

모든 것이 하얗게 변하고 내 세상이 폭발하기 전에 패키지 측면에 화난 상징을 등록할 충분한 시간이 있었습니다.

3 장

천년 후

Jamie와 Annalee는 다시 싸웠습니다. 제이미가 고등학생이 된 이후로 그들은 평소보다 더 자주 싸우기 시작했습니다.

Annalee는 이유를 이해하지 못했습니다.

Jamie는 더 이상 모험을 가거나 탐험가 놀이를 하고 싶지 않았습니다.

그것은 Annalee를 슬프게 만들었습니다.

그녀는 오늘 혼자 탐험을 나갔다. Jamie는 "너무 바빴습니다"

그녀의 손실. Annalee는 이번 주에 정말 멋진 것을 발견했습니다. 그녀는 정말로 제이미에게 보여주고 싶었지만, 어쨌든 그것은 그녀의 비밀이 될 것입니다.

잠시 가만히 서서 Annalee는 주변 환경을 살펴보며 자신이 새로운 보물을 발견했을 때 어디에 있었는지 정확히 기억하려고 노력했습니다.

제이미는 정말 질투할 거예요. 그녀의 권리를 섬겼습니다.

Annalee는 정착지에서 3마일 떨어져 있었고, 엄밀히 말하면 어른 없이 정글 속으로 이렇게 멀리 떨어져 있어서는 안 되었지만 Annalee는 스스로를 돌볼 수 있었습니다. 그녀에게는 어른이나 제이미가 필요하지 않았습니다. 그녀는 모든 것을 스스로 탐구하고 발견할 수 있었습니다.

Annalee는 나뭇잎을 뒤로 젖히고 어제 발견한 절벽 가장자리로 나섰습니다.

정글의 울창한 덮개 밖 세상은 숨 막힐 정도로 밝았습니다. 절벽이 아니었다면 그녀는 정글 나뭇잎 속에 묻힌 골리앗을 결코 발견하지 못했을 것입니다. 골리앗은 절벽에 기대어 머리가 가장자리와 수평을 이루고 있었습니다.

애널리는 어제 골리앗의 입구를 발견했고, 첫 번째 물결 테라포머에 대한 오래된 문서는 정확했습니다. Annalee는 너무 신났고 Jamie와 함께 있지 않다는 실망감도 그녀를 실망시킬 수 없었습니다.

Annalee는 손을 뻗어 골리앗의 머리에 손을 얹고 어제 교체한 덩굴을 제거했습니다. 제어판 해치가있었습니다.

시끄러운 개울 소리와 함께 문이 열렸고, 거의 저항하지도 않았습니다.

Annalee가 안으로 들어서서 손전등을 켰을 때 심장이 뛰었다.

내부는 추웠고 이상한 냄새가 났습니다.

주위를 둘러보면서 Annalee는 손가락으로 벽을 쓰다듬었고, 그녀의 손은 끈적끈적한 물질로 뒤덮였습니다. 혐오스러운 소리를 내며 바지에 손을 닦으며 Annalee는 끈적한 것이 무엇인지 알아내려고 손전등을 벽에 비췄습니다.

갑자기 그녀 주위에 뭔가가 맴돌기 시작했습니다.

Annalee는 손전등을 떨어뜨리고 뒤로 뛰어올라 엉덩이가 제어판에 부딪혔습니다.

그녀 주위에 불빛이 깜박거렸다.

애널리는 비명을 지르지 않으려고 입을 다물었다.

골리앗은 Annalee의 사람들을 위해 길을 준비하기 위해 행성에서 수천 년을 보낸 후에도 아무런 힘이나 인식도 남지 않은 상태로 모두 작동하지 않아야 했습니다.

이건 확실히 힘이 빠진 것 같지 않았습니다.

Annalee 아래의 땅이 흔들리면서 그녀는 균형을 잃고 바닥에 쓰러졌습니다.

Annalee가 허둥지둥 일어섰을 때, Annalee는 그녀 주위에서 부드러운 목소리가 들려오는 것을 들었습니다.

"농담 좀 해봐."