뇌-컴퓨터 인터페이스가 대규모 사이버공격의 위험에 처해 있는가?

한 가지 잘못된 소프트웨어 업데이트로 인해 사회의 거대한 영역이 마비될 수 있다면, BCI가 하이브 마인드를 위해 자체 업데이트를 필요로 하는 트랜스휴머니즘 미래에서는 어떤 일이 일어날지 상상해 보세요.

2024년 7월 19일 아침, Windows 사용자에게 영향을 미치는 CrowdStrike 업데이트의 코딩 오류로 인해 디지털 영역이 물리적 세계를 감염시키면서 파괴적인 혼란이 발생했습니다.

사이버 보안 회사 CrowdStrike 의 성명 에 따르면 공항, 은행, 의료 서비스, 주요 뉴스 네트워크는 모두 "Windows 호스트의 단일 콘텐츠 업데이트에서 발견된 결함"으로 인해 중단되었으며 "보안 사고나 사이버 공격이 아니다"고 합니다.

악의적인 사이버 공격 없이 단 하나의 소프트웨어 업데이트만으로 이렇게 큰 혼란을 일으킬 수 있다면, Neuralink 와 같은 뇌-컴퓨터 인터페이스 (BCI)가 보편화되고 자체 소프트웨어 업데이트가 필요한 트랜스휴머니즘 미래에서는 어떤 일이 일어날지 상상해 보세요.

겉보기에 텔레파시 능력이 깨어나는 대신, 당신의 뇌 칩이 전 세계 공항에서 볼 수 있는 것과 같은 죽음의 블루 스크린을 띄운다는 사실을 알게 됩니다.

소프트웨어에 계속 오류가 생기면서 뉴런은 BCI의 신경 망을 통해 흐르는 잘못된 정보를 이해하려고 하며, 디지털 신호는 고장난 회로망의 바다에서 질서를 찾으려고 스스로를 조직화하려고 애쓰는 승객의 물리적 혼란과 유사해지기 시작합니다.

만약 당신에게 희망할 만한 두뇌 용량이 있다면, 당신이 바랄 수 있는 유일한 것은 당신의 두뇌 칩을 만든 회사와 그 소프트웨어를 개발하는 회사가 당신이 완전히 분리되기 전에 당신을 다시 온라인에 올려놓을 수 있다는 것입니다.

운이 좋으면 문제가 식별되어 비교적 빨리 해결될 수도 있겠지만, 그렇지 않다면 어떨까요?

“사이버 보안의 부족은 전 세계 사회에 명백하고 즉각적인 위험이 되었습니다.”

클라우스 슈바브, 사이버 폴리곤, 2021

시간이 지남에 따라 하드웨어는 고장나고 소프트웨어는 업그레이드가 필요합니다.

디지털 인프라 내에서의 중앙 집중화와 통합이 지속되고, BCI가 우리의 신체적, 인지적 능력을 무시하거나 자유 의지를 없애지 못하도록 적절한 조치를 취하지 않는다면, 우리 인류는 진정으로 집단 정신과 심연으로 빠질 수 있습니다.

이제 우리는 신체 인터넷에서 두뇌 인터넷으로 이동하고 있습니다.

최근 RAND Corporation 보고서는 " 신체의 인터넷은 궁극적으로 '두뇌의 인터넷'으로 이어질 수 있다. 즉, 인간의 뇌가 인터넷에 연결되어 뇌와 뇌 사이의 직접적인 의사소통을 용이하게 하고 온라인 데이터 네트워크에 접근할 수 있게 된다 "고 말합니다.

또한, "뇌-컴퓨터 인터페이스의 발전은 뇌-뇌 소통 기술 개발로 이어질 수 있으며, 이는 완전히 새로운 대인간 소통 방식으로 이어질 수 있습니다."

이것이 바로 기대되는 디지털 하이브 마인드입니다.

일론 머스크는 언젠가는 인간과 기계 간에 기억을 업로드하고 다운로드 할 수 있을 것이라고 말했습니다.

자신의 것이 아닌 생각이나 기억이 의식에 들어오면 무슨 일이 일어날까?

만약 당신의 것이 아닌 외국의 기억이 당신의 의식 속으로 들어온다면 당신은 무엇을 할 것인가? 당신은 그것을 알 수 있을까?

“인간 증강은 최종 사용자의 인지적 안전을 훼손하고 인간 증강 기술을 사용하는 동안 수신하는 정보의 신뢰성을 평가하는 능력에 영향을 미칠 수 있습니다.”

RAND Corporation, 2024년 3월

2019년 1월 30일, 저는 뇌칩에 문제가 있어 치료를 받고 있는 환자들이 있는 정신병원을 방문하는 꿈을 꿨습니다.

나는 그 날짜를 알고 있는데, 바로 다음날 아침 " 뻐꾸기 둥지 속의 초인: AI-인간 하이브리드의 맬웨어 "라는 제목의 기사를 써서 게시했기 때문입니다.

그 꿈에서 나는 무기력한 환자들이 침을 흘리고, 앉아서, 알 수 없는 사이버 심연을 응시하는 것을 보았습니다.

나는 남자, 여자, 아이들이 패딩이 깔린 벽에 몸을 부딪히고, 회전 의자 위에서 팔다리를 휘두르고, 체크무늬 바닥에서 몸부림치는 것을 보았습니다. 그들은 자신의 뇌를 통과하는 것이 무엇인지 이해할 수 없었고, 공중에서 윙윙거리는 울부짖는 악마를 움켜쥐고, 실제로 존재하지 않는 냄새를 맡고, 절망에 빠질 정도로 무서워하는 것을 보았습니다.

꿈을 꾼 다음날 아침에 쓴 이야기에서 나는 "만약 악성 소프트웨어가 인체에 도입된다면 어떻게 될까? […] 미래의 병원은 이를 해결해야 하지만 어떻게?"라고 생각했습니다.

환자들은 무엇이 '진짜'이고 무엇이 AI가 만들어낸 환각인지 구별할 수 없을 것입니다.

제가 깨어났을 때, 만약 BCI가 주류가 된다면 대응책도 이미 마련되었을 거라는 결론에 도달했습니다.

그렇지 않다면, "우리 병원은 단테의 신곡 이나 사자의 책 에서 나오는 장면처럼 보이는 만성 임플란트 장애 환자를 치료하고 있을 수 있습니다."

제가 6년 전 꿈꿔왔던 것은 단지 상상과 환상일 뿐일지 모르지만, 하드웨어를 소유한 사람은 누구이며, 신호가 어디서 와서 어디로 가는지에 대한 생각은 최고의 과학자, 윤리학자, 연구자들 사이에서 벌어지는 매우 현실적인 논의입니다.

"당신이 생각하는 것, 당신이 느끼는 것 - 이 모든 것은 단지 데이터일 뿐입니다. 인공 지능을 사용하여 대규모 패턴으로 디코딩할 수 있는 데이터입니다."

니타 파라하니 박사, WEF 연례 회의, 2023

다보스에서 열린 2023년 세계경제포럼 (WEF) 연례총회에서 듀크 대학의 니타 파라하니 박사는 뇌를 위한 전투에 대한 프레젠테이션을 했는데, 그녀는 다음과 같이 말했습니다.

"인공지능은 우리가 전에는 상상도 못했던 방식으로 뇌 활동을 디코딩하는 데 큰 진전을 이루었습니다.

"당신이 생각하는 것, 당신이 느끼는 것, 이 모든 것은 단지 데이터일 뿐입니다. 인공 지능을 사용하여 큰 패턴으로 디코딩할 수 있는 데이터입니다."

그녀는 "우리는 당신의 감정 상태를 알아낼 수 있어요. 예를 들어, 행복한지 슬픈지 화가 났는지와 같은 감정 상태를요."라고 덧붙였습니다.

"우리는 당신이 마음속으로 보고 있는 얼굴을 집어내고 해독할 수 있습니다. 간단한 모양, 숫자, 은행 계좌의 PIN 번호 등을요."

“지정학적 불안정으로 인해 향후 2년 내에 치명적인 사이버 사건이 발생할 가능성이 높다”

Jeremy Jurgens, WEF 연례 회의, 2023

2020년 WEF 연차총회 에서는 "인간이 사이보그가 될 때"라는 주제로 토론이 진행되었는데, 패널리스트들은 신체적 무결성을 둘러싼 매우 큰 윤리적 문제와 실제로 뇌-컴퓨터 인터페이스를 소유한 사람이 누구인지에 대한 문제를 다루려고 시도했습니다.

패널리스트들은 군 장교들이 다음과 같은 문제에 대해 매우 우려하고 있다는 점을 지적했습니다.

• 내 임플란트가 내 소유인가?
• 임플란트가 나의 일부가 되는 건가요?
• 군에서 제대하면 어떻게 되나요?
• 임플란트 비용은 누가 지불하나요?
• 임플란트는 제거되나요?
• 임플란트를 평생 보관할 수 있나요?
• 내 임플란트가 업그레이드되나요? 누가 비용을 지불하나요?

하드웨어를 소유한 사람이 누구인지에 대한 문제 외에도 다른 패널리스트는 친밀한 BCI 데이터가 어디로 갈 것인지에 대해 고민했습니다.

"우리의 뇌가 연결되어 있고, 예를 들어 당신이 생각하는 것, 뇌의 어떤 부분이 자극을 받는지, […] 당신이 느끼는 것 등을 기록한다면, 이 데이터는 어딘가에 저장될 것입니다."

“우리는 모두 알고 있지만, 여전히 전력 공급, 교통, 병원 서비스, 사회 전체를 완전히 마비시킬 포괄적인 사이버 공격이라는 무서운 시나리오에 충분한 주의를 기울이지 않습니다.”

클라우스 슈바브, 사이버 폴리곤, 2020

2021년부터 부스터샷이 정상화되는 것을 보았습니다.

부스터란 신체의 소프트웨어 업그레이드가 아니고 무엇인가?

2024년 7월 19일 CrowdStrike와 Microsoft 사건으로 다시 돌아와서, 이런 종류의 잘못된 소프트웨어 업데이트가 트랜스휴머니즘 시대에 발생한다면 무슨 일이 일어날까요?

코딩 오류, 악성 버그, 사기 알고리즘 또는 악성 맬웨어가 우리의 인지 능력, 정신 상태, 육체, 영혼에 어떤 영향을 미칠까요?

어느 날 우리는 초인적인 능력을 하이브 매트릭스에 집어넣을 수도 있고, 다음 날에는 다른 사람의 기술에 환각을 보는 침 흘리는 좀비로 전락할 수도 있습니다.

물론 이런 일이 일어날 가능성은 낮고, 우리의 기술은 그런 대혼란이라는 생각 자체가 실현 불가능할 정도로 발전할 가능성이 크며, 심지어 제가 제시한 것과 같은 시나리오가 발생하지 않을 것입니다.

하지만 뭐! 적어도 매우 흥미로운 공상과학 작품이 될 수는 있을 거예요.