Подвержены ли интерфейсы «мозг-компьютер» риску массовых кибератак?

Если одно неудачное обновление программного обеспечения может вывести из строя огромные слои общества, представьте, что может произойти в трансгуманистическом будущем, когда нейрокомпьютерные интерфейсы потребуют собственных обновлений для коллективного разума: перспектива

Утром 19 июля 2024 года наступил разрушительный хаос, когда цифровая сфера заразила физический мир из-за, как сообщалось, ошибки кодирования в обновлении CrowdStrike, затронувшей пользователей Windows.

Работа аэропортов, банков, служб здравоохранения и крупных новостных сетей была нарушена из-за «дефекта, обнаруженного в одном обновлении контента для хостов Windows», а не «из-за инцидента безопасности или кибератаки», говорится в заявлении компании CrowdStrike , занимающейся кибербезопасностью.

Если всего одно обновление программного обеспечения может вызвать столько сбоев без необходимости злонамеренной кибератаки, представьте, что может произойти в трансгуманистическом будущем, когда интерфейсы мозг-компьютер (BCI), такие как Neuralink, станут широко распространенными и потребуют собственных обновлений программного обеспечения.

Вместо того чтобы пробудиться и обрести, казалось бы, телепатические способности, вы обнаруживаете, что ваш мозговой чип выдает вам синий экран смерти, похожий на те, что можно увидеть в аэропортах по всему миру.

Поскольку программное обеспечение продолжает давать сбои, ваши нейроны пытаются осмыслить ошибочную информацию, пульсирующую через нейронную сеть вашего BCI, и цифровые сигналы начинают напоминать физический хаос пассажиров, пытающихся самоорганизоваться в попытке найти порядок в море неисправных схем.

Единственное, на что вы можете надеяться, если у вас вообще есть возможность надеяться, это то, что компания, которая создала ваш мозговой чип, и компании, которые разрабатывают программное обеспечение, смогут вернуть вас в сеть до того, как вы окончательно отключитесь.

Возможно, вам повезет, и проблема будет выявлена и решена относительно быстро, но что делать, если этого не произойдет?

«Отсутствие кибербезопасности стало явной и непосредственной опасностью для нашего общества во всем мире»

Клаус Шваб, Cyber Polygon, 2021

Со временем оборудование выходит из строя, и программное обеспечение требует обновления.

Если централизация и консолидация в цифровой инфраструктуре продолжатся и если не будут приняты надлежащие меры для обеспечения того, чтобы интерфейсы нейрокомпьютеров не могли подавлять наши физические и когнитивные способности или лишать нас свободы воли, то как вид мы действительно можем скатиться в коллективный разум и в пропасть.

Сейчас мы переходим от Интернета тел к Интернету мозгов.

В недавнем отчете корпорации RAND говорится, что «Интернет тел» может в конечном итоге привести к «Интернету мозгов», то есть к человеческому мозгу, подключенному к Интернету для облегчения прямой коммуникации между мозгами и обеспечения доступа к сетям онлайн-данных ».

Кроме того, «достижения в области интерфейсов мозг-компьютер могут привести к разработке технологий коммуникации мозг-мозг, что приведет к совершенно новым способам межличностного общения».

Это ожидаемый цифровой коллективный разум.

Илон Маск утверждает, что однажды мы сможем обмениваться воспоминаниями между людьми и машинами.

Что происходит, когда в ваше сознание проникает мысль или воспоминание, которые вам не принадлежат?

Что бы вы сделали, если бы в ваше сознание вошло чужое воспоминание, которое вам не принадлежит? Вы бы вообще об этом знали?

«Дополнение человеческих возможностей может подорвать когнитивную безопасность конечных пользователей и повлиять на их способность оценивать достоверность информации, которую они получают при использовании технологий дополнения человеческих возможностей»

Корпорация RAND, март 2024 г.

30 января 2019 года мне приснился сон, что я посетил психиатрическую больницу, где пациентам вживили в мозг чипы для лечения болезней.

Я знаю дату, потому что на следующее утро я написал и опубликовал статью под названием « Сверхчеловек в гнезде кукушки: вредоносное ПО в гибридах искусственного интеллекта и человека ».

В этом сне я видел кататонических пациентов, которые пускали слюни, сидели и смотрели в какую-то неизвестную киберпропасть.

Я видел, как мужчины, женщины и дети бросались на обитые мягкой тканью стены, вертелись на вращающихся стульях и корчились на клетчатом полу, не в силах понять, что происходит у них в голове, как они хватались за воющих демонов, кружащих в воздухе, как они чувствовали запахи, которых на самом деле не было, и как они видели вещи, которые могли бы напугать их до отчаяния.

В рассказе, который я написал на следующее утро после сна, я размышлял: «Что произойдет, если вредоносное ПО будет внедрено в организм человека? […] Больницам будущего придется это исправить, но как?»

Пациенты не будут знать разницы между тем, что «реально», и тем, что является галлюцинацией, созданной искусственным интеллектом.

Проснувшись, я пришел к выводу, что если бы и когда бы нейрокомпьютерные технологии стали общепринятыми, контрмеры, вероятно, уже были бы приняты.

В противном случае «наши больницы могут лечить пациентов с хроническими заболеваниями имплантатов, чьи болезни могут напоминать сцены из «Ада» Данте или «Книги мертвых ».

Моя мечта, приснившаяся мне почти шесть лет назад, может быть всего лишь воображением и фантазией, но мысли о том, кому принадлежит оборудование, откуда поступают сигналы и куда они направляются, являются вполне реальными дискуссиями, которые ведут ведущие ученые, специалисты по этике и исследователи.

«То, что вы думаете, что вы чувствуете — это всего лишь данные — данные, которые в больших объемах можно расшифровать с помощью искусственного интеллекта»

Доктор Нита Фарахани, Ежегодное собрание ВЭФ, 2023 г.

Выступая на ежегодном заседании Всемирного экономического форума (ВЭФ) 2023 года в Давосе, доктор Нита Фарахани из Университета Дьюка выступила с презентацией о битве за ваш мозг, в которой она сказала:

«Искусственный интеллект позволил добиться успехов в расшифровке мозговой активности способами, которые мы раньше не считали возможными.

«То, что вы думаете, что вы чувствуете — это всего лишь данные — данные, которые в больших объемах можно расшифровать с помощью искусственного интеллекта».

«Мы можем улавливать эмоциональные состояния — например, счастливы ли вы, грустите или злитесь», — добавила она.

«Мы можем распознавать и расшифровывать лица, которые вы видите в своем воображении — простые фигуры, цифры, ваш ПИН-код к банковскому счету».

«Геополитическая нестабильность делает вероятным катастрофическое киберсобытие в ближайшие два года»

Джереми Юргенс, Ежегодное собрание ВЭФ, 2023 г.

На ежегодном собрании ВЭФ 2020 года состоялась дискуссия под названием «Когда люди становятся киборгами», в ходе которой участники дискуссии попытались рассмотреть некоторые из важнейших этических вопросов, связанных с телесной неприкосновенностью и тем, кому на самом деле принадлежит интерфейс «мозг-компьютер».

Участники дискуссии отметили, что офицеры вооруженных сил были очень обеспокоены такими вопросами, как:

• Являюсь ли я владельцем собственного имплантата?
• Станет ли мой имплант частью меня?
• Что произойдет, когда я уйду из армии?
• Кто оплатит мой имплант?
• Удалят ли мне имплант?
• Могу ли я сохранить имплантат на всю жизнь?
• Будет ли мой имплант модернизирован? Кто за это платит?

Помимо обсуждения вопроса о том, кому принадлежит оборудование, другой участник дискуссии размышлял о том, куда будут направляться интимные данные BCI:

«Если наши мозги связаны, и вы записываете, например, то, о чем вы думаете, какие области вашего мозга стимулируются […], что вы чувствуете и так далее, — эти данные будут где-то храниться».

«Мы все знаем, но по-прежнему уделяем недостаточно внимания пугающему сценарию всеобъемлющей кибератаки, которая приведет к полной остановке электроснабжения, транспорта, больничных служб, нашего общества в целом»

Клаус Шваб, Cyber Polygon, 2020

Начиная с 2021 года мы увидели, как ревакцинация стала нормой.

Что такое усилители, если не обновления программного обеспечения для организма ?

Возвращаясь к моменту CrowdStrike и Microsoft 19 июля 2024 года, что произойдет, если подобное неисправное обновление программного обеспечения произойдет в эпоху трансгуманизма?

Как ошибка кодирования, серьезный баг, неисправный алгоритм или вредоносная программа могут повлиять на наши когнитивные способности, наше психическое состояние, наше физическое тело, нашу душу?

Однажды мы можем обрести сверхчеловеческие способности, подключенные к матрице улья, а на следующий день мы превратимся в пускающих слюни зомби, галлюцинирующих из-за чужих технологий.

Конечно, это вряд ли произойдет, и наши технологии, скорее всего, будут совершенствоваться настолько, что сама идея подобного хаоса никогда не станет осуществимой, и даже не оправдает те сценарии, которые я предложил.

Но эй! По крайней мере, из этого могло бы получиться очень интересное произведение научной фантастики.