Beyin-Bilgisayar Arayüzleri Kitlesel Siber Saldırı Riski Altında mı?

Tek bir hatalı yazılım güncellemesi toplumun büyük kesimlerini kapatabiliyorsa, BCI'ların kovan zihni için kendi güncellemelerine ihtiyaç duyduğu transhümanist bir gelecekte neler olabileceğini hayal edin: perspektif

19 Temmuz 2024 sabahı, Windows kullanıcılarını etkileyen bir CrowdStrike güncellemesindeki kodlama hatası olduğu bildirilen bir durum nedeniyle dijital alemin fiziksel dünyayı etkilemesiyle yıkıcı bir kaos ortaya çıktı.

Siber güvenlik firması CrowdStrike'ın yaptığı açıklamaya göre havaalanları, bankalar, sağlık hizmetleri ve büyük haber ağlarının hepsi "Windows ana bilgisayarları için tek bir içerik güncellemesinde bulunan bir kusur" nedeniyle sekteye uğradı ve "bir güvenlik olayı veya siber saldırı" olmadı.

Kötü niyetli bir siber saldırıya gerek kalmadan sadece bir yazılım güncellemesi bu kadar büyük bir kesintiye yol açabiliyorsa, Neuralink gibi beyin-bilgisayar arayüzlerinin (BCI) yaygınlaştığı ve kendi yazılım güncellemelerini gerektirdiği transhümanist bir gelecekte neler olabileceğini hayal edin.

Görünüşte telepatik yeteneklere sahip olarak uyanmak yerine, beyninizdeki çipin size dünyanın dört bir yanındaki havaalanlarında görülen mavi ölüm ekranını verdiğini keşfediyorsunuz.

Yazılım aksamaya devam ettikçe, nöronlarınız BCI'nizin sinir ağında titreşen hatalı bilgileri anlamaya çalışır ve dijital sinyaller, arızalı devreler denizinde düzen bulmaya çalışan yolcuların kendi kendini organize etme çabalarının fiziksel kaosuna benzemeye başlar.

Eğer umut edecek beyin kapasiteniz varsa, umut edebileceğiniz tek şey, beyin çipinizi üreten şirketin ve yazılımı geliştiren şirketlerin, siz tamamen bağlantınızı kesmeden önce sizi tekrar çevrimiçi hale getirebilmesidir.

Belki şanslısınızdır ve sorun nispeten hızlı bir şekilde tespit edilip çözülür, ama ya olmazsa?

"Siber güvenliğin eksikliği, dünya çapında toplumumuz için açık ve acil bir tehlike haline geldi"

Klaus Schwab, Cyber Polygon, 2021

Zamanla donanım bozulur ve yazılımların güncellenmesi gerekir.

Dijital altyapı içindeki merkezileşme ve konsolidasyon devam ederse ve BCI'ların fiziksel ve bilişsel yeteneklerimizi geçersiz kılmasını veya özgür irademizi ortadan kaldırmasını önlemek için uygun adımlar atılmazsa, o zaman bir tür olarak gerçekten kovan zihnine ve uçuruma düşebiliriz.

Artık bedenlerin internetinden beyinlerin internetine doğru gidiyoruz.

RAND Corporation'ın yakın tarihli bir raporunda , " Bir 'bedenler interneti' nihayetinde bir 'beyinler interneti'ne de yol açabilir, yani insan beyinleri doğrudan beyinden beyine iletişimi kolaylaştırmak ve çevrimiçi veri ağlarına erişimi mümkün kılmak için internete bağlanabilir ." denilmektedir.

Ayrıca, “Beyin-bilgisayar arayüzlerindeki gelişmeler, beyinden beyne iletişim teknolojilerinin geliştirilmesine ve bu sayede tamamen yeni kişilerarası iletişim biçimlerinin ortaya çıkmasına yol açabilir.”

İşte beklenen dijital kovan zihni.

Elon Musk, bir gün insanlar ve makineler arasında anıları yükleyip indirebileceğimizi söylüyor.

Bilincinize size ait olmayan bir düşünce veya anı girdiğinde ne olur?

Kendi bilincinize yabancı bir anı girse ne yapardınız? Bunu bilir miydiniz?

"İnsan geliştirme, son kullanıcıların bilişsel güvenliğini tehlikeye atabilir ve insan geliştirme teknolojilerini kullanırken aldıkları bilgilerin güvenilirliğini değerlendirme yeteneklerini etkileyebilir"

RAND Şirketi, Mart 2024

30 Ocak 2019'da rüyamda, beyin çiplerindeki hastalıkların tedavi edildiği bir psikiyatri hastanesini ziyaret ediyordum.

Tarihi biliyorum çünkü hemen ertesi sabah " Guguk Kuşunun Yuvasındaki Übermensch: Yapay Zeka-İnsan Melezlerinde Kötü Amaçlı Yazılım " adında bir hikaye yazıp yayınladım.

O rüyamda katatonik hastaların salyaları akıttığını, oturduklarını ve bilinmeyen bir siber uçuruma baktıklarını gördüm.

Erkekler, kadınlar ve çocukların kendilerini yastıklı duvarlara fırlattıklarını, tekerlekli sandalyelerde çırpındıklarını ve kareli zeminlerde kıvrandıklarını gördüm; beyinlerinden geçenlere anlam veremiyorlar, havada vızıldayan uluyan şeytanlara sarılıyorlar, aslında orada olmayan şeylerin kokusunu alıyorlar ve onları umutsuzluğa sürükleyecek şeyler görüyorlardı.

Rüyayı gördükten sonraki sabah yazdığım hikâyede, “İnsan vücuduna kötü amaçlı yazılım bulaşırsa ne olur?” diye düşündüm. […] Geleceğin hastaneleri bunu düzeltmek zorunda kalacak ama nasıl?”

Hastalar "gerçek" ile yapay zekanın ürettiği halüsinasyon arasındaki farkı anlamayacaklardı.

Uyandığımda, BCI'lar ana akıma girdiğinde karşı önlemlerin muhtemelen çoktan alınmış olacağı sonucuna vardım.

Aksi takdirde, "Hastanelerimiz, hastalıkları Dante'nin Cehennemi'nden veya Ölüler Kitabı'ndan fırlamış gibi görünen kronik implant bozuklukları olan hastaları tedavi ediyor olabilir."

Yaklaşık altı yıl önce kurduğum hayal belki sadece bir hayal ve fantezi olabilir; ancak donanımın kime ait olduğu, sinyallerin nereden geldiği ve nereye gittiği gibi konular, önde gelen bilim insanları, etikçiler ve araştırmacılar arasında gerçekleşen çok gerçek tartışmalardır.

"Düşündüğünüz, hissettiğiniz her şey sadece veridir; yapay zeka kullanılarak büyük desenlerde çözülebilen verilerdir"

Dr. Nita Farahany, WEF Yıllık Toplantısı, 2023

Davos'ta düzenlenen 2023 Dünya Ekonomik Forumu (WEF) Yıllık Toplantısı'nda konuşan Duke Üniversitesi'nden Dr. Nita Farahany, beyniniz için verdiğiniz mücadele hakkında bir sunum yaptı ve şunları söyledi:

"Yapay zeka, beyin aktivitesinin çözümlenmesinde daha önce hiç mümkün olmadığını düşündüğümüz ilerlemelere olanak sağladı.

"Düşündüğünüz, hissettiğiniz her şey yalnızca veridir; yapay zeka kullanılarak büyük desenlerde çözülebilen verilerdir."

"Mutlu, üzgün ya da kızgın mısınız gibi duygusal durumları algılayabiliyoruz" diye ekledi.

"Zihninizde gördüğünüz yüzleri, basit şekilleri, sayıları, banka hesabınızın PIN numarasını seçip çözebiliriz."

“Jeopolitik istikrarsızlık önümüzdeki iki yıl içinde felaket niteliğinde bir siber olayın yaşanmasını olası kılıyor”

Jeremy Jurgens, WEF Yıllık Toplantısı, 2023

2020 WEF Yıllık Toplantısı'nda , panelistlerin beden bütünlüğü ve Beyin Bilgisayar Arayüzü'nün gerçek sahibinin kim olduğu etrafındaki çok büyük etik sorulardan bazılarını ele almaya çalıştıkları "İnsanlar Ne Zaman Sibernetik Organizmaya Dönüşür" başlıklı bir tartışma yapıldı.

Panelistler, askeri yetkililerin şu konularda çok endişeli olduklarını kaydetti:

• İmplantımın sahibi ben miyim?
• İmplantım benim bir parçam mı oluyor?
• Askerden ayrıldığımda ne olur?
• İmplantımın ücretini kim ödüyor?
• İmplantım çıkarılır mı?
• İmplantımı ömür boyu kullanabilir miyim?
• İmplantım yükseltilecek mi? Bunun parasını kim ödüyor?

Donanımın kime ait olduğuna değinmenin yanı sıra, bir diğer panelist özel BCI verilerinin nereye gideceğini de düşündü:

"Beyinlerimiz birbirine bağlıysa ve örneğin ne düşündüğünüzü, beyninizin hangi bölgelerinin uyarıldığını […] ne hissettiğinizi vb. kaydederseniz, bu veriler bir yerde depolanacaktır."

"Hepimiz biliyoruz, ancak hâlâ yeterince dikkat etmiyoruz; elektrik tedarikini, ulaşımı, hastane hizmetlerini ve toplumumuzun tamamını tamamen durduracak kapsamlı bir siber saldırının korkutucu senaryosu"

Klaus Schwab, Cyber Polygon, 2020

2021'den itibaren hatırlatma aşılarının nasıl normalleştiğini gördük.

Vücudun yazılım yükseltmeleri değilse güçlendiriciler nedir?

19 Temmuz 2024'teki CrowdStrike ve Microsoft anına geri dönersek, bu tür hatalı bir yazılım güncellemesi transhümanizm çağında meydana gelirse ne olur?

Bir kodlama hatası, kötü bir yazılım hatası, hileli bir algoritma veya kötü amaçlı bir yazılım bilişsel yeteneklerimizi, zihinsel durumumuzu, fiziksel bedenimizi, ruhumuzu nasıl etkiler?

Bir gün kovan matrisine takılı süper insan yeteneklerimiz olabilir, ertesi gün ise başkalarının teknolojisi üzerinde halüsinasyon gören, salyaları akan zombilere dönüşebiliriz.

Elbette ki, bunun gerçekleşmesi pek olası değil ve teknolojimiz, böyle bir kargaşanın gerçekleşmesi fikrinin gerçekleşmesini veya benim ileri sürdüğüm senaryoların gerçekleşmesini engelleyecek kadar gelişecektir.

Ama olsun! En azından çok ilginç bir bilimkurgu eseri olabilir.