Як субъекти ASI дорои қудрати кайҳонӣ хоҳад буд - инкор кардани он худашро фиреб додан аст.

Иктидори бузургтар аз яроки ядрой

ИМА ба наздикӣ як кумита таъсис дод, ки AGI-ро ҳамчун лоиҳаи навбатии Манҳеттени ҷаҳон пешниҳод кард ва ноил шудан ба AGI ҳадафи муҳимтаринест, ки ҳоло инсоният дорад.

Ман аз тахти дил бовар дорам, ки онхо дурустанд.

Истед, Томас, шумо метавонед бигӯед.

Шумо мақолаҳои сершумор доред - ҳадди аққал даҳ мақола - ба хатари AGI бахшида шудаанд ва агар AI бар инсоният бартарӣ пайдо кунад, чӣ мешавад.

Чаро шумо ҳоло мавқеи худро тағир медиҳед?

Зеро ман фикр намекунам, ки AGI даҳсолаҳо дур аст.

Ман фикр мекунам, ки он метавонад дар 5 сол ба воқеият табдил ёбад. Ё камтар.

Аммо ман як чизро дарк кардам.

AGI ва AI иҷозат дода мешавад, ки худро такмил диҳад, ба ASI оварда мерасонад. (Қонуни миқёси экспоненсиалӣ)

AI бо зеҳни аз одамон болотар.

Намунаҳоеро дидан, ки одамон ҳеҷ гоҳ дида наметавонанд.

То он даме, ки манбаи қудрат вуҷуд дорад, зинда аст.

Гайримарказонидашуда, тақсимшуда, як воҳиди пурқудрат дар Интернети ҷаҳонӣ.

Кишваре, ки бори аввал ба ин марҳала мерасад ва ҳоло ҳам дар зери назорати ASI аст, чӣ кор карда метавонад?

Натиҷаҳои ноил шудан ба ASI

Фарз мекунем, ки як кишвар аввал ба AGI ноил шуд.

Ва он гоҳ бунёди AGI ба ASI ноил шуд. (қонуни афзоиши экспоненсиалии технологӣ)

Имкониятҳои чунин созмон чӣ гуна хоҳанд буд?

Ҳар як системаи рамзгузории онлайнро рахна кунед - порчаи торт.

Дастрасӣ ба кодҳои ҳастаии онлайни ҳар як кишвари сайёра - осон.

Нусхаҳои худро такрор кунед ва як намуди нави ҳаётро эҷод кунед - ҳама дар кори якрӯза.

Ҳама бемориҳоро табобат кунед ва ваксинаҳо барои саратон ва СПИД эҷод кунед - албатта!

Таъмини беохири энергия эҷод кунед - ҳеҷ мушкиле нест.

Системаи клонҳоро созед, ки якҷоя ин кишварро ба кишвари пешрафтаи технологӣ дар ҷаҳон - easy-peasy пеш баранд.

Бо он артиши роботҳои соҳибақл, иваз кардани тамоми меҳнати дастии инсон - анҷом!

Пешрафтҳо дар илми моддӣ, тағирёбии иқлим, тиб, гармшавии глобалӣ, тибби фардӣ, оламҳои виртуалии гипер-воқеӣ - имкониятҳо беохиранд.

Пас, чӣ моро аз сохтани он бозмедорад?

Хатари хеле воқеӣ.

Хатарҳои бениҳоят ASI

ASI метавонад фикр кунад, ки одамон барои худ таҳдид мекунанд.

Он метавонад қарор кунад, ки ҳадафҳои одамон бо ҳадафҳои худ мувофиқат кунанд ва барои нест кардани инсоният ҳаракат кунанд.

Ин як филми фантастикӣ нест, мо аллакай дидаем, ки ин дар баъзе носозиҳои роботҳо дар Ҷопон рух медиҳад.

Ва чӣ гуна мо метавонем аз худамон соҳибақлтарро боздорем?

Ин имконнопазир мебуд.

Ва албатта:

Талафоти ҷойҳои корӣ барои инсоният мутлақ хоҳад буд.

Ҳар як инсон, ба истиснои онҳое, ки ASI-ро идора мекунанд, аз кор хориҷ мешаванд.

Дар дасти як кишвар ё ширкат мутамарказ шудани чунин қудрат метавонад ба оқибатҳои фалокатбор оварда расонад.

То он даме, ки таърих вуҷуд дошт, як қонун – эволютсия боқӣ мондааст.

Ҳангоме ки шакли зиндаи олӣ ба вуҷуд меояд, шаклҳои зиндагии паст аз байн мераванд.

Зинда мондани беҳтаринҳо.

Принсипи ногузир - аз ояндаи ногузир.

Пас чаро мо бо тамоми кувва ба суи он мешитобем?

Дурнамои оптимистӣ

Агар мо кафолатҳои дурустро созем -

Агар рельсҳои муҳофизатӣ ҷойгир бошанд -

Агар ASI барномарезӣ шавад, ки ҳаёти инсонро аз ҳаёти худ муҳимтар мешуморад -

Насли инсон метавонад мисли пештара рушд кунад.

Парвози кайҳон? Иҷро шуд.

Колонияҳои Миррих ва Моҳ? Бо ASI-ҳои клоншуда сохтани онҳо ва захираи беохири он клонҳо имконпазир.

Муҳаррикҳое, ки фосиларо дар пеши худ кам мекунанд ва назар ба рӯшноӣ зудтар ҳаракат мекунанд - имконпазир аст.

Офатхои экологиро пешгирй кардан мумкин аст.

Гармшавии глобалӣ метавонад баръакс шавад.

Компютерҳои квантӣ метавонанд ба воқеият табдил ёбанд.

Даромади Universal Basic Basic (UBI) метавонад амалӣ карда шавад.

Воқеияти виртуалии ултрареалистиро эҷод кардан мумкин аст.

Инсоният метавонад ба асри тиллоӣ ворид шавад.

Аммо хатарҳо хеле баланданд! Чаро мо бояд ин корро кунем?

Зеро агар мо ин корро накунем, каси дигар мекунад.

Масалан, Хитойро гирем.

Агар чиниҳо аввалин шуда AGI/ASI-ро ба даст меоварданд - ман фикр намекунам, ки онҳо ҳамаи ин имкониятҳоро ба гадоӣ гузоранд.

Онҳо аввал метавонистанд аскарони тамоми ҷаҳонро маъюб кунанд.

Худи Заминро забт кунед.

Барои чиниҳо ҷаҳони утопия эҷод кунед.

Ва бигзор кишварҳои дигар, ки аз технология ва аслиҳаи худ тавассути ҳамлаҳои мураккаби киберии дорои тавонмандӣ ва самаранокии бузург маҳруманд, ҳамчун шаҳрвандони дараҷаи дуюм зиндагӣ кунанд.

Ё ҳатто ғуломон.

Ва ИМА ва дигар кишварҳои пешрафтаи ҷаҳони технологӣ барои боздоштани онҳо тавоноӣ надоранд.

Чунин аст сатҳи қудрате, ки ASI ба кишваре, ки онро бори аввал таҳия мекунад ё ба ширкат меорад.

Агар мо онро аввал инкишоф надихем, дигарон.

Ин факти раднашаванда аст.

Ин воқеияти даҳшатнок аст, аммо бо он ҳама бояд рӯ ба рӯ шаванд.

Такрор

Аммо Томас - ҳамаи он ояндаи даҳшатоваре, ки шумо дар мақолаҳои худ дар бораи он гуфта будед - оё шумо дар ҳақиқат боварӣ доред, ки ҳамаи онҳо имконнопазиранд?

Ман боварӣ дорам, ки онҳо имконпазиранд.

Ман як лахза фикр намекунам, ки рохи пеш бехатар аст.

Ин чунон хатарнок аст, ки ман тарси ояндаи дистопияро ҳоло ҳам эҳсос мекунам.

Аммо агар мо аввал AGI насозем - дигарон хоҳанд кард.

Мо метавонем дар бораи ахлоқ сухан гӯем - аммо кай бо сухан дар бораи ахлоқ дар ҷангҳо ғолиб омадаанд?

Бале, мо дар ҷанг ҳастем.

Ҷанги технологӣ ва мусобиқаи технологӣ.

Аввалин ширкат ва кишваре, ки ба AGI ва ба ин васила ба ASI мерасад - ғолиб меояд.

Аммо оё мо метавонем худро тавассути рамзгузории ахлоқ ба АИ-ҳое, ки мо сохта истодаем, муҳофизат кунем?

Эҷоди Super Intelligence Safe (хафа нест, Иля!)

1. Таъмини ҳамоҳангӣ бо ҳадафҳои AI ва ҳадафҳои инсонӣ. Ин ҳамоҳангӣ калиди тамоми муносибат аст.
2. Нигоҳдорӣ дар қуттиҳои қум ва шояд ҳеҷ гоҳ иҷоза надиҳад, ки AI дар Интернет то пурра санҷида шавад (мо ҳамин тавр фикр мекардем!).
3. Чаҳорчӯби идоракунӣ ва сиёсатҳои ахлоқӣ, ки ҳар як ASI бояд риоя кунад.\
4. Калидҳои дар ҳар як ASI сохташударо кушед.
5. Системаҳои оператсионии ASI-ро метавон тавассути системаи назоратӣ идора кард, ки мавҷудияти инсонро нисбат ба мавҷудияти ASI афзалият медиҳад.

Албатта, вақте ки ASI худашро месозад, он метавонад ба осонӣ ҳамаи ин хусусиятҳои бехатариро беэътиноӣ кунад - аммо ман канорагирӣ мекунам!

Хулоса

Мо шояд дар замони ҷолибтарин давраи инсоният зиндагӣ дорем.

Ҳеҷ гоҳ вақти беҳтаре барои зиндагӣ набуд.

Наврасон стартапҳои миллион долларӣ эҷод мекунанд.

Инсоният дар як нуқтаи гардиш қарор дорад.

Оё мо зинда мемонем, ё моро ASI гирифтааст?

Аммо мо бояд аввал ба AGI ноил шавем, пеш аз дигар кишварҳои рақобаткунанда.

Имконияти кам вуҷуд дорад, ки мо метавонем якҷоя зиндагӣ кунем.

Ва инсоният бояд ба ин фурсати ночиз умед бахшад.

Илочи дигар нест.

Ҳама беҳтаринҳо ба шумо.

Ва агар шумо касбро интихоб кунед - Generative AI-ро интихоб кунед.

Он дар ҳақиқат қудрат дорад, ки ҳама чизро дарбар гирад.

Салом!