Yon antite ASI ta gen pouvwa cosmic - refize li se twonpe tèt li.

Pi gwo pouvwa pase zam nikleyè

USA a dènyèman te etabli yon komite ki te pwopoze AGI kòm pwochen pwojè Manhattan nan mond lan e ke reyalize AGI se objektif ki pi enpòtan ke limanite genyen kounye a.

Mwen kwè, nan fon kè m, yo gen rezon.

Rete, Thomas, ou ta ka di.

Ou gen anpil atik-plis pase dis pou pi piti-dedye a danje a nan AGI ak sa ki ka rive si AI genyen men an gwo sou limanite.

Poukisa ou chanje pozisyon ou kounye a?

Paske mwen pa panse AGI se dè dekad lwen.

Mwen santi li ka vin yon reyalite nan 5 ane. Oswa mwens.

Men, mwen reyalize yon sèl bagay.

AGI, ak AI ke yo te pèmèt yo amelyore tèt li, pral lakòz ASI. (Lwa Echèl Eksponansyèl)

Yon AI ak yon entèlijans siperyè ak èt imen.

Wè modèl moun pa janm ka wè.

Viv toutotan yon sous pouvwa egziste.

Desantralize, distribye, yon antite ki gen tout pouvwa sou Entènèt mondyal la.

Kisa peyi ki rive premye etap enpòtan sa a e ki toujou gen kontwòl ASI a ta ka fè?

Ramifikasyon yo nan reyalize ASI

Sipoze yon peyi reyalize AGI an premye.

Lè sa a, AGI bati sou tèt li reyalize ASI. (lwa kwasans teknolojik eksponansyèl)

Ki sa ki ta kapasite yon antite konsa?

Kraze nan chak sistèm chifreman sou entènèt - moso gato.

Aksè sou entènèt kòd lansman nikleyè nan chak peyi sou planèt la - fasil.

Kopi kopi tèt li epi kreye yon nouvo espès lavi - tout nan travay yon jou.

Geri tout maladi epi kreye vaksen pou kansè ak SIDA - bagay ki sèten!

Kreye yon rezèv enèji kontinuèl - pa gen okenn pwoblèm.

Bati yon sistèm klon ki ta ansanm pou avanse peyi sa a nan teknoloji ki pi avanse nan mond lan - fasil-peasy.

Avèk lame sa a nan robo entèlijan, ranplase tout travay manyèl imen - fini!

Dekouvèt nan syans materyèl, chanjman nan klima, medikaman, rechofman planèt la, medikaman pèsonalize, ipè-reyèl mond vityèl - posiblite yo se intèrminabl.

Lè sa a, kisa ki anpeche nou bati li?

Risk yo trè reyèl.

Risk yo enkwayab nan ASI

Yon ASI ta ka konsidere ke moun yo se yon menas pou tèt li.

Li ta ka deside ke objektif yo nan imen yo pa aliman ak pwòp objektif li yo epi li deplase pou elimine limanite nèt.

Sa a se pa yon fim Sci-Fi, nou te deja wè sa rive nan kèk fonksyone byen robo nan Japon.

Epi ki jan nou ta ka sispann yon moun ki pi entèlijan pase tèt nou?

Sa ta enposib.

Ak nan kou:

Pèt travay pou limanite yo pral absoli.

Chak moun - eksepte sa yo ki opere ASI a - pral soti nan yon travay.

Pouvwa sa a ke yo te santralize nan men yo nan yon sèl peyi oswa konpayi ka mennen nan konsekans katastwofik.

Osi lontan ke listwa te egziste, yon sèl lwa te pèsiste - evolisyon.

Fòm lavi enferyè yo disparèt lè yon fòm lavi siperyè vin genyen.

Siviv nan pi bon an.

Yon prensip inevitab - soti nan yon avni inevitab.

Lè sa a, poukisa nou kouri vin jwenn li ak tout fòs nou?

Pespektiv optimis la

Si nou bati bon garanti yo -

Si ray gad yo an plas -

Si ASI a ka pwograme pou konsidere lavi moun pi enpòtan pase pwòp li yo -

Ras imen an ta ka fleri tankou pa janm anvan.

Vòl espas? Fè.

Koloni Mas ak Lalin nan? Avèk klonaj ASI ki konstwi yo, ak yon rezèv enfini nan klonaj sa yo ki ka fè.

Warp motè ki retresi espas ki la devan yo epi vwayaje parèt pi vit pase limyè - posib.

Dezas ekolojik ka anpeche.

Rechofman planèt la ka ranvèse.

Òdinatè kwantik ka vin reyalite.

Revni Inivèsèl Debaz (UBI) ka aplike.

Ultra-reyalis reyalite vityèl ka kreye.

Limanite te kapab antre nan yon laj lò.

Men, risk yo twò wo! Poukisa nou dwe fè sa?

Paske si nou pa fè sa, yon lòt moun ap fè sa.

Pran Lachin, pou egzanp.

Si Chinwa yo te premye moun ki reyalize AGI/ASI - mwen pa panse yo ta kite tout opòtinite sa yo ale mande charite.

Yo te kapab premye paralize militè yo nan lemonn antye.

Konkeri Latè a tèt li.

Kreye yon mond utopik pou Chinwa yo.

Epi kite lòt peyi yo, prive de teknoloji yo ak zam yo atravè atak cyber sofistike ki gen gwo puisans ak efikasite, viv kòm sitwayen dezyèm klas.

Oswa menm esklav.

Ak Etazini ak lòt peyi dirijan nan mond teknolojik la ta pa gen fòs pou yo sispann yo.

Se konsa nivo pouvwa ke ASI ta pote nan peyi ki premye devlope li-oswa konpayi an.

Si nou pa devlope li an premye - lòt moun pral.

Sa se yon reyalite inevitab.

Sa a se yon reyalite lugubr, men youn ke tout moun dwe fè fas a.

Reprise

Men, Thomas—tout avni terib sa yo ou te pale sou atik ou yo—eske w reyèlman kwè ke yo tout enposib?

Mwen kwè ke yo posib.

Mwen pa pou yon moman panse ke chemen an an sekirite.

Li tèlman danjere ke mwen santi mwen pè yon avni distopik menm kounye a.

Men, si nou pa bati AGI an premye - lòt moun pral.

Nou ka pale sou etik - men ki lè yo te genyen lagè lè yo pale sou etik?

Wi - nou nan yon lagè.

Yon lagè teknolojik ak yon ras teknolojik.

Premye konpayi an ak peyi yo rive jwenn AGI e konsa ASI - ranport.

Men, èske nou ka pwoteje tèt nou lè nou kode etik nan AI ke nou ap bati yo?

Konstriksyon Super Entèlijans ki an sekirite (pa gen okenn ofans entansyon, Ilya!)

1. Asire aliyman ak objektif AI ak objektif imen. Aliyman sa a se kle nan relasyon an antye.
2. Kontenisyon nan bwat sab e petèt pa janm kite AI la lage sou entènèt la jiskaske yo teste konplètman (o konsa nou te panse!).
3. Kad Gouvènans ak politik etik ke chak ASI ta dwe swiv.\
4. Touye switch ki bati nan chak ASI.
5. Sistèm operasyon yo nan ASI a ta ka gouvène pa yon sistèm sipèvizyon ki priyorite egzistans imen sou egzistans ASI.

Natirèlman, lè ASI a ap bati tèt li, li ta ka fasilman neglije tout karakteristik sekirite sa yo-men mwen digress!

Konklizyon

Nou ap viv nan petèt tan ki pi enteresan nan ras imen an.

Pa janm te gen yon tan pi bon pou yo te vivan.

Adolesan yo ap kreye demaraj milyon dola.

Limanite se nan yon pwen enfleksyon.

Èske nou siviv, oswa èske nou pran pa ASI?

Men, nou dwe reyalize AGI an premye, anvan lòt peyi konpetisyon.

Gen yon ti chans pou nou ka ko-egziste.

Epi sou ti chans sa a limanite dwe mete espwa li.

Pa gen lòt fason.

Tout sa ki pi bon pou ou.

Men, si w ap chwazi karyè - chwazi Jenerative AI.

Li reyèlman gen pouvwa a subsumum tout lòt bagay.

Bonjou!