ASI ერთეულს ექნება კოსმიური ძალა - ამის უარყოფა საკუთარი თავის მოტყუებაა.

ბირთვულ იარაღზე დიდი ძალა

ახლახან შეერთებულმა შტატებმა შექმნა კომიტეტი, რომელმაც შესთავაზა AGI, როგორც მსოფლიოს შემდეგი მანჰეტენის პროექტი და რომ AGI-ს მიღწევა არის ყველაზე მნიშვნელოვანი მიზანი, რაც ახლა კაცობრიობას აქვს.

მე მჯერა, ჩემი გულის სიღრმეში, რომ ისინი მართლები არიან.

მოიცადე, თომა, შეიძლება თქვა.

თქვენ გაქვთ უამრავი სტატია - სულ მცირე ათზე მეტი - ეძღვნება AGI-ს საფრთხეს და რა შეიძლება მოხდეს, თუ ხელოვნური ინტელექტი კაცობრიობაზე უპირატესობას მოიპოვებს.

რატომ ცვლი ახლა შენს პოზიციას?

იმიტომ რომ არ მგონია AGI ათწლეულების მანძილზე იყოს.

ვგრძნობ, რომ ეს შეიძლება რეალობად იქცეს 5 წელიწადში. ან ნაკლები.

მაგრამ ერთ რამეს მივხვდი.

AGI და ხელოვნური ინტელექტის გაუმჯობესების უფლება, გამოიწვევს ASI-ს. (ექსპონენციალური მასშტაბის კანონი)

ხელოვნური ინტელექტი ადამიანზე აღმატებული ინტელექტის მქონე.

ნიმუშების დანახვა, რომლებსაც ადამიანები ვერასოდეს ნახავდნენ.

ცოცხალი მანამ, სანამ არსებობს ძალაუფლების წყარო.

დეცენტრალიზებული, განაწილებული, ყოვლისშემძლე ერთეული გლობალურ ინტერნეტში.

რა შეუძლია გააკეთოს ქვეყანამ, რომელიც პირველად აღწევს ამ ეტაპს და ჯერ კიდევ აკონტროლებს ASI-ს?

ASI-ს მიღწევის შედეგები

დავუშვათ, ქვეყანამ პირველმა მიაღწია AGI-ს.

და შემდეგ AGI-მ საკუთარ თავზე აშენებამ მიაღწია ASI-ს. (ექსპონენციალური ტექნოლოგიური ზრდის კანონი)

როგორი იქნება ასეთი სუბიექტის შესაძლებლობები?

გაარღვიე ყველა დაშიფვრის სისტემა ონლაინ - ნამცხვარი.

პლანეტის ყველა ქვეყნის ონლაინ ბირთვული გაშვების კოდებზე წვდომა - მარტივია.

გაიმეორეთ საკუთარი თავის ასლები და შექმენით ცხოვრების ახალი სახეობა - ყველაფერი ერთი დღის სამუშაოში.

განკურნეთ ყველა დაავადება და შექმენით ვაქცინები კიბოსა და შიდსისთვის - რა თქმა უნდა!

შექმენით ენერგიის გაუთავებელი მარაგი - პრობლემა არ არის.

შექმენით კლონების სისტემა, რომელიც ერთად მიიყვანს ამ ქვეყანას მსოფლიოში ყველაზე ტექნოლოგიურად განვითარებულ ქვეყნებამდე - easy-peasy.

ინტელექტუალური რობოტების ამ არმიით, შეცვალეთ ყველა ადამიანის ხელით შრომა - დასრულებულია!

მიღწევები მატერიალურ მეცნიერებაში, კლიმატის ცვლილებაში, მედიცინაში, გლობალურ დათბობაში, პერსონალიზებულ მედიცინაში, ჰიპერრეალურ ვირტუალურ სამყაროებში - შესაძლებლობები გაუთავებელია.

მაშინ რა გვიშლის ხელს მის აშენებაში?

ძალიან რეალური რისკები.

ASI-ს წარმოუდგენელი რისკები

ASI-ს შეუძლია ჩათვალოს, რომ ადამიანი საფრთხეს წარმოადგენს საკუთარი თავისთვის.

მას შეუძლია გადაწყვიტოს, რომ ადამიანების მიზნები არ შეესაბამება მის მიზნებს და გადავიდეს კაცობრიობის მთლიანად მოსპობისკენ.

ეს არ არის სამეცნიერო ფანტასტიკური ფილმი, ჩვენ უკვე ვნახეთ, რომ ეს მოხდა იაპონიაში რობოტების ზოგიერთ გაუმართაობაში.

და როგორ შევაჩეროთ ჩვენზე უფრო ჭკვიანი არსება?

ეს შეუძლებელი იქნებოდა.

და რა თქმა უნდა:

კაცობრიობისთვის სამუშაოს დაკარგვა აბსოლუტური იქნება.

ყველა ადამიანი - გარდა მათ, ვინც მუშაობს ASI-ზე - დარჩება სამსახურიდან.

ასეთი ძალაუფლების ცენტრალიზება ერთი ქვეყნის ან კომპანიის ხელში შეიძლება გამოიწვიოს კატასტროფული შედეგები.

სანამ ისტორია არსებობს, ერთი კანონი არსებობდა - ევოლუცია.

სიცოცხლის დაბალი ფორმები ქრება, როდესაც ჩნდება უმაღლესი ცხოვრების ფორმა.

საუკეთესოს გადარჩენა.

გარდაუვალი პრინციპი - გარდაუვალი მომავლისგან.

მაშინ რატომ მივისწრაფვით მისკენ მთელი ძალით?

ოპტიმისტური პერსპექტივა

თუ ჩვენ ავაშენებთ სწორ დაცვას -

თუ დამცავი რელსები ადგილზეა -

თუ ASI შეიძლება დაპროგრამდეს ისე, რომ ადამიანის სიცოცხლე უფრო მნიშვნელოვანია, ვიდრე საკუთარი -

კაცობრიობა შეიძლება აყვავდეს ისე, როგორც არასდროს.

კოსმოსური ფრენა? შესრულებულია.

მარსის და მთვარის კოლონიები? კლონირებული ASI-ებით, რომლებიც ქმნიან მათ და ამ კლონირების უსასრულო მარაგს.

დაამახინჯეთ ძრავები, რომლებიც ამცირებენ სივრცეს მათ წინ და მოძრაობენ თითქოს უფრო სწრაფად, ვიდრე სინათლე - შესაძლებელია.

ეკოლოგიური კატასტროფების თავიდან აცილება შესაძლებელია.

გლობალური დათბობა შეიძლება შეიცვალოს.

კვანტური კომპიუტერები შეიძლება რეალობად იქცეს.

უნივერსალური ძირითადი შემოსავალი (UBI) შეიძლება განხორციელდეს.

შეიძლება შეიქმნას ულტრა რეალისტური ვირტუალური რეალობა.

კაცობრიობას შეეძლო ოქროს ხანაში შესვლა.

მაგრამ რისკები ძალიან მაღალია! რატომ უნდა გავაკეთოთ ეს?

იმიტომ რომ თუ ჩვენ არ გავაკეთებთ ამას სხვა გააკეთებს.

ავიღოთ ჩინეთი, მაგალითად.

ჩინელები რომ იყვნენ პირველები, ვინც მიაღწიეს AGI/ASI-ს - არ მგონია, რომ ისინი ყველა ამ შესაძლებლობას მათხოვრობისთვის გაუშვებდნენ.

მათ პირველ რიგში შეეძლოთ მთელი მსოფლიოს ჯარისკაცების დასახიჩრება.

დაიპყრო თავად დედამიწა.

შექმენით უტოპიური სამყარო ჩინელებისთვის.

და მიეცით საშუალება სხვა ქვეყნებმა, რომლებსაც მოკლებული აქვთ თავიანთი ტექნოლოგიები და იარაღი დიდი სიმძლავრისა და ეფექტურობის დახვეწილი კიბერშეტევებით, იცხოვრონ როგორც მეორე კლასის მოქალაქეები.

ან თუნდაც მონები.

და აშშ და სხვა წამყვანი ქვეყნები ტექნოლოგიურ სამყაროში უძლური იქნებოდნენ შეაჩერონ ისინი.

ეს არის ძალაუფლების დონე, რომელსაც ASI მოუტანს ქვეყანას, რომელიც პირველად ავითარებს მას - ან კომპანიას.

თუ ჩვენ ჯერ არ განვავითარებთ - ამას სხვები განავითარებენ.

ეს გარდაუვალი ფაქტია.

ეს არის საშინელი რეალობა, მაგრამ ის, რასაც ყველა უნდა შეხედოს.

გამეორება

მაგრამ თომას - ყველა იმ საშინელ მომავალს, რომლებზეც ისაუბრეთ თქვენს სტატიებში - მართლა გჯერათ, რომ ყველა მათგანი შეუძლებელია?

მე მტკიცედ მჯერა, რომ ისინი შესაძლებელია.

ერთი წუთითაც არ ვფიქრობ, რომ წინსვლის გზა უსაფრთხოა.

იმდენად საშიშია, რომ ახლაც ვგრძნობ დისტოპიური მომავლის შიშს.

მაგრამ თუ ჩვენ ჯერ არ ავაშენებთ AGI-ს - ამას სხვები გააკეთებენ.

ჩვენ შეგვიძლია ვისაუბროთ ეთიკაზე - მაგრამ როდის მოიგეს ომები ეთიკაზე საუბრით?

დიახ, ჩვენ ომში ვართ.

ტექნოლოგიური ომი და ტექნოლოგიური რბოლა.

პირველი კომპანია და ქვეყანა, ვინც მიაღწია AGI-ს და ამით ASI-ს - იმარჯვებს.

მაგრამ შეგვიძლია დავიცვათ თავი ეთიკის კოდირებით იმ AI-ებში, რომლებსაც ჩვენ ვაშენებთ?

უსაფრთხო სუპერ დაზვერვის შექმნა (შეურაცხყოფის გარეშე, ილია!)

1. ხელოვნური ინტელექტის მიზნებთან და ადამიანის მიზნებთან შესაბამისობის უზრუნველყოფა. ეს განლაგება არის მთელი ურთიერთობის გასაღები.
2. შეკავება ქვიშის ყუთებში და, შესაძლოა, არასოდეს დაუშვათ ხელოვნური ინტელექტის გაშვება ინტერნეტში სრულ ტესტირებამდე (ო, ასე ვფიქრობდით!).
3. მმართველობის ჩარჩოები და ეთიკური პოლიტიკა, რომელსაც ყველა ASI უნდა დაიცვას.\
4. ყველა ASI-ში ჩაშენებული გადამრთველების მოკვლა.
5. ASI-ის ოპერაციული სისტემები შეიძლება იმართებოდეს ზედამხედველობის სისტემით, რომელიც პრიორიტეტს ანიჭებს ადამიანის არსებობას ASI არსებობაზე.

რა თქმა უნდა, როდესაც ASI თავად აშენებს, მას შეუძლია მოხერხებულად უგულებელყოს ყველა ეს უსაფრთხოების მახასიათებელი - მაგრამ მე ვეუბნები!

დასკვნა

ჩვენ ვცხოვრობთ კაცობრიობის ალბათ ყველაზე საინტერესო დროში.

არასოდეს ყოფილა უკეთესი დრო სიცოცხლისთვის.

თინეიჯერები ქმნიან მილიონდოლარიან სტარტაპებს.

კაცობრიობა გადახრის წერტილშია.

გადავრჩებით თუ ASI-მ გვიკავია?

მაგრამ ჩვენ ჯერ უნდა მივაღწიოთ AGI-ს, ვიდრე სხვა კონკურენტ ქვეყნებს.

არსებობს მცირე შანსი იმისა, რომ ჩვენ ერთად ვიცხოვროთ.

და ამ უმცირეს შანსზე კაცობრიობამ უნდა დაამყაროს თავისი იმედი.

სხვა გზა არ არის.

ყველაფერი საუკეთესო შენთვის.

და თუ თქვენ ირჩევთ კარიერას - აირჩიეთ Generative AI.

მას ნამდვილად აქვს ძალა, დაემორჩილოს ყველაფერს.

გაიხარე!