Саяхан Лекс Фридман Anthropic AI-ийн Дарио Амодей, Аманда Аскелл, Крис Ола нартай таван цагийн подкаст хийсэн. https://www.youtube.com/watch?v=ugvHCXCOMm4&t=9578s&embedable=true Дарио хиймэл оюун ухааныг хөгжүүлэх алсын харааны тухай нэлээд урт нийтлэлээ нийтэлснийхээ дараа Лекстэй хийсэн бусад Антропик гишүүдтэй хийсэн ярианы гол сэдэв нь эдгээр сэдвүүдийг хөндөж байснаас хойш энэ тухай улам бүр өргөжүүлсээр ирсэн. "Хайрын нигүүлслийн машинууд" хэмээх Надаас дутуу тэнэг хүмүүсийн хувьд AI-ийн тэргүүлэгч багийн хуваалцах ёстой гол санааг нэгтгэн дүгнэх нь сайхан байх болно гэж бодлоо. Энэ намар Claude 3.5 Sonnet (Шинэ) гарснаас хойш Anthropic-ийн LLM-ийн ахиц дэвшил нь openAI-ийн o1-ийг урьдчилан харах загвартай ижил түвшинд байгаа нь тодорхой байна. Тэд энэхүү хиймэл оюун ухааны уралдааны тэргүүлэгчдийн тоонд багтдаг бөгөөд энэ нь тэдэнд энэ сэдвээр сайн эрх мэдэл өгдөг. Антропик багийнхны хэлсэн зүйлийг дахин хэлэхээс гадна би 1 жилийн дараа болон одоогоос 5 жилийн дараа хиймэл оюун ухааны практик хэрэглээний ирээдүйд хоёр чухал цаг хугацааны хувьд ямар утгатай болохыг төсөөлөхийг хүсч байна. Би таамаглалаа буруу гэж бодож байна (зүгээр л хэтэрхий олон хүчин зүйл тоглодог) гэхдээ бид цаг хугацааны хувьд "бодит ирээдүйд" гарч ирэх үед энэ текстийг үзэж, сэтгэцийн гимнастик хийх нь хөгжилтэй байдаг гэж би бодож байна. Хэзээ нэмэгдэхийг бид мэдэхгүй ч ОДООГҮЙ Миний хувьд гол санаануудын нэг бол түүний томрох таамаглалын замыг үргэлжлүүлэх нь ирээдүйн үр нөлөөний талаархи үзэл бодол байв (илүү чадварлаг тооцоололтой илүү сайн өгөгдөл шидэх нь загваруудыг илүү ухаалаг болгоно гэсэн санаа). Дарио зүгээр л хуучин бүх техникийг ашиглаж, нэмэлт мэдээлэл нэмэх нь хиймэл оюун ухааныг мэдэгдэхүйц нэмэгдүүлэхэд тийм ч үр дүнтэй биш байж магадгүй гэдгийг сануулж байх шиг байна. Одоогоор хиймэл оюун ухааны лабораторийн гол анхаарал хандуулж байгаа зүйл бол аль хэсгийг томруулахыг ойлгох явдал юм. Түүний үзэж байгаагаар ирээдүйтэй арга замуудын зарим нь (цогц даалгавруудад туршилт, алдааны сургалтанд аргыг ашиглах) эсвэл нэмж оруулах явдал юм. Загваруудад тодорхой домайнуудын сайн, муу хариултуудын жишээг өгснөөр ерөнхий дүрмийг ойлгож, тэдгээрийг арай илүү хэрэглэх болно. синтетик өгөгдөл үүсгэх AlphaGo хамгаалалтын хашлагатай өгөгдлийг - AlphaGo AI-г бие даан сургах арга нь улам бүр түгээмэл болж, загварууд нь шууд эргэх холбоо бүхий нэмэлт нарийн төвөгтэй дасгалуудад хүний чадварыг давах болно (арилжааны боломжтой) 2025 он - AlphaGo бие даан сургах арга барилыг загварт нэгтгэж, даалгавраа дадлага хийхэд хангалттай хугацаа өгвөл хүнд хэцүү практик даалгавруудыг бие даан сайжруулах боломжтой. 2030 он 2. байдалд хандах хандлага нь загвар боловсруулахтай зэрэгцэн хөгжинө Хиймэл оюун ухааны аюулгүй Бие даасан байдал, буруу ашиглах нь хамгийн том эрсдэл юм. Дарио түүний баг шинэ загварыг сургах бүртээ хоёр эрсдэлийг туршиж үздэг тул түүнийг гаргахаас өмнө урьдчилан сэргийлэх арга хэмжээ авдаг гэж мэдэгджээ. (шатрын робот шиг) - эрсдэл учруулахгүй ASL-1 (одоогийн AI загварууд) - зүгээр л google-ээр хайж болохоос илүү эрсдэлтэй мэдээлэл өгдөггүй. ASL-2 (гэм буруутай хүмүүсийн чадварыг нэмэгдүүлэх боломжтой) - загваруудыг гаргахаас өмнө эдгээр системээр дамжуулан кибер, цөмийн, био зэвсгийг идэвхжүүлэхийг нухацтай арилгах шаардлагатай болно. ASL-3 (ASL-3 + автономитоос ухаалаг) - эдгээрийг хэрхэн хянах нь одоогоор тодорхойгүй байгаа бөгөөд сургалтын дараа ийм загварын шинж тэмдэг илэрсэн тохиолдолд л эрсдэлээс ангижрах болно. ASL-4+ - Дарио дараа жил ASL-3 болно гэж найдаж байна. Гарахаас өмнө бүх алдааг (шинэ луйвар эсвэл программ хангамжийн вирус) илрүүлэх боломжгүй тул эдгээр системийг хүний буруугаар ашиглах нь хамгаалалтын хашлагатай байсан ч тохиолдох болно гэдэгт би итгэж байна. 2025 - гэх мэт хиймэл оюун ухааны олон, чадварлаг робот програмууд нь тодорхой чиглэлээр ажилладаг жирийн хүнээс хамаагүй илүү ухаалаг байх болно. Ийм нарийн төвөгтэй системийг буруугаар ашиглахаас бүрэн сэргийлэхэд хэцүү байж болох юм, ялангуяа тэдгээр нь гэмт хэрэгтнүүдэд энгийн ажил хийдэг тохиолдолд. 2030 он Тесла Оптимус роботууд 3. AGI (эсвэл Дариогийн хэлснээр “ ”) он гэхэд хүрч магадгүй хүчирхэг AI 2027 Тэрээр хиймэл оюун ухаан хэр зэрэг ухаалаг болох нь домайнаас хамааралтай байх болно гэдгийг олон удаа давтаж, хиймэл оюун ухааныг хөгжүүлэхэд саад учруулдаг хүчин зүйлс тасралтгүй зогсч байх шиг байна. Логикийн хувьд хүний үүсгэсэн агуулгыг зөв ашигласнаар хүний сэтгэн бодох чадварыг AI эцэст нь хуулбарлах ёстой. Шатар тоглодог компьютер ба AlphaGo-ийн зүйрлэмжээс харахад хиймэл оюун ухаан нь тодорхой ажлуудад хүний чадварыг давж чадах бөгөөд энэ домэйн илүү сайн баримтжуулсан, хатуу байх тусам гүйцэтгэл өндөр байх ёстой. Тиймээс, эцсийн AGI-ийн хамгийн муу хувилбар бол бидний сургалтыг хамгийн их ахиулж чадсан тодорхой салбарт маш сайн чадвартай хүний түвшний сэтгэхүйн AI юм. Үүний нэгэн адил хиймэл оюун ухааны бодит хэрэглээ нь тодорхой салбар нь AI хөгжүүлэгчдээс хэр хол байгаагаас хамаарна. Хөдөө аж ахуйн орчинд эдгээр загваруудыг сайн ашиглахаас илүүтэйгээр код бичихэд туслах шинэ загваруудыг туршиж, дасан зохицох нь тэдэнд илүү хялбар байдаг нь ойлгомжтой. Энэ логикоор бол IT/кодлол, Шинжлэх ухаан, их хотын бизнес, тэгээд л эдийн засгийн бусад хэсгүүд хиймэл оюун ухааны нөлөөг тэр дарааллаар мэдрэх ёстой. - Бид хиймэл оюун ухааны илүү гайхалтай/бие даасан хэрэглээг олж харах болно, ялангуяа техникийн бус бүтээгдэхүүний менежерүүд кодлогчоос тусламж авахгүйгээр код дээр суурилсан төслүүдийг гүйцэтгэх боломжтой кодчилолд. 2025 он - Бизнес бүр хиймэл оюун ухааныг ажлын урсгалдаа ямар нэг байдлаар нэгтгэх болно, хилийн загварууд нь Биологи, Физик, Математик зэрэг салбарт олон тооны шинжлэх ухааны нээлтүүдэд туслах болно. 2030 он Загваруудыг уялдаатай хөгжүүлэхэд чухал болж байна механик тайлбар хийх нь Загварууд нэлээд хурдацтай хөгжиж байгаа ч тэд хар хайрцаг хэвээр үлдэж, яагаад сайн ажиллаж, яагаад муу ажиллаж байгаа нь тодорхойгүй байна. Ихэнхдээ энэ нь ийм загварт өөрчлөлт оруулах / томруулах нь хий үзэгдэл, урьдчилан таамаглах боломжгүй үйлдэл эсвэл хүргэдэг гэсэн үг бөгөөд хөгжүүлэгчид хяналттай загварыг сайжруулахын тулд урьдчилан ойлгохыг хүсдэг. гэнэтийн зан үйлд Антропик нь загвар өмсөгч Клодын "оюун ухаан" дотор юу болж байгааг дүрслэхийн тулд хүчин чармайлтаа зориулдаг. Энэ хандлага нь онолын хувьд Клод яагаад тодорхой хариултуудыг нулимж, сургалтын янз бүрийн аргууд нь энэ мэдрэлийн сүлжээнд бий болсон хэв маягийн өөрчлөлтөд хэрхэн тусалдаг болохыг тайлбарлах ёстой. Дээрээс нь судлах нь зүгээр л хөгжилтэй байдаг. - Шинэ дүрслэл, дэлгэрэнгүй мэдээлэл бүхий Клаудын загварыг илүү дэлгэрэнгүй тайлбарласан тайлбар (энэ мэдээлэл нь Anthropic-ийн өрсөлдөх давуу талыг ашиглахын тулд хэр зэрэг эмзэг байж болохоос хамаарч нийтлэгдсэн, эсвэл үгүй). 2025 - Хэрэв Anthropic-ийн арга барил амжилттай бол хиймэл оюун ухааны томоохон лаборатори бүр өөрийн хиймэл оюун ухааны системийн дотоод газрын зургийг (тайлбар) гаргасан байж магадгүй. Гэсэн хэдий ч, хэрэв энэ арга нь загвар боловсруулахад бодитой нөлөө үзүүлэхгүйгээр хэтэрхий дүрсэлсэн бол 2030 онд механик тайлбарлах чадварыг хэн ч санахгүй ... 2030 он Дүгнэлт Таамаглалаас үл хамааран хиймэл оюун ухааны дараагийн үе шатыг ажиглах нь хөгжилтэй байх болно. Хэрэв 5 жилийн дотор ямар ч хувьсгал гарахгүй бол би сарын 300 долларын OpenAI-ийн захиалгаа цуцлахаар шийдсэн тул энэ нийтлэлийг дахин уншихад ядаж сэтгэл сэргэх болно.
