Nini ekoya sima pona AI: Ko interpréter Vision ya CEO Anthropic

Kala mingi te, Lex Fridman abimisaki podcast ya ngonga mitano elongo na Dario Amodei, Amanda Askell, mpe Chris Olah ya Anthropic AI.

Nsima ya kobimisa lisolo na ye kitoko molai na ntina na vision mpo na bokolisi AI “Machines ya Ngolu ya bolingo” , Dario azali kopanzana na yango uta, ndenge moko, ezalaki likambo ya ntina mingi ya lisolo na ye na Lex na bandimi mosusu ya Anthropic kopanzana na mitó ya makambo wana.

Mpo na baoyo bazali moins nerdy koleka ngai, nakanisaki ekozala malamu koloba na mokuse makanisi ya ntina oyo ekipi oyo ya liboso ya AI esengelaki kokabola. Depuis sortie ya Claude 3.5 Sonnet (Nouveau) na automne oyo, ezali clair que progrès ya Anthropic na ba LLMs ezali na par na oyo openAI ezui na modèle na bango ya aperçu o1. Bazali parmi ba leaders na course oyo ya AI oyo epesaka bango bonne autorité na sujet.

A part kozongela oyo elobami na équipe Anthropic, nalingi pe ko fantasser na oyo point moko na moko e impliquer pona avenir ya application pratique ya AI 1 an depuis le 5 ans depuis sikoyo comme deux chronologies importants. Nazali kozela kozala mabe na bisakweli na ngai (bobele makambo mingi mingi na lisano) kasi nakanisi ezali esengo gymnastique mentale mpo na kosala mpe kotala makomi oyo ntango tozali kobima na “avenir ya solo” wana na ntango.

1. Toyebi te tango nini effet ya échelle eko plateau mais NANU TE

   Moko ya ba clés takeaways mpo na ngai ezalaki perspective na ye na ba effets futures ya ko continuer na se na nzela ya hypothèse ya échelle (idée que kobwaka ba données mingi, ya malamu koleka na calcul ya capable mingi ekosala en conséquence que ba modèles ezala mayele). Dario amonani lokola azali kopesa likanisi ete kosalela kaka mayele nyonso ya kala mpe kobakisa ba données mingi ekoki kozala lisusu malamu mingi te mpo na kozwa botomboli ya AI ya ntina. Likambo ya ntina mingi ya ba laboratoires ya AI sikoyo ezali ya kososola eteni nini ya kosala échelle.

   
   

   Ba avenues mosusu oyo elakisaka na makanisi na ye ezali génération ya ba données synthétiques (kosalela approche AlphaGo na formation ya essai et erreur pona ba tâches complexes) to Kobakisa mingi ya ba données garde-railed c.a.d. kopesa ba modèles ba exemples ya ba réponses ya bien na ba réponses ya mabe pona ba domaines spécifiques po e comprendre ba règles générales pe e appliquer yango un peu mieux.

   
   

   • 2025 - approche ya auto-formation ya AlphaGo AI ekokoma mingi mpe ba modèles ekoleka makoki ya moto na ba exercices complexes supplémentaires oyo ezali na boucle ya retour presque immédiate (peut-être commerce)

   • 2030 - approche ya auto-formation ya AlphaGo ekokaki kozala généralisée na ba modèles na ndenge ete ba se améliorer na ba tâches pratiques difficiles tango bapesi bango temps suffisant pona ko pratiquer mosala.

     
     

     2. Ndenge ya kosala mpo na bokengi ya AI ekokola pembeni ya bokeli modèle

   
   

   

Autonomie mpe kosalela yango na ndenge ya mabe ezali makama minene.

Dario alobi que équipe na ye ezali ko tester ba risques nionso mibale chaque fois que ba former modèle ya sika po ba créer ba préventions avant ba bimisa yango.

ASL-1 (lokola bot ya échecs) - epesaka ba risques te

ASL-2 (modèles AI actuels) - epesaka ba informations ya risque mingi te koleka oyo ekoki kozala simplement googled.

ASL-3 (ekoki komatisaka makoki ya basali mabe) - cyber, nucléaire, bio arme enablement via ba systèmes wana ekosengela kozala nerfed gravement avant ba modèles ebima.

ASL-4+ (Smarter que ASL-3 + autonome) - ezali clair te ndenge nini oyo ekozala contrôlé nanu, ekozala kaka dé-risque tango ezali na ba signes ya modèle ya boye sima ya formation.

• 2025 - Dario azali kozela ASL-3 na mbula ekoya. Nandimi que usage ya mabe ya ba systèmes wana ekosalema malgré ba guardrails lokola ekozala possible te ya kokanga ba bugs nionso avant sortie (ba escroqueries ya sika to ba virus logiciels).

• 2030 - applications robotiques multiples & capables ya AI par exemple ba robots Tesla Optimus , AI ekozala à la fois embodied mpe mosika mayele koleka mutu moyen na ba domaines spécifiques. Ekoki kozala mpasi mpo na kopekisa mpenza kosalelama mabe ya bibongiseli ya mindɔndɔmindɔndɔ ndenge wana, mingimingi na makambo oyo esalaka misala ya mokolo na mokolo mpo na bato oyo basalaka makambo ya mabe.

  
  

  3. AGI (to na maloba ya Dario “ AI ya nguya ”) ekoki kokóma na mobu 2027

  
  

  Azongeli mbala ebele que ndenge nini AI ekokoma mayele ekozala dépendant ya domaine mpe que ba bloqueurs ya développement ya AI emonani lokola ezali kotika continuellement. Na lolenge ya mayele, na kosaleláká malamu makambo oyo bato basali, nsukansuka AI esengeli kozongela makoki ya bato ya kokanisa. Na analogie ya ba ordinateurs oyo ezo jouer échecs & AlphaGo, ezali clair que na ba tâches spécifiques AI ekoki koleka ba capacités ya mutu et plus mieux documenté et rigide domaine oyo, plus performance esengeli ezala plus haut. Donc, scénario ya mabe ya AGI ya suka ezali AI ya raisonnement na niveau humain oyo ezali na ba capacités superbes na ba domaines spécifiques esika tozalaki na makoki ya ko avancé formation na yango mingi.

  
  

  Ndenge moko mpe, bosaleli ya solo ya AI ekolanda ndenge nini industrie spécifique ezali mosika na ba développeurs ya AI. Ezali polele ete ezali pete mpo na bango komeka mpe kobongisa ba modèles ya sika mpo na kosalisa na kokoma code na esika ya kosalela malamu ba modèles wana na esika ya bilanga. Par logique oyo, IT/codage, Science, entreprise ya ville munene, et seulement alors ba parties misusu ya économie esengeli e sentir impact ya AI, na ordre wana.

  
  

  • 2025 - Tokobanda komona ba applications impressionnantes/autonomes mingi ya AI, surtout na codage, esika ba gestionnaires ya produits non techniques bakoki kosala ba projets basés na code sans kosenga lisungi na codeur.

  • 2030 - Mombongo nyonso ekosangisa AI na mosala na bango na lolenge moko to mosusu, ba modèles ya ndelo elingaki kosalisa ebele ya bokutani ya siansi na makambo lokola Biologie, Physique, mpe Mathématiques.

    
    

  4. Interprétabilité mécanique ekomi na tina mingi pona développement ya modèle cohérent

  
  

  Ba modèles ezali ko développer assez rapide mais etikali boîte noire, ezali clair te pourquoi esalaka bien et pourquoi esalaka mabe.

  Mbala mingi yango elakisi ete kosala mbongwana / kosala échelle ya ba modèles ya boye ememaka na ba hallucinations, ba actions imprévisibles, to ba comportements émergents oyo na ndenge ya malamu ba développeurs bakolinga ko comprendre d’avance mpo na kosala ba améliorations ya modèle contrôlé.

  
  

  

  
  

  Anthropic epesa milende mpo na kolimbola oyo esalemaka mpenza na kati ya “makanisi” ya modèle na bango Claude. Approche oyo, na théorie, esengeli kolimbola pourquoi Claude a sopa ba réponses mosusu mpe ndenge nini ba méthodes différentes ya formation esalisaka ba changements na ba modèles oyo ezuaka généré na kati ya réseau neuronal oyo. Likolo, ezali kaka esengo ya kotalatala.

  
  

  • 2025 - Interprétation descriptive plus complète ya modèle Claude, na ba visualisations ya sika pe ba détails (ebimisami to te selon ndenge info oyo ekoki kozala sensible pona avantage concurrentiel ya Anthropic).

  
  

  • 2030 - Soki approche ya Anthropic elongi, laboratoire nionso ya AI ya munene ekoki kozala esali carte interne ya ba systèmes AI na bango (interpré). Kasi, soki approche oyo e prouver trop descriptive sans impact ya solo na développement ya modèle, mutu moko te ako rappeler sur interprabilité mécanique na 2030...

Maloba ya nsuka

Indépendamment ya ba prédictions, ekozala esengo kotala phase oyo ekolanda ya AI. Et, soki révolution moko te esalemi vraiment na 5 ans, Ekozala au moins ko refresher kotanga lisusu article oyo lokola na suka pona ko annuler abonnément OpenAI na ngai ya alors $300/mois.