Πρόσφατα, ο Lex Fridman κυκλοφόρησε ένα πεντάωρο podcast με τους Dario Amodei, Amanda Askell και Chris Olah του Anthropic AI. https://www.youtube.com/watch?v=ugvHCXCOMmm4&t=9578s&embedable=true Αφού δημοσίευσε το αρκετά μακροσκελές άρθρο του σχετικά με το όραμα για την ανάπτυξη της τεχνητής νοημοσύνης ο Dario επεκτείνεται σε αυτό καθώς, επίσης, ήταν το κύριο επίκεντρο της συνομιλίας του με τον Lex με άλλα μέλη της Anthropic που επεκτείνονται σε αυτά τα θέματα. , "Machines of Loving Grace" Για όσους είναι λιγότερο σπασμωδικοί από εμένα, σκέφτηκα ότι θα ήταν ωραίο να συνοψίσω τις βασικές ιδέες που έπρεπε να μοιραστεί αυτή η κορυφαία ομάδα τεχνητής νοημοσύνης. Από την κυκλοφορία του Claude 3.5 Sonnet (Νέο) αυτό το φθινόπωρο, είναι σαφές ότι η πρόοδος της Anthropic στα LLMs είναι ίδια με ό,τι έχει επιτύχει το openAI με το μοντέλο προεπισκόπησης o1. Είναι από τους ηγέτες σε αυτόν τον αγώνα τεχνητής νοημοσύνης που τους δίνει καλή εξουσία στο θέμα. Εκτός από το να επαναλάβω όσα ειπώθηκαν από την ομάδα του Anthropic, θα ήθελα επίσης να φανταστώ τι σημαίνει κάθε σημείο για το μέλλον της πρακτικής εφαρμογής AI σε 1 χρόνο από τώρα και σε 5 χρόνια από τώρα ως δύο σημαντικά χρονοδιαγράμματα. Περιμένω να κάνω λάθος με τις προβλέψεις μου (απλά πάρα πολλοί παράγοντες παίζουν), αλλά νομίζω ότι είναι διασκεδαστικό να εκτελούμε πνευματική γυμναστική και να κοιτάμε αυτό το κείμενο όταν εμφανιζόμαστε σε αυτό το «πραγματικό μέλλον» χρονικά. Δεν ξέρουμε πότε το εφέ κλιμάκωσης θα επιδεινωθεί, αλλά ΟΧΙ ΑΚΟΜΑ Ένα από τα βασικά σημεία για μένα ήταν η άποψή του για τα μελλοντικά αποτελέσματα της συνέχισης της πορείας της υπόθεσης κλιμάκωσης (η ιδέα ότι η παροχή περισσότερων, καλύτερων δεδομένων με πιο ικανούς υπολογισμούς θα κάνει τα μοντέλα αναλόγως πιο έξυπνα). Ο Dario φαίνεται να υπαινίσσεται ότι η απλή χρήση όλων των παλιών τεχνικών και η προσθήκη περισσότερων δεδομένων μπορεί να μην είναι πλέον πολύ αποτελεσματική για τη σημαντική ενίσχυση της τεχνητής νοημοσύνης. Ο κύριος στόχος των εργαστηρίων τεχνητής νοημοσύνης αυτή τη στιγμή είναι να κατανοήσουν ποιο τμήμα να κλιμακωθεί. Μερικές από τις πολλά υποσχόμενες οδούς κατά την άποψή του είναι (εφαρμογή της προσέγγισης στην εκπαίδευση δοκιμών και σφαλμάτων για σύνθετες εργασίες) ή η προσθήκη περισσότερων από τα , π.χ. δίνοντας στα μοντέλα παραδείγματα καλών απαντήσεων και κακών απαντήσεων για συγκεκριμένους τομείς, ώστε να κατανοεί τους γενικούς κανόνες και να τους εφαρμόζει λίγο καλύτερα. η παραγωγή συνθετικών δεδομένων AlphaGo προστατευτικά δεδομένα - η προσέγγιση αυτοεκπαίδευσης AlphaGo AI θα γίνει πιο κοινή και τα μοντέλα θα ξεπεράσουν την ανθρώπινη ικανότητα σε πρόσθετες σύνθετες ασκήσεις που έχουν σχεδόν άμεσο βρόχο ανατροφοδότησης (ίσως συναλλαγές) 2025 - η προσέγγιση αυτοεκπαίδευσης AlphaGo θα μπορούσε να γενικευθεί σε μοντέλα τέτοια ώστε να αυτοβελτιώνονται σε δύσκολες πρακτικές εργασίες όταν τους δίνεται επαρκής χρόνος για την εξάσκηση της εργασίας. 2030 2. Η προσέγγιση για θα αναπτυχθεί παράλληλα με την ανάπτυξη μοντέλων την ασφάλεια της τεχνητής νοημοσύνης Η αυτονομία και η κακή χρήση ενέχουν τους μεγαλύτερους κινδύνους. Ο Dario ισχυρίζεται ότι η ομάδα του δοκιμάζει και τους δύο κινδύνους κάθε φορά που εκπαιδεύει ένα νέο μοντέλο, ώστε να μπορεί να δημιουργήσει προληπτικά μέτρα πριν το κυκλοφορήσει. (σαν σκακιστικό bot) - δεν εγκυμονεί κινδύνους ASL-1 (τρέχοντα μοντέλα τεχνητής νοημοσύνης) - δεν παρέχει πολλές επικίνδυνες πληροφορίες πέρα από αυτές που μπορούν απλά να αναζητηθούν στο google. ASL-2 (μπορεί να αυξήσει τις ικανότητες των παραβατών) - η ενεργοποίηση στον κυβερνοχώρο, τα πυρηνικά, τα βιολογικά όπλα μέσω αυτών των συστημάτων θα πρέπει να νευροποιηθεί σοβαρά για να μπορέσουν να κυκλοφορήσουν τα μοντέλα. ASL-3 (Πιο έξυπνο από το ASL-3 + αυτόνομο) - δεν είναι ξεκάθαρο πώς θα ελέγχονται ακόμη, θα απορριφθούν μόνο όταν υπάρχουν σημάδια ενός τέτοιου μοντέλου μετά την εκπαίδευση. ASL-4+ - Ο Dario αναμένει το ASL-3 το επόμενο έτος. Πιστεύω ότι η ανθρώπινη κακή χρήση αυτών των συστημάτων θα συμβεί παρά τα προστατευτικά κιγκλιδώματα, καθώς δεν θα είναι δυνατό να εντοπιστούν όλα τα σφάλματα πριν από την κυκλοφορία (νέες απάτες ή ιοί λογισμικού). 2025 - πολλαπλές και ικανές ρομποτικές εφαρμογές τεχνητής νοημοσύνης, π.χ. , το AI θα ενσωματωθεί και θα είναι πολύ πιο έξυπνο από έναν μέσο άνθρωπο σε συγκεκριμένους τομείς. Μπορεί να είναι δύσκολο να αποτραπεί πλήρως η κατάχρηση τέτοιων πολύπλοκων συστημάτων, ειδικά σε περιπτώσεις όπου εκτελούν κοσμικές εργασίες για εγκληματίες. 2030 ρομπότ Tesla Optimus 3. Το AGI (ή με τα λόγια του Ντάριο « ») μπορεί να φτάσει μέχρι το ισχυρό AI 2027 Επαναλαμβάνει πολλές φορές ότι το πώς γίνεται η έξυπνη τεχνητή νοημοσύνη θα εξαρτάται από τον τομέα και ότι οι παρεμποδιστές στην ανάπτυξη της τεχνητής νοημοσύνης φαίνεται να σταματούν συνεχώς. Λογικά, χρησιμοποιώντας σωστά το περιεχόμενο που δημιουργείται από τον άνθρωπο, η ικανότητα των ανθρώπων να σκέφτονται θα πρέπει τελικά να αναπαραχθεί από την τεχνητή νοημοσύνη. Με την αναλογία των υπολογιστών που παίζουν σκάκι και του AlphaGo, είναι σαφές ότι σε συγκεκριμένες εργασίες το AI μπορεί να ξεπεράσει τις ανθρώπινες ικανότητες και όσο καλύτερα τεκμηριωμένος και άκαμπτος είναι αυτός ο τομέας, τόσο υψηλότερη θα πρέπει να είναι η απόδοση. Έτσι, το χειρότερο σενάριο ενός ενδεχόμενου AGI είναι η τεχνητή νοημοσύνη συλλογιστικής σε ανθρώπινο επίπεδο, η οποία έχει εξαιρετικές δυνατότητες σε συγκεκριμένους τομείς όπου μπορέσαμε να προχωρήσουμε περισσότερο την εκπαίδευσή της. Ομοίως, η πραγματική εφαρμογή της τεχνητής νοημοσύνης θα εξαρτηθεί από το πόσο μακριά είναι η συγκεκριμένη βιομηχανία από τους προγραμματιστές τεχνητής νοημοσύνης. Σαφώς, είναι ευκολότερο γι' αυτούς να δοκιμάσουν και να προσαρμόσουν νέα μοντέλα για να βοηθήσουν στη σύνταξη κώδικα παρά να κάνουν καλή χρήση αυτών των μοντέλων σε ένα αγροτικό περιβάλλον. Με αυτή τη λογική, η πληροφορική/κωδικοποίηση, η επιστήμη, οι μεγάλες επιχειρήσεις και μόνο τότε τα άλλα μέρη της οικονομίας θα πρέπει να αισθάνονται τον αντίκτυπο της τεχνητής νοημοσύνης, με αυτή τη σειρά. - Θα αρχίσουμε να βλέπουμε πιο εντυπωσιακές/αυτόνομες εφαρμογές τεχνητής νοημοσύνης, ειδικά στην κωδικοποίηση, όπου οι μη τεχνικοί διαχειριστές προϊόντων μπορούν να εκτελούν έργα που βασίζονται σε κώδικα χωρίς να ζητούν βοήθεια από έναν κωδικοποιητή. 2025 - Κάθε επιχείρηση θα ενσωματώσει την τεχνητή νοημοσύνη στη ροή εργασίας της με τον έναν ή τον άλλον τρόπο, τα μοντέλα συνόρων θα είχαν βοηθήσει πολλές επιστημονικές ανακαλύψεις σε τομείς όπως η Βιολογία, η Φυσική και τα Μαθηματικά. 2030 γίνεται πιο σημαντική για τη συνεκτική ανάπτυξη μοντέλων Η μηχανιστική ερμηνεία Τα μοντέλα αναπτύσσονται αρκετά γρήγορα, αλλά παραμένουν ένα μαύρο κουτί, δεν είναι σαφές γιατί λειτουργούν καλά και γιατί λειτουργούν άσχημα. Συχνά αυτό σημαίνει ότι η πραγματοποίηση αλλαγών / κλιμάκωσης τέτοιων μοντέλων οδηγεί σε παραισθήσεις, απρόβλεπτες ενέργειες ή που ιδανικά οι προγραμματιστές θα ήθελαν να κατανοήσουν εκ των προτέρων για να κάνουν ελεγχόμενες βελτιώσεις μοντέλων. εμφανείς συμπεριφορές Η Anthropic αφιερώνει προσπάθειες για να περιγράψει τι πραγματικά συμβαίνει μέσα στο «μυαλό» του μοντέλου τους Claude. Αυτή η προσέγγιση, θεωρητικά, θα πρέπει να εξηγήσει γιατί ο Claude βγάζει ορισμένες απαντήσεις και πώς διαφορετικές μέθοδοι εκπαίδευσης βοηθούν τις αλλαγές στα μοτίβα που δημιουργούνται μέσα σε αυτό το νευρωνικό δίκτυο. Στην κορυφή, είναι απλά διασκεδαστικό να εξερευνήσετε. - Μια πιο ολοκληρωμένη περιγραφική ερμηνεία του μοντέλου Claude, με νέες οπτικοποιήσεις και λεπτομέρειες (δημοσιευμένες ή όχι ανάλογα με το πόσο ευαίσθητες μπορεί να είναι αυτές οι πληροφορίες για το ανταγωνιστικό πλεονέκτημα του Anthropic). 2025 - Εάν η προσέγγιση της Anthropic είναι επιτυχής, κάθε σημαντικό εργαστήριο τεχνητής νοημοσύνης μπορεί να έχει δημιουργήσει έναν εσωτερικό χάρτη των συστημάτων τεχνητής νοημοσύνης τους (ερμηνευόμενος). Ωστόσο, εάν αυτή η προσέγγιση αποδειχθεί πολύ περιγραφική χωρίς πραγματικό αντίκτυπο στην ανάπτυξη μοντέλων, κανείς δεν θα θυμάται τη μηχανιστική ερμηνευτικότητα το 2030… 2030 Σύναψη Ανεξάρτητα από τις προβλέψεις, θα είναι διασκεδαστικό να παρατηρήσετε την επόμενη φάση της AI. Και, αν στην πραγματικότητα δεν συμβεί επανάσταση σε 5 χρόνια, θα είναι τουλάχιστον αναζωογονητικό να ξαναδιαβάζω αυτό το άρθρο καθώς τελικά επιλέγω να ακυρώσω τη συνδρομή μου OpenAI 300 $/μήνα.
