Ξοδεύω τις μέρες μου δημιουργώντας εφαρμογές τεχνητής νοημοσύνης που μετατρέπουν το χάος σε δομή.Δώστε μου ένα μπερδεμένο σύνολο δεδομένων, κάποια επιχειρηματική λογική και ένα αρκετά ισχυρό μοντέλο και μπορώ να εξαγάγω το σήμα από τον θόρυβο. Έτσι, όταν ήθελα να καταλάβω τι καταλαβαίνουν πραγματικά τα μεγάλα γλωσσικά μοντέλα, έκανα αυτό που θα έκανε οποιοσδήποτε μηχανικός: Έκανα ένα πείραμα. σε ένα LLM και ζήτησε να αναλύσει τι εννοούσαν. Ποιήματα Τα αποτελέσματα ήταν τεχνικά τέλεια.Το μοντέλο προσδιόρισε το σχήμα του ύμνου, εξήγησε τις μεταφορές, χαρτογράφησε τη δομική ένταση μεταξύ αντιθέτων εννοιών. Αλλά βλέποντας το να λειτουργεί, συνειδητοποίησα ότι είχα κάνει ένα σφάλμα κατηγορίας. Τι δεν μπορούσε να δει το μοντέλο Πάρτε μια γραμμή όπως "Σκοτεινή ανάπτυξη πυλώνα / έλλειψη σκιάς." Ένα LLM μπορεί να σας πει ότι αυτές οι λέξεις δημιουργούν μια αντιπαράθεση της παρουσίας και της απουσίας, της ανάπτυξης και της απώλειας. Δεν μπορεί να καθίσει με την ήσυχη δυσφορία που αυτή η φράση δημιουργεί σε ένα ανθρώπινο νευρικό σύστημα.Το νόημα δεν βρίσκεται στις λέξεις. What it cannot do is feel the specific weight of growth that is shadowed by loss Τα ποιήματα δεν ζητούσαν να αποκωδικοποιηθούν, ζητούσαν να βιώσουν. Το πρόβλημα που πραγματικά έχει σημασία Αυτό δεν είναι μόνο για την ποίηση. είναι για τα προϊόντα που χτίσαμε στον σημερινό κόσμο της πανταχού παρούσας llm ολοκλήρωσης. Πόσες φορές έχω προσεγγίσει ένα πρόβλημα χρήστη ακριβώς με τον ίδιο τρόπο που προσεγγίστηκα αυτό το ποίημα; Αναζητώντας αυτό που μπορεί να εξαγοραστεί, να μετρηθεί, να καταγραφεί και να τροφοδοτηθεί σε ένα πίνακα ελέγχου. Γινόμαστε εμμονή με την αποκωδικοποίηση της συμπεριφοράς των χρηστών.Και στη διαδικασία, πηγαίνουμε μούδιασμα στην εμπειρία των χρηστών. Οι πιο σημαντικές αλήθειες για ένα προϊόν δεν βρίσκονται στα αποτελέσματα των δοκιμών A/B. Βρίσκονται στα πράγματα που αντιστέκονται στη μέτρηση: η λεπτή απογοήτευση της πλοήγησης σε μια συγκεχυμένη διεπαφή. Η απροσδόκητη απόλαυση όταν κάτι λειτουργεί πιο διαισθητικά από το αναμενόμενο. Αυτά δεν είναι σημεία δεδομένων, είναι ανθρώπινες εμπειρίες και τα καλύτερα εργαλεία μας είναι συχνά τυφλά σε αυτά. Τι σημαίνει αυτό για αυτό που χτίζουμε Τα συστήματα τεχνητής νοημοσύνης που χτίζουμε θα γίνουν εκθετικά καλύτερα στην αναγνώριση και την ανάλυση των μοτίβων. θα κυριαρχήσουν σε οποιαδήποτε εργασία που μπορεί να χωριστεί σε μια λογική διαδικασία που βασίζεται σε δεδομένα. Αλλά τα πράγματα που αντιστέκονται σε αυτή τη μείωση: η διαίσθηση, το νόημα, η αίσθηση της εμπιστοσύνης - αυτά παραμένουν βαθιά ανθρώπινα. Η δουλειά μας δεν είναι μόνο να χτίσουμε πιο ισχυρούς αποκωδικοποιητές. είναι να έχουμε τη σοφία να αναγνωρίσουμε τι βρίσκεται πέρα από τα δεδομένα. Όχι όλα όσα έχουν σημασία μπορούν να αποκωδικοποιηθούν, μερικά πράγματα πρέπει να ζήσουν. Και αυτό περιλαμβάνει τα προϊόντα με τα οποία ζητάμε από τους ανθρώπους να ζήσουν.
