Passo els meus dies construint aplicacions d'IA que converteixin el caos en estructura.Doneu-me un conjunt de dades confús, una mica de lògica empresarial i un model prou poderós, i puc extreure el senyal del soroll. Així que quan volia entendre el que els grans models lingüístics realment comprenen, vaig fer el que qualsevol enginyer faria: vaig executar un experiment. Va entrar en un LLM i li va demanar que analitzés el que volien dir. Poemes Els resultats van ser tècnicament perfectes.El model va identificar l'esquema de rima, va explicar les metàfores, va mapejar la tensió estructural entre conceptes oposats. Però veient que funciona, em vaig adonar que havia comès un error de categoria. El que el model no pot veure Prengui una línia com "Dark Pillar Growth / Shadow Lack." Un LLM pot dir-li que aquestes paraules creen una justaposició de presència i absència, creixement i pèrdua. No pot seure amb el silenciós malestar que aquesta frase crea en un sistema nerviós humà.El significat no està en les paraules mateixes. What it cannot do is feel the specific weight of growth that is shadowed by loss Els poemes no estaven demanant ser decodificats; estaven demanant ser experimentats. El problema que realment importa No es tracta només de poesia, es tracta dels productes que hem construït en el món d'avui d'integració llm omnipresent. Quantes vegades he abordat un problema d'usuari exactament de la mateixa manera que vaig abordar aquest poema? Buscant el que es pot extreure, mesurar, registrar i alimentar en un tauler. sistemes de construcció optimitzats per a mètriques quantificables: taxes d'interès, canals de conversió, temps en pàgina. Ens tornem obsessionats amb el descodificació del comportament de l'usuari.I en el procés, anem desmaiant a l'experiència de l'usuari. Les veritats més importants sobre un producte no es troben en els resultats de les proves A/B. Es troben en les coses que resisteixen la mesura: la frustració subtil de navegar per una interfície confusa. El plaer inesperat quan alguna cosa funciona més intuïtivament del que s'esperava. La confiança construïda per un únic missatge d'error honest. Aquests no són punts de dades, són experiències humanes, i les nostres millors eines sovint són cegues. Què significa això per al que construïm Els sistemes d'IA que estem construint s'avançaran exponencialment en el reconeixement i l'anàlisi de patrons, dominant qualsevol tasca que es pugui dividir en un procés lògic i basat en dades. Però les coses que resisteixen aquesta reducció: la intuïció, el significat, la sensació de confiança; aquestes romanen profundament humanes. La nostra tasca no és només construir decodificadors més potents. És tenir la saviesa per reconèixer el que està més enllà de les dades. Construir sistemes que deixin espai per a les experiències desordenades i no quantificables que fan que la tecnologia val la pena utilitzar. No tot el que importa es pot desxifrar.Algunes coses s'han de viure. I això inclou els productes amb els quals estem demanant a la gent que visqui.
