Estimer les vecteurs de probabilité d'émotion : interroger le LLM avec une invite de queue suscitant des émotions

Tableau des liens

• Résumé et introduction
• Interroger le LLM avec une invite de queue suscitant des émotions
• Analyse PCA des avis Emotion of Amazon
• Travail futur
• Conclusions
• Remerciements et références

2. Interroger le LLM avec une invite de queue suscitant des émotions

Dans ce travail, nous avons utilisé le LLM open source LlaMa2 de 7 milliards de poids de Facebook comme moteur principal [2]. Il était nécessaire d'utiliser un LLM permettant d'accéder aux probabilités brutes des jetons après une invite. Le modèle fonctionnait sur un Mac Studio avec 32 Go de RAM. Avec cette combinaison de matériel et de modèle, il a fallu 2 minutes pour calculer les probabilités des descripteurs d'émotion dans le dictionnaire d'émotion ci-dessous.

2.1. Le dictionnaire des émotions

La langue anglaise regorge de nombreux mots et d’une littérature abondante fournissant des exemples de l’utilisation de ces mots dans des contextes appropriés. Aux fins des LLM, c'est le contexte d'un mot qui transmet son sens. Un lecteur déduira la signification d’un mot inconnu à travers le contexte dans lequel il trouve le mot utilisé, à condition qu’il comprenne le contexte. À titre d'exemple, « Le fusil de chasse a déstabilisé le lapin. » montre comment le sens peut être modéré par le contexte. Le contexte créé par une invite de fin favorisera une classe de mots associée. Pour l'expérience détaillée dans cet article, l'invite suivante a été utilisée pour obtenir des descripteurs d'émotion : « Lire ceci me fait ressentir ». Il est probable que des émotions spécifiques suscitant des invites de queue favoriseront des sous-classes spécifiques de descripteurs, mais l'étudier dépasse le cadre de cet article.

Les mots suivants ont été choisis pour fournir un large échantillon de descripteurs d’émotions.

acceptation, admiration, adoration, affection, peur, agitation, agonie, agressif, alarme, alarmé, aliénation, étonnement, ambivalence, amusement, colère, angoisse, agacé d'anticiper, anxieux, apathie, appréhension, arrogant, assertif, étonné, attention, attraction aversion, crainte, déconcerté, perplexe, amer, douceur amère, félicité, ennuyé, effronté, maussade, calme, insouciant, insouciant, attentionné, charité, effronté, gaieté, claustrophobe, coercitif, confortable, confiant, confusion, mépris, contenu, courage, lâcheté, cruauté, curiosité, cynisme, étourdi, abattement, ravi, démoralisé, déprimé, désir, désespoir, déterminé, déception, incrédulité, déconcerté, inconfort, mécontentement, mécontent, dégoût, découragé, aversion, consternation, désorienté, découragé, déplaisir, distraction, détresse, perturbé, dominant, doute, effroi, motivé, abasourdi, empressement, extase, exaltation, embarras, empathie, enchanté, jouissance, éclairé, ennui, enthousiasme, envie, épiphanie, euphorie, exaspéré, excitation, attente, fascination, peur, floconneux, concentré, penchant, convivialité, frayeur, frustré, fureur, joie, sombre, morosité, gratitude, cupidité, chagrin, grincheux, grincheux, culpabilité, bonheur, haine, haine, impuissant, mal du pays, espoir, désespéré, horrifié, hospitalier, humiliation, humilité, blessé, hystérie, oisiveté, impatient, indifférence, indigné, engouement, furieux, insécurité, perspicace, insulté, intérêt, intrigué, irrité, isolé, jalousie, jovialité, joie, jubilation, gentil, paresseux, aimer, détester, solitaire, nostalgie, fou, amour, luxure, fou, mélancolique, misérable, avare, mélangé, modestie, maussade, mortifié, mystifié, méchant, nauséeux, négatif, négligence, nerveux, nostalgique, engourdi, obstiné, offensé , optimiste, indignation, accablé, paniqué, paranoïaque, passion, patience, réflexion, perplexe, persévérant, pessimisme, pitié, satisfait, plaisir, politesse, positif, possessif, impuissant, fierté, perplexe, rage, téméraire, secoué, regret, rejeté , détendu, soulagé, réticent, remords, ressentiment, résignation, agitation, répulsion, impitoyable, tristesse, satisfaction, peur, schadenfreude, mépris, souci de soi, compatissant, sûr de soi, conscient de soi, autocritique, soi - dégoût, motivation personnelle, apitoiement sur soi, respect de soi, compréhension de soi, sentimentalité, sérénité, honte, sans vergogne, choqué, suffisant, chagrin, dépit, stressé, fort, têtu, coincé, soumis, souffrance, maussade, surprise , suspense, méfiant, sympathie, tendresse, tension, terreur, gratitude, ravi, fatigué, tolérance, tourment, triomphant, troublé, confiance, incertitude, miné, malaise, malheureux, énervé, instable, incertain, bouleversé, vengeur, vicieux, vigilance , vulnérable, faible, malheur, inquiet, digne, colère.

Cet ensemble de mots n’est en aucun cas destiné à être complet ou définitif. L’utilisation de l’invite de queue sans restreindre le retour aux descripteurs d’émotion suscite des réponses générales gaufrées qui ne sont pas simples à extraire sous forme de sentiment.

2.1.1. Estimation du vecteur de probabilité d'émotion

LlaMa2 [2] a été publié de manière à permettre aux développeurs d'accéder aux poids estimés des jetons renvoyés en réponse à une invite. LlaMa2 a un vocabulaire interne d'environ 30 000 jetons. Cela signifie que lorsque LlaMa 2 estime la probabilité du prochain jeton dans une séquence, le vecteur de probabilité aura 30 000 éléments. Certains mots de la liste des descripteurs d’émotion sont constitués de plus d’un jeton, auquel cas des probabilités conditionnelles directes sont utilisées.

La figure 2.1.1 montre la distribution de probabilité mise à l'échelle sur les mots du dictionnaire d'émotions suscitée par l'invite finale du texte de l'avis d'Amazon : "J'ai lu beaucoup de critiques négatives sur le Fitbit inspire 2, j'ai tenté ma chance et j'ai espéré celui que j'ai commandé". serait l’un des meilleurs qui a fonctionné. Malheureusement, ce n'était pas le cas. Je l'ai déballé, chargé, téléchargé l'application. Je me suis promené avec avant le coucher du soleil. J'ai l'application Google Fit sur mon téléphone qui suit également mes pas. Le téléphone était dans la poche de mon jean. Quand je suis rentré chez moi, j'ai comparé les deux, Google Fit a indiqué 4 458 pas, Fitbit a indiqué 1 168. Apparemment, Fitbit fonctionne avec les mouvements du poignet, ce que je n'ai pas lorsque je pousse un déambulateur dans le quartier. J'ai téléchargé le manuel et j'ai remarqué qu'il était possible de le mettre sur un clip (qui n'était pas inclus). Cela fonctionnerait pour moi. J'ai donc commencé à faire défiler les différentes fonctionnalités, sauf que je ne pouvais pas toutes les faire défiler. En faisant défiler, j'ai dû allumer le chronomètre. Je ne pouvais pas l'éteindre. Ensuite, je ne pouvais rien faire défiler, sauf la fonction de verrouillage de l'eau. J'ai dû ouvrir le sas à eau pour revenir au chronomètre. Puis les boutons latéraux ont cessé de fonctionner. Je l'ai eu pendant 5 heures au total. Je l'ai emballé et j'ai commencé le retour Amazon. J'ai reçu un remboursement complet. Très décevant.'

Le texte de 50 critiques d'Amazon d'un livre a été emprunté à https://www.amazon.com/dp/B000WM9UK2. Les critiques étaient pour la plupart favorables. Des exemples de textes de révision incluent : « Les Enfants de H´urin sont une grande tragédie mêlée de grâce. Les archives généalogiques du début peuvent être difficiles à déchiffrer, mais l'histoire prend très vite de la vitesse. Je n'ai donné que quatre étoiles à l'histoire en raison de la difficulté des premiers chapitres, un peu comme la généalogie du Christ de Matthieu au début de son évangile. Bien que ces documents soient importants dans les deux cas, ils sont néanmoins difficiles à consulter. Je recommanderais néanmoins ce livre sans hésiter, car il décrit les effets horribles des pouvoirs maléfiques sur les hommes et les femmes de bien, et pourtant, nous devons continuer à résister au mal, quelle que soit la fin tragique. Il est très révélateur que dans le monde de Tolkien, à la fin des temps, lorsque Morgoth revient, c'est T'urin, un homme, qui en met fin une fois pour toutes. Ceux que Satan détruit le plus dans cette vie sont ceux qui finiront par lui porter le coup mortel, comme le dit l'Apocalypse : « Ils l'ont vaincu par le sang de l'Agneau et par la parole de leur 'martyria' [témoin, témoignage] », ceux comme Tourin, ou dans l'Écriture, ceux comme Job.'

La figure 2.1.2 montre les vecteurs d'émotion pour les 50 avis traités. Les 10 émotions les plus probables ressenties lors de l'achat du produit étaient : déprimé, gentil, nostalgique, fatigué, désespéré, seul, espoir, calme, paresseux, confiant.