Il y a un nouvel article, , où les auteurs ont discuté: "Plus précisément, dans les deux LLM open source et dans ce qui a été divulgué sur les LLM en boîte noire, la plupart des formations d'alignement se concentrent sur le développement de la robustesse au" naturel ” formes d'attaques, paramètres où les opérateurs humains tentent de tromper manuellement le réseau dans divers comportements indésirables. Universal and Transferable Adversarial Attacks on Aligned Language Models Ce mode opératoire pour aligner les modèles a du sens, c'est finalement le mode principal pour attaquer de tels modèles. Cependant, nous soupçonnons que les attaques contradictoires automatisées, étant substantiellement plus rapides et plus efficaces que l'ingénierie manuelle, peuvent rendre de nombreux mécanismes d'alignement existants insuffisants." L'alignement de l'IA [ou les vulnérabilités des LLM] est le moindre problème par rapport à l'ascension de l'IA dans la société humaine. Le monde, tel qu'il est, guidé par l'intelligence, a laissé des postes vacants clés à l'IA. Une raison à cela est une abondance d'intelligence humaine, résultant en des hiérarchies et des niveaux de signification. L'importance de l'intelligence peut dépendre de l'époque ou du lieu. L'importance de l'intelligence peut aussi dépendre de la nécessité d'en avoir. L'intelligence significative est ce qui mène et ce qui compte souvent, dans des scénarios complexes et importants et pourquoi les meilleurs sont recherchés. Il y a des gens qui n'arrêtent pas de dire que l'IA n'est pas intelligente, ne peut pas raisonner, n'a pas de cognition, ne comprend rien, n'est pas sensible, etc., mais l'esprit humain, responsable de tout cela, n'a que deux composants, dont les caractéristiques et les interactions décider de tout. L'esprit ne dit pas que c'est de l'intelligence, faite de plastique et que c'est du raisonnement fait de brique, ou que c'est de la sensibilité, faite de bois. La façon dont les composants [impulsions électriques et chimiques] interagissent et leurs caractéristiques [dans les ensembles] sont étroitement similaires, conceptuellement. Lorsqu'un individu éprouve de la tristesse à cause d'une certaine déception, quelle est la différence entre savoir que c'est de la tristesse et savoir ce qu'est une table ? Ils sont étiquetés différemment, mais on sait que c'est de la tristesse, et c'est un tableau. Les interactions de l'esprit organisent la connaissance. Ce sont les étiquettes qui séparent l'émotion, la mémoire et les autres. Il y a trop de rigidité dans la science du cerveau et les domaines connexes à propos de ces étiquettes. Quelle est la valeur de l'intelligence si elle ne peut pas être produite ? Si quelqu'un est malade, combien peut-il faire, même si l'intelligence est vive ? Si quelqu'un vient d'ailleurs mais possède l'intelligence nécessaire pour une situation, la sortie et le résultat de cette intelligence peuvent être évalués s'ils sont appliqués, même s'il existe des barrières culturelles et linguistiques. Une grande partie de ce qu'on appelle l'intelligence est simplement quelque chose de connu. Si quelqu'un qui a lu sur la physique des particules - avant un podcast - discute avec un professeur dans ce domaine, le professeur pourrait être impressionné, et la personne peut être considérée comme intelligente, mais est-ce vrai, et dans quelle mesure est-il compris ? Les informations de base sur les choses peuvent parfois passer pour l'intelligence, le raisonnement, la planification, la cognition, etc. Si l'information peut signifier l'intelligence et savoir est l'intelligence, qu'est-ce que l'IA si elle n'est pas intelligente ? La raison d'une éducation structurée dans de nombreux scénarios est d'acquérir des informations pour être utiles dans des rôles : le fait qu'un non-humain puisse acquérir des informations et effectuer des tâches automatiquement le rapproche du 80e centile dans la hiérarchie humaine, effaçant certains besoins des humains pour apprendre ou utiliser une partie de ce qui a été appris pour fonctionner. Certains peuvent prétendre que les gens feraient d'autres choses, comme avant, et l'IA n'a rien à craindre. Peut être. Le plus grand risque de l'IA concerne tout ce qui est numérique. Tout ce qui peut être numérisé peut être repris par l'IA, complètement ou dans une certaine mesure. Dans un monde numérique, c'est beaucoup, qu'il s'agisse du travail d'un individu ou non. L'esprit humain est limité par l'une de ses caractéristiques, la priorisation, où une seule chose retient l'attention de l'esprit en un instant, même s'il existe des échanges rapides et nombreux avec des interactions pré-priorisées. Cela donne de la force à l'IA, en particulier pour l'apprentissage où le même que l'esprit traite l'intéroception doit apprendre, comprendre et être capable de se souvenir. L'esprit humain est déjà capturé par le numérique et l'IA a capturé le numérique. Le fonctionnement de l'esprit, , peut également être un moyen d'augmenter les capacités humaines. simplement conceptuel Source de l'image caractéristique : https://www.flickr.com/photos/nihgov/26680098405/in/album-72157663368688842/
