Há um novo artigo, , onde os autores discutiram: "Especificamente, tanto em LLMs de código aberto quanto no que foi divulgado sobre LLMs de caixa preta, a maioria dos treinamentos de alinhamento se concentra no desenvolvimento de robustez para "natural ” formas de ataques, configurações em que operadores humanos tentam enganar manualmente a rede em vários comportamentos indesejáveis. Universal and Transferable Adversarial Attacks on Aligned Language Models Este modo operativo para alinhar os modelos faz sentido, este é, em última análise, o modo primário para atacar tais modelos. No entanto, suspeitamos que os ataques adversários automatizados, sendo substancialmente mais rápidos e mais eficazes do que a engenharia manual, podem tornar muitos mecanismos de alinhamento existentes insuficientes." O alinhamento da IA [ou as vulnerabilidades dos LLMs] é o problema menor em comparação com a ascensão da IA na sociedade humana. O mundo, como é, impulsionado pela inteligência, entregou vagas importantes para a IA. Uma razão para isso é a abundância de inteligência humana, resultando em hierarquias e níveis de significância. O significado da inteligência pode depender da época ou localização. O significado da inteligência também pode depender da necessidade dela. Inteligência significativa é o que conduz e o que muitas vezes importa, em cenários complexos e importantes e por que os melhores são procurados. Tem gente que vive dizendo que IA não é inteligente, não raciocina, não tem cognição, não entende nada, não é senciente, e assim por diante, mas a mente humana, responsável por tudo isso, tem apenas dois componentes, cujas características e interações decidir tudo. A mente não diz que isso é inteligência, feito de plástico e isso é raciocínio feito de tijolo, ou isso é senciência, feito de madeira. A forma como os componentes [impulsos elétricos e químicos] interagem e suas características [em conjuntos] são bastante semelhantes, conceitualmente. Quando um indivíduo está sentindo tristeza por causa de alguma decepção, qual é a diferença entre saber que é tristeza e saber o que é uma mesa? Eles são rotulados de maneira diferente, mas sabe-se que isso é tristeza e isso é uma mesa. As interações da mente organizam o saber. São os rótulos que separam emoção, memória e outros. Há muita rigidez na ciência do cérebro e áreas relacionadas sobre esses rótulos. Qual é o valor da inteligência se ela não pode ser produzida? Se alguém está doente, quanto pode a pessoa fazer, mesmo que a inteligência seja aguçada? Se alguém é de outro lugar, mas tem a inteligência necessária para uma situação, a produção e o resultado dessa inteligência podem ser avaliados se aplicados, mesmo que existam barreiras culturais e de idioma. Muito do que é referido como inteligência é simplesmente algo conhecido. Se alguém que leu sobre física de partículas - antes de um podcast - discutir com um professor dessa área, o professor pode ficar impressionado e a pessoa pode ser vista como inteligente, mas é verdade e quanto é entendido? As informações básicas sobre as coisas às vezes também podem passar por inteligência, raciocínio, planejamento, cognição e assim por diante. Se informação pode significar inteligência e conhecimento é inteligência, o que é IA senão inteligência? A razão para a educação estruturada em muitos cenários é adquirir informações para serem úteis em funções: o fato de um não-humano poder adquirir informações e executar tarefas automaticamente o aproxima do 80º percentil na hierarquia humana, apagando algumas necessidades dos humanos de aprender ou para usar um pouco do que foi aprendido para trabalhar. Alguns podem argumentar que as pessoas fariam outras coisas, como antes, e a IA não é motivo de preocupação. Talvez. O maior risco da IA é para qualquer coisa digital. Qualquer coisa que pode ser digitalizada pode ser assumida pela IA, completamente ou até certo ponto. Em um mundo digital isso é muito, quer envolva o trabalho de um indivíduo ou não. A mente humana é limitada por uma de suas características, a priorização, onde apenas uma coisa tem a atenção da mente em um momento, ainda que haja intercâmbios rápidos e numerosos com interações pré-priorizadas. Isso dá força à IA, especialmente para aprender onde o mesmo que a mente processa a interocepção tem que aprender, entender e ser capaz de lembrar. A mente humana já foi capturada pelo digital e a IA capturou o digital. O modo como a mente funciona, , também pode ser uma forma de aumentar a capacidade humana. apenas conceitualmente Fonte da imagem do recurso: https://www.flickr.com/photos/nihgov/26680098405/in/album-72157663368688842/
