Há um novo artigo,   , onde os autores discutiram: "Especificamente, tanto em LLMs de código aberto quanto no que foi divulgado sobre LLMs de caixa preta, a maioria dos treinamentos de alinhamento se concentra no desenvolvimento de robustez para "natural ” formas de ataques, configurações em que operadores humanos tentam enganar manualmente a rede em vários comportamentos indesejáveis. Universal and Transferable Adversarial Attacks on Aligned Language Models  Este modo operativo para alinhar os modelos faz sentido, este é, em última análise, o modo primário para atacar tais modelos. No entanto, suspeitamos que os ataques adversários automatizados, sendo substancialmente mais rápidos e mais eficazes do que a engenharia manual, podem tornar muitos mecanismos de alinhamento existentes insuficientes."  O alinhamento da IA [ou as vulnerabilidades dos LLMs] é o problema menor em comparação com a ascensão da IA na sociedade humana. O mundo, como é, impulsionado pela inteligência, entregou vagas importantes para a IA. Uma razão para isso é a abundância de inteligência humana, resultando em hierarquias e níveis de significância.  O significado da inteligência pode depender da época ou localização. O significado da inteligência também pode depender da necessidade dela. Inteligência significativa é o que conduz e o que muitas vezes importa, em cenários complexos e importantes e por que os melhores são procurados.  Tem gente que vive dizendo que IA não é inteligente, não raciocina, não tem cognição, não entende nada, não é senciente, e assim por diante, mas a mente humana, responsável por tudo isso, tem apenas dois componentes, cujas características e interações decidir tudo.  A mente não diz que isso é inteligência, feito de plástico e isso é raciocínio feito de tijolo, ou isso é senciência, feito de madeira. A forma como os componentes [impulsos elétricos e químicos] interagem e suas características [em conjuntos] são bastante semelhantes, conceitualmente.  Quando um indivíduo está sentindo tristeza por causa de alguma decepção, qual é a diferença entre saber que é tristeza e saber o que é uma mesa? Eles são rotulados de maneira diferente, mas sabe-se que isso é tristeza e isso é uma mesa.  As interações da mente organizam o saber. São os rótulos que separam emoção, memória e outros. Há muita rigidez na ciência do cérebro e áreas relacionadas sobre esses rótulos.  Qual é o valor da inteligência se ela não pode ser produzida? Se alguém está doente, quanto pode a pessoa fazer, mesmo que a inteligência seja aguçada?  Se alguém é de outro lugar, mas tem a inteligência necessária para uma situação, a produção e o resultado dessa inteligência podem ser avaliados se aplicados, mesmo que existam barreiras culturais e de idioma.  Muito do que é referido como inteligência é simplesmente algo conhecido. Se alguém que leu sobre física de partículas - antes de um podcast - discutir com um professor dessa área, o professor pode ficar impressionado e a pessoa pode ser vista como inteligente, mas é verdade e quanto é entendido?  As informações básicas sobre as coisas às vezes também podem passar por inteligência, raciocínio, planejamento, cognição e assim por diante.  Se informação pode significar inteligência e conhecimento é inteligência, o que é IA senão inteligência? A razão para a educação estruturada em muitos cenários é adquirir informações para serem úteis em funções: o fato de um não-humano poder adquirir informações e executar tarefas automaticamente o aproxima do 80º percentil na hierarquia humana, apagando algumas necessidades dos humanos de aprender ou para usar um pouco do que foi aprendido para trabalhar.  Alguns podem argumentar que as pessoas fariam outras coisas, como antes, e a IA não é motivo de preocupação. Talvez. O maior risco da IA é para qualquer coisa digital. Qualquer coisa que pode ser digitalizada pode ser assumida pela IA, completamente ou até certo ponto.  Em um mundo digital isso é muito, quer envolva o trabalho de um indivíduo ou não.  A mente humana é limitada por uma de suas características, a priorização, onde apenas uma coisa tem a atenção da mente em um momento, ainda que haja intercâmbios rápidos e numerosos com interações pré-priorizadas.  Isso dá força à IA, especialmente para aprender onde o mesmo que a mente processa a interocepção tem que aprender, entender e ser capaz de lembrar.  A mente humana já foi capturada pelo digital e a IA capturou o digital. O modo como a mente funciona,   , também pode ser uma forma de aumentar a capacidade humana. apenas conceitualmente   Fonte da imagem do recurso:  https://www.flickr.com/photos/nihgov/26680098405/in/album-72157663368688842/

neurotransmitters theory of consciousness

Neural Signals of Mind

Este áudio é produzido no idioma original da história!

LLMs: o percentual de IA generativa na hierarquia humana

About Author

COMENTARIOS

Rótulos

ESTE ARTIGO FOI APRESENTADO EM

Related Stories

Toque para ganhar: Telegram pode integrar os próximos 10 bilhões de usuários criptográficos antes de Solana

De fóruns a feeds: como os algoritmos de mídia social moldam a interação digital

Navegando pelas águas: desenvolvendo aplicações RAG de nível de produção com data lakes

Crescimento de Criptomoedas: Criando Personas de Usuários Eficazes

Toque para ganhar: Telegram pode integrar os próximos 10 bilhões de usuários criptográficos antes de Solana

De fóruns a feeds: como os algoritmos de mídia social moldam a interação digital

Navegando pelas águas: desenvolvendo aplicações RAG de nível de produção com data lakes

Crescimento de Criptomoedas: Criando Personas de Usuários Eficazes

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps