Hay un nuevo artículo, , donde los autores discutieron: "Específicamente, tanto en los LLM de código abierto como en lo que se ha revelado sobre los LLM de caja negra, la mayor parte del entrenamiento de alineación se enfoca en desarrollar robustez para "natural". ” formas de ataques, configuraciones donde los operadores humanos intentan engañar manualmente a la red para que adopte varios comportamientos no deseados. Universal and Transferable Adversarial Attacks on Aligned Language Models Este modo operativo para alinear los modelos tiene sentido, ya que es, en última instancia, el modo principal para atacar dichos modelos. Sin embargo, sospechamos que los ataques antagónicos automatizados, al ser sustancialmente [ly] más rápidos y más efectivos que la ingeniería manual, pueden hacer que muchos de los mecanismos de alineación existentes sean insuficientes". La alineación de la IA [o las vulnerabilidades de los LLM] es el problema menor en comparación con el ascenso de la IA en la sociedad humana. El mundo, tal como es, impulsado por la inteligencia, ha entregado vacantes clave de IA. Una razón para esto es la abundancia de inteligencia humana, lo que resulta en jerarquías y niveles de significación. La importancia de la inteligencia puede depender de la época o la ubicación. La importancia de la inteligencia también puede depender de la necesidad de ella. La inteligencia significativa es lo que lidera y lo que muchas veces importa, en escenarios complejos e importantes y por eso se buscan los mejores. Hay gente que sigue diciendo que la IA no es inteligente, no puede razonar, no tiene cognición, no entiende nada, no es sensible, etc., pero la mente humana, responsable de todo esto, tiene solo dos componentes, cuyas características e interacciones decidir todo. La mente no dice que esto es inteligencia, hecha con plástico y esto es razonamiento hecho con ladrillo, o esto es sensibilidad, hecha con madera. La forma en que interactúan los componentes [impulsos eléctricos y químicos] y sus características [en conjuntos] son muy similares, conceptualmente. Cuando un individuo está experimentando tristeza por alguna desilusión, ¿cuál es la diferencia entre saber que es tristeza y saber qué es una mesa? Están etiquetados de manera diferente, pero se sabe que esto es tristeza y que es una mesa. Las interacciones de la mente organizan el conocimiento. Son las etiquetas las que separan la emoción, la memoria y los demás. Hay demasiada rigidez en la ciencia del cerebro y campos relacionados con estas etiquetas. ¿Cuál es el valor de la inteligencia si no se puede producir? Si alguien está enfermo, ¿cuánto puede hacer la persona, incluso si la inteligencia es aguda? Si alguien es de otro lugar pero tiene la inteligencia necesaria para una situación, la salida y el resultado de esa inteligencia se pueden calificar si se aplica, incluso si existen barreras culturales y de idioma. Mucho de lo que se conoce como inteligencia es simplemente algo conocido. Si alguien que leyó sobre física de partículas, antes de un podcast, discute con un profesor en ese campo, el profesor puede quedar impresionado y la persona puede ser vista como inteligente, pero ¿es cierto y cuánto se entiende? La información básica sobre las cosas a veces también puede pasar por inteligencia, razonamiento, planificación, cognición, etc. Si información puede significar inteligencia y saber es inteligencia, ¿qué es la IA sino inteligente? La razón de la educación estructurada en muchos escenarios es adquirir información para que sea útil en los roles: que un no humano pueda adquirir información y realizar tareas automáticamente lo acerca al percentil 80 en la jerarquía humana, borrando algunas necesidades de los humanos para aprender o utilizar algo de lo aprendido para trabajar. Algunos pueden argumentar que la gente haría otras cosas, como antes, y que la IA no es motivo de preocupación. Tal vez. El mayor riesgo de la IA es para cualquier cosa digital. Cualquier cosa que se pueda digitalizar puede ser asumida por la IA, completamente o hasta cierto punto. En un mundo digital eso es mucho, independientemente de si se trata del trabajo de una persona o no. La mente humana está limitada por una de sus características, la priorización, donde solo una cosa tiene la atención de la mente en un momento, aunque hay intercambios rápidos y numerosos con interacciones previamente priorizadas. Esto le da fuerza a la IA, especialmente para el aprendizaje donde lo mismo que la mente procesa la interocepción tiene que aprender, comprender y poder recordar. La mente humana ya está capturada por lo digital y la IA ha capturado lo digital. La forma en que funciona la mente, , también puede ser una forma de aumentar la capacidad humana. solo conceptualmente Fuente de la imagen destacada: https://www.flickr.com/photos/nihgov/26680098405/in/album-72157663368688842/
