새로운 논문인 있는데, 여기서 저자는 다음과 같이 논의했습니다. "구체적으로 오픈 소스 LLM과 블랙박스 LLM에 대해 공개된 내용 모두에서 대부분의 정렬 교육은 "자연스러운 언어 모델에 대한 견고성 개발에 중점을 둡니다." ” 공격 형태, 인간 운영자가 네트워크를 수동으로 속여 다양한 바람직하지 않은 동작을 시도하는 설정입니다. Universal and Transferable Adversarial Attacks on Aligned Language Models가 모델을 정렬하기 위한 이 작동 모드는 궁극적으로 그러한 모델을 공격하기 위한 기본 모드라는 것이 합리적입니다. 그러나 우리는 수동 엔지니어링보다 훨씬 더 빠르고 효과적인 자동화된 적대 공격이 기존의 많은 정렬 메커니즘을 불충분하게 만들 수 있다고 의심합니다." AI 정렬(또는 LLM의 취약성)은 인간 사회에서 AI의 상승에 비해 문제가 적습니다. 지능에 의해 주도되는 세상은 AI에게 핵심 공석을 넘겨주었습니다. 그 이유는 인간의 지능이 풍부하여 계층 구조와 중요성 수준이 있기 때문입니다. 지능의 중요성은 시대나 위치에 따라 달라질 수 있습니다. 지능의 중요성은 지능의 필요성에 따라 달라질 수도 있습니다. 중요한 정보는 복잡하고 중요한 시나리오에서 리드하는 요소이며 종종 중요한 요소이며 최고를 추구하는 이유입니다. AI는 지능이 없고, 추론할 수 없고, 인식이 없고, 아무것도 이해하지 못하고, 지각이 없다는 등의 말을 계속하는 사람들이 있지만, 이 모든 것을 담당하는 인간의 마음에는 두 가지 구성 요소만 있습니다. 모두 결정합니다. 마음은 이것이 플라스틱으로 만든 지성, 벽돌로 만든 이성, 나무로 만든 감각이라고 말하지 않습니다. 구성요소[전기적 및 화학적 충격]가 상호 작용하는 방식과 [세트 내] 해당 기능은 개념적으로 매우 유사합니다. 개인이 어떤 실망으로 인해 슬픔을 경험할 때 그것이 슬픔이라는 것을 아는 것과 테이블이 무엇인지 아는 것의 차이점은 무엇입니까? 다르게 표시되어 있지만 이것이 슬픔이고 그것이 테이블이라는 것이 알려져 있습니다. 마음의 상호작용은 지식을 조직화합니다. 감정과 기억 등을 구분하는 것은 라벨이다. 뇌과학 및 관련 분야에서는 이러한 라벨에 대한 경직성이 너무 높습니다. 지능이 생산될 수 없다면 지능의 가치는 무엇입니까? 사람이 아프면 지능이 아무리 뛰어나도 그 사람이 할 수 있는 일이 얼마나 됩니까? 누군가가 다른 곳에서 왔지만 상황에 필요한 지능을 가지고 있다면 문화 및 언어 장벽이 있더라도 해당 지능의 출력과 결과를 적용하면 평가할 수 있습니다. 지능이라고 불리는 것의 대부분은 단순히 알려진 것입니다. 팟캐스트를 하기 전에 입자물리학을 접한 사람이 그 분야의 교수와 토론을 하면 그 교수는 감동을 받고 똑똑해 보일 수도 있지만 그게 사실이고 얼마나 이해가 되는지? 때때로 사물에 대한 기본 정보는 지능, 추론, 계획, 인지 등에 사용될 수도 있습니다. 정보가 지능을 의미할 수 있고 아는 것이 지능이라면 AI는 지능이 아니라면 무엇일까요? 많은 시나리오에서 구조화된 교육의 이유는 역할에 유용한 정보를 획득하는 것입니다. 인간이 아닌 사람이 정보를 획득하고 작업을 수행할 수 있기 때문에 자동으로 인간 계층 구조에서 80번째 백분위수에 가까워지며 인간이 학습하거나 수행해야 할 일부 요구 사항이 삭제됩니다. 일하는 법을 배운 것 중 일부를 사용합니다. 어떤 사람들은 사람들이 이전처럼 다른 일을 할 것이라고 주장할 수도 있으며 AI는 걱정할 것이 없습니다. 아마도. AI의 가장 큰 위험은 모든 디지털에 대한 것입니다. 디지털화할 수 있는 모든 것은 AI가 완전히 또는 어느 정도까지 인수할 수 있습니다. 개인의 작업 여부에 관계없이 많은 것이 디지털 세계에서 발생합니다. 인간의 마음은 우선순위화라는 특징 중 하나에 의해 제한됩니다. 즉, 사전에 우선순위가 지정된 상호 작용과 빠르고 수많은 상호 교환이 있음에도 불구하고 한 순간에 한 가지에만 마음의 주의가 집중됩니다. 이는 특히 마음이 상호수용을 처리하는 것과 동일한 것을 배우고, 이해하고, 기억할 수 있어야 하는 학습에 AI의 강점을 제공합니다. 인간의 마음은 이미 디지털에 사로잡혀 있고, AI도 디지털을 사로잡았습니다. 마음이 작동하는 방식은 인간의 능력을 높이는 방법일 수도 있습니다. 개념적으로 특집 이미지 출처: https://www.flickr.com/photos/nihgov/26680098405/in/album-72157663368688842/
