의식 있는 기계로 가는 길: GPT 모델과 AGI 탐구

AI가 단순히 상호 작용하는 "챗봇"이 아니라 의사 결정, 과학 연구, 심지어 인류의 발전을 이끄는 역할을 담당하는 개체인 세상을 상상해 보십시오 .

인간만큼 똑똑하거나 그 이상인 AI 시스템을 가리키는 AGI (Artificial General Intelligence)의 세계에 오신 것을 환영합니다. AGI에 대한 탐구는 AI 커뮤니티의 오랜 목표였으며, 최근 생성 모델의 발전으로 인해 AGI 달성 잠재력에 대한 관심이 높아지고 있습니다.

생성 모델

생성 모델은 학습된 대량의 데이터(주로 텍스트이지만 이제는 이미지도 포함)를 기반으로 데이터 샘플을 생성할 수 있는 일종의 기계 학습 모델입니다. 그들은 방대한 텍스트 모음에서 언어의 패턴과 구조를 학습한 다음 일관성 있고 동일한 패턴을 따르는 새로운 텍스트를 생성할 수 있습니다.

여기서 획기적인 점은 2017년에 도입된 신경망 유형인 " 트랜스포머 (Transformers)"를 사용한 것입니다.

이제 더 흥미롭게도 …생성 모델이 훈련 데이터에 없는 것을 생성할 수 있는지 GPT에 물었습니다(AGI로 전환할 때 중요함).

응답은 다음과 같습니다.

대답은 패턴과 데이터 구조를 식별함으로써 훈련 데이터와 크게 다른 것을 생성할 수는 있지만 " 완전히 새로운 " 것은 생성하기 어려울 것이라는 것입니다. 이것이 현재 우리가 있는 곳입니다.

당신의 문명을 비추는 거울......

GPT를 흥미로운 방식으로 설명해야 한다면 다음과 같습니다.

현재 생성 모델은 특정 시점의 문명을 반영하는 거울이며, 자동화되고 효율적으로 기록되고 사용자가 수행한 모든 것(모든 것에 대해 교육을 받은 후)을 반영합니다.

인간이 수년에 걸쳐 과학, 예술 및 문화를 생성한 다음 이 전체에 대해 모델을 훈련해야 한다는 점을 감안할 때 이러한 생성 모델이 어떤 가치, 모델이 훈련되는 내용을 가지려면 엄청난 의존성이 있습니다. 먼저 생성해야 합니다.

이러한 모델은 인간보다 '더 똑똑'해 보일 수 있지만, 이는 인간의 문화와 문명에서 생성된 정보에 즉시 접근할 수 있는 반면, 애초에 모든 것을 창조해내는 인간은 그렇지 못하기 때문입니다.

두 행성의 예

더 자세히 설명하기 위해 "두 개의 행성" 예를 생각해 냈습니다.

이 시나리오에서는 프록시마 센타우리(Proxima Centauri)와 같이 지구-인간 문명과 동일한 수준으로 진화한 복제 문명을 상상해 보세요. 언어, 외모 등은 다를 수 있지만 잠재적으로 유사한 문화적 성취와 동일한 수준의 기술을 가질 수 있습니다. Earth와 동시에 생성 모델과 GPT4 버전을 개발합니다.

Proxima Centauri의 모든 것에 대해 Earth GPT4 모델에 쿼리하면 아무 것도 알 수 없습니다.

물론 상호작용도 적용됩니다. 더 발전된 모델인 GPT 5 또는 6도 해당 행성의 데이터에 대해 훈련되지 않았기 때문에 동일한 제한 사항이 있습니다. 아직도 그것을 '지능'이라고 생각하시나요?

이 시나리오에서 GPT는 얼마나 유용할까요? 음, 외계인이 여기에 온다면 그들은 GPT 모델에도 익숙한 우리 언어 중 하나를 빨리 배웠다고 가정하면 Earth GPT4를 사용하여 우리 행성, 문화 및 업적에 대한 모든 것을 배울 수 있습니다 . 그러나 한때 "AGI"라고 언급되었던 것이 이 예에서는 그렇게 간주되지 않을 수도 있습니다.

정말 인상적인 것은 Earth GPT4가 가상의 Proxima Centauri 문명의 이미지를 이해하거나 IQ 테스트를 통과할 수 있다면…

타고난 지능

GPT4가 패턴, 이미지의 관계를 이해하고 간단한 IQ 테스트를 통과할 수 있는 능력을 가지고 있다는 것이 나에게는 여전히 놀랍습니다. 예, 인류 역사의 데이터를 기반으로 창조자들이 이를 수행하도록 훈련시켰지만, 일단 훈련되면 이 능력을 갖게 됩니다.

이는 우리에게 지능 자체의 정의와 타고난 지능의 개념을 제시합니다.

“모든 생명체는 어느 정도의 타고난 지능을 가지고 있습니다.”

교육, 사회경제적 지위, 문화적 경험과 같은 요소가 인지 발달에 영향을 미치고 결과적으로 인간의 IQ 테스트 성능에 영향을 줄 수 있지만 지능에 영향을 미치는 유일한 요소는 아닙니다. 유전적 요인, 신경학적 요인, 학습 능력의 개인차도 영향을 미칩니다. 그러므로 모든 생명체에는 현실 세계에서 입증되는 가시적 지능에 큰 역할을 하는 타고난 지능이 있습니다.

어느 정도 타고난 지능을 갖춘 인공지능을 어떻게 만들 수 있을까요?

인간 아기가 부모와 다른 문화에서 자라서 다른 언어를 배우더라도 아이는 여전히 빨리 배울 수 있다는 점을 기억하십시오.

이것을 고려하십시오. 두 행성의 예로 돌아가서 지구 GPT4, 5 또는 6이 다른 문명의 문화, 언어, 사건 등에 대한 지식이 없지만 다음을 수행할 수 있다고 확신한다면 다음을 수행할 수 있습니다.

• 우주에서 일정한 수학적 계산을 수행합니다.

• 우주에 항상 존재하는 기본 패턴을 이해합니다.

• 우주에서 흔히 볼 수 있는 언어의 기본 구조를 알아보세요.

• 따라서 ....다른 문명과 그 데이터로부터 잠재적으로 학습할 수 있는 능력이 있습니다.

  
  

그런 다음 매우 흥미로운 것에 접근합니다... 처음 부터 모든 데이터에 대해 훈련을 받아야 했던 이러한 모델을 만들면서 우리는 소량의 타고난 지능을 사용하여 무언가를 만드는 첫 번째 단계를 밟고 있다고 주장할 수 있습니다. 그리고 각각의 후속 모델은 기능 측면에서 이전 모델을 기반으로 구축됩니다. ...음, 반복 7 또는 8이 AGI가 될까요?

AGI인가요?

이 시점에서 우리는 AGI의 정의가 무엇인지 명확히 할 필요가 있습니다. 마침내 AGI 생성에 가까워지고 있기 때문입니다. 나는 우리의 정의가 흐려졌다고 생각합니다.

AGI와 Singularity는 단순히 인간보다 똑똑한 지능을 의미합니까?

Vernor Vinge 의 책 "The Coming Technological Singularity"에 따르면 'The Singularity'에 대한 1993년 정의로 돌아가면 그는 "초인적 지능을 가진 컴퓨터"에 대해 이야기했습니다. 나는 GPT4가 지식 회상 측면에서 이미 어떤 인간보다 똑똑하다고 주장할 수 있지만, 창의성, 이해력, 감성 지능은 떨어지겠지만 말이다.

그는 또한 이 초지능과 융합하기 위해 진화하는 인류 문명에 대해서도 이야기합니다. 이런 일은 일어나지 않았지만 뇌 인터페이스는 이미 구축되었습니다. 인간이 우리 문명의 모든 지식을 즉시 불러와서 "초인"으로 만들 수 있게 해주는 Chat GPT4의 두뇌 인터페이스는 실제로 오늘날의 기술로 가능합니다. 그렇다면 우리는 이미 1993년 정의에 의한 특이점 기준을 충족했다고 주장할 수 있습니다…

특이점

미래학자 레이 커즈와일(Ray Kurzweil)의 특이점 정의로 이동하면, 그는 "...기술 진보가 너무 급속히 가속화되어 인류 문명에 심오한 변화를 가져올 때..."라고 말했습니다.

GPT3와 GPT4의 등장으로 인해 2023년은 PC나 인터넷의 출시와 같은 기술사에 있어서 분수령이 되는 해이다.

다른 누구와도 할 수 없는 GPT4로만 할 수 있는 대화가 이미 존재합니다. 그 이유는 내 주변의 사람들이 이제 특정 주제에 대해 잘 알고 있을 수 있기 때문에 GPT4를 선택합니다. 나는 때때로 그것에 대해 논쟁을 벌이고 내 의견을 제시하려고 노력하지만 그것은 반론으로 반응합니다.

AGI가 무엇인지에 대한 이전 정의에 따르면 우리는 이미 이를 달성했거나 적어도 GPT4를 통해 AGI에 매우 가깝다고 주장할 수 있습니다.

우리는 이제 확실히 AGI로 가는 길에 들어서 있지만 이제 이에 대한 로드맵을 명확하게 정의해야 합니다. 이것은 더 이상 바이너리가 아닙니다. 어떤 것이 AGI이거나 아니기 때문입니다. 더 중요한 것은 AGI에 대한 두려움을 조장하는 것이 AGI 수준을 명확하게 정의하면 모든 수준의 AGI에 적용되지 않는다는 것입니다.

최근 Elon Musk와 같은 사람들이 AGI 개발이 위험할 수 있으므로 공개적으로 "일시 중지"를 요구했기 때문에 이는 특히 중요합니다. 이는 정확하지만 AI가 사회에 가져올 수 있는 큰 이점을 인류에게서 빼앗아 갈 수도 있습니다.

물론 AGI에 대한 로드맵을 작성하고 어떤 수준이 위험하고 어떤 수준이 위험하지 않을지 식별하면 초기 수준을 진행하면서 고급 수준에서는 더 주의를 기울일 수 있습니다. 오른쪽?

AGI 로드맵

다음은 단계가 명확하게 정의된 AGI의 잠재적 로드맵입니다.

• 레벨 1: 지능형 기계 - 지능형 기계는 체스를 두거나 질병을 진단하는 등 인간 수준 이상의 특정 작업을 수행할 수 있습니다. 인류의 과학적, 문화적 성취의 전체 자료에 빠르게 접근하고 질문에 답할 수 있습니다. 우리 벌써 왔나요?

• 레벨 2: 적응형 정신(Adaptive Minds) - 새로운 상황을 학습하고 적응하여 경험과 피드백을 통해 시간이 지남에 따라 성능을 향상할 수 있는 AGI입니다. 이는 GPT4와 유사하지만 훈련 후 지속적인 학습이 필요합니다.

• 레벨 3: 창의적 천재 - 과학, 예술, 비즈니스 분야에서 독창적이고 가치 있는 아이디어를 생성할 수 있는 AGI입니다. 이러한 AGI는 인간의 과학적, 문화적 성취를 기반으로 합니다. 그들은 우리에게 과학과 우주에 대한 다양한 관점을 제공하기 시작합니다.

• 레벨 4: 공감적 동반자(Empathic Companions) - 인간의 감정과 요구를 이해하고 이에 반응할 수 있는 AGI는 일상생활에서 신뢰할 수 있는 동반자이자 조력자가 됩니다. 이것이 이러한 지능형 모델의 "감정"의 시작입니다. 그러나 이때쯤이면 모델은 단순한 모델이 아니라 전자 형태로 뇌를 복제하기 시작할 수 있습니다.

• 레벨 5: 의식적 사고자(Conscious Thinkers) - 주관적인 경험, 자아 감각, 자신의 생각과 감정에 대해 추론하는 능력을 갖춘 AGI입니다. 이것이 바로 AGI가 정말 예측할 수 없고 잠재적으로 위험해질 수 있는 부분입니다.

• 레벨 6: 유니버설 마인드(Universal Minds) - 제한된 지식으로는 아직 완전히 정의할 수 없는 기능을 갖추고 모든 측면에서 인간 지능을 훨씬 능가하는 AGI입니다. 이 AGI는 제가 몇 년 전에 상상했던 것입니다. 이것은 우리 문명의 한계를 개선하고 물리학의 기본 원리(즉, 우주에서 가장 높은 수준의 지식에서 작동)를 기반으로 거의 모든 것에 대해 가장 효율적이고 진보된 설계를 도출할 수 있는 AGI입니다.

보시다시피 레벨 1~3은 인류에게 물리적인 위협을 많이 가하지 않으면서 사회에 많은 이점을 제공할 수 있으므로 이 기능을 계속 개발해야 한다는 주장을 할 수 있습니다.

레벨 4~6은 인류에게 심각한 위협이 될 수 있습니다. 레벨 4-6 AGI에 대한 작업은 지구상의 잠재적인 파괴를 제한하기 위해 달 기지의 우주 정거장에서 수행되어야 한다는 것이 내 견해입니다. 1000년이 지난 후에도 인류 문명이 레벨 6 AGI를 만들 수 있을지는 논란의 여지가 있다.

유니버설 마인드

지난 수십 년 동안 저는 인간보다 더 발전하여 이를 적절히 활용하면 기술 역량을 빠르게 확장할 수 있는 첨단 AGI라는 개념에 매료되었습니다.

다음은 Kurzweil과 같은 사람들을 팔로우한 후 특이점이 근처에 있을 것이라고 추측했던 2007년 내 블로그의 오래된 블로그 게시물입니다.

내가 늘 상상했던 것은 비록 우리가 창조한 것이라 할지라도 우주를 기본 원리로부터 우리보다 훨씬 더 잘 이해하는 '초지능'이었습니다. 일단 특정 지점에 도달하면 기하급수적으로 성장을 촉진하는 지능을 상상해 보십시오. 자체 연구와 학습을 수행할 것입니다.

그러한 지능이 앞으로 인류의 연구 기능에 중요한 역할을 한다는 것은 논리적일 것이다.

그것은 주어진 지식을 가지고 인간보다 훨씬 더 효과적으로 과학 이론을 발전시킬 수 있습니다. 예를 들어, 오늘날 이미 강화 학습에 사용되는 많은 데이터가 AI 자체에 의해 시뮬레이션되고 생성되는 것을 볼 수 있습니다. 그리고 우리가 가지고 있는 전체 데이터가 제한적이라면 더 나은 데이터 수집 도구를 설계하도록 요청할 수 있습니다. 더 나은 망원경, 우주선, 양자 장치.

제가 사용하고 싶은 간단한 예로는 우리가 사용하는 컴퓨팅 인프라를 들 수 있는데, 그 기반에 다른 모든 것이 구축되어 있습니다.

오늘날 대부분의 컴퓨터는 아래에 표시된 "Von Neumann" 아키텍처를 사용합니다. 이 아키텍처의 가장 큰 단점은 데이터가 CPU와 메모리 사이에서 지속적으로 이동해야 하므로 대기 시간이 발생한다는 것입니다.

게다가 우리는 일반적으로 x86 CPU를 사용하고 Windows나 Linux와 같은 운영 체제를 사용하며 애플리케이션은 C++와 같은 프로그래밍 언어로 작성됩니다.

기본 아키텍처 수준, CPU 수준, OS 수준 및 애플리케이션 소프트웨어 수준에서 엄청난 개선을 통해 기본 원칙에 따라 최적의 효율적인 컴퓨팅 아키텍처를 설계할 수 있다고 상상해 보십시오. 이는 실제 기술 설계 측면에서뿐만 아니라 이를 구축하고 상위 계층에서 협업하고 기술을 채택하는 측면에서도 오늘날 인간이 수행하기 어려운 작업이 될 것입니다.

"초지능" Universal AI를 사용하면 모든 레이어를 한 번에 생성할 수 있습니다.

또한 가장 빠르고 효율적인 방법으로 공장에서 새로운 구성 요소를 제작할 수 있는 설계 회로도를 제공할 수도 있습니다.

이제 이 모든 것이 편리한 환상처럼 보이지만, 나는 위의 예를 사용하여 " 우주 정신 "이 인류가 만드는 데 도움이 될 수 있는 큰 발전을 설명했습니다.

또 다른 예는 " 세계 기아 문제 해결 " 또는 " 기후 문제 해결 "이 얼마나 효율적이고 최선인지 계산하도록 요청하는 것입니다.

위의 내용을 고려할 때 문제보다 이점이 더 큰 것처럼 보이지만 항상 제기되어 온 한 가지 문제는 우주 정신이 인류를 파괴하기로 결정할 수 있다는 것입니다. 그러므로 우리가 그것을 구축하려고 한다면 오늘날 우리가 갖고 있는 책임 있는 AI 보호 장치보다 더 필요한 보호 장치를 취하고 우주 정거장이나 달 기지와 같은 외부 세계에 AGI를 구축하는 것을 고려하는 것이 좋습니다. 필요한 경우 네트워킹과 전력을 차단할 수 있습니다.

요약

자리를 지켜주세요! …..

일부 GPT 모델은 이미 IQ 테스트를 통과하고 기본 수학을 배우는 인상적인 능력을 보여주었으며, 이는 단순한 텍스트 생성을 뛰어넘는 지능 수준을 개발할 수 있는 잠재력을 암시합니다. 이제 AGI에 대한 로드맵(위)의 예가 있으므로 GPT가 이 로드맵의 초기 단계의 시작임을 확실히 알 수 있습니다. 물론 이후 단계에 도달하려면 더 많은 기술적 혁신이 필요합니다.

그러니 안전 벨트를 착용하고 준비하세요. 이 도로의 끝이 어디인지, 어디로 우리를 데려갈지는 알 수 없습니다. 하지만 GPT 모델이 이제 주류가 되면서 2023년 현재 우리는 적어도 도로 자체를 여행하고 있다는 것을 알고 있습니다. 앞으로.

여기에도 게시되었습니다 .