1,463 판독값

인지 패러다임: 뇌에서 영감을 받은 AI 개발 탐색

~에 의해 Edem Gold13m2023/05/10

너무 오래; 읽다

이 기사에서 우리는 AI 시스템 구축에 대한 뇌에서 영감을 받은 접근 방식을 이해하려고 시도할 것입니다. 우리는 과학자 Norman Weiner가 어떻게 신경과학과 컴퓨터 과학의 융합을 가져왔는지 논의할 것입니다. Frank Rosenblatt의 Perceptron은 인간 지능을 모방하려는 최초의 실제 시도였으며 그 실패로 인해 신경망의 플랫폼 역할을 하는 획기적인 작업이 이루어졌습니다.

People Mentioned

featured image - 인지 패러다임: 뇌에서 영감을 받은 AI 개발 탐색

"우리의 지능은 우리를 인간으로 만드는 것이며 AI는 그 품질의 확장입니다." -Yan LeCun

신경망 (인공 신경망이라고도 함)의 출현 이후 AI 산업은 비교할 수 없는 성공을 누렸습니다. 신경망은 현대 AI 시스템의 원동력이며 인간의 두뇌를 모델로 합니다. 현대 AI 연구에는 인간 두뇌의 신경 과정을 모방하여 인간과 유사한 방식으로 학습하고 행동하는 시스템을 만드는 것을 목표로 하는 알고리즘을 만들고 구현하는 것이 포함됩니다.

이 기사에서 우리는 AI 시스템 구축에 대한 뇌에서 영감을 받은 접근 방식을 이해하려고 시도할 것입니다. 이 주제는 본질적으로 광범위한 주제이기는 하지만 최대한 간단하고 간결하게 다루겠습니다. 나는 더 복잡한 하위 주제가 있는 하위 주제를 독립된 기사로 다룰 계획이며, 물론 기사 끝에 참고 자료를 남길 것입니다.

콘텐츠 분석

내가 이 문제에 어떻게 접근하고 싶은지:

AI에 대한 뇌에서 영감을 받은 접근 방식의 역사: 여기서는 과학자 Norman Weiner와 Warren McCulloch가 어떻게 신경과학과 컴퓨터 과학의 융합을 가져왔는지, Frank Rosenblatt의 Perceptron이 어떻게 인간 지능을 모방하려는 최초의 실제 시도였으며 어떻게 실패했는지에 대해 논의합니다. 신경망의 플랫폼 역할을 하는 획기적인 작업을 가져왔습니다.
인간의 두뇌가 작동하는 방식과 AI 시스템과의 관계: 이 섹션에서는 AI에 대한 두뇌 기반 접근 방식의 생물학적 기초를 살펴보겠습니다. 우리는 인간 두뇌의 기본 구조와 기능에 대해 논의하고, 핵심 구성 요소인 뉴런을 이해하고, 이들이 정보를 처리하고 복잡한 행동을 가능하게 하기 위해 함께 작동하는 방식을 이해합니다.
AI에 대한 두뇌 영감 접근 방식의 핵심 원칙: 여기에서는 AI에 대한 두뇌 영감 접근 방식의 기본 개념을 논의합니다. 다음과 같은 개념이 어떻게 설명되는지 설명하겠습니다. 신경망, 계층적 처리, 가소성 및 병렬 처리 기술, 분산 표현, 반복 피드백이 AI가 뇌 기능을 모방하는 데 어떻게 도움이 되는지 알아보세요.
인간 두뇌를 모델로 한 AI 시스템 구축의 과제: 여기서는 인간 두뇌를 모방한 시스템을 구축하려는 시도에 내재된 과제와 한계에 대해 이야기하겠습니다. 다음과 같은 과제; 뇌의 복잡성과 통일된 인지 이론의 부족은 이러한 과제와 한계를 해결하는 방법을 탐구합니다.

시작해보자!

뇌에서 영감을 받은 AI 접근 방식의 역사

지능적인 행동이 가능한 기계를 만들려는 노력은 MIT 교수에게서 많은 영감을 얻었습니다. 노버트 와이너 . 노버트 와이너(Norbert Weiner)는 세 살 때부터 책을 읽을 수 있는 신동이었습니다. 그는 수학, 신경생리학, 의학, 물리학 등 다양한 분야에 대한 폭넓은 지식을 갖고 있었습니다.

Norbert Weiner는 과학의 주요 기회는 자신이 경계 지역( Boundary Regions )이라고 부르는 연구 영역, 즉 특정 학문 분야 내에 명확하게 포함되지 않고 오히려 의학 및 공학 연구와 같은 학문 분야가 혼합되어 분야를 창출하는 연구 영역을 탐구하는 데 있다고 믿었습니다. 의료 공학 - 그는 다음과 같이 말했습니다.

"생리학적 문제의 어려움이 본질적으로 수학적이라면, 수학을 모르는 생리학자 열 명이 수학을 모르는 생리학자 한 명만큼 정확하게 이해하게 될 것이다."

1934년에 Weiner와 몇몇 다른 학자들은 경계 지역 과학과 관련된 논문을 논의하기 위해 매달 모였습니다.

설익은 생각, 부족한 자기비판, 과장된 자신감과 오만함에 대한 완벽한 카타르시스였다 - 노먼 와이너

이러한 세션과 개인 연구를 통해 Weiner는 생물학적 신경계에 대한 새로운 연구와 전자 컴퓨터에 대한 선구적인 연구에 대해 배웠으며 그의 자연스러운 성향은 이 두 분야를 혼합하는 것이었습니다. 그리하여 신경과학과 컴퓨터과학의 관계가 형성되었습니다. 이 관계는 우리가 알고 있듯이 인공지능 창조의 초석이 되었습니다.

제2차 세계대전 이후 위너는 인간과 기계 모두의 지능에 관한 이론을 형성하기 시작했으며 이 새로운 분야의 이름은 다음과 같습니다. 사이버네틱스 . Wiener의 사이버네틱스 진출은 과학자들이 생물학과 공학의 융합 가능성에 대해 이야기하는 데 성공했습니다. 언급된 과학자 중 한 명은 신경생리학자였습니다. 워렌 맥컬록 , 그는 예일에서 철학과 심리학을 공부하기 위해 Haverford University를 중퇴했습니다.

뉴욕에서 열린 과학 컨퍼런스에 참석하는 동안 그는 생물학적 피드백 메커니즘에 관해 동료들이 쓴 논문을 접하게 되었습니다. 다음 해, McCulloch는 Walter Pitts라는 뛰어난 18세 제자와 협력하여 뇌가 어떻게 작동하는지에 대한 이론을 제안했습니다. 이 이론은 컴퓨터와 뇌가 본질적으로 동일한 방식으로 기능한다는 광범위한 인식을 조성하는 데 도움이 될 것입니다.

그들은 이진수를 처리하는 뉴런의 가능성에 대한 McCulloch의 연구에 기초하여 결론을 내렸습니다(알 수 없는 사람들을 위해 컴퓨터는 이진수를 통해 통신합니다). 이 이론은 최초의 인공 신경망 모델인 McCulloch-Pitts Neuron(MCP)의 기초가 되었습니다.

MCP는 다음과 같이 알려진 최초의 신경망 생성을 위한 기초 역할을 했습니다. 퍼셉트론 . 퍼셉트론은 심리학자에 의해 만들어졌습니다. 프랭크 로젠블라트 그는 뇌의 시냅스에서 영감을 받아 인간의 뇌가 시냅스(뉴런 간 통신)를 통해 정보를 처리하고 분류할 수 있는 것처럼 디지털 컴퓨터도 신경망을 통해 동일한 작업을 수행할 수 있다고 결정했습니다.

퍼셉트론은 본질적으로 MCP 뉴런을 하나의 인공 뉴런에서 뉴런 네트워크로 확장했지만 불행히도 퍼셉트론에는 실제 적용을 제한하는 몇 가지 기술적 문제가 있었습니다. 가장 주목할만한 한계는 복잡한 작업을 수행할 수 없다는 것입니다(예: 더 많은 예를 들어 퍼셉트론은 고양이, 개, 새 간의 분류를 수행할 수 없습니다.

1969년에 출판된 책이다. 마빈 민스키 그리고 시모어 페퍼트 퍼셉트론(Perceptron) 이라는 제목으로 퍼셉트론의 결점을 자세히 정리하고 있으며, 이로 인해 역전파(Back Propagation)가 제안되기 전까지 인공신경망에 대한 연구는 정체되었다. 폴 워보스 .

역전파(Back Propagation)는 당시 신경망의 산업적 응용을 방해했던 복잡한 데이터 분류 문제를 해결하고자 합니다. 그것은 시냅스 가소성에서 영감을 받았습니다. 뇌가 뉴런 사이의 연결 강도를 수정하여 성능을 향상시키는 방식입니다. 역전파(Back Propagation)는 체중 조절이라는 과정을 통해 뉴런 간의 연결을 강화하는 뇌의 과정을 모방하도록 설계되었습니다.

Paul Werbos의 초기 제안에도 불구하고 역전파 개념은 다음과 같은 연구자들에게서만 널리 채택되었습니다. 데이비드 루멜하트 , 제프리 힌튼 , 그리고 로널드 윌리엄스 신경망 훈련을 위한 역전파의 효율성을 입증한 논문을 발표했습니다. 역전파의 구현으로 인해 전 세계에서 사용 가능한 대부분의 AI 시스템을 지원하는 딥 러닝이 탄생했습니다.

"사람들은 오늘날의 컴퓨터보다 더 똑똑합니다. 왜냐하면 두뇌는 사람들이 잘하는 자연적인 정보 처리 작업의 핵심 측면을 처리하는 데 더 적합한 기본 컴퓨팅 아키텍처를 사용하기 때문입니다." - 병렬 분산 처리

인간의 두뇌가 작동하는 방식과 AI 시스템과의 관계

우리는 연구자들이 인간의 뇌를 모방하기 위해 AI를 모델링하기 시작한 방법에 대해 논의했습니다. 이제 뇌가 어떻게 작동하는지 살펴보고 뇌와 AI 시스템 간의 관계를 정의하겠습니다.

뇌의 작동 원리: 간단한 설명

인간의 뇌는 본질적으로 뉴런을 사용하여 생각을 처리하며, 뉴런은 3개의 핵심 부분으로 구성됩니다. 수상돌기, 축색돌기, 소마. Dendrite는 다른 뉴런으로부터 신호를 수신하는 역할을 담당하고, Soma는 Dendrite에서 받은 정보를 처리하며, Axon은 처리된 정보를 시퀀스의 다음 Dendrite로 전달하는 역할을 담당합니다.

뇌가 생각을 처리하는 방식을 파악하려면 자동차가 자신을 향해 다가오는 것을 보고 눈이 즉시 시신경을 통해 뇌에 전기 신호를 보낸 다음 뇌는 들어오는 신호를 이해하기 위해 일련의 뉴런을 형성한다고 상상해 보세요. 체인의 첫 번째 뉴런은 수상돌기 를 통해 신호를 수집하고 소마 가 작업을 마친 후 신호를 처리하기 위해 이를 소마로 보냅니다. 축삭 은 신호를 체인의 다음 뉴런의 수상돌기로 보냅니다. , 정보를 전달할 때 축색돌기와 수상돌기 사이의 연결을 시냅스라고 합니다. 전체 과정은 뇌가 측두엽 시냅스 입력 (과학 용어로, 뇌는 전송된 신호에 대한 최적의 반응을 찾을 때까지 처리를 계속함)을 찾을 때까지 계속됩니다. 그런 다음 필요한 작동자(예: 다리와 다리)에 신호를 보냅니다. 그런 다음 뇌는 다가오는 차에서 도망치라는 신호를 다리에 보냅니다.

뇌와 AI 시스템의 관계

두뇌와 AI 사이의 관계는 대체로 상호 이익이 됩니다. 두뇌는 AI 시스템 설계 뒤에 숨은 영감의 주요 원천이고 AI의 발전으로 인해 두뇌와 두뇌 작동 방식을 더 잘 이해할 수 있기 때문입니다.

뇌와 AI에 관한 지식과 아이디어의 상호 교환이 있으며, 이 관계의 긍정적인 공생 특성을 입증하는 몇 가지 예가 있습니다.

신경망: 인간 두뇌가 인공 지능 분야에 미치는 가장 중요한 영향은 신경망의 생성일 것입니다. 본질적으로 신경망은 생물학적 뉴런의 기능과 구조를 모방한 계산 모델이며, 신경망의 아키텍처와 학습 알고리즘은 뇌의 뉴런이 상호 작용하고 적응하는 방식에서 크게 영감을 받았습니다.
뇌 시뮬레이션: AI 시스템은 다음과 같은 데 사용되었습니다. 시뮬레이션 인간의 두뇌를 연구하고 물리적 세계와의 상호 작용을 연구합니다. 예를 들어, 연구자들은 시각 처리와 관련된 생물학적 뉴런의 활동을 시뮬레이션하는 기계 학습 기술을 보유하고 있으며 그 결과 뇌가 시각 정보를 처리하는 방법에 대한 통찰력을 제공했습니다.
뇌에 대한 통찰력: 연구자들은 뇌 데이터와 fMRI 스캔을 분석하고 통찰력을 얻기 위해 기계 학습 알고리즘을 사용하기 시작했습니다. 이러한 통찰은 숨겨져 있던 패턴과 관계를 식별하는 데 도움이 됩니다. 얻은 통찰력은 내부 인지 기능, 기억 및 의사 결정을 이해하는 데 도움이 될 수 있으며, 알츠하이머병과 같은 뇌 질환 치료에도 도움이 됩니다.

뇌에서 영감을 받은 AI 접근 방식의 핵심 원칙

여기서는 AI가 인간의 두뇌 기능을 모방하는 데 도움이 되는 몇 가지 개념에 대해 논의할 것입니다. 이러한 개념은 AI 연구자들이 복잡한 작업을 수행할 수 있는 더욱 강력하고 지능적인 시스템을 만드는 데 도움이 되었습니다.

신경망

앞서 논의한 바와 같이, 신경망은 인간 두뇌가 인공 지능 분야에 미치는 가장 중요한 영향이라고 할 수 있습니다. 본질적으로 신경망은 생물학적 뉴런의 기능과 구조를 모방한 계산 모델입니다. 네트워크는 인공 뉴런이라고 불리는 다양한 계층의 상호 연결된 노드로 구성됩니다. 이는 인공 뉴런이 수행하는 것과 유사한 정보 처리 및 전송을 돕습니다. 생물학적 신경망의 수상돌기, 체세포 및 축삭. 신경망은 뇌와 동일한 방식으로 과거 경험으로부터 학습하도록 설계되었습니다.

분산 표현

분산 표현은 단순히 패턴을 형성하기 위해 신경망의 여러 노드를 따라 패턴으로 신경망의 개념이나 아이디어를 인코딩하는 방법입니다. 예를 들어 흡연의 개념은 신경망의 특정 노드 세트를 사용하여 표현(인코딩)될 수 있으며, 따라서 해당 네트워크가 흡연하는 남자의 이미지를 생성하면 선택한 노드를 사용하여 이미지를 이해합니다. 그보다 훨씬 더 복잡하지만 단순성을 위해) 이 기술은 뇌가 복잡한 자극을 인식하고 기억하는 것과 같은 방식으로 AI 시스템이 복잡한 개념이나 개념 간의 관계를 기억하는 데 도움이 됩니다.

반복적인 피드백

이는 신경망의 출력이 입력으로 반환되어 네트워크가 학습에서 추가 데이터 입력으로 출력을 통합할 수 있도록 하는 AI 모델 학습에 사용되는 기술입니다. 이는 뇌가 이전 경험을 기반으로 모델을 조정하기 위해 피드백 루프를 사용하는 방식과 유사합니다.

병렬 처리

병렬 처리에는 속도를 향상시키기 위해 다른 프로세서에서 더 작은 비트를 처리하려는 노력의 일환으로 복잡한 계산 작업을 더 작은 비트로 나누는 작업이 포함됩니다. 이 접근 방식을 통해 AI 시스템은 뇌가 동시에 여러 작업(멀티태스킹)을 수행할 수 있는 방식과 유사하게 더 많은 입력 데이터를 더 빠르게 처리할 수 있습니다.

주의 메커니즘

이는 AI 모델이 입력 데이터의 특정 부분에 집중할 수 있도록 하는 기술로, 자연어 처리 등 복잡하고 번거로운 데이터가 포함된 분야에서 흔히 사용됩니다. 이는 크게 산만한 환경의 특정 부분에만 주의를 기울이는 두뇌의 능력에서 영감을 받았습니다. 대화의 불협화음에서 하나의 대화에 참여하고 상호 작용하는 능력과 같습니다.

강화 학습

강화 학습은 AI 시스템을 훈련하는 데 사용되는 기술로, 인간이 시행착오를 통해 기술을 학습하는 방식에서 영감을 받았습니다. 이는 AI 에이전트가 자신의 행동에 따라 보상이나 처벌을 받는 것과 관련이 있으며, 이를 통해 에이전트는 실수로부터 배우고 향후 행동에서 더 효율적이 될 수 있습니다(이 기술은 일반적으로 게임 제작에 사용됩니다).

비지도 학습

뇌는 소리, 시각적 내용, 피부에 대한 감각적 느낌 등의 형태로 새로운 데이터 스트림을 지속적으로 수신하며, 이 모든 것을 이해하고 겉보기에는 이질적인 것처럼 보이는 이 모든 사건이 어떻게 발생하는지에 대한 일관되고 논리적인 이해를 형성하려고 노력해야 합니다. 물리적 상태에 영향을 미칩니다.

비유를 들어보면, 피부에 물방울이 떨어지는 느낌이 들고, 옥상에서 물방울이 빠르게 떨어지는 소리가 들리고, 옷이 무거워지는 것을 느끼며, 그 순간 비가 내리는 것을 깨닫고 기억은행을 검색하게 됩니다. 우산을 가지고 있는지 확인하고, 그랬으면 괜찮은지 확인하고, 현재 위치에서 집까지의 거리를 확인하고, 집이 가까우면 괜찮은지 확인하고, 그렇지 않으면 비가 얼마나 강한지 측정하려고 합니다. 가벼운 비가 내리면 집으로 돌아가는 길을 계속 시도할 수 있지만 소나기가 내릴 준비가 되면 대피소를 찾아야 합니다.

겉보기에 서로 다른 데이터 포인트(물, 소리, 느낌, 거리)를 이해하는 능력은 비지도 학습이라는 기술의 형태로 인공 지능에 구현됩니다. 이는 AI 시스템이 명시적인 라벨링 없이 구조화되지 않은 원시 데이터를 이해하도록 가르치는 AI 훈련 기술입니다(비가 내릴 때 비가 내린다고 말하는 사람은 아무도 없습니다/).

뇌에서 영감을 받은 AI 시스템 구축의 과제

우리는 뇌를 AI 시스템의 영감으로 사용하는 접근 방식이 어떻게 탄생했는지, 뇌가 AI와 어떻게 관련되는지, 뇌에서 영감을 받은 AI의 핵심 원리에 대해 이야기했습니다. 이 섹션에서는 인간 두뇌를 모델로 한 AI 시스템을 구축하는 데 내재된 기술적, 개념적 과제에 대해 이야기하겠습니다.

복잡성

이것은 꽤 어려운 도전입니다. AI에 대한 뇌에서 영감을 받은 접근 방식은 뇌를 모델링하고 그 모델을 따라 AI 시스템을 구축하는 것에 기반을 두고 있지만, 인간의 뇌는 천억 개의 뉴런과 약 600조 개의 시냅스 연결로 구성된 본질적으로 복잡한 시스템입니다(각 뉴런은 평균 10,000개의 시냅스 연결을 가짐). 다른 뉴런과의 연결), 이러한 시냅스는 역동적이고 예측할 수 없는 방식으로 지속적으로 상호 작용합니다. 이러한 복잡성을 모방하고 이를 뛰어넘는 것을 목표로 하는 AI 시스템을 구축하는 것은 그 자체로 어려운 일이며 똑같이 복잡한 통계 모델이 필요합니다.

대규모 모델 학습을 위한 데이터 요구 사항

현재 최첨단 텍스트 기반 AI 모델인 Open AI의 GPT 4에는 47기가바이트의 데이터가 필요합니다. 이에 비해 이전 GPT3는 약 3자릿수 낮은 17기가바이트의 데이터로 훈련되었습니다. GPT 5가 얼마나 훈련될지 상상해보세요.

수용 가능한 결과를 얻기 위해 입증된 바와 같이 Brain-Inspired AI 시스템은 작업, 특히 청각 및 시각 작업을 위해 방대한 양의 데이터와 데이터를 필요로 하며 이는 데이터 수집 파이프라인 생성에 많은 중점을 둡니다. 예를 들어 Tesla는 7억 8천만 마일의 주행 데이터와 데이터 수집 파이프라인은 10시간마다 100만 마일을 추가합니다.

에너지 효율

뇌의 에너지 효율성을 모방하는 뇌에서 영감을 받은 AI 시스템을 구축하는 것은 큰 도전입니다. 인간의 두뇌는 약 20와트의 전력을 소비하는데, 이에 비해 Tesla 의 Autopilot은 특수 칩에서 초당 약 2,500와트를 소비합니다. 소요되는 시간 ChatGPT 크기의 AI 모델을 훈련하는 데 7.5메가와트시(MWh)가 소요됩니다.

설명 가능성 문제

사용자가 신뢰할 수 있는 두뇌 기반 AI 시스템을 개발하는 것은 AI의 성장과 채택에 매우 중요하지만, 여기에 문제가 있습니다. AI 시스템이 모델링해야 하는 두뇌는 본질적으로 블랙박스입니다. 뇌의 내부 작동은 이해하기 쉽지 않습니다. 이는 뇌가 생각을 처리하는 방식에 대한 정보가 부족하기 때문입니다. 인간 뇌의 생물학적 구조에 대한 연구는 부족하지 않지만 뇌의 기능적 특성, 즉 사고가 어떻게 형성되는지, 기시감이 어떻게 발생하는지 등에 대한 경험적 정보가 어느 정도 부족합니다. 뇌에서 영감을 받은 AI 시스템 구축의 문제.

학제 간 요구 사항

뇌에서 영감을 받은 AI 시스템을 구축하려면 다음과 같은 다양한 분야의 전문가 지식이 필요합니다. 신경과학, 컴퓨터 과학, 공학, 철학, 심리학. 그러나 다양한 분야의 전문가를 확보하는 데 재정적으로 큰 부담이 되고 지식 갈등 문제도 있다는 점에서 물류적, 기초적 측면 모두에 어려움이 있습니다. 엔지니어가 자아 충돌의 문제를 언급하지 않고 자신이 만들고 있는 것의 심리적 효과에 관심을 갖도록 하는 것은 정말 어렵습니다.