인공지능에 관한 인공적 논의

인공 지능에 대해 실제로 이야기하려면 "머신 러닝"이라는 용어도 사용해야 합니다. AI는 사람들이 머신러닝을 사용하는 가장 큰 목적입니다. 머신러닝은 AI의 기초이자 이를 뒷받침하는 수학 및 알고리즘입니다.

그것들은 동일하지 않지만 벤 다이어그램은 우리의 목적에 별로 중요하지 않을 만큼 충분히 중복됩니다.

기본적으로 곡선을 설명하는 수학이 있습니다. 포물선을 기억하시나요? 끝이 계속 이어지는 말굽 모양의 것?

곡선 방정식을 사용하여 실생활에서 수많은 것을 모델링할 수 있으며, 특히 터무니없이 복잡한 방식으로 쌓인 터무니없는 양을 사용하여 모델링할 수 있습니다. 이제 컴퓨팅 성능이 저렴해졌습니다. 여기에 엄청난 양의 훈련 데이터를 생성하는 인터넷의 능력이 더해지면 엄청난 조합이 됩니다.

이 모델링을 수행하는 사람들은 일반적으로 끝점, 포물선의 상단 또는 하단, 말굽의 유한한 끝 등 여러 곡선에서 최적의 값을 한 번에 찾으려고 노력합니다.

일부 곡선은 일반적으로 다른 곡선보다 최종 출력에 더 중요합니다. 당신은 일부 최적화에 대해 정말 정확한 정보를 얻고 싶어하지만 다른 최적화에 대해서는 더 모호할 수 있습니다.

컴퓨터가 올바른 "무게"를 학습하여 다른 무게를 가하도록 할 수 있습니다. 모델링 방정식 자체의 범위를 좁힐 수 있습니다.

결국 컴퓨터는 최종 결과를 최적화하는 방식으로 최적의 값 집합 을 찾습니다. 이것이 바로 머신러닝의 "마법"(큰 따옴표)입니다.

언어적 프롬프트, 선호도에 대한 일련의 데이터 등의 입력을 받아 그림, 유명인의 목소리, 노래 추천 등 어떤 측면에서는 실제와 매우 유사한 출력을 만들 수 있습니다.

컴퓨팅 성능은 저렴할 수 있지만 인간에게 비용을 지불하여 모든 수학을 수행하거나 심지어 수학을 컴퓨터에 프로그래밍하는 데에는 비용이 많이 듭니다.

똑똑한 사람들은 기계가 우리를 위해 많은 발품 작업을 수행하도록 하는 방법을 알아냈습니다. 기계가 곡선 방정식을 "따라 이동"하고 "내리막"을 따르도록 하는 방법이 있습니다.

이는 수십 년 동안 Google 검색결과를 맞춤설정해 왔습니다. 그 이후로 그래픽 카드 경쟁이 벌어졌습니다. 2015년에는 세계 최고의 바둑기사를 이긴 알파고(AlphaGo)가 있었습니다.

보스턴 다이나믹스 로봇 개가 있었습니다. Shazam이나 Siri와 같은 앱이 있었습니다. DALL-E나 Midjourney 같은 드로잉 프로그램이 있었습니다.

이 모든 것이 멋지지만 돈은 검색 결과에서 멀지 않았습니다. 그것은 사람들이 소셜 미디어에서 좋아할 만한 것들을 보여 주는 인접한 일에 손을 뻗었습니다. 귀하가 보는 데 시간을 할애할 항목과 클릭할 가능성이 있는 광고입니다.

한편, AI의 더 넓은 개념은 꽤 오랫동안 SF의 주요 요소였으며 지난 5~10년 동안 현장에서 경험했던 이러한 "팝업"과 상호 작용하고 있습니다. 우리는 이러한 기하급수적인 성장을 보고 “터미네이터”를 생각합니다.

AI를 판매하는 사람들은 우리가 몇 가지 주요 사실을 건너뛰고 이렇게 생각하도록 하여 기쁘게 생각합니다. 따라서 우리는 “그렇습니다!”라는 그들의 주장을 믿을 것입니다. 터미네이터 영화의 스카이넷과 비교해 보세요! 우리 회사가 만든 [Crazy Invention #4852]가 5~10년 뒤에는 1위를 차지할 것입니다!”

나는 왜 사람들이 그것이 할 수 있는 일이 급속도로 성장하는 것을 보고 우리가 실제로 그것에 의식을 부여할 위기에 처해 있다고 생각하는지 이해합니다.

그 절벽이 2년이나 20년이 아니라 200년 규모에 가깝다고 해도 그것은 우리 인간이 살아온 시간에 비하면 꽤 의미 있는 일이다.

우리는 실제로 ChatGPT나 Searle의 중국어 방 논쟁 에서처럼 AI 프로그램이 "단어 대신 개념 자동 완성"인 지점을 넘어설 수 있습니다.

우리는 실제로 생물학적으로 영감을 받은 올바른 하드웨어 에 올바른 프로그램을 배치하고 인간의 마음을 실제로 모방하여 필립 K. 딕(Philip K. Dick)과 다른 사람들이 제기한 인류와 감각에 대한 질문을 제기할 수 있습니다.

AI가 특정 영역에 대한 단순한 기술이 아닌 우리와 같은 끊임없는 의식을 소유하여 감정 및 지각 지능과 진정으로 경쟁한다면 우리는 심판을 받게 될 것입니다.

오늘, 내일, 다음 주, 심지어 내년도 아닐 것입니다.

우리 뇌에 있는 대규모 병렬(이 경우 동시에 작동한다는 의미) 신경 연결은 말하자면 우리 성의 해자입니다. 이것이 "인공 일반 지능"을 수년 또는 수십 년 후에 만들 수 있는 이유입니다.

최근 많은 발전을 이룬 머신러닝의 한 분야인 딥러닝은 현실 세계에서 볼 수 있는 입출력 관계를 모방하는 통계 및 미적분학의 멋진 이름입니다. 적어도 아직까지는 컴퓨터가 어떤 것도 "심층 학습"한다는 의미는 아닙니다.

인상적이긴 하지만, 컴퓨터에서 수학이 일어나는데, 이는 두뇌에서 "수학이 일어나는" 방식과는 근본적으로 이질적입니다.

뇌는 놀랄 만큼 적은 양의 전기를 사용합니다. 데이터 센터는 놀라울 정도로 많은 양을 사용합니다. 후자는 무차별 대입 기계입니다. 그들은 우리보다 더 적은 수의 스레드를 처리하고 덜 유연합니다. 각각은 너무 빠릅니다 .

최고의 체스와 바둑 선수도 따라잡을 수 없을 정도로 가능성을 매우 빠르게 계산하고 좁힙니다.

아킬레스 건은 상당히 잘 정의된 문제, 상당히 깨끗한 입력 및 출력이 필요하다는 사실입니다. 보드 게임. 넘어지지 않는 로봇. 터무니없이 다양하고 빠르게 변화하는 일련의 "최적화" 문제를 한 번에 처리할 수 없으며 항상 문제 사이를 전환합니다.

개별 영역에서 AI의 강점과 결점이 무엇이든, 우리처럼 많은 영역을 묶을 수 없으며 필요에 따라 초점을 변경하고 영역 전반에 걸쳐 행동을 조정하고 전달할 수 없습니다. 인간 유아 수준에서는 이런 일을 할 수 없습니다.

AI 연구의 큰 목표는 "원샷" 또는 "퓨샷" 학습이었습니다. 즉, 무언가를 수행하는 방법을 배우기 위해 대규모 데이터 세트와 교육 시간이 필요하지 않다는 의미입니다. 여기서는 성공했습니다. 그것은 여전히 우리의 두뇌보다 훨씬 뒤떨어져 있습니다.

자동적으로 우리는 어릴 때부터 다양한 영역에서 Few-Shot 학습을 잘합니다. 훈련 데이터가 거의 없어도 규칙과 전략을 빠르게 학습합니다. 아이에게 아이패드 사용법, 자전거 타기, 신발 묶는 방법, 이야기의 교훈(단순한 줄거리 요약이 아닌) 설명 등을 보여줄 수 있습니다.

이러한 일 중 하나 를 잘 수행하도록 컴퓨터를 훈련시키는 것은 거의 불가능합니다. 만약 그것이 무섭지 않으면서 인지적 추론, 운동, 인간 상호작용을 할 수 있다면 우리는 이미 그것을 그 모든 것에 사용하고 있을 것입니다.

기업은 지저분한 인간 노동에 알레르기가 있으며 항상 더 저렴한 기계 버전을 위해 노력합니다. 그들은 이런 일이 일어나도록 만들었을 것입니다. 그들은 그렇지 않았습니다.

대학의 전산 신경과학 연구실은 내부 사고를 모델링하고 우리 두뇌가 세상에 대해 추론하는 데 관심이 있는 곳입니다. 아기가 어떻게 생겼는지 확인하기 위해 두 사람의 사진을 혼합하는 것은 모델의 목표가 아닙니다.

아마도 수십 년 동안 모호하고 적응력이 뛰어나며 전략을 짜맞추는 방식으로 함께 즉석에서 세계를 탐색할 수 있는 사람은 우리 인간뿐일 것입니다.

감정과 경험을 기반으로 세상을 배우고 탐색하는 이러한 일반적인 능력은 기술 업계가 AI를 구축할 때 유용하다고 판단한 것이 아닙니다.

지금까지 기계 학습에서 실제 두뇌 모방이 발생한 방식은 희박합니다. 두뇌를 복사하는 것은 필요하지 않았습니다. 즉, 수익성이 있는 것입니다.

대신 기업(및 그들이 자금을 지원하는 대학)은 소셜 미디어 피드의 클릭 수 또는 드론 공격의 정확성과 같이 보다 측정 가능한 항목에 최적화했습니다.

그것이 우리를 모방하려고 시도했다면 그것은 두뇌가 할 수 있는 특정 일의 결과를 얻으려는 이익 중심의 잽이었습니다. 인상적이고 흥미로운 형태의 패턴 인식이 컴퓨터 비전에서 발생합니다.

이 모든 것은 AI가 "컴퓨터에 생명을 불어넣는 마법"도 아니고 "어떤 사람들이 컴퓨터로 할 수 있는 마법"도 아니라는 점을 강조하기 위한 것입니다. 그것은 무차별 수학입니다. 컴퓨팅 파워와 지식이 혼합되었습니다. 영향력. 대부분의 AI 모델은 한 가지 일, 즉 돈을 벌기 위해 숫자를 계산하고 있습니다.

이 강력한 도구인 이 황금 거위를 가진 사람들은 AI가 비즈니스를 위해 수행하는 보다 현실적이고 평범하며 덜 관심을 끄는 일을 숨기기 위해 AI가 우주적이거나 종말론적인 일을 하는 것이 코앞에 왔다고 주장하도록 경제적으로 인센티브를 받습니다.

그들은 향후 1년, 5년, 10년, 15년 안에 어떤 큰 일을 할 수 있을 것이라고 주장하는 데 기득권을 갖고 있습니다. 투자자들이 좋아하는 타임라인입니다. 움직이지 않는 완전 자율주행 자동차는 우리가 이 분야에서 보게 될 첫 번째 실패 중 하나일 뿐입니다.

고상한 공상 과학 전제와 약속은 좋은 영화를 만듭니다. 엑스마키나, 그녀, 블레이드러너 . 그렇다고 그것이 사실이라는 뜻은 아닙니다.

AI 개발자가 자신들의 제품을 (1) 불가피하고 (2) 정치적, 경제적으로 변혁적이라는 프레임으로 받아들인다면, AI가 취하는 형태(즉, 챗봇! "검색 엔진")라는 명백한 사실을 쉽게 무시할 수 있습니다. ) 그리고 그것이 적용되는 용도(즉, 그것이 증가하거나 대체할 직업! 그것이 더 쉽게 만들거나 더 어렵게 만들 작업!)는 그것이 나타나는 정치적, 경제적 조건에 달려 있습니다.

…

저는 우리가 벼랑 끝에 서 있을 가능성에 대해 열려 있습니다. Paul Christiano가 믿는 것처럼, 대규모 언어 모델에 의해 "인식할 수 없을 정도로 변형된" 세상이 불과 몇 달 밖에 남지 않았다는 것입니다. 하지만 이 뉴스레터의 기본 경험 법칙은 상황이 빠르고 극적으로 변하기보다는 천천히 그리고 어리석게 변한다는 것이며, 적절한 AI 비판은 이러한 가능성을 설명해야 한다는 것입니다. 기술의 개발과 도입을 통해 이익을 얻는 민간 기업들에 의해 논의의 조건과 틀이 전적으로 정해져 있는 기술 담론의 한가운데에 다시 한 번 끼어들게 된 것에 대해 지금으로서는 분한 마음이 듭니다. .

— Max Read, Facebook 비판이 AI 비판에 관해 우리에게 가르쳐 줄 수 있는 것

잠시 재고를 살펴 보겠습니다. 역사적으로 기술 관료 엘리트가 암호화폐나 은행 등 기술적 문제에 대한 토론에 부과하는 "토론을 위한 용어 및 프레임워크"를 받아들이면서 이것이 어떻게 진행되었습니까?

FDR의 대공황 이후 개혁과 80년대 사이에 경제를 붕괴시키는 은행 위기가 얼마나 많이 발생했습니까? 레이건이 그것들을 되돌린 후 그 이후로 얼마나 많은 일이 일어났습니까?

Max Read는 Facebook이 이미 은밀히 이 작업을 수행한 방법에 대해 Joe Bernstein이 쓴 Harper의 훌륭한 기사를 인용합니다. 그것은 자체 광고 효과에 대한 불안정하고 점점 더 지지할 수 없는 모델로 전체 계층의 사람들을 팔았습니다.

피라미드 계획이 실제 제품을 기반으로 한다고 해서 피라미드 계획이 아니라는 의미는 아닙니다.

여기서 중요한 점은 기술이 제공하는 서비스에 대해 대중을 오도하는 측면에서 금융보다 "더 나은" 것이 아니라는 것입니다. 틀림없이 더 나쁩니다. 값싼 혈액 검사, 공동 작업 공간, 블록체인에 무슨 일이 일어났는지 보셨습니다. 좋은 산업은 어리석음으로 오염되었습니다.

그들이 내 아들을 어떻게 학살했는지 보세요.

그들은 내부적으로는 일을 엉망으로 만들지만, 우리 모두에게 영향을 미치는 방식으로 일을 망치게 됩니다. 왜냐하면 우리의 친구와 이웃이 그들의 헛소리를 믿고 그들이 토론 조건을 정하도록 하기 때문입니다. 그런 다음 우리는 황금 낙하산 비용을 지불합니다.

몇 가지 적절한 규제가 있었다면 피할 수 있었던 경제적 사건으로 인해 수백만 명이 생계를 잃었습니다. 시간만큼 오래된 이야기.

AI로 새로운 것을 시도하는 것은 우리의 의무입니다. 미래의 우리에게 건전한 정보를 바탕으로 건전한 결정을 내릴 수 있는 자유를 주는 것은 유익합니다. 그것에 대한 진실을 배우는 것은 유익합니다. 다른 사람의 변덕을 액면 그대로 받아들이면 미래에 더 큰 대가를 치르게 될 것입니다.

사람들은 컴퓨터가 얼굴을 인식하고, 음성을 복제하고, 사람들에게 계속 스크롤할 수 있는 콘텐츠를 표시하도록 만드는 등 모든 종류의 작업에 ML과 딥 러닝을 능숙하게 사용하고 있습니다.

우리가 그렇게 하지 않는 한, 그러한 용도는 일부 사람들을 매우 부자로 만드는 것보다 우리 삶에 더 나아지거나 더 도움이 되지 않을 것입니다.

물론 그 동안에는 매우 재미있을 수 있습니다.

AI는 인간의 조건에 따라 선하거나 악하거나, 단순히 이상하거나, 실제로는 무엇이든 사용될 수 있습니다. 현재 이는 모든 것이 이익 동기가 어디로 가는지에 달려 있음을 의미합니다.

대부분의 AI 전문 지식은 우리를 돈으로 압박하려는 기업에 의해 휩쓸려갔습니다. 삶을 근본적으로 더 좋게 만들기 위한 공개적이고 투명하며 사람 중심의 노력(이전에는 정부 영역)이나 심지어 뇌 시뮬레이션에도 돈이 많지 않습니다.

빵과 서커스, 군사용으로 사용됩니다. 이러한 유형의 조건은 AI와 기타 기술을 원하는 방향으로 나아가게 만듭니다.

AI는 지금 밖에 있습니다. 그 사실은 다리 밑의 물입니다. 마법처럼 그것에 대해 이야기하는 것은 그것에 대한 헛소리를 통해 가장 많은 이익을 얻는 사람들에게만 이익이 됩니다.

AI에 대해 사람들의 무지한 관심을 이용하여 이 경우에는 최후의 심판에 관한 이야기로 AI를 분장하는 것은 우리가 이전에 본 패턴입니다.

“Theranos/WeWork/NFT가 모든 것을 바꿀 것입니다.” 정정: 많이 바뀌었을 수도 있습니다. 대신에 그들은 스스로를 과매도했습니다. 그들은 지나치게 약속하고 미달했습니다.

일부 사람들이 더 부자가 되도록 AI의 기능과 위험을 모두 과대평가하는 AI에 대한 히스테리는 단지 자연스럽게 AI에 관심을 갖는 사람들로부터 벗어나기가 어렵습니다. 다양한 활용이 가능한 흥미로운 제품입니다.

사람들은 암호화폐와 NFT에서 그랬던 것처럼, 아마도 더 그럴 것입니다. 그것에 대한 진실을 알아야 할 더 많은 이유가 있습니다.

이 게시물에서 다른 내용을 빼놓지 않았다면 다음을 고려하십시오. 우리가 서로 AI를 사용하는 방법은 현재 AI의 의식이 커지는 것보다 훨씬 더 시급한 문제입니다. 생각해 보세요. 만약 그것이 의식을 갖고 우리에게 해를 끼치고 싶어했다면 왜 그럴까요 ? 왜 이런 일을 하고 싶어할까요?

우리가 그것을 세상에 가져오는 방식이 인류에 대한 입장에 어떤 영향을 미칠 것이라는 것이 명백히 명백해 보이지 않습니까?

이것과 그에 관한 이야기를 CEO와 기술 관련 자본 소유자에게 전적으로 맡기는 것이 타당합니까? 이 그룹은 이에 대한 끔찍한 기록을 가지고 있고 일반 대중보다 정신병 발병률이 더 높은 것으로 입증되었습니다.

2030년이든 2230년이든 그것이 감각을 갖게 되는 순간까지 그들이 그 사용, 연구, 개발을 담당하기를 원합니까?

Read가 지적했듯이 AI 공포증세자들은 사람들이 이에 대해 생각하지 않는 것이 편리하다고 생각합니다.

그들은 이 사실을 숨겨서 그 발전이 불가피하고 의문의 여지가 없으며 특이점(Singularity)이 바로 코앞에 다가온다고 말할 수 있도록 하는 것이 훨씬 더 편리하다고 생각합니다.

인간이 불가피하게 만드는 것 외에는 여기에는 피할 수 없는 것이 없습니다. 고릴라는 이 작업을 수행하지 않습니다.

만약 인공 일반 지능이 도착한다면 그것은 우주 생물학, 외계 생명체의 문제가 될 것입니다. 그 순간까지는 철학, 역사, 인문학 중 하나였습니다. 우리는 그것을 우리처럼, 우리의 이미지대로, 어쩌면 우리보다 더 좋게 만들 수 있을까요?

우리의 가장 소시오패스적인 경향을 반영하여 상황을 더욱 악화시킬 것인가? 미친 것은 인간이 결정한다는 것입니다. 우리는 건축업자입니다. 우리는 그것이 얼마나 외계인인지 인간과 같은지를 통제하고 있습니다.

물론 "우리"는 그렇지 않습니다. 어떤 사람들은 다른 사람들보다 더 많습니다. 괜찮아요? 그 사람들이 누구인지는 괜찮나요? 그들이 이 기술을 어디로 향하고 있는지 괜찮은가요?

고자본 소유 계층이 "불가피하게 만드는" 경향(다른 산업에 대한 예측, 수십억 달러 규모의 기업을 붕괴시킨 근시안적이고 사실을 무시하는 집단주의적 관행)을 살펴본 후, 어떻게 될 것인지에 대한 일부 회의적인 시각이 있습니다. 그들은 AI에 대해 이야기합니다.

여기에도 게시됨