세계적인 인공지능 연구소 오픈AI(OpenAI)가 비영리단체에서 영리기업으로의 전환을 결정해 화제를 모았다. . 2015년부터 2018년까지 회사는 비영리로 운영된 것으로 알려졌습니다. 현재 이 회사의 가치는 엄청나게 높습니다. . 2019 290억 달러 눈썹을 치켜세우고 논쟁을 촉발한 이 움직임은 오랫동안 미국의 보루로 여겨져 왔던 조직에 엄청난 변화를 가져왔습니다. 첨단 AI 기술에 대한 수요가 증가하는 가운데 그것을 만들고 온 사람들에 의해 개발되었습니다. 그러나 OpenAI가 자신의 높은 이상과 시장 현실의 균형을 맞추려고 노력함에 따라 회사가 AI 개발의 복잡한 환경을 어떻게 탐색하고 기술이 더 큰 이익을 위해 사용될 것인지에 대한 의문이 남아 있습니다. 윤리적이고 책임감 있는 AI 이 이야기에서 우리는 OpenAI의 변화를 깊이 탐구하고 그 대담한 움직임의 의미를 탐구합니다. OpenAI의 초기: 비영리 연구소 옛날 옛적, 머나먼 은하계... 농담이죠. 실리콘밸리에서 OpenAI는 인공지능으로 세상을 구하겠다는 사명을 가지고 비영리 연구소로 설립되었습니다. 그들의 계획은요? 기계 학습을 사용하여 암을 피우고, 자율 주행 자동차를 만들고, 샌프란시스코의 실험실에서 바로 세계 기아를 종식시키세요. 별거 아니야. OpenAI는 비영리 연구소로서 최첨단 AI 기술 개발과 해당 분야의 획기적인 연구 수행에 주력하고 있습니다. 구실? 회사는 특허 파티를 열겠다고 발표했고 모두가 초대되었습니다! 자신의 특허와 연구를 일반 대중에게 공개함으로써 다른 조직 및 연구자들과 "자유롭게 협력"할 것이라고 선언했습니다. 회사때 Sam Altman, Reid Hoffman, Jessica Livingston, Elon Musk, Ilya Sutskever, Peter Thiel, Olivier Grabias 등 유명 기업가 및 연구원 그룹이 설립한 이 회사의 사명은 분명했습니다. 2015년에 시작됨 .” “재정적 수익을 창출해야 한다는 제약 없이 사회 전체에 이익이 되는 방식으로 인공지능을 발전시키는 것입니다 OpenAI의 창립자 중 한 명으로 알려진 캐나다 컴퓨터 과학자 요슈아 벤지오(Yoshua Bengio)와의 만남 후 AI 연구원이자 OpenAI의 공동 창립자인 그렉 브록먼(Greg Brockman)이 "이 분야 최고의 연구자" 목록을 작성한 것으로 알려졌습니다. 딥러닝 운동에 따르면 . 2015년 12월 브록만은 이들 중 9명을 회사의 첫 직원으로 채용할 수 있었고, OpenAI의 약속과 사명이 이들 연구원을 회사로 끌어들인 것으로 전해진다. 열광한 Google과 Facebook에서 인턴으로 일하다가 나중에 OpenAI에서 일하게 된 Wojciech Zaremba는 OpenAI가 다른 곳에서 받은 제안을 충족할 수 없었음에도 불구하고 부분적으로 사람과 사명 때문에 회사에 합류했다고 말했습니다. 그는 이러한 제안이 시장 가치의 2~3배에 달한다고 말했습니다. 그의 말에 따르면, “OpenAI는 최고의 장소였습니다.” 왜냐하면 회사는 미래 지향적인 연구를 조사하고 결국 이 연구의 전부는 아니더라도 대부분을 요청하는 사람과 무료로 공유할 수 있는 기회와 같은 더 가치 있는 것을 제공했기 때문입니다. https://twitter.com/sama/status/1610666441027772416?embedable=true OpenAI의 연구 이사인 Ilya Sutskever는 Google을 떠나 OpenAI로 이직한 것에 대해 다음과 같이 말했습니다. "그들은 제가 머물도록 매우 설득력 있게 만들었기 때문에 쉬운 결정은 아니었지만 결국 저는 OpenAI를 선택하기로 결정했습니다. 부분적으로는 매우 강력한 사람들 그룹 때문이었고, 대체로는 사명 때문이다." 회사 창립에는 다음과 같은 헌신이 수반되었습니다. 연구원들이 안전이나 윤리를 훼손하지 않고 AI의 잠재력을 최대한 활용할 수 있는 안전망을 만드는 것을 목표로 YC 리더 Paul Graham과 AWS 및 Infosys와 같은 기업 후원자가 포함된 창립 멤버로부터 자금을 지원 받았습니다. 10억 달러 출시된 AI 소프트웨어 OPenAI의 첫 번째 배치 중 하나는 다음과 같습니다. , "강화 학습"이라는 기술을 통해 인공 지능 시스템을 구축하기 위한 툴킷입니다. Brockman이 회사가 시작할 것이라고 말한 것과 정확히 같습니다. 같은 해, 다양한 게임, 웹사이트, 기타 애플리케이션을 통해 AI의 일반 지능을 평가하고 연마하기 위한 소프트웨어 플랫폼도 소개되었습니다. 오픈AI 체육관 "우주," 그러나 회사 상승의 초기 단계에서 Elon Musk는 Tesla의 자율 주행과 관련된 인공 지능(AI) 연구 및 개발 노력과 그럴듯하고 잠재적인 이해 상충으로 인해 2018년 이사회 자리를 떠났습니다. 그 회사. 하지만 그렇습니까? 가장 최근의 보고에 따르면, 우리가 알고 있는 것보다 더 많은 "이해 상충"이 있었으며, 우리는 곧 알게 될 것입니다. 비영리 단체에 자금을 지원하는 과제 비영리 조직인 OpenAI는 연구 목표와 예산 제약의 균형을 맞추는 데 끊임없는 어려움을 겪었습니다. 연구원들은 투자자들에게 깊은 인상을 줄 수 있는 최첨단 AI 기술을 개발하는 동시에 고무줄처럼 달러를 늘리는 방법을 배워야 했습니다. 회사는 개방형 비영리 조직이 목표를 달성하는 가장 효과적인 방법이라는 점을 깨달았습니다. 전에 말했어 “우리 연구에는 재정적 의무가 없기 때문에 긍정적인 인간 영향에 더 집중할 수 있습니다. 우리는 AI가 개인 인간 의지의 확장이어야 하며, 자유의 정신에 따라 최대한 광범위하고 균등하게 배포되어야 한다고 믿습니다.” 그러나 몇 년 후, 그들은 개방적이고 비영리적인 조직이 되면 이러한 목적을 수행하기가 더 어렵다는 결론에 도달했습니다. 그래서 2019년, OpenAI는 획기적인 변곡점을 경험하게 되었습니다. 비영리 단체로서는 다소 특이한 움직임으로 OpenAI는 다음과 같은 조치를 취했습니다. , "이익 제한" 기업으로 운영되는 별개의 법인으로, 이는 기본 구조에 획기적인 변화를 가져왔습니다. OpenAI LP 생성 발표 영리 목적으로 전환한 동기 OpenAI가 영리 모델로 전환하기로 과감한 결정을 내렸을 때. 매 끼니 라면을 먹기가 지겨워서라고 말하는 사람도 있고, 일론 머스크보다 더 많은 돈을 벌고 싶어서라고 주장하는 사람도 있다. 이유야 어떻든 비영리 연구소로서는 큰 변화였다. 실제로 이 결정은 재정적 지속 가능성을 높이고 기술의 상업적 응용을 추구하려는 욕구에서 동기가 부여되었으며, 일부 비평가들은 이것이 윤리적인 AI 개발에 대한 조직의 약속을 손상시킬 수 있다고 주장했기 때문에 이러한 움직임에는 논란이 없지 않았습니다. 첫째, 회사 최고의 인재를 채용하려면 "수십억 달러"를 모으고 막대한 계약 보너스를 지급해야 했습니다. 주장하다 “향후 몇 년 동안 대규모 클라우드 컴퓨팅, 인재 유치 및 유지, AI 슈퍼컴퓨터 구축에 수십억 달러를 투자해야 합니다.” 회사는 또한 OpenAI를 개방형으로 유지하는 것도 위험하다고 생각했습니다. 복스(Vox)에 따르면 , OpenAI의 안전 팀은 모든 작업을 오픈 소스로 만드는 것이 인류의 최선의 이익에 봉사하는 대신 문제를 일으킬 수 있다는 결론에 도달했습니다. 그래서 그들은 GPT-2를 만들었을 때 표절, 봇, 가짜 아마존 리뷰, 스팸 등으로 쉽게 악용될 수 있다는 우려 때문에 대중에게 공개하지 않았습니다. 보고서 그러나 회사는 이러한 전환을 거치는 동안 동일한 목표를 계속 추구하고 투자자와 직원 모두에게 재정적 제한을 설정할 것이라고 주장했습니다. 부를 축적하려는 조직의 새로운 목표에도 불구하고, 조직은 여전히 도덕적 기준을 인식하고 비윤리적인 관행을 삼가겠다고 주장했습니다. 그 결과, OpenAI LP를 영리 조직과 비영리 조직이 결합된 "영리 상한선" 회사로 설립하려는 아이디어가 나왔습니다. "우리는 임무를 수행하면서 자본 조달 능력을 높이고자 하며, 우리가 알고 있는 기존의 법적 구조는 올바른 균형을 맞추지 못합니다." 앞서 언급한 "이익 상한선" 프레임워크는 1차 투자자에게 적용되는 제한을 암시하며, 이에 따라 그들은 원래 투자의 최대 100배만 수익을 받을 수 있도록 승인됩니다. 윤리적 고려와 수익성 사이의 균형 유지 비영리에서 영리로의 전환을 위해서는 OpenAI가 윤리적 AI 개발에 대한 노력과 이익 추구의 균형을 맞춰야 했습니다. 인류의 본질에 대한 좀 더 실존적인 질문을 제외하고는 외발 자전거를 타면서 저글링을 시도하는 것과 비슷했습니다. 회사의 정보 연구소는 영리 이익보다 인류의 발전을 우선시하는 비영리 거버넌스 구조(OpenAI LP는 비영리 기관인 OpenAI Inc.에 의해 "통제"됨) 하에서 운영되며 안전도 강조할 수 있다고 밝혔습니다. 가장 포괄적인 보편적 기본 소득(UBI) 실험 후원, 필요한 경우 주주에 대한 지분 의무를 취소할 수 있는 능력과 같은 중요한 계획을 우려하고 수행합니다. 웹사이트 주주들이 받을 수 있는 이익의 상한선은 그들이 제한 없이 부를 움켜쥐려는 유혹에 빠지거나 매우 해로울 수 있는 것을 배포할 위험을 방지한다고 말했습니다. 그럼에도 불구하고 Elon Musk는 자신의 예약을 유지합니다. 지난 3월 15일, 그는 자신이 소유한 소셜 미디어 플랫폼인 트위터에 불만을 표명했습니다. https://twitter.com/elonmusk/status/1636047019893481474?embedable=true 분명히, 밈 억만장자는 LLM 거대 기업이 영리 회사가 되기 훨씬 전에 1억 달러를 투자했습니다. 그러나 Elon은 OpenAI 전환의 법적 영향에 대해 우려하는 것처럼 보이지만 그의 과거 그가 인공지능의 잠재적인 위험에 대해 얼마나 우려하고 있는지 보여줍니다. 옹호 Tesla 사장은 단순히 이해 상충 때문에 OpenAI를 떠났다고 언급했지만, Elon이 회사를 떠난 진짜 이유는 회사를 인수하여 직접 운영하겠다는 그의 제안이 Sam Altman과 다른 창립자 모두에 의해 거부되었기 때문이라는 것을 보여줍니다. 그가 이 아이디어를 제안한 이유는 이 벤처가 구글에 비해 크게 뒤처져 있고, 자신이 상황을 반전시킬 수 있는 메시아라고 느꼈기 때문이다. 세마포 Elon은 자신의 목표가 AI 연구소를 Google과의 경쟁 세력으로 확립하는 것임을 분명히했습니다. https://twitter.com/elonmusk/status/1626516035863212034?embedable=true 그가 떠나면서 그는 또한 큰 규모의 기부를 주저했습니다. OpenAI의 머스크는 계속해서 조직에 재정적 지원을 제공할 것이라고 밝혔지만 약속을 지키지 않았습니다. 성명 그렇다면 과연 이해충돌은 엘론이 패한 권력투쟁이었던 걸까요? Semafor의 보고서에 따르면 OpenAI의 소수의 개인만이 머스크의 사임이 잠재적인 이해 상충으로 인한 것이라는 믿음을 공유한 것으로 보입니다. 더욱이 그가 OpenAI 사무실을 떠나면서 이 주제를 중심으로 한 연설은 제공된 설명에 회의적인 대다수의 직원들로부터 호의적인 피드백을 받지 못했습니다. 다행히 Elon이 떠난 후 Microsoft는 OpenAI에서 10억 달러를 투자하여 회사의 GPT-3에 대한 독점 라이선스 권리 획득 , 동시에 독점적인 클라우드 제공업체가 되었습니다. 이번 투자는 OpenAI가 추가 연구 노력을 추구하는 데 중요한 역할을 했습니다. AI 연구소와 새로운 투자자인 Microsoft의 공동 노력을 통해 대규모 모델 훈련을 위한 슈퍼컴퓨터가 구축되었으며, 이는 궁극적으로 ChatGPT와 이미지 생성기 DALL-E의 탄생으로 이어졌습니다. 투자했다 1년 후 모델 OpenAI의 미래 회사의 목표는, , 사회에 긍정적인 영향을 미치는 AI 시스템을 개발하고 경쟁하려는 의도를 명시하지 않고 해당 기술의 수익성 있는 상업적 응용을 모색하는 것입니다. 대신 최종적으로 안전을 증진하기 위해 다른 연구 및 정책 기관과 협력하는 것을 추구합니다. AGI 개발 단계. 그 자체로 언급했듯이 그럼에도 불구하고 경쟁은 계속 심화되고 있다. 예를 들어 Elon은 적이 아닌 것처럼 보이지만 https://twitter.com/elonmusk/status/1639200036578885632?embedable=true 실제로 그는 OpenAI의 직접적인 경쟁자들의 편에 가담했습니다. 그는 적극적으로 추진하고 있다. OpenAI와 맞붙을 새로운 스타트업의 모습입니다. 분명히 Elon은 배틀 링을 떠나지 않았습니다. 그러므로 권력투쟁이 여전히 진행 중이다. 창조 원래 사명을 유지하기 위한 방법으로 새로운 영리 기업의 지분을 포기하겠다는 Sam Altman의 흔치 않은 결정에도 불구하고 Elon Musk는 OpenAI가 개방형 조직에서 폐쇄형 조직으로 전환하는 것에 대해 여전히 의심을 품고 있습니다. https://twitter.com/elonmusk/status/1599291104687374338?embedable=true 앞으로도 회사는 혁신적인 연구와 신기술 개발을 통해 인공 지능의 한계를 계속 확장하고 있습니다. 다음에 무슨 일이 일어날지 누가 알겠어요? 어쩌면 인간을 화성으로 데려갈 수 있는 로봇이나 세상의 종말을 예측할 수 있는 기계일 수도 있습니다. 어느 쪽이든 매우 흥미로워 보입니다.
