Về cuộc đảo chính thất bại của Sam Altman trong hội đồng quản trị OpenAI và nguy cơ giao số phận AI vào tay một số ít

Hơn 500 người HackerNoon đã bỏ phiếu trong cuộc thăm dò của chúng tôi ngày hôm qua để hỏi điều gì sẽ xảy ra trong chuyến đi tàu lượn siêu tốc không thể đoán trước mà chỉ có thể được mô tả là một cuộc đảo chính thất bại thảm hại của Hội đồng OpenAI (hiện không còn tồn tại) , áp đảo lựa chọn phương án mà Sam Altman cuối cùng sẽ làm trở lại OpenAI với tư cách là Giám đốc điều hành.

Và độc giả HackerNoon đã đúng! Cuộc đàm phán cuối cùng và cuối cùng nhằm 'đưa Sam trở lại hoặc chúng tôi sẽ nghỉ việc' của các nhân viên OpenAI và 'đưa Sam hoặc chúng tôi sẽ rút lui' bởi các nhà đầu tư OpenAI, chủ yếu do Giám đốc điều hành Microsoft Satya Nadella và các đối thủ nặng ký của Thung lũng Silicon dẫn đầu (Tôi sẽ thảo luận về chúng sau trong bài viết này) cuối cùng đã đi đến “kết thúc có hậu”. Cuộc đảo chính thất bại. Sam & Greg giờ đây sẽ được chào đón, trong sự trở lại đầy thắng lợi của họ, bởi 95% OpenAI (778+ trong số 770 nhân viên, theo Bloomberg, đã ký thư), một Hội đồng hoàn toàn mới, cùng danh tiếng và quyền lực hơn bao giờ hết!

Khẩu súng hút thuốc vẫn chưa xuất hiện (và không rõ liệu nó có được làm rõ hay không), tôi vẫn khá tự tin rằng sẽ có nhiều tài liệu nghiên cứu, vụ kiện và thậm chí cả những thay đổi chính sách sẽ xuất hiện trong những tháng hoặc năm tới, để làm sáng tỏ những gì đã xảy ra. Và đây vẫn chưa phải là dấu chấm hết cho tình trạng hỗn loạn tại OpenAI.

Nhưng trước tiên, hãy tóm tắt nhanh

Để theo dõi 100% bộ phim này, bạn nên tiếp tục đọc câu chuyện của tôi vào thứ Sáu, trong đó đã thông báo và suy đoán về các chi tiết về vụ sa thải Sam Altman và câu chuyện vào thứ Hai, trong đó trình bày một dòng thời gian theo trình tự thời gian về những gì đã diễn ra vào cuối tuần qua. . Khi chúng tôi rời đi, Sam và Greg vẫn đang trên đường gia nhập Microsoft, chỉ để trở thành một công ty bình thường khác (haha). Một Giám đốc điều hành tạm thời mới đã được công bố (thay thế Giám đốc điều hành tạm thời Mira Murati, người hóa ra là người trung thành với Sam): Emmett Shear, nổi tiếng là cựu Giám đốc điều hành của Twitch. Đúng, Twitch. Nền tảng phát trực tuyến trò chơi. Không có gì liên quan đến AI.

Satya Nadella, Giám đốc điều hành Microsoft, mặc dù rất tích cực và lạc quan trong tất cả các lần xuất hiện và thông báo trước công chúng của mình, nhưng đã chỉ ra một cách mạnh mẽ rằng những thay đổi chắc chắn sẽ cần phải được thực hiện ở cấp độ Quản trị doanh nghiệp và sẽ không có thêm bất ngờ nào đối với Microsoft, một bên liên quan 49%, và là đối tác tổ chức quan trọng nhất của OpenAI. Tôi đọc được rằng: Hội đồng quản trị phải bị sa thải và không đời nào Microsoft lại rơi vào tình huống này nữa với Hội đồng quản trị mới.

Và sau đó, vào khoảng nửa đêm Thứ Ba ngày 21 tháng 11/ sáng sớm Thứ Tư ngày 22 tháng 11 - Open AI đã công bố những gì bạn biết, tin tức mà Sam & Co và hầu hết những người lạc quan ở Thung lũng Silicon đã chờ đợi:

SAM 👏 LÀ 👏 TRỞ LẠI 👏

Trong cùng thông báo đó, người ta đã đề cập rằng Hội đồng quản trị mới của OpenAI sẽ bao gồm: Bret Taylor (Chủ tịch), Adam D'eangelo và Larry Summer. Đáng chú ý là nó không đề cập đến Sam Altman, Ilya Sutskever, Tasha McCauley và Helen Toner.

Sự sai lệch phi lợi nhuận /vì lợi nhuận: Tai ương cho sự tồn tại của OpenAI

Tôi nghĩ lý thuyết hợp lý nhất về lý do tại sao cuộc đảo chính được phép xảy ra như sau: Hội đồng quản trị (hiện không còn tồn tại) của OpenAI, một tổ chức phi lợi nhuận kiểm soát LLC vì lợi nhuận (xem hình), được cho là không có bất kỳ động cơ nào để tối đa hóa lợi nhuận, đó là điểm chính của OpenAI, nhà sản xuất Chatgpt, đã huy động được 13 tỷ USD từ Microsoft và có nghĩa vụ ủy thác để kiếm tiền cho các nhà đầu tư của mình. Tất cả các thành viên có quyền biểu quyết của Hội đồng, bao gồm cả chính Altman, không nắm giữ cổ phần của OpenAI. Nhiệm vụ của họ, như đã nêu trong quy định của công ty, là “đảm bảo rằng trí tuệ nhân tạo chung—các hệ thống AI thường thông minh hơn con người—mang lại lợi ích cho toàn thể nhân loại”. Nói cách khác, Hội đồng phi lợi nhuận, cơ quan giám sát LLC vì lợi nhuận, không quan tâm đến việc kiếm tiền lại cho các nhà đầu tư , sức mạnh tính toán của Microsoft (vốn hoàn toàn bắt buộc phải thực hiện loại nghiên cứu cần thiết để triển khai AGI), hoặc thực tế là rằng OpenAI kể từ khi phát hành ChatGPT đã trở thành công ty công nghệ theo chủ nghĩa tư tưởng trên thực tế trong nhiều thập kỷ. Tất cả những gì nó quan tâm và được yêu cầu giám sát về mặt pháp lý là việc triển khai an toàn Trí tuệ nhân tạo tổng hợp, hay AGI. Về lý thuyết, họ hoàn toàn vui mừng khi không kiếm thêm tiền, thu hẹp quy mô và quay trở lại một nhóm nghiên cứu nhỏ ưu tú.

Giả thuyết này mà tôi nghĩ là hợp lý nhất vì (như đã đề cập trong câu chuyện trước của tôi ) về thực tế là tôi lya Sutskever , Người đồng sáng lập và Nhà khoa học trưởng của OpenAI, là thành viên của phe Hội đồng quản trị ban đầu đã lật đổ Sam ngay từ đầu. (Sau đó, anh ấy đã hối hận về quyết định của mình và quay đầu lại mà có thể nói là khiến tất cả mọi người hoàn toàn ngạc nhiên) Anh ấy là một bộ óc thông minh và được nhiều người tin là bộ não của Chiến dịch. Trên thực tế, anh ấy đã được chính Elon Musk (từ Google Deepmind) tán tỉnh với OpenAI, điều mà theo Musk , đã gây ra sự rạn nứt rõ ràng trong tình bạn lâu năm của Elon Musk và Giám đốc điều hành Google, Larry Page. Điểm gãy vào thời điểm đó (trở lại năm 2015/2016) là về vấn đề an toàn AI. Ilya quan tâm đến sự an toàn của AI, Elon cũng vậy, còn Larry thì không. Vì vậy, Ilya đã trở thành đội OpenAI.

Một lý do khác khiến tôi nghĩ đây là một sự bất đồng/sai lệch cơ bản về An toàn AI, đó là việc Helen Toner, một trong 3 thành viên Hội đồng quản trị đã bỏ phiếu phế truất Sam, gần đây đã viết một bài nghiên cứu (theo báo New York Times) ủng hộ đối thủ cạnh tranh trực tiếp của OpenAI là Anthropic và chỉ trích cách tiếp cận của OpenAI trong việc triển khai AGI. Bạn nhớ nhé, Anthropic được tạo ra chính xác vì sự căng thẳng về an toàn AI này. Những người sáng lập của nó là Dario Amodei, cựu phó chủ tịch nghiên cứu của OpenAI và chị gái của ông, Daniela Amodei, từng là phó chủ tịch chính sách và an toàn của OpenAI. Một số cựu sinh viên nghiên cứu OpenAI khác cũng nằm trong nhóm sáng lập Anthropic. Kỳ lạ hơn nữa, Giám đốc điều hành Anthropic Dario được cho là đã bị Hội đồng quản trị cũ săn đón vì một vụ sáp nhập tiềm năng với OpenAI (haha, ngay từ đầu, công ty mà nó đã khởi hành) và đã từ chối.

Và cuối cùng, chỉ ngày hôm qua, chỉ vài giờ trước khi tin tức về sự trở lại đắc thắng của Sam và Greg nổ ra, Elon Musk, người sáng lập và nhà đầu tư ban đầu của OpenAI, đã chia sẻ trên nền tảng X của riêng mình một bức thư từ các cựu nhân viên “có liên quan” của OpenAI về , trong số nhiều điều, có một kiểu hành vi đáng lo ngại của Sam Altman và đồng nghiệp, là không lắng nghe các nhà nghiên cứu an toàn. Xem toàn bộ thư ở đây . Nói cách khác, hầu hết những người bất đồng lớn với vấn đề an toàn của Sam re/AI trong nhiều năm qua đều đã rời đi. Phần lớn những gì còn lại của OpenAI là những người trung thành với Sam.

Gặp gỡ Ban giám đốc mới của OpenAI

Trong quá trình đàm phán để Sam Altman trở lại làm Giám đốc điều hành, Hội đồng quản trị (cũ) đã đồng ý đưa 3 cá nhân ban đầu này vào Hội đồng quản trị. Vì vậy, hãy gặp họ.

Bret Taylor

Bret Taylor là một trong những nhà công nghệ có mối quan hệ tốt và được kính trọng nhất ở Thung lũng Silicon. Ông được biết đến nhiều nhất với vai trò là cựu CEO của Salesforce, công ty hàng đầu về dịch vụ phần mềm dựa trên đám mây. Nhưng đáng chú ý hơn nữa, Taylor đã đóng một vai trò quan trọng với tư cách là Chủ tịch Hội đồng quản trị của Twitter (trước đây), nơi ông là người có công trong việc (ép buộc) việc mua lại Twitter của Elon Musk, sau khi tỷ phú này thất bại. của thỏa thuận trị giá 44 tỷ đô la (xem tại đây , tại đây và tại đây ).

Larry mùa hè

Lawrence "Larry" Summers là nhà kinh tế học người Mỹ, nguyên Phó Chủ tịch Kinh tế Phát triển và Nhà kinh tế trưởng của Ngân hàng Thế giới, đồng thời là cựu Bộ trưởng Tài chính Hoa Kỳ. Ông được biết đến nhiều nhất với vai trò là Hiệu trưởng thứ 27 của Đại học Harvard. Trong nhiệm kỳ của mình tại Harvard, Summers đã gây ra tranh cãi với những nhận xét của ông về phụ nữ trong khoa học, cho thấy sự khác biệt nội tại về năng khiếu giữa nam và nữ có thể là lý do khiến phụ nữ ít được đại diện trong các lĩnh vực khoa học và kỹ thuật. Những nhận xét này đã dẫn đến sự chỉ trích rộng rãi và đóng một vai trò quan trọng trong việc ông từ chức hiệu trưởng Harvard cuối cùng. Hãy hình dung đi.

Adam D'Angelo

Adam D'Angelo, CEO của Quora, một trang web hỏi đáp nổi tiếng. Trước Quora, ông là Giám đốc Công nghệ của Facebook và có thể cũng là một trong nhiều người đồng sáng lập bên cạnh Mark Zuckerberg. Đáng chú ý nhất, anh ấy là thành viên thường trực duy nhất của Hội đồng OpenAI vẫn sẽ phục vụ trong hội đồng mới này. Đúng vậy, Hội đồng quản trị đã loại bỏ Sam ngay từ đầu.

Hmmm, một nhà giao dịch kinh doanh xuất sắc ( người lớn duy nhất trong phòng có thể khiến Elon tuân thủ hợp đồng ràng buộc về mặt pháp lý của mình để mua Twitter ), một nhà kinh tế học có ảnh hưởng mặc dù gây nhiều tranh cãi (những bình luận phân biệt giới tính của Larry về trí tuệ của phụ nữ sẽ không tốt cho hội đồng quản trị bị lật đổ thành viên, cả hai đều là phụ nữ!), và một CEO bí ẩn hiếm khi trả lời phỏng vấn (không ai biết tại sao Adam (được cho là) đã lật đổ Sam, kể cả cho đến ngày nay)… đó là những người mà chúng ta hiện đang kiểm soát số phận của những người được cho là có ảnh hưởng nhất công nghệ của thời đại chúng ta.

Những suy nghĩ kết luận (hy vọng đây là lần cuối cùng trong câu chuyện này)

AI có thể là công nghệ quan trọng nhất trong thập kỷ này và những thập kỷ tiếp theo. Nhưng câu chuyện diễn ra vào cuối tuần vừa qua chỉ cho chúng ta thấy những người đang gặp nguy hiểm đến mức nào khi nó bị kiểm soát. Công nghệ thông thái + con người thiếu sót = sự kết hợp khá tai hại, imho. Cho dù hội đồng OpenAi hiện không còn tồn tại có sai sót, phi lý và dường như mất trí như thế nào trong quyết định sa thải Sam, vẫn có một con voi to lớn, khổng lồ trong phòng là sự kiện đưa ra quyết định đầu tiên địa điểm.

Có thông tin cho rằng về cơ bản Sam đã đồng ý điều tra kỹ lưỡng khi trở về. Và cho đến lúc đó, tôi sẽ vẫn nghi ngờ về khả năng của Hội đồng quản trị mới này trong việc đồng thời duy trì sứ mệnh cao cả của OpenAI là cứu nhân loại khỏi những robot siêu thông minh (diễn giải) đồng thời kiếm được nhiều tiền. Có vẻ như một nghịch lý, giống như chủ nghĩa tư bản, lòng vị tha hiệu quả và con người trong vấn đề đó.