   о принудительном увольнении Сэма Альтмана советом директоров OpenAI за выходные стала еще более странной и странной. Если вы не разбираетесь в технологиях, я вам завидую. Ваши технические друзья только что посмотрели 3 сезона «Наследия» и остались в тупике! Но в любом случае, вот последовательность событий после принудительного увольнения Сэма в пятницу. 12:59 Понедельник, 20 ноября 2023 г. Совершенно причудливая история    : Грег Брокман, главный операционный директор OpenAI/председатель правления/соучредитель,   в знак солидарности с Сэмом. Он упомянул, что узнал об этой новости всего за несколько минут до того, как она вышла.  Вечер пятницы, 17 ноября уходит    : несколько высокопоставленных талантов @ openAI ушли. Оказывается, Грег и Сэм — довольно популярные лидеры. Затем многие сотрудники OpenAI предприняли скоординированные усилия, чтобы дать понять общественности, что все уйдут, если Грег и Сэм не вернутся, процитировав твит Сэма «Я так люблю команду OpenAI» с сердечными смайликами. Примечательно, что будущий временный генеральный директор Мира Мурати приняла участие в этих усилиях.  Суббота, 18 ноября    : Сэм вернулся в офис OpenAI для переговоров с Советом директоров по поводу его (и Грега) потенциального возвращения. Условием было бы найти новое правление и уйти в отставку всех нынешних членов правления. Генеральный директор Microsoft Сатья Наделла возглавил переговоры между Сэмом и советом директоров. Срок в 17:00 был установлен и пропущен. Вечер субботы, 18 ноября    : Сэм снова вернулся в офис для переговоров с Советом директоров по поводу его (и Грега) потенциального возвращения. Сэм упомянул, что на этот раз это будет его последний раз. Еще один крайний срок в 17:00 был установлен и пропущен.   воскресенье, 19 ноября День сурка,  Понедельник, 20 ноября: просочилось письмо «Верните Сэма, или мы уйдем». Из более чем 770 сотрудников 667 (и их количество растет) подписались под письмом по состоянию на 10 утра по восточному времени понедельника.    Примечательно, что оно оборвалось на слове «Илья Суцкевер», главный научный сотрудник, один из 6 членов правления, тот самый, чей голос способствовал отстранению Сэма.    : Бывший генеральный директор Twich Эмметт Шир принял предложение о работе на посту генерального директора OpenAI!  Полночь воскресенья, 19 ноября/понедельник, 20 ноября    : Сатья Наделла объявил, что Сэм и Грег присоединятся к MICROSOFT. Больше информации   . хорошо  Понедельник, 20 ноября здесь  ….И мы уже прошли половину пути с понедельником.  «Заключительные» мысли, или WTF?  Я уверен, что история будет развиваться и дальше, поэтому «завершение» взято в кавычки. Но вот некоторые мои мысли по поводу этой совершенно безумной истории. И на этот раз я хотел бы, чтобы вы, читатели, помогли ответить/пролить свет на некоторые из них.    : извините за грубость, но кому, черт возьми, пришла в голову эта излишне сложная и причудливая идея? И что еще более важно, почему?   . Первого совершенно не заботит прибыль, а вторым ею движет. В Совете OpenAI буквально нет никого, у кого есть реальный скин в игре. Ни один из них не владеет акциями OpenAI. На самом деле у генерального директора Quora есть конфликт интересов в виде собственной   ! Microsoft, владеющая 49% акций OpenAI, не имеет места в совете директоров. Пойди разберись.  Совет некоммерческой организации, контролирующий коммерческую компанию Стимулы правления некоммерческих организаций сильно расходятся со стимулами правления коммерческих организаций альтернативной модели искусственного интеллекта под названием Poe    . Я прекрасно следил за историей OpenAI (это было безумие, безумие, сбой во вселенной и т. д., но это имело смысл… пока он не извинился). В состав совета директоров OpenAI входят 6 членов: генеральный директор/основатель Сэм Альтман, главный операционный директор/соучредитель Грег Брокман, директор по безопасности Илья Сускевер, генеральный директор Quora Адам Д'Анджело, технологический предприниматель Таша МакКоли и технический директор Джорджии Грантс Хелен Тонер. Для отстранения генерального директора необходимо большинство, то есть 4 голоса. Мы знаем, что Сэм и Грег на одной стороне. Таким образом, Илья Сускевер остается решающим голосом в выдвижении Сэма. Некоторые даже называют это переворотом между сторонниками ускорения ИИ и сторонниками ИИ-безопасности. И СЕЙЧАС ИЛЬЯ ИЗВИНЯЕТСЯ? И сказать совету директоров, что он… уйдет в отставку? Если в процессе «преднамеренной проверки» он увидел что-то настолько ужасное, что показало, что Сэм не был «откровен» с Советом директоров, и показало, что у Совета нет «уверенности» в способности Сэма управлять компанией… ЧТО ЭТО? И почему сейчас это не важно? типа, какого черта? Абсолютная причуда - это разворот Ильи Суцкевера  Я мало что знаю о мотивации Ильи или о том, что он знает, а мы нет, но, учитывая   я думаю, что его голос мог быть галлюцинацией, исправленной обучением с подкреплением на основе отзывов людей. : то, что Лия Суцкевер сказала в интервью HackerNoon в марте этого года,    » «Мы называем это обучением с подкреплением на основе обратной связи с людьми. Можно сказать, что в процессе предтренировочного процесса хочется узнать об окружающем мире все. Благодаря обучению с подкреплением на основе отзывов людей мы заботимся о результатах. Мы говорим: каждый раз, когда результат неверен, не делайте этого снова. Каждый раз, когда результат не имеет смысла, не делайте этого снова. И он быстро учится производить хорошие результаты. Но это уровень выходных данных, чего нельзя сказать о процессе предварительного обучения языковой модели. Что касается галлюцинаций, у него есть склонность время от времени выдумывать что-то, и это также сильно ограничивает их полезность. Но я очень надеюсь, что, просто улучшив этот последующий этап обучения с подкреплением на основе обратной связи человека, мы может научить его не галлюцинировать. Теперь вы можете сказать, действительно ли он научится? Мой ответ: давайте выясним.    Акции Microsoft упали на 1% на фоне новостей об увольнении Сэма в пятницу, которые появились до закрытия рынка. Как генеральный директор, Сатья Наделла несет фидуциарные обязательства перед своими акционерами (в отличие, я не знаю, от правления OpenAI), он сыграл важную роль во всех этих переговорах между идеологами и операторами OpenAI. Все, что я могу сказать сейчас, это то, что это чертовски похоже на то, что Microsoft буквально только что приобрела OpenAI (Сэм, Грег и, похоже, 80% компании, которая недавно была оценена в 80 миллиардов долларов) за 10 миллиардов долларов. Какой ход.  Является ли победителем в конечном итоге Microsoft?    Никто не знает. Буквально. Все они посылают общественности крайне неоднозначные сигналы. На одном дыхании угрожая правлению уйти в отставку и уйти вместе с Сэмом, и одновременно заявляя, что они «более сплочены», чем когда-либо. Судя по всему, по данным The Verge, набор Сэма и Грега и «коллег» (читай: почти всех из OpenAI) еще даже не окончателен. А новому генеральному директору Эммету Ширу трудно собрать документы и заставить сотрудников выполнять его приказы.  Что будет с OpenAI дальше?    : ИИ может стать самой важной технологией этого десятилетия и десятилетий последующих. Но история, развернувшаяся в минувшие выходные, просто показывает нам, насколько несовершенны люди, которым угрожает опасность, и которые находятся под контролем. Сообразительные технологии + несовершенные люди = довольно катастрофическая комбинация, имхо. Чувствуете ли вы надежду или обреченность на будущее, идя вперед, во многом зависит от вашей предрасположенности и существующего темперамента. Если Илья-ученый сможет развернуться, я думаю, то же самое сможет сделать и будущее человечества.  Опасность оставить судьбу ИИ через несколько дней  PS: Очень жаль, что эта история была очень тяжелой для скриншотов в Твиттере. Я не виноват, что рядовые технические специалисты все еще цепляются за эту платформу, как мотыльки, несмотря ни на что. Поэтому вместо этого я оставлю вам этот скриншот из   . До скорого!  темы

Check out my corner of the internet here 

Read My Stories

Now Hiring

Этот звук создан на языке оригинала истории!

Слишком долго; Читать

Make resilience your competitive advantage

Хронологическая лента: Сэм Альтман уволен советом директоров OpenAI и нанят генеральным директором Microsoft Сатьей Наделлой (возможно)

About Author

КОММЕНТАРИИ

БИРКИ

ЭТА СТАТЬЯ БЫЛА ПРЕДСТАВЛЕНА В

Related Stories

Плавание по водам: разработка RAG-приложений промышленного уровня с использованием озер данных

Создание криптопродуктов, ориентированных на пользователя: важность отзывов клиентов

Утечка информации о системе Claude Sonnet 3.5: судебно-медицинский анализ

Как улучшить ваш рабочий процесс в 10 раз: 17 основных приложений

Плавание по водам: разработка RAG-приложений промышленного уровня с использованием озер данных

Создание криптопродуктов, ориентированных на пользователя: важность отзывов клиентов

Утечка информации о системе Claude Sonnet 3.5: судебно-медицинский анализ

Как улучшить ваш рабочий процесс в 10 раз: 17 основных приложений

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps