da expulsão forçada de Sam Altman pelo OpenAI Board ficou ainda mais estranha e estranha no fim de semana. Se você não está em tecnologia, eu te invejo. Seus amigos da tecnologia acabaram de assistir 3 temporadas de Succession e ficaram em um penhasco! Mas de qualquer forma, aqui está a sequência de eventos desde a expulsão forçada de Sam na sexta-feira 12h59, segunda-feira, 20 de novembro de 2023: A história absolutamente bizarra : Greg Brockman, COO/Presidente do Conselho/Cofundador da OpenAI, , em solidariedade a Sam. Ele mencionou saber da notícia poucos minutos antes de ela ser divulgada. Sexta-feira, 17 de novembro renunciou : vários talentos de alto escalão @ openAI desistiram. Acontece que Greg e Sam são líderes bastante populares. Então, houve um esforço coordenado de muitos funcionários da OpenAI para sinalizar ao público que iriam pedir demissão se Greg e Sam não voltassem, citando o tweet de Sam “Eu amo tanto a equipe OpenAI” com um emoji de coração. Notavelmente, a futura CEO interina, Mira Murati, fez parte desse esforço. Sábado, 18 de novembro : Sam voltou ao escritório da OpenAI para uma negociação com a diretoria sobre o possível retorno dele (e de Greg). A condição teria sido encontrar um novo conselho e todos os atuais membros do conselho renunciarem. O CEO da Microsoft, Satya Nadella, liderou a negociação entre Sam e o conselho. O prazo das 17h foi definido e perdido. Tarde de sábado, 18 de novembro : Sam voltou novamente ao escritório para uma negociação com a Diretoria sobre o possível retorno dele (e de Greg). Sam mencionou que desta vez seria a última. Outro prazo às 17h foi definido e perdido. domingo, 19 de novembro Dia da Marmota, Segunda-feira, 20 de novembro: uma carta “traga Sam de volta ou vamos desistir” vazou. Dos mais de 770 funcionários, 667 (e aumentando) assinaram a carta, a partir das 10h MT de segunda-feira. Notavelmente, foi cortado na palavra “Iliya Sutskever”, o Cientista Chefe, um dos 6 membros do conselho, aquele cujo voto foi fundamental para destituir Sam. : O ex-CEO da Twich, Emmett Shear, aceitou a oferta de emprego para ser CEO da OpenAI! Meia-noite de domingo, 19 de novembro / segunda-feira, 20 de novembro : Satya Nadella anunciou que Sam e Greg iriam, veja só, JUNTE-SE À MICROSOFT. Mais informações . OK Segunda-feira, 20 de novembro aqui ….E já estamos na metade do caminho de segunda-feira. Pensamentos “conclusivos”, também conhecidos como WTF? Tenho certeza de que a história continuará a se desenvolver, por isso a “conclusão” está entre aspas. Mas aqui estão alguns dos meus pensamentos sobre esta história absolutamente insana. E desta vez - gostaria que vocês, leitores - ajudassem a responder/esclarecer algumas delas. : desculpe minha linguagem, mas quem diabos teve essa ideia desnecessariamente complicada e bizarra? E o mais importante, por quê? . O primeiro não se preocupa de forma alguma com o lucro, enquanto o segundo é movido por ele. O Conselho OpenAI não consiste literalmente em ninguém que tenha uma pele real no jogo. Nenhum deles detém ações da OpenAI. Na verdade, o CEO do Quora tem um conflito de interesses na forma de seu próprio ! A Microsoft, que possui 49% das ações da OpenAI, não tem assento no conselho. Vai saber. O conselho da organização sem fins lucrativos que controla uma empresa com fins lucrativos O incentivo de um conselho sem fins lucrativos está em total desacordo com o incentivo de um conselho com fins lucrativos modelo alternativo de IA, chamado Poe . Eu estava acompanhando muito bem a história da OpenAI (era uma loucura, uma loucura, uma falha no universo, etc, mas fazia sentido… até que ele se desculpou). Existem 6 membros do conselho da OpenAI: CEO/fundador Sam Altman, COO/cofundador Greg Brockman, CSO Ilya Suskever, CEO da Quora Adam D'Angelo, Tech Entrepreneur Tasha McCauley e Georgia Tech Director of Grants Helen Toner. Para destituir o CEO, é necessária uma maioria, ou seja, 4 votos. Sabemos que Sam e Greg estão do mesmo lado. Isso deixa Ilya Suskever sendo o voto fundamental para forçar a expulsão de Sam. Algumas pessoas até chamam isso de golpe entre o aceleracionista da IA e o segurança da IA. E AGORA ILYA ESTÁ SE PEDINDO? E dizendo ao conselho que ele iria… renunciar? Se ele viu algo tão atroz em seu processo de “revisão deliberada” que mostra que Sam não está sendo “franco” com o Conselho e faz com que o Conselho não tenha “confiança” na capacidade de Sam de dirigir a empresa... O QUE É? E por que isso não é importante agora? tipo, que merda? A bizarrice absoluta que é a reviravolta de Ilya Sutskever Não sei muito sobre a motivação de Ilya ou o que ele sabe que nós não sabemos, mas dado acho que seu voto poderia ter sido uma alucinação corrigida pelo aprendizado por reforço a partir do feedback humano : o que lya Sutskever disse em uma entrevista de março deste ano ao HackerNoon, ” “Chamamos isso de Aprendizagem por Reforço com Feedback Humano. Podemos dizer que no processo de pré-formação você quer aprender tudo sobre o mundo. Com o aprendizado reforçado a partir do feedback humano, nos preocupamos com os resultados. Dizemos: sempre que o resultado for inadequado, não faça isso novamente. Toda vez que o resultado não fizer sentido, não faça isso novamente. E ele aprende rapidamente a produzir bons resultados. Mas é o nível dos resultados, o que não acontece durante o processo de pré-treinamento do modelo de linguagem. Agora, no que diz respeito às alucinações, ele tem uma propensão a inventar coisas de vez em quando, e isso é algo que também limita muito sua utilidade. Mas estou bastante esperançoso de que simplesmente melhorando esse aprendizado de reforço subsequente a partir da etapa de feedback humano, nós pode ensiná-lo a não ter alucinações. Agora você poderia dizer se realmente vai aprender? Minha resposta é: vamos descobrir. A Microsoft despencou 1% com a notícia da demissão de Sam na sexta-feira, que foi divulgada antes do fechamento do mercado. Como CEO, Satya Nadella tem um dever fiduciário a cumprir com seus acionistas (ao contrário, não sei, do conselho da OpenAI), ele tem sido fundamental em todas essas negociações entre os ideólogos e os operadores da OpenAI. Tudo o que posso dizer agora é que com certeza parece que a Microsoft literalmente acabou de adquirir a OpenAI (Sam, Greg e o que parece ser 80% de uma empresa que foi recentemente avaliada em US$ 80 bilhões) por US$ 10 bilhões de dólares. Que movimento. A vencedora, em última análise, é a Microsoft? Ninguém sabe. Literalmente. Todos eles têm enviado sinais extremamente confusos ao público. De uma só vez, ameaçando o conselho de renunciar e sair com Sam e ao mesmo tempo dizendo que eles estão “mais unidos” do que nunca. Aparentemente, de acordo com o Verge, a contratação de Sam & Greg e “colegas” (leia-se: quase todos da OpenAI) ainda nem é definitiva. E o novo CEO, Emmett Shear, está tendo dificuldade em reunir a papelada e fazer com que os funcionários cumpram sua ordem. O que acontecerá com o OpenAI a seguir? : a IA pode ser a tecnologia mais importante desta década e das próximas. Mas a história que se desenrolou no fim de semana passado apenas nos mostra o quão incrivelmente falhas são as pessoas sob perigo de serem controladas. Tecnologia experiente + humanos imperfeitos = combinação bastante desastrosa, imho. Se você se sente esperançoso ou condenado em relação ao futuro, daqui para frente depende muito de sua predisposição e temperamento existente, para começar. Se Ilya, o cientista, pode dar meia-volta, acho que o futuro da humanidade também pode. O perigo de abandonar o destino da IA em poucos minutos PS: Sinto muito que esta história tenha sido extremamente pesada em capturas de tela do Twitter. Não é minha culpa que os especialistas em tecnologia ainda se agarrem a essa plataforma como mariposas, apesar de tudo. Então, vou deixar vocês com esta captura de tela, de . Até a próxima vez! threads
