paint-brush
A Ética dos LLMs Locais: Respondendo ao "Manifesto de IA de Código Aberto" de Zuckerbergpor@techshinobi
277 leituras

A Ética dos LLMs Locais: Respondendo ao "Manifesto de IA de Código Aberto" de Zuckerberg

por Tech Shinobi8m2024/08/04
Read on Terminal Reader

Muito longo; Para ler

Esta postagem explica a razão pela qual Zuckerberg integrou o Fediverse e o LLaMA de código aberto, e não é por causa de sua virtude. E porque é que o software livre é a forma de curar a doença do capitalismo e de salvar o nosso ambiente?
featured image - A Ética dos LLMs Locais: Respondendo ao "Manifesto de IA de Código Aberto" de Zuckerberg
Tech Shinobi HackerNoon profile picture

O "Manifesto de IA de código aberto"

Mark Zuckerberg é odiado por Richard Stallman há décadas e ele é a única pessoa que aparece na imagem da capa dos ensaios em vídeo: Como a Internet foi roubada e Como a IA foi roubada até então e agora.


No entanto, as coisas mudaram recentemente após a adoção do Fediverse e o código aberto do Llama continuamente.


No último "Manifesto de IA de código aberto" de Zuckerberg , ele declarou 5 necessidades do código aberto:


  • Precisamos treinar, ajustar e destilar nossos próprios modelos.
  • Precisamos controlar nosso próprio destino e não ficar presos a um fornecedor fechado.
  • Precisamos proteger nossos dados.
  • Precisamos de um modelo que seja eficiente e acessível para operar.
  • Queremos investir no ecossistema que será o padrão no longo prazo.


Isso descreve com precisão as necessidades de indivíduos de tecnologia e pequenas empresas.


A razão pela qual o chamo de "Manifesto" é porque a impressão de ler este artigo se conecta fortemente ao Manifesto GNU .


Graças ao projeto GNU que nos tornou sistemas operacionais gratuitos; graças à equipe de desenvolvimento do LLaMA que nos tornou verdadeiras IAs abertas.

Dialética Egoísmo-Altruísmo

Em A Teoria dos Sentimentos Morais , Adam Smith escreveu:


Por mais egoísta que o homem possa ser suposto, há evidentemente alguns princípios em sua natureza que o interessam pela fortuna dos outros e tornam a felicidade deles necessária para ele, embora ele não obtenha nada disso, exceto o prazer de vê-la.


Esta ideia de altruísmo egoísta ou egoísmo ético foi levada a cabo por muitas escolas austríacas e economistas comportamentais e acabou por se tornar um princípio fundamental da ideologia do neoliberalismo .


No entanto, é mais complexo no caso de Zuckerberg e seu Meta.


Em sua declaração, Zuckerberg está claramente ciente dos benefícios de adotar o código aberto – lucrativo, mas moral.


Como todos sabemos, no Vale do Silício, ninguém realmente se preocupa com “o bem maior” nem quer realmente “tornar o mundo um lugar melhor”. Eles são apenas responsáveis perante seus stakeholders.


Mas e quanto a uma situação ganha-ganha?


É exatamente isso que eles estão vendendo para o público acreditar (sentir).


A estrutura dialética permanece a mesma da dialética egoísmo-altruísmo – um empresário egoísta que busca o lucro, mas finge ser moral.


O importante é: isto resultará numa situação vantajosa para todos para o bem público?


A resposta é que depende e provavelmente não. Estas empresas demasiado grandes para falir são essencialmente reacionárias.


Alcançar o bem maior é difícil e é ingênuo acreditar que isso é o subproduto do egoísmo do [grande] Outro. A menos que nós, os 99% , estejamos envolvidos neste movimento dialético como um agente proativo. Caso contrário, a nossa sociedade será destruída pela crise climática antes de ter a oportunidade de entrar na “Distopia Pós-Humana”.

Sem decrescimento, sem aceleração

Como mencionei antes no meu discurso, os perigos da tecnologia , as grandes tecnologias nunca reduzirão os seus centros de dados para a sustentabilidade sem alterar a ordem político-económica subjacente, a menos que o próximo ciclo económico/depressão volte a ocorrer.


Nossa estimativa dos US$ 4 bilhões em custos de inferência da OpenAI vem de uma pessoa com conhecimento do cluster de servidores que a OpenAI aluga da Microsoft. Esse cluster tem o equivalente a 350.000 chips Nvidia A100, disse essa pessoa. Cerca de 290 mil desses chips, ou mais de 80% do cluster, alimentavam o ChartGPT, disse essa pessoa.


-Amir Efrati e Aaron Holmes


Marcando um grande investimento no futuro da IA da Meta, estamos anunciando dois clusters de GPU de 24k. Usamos este design de cluster para treinamento do Llama 3. Este anúncio é um passo no nosso ambicioso roteiro de infraestrutura. Até o final de 2024, pretendemos continuar a expandir nossa infraestrutura, que incluirá 350.000 GPUs NVIDIA H100 como parte de um portfólio que contará com potência computacional equivalente a quase 600.000 H100s.


Construindo a infraestrutura GenAI da Meta


Zuckerberg continuará expandindo seus clusters de IA para corresponder ao OpenAI/MS, Google e assim por diante. Afinal, o código aberto nada mais é do que uma estratégia competitiva para o Meta.


Os defensores do decrescimento de Noam Chomsky e Kohei Saito são muito atraentes, mas nunca devemos contar apenas com isso. Assim como uma máquina virtual não pode superar as limitações de sua máquina física subjacente. A política verde nem sequer consegue sustentar-se quando está acima da economia neoliberal.


Agora, a condição é clara, mas o que fazer? Claramente, nem o decrescimento nem o aceleracionismo são úteis na era do Antropoceno. Mas e o “Conservadorismo Moderado” de Slavoj Žižek?

SaaS ou Cloud Feudos?

Na internet, o software proprietário não é a única forma de perder a liberdade. Serviço como substituto de software, ou SaaS, é outra maneira de permitir que outra pessoa tenha poder sobre sua computação. SaaS significa usar um serviço implementado por outra pessoa como substituto da execução de sua cópia de um programa. O termo é nosso; artigos e anúncios não o utilizarão e não informarão se um serviço é SaaS. Em vez disso, provavelmente usarão o termo vago e perturbador “nuvem”, que agrupa o SaaS com várias outras práticas, algumas abusivas e outras aceitáveis.


Um dos muitos significados de “computação em nuvem” é armazenar seus dados em serviços online. Na maioria dos cenários, isso é tolice porque expõe você à vigilância. Outro significado (que se sobrepõe, mas não é a mesma coisa) é Serviço como substituto de software, que nega a você o controle sobre sua computação. Você nunca deve usar SaaS.


- Richard Stallman, a quem esse servidor realmente serve?


RMS escreveu este ensaio há muito tempo, mas recentemente Yanis Varoufakis levou esta noção de perda de liberdade um passo adiante no contexto de hoje.


Foram necessárias descobertas científicas alucinantes, redes neurais de som fantástico e programas de IA que desafiam a imaginação para conseguir o quê? Para transformar trabalhadores que trabalham em armazéns, dirigindo táxis e entregando alimentos em perfis de nuvem. Criar um mundo onde os mercados sejam cada vez mais substituídos por feudos de nuvens. Para forçar as empresas a assumirem o papel de vassalos. E transformar todos nós em servos da nuvem, colados aos nossos smartphones e tablets, produzindo avidamente o capital da nuvem que mantém os nossos novos senhores na nuvem nove.


— Yanis Varoufakis, Tecnofeudalismo – O que matou o capitalismo


Na Era do Capital da Nuvem, nossa liberdade é tirada pelos cloudalistas que possuem o serviço on-line/SaaSS/feudo da nuvem para nos cobrar uma taxa de assinatura, ou o chamado "aluguel da nuvem". Claro, eles querem controlar nossos dispositivos (computação), nossa atenção (carteira) e nossa vida (trabalho).


Então, como podemos recuperar a nossa liberdade e democracia?


Afirmo que devemos primeiro libertar [as libre] e democratizar [as descentralize] a nossa vida digital, adoptando alternativas de código aberto e auto-hospedagem, se possível. Esta é a minha versão da “rebelião das nuvens” para derrubar o tecnofeudalismo, e é a mesma pedra que Jacob Appelbaum disparou contra a Vigilância [Capitalismo] .


É a coisa mais difícil de trabalhar contra o funcionamento de um sistema. O resultado seria o recuo de uma crise económica mais grave, a iteração do Capitalismo Verde e o tiro pela culatra da Alt-Right.


Para ultrapassar este impasse do sistema, precisamos de contornar os ciclos de feedback e identificar e alterar os pontos de alavancagem, como indica Donella Meadows.


Então, quais são e onde estão exatamente os pontos de alavancagem no sistema capitalista? Acho que é toda Destruição Criativa que Joseph Schumpeter sugeriu. Por exemplo, o boom da IA que estamos vivenciando atualmente, e o Llama e a Difusão Estável são as forças criativas-destrutivas mais fortes que existem.


Também precisamos da Ação Direta de David Graeber, mas dentro da nossa vida digital.

Tratamento da esquizofrenia e da depressão

Existem muitos recursos, como gofoss e guias de privacidade , que são fáceis de usar. Mas vamos nos concentrar nos LLMs locais agora. Ferramentas como ollama , Jan , GPT4All e llamafile funcionam muito bem para LLMs auto-hospedados em localhost ou redes locais.


Este é o primeiro passo para recuperar a nossa liberdade das oligarquias, aproveitando a força criativa-destrutiva da IA de código aberto. O objetivo é encorajar as pessoas que entendem de tecnologia a fazerem mais auto-hospedagem e as pessoas que não entendem de tecnologia a usar serviços/instâncias mais descentralizadas mantidas pela comunidade de código aberto, como o Fediverse.


Sim, Zuckerberg de fato integrou o Fediverse e o LLaMA de código aberto, e não é por causa de sua virtude. O mesmo acontece com o Alibaba e seu Qwen. Isto porque, nos termos de Gilles Deleuze, o capitalismo é esquizofrênico, o que significa que é autodesterritorializado pela sua natureza. Simplificando, esta é outra forma da famosa afirmação de Karl Marx: o capitalismo é autodestrutivo.


Se quisermos realmente salvar o nosso ambiente através do decrescimento, terá de ser feito de baixo para cima e não o contrário. Mais LLMs descentralizados e auto-hospedados levam a uma menor demanda do mercado por clusters massivos de IA [pelo menos para inferência], de modo que a oferta de data centers começará a cair espontaneamente.


As regulamentações têm o seu significado, mas nunca resolverão o problema de forma eficaz num mercado competitivo, e as necessidades e desejos humanos não podem ser simplesmente afastados. A intervenção legislativa excessiva pode resultar em desemprego que leva ao ressurgimento dos conservadores, mas na sua pior condição, o ultraconservadorismo.


Isto é o que Sigmund Freud chamou de “o retorno insistente do reprimido”. A cura é sermos mais auto-suficientes – satisfazer as nossas necessidades pelas nossas próprias mãos, em vez de ficarmos fartos do Gozo Excedente do Consumismo por parte do [grande] Outro.


A História provou que o Capitalismo não poderia ser eliminado pelo Comunismo, como já vimos, mas definitivamente não é o Fim da História de Fukuyama.


Todo beco sem saída (ciclo) do Capitalismo pode ser alterado pelo Empreendedorismo. Não no sentido de "todo mundo é empreendedor", mas todos têm oportunidades [não tão] iguais de agir [à sua própria maneira] - de participar, de se envolver e de estar no jogo de uma revolução tecnológica e sua subsequente transformação social.


Na psicanálise lacaniana, no tratamento da psicose, o analista deve aliar-se ao paciente, assumindo o papel de secretário (empreendedor) e obedecendo às regras do paciente (mercado livre). Em seguida, encontre uma fixação (oportunidade) e incentive o paciente a reposicionar sua estrutura psíquica (fluxo circular) em algo mais estável e sustentável. No caso do Capitalismo, a fixação [ou ponto de ancoragem] é o Software Livre e de Código Aberto (FOSS).


A auto-hospedagem descentralizada de LLMs locais é como o Rizoma de Deleuze. Pode diminuir a demanda do mercado proprietário e, eventualmente, desmantelar os monólitos de IA. Esta transformação produtiva e fluida do software livre é a forma de curar a doença do capitalismo e de salvar o nosso ambiente.


Não sabemos como será depois do capitalismo, como sugeriu Mark Fisher, é impossível sequer imaginar isso. Mas ainda precisamos de ir além do jogo final sem fim do Capitalismo Tardio, libertar o depressivo Realismo Capitalista e recriar um futuro onde tudo seja possível (todos têm liberdade).


Aqui está uma lista de livros que construíram o contexto desta postagem:

  • Ludwig von Mises - Ação Humana: Um Tratado de Economia
  • Joseph Schumpeter - Capitalismo, Socialismo e Democracia
  • Murray Rothbard - Homem, Economia e Estado
  • Adam Smith - A Teoria dos Sentimentos Morais
  • Kohei Saito - Marx no Antropoceno: Rumo à Ideia do Comunismo do Decrescimento
  • Noam Chomsky - Otimismo sobre o Desespero
  • Donella Meadows - Pensando em Sistemas
  • David Graeber - Fragmentos de uma antropologia anarquista
  • Yanis Varoufakis - Tecnofeudalismo: o que matou o capitalismo
  • Richard Stallman - Software Livre, Sociedade Livre
  • Jean Baudrillard - A sociedade de consumo
  • Gilles Deleuze - Capitalismo e Esquizofrenia
  • Francis Fukuyama - O Fim da História e o Último Homem
  • Slavoj Žižek - Menos que nada: Hegel e a sombra do materialismo dialético
  • Slavoj Žižek - O Sublime Objeto da Ideologia
  • Bruce Fink - Fundamentos da Técnica Psicanalítica Uma Abordagem Lacaniana para Praticantes
  • Dany Nobus - Conceitos-chave da psicanálise lacaniana
  • Zygmunt Bauman - Trabalho, consumismo e os novos pobres
  • David Harvey - Uma Breve História do Neoliberalismo
  • Murray Bookchin - A Ecologia da Liberdade
  • Mark Fisher - Realismo Capitalista