Elaborando sobre a necessidade de pensadores futuristas

"A alta tecnologia funciona três vezes mais rápido do que as empresas normais, e o governo funciona três vezes mais devagar do que as empresas normais. Portanto, temos uma lacuna de nove vezes"

- Ex-CEO da Intel, Andrew Grove

“Alguns de nós continuam a ter carreiras antiquadas no século XXI – somos médicos, professores, advogados e motoristas de caminhão. No entanto, a economia principal agora é impulsionada não pelo que fazemos, mas pelas informações extraídas de nós, não por nosso trabalho em qualquer sentido estabelecido, mas por nossos dados”.

-Justin EH Smith em A Internet não é o que você pensa que é: uma história, uma filosofia, um aviso (2022)

“No passado, os humanos tinham que lutar contra a exploração. No século 21, a luta realmente grande será contra a irrelevância. É muito pior ser irrelevante do que ser explorado. Aqueles que fracassarem na luta contra a irrelevância constituirão uma nova classe inútil”.

-Yuval Noah Harari em uma palestra no Fórum Econômico Mundial, Davos (2020)

“Enfrentar esses problemas exigirá uma combinação de análise perspicaz e exame filosófico profundo do que importa em nossas vidas, uma tarefa para nossas mentes e nossos corações ”

- Kai-Lee Fu em AI Super-Powers: China, Silicon Valley e a Nova Ordem Mundial (2018)

“Se acreditarmos que a vida tem um significado além dessa corrida de ratos materiais, a IA pode ser a ferramenta que pode nos ajudar a descobrir esse significado mais profundo.”

-Kai-Lee Fu em AI Super-Powers: China, Silicon Valley e a Nova Ordem Mundial (2018)

Imagino as citações acima como vozes internas se repetindo em um loop contínuo para dar início a este post que está sendo feito há algum tempo.

Na verdade, este não é um único post, mas o primeiro de uma série de posts que pretendo escrever em um período de tempo mais longo. Estou interessado em explorar como a revolução da IA e o paradigma da Web 3.0, incluindo o conceito peculiar de Metaverso, moldarão a experiência humana no futuro.

Sem ir muito fundo na toca do coelho, e sem mais delongas, aqui está um breve resumo dos desafios sobre os quais pretendo escrever.

Ameaças da revolução da IA

A palestra de Yuval Noah Harari no Fórum Econômico Mundial em Davos, 2020, é um excelente ponto de partida para transmitir a ameaça macro dos sistemas avançados de IA.

https://www.youtube.com/watch?v=gG6WnMb9Fho

Harari identifica três desafios que virão da revolução da IA: uma nova classe inútil , colonialismo de dados e ditaduras digitais.

Uma nova classe inútil está entrelaçada com o conceito de desemprego tecnológico que abordarei mais adiante. Resumidamente explicada, “a classe inútil” é uma nova casta prevista para funcionários que ficam para trás no desenvolvimento tecnológico, pois testemunham como suas habilidades adquiridas com muito esforço são substituídas pela automação. '

O colonialismo de dados se relaciona com a “desigualdade tecnológica”. Por exemplo, a divisão entre alguns países em desenvolvimento que estão “fora da grade digital” em comparação com as superpotências de IA dos EUA e da China. A automação em países altamente desenvolvidos pode substituir a mão de obra de baixa remuneração nos países em desenvolvimento. Além disso, os dados são o petróleo do século XXI . Quem tem os dados pode controlar e explorar as pessoas com conhecimento sobre como elas se comportam, agem, pensam e sentem. Como diz Harari em sua palestra, “ quando você tem dados suficientes, não precisa de soldados para invadir um país. ”

Harari afirma as ditaduras digitais em uma equação simples e obscura que ele acredita ser a equação que definirá a vida no século XXI:

“B x C x D = AHH”

Que significa:

“ Conhecimento biológico (B) multiplicado pelo poder de computação (C) multiplicado pelos dados (D) é igual à capacidade de hackear humanos (AHH) ”

De acordo com Harari, governos e corporações com acesso a informações sobre nossos tipos de personalidade, opiniões políticas, crenças religiosas, preferências sexuais, gostos e desgostos, fraquezas e pontos fortes, medos e desejos mais profundos, são capazes de monitorar todos e prever e manipular nosso comportamento. Essencialmente, eles têm a “capacidade de hackear humanos”.

Nas palavras de Harari, se não formos cuidadosos, podemos criar o pior regime totalitário da história com conhecimento biológico, poder de computação e dados sobre os cidadãos que faltavam aos tiranos do passado.

Tomada de decisão automatizada e GDPR

Em menor escala, cada vez mais delegamos poderes e autoridade de tomada de decisão a algoritmos e sistemas de recomendação algorítmica. Como Harari também aponta em sua palestra:

“ Bilhões de pessoas confiam no algoritmo do Facebook para nos dizer o que há de novo, os algoritmos do Google nos dizem o que é verdade, o Netflix nos diz o que assistir e os algoritmos da Amazon e do Ali Baba nos dizem o que comprar .”

Os sistemas algorítmicos até decidem se somos adequados para um trabalho, se somos elegíveis para um empréstimo, como nosso dinheiro deve ser investido ou com quem devemos namorar, combinando-nos com parceiros em potencial no Tinder. Entretanto, não temos insights sobre como essas decisões são tomadas e, mesmo que tivéssemos, não conseguiríamos entender o raciocínio da máquina.

Fiz algumas postagens legais e longas sobre a regulamentação do GDPR sobre tomada de decisão automatizada aqui e aqui . Mais ou menos, concluo nas palavras de Edward Snowden que o GDPR é um tigre de papel, pois não oferece proteção significativa para indivíduos contra decisões automatizadas. O direito de os titulares dos dados obterem intervenção humana que decorre do artigo 22.º do RGPD é uma nobre iniciativa com efeitos limitados. Mesmo que a decisão seja necessária para a celebração de um contrato ou seja baseada no consentimento explícito do indivíduo, muitas vezes não há como entender ou explicar os processos por trás de como uma decisão específica foi alcançada, nem para o indivíduo, nem para o empresário ou para o desenvolvedores de um sistema avançado de IA.

Dito isto, a Comissão da UE propôs um quadro jurídico para regular a IA com uma abordagem baseada no risco que visa preencher as lacunas regulamentares e mitigar os perigos dos sistemas de IA num delicado ato de equilíbrio com os interesses comerciais de pequenas e médias empresas. empresas de grande porte (PMEs).

O GDPR “o tigre de papel” também mostrou seus dentes em 2021 com multas pesadas. A Comissão de Proteção de Dados de Luxemburgo impôs uma multa recorde à Amazon de € 746 milhões , supostamente relacionada ao uso de dados de clientes pela Amazon para publicidade direcionada. A proteção de dados irlandesa multou o WhatsApp em 225 milhões de euros por políticas de privacidade pouco claras e falta de transparência na forma como lida com os dados do usuário. O Google foi multado em € 150 milhões e o Facebook Ireland Limited foi multado em € 90 milhões pela autoridade de dados francesa CNIL por não fornecer um método simples para os usuários desativarem os cookies de rastreamento .

Crescimento Tecnológico Exponencial e Desemprego Tecnológico

O crescimento tecnológico exponencial fez maravilhas pela humanidade no último século, elevando os padrões de vida, o conforto e a conveniência. E o crescimento continua desequilibrado, talvez até ultrapassando a lei de Moore .

A lei de Moore é um princípio econômico nomeado em homenagem ao co-fundador da Intel, Gordon E. Moore , que previu em 1965 que o número de transistores em um chip de computador dobraria aproximadamente a cada ano por um período de dez anos. Ele estava certo. Em 1975, Moore revisou sua previsão e sugeriu que o número de transistores dobraria aproximadamente a cada dois anos. Mas ele era muito pessimista. O número de transistores dobraria aproximadamente a cada 18 meses por 50 anos a partir de 1961. À medida que o número de transistores em um chip de computador aumenta, também aumenta o poder de processamento do computador, enquanto o preço por transistor cai.

Em 2011, o físico e futurista Michio Kaku descreveu os efeitos da lei de Moore :

“Hoje, seu telefone celular tem mais poder de computador do que toda a NASA em 1969, quando colocou dois astronautas na lua. Os videogames, que consomem enormes quantidades de poder de computador para simular situações 3-D, usam mais poder de computador do que os computadores mainframe da década anterior. O Sony PlayStation de hoje, que custa US$ 300, tem o poder de um supercomputador militar de 1997, que custou milhões de dólares.”

É claro que o crescimento exponencial da tecnologia não se limitou aos chips de computador. Hoje, modelos de conversão de texto em imagem, como o Dall-E 2 da OpenAI ou o Imagen do Google, podem gerar obras de arte e fotos hiper-realistas a partir de prompts. Os modelos de linguagem podem escrever qualquer forma de conteúdo quase indistinguível da escrita humana. Temos lojas sem funcionários como a Amazon Go , podemos construir carros sem motorista e adquirir software para dar suporte a qualquer tipo de função comercial.

Dentro de décadas, os sistemas de IA provavelmente podem superar os humanos em qualquer campo intelectual. Incluindo em tarefas que antes eram consideradas um terreno seguro, como pesquisar e descobrir, filosofar, revisão judicial, diagnóstico e análise financeira. Qual será a gravidade dos impactos no mercado de trabalho?

Uma dupla de pesquisadores da Universidade de Oxford fez uma previsão inicial em 2013 de que 47% do total de empregos nos EUA corriam alto risco de automação dentro de uma ou duas décadas.

Outro relatório da Organização para a Cooperação e Desenvolvimento Econômico (OCDE) apresentou uma estimativa baixa em 2016 de que apenas 9% dos empregos eram automatizáveis, em média, em 21 países da OCDE.

Um relatório da PricewaterhouseCoopers (PwC) de 2017 descobriu que cerca de 30% dos empregos no Reino Unido e cerca de 38% nos EUA corriam alto risco de automação no início da década de 2030.

Os principais especialistas em IA do mundo, Kai Fu-Lee, previram em 2018 que seríamos tecnicamente capazes de automatizar de 40 a 50% dos empregos nos Estados Unidos dentro de dez a vinte anos.

Como os governos de todo o mundo devem responder? E como podemos manter um senso de propósito quando as funções de trabalho que anteriormente nos davam uma identidade não são mais necessárias? Estamos lidando com uma besta inteiramente nova.

Tecnocapitalismo, Internet e Web 3.0

O nome do jogo no capitalismo sempre foi que os ricos ficam mais ricos, enquanto os pobres ficam mais pobres. Infelizmente, o tecnocapitalismo, que é o capitalismo impulsionado por sistemas de IA e outras tecnologias modernas, está aumentando ainda mais a distância entre ricos e pobres. Por exemplo, os bilionários americanos ganharam US$ 2 trilhões durante a pandemia de corona. Ao mesmo tempo, pais no Afeganistão estão vendendo seus rins para alimentar seus filhos famintos na atual crise alimentar. Tais fatos permanecem completamente invisíveis para nós, apesar de todas as incríveis melhorias que a internet trouxe para o nosso dia a dia.

A internet de hoje parece cada vez mais um gigantesco projeto gaslighting projetado para nos distrair com conteúdos falsos e chamativos gerados parcial ou totalmente por algoritmos. Jonathan Haidt faz uma comparação famosa do impacto da mídia social com o mito bíblico da torre de Babel . De acordo com o mito, os descendentes de Noé estavam planejando construir a Torre de Babel “com o topo nos céus”, até que Deus interrompeu seus planos confundindo sua linguagem para que não pudessem mais se comunicar. Da mesma forma, Haidt teoriza que a polarização e as câmaras de eco nas mídias sociais ofuscam nossa comunicação, de modo que não somos mais capazes de nos entender no nível mais básico.

Para evitar os modelos de negócios agressivos da Big Tech, que são baseados em coleta de dados, captura de atenção e campanhas publicitárias direcionadas, novos serviços da web baseados na tecnologia blockchain já estão acessíveis a qualquer pessoa. Eles são centrados em criadores, em vez de intermediários, e permitem que os usuários sejam proprietários e até obtenham receita de seus dados.

O movimento Web 3.0 é inspirado e fundamentado na filosofia por trás do Bitcoin. O sistema Bitcoin permite que os usuários armazenem e troquem valor na internet fora do controle de bancos e governos. De acordo com Balaji Srinivasan em seu livro The Network State , o mesmo sistema poderia ser usado até mesmo para perturbar a geografia formando novos países.

O que vem a seguir?

Quando estudo os trabalhos de futuristas e especialistas em IA, não posso deixar de pensar que os formuladores de políticas e reguladores estão se preparando para um tsunami tecnológico com capas de chuva e guarda-chuvas. Os principais tomadores de decisão públicos não devem ignorar o escopo e a escala da disrupção tecnológica que está acontecendo agora acima de nossas cabeças.

A meu ver, ideias radicalmente novas devem ser ouvidas e pessoas que pensam fora de caixas e protocolos ultrapassados devem ser bem-vindas para regular o estado atual das coisas e enfrentar os desafios e oportunidades da era pós-internet.