Quão real é a ameaça da IA à segurança do trabalho? Uma entrevista com o professor de IA Alejandro Piad Morffis

“Seria muito enlouquecedor se descobrisse que os programadores são mais fáceis de automatizar do que os advogados.” -Professor Alejandro Piad Morffis.

O aumento na adoção de modelos de IA geradora de linguagem grande, como ChatGPT, Microsoft Bing, Google Bard, Stable Diffusion, etc., embora as vantagens desses modelos não possam ser refutadas, levou a um medo exagerado e angustiante, mas não infundado por membros do público sobre a possibilidade de esses modelos de IA comprometerem a segurança no emprego de milhões de trabalhadores em todo o mundo.

Conforme descrito anteriormente, a ameaça da IA aos empregos humanos, embora seja exagerada e angustiante, não é infundada.

A capacidade da IA de executar tarefas repetitivas, processar grandes quantidades de informações e imitar a tomada de decisão humana a torna uma ferramenta muito boa para aumentar a criatividade, a produtividade e a eficiência.

Para responder à pergunta: “A IA vai tirar nossos empregos?” Recrutei a ajuda de um especialista chamado Professor Alejandro Piad Morffis , professor de IA na Universidade de Havana, Cuba. O Professor é um mentor, professor, amigo e, o mais importante, uma inspiração para mim.

Como espero abordar isso

As perguntas serão pré-fixadas com a letra "Q", enquanto as respostas serão pré-fixadas com a letra "A". Com relação às perguntas, espero abranger questões técnicas e filosóficas, pois o professor Morffis também tem afinidade com o filosófico.

Também é importante observar que fornecerei links para certos conceitos que são complexos de entender, para fins de compreensão.

Comecemos!

P: Primeiramente, você poderia nos falar um pouco sobre você, suas qualificações profissionais, etc.?

R: Meu nome é Alejandro Piad, me formei em Ciência da Computação na Escola de Matemática e Informática da Universidade de Havana, Cuba. Fiz mestrado em Ciência da Computação também na mesma faculdade em 2016 e obtive doutorado duplo. em Ciência da Computação na Universidade de Alicante e Ph.D. em Matemática pela Universidade de Havana em 2021.

Meu Ph.D. estava na descoberta de conhecimento a partir da linguagem natural, especificamente focada na extração de entidade e relação do texto médico.

Desde a pós-graduação, leciono na Universidade de Havana, sou o principal professor de Programação, Compiladores e Design de Algoritmos, e também professor ocasional de Aprendizado de Máquina e outros assuntos.

Desde 2022, sou professor em tempo integral lá, também fui um dos fundadores da nova carreira de Ciência de Dados, a primeira do gênero em Cuba, e escrevi todo o currículo de Sistemas de Programação e Computação para essa carreira, eu continue fazendo pesquisas em PNL, agora focando em abordagens neurosimbólicas para descoberta de conhecimento, misturando LLMs com sistemas simbólicos.

P: Há quanto tempo você trabalha com sistemas de IA?

R: Joguei com IA para jogos quando era aluno de graduação e fiz alguns projetos de alunos com visão computacional e metaheurística. Depois de me formar, comecei meu mestrado em Computação Gráfica, mas como projeto paralelo, fiz algumas pesquisas em PNL, especificamente em análise de sentimento no Twitter.

Depois de terminar o mestrado comecei a pensar em fazer um doutoramento. e apostou tudo no aprendizado de máquina.

Então, você poderia dizer cerca de 10 anos desde que comecei a levar a IA a sério. Meu artigo mais antigo relacionado a essas coisas é por volta de 2012.

P: Isso é intensamente impressionante! Você trabalhou com IA muito antes de ficar legal. O que você acredita ser o avanço técnico singular mais significativo em IA que contribuiu para sua atual adoção dominante e as consequentes ameaças de deslocamento de empregos?

R: Bem, sempre foi legal, mas não fora da academia. eu diria, a intersecção de dois ortogonal desenvolvimentos: a descoberta de arquiteturas de redes neurais artificiais, como o Transformer, que resolveu muitos dos problemas de escalabilidade de arquiteturas anteriores, e a invenção de hardware onde você pode executar essas arquiteturas específicas em escala de forma super eficiente.

P: Fascinante! Na sua opinião profissional como educador e pesquisador de IA, quais indústrias correm o risco de serem substituídas pela IA?

R: Não sei se algum setor será totalmente substituído, mas tenho certeza de que haverá grandes mudanças. A longo prazo, é claro, ninguém pode dizer nada. Mas a curto e médio prazo (5 a 10 anos), com o que estamos vendo com os modelos de linguagem, minha aposta é que qualquer pessoa cujo trabalho se baseie na filtragem superficial e no processamento da linguagem natural terá que fazer algumas contas.

Isso inclui todos os tipos de funções gerenciais, incluindo qualquer pessoa cujo trabalho seja ler e-mails, resumir e criar relatórios. Qualquer tipo de secretária que não vá além de anotações e agendamento de tarefas. Redatores que trabalham com conteúdo padronizado.

Basicamente, qualquer tarefa de criação de conteúdo abaixo do nível da criatividade humana real será mais barata de automatizar do que pagar a um humano estocástico papagaio. Então esses vão embora. Um único redator usando o ChatGPT de um futuro próximo poderá criar, em hipótese, 3x a 10x mais conteúdo com a mesma qualidade.

Não porque o modelo lhes dará a qualidade final que eles almejam, mas porque o modelo lhes dará 90% da qualidade, e então a verdadeira criatividade humana vem como uma cereja no topo e adiciona os 10% finais. A educação também precisa mudar consideravelmente. Podemos conversar mais sobre isso se você quiser.

P: Este é um ângulo muito bom. Você é um educador e de sua peça intitulada " Repensando a educação universitária ", você obviamente sabe como a instituição educacional é avessa a mudanças. Você acha que a educação formal pode ser confiável para a sobrevivência no mundo pós-IA?

R: Sim, a academia vai se adaptar. É a instituição mais longeva da civilização ocidental. É anterior a todas as nossas principais religiões e sobreviveu a todas as principais mudanças da civilização. Ele mudará substancialmente, como mudou ao longo dos tempos.

P: Qual a importância de a sociedade considerar as implicações éticas da IA e do deslocamento de empregos?

R: Toda tecnologia tem problemas potenciais e, quanto mais avançada a tecnologia, mais urgente é considerá-los. A IA é uma tecnologia muito poderosa com potencial para interromper todas as nossas relações econômicas.

É algo ao nível de uma revolução industrial, por isso vai ter implicações massivas, e por isso a preocupação tem de estar ao mesmo nível.

Uma coisa que é diferente da tecnologia disruptiva anterior é que, principalmente, a nova tecnologia automatiza os trabalhos que exigem menos habilidades cognitivas, como aconteceu com agricultura, manufatura, mineração, etc.

No entanto, desta vez, estamos prestes a substituir um grande número de empregos de colarinho branco, deixando muitos empregos de colarinho azul ininterruptos. então teremos muitas pessoas que estão acostumadas a trabalhar em escritórios descobrindo que uma IA pode fazer seu trabalho também (ou talvez um pouco melhor) e muito mais barato, então eles terão que atualizar suas habilidades significativamente ou terão que transformar para empregos menos qualificados.

Existem outras considerações éticas, há muito potencial para uso indevido de tecnologias de IA para desinformação, notícias falsas, perturbações sociais, etc. Não acho que estamos preparados para um grande número de chatbots semelhantes a humanos assumindo o controle do Twitter; já está começando a acontecer.

Há também problemas de viés, pois esses sistemas se tornam cada vez mais difundidos, os danos podem ser muito focados nas minorias, então nem todos colherão os benefícios da IA no mesmo grau, algumas minorias terão as desvantagens mais fortemente do que outras. das minorias.

P: Então, em outras palavras, devemos prestar atenção porque, ao contrário das formas anteriores de automação, a IA também tem o potencial de interromper trabalhos de tarefas cognitivas.

R: Sim, especialmente esses trabalhos. Ele automatizará mais trabalhos de colarinho branco do que de colarinho azul, pelo menos no curto prazo. Isso é algo novo, e a sociedade não está acostumada a lidar com esse tipo de interrupção do trabalho.

São pessoas que foram para a faculdade e mais ou menos se convenceram de que seus empregos eram seguros, ou pelo menos mais seguros do que motoristas de táxi, entregadores de pizza, jardineiros, você mencionou.

P: Isso faz sentido, vamos chegar um pouco mais perto de casa. Você acredita que um aumento na capacidade de IA acabará levando a uma diminuição no emprego geral para engenheiros/desenvolvedores de software?

R: No longo prazo, todos os trabalhos evoluirão de maneiras imprevisíveis, incluindo engenharia e desenvolvimento de software. A IA e os avanços tecnológicos transformarão essas profissões a ponto de parecerem ter desaparecido.

No entanto, a curto e médio prazo, é improvável uma diminuição de engenheiros de software devido à crescente demanda por software em vários setores. Essa crescente necessidade de profissionais qualificados supera em muito o número atual de indivíduos treinados capazes de construir software.

A revolução da IA seguirá um padrão semelhante aos avanços tecnológicos anteriores na ciência da computação, como compiladores, ambientes de desenvolvimento integrados, computação em nuvem, contêineres, complementação de código e IntelliSense.

Essas inovações tornaram a programação mais acessível para aqueles sem experiência altamente formal e expandiram as oportunidades para os desenvolvedores.

Nos próximos 20 anos, podemos esperar uma explosão de pessoas entrando no campo de desenvolvimento de software. Embora as funções de trabalho possam mudar um pouco com a evolução das tendências tecnológicas, provavelmente haverá um crescimento contínuo para os interessados em aprender a programar e escrever código.

P: Isso é incrível, embora o lançamento de modelos de IA generativa, como o Co-Pilot do GitHub e a família de modelos GPT, tenha gerado (perdoe meu trocadilho) rumores sobre a possibilidade de desenvolvedores de software perderem seus empregos para a IA. O que você diz sobre isso?

R: Veja os números. Tudo o que vejo são mais anúncios de emprego para desenvolvedores de software. A tendência ainda é subir.

P: Jeff Clune, um ex-engenheiro da OpenAI, fez recentemente uma previsão na conferência AI Safety Debate, ele afirmou que havia 30% de chance de que a IA seja capaz de lidar com "50% do trabalho economicamente valioso" até o ano de 2030 , o que isso significaria para o mercado de trabalho geral do desenvolvedor?

R: Em primeiro lugar, não tenho ideia de como você imaginaria a aparência de 30% de chance de automatizar 50% dos trabalhos. É uma expectativa de 15% de perder o emprego?

P: Acho que os números criam uma cena confusa. Mas o ponto essencial é; Os desenvolvedores de software têm muitos motivos para se preocupar com a segurança de seus empregos e muitas das tarefas nas quais eles atualmente gastam muito tempo estão sendo automatizadas. O ritmo em que isso ocorre vai acelerar.

R: Sim, mas o problema é que muitas das tarefas nas quais os desenvolvedores gastam a maior parte do tempo têm um valor muito baixo e estaríamos muito melhor se fossem automatizadas: depuração, testes de escrita, otimizações de código irritantes. À medida que você automatizar tudo isso, teremos mais tempo para as partes realmente importantes do desenvolvimento de software, que nunca foi escrever código.

Q: Você poderia falar mais sobre essas partes?

R: Design de alto nível e arquitetura, experiência do usuário, interação humano-computador, e isso é apenas sobre o software em si. A engenharia de software é realmente sobre o relacionamento entre software e pessoas, tanto pessoas que fazem software quanto pessoas que usam software. Portanto, as habilidades de software são apenas metade da história. Compreender seus usuários e colegas é a outra metade.

P: Isso é semelhante a como o trabalho principal dos contadores é comunicar informações financeiras e não criar demonstrações financeiras, fascinante! É uma aposta justa dizer que os recursos de IA aumentarão em 10 a 20 anos. Quão preparados estamos como sociedade e espécie para lidar com o potencial deslocamento/perda de empregos causado pela possível adoção da IA? Como isso afeta nosso senso de propósito como seres humanos?

R: Muito difícil dizer, é claro, estamos no meio de uma revolução industrial tão grande quanto pelo menos a revolução do microprocessador ou a revolução da internet, ninguém em 1960 poderia imaginar como seria 1980.

A sociedade nunca está pronta para mudanças, por definição. Isso é o que é um sistema, algo que se esforça para manter seu status quo. Mas os humanos são a espécie social mais adaptável que existe, então acho que vamos conseguir. Muita gente vai sofrer, e isso é algo que temos que trabalhar, com certeza, mas nada apocalíptico na minha opinião vai acontecer.

P: Houve muitas conversas sobre o potencial distópico da IA. Por que você diz que nada apocalíptico ocorrerá?

R: Ainda não vi nenhum argumento realmente convincente para o cenário apocalíptico. Muitos dos argumentos parecem ser baseados em raciocínios como "não sabemos como isso vai evoluir, então provavelmente vai matar todos nós" e isso é uma falácia lógica clássica: você está basicamente fazendo uma inferência por falta de conhecimento.

P: Isso é verdade. Mas o problema de alinhamento da IA parece plausível.

R: Acho que vamos resolver, pelo menos bem o suficiente para evitar cenários apocalípticos. Os problemas de alinhamento mais graves exigem que você acredite em uma versão poderosa do tese de ortogonalidade que eu não acredito plausível.

P: Fascinante! Voltando à automação, como podemos aproveitar a IA para aumentar o trabalho humano em vez de substituí-lo e quais setores estão prontos para esse tipo de colaboração?

R: Acho que isso é natural, pois à medida que automatizamos cada vez mais o trabalho cognitivo braçal (por exemplo, resumir documentos ou encontrar referências relevantes), nós humanos começaremos a trabalhar nas partes mais criativas de nossos trabalhos. Alguns trabalhos têm muito pouco disso para começar, e aí vejo um desafio porque talvez eles sejam completamente ou quase totalmente automatizados.

Mas a maior parte do trabalho de conhecimento tem um lado criativo, a parte em que você realmente faz algo novo.

Quanto a quais campos estão maduros para isso, não posso falar muito mais, mas na educação, pelo menos, acho que estamos destinados a uma revolução há muito necessária.

Nós, professores, não precisamos mais ser guardiões da informação. Em vez de passar a maior parte do tempo corrigindo as mesmas redações repetidamente, agora podemos nos concentrar em dar o melhor feedback pessoal possível a cada aluno.

P: Quais são as possíveis maneiras pelas quais a IA pode revolucionar o sistema educacional? Talvez mais técnicas de ensino adaptadas de forma otimizada aos alunos.

R: Existem algumas maneiras fáceis e outras não tão fáceis. A primeira é apenas uma questão de aumentar o acesso ao conhecimento. Agora, quase tudo o que você quer aprender, você pode encontrar informações relevantes na internet, pelo menos para começar, mas muitas vezes é dividido em muitas fontes com níveis díspares de detalhes, coisas contraditórias, diferentes estilos linguísticos, etc.

A primeira aplicação relativamente fácil é apenas pegar este monte de fontes sobre algum tópico e me dar uma visão geral de alto nível dos principais tópicos resumidos, com links para aprofundar, etc. um problema significativo).

Outra maneira é simplesmente liberar os educadores de tarefas domésticas para dar a eles mais tempo para se concentrar na criação de experiências de aprendizado. Mas, de longe, a coisa mais importante que acredito é o potencial de aprendizado personalizado.

Você poderia ter um assistente de IA e dizer a ele "quero aprender a fazer um foguete" e ele poderia criar um plano bem detalhado, especialmente para você, com base no que ele já sabe que você sabe, ele diria a você, aqui, primeiro assista a este vídeo, agora faça este pequeno curso, agora leia este capítulo deste livro, ... E guiá-lo por 3 meses para aprender algo muito específico.

P: Isso é realmente promissor! Você faz um caso sólido para a adaptação dos humanos. Você falou sobre preconceito, é justo dizer que a adoção de IA em larga escala afetará a minoria? Se sim, como isso pode ser combatido?

R: Sim, definitivamente, o aprendizado de máquina é, por definição, treinado na maioria, portanto, sempre prejudicará mais aqueles cujo caso de uso não se encaixa na maioria por qualquer motivo.

Em particular, sempre que você treina modelos para prever o comportamento humano ou interagir com humanos, ele tende a funcionar melhor para as subpopulações que são melhor representadas nos dados.

O que você pode fazer? Comece aumentando a conscientização sobre esses problemas e certifique-se de testar minuciosamente seus modelos quanto a vieses. Tenha muito cuidado sobre como você coleta dados, não vá pelo caminho mais fácil e rastreie a web, e faça um esforço para encontrar fontes de dados de boa qualidade e alta diversidade.

Mas, acima de tudo, inclua diversas pessoas com diversos pontos de vista em sua equipe. Você não pode resolver um problema que não pode ver.

P: Isso me faz pensar. Existe a possibilidade de que o acesso a essas ferramentas de IA seja relegado aos financeiramente capazes?

R: Espero que a comunidade de código aberto disponibilize as ferramentas para todos. Já vimos o que o acesso a um sistema operacional gratuito, a um pacote de escritório gratuito, a um mecanismo de jogo gratuito, a um editor de código gratuito etc. faz pelas crianças criativas das partes mais pobres do mundo.

Acredito que teremos ferramentas de IA de código aberto tão boas quanto as comerciais, da mesma forma que temos ferramentas de desenvolvimento de código aberto tão boas quanto as comerciais.

P: Isso parece realmente viável. Que conselho você daria a seus alunos para prepará-los para a força de trabalho em um mundo pós-IA?

R: Se você já está estudando ciência da computação, o conselho básico é focar nos fundamentos, não apenas nas ferramentas. As ferramentas mudarão, mas os fundamentos permanecerão relevantes por muito tempo. Se estiver estudando outra coisa, aprenda como a IA pode melhorar sua produtividade e aprenda muito sobre suas limitações. Use-o para melhorar seu próprio trabalho.

P: Isso faz sentido, os fundamentos resistirão ao teste do tempo. Muito obrigado pelo seu tempo Professor Morffis. Alguma palavra final?

R: A revolução da IA está aqui. Todos nós podemos fazer parte disso, aprendendo a usar essa tecnologia para fazer o bem e melhorar a vida de todos.

Também publicado aqui