IA criativa 'sacode' o cerne da humanidade e requer uma discussão mais ampla sobre ética

Na última década, a IA tratou de automatizar as tarefas mais mundanas e repetitivas. Os humanos ainda estavam encarregados de fazer o trabalho criativo e o pensamento. A fronteira entre humanos e máquinas era clara. As máquinas podem calcular, mas os humanos escrevem o algoritmo. Ou a IA pode ajudar a consertar uma foto que um humano tirou. Esse tipo de automação trouxe muito mais oportunidades do que desafios. Como sociedade, ela trazia a promessa de que, se fôssemos capazes de utilizá-la adequadamente, liberaríamos mais tempo para relacionamentos, auto-expressão e criatividade. Essas coisas que nos dão sentido, coisas que são o cerne da nossa humanidade.

Então, recentemente e ainda mais no ano passado, a IA generativa se concretizou. Stable Diffusion, Dalle, Midjourney e outros podem criar imagens profissionais com base em um prompt de texto e o GPT-chat pode responder a perguntas e escrever ensaios. A máquina tornou-se criativa! E isso vai abalar a fronteira entre humanos e máquinas. Isso nos fará questionar o cerne de nossa humanidade. Como vamos operar em um mundo onde uma máquina pode facilmente fazer todos os desenhos e escrever qualquer ensaio? O que valorizamos e o que nos dará sentido? E por que se preocupar em se esforçar em alguma coisa?

Não se trata de proteger empregos

Para os artistas entre nós, há uma reviravolta irônica. A IA generativa não apenas poderia ameaçar seu sustento e fazê-los questionar o sentido de sua vida, mas também a máquina o faz copiando seu trabalho. Qualquer trabalho de artista colocado online é descartado sem aprovação de direitos autorais, treinado e reproduzido em novas variações. Se você copiar de uma pessoa, isso é plágio, mas se você copiar de todos, isso pode ser considerado uso justo e também não é rastreável.

Não é de admirar que o protesto generalizado tenha começado. Artists in Artstation, um site para mostrar arte e ilustrações CGI, mudou a foto do perfil para 'sem IA', e isso forçou o Artstation a mudar sua política e agora cada item pode ser marcado como 'sem IA', indicando que não é permitido usá-lo para treinamento de IA. Essa é uma mudança na direção certa, força as empresas de IA a aderir às regras de propriedade. No entanto, isso não impedirá a automação da arte e não deveria.

Mudar de profissão por causa de um avanço tecnológico é inevitável. Já passamos por esse ciclo muitas vezes antes. Operadores de elevador são coisa do passado. Não restam muitos agentes de viagens e há muitos mais exemplos. Existe até precedência no trabalho criativo, a invenção da fotografia reduziu drasticamente o número de artistas realistas e, mais tarde, a câmera digital mudou a indústria da fotografia.

Além disso, não é ético tentar parar a tecnologia para salvar empregos. Isso será preferir os direitos de alguns, aqueles cujos empregos estão ameaçados, sobre os direitos de muitos outros, aqueles que podem usufruir dos frutos desta automação. Mas existem maneiras de enfrentar essa ameaça.

Existem maneiras de substituir empregos que serão perdidos para a IA generativa

Em uma pesquisa Pew enquete conduzido em 2017, a maioria dos especialistas acreditava que, assim como alguns empregos se tornam obsoletos, mais novos empregos são criados. Com base em tendências históricas, o Fórum Econômico Mundialestimado em 2020 que a automação criará 12 milhões de empregos a mais do que abre mão.

Costumo pensar mais como Jason Hickel que, no sistema econômico atual, onde o capital sempre busca crescer, toda economia de custos obtida pela automação é reinvestida na produção e as pessoas continuam produzindo. Mas que as pessoas produzem mais sem fim. Novos empregos são criados, mais produtos e materiais são consumidos, mas a qualidade de vida não aumenta. Portanto, Jason e outros progressistas pensam que, ao desacelerar o crescimento, podemos usar essas economias de custo para fornecer a todos uma renda básica universal e liberar seu tempo. Tempo que as pessoas podem usar para atividades criativas.

Quer olhemos para o curto prazo, onde os empregos são transformados, mas não perdidos, como pensa o Fórum Econômico Mundial, ou para o longo prazo, onde trabalhamos menos e consumimos menos, como Jason Hickel espera, há um roteiro para lidar com a perda de empregos. Mas uma conversa precisa começar sobre como preservar a criatividade humana em uma era de máquinas criativas.

Ética na IA generativa

A ética na IA costumava ser sobre criar sistemas imparciais , sobre defender direitos de privacidade enquanto sob vigilância constante por software com detecção de face e objeto. Então, quando o aprendizado de máquina generativo começou, a ética se expandiu para evitando a propagação de falsos em um mundo com deep fakes, e sobre direito autoral . Tudo isso é verdade, mas há algo mais amplo em jogo. A ética no aprendizado de máquina criativo também deve ser sobre manter a humanidade nos humanos.

Na ficção científica distópica, como a odisséia no espaço, a ameaça é sempre que a máquina desenvolva uma vontade própria e se volte violentamente contra as pessoas. A realidade não está revelando nada disso. Quem teria pensado que a máquina nos ameaçaria desenhando e escrevendo redações?

Aqui estão algumas políticas sugeridas que devemos considerar se quisermos moldar um futuro justo, justo e significativo. Algumas políticas são mais de curto prazo, outras são mais difíceis de alcançar. Mas se a engenhosidade humana pode inventar essas máquinas, também pode inventar as políticas para governá-las. Deve, nosso futuro depende disso.

Atualizar licenças criativas - para uso em treinamento de IA

Cada peça de criação original: fotos, arte ou código tem uma licença que define o que pode ser feito com ela. Algumas criações são gratuitas, outras oferecidas por royalties. Alguns podem ser usados para qualquer uso, incluindo usos comerciais e outros são apenas para uso privado e pesquisa. E assim por diante.

Usar o trabalho de terceiros para treinar um modelo de aprendizado de máquina é um novo caso de uso. Portanto, precisa ser uma nova categoria no licenciamento. Um trabalho é permitido para treinamento de aprendizado de máquina (gratuitamente ou por royalties) ou não, dependendo da licença. Sloyd (o autor é co-fundador) tem artistas criando modelos 3D e peças de modelos especialmente para IA e eles são compensados por isso.

Quando os dados de treinamento se tornarem mais escassos, os criadores que apresentarem novas formas de expressão terão mais tempo para aproveitar os frutos dessa nova via criativa antes que ela seja imitada por uma máquina. Ou, esses criadores podem decidir vender suas criações para treinamento de IA por um valor justo e lucrar com suas novas criações rapidamente.

Modelos já treinados em trabalhos protegidos por direitos autorais públicos em massa devem pertencer ao público

Depois, há modelos já treinados em grandes quantidades de criações sem consentimento. 'O navio partiu' e não pode ser desfeito. Litígio sobre o que fazer com o trabalho anterior usado em treinamento durará anos, e o aprendizado de máquina que existe agora será usado bilhões de vezes antes que o litígio seja resolvido.

Além disso, não há maneira justa de redistribuir o valor criado por essas máquinas de volta aos criadores. Se a riqueza não puder ser redistribuída, a próxima melhor coisa a fazer é oferecê-la gratuitamente ao público. LAION, um conjunto de dados de links para imagens e descrições correspondentes usadas para treinamento de texto para imagem, já é uma organização sem fins lucrativos (embora não seja filtrada com base em restrições de direitos autorais). A Stability AI, criadora da difusão estável, é uma empresa de aprendizado de máquina geradora de código aberto. O uso de sua máquina é gratuito e eles ganham dinheiro com complementos. Da mesma forma, como um acordo para sair do litígio, outras empresas precisarão oferecer suas ferramentas de aprendizado de máquina gratuitamente ou dividir esse produto para uma empresa separada que o execute como código aberto.

Isso pode parecer muito improvável, mas a FTC já está considerando tais políticas de quebrar grandes empresas de tecnologia para aumentar a concorrência. Usar as mesmas políticas para governar a maior mudança tecnológica de nossa vida não é exagero.

IA de valor que aumenta a criatividade em vez de diminuí-la

Empresas e indivíduos que projetam e treinam IA devem pensar em maneiras de capacitar as pessoas a serem mais criativas. A revisão da tecnologia traz uma alguns exemplos onde a máquina aumenta a criatividade e não a substitui: plug-in de conversão de texto em imagem no Photoshop; um plug-in Stable Diffusion para o Blender e um widget de texto para imagem para o Office.

Na Sloyd, pensamos na criação assistida por IA, e não na criação por IA. Começamos com um foco mais na automação de modelos 3D para ambientes e acessórios de jogos, já que a maioria dos artistas 3D adora trabalhar em personagens para seus jogos, mas precisaria de ajuda para automatizar o resto. Usamos criadores pagos da comunidade para criar o banco de dados de treinamento e esse banco de dados sempre se expandirá para que sempre haja entrada humana criativa nele. Tentamos fornecer maneiras de manipulação direta de objetos com entradas do usuário para que os usuários tenham melhor controle da saída. Nesse caso, a sugestão é uma diretriz ética e não uma sugestão de política. No entanto, se tivermos uma diretriz ética clara, com o tempo poderemos sugerir uma política para apoiá-la.

Considere o custo real do treinamento - incluindo o impacto ambiental

Pagamos pela eletricidade com base no custo de extração de matéria-prima e produção, o custo ambiental não é contabilizado. Isso é verdade para todos os usos, para aquecimento e luz e também para data centers com IA.

Centros de dados consumir cerca de 2% da energia total dos EUA e espera-se que essa participação cresça para 8%, em grande parte impulsionada pelo consumo de energia de IA que dobra a cada 3 meses . O aprendizado de máquina de treinamento consome muita energia, mas também a inferência (usando um modelo treinado para criar uma saída) é um trabalho que consome muitos recursos. No momento, é difícil encontrar dados sobre quanta energia a inferência consome e isso é parte do problema. Com eletrodomésticos sabemos quanta energia é consumida, temos até classificações energéticas. Por que não temos classificações de energia semelhantes em software? (isso foi proposto por Øyvnind Sørøy, meu colega em Sloyd).

Se começarmos a medir e tivermos que pagar o custo real da energia, em muitos casos descobriremos que o mesmo objetivo pode ser alcançado com muito mais eficiência por um tipo diferente de automação ou por IA mais eficiente. Isso faz parte de uma revolução verde maior, mas com centros de dados que devem representar 8% do consumo e que, além do consumo de software doméstico e de escritório, software e IA em particular não podem ser isentos.

A discussão sobre ética e política de IA generativa está apenas começando

As opções abertas pelas máquinas criativas são profundas, mas também o são as implicações. Se pudermos imaginar o futuro que queremos, um futuro em que os humanos encontrem significado por meio da criatividade, podemos começar a colocar as diretrizes certas para o aprendizado de máquina generativo ético. As ideias fornecidas aqui podem servir de base para políticas futuras, ou talvez surjam ideias melhores. Uma coisa certa é que o entendimento das implicações e as discussões sobre as medidas que tomaremos estão apenas começando.