Uma olhada no rastreador da Web da OpenAI e os erros contínuos da FTC

A OpenAI lança um rastreador opt-in padrão para rastrear a Internet, enquanto a FTC persegue uma obscura investigação de engano do consumidor Na semana passada, a Open AI (criadora do ChatGPT) anunciou oficialmente seu - este é um software que extrai conteúdo de todos os sites da Internet, que é usado para treinamento de modelos de IA. rastreador da web A existência do rastreador não é surpreendente e vários rastreadores da web legítimos existem hoje, incluindo o rastreador do Google que indexa toda a Internet. No entanto, esta é a primeira vez que o OpenAI anunciou explicitamente sua existência e também forneceu um mecanismo para os sites optarem por não serem raspados. Observe que o rastreador é , ou seja, você precisa alterar explicitamente um trecho de código em seu site para solicitar que o rastreador não raspe seus dados. Os padrões opt-in/out são rígidos e geralmente determinam qual é o comportamento da maioria porque a maioria das pessoas não se esforça para alterar os padrões. opcional por padrão É a mesma razão pela qual tiveram um grande impacto na indústria de publicidade digital. as mudanças de privacidade do iOS14 da Apple Então, por que fornecer o opt-out? Este é provavelmente um movimento preventivo da OpenAI em resposta a contra a empresa, alegando que os direitos autorais dos proprietários de conteúdo foram infringidos (artigo mais profundo sobre se você quiser pesquisar mais). processos recentes extração de dados, O concorrente do ChatGPT, Google Bard, enfrenta um desafio semelhante, mas o Google ainda não anunciou uma solução equivalente - eles enviaram um pedido de comentário sobre como atualizar para resolver esse problema (escrito com alguma ). o robots.txt caligrafia de relações públicas Neste artigo, vamos mergulhar em: Implicações do crawler da OpenAI para proprietários de conteúdo A investigação atual da FTC sobre a OpenAI O cenário jurídico atual em que operamos Por que a abordagem da FTC de ir atrás da OpenAI é (mais um) passo em falso Implicações do rastreador da OpenAI para proprietários de conteúdo Embora o anúncio forneça uma opção para os anunciantes impedirem que o rastreador da OpenAI extraia seus dados, algumas coisas não são boas: É opcional por padrão, o que significa que o OpenAI pode continuar raspando até que os sites digam explicitamente para não fazer isso. (o que seria essencialmente o caso de qualquer pessoa que é forçada a um opt-in padrão) Não houve uma decisão legal clara de uma forma ou de outra sobre os direitos dos proprietários de conteúdo quando seus dados são copiados para treinamento de modelo sem consentimento Hoje, existem duas construções legais que determinam se os modelos de linguagem podem ou não obter todos esses dados sem consentimento — . direitos autorais e uso justo Os direitos autorais fornecem proteção a tipos específicos de conteúdo, mas também possuem restrições/exceções: A proteção dos direitos autorais subsiste, de acordo com este título, em obras originais de autoria fixadas em qualquer meio tangível de expressão, agora conhecido ou desenvolvido posteriormente, a partir do qual possam ser percebidas, reproduzidas ou comunicadas de outra forma, diretamente ou com o auxílio de um máquina ou dispositivo. As obras de autoria incluem as seguintes categorias: (1) obras literárias; (2) obras musicais, incluindo quaisquer palavras acompanhantes; (3) obras dramáticas, incluindo qualquer acompanhamento musical; (4) pantomimas e trabalhos coreográficos; (5) obras pictóricas, gráficas e escultóricas; (6) filmes e outras obras audiovisuais; (7) gravações de som; e (8) obras arquitetônicas. (b) Em nenhum caso a proteção de direitos autorais para um trabalho de autoria original , independentemente da forma em que é descrito, explicado, ilustrado , ou incorporado em tal trabalho se estende a qualquer ideia, procedimento, processo, sistema, método de operação, conceito, princípio ou descoberta Por exemplo, direitos autorais protegem a maioria dos trabalhos originais (por exemplo, se você escreveu um artigo de blog ou livro original sobre um tópico), mas (por exemplo, você não pode alegar que foi a primeira pessoa a escrever sobre como a IA afeta os direitos de dados , e, portanto, a ideia pertence a você). não protege ideias amplas Outra exclusão/exceção da proteção de direitos autorais é o uso justo: O uso justo de um trabalho protegido por direitos autorais, incluindo o uso por reprodução em cópias ou gravações de áudio ou por qualquer outro meio especificado por essa seção, para fins de crítica, comentário, reportagem de notícias, ensino (incluindo várias cópias para uso em sala de aula), bolsa de estudos, ou pesquisa, não é uma violação de direitos autorais. Ao determinar se o uso feito de uma obra em qualquer caso particular é um uso justo, os fatores a serem considerados devem incluir (1) o propósito e o caráter do uso, incluindo ou é para fins educacionais sem fins lucrativos ; (2) a natureza do trabalho protegido por direitos autorais; (3) a quantidade e substancialidade da parte utilizada em relação ao trabalho protegido por direitos autorais como um todo; e (4) o efeito do uso sobre o mercado potencial ou o valor do trabalho protegido por direitos autorais. se tal uso é de natureza comercial Por exemplo, se você pegou o conteúdo de um trabalho de pesquisa e escreveu uma crítica sobre ele, tudo bem e você não está infringindo os direitos autorais do proprietário do conteúdo. É a mesma situação quando vinculo outro artigo desta página e adiciono o texto citado desse artigo. Ambos os conceitos foram criados para proteger os direitos dos proprietários de conteúdo e, ao mesmo tempo, permitir o livre fluxo de informações, especialmente no contexto de educação, pesquisa e crítica. Não sou um especialista jurídico, mas com base em minha pesquisa/compreensão da linguagem acima, é: onde isso fica confuso com modelos de IA que extraem conteúdo de treinamento As empresas de IA normalmente extraem o texto completo do site do proprietário do conteúdo (isso é protegido por direitos autorais), treinam os modelos para aprender a “ideia”/“conceito”/“princípio” (isso não é protegido por direitos autorais) e, em seguida, os modelos eventualmente cuspir texto diferente. Nesse caso, o proprietário do conteúdo recebe proteção de direitos autorais ou não? Uma vez que os modelos de linguagem treinados agora são eventualmente usados para fins comerciais (por exemplo, ChatGPT Plus é um produto pago), isso é uma violação dos direitos autorais do proprietário do conteúdo (porque a exceção de uso justo não se aplica mais)? Ainda não houve decisões judiciais sobre isso, então é difícil prever onde isso chegará. Minha opinião não advogada é que o segundo é provavelmente mais fácil de conseguir: OpenAI extraiu dados e os usou para criar um produto comercial e, portanto, eles não recebem uma exceção sob o Fair Use. Eu imagino que o primeiro (o modelo treinou em uma “ideia” ou apenas no texto original) é uma incógnita. Observe que ambos os marcadores precisam estar a favor dos proprietários de conteúdo para que eles ganhem, ou seja, os proprietários de conteúdo só ganham se ambas as exceções acima (exceção de “ideia” ou exceção de Uso Justo) não se aplicarem ao OpenAI. Trago essa nuance porque, no espectro de riscos de IA (não exaustivo) - dos direitos dos proprietários de conteúdo para amplificar a fraude para empregos sendo automatizados para AGI / destruição da humanidade - a , como evidenciado pela enxurrada de ações judiciais e o impacto nas plataformas de conteúdo (por exemplo, ). questão de curto prazo mais urgente são os direitos dos proprietários de conteúdo a história do StackOverflow Embora reguladores como a FTC possam refletir sobre os problemas realmente de longo prazo e apresentar maneiras hipotéticas/criativas de lidar com esses riscos, seu potencial real de curto prazo reside na capacidade de enfrentar riscos que nos afetarão nos próximos 5 a 10 anos. horizonte. Como violação de direitos autorais. O que nos leva ao que a FTC está fazendo a respeito. Investigação atual da FTC sobre OpenAI Em meados de julho, a FTC anunciou que está investigando a OpenAI. O que o torna interessante (e frustrante) é . o motivo pelo qual a FTC os está investigando O criador do ChatGPT está sendo investigado para avaliar se a empresa infringiu alguma ao . lei de proteção ao consumidor colocar em risco a reputação e os dados pessoais Não faz sentido? Você não está sozinho. Vamos apresentar mais alguns antecedentes sobre como isso aconteceu. A da FTC sobre a regulamentação da IA foi divulgada em abril: “Não há isenção de IA nas leis dos livros, e a FTC aplicará vigorosamente a lei para combater práticas injustas ou enganosas ou métodos de concorrência desleais”. postura mais expressiva Em seguida, surgiram alguns problemas relacionados à difamação: o apresentador de rádio depois que o ChatGPT o acusou de fraudar uma organização sem fins lucrativos e um professor de direito foi . Mark Walters processou a OpenAI falsamente acusado pelo ChatGPT de assédio sexual Ambos os cenários são péssimos para as pessoas envolvidas, e eu simpatizo com isso. No entanto, é um fato conhecido que os modelos de linguagem (como o GPT) e os produtos construídos sobre eles (como o ChatGPT) “alucinam” e geralmente estão incorretos. A primeira metade da premissa da FTC para a investigação é que - ChatGPT alucina e, portanto, cria danos à reputação. Em uma acalorada audiência no Congresso, um representante (com razão) por que eles estão indo atrás de difamação e difamação, que normalmente são tratadas por leis estaduais. A presidente da FTC, Lina Khan, apresenta um : pergunta à FTC argumento complicado Khan respondeu que calúnia e difamação não são foco da aplicação da FTC, mas que o uso indevido de informações privadas das pessoas no treinamento de IA pode ser uma forma de fraude ou engano sob a Lei da FTC. “Estamos focados em 'Há danos substanciais às pessoas?' A lesão pode parecer com todo tipo de coisa”, disse Khan. Para encerrar o argumento completo - a FTC está dizendo que . a alucinação do ChatGPT produz informações incorretas (incluindo difamação), que podem ser uma forma de enganar o consumidor Além disso, informações confidenciais do usuário podem ter sido usadas/vazadas (com base em que o OpenAI corrigiu rapidamente). um bug Como parte da investigação, a FTC pediu uma longa lista de coisas da OpenAI - desde detalhes sobre como seu modelo é treinado até quais fontes de dados eles usam, como eles posicionam seus produtos para os clientes até situações em que os lançamentos de modelos foram pausados porque dos riscos identificados. A questão é: a melhor abordagem para a FTC é regular o que provavelmente será uma das maiores empresas de IA, especialmente devido ao cenário jurídico atual? Cenário jurídico atual em que operamos Para criticar a estratégia da FTC com a OpenAI, é útil entender o cenário jurídico em que operamos hoje. Não entraremos em muitos detalhes, mas vamos fazer isso brevemente com a como exemplo: história do antitruste Nos anos 1900, enormes conglomerados (“trusts”) surgiram, e o equilíbrio do poder público-privado mudou para essas empresas. Em resposta, o Sherman Act de 1890 foi aprovado para adicionar controles ao poder privado e preservar a concorrência; essa lei foi usada para litigar e quebrar “trusts” que estavam envolvidos em práticas anticompetitivas (preços predatórios, acordos de cartel, monopólio de distribuição). Por volta da década de 1960, os juízes enfrentaram muita reação por julgarem com base no espírito da lei em vez da letra da lei; por exemplo, interpretar a lei Sherman para determinar se um conjunto de empresas “restringem o comércio de forma não razoável” envolveu subjetividade, e os juízes foram acusados de se engajar em ativismo judicial. Para introduzir a objetividade, a Escola de Chicago foi pioneira no padrão de bem-estar do consumidor - “os tribunais devem ser guiados exclusivamente pelo bem-estar do consumidor” (por exemplo, um monopólio que aumenta os preços de maneira flagrante é errado, mas, para outras atividades, o ônus da prova recai sobre os reguladores para provar dano ao consumidor.) Esse continua a ser o padrão hoje e é uma das razões pelas quais a FTC e o DOJ têm dificuldade em derrubar as grandes empresas de tecnologia - por exemplo, a FTC não pode argumentar que o Google está aumentando os preços, já que a maioria de seus produtos é gratuita, mesmo que O Google está envolvido em outras práticas anticompetitivas. A conclusão disso é que continuamos a operar hoje em um cenário onde os casos são fortemente litigados com base na “letra da lei” e não no “espírito da lei”. Isso, junto com a composição da Suprema Corte dos EUA hoje, resultou em interpretações bastante conservadoras da lei. O que isso significa para a FTC é abraçar a realidade desse cenário e . O modelo operacional da FTC e do DOJ (com razão) é ir atrás de um punhado de grandes casos e estabelecer uma aplicação severa para que a cauda longa das empresas pense duas vezes antes de infringir as leis. descobrir uma maneira de ganhar casos Para que isso aconteça, e precisa de uma . a FTC precisa ganhar muito em algumas questões estratégia vencedora dentro das restrições do cenário jurídico atual Por que a abordagem da FTC de ir atrás da OpenAI é (mais um) passo em falso A FTC teve uma série de perdas contra a Big Tech, e eu diria que todas as perdas podem ser atribuídas a uma estratégia fracassada de “odiamos tudo que é grande tecnologia”, estratégia de martelo e não bisturi de enfrentar essas empresas. Por exemplo, a FTC adotou uma abordagem de força bruta para impedir a aquisição de $ 69 bilhões da Microsoft-Activision e (muito mal, eu diria). A FTC argumentou que a Microsoft adquirindo a Activision acabaria com a concorrência no mercado de jogos. perdeu O juiz redigiu uma descartando todos os argumentos da FTC; aqui está um dos comentários do juiz: decisão bastante contundente Não há documentos internos, e-mails ou bate-papos que contradigam a intenção declarada da Microsoft de não tornar Call of Duty exclusivo para consoles Xbox. Apesar da conclusão da extensa descoberta no processo administrativo da FTC, incluindo a produção de quase 1 milhão de documentos e 30 depoimentos, a FTC não identificou um único documento que contradiga o compromisso declarado publicamente da Microsoft de disponibilizar Call of Duty no PlayStation (e Nintendo Switch ). Outro caso de força bruta foi a tentativa da FTC de bloquear a aquisição pela Meta de uma empresa de VR Within, e . Por que eles perseguiram isso? Eles queriam testar as águas para ver se havia apetite para bloquear aquisições antes que um determinado mercado se tornasse grande e, devido ao cenário legal atual, isso foi descartado sem surpresa. eles perderam O problema com a investigação da OpenAI pela FTC é semelhante: Eles estão indo atrás (o que na minha opinião) é uma questão bastante trivial e uma conhecida limitação dos modelos de linguagem – alucinações; em vez disso, eles deveriam se concentrar em problemas reais de IA que importam no horizonte de 5 a 10 anos, como direitos autorais. Apesar de várias abordagens legais “criativas” serem descartadas no atual cenário jurídico, eles estão tentando outro argumento criativo: alucinação → difamação → engano do consumidor. A interpretação generosa de suas ações é que eles querem estabelecer um precedente para sua postura de “IA não está isenta de leis existentes” e que essa busca inútil lhes dá uma grande quantidade de dados auto-relatados da OpenAI (FTC emite ). 20 páginas de pergunta No entanto, dado seu histórico de buscar repetidamente a força bruta/qualquer coisa de grande tecnologia é uma abordagem não competitiva + combinando-os com argumentos criativos que estão sendo repetidamente rejeitados nos tribunais, acredito que a FTC não ganhou o benefício da dúvida neste caso. Conclusão Eu absolutamente acho que o OpenAI deve ser regulamentado. Não porque seus LLMs alucinam (é claro que sim), mas porque estão usando descaradamente o conteúdo dos criadores sem permissão. Não porque mudará o passado, mas porque ajudará a preparar os proprietários de conteúdo para um futuro saudável, onde seus direitos autorais não podem ser violados de forma flagrante. Mas a FTC está repetindo seus erros com a abordagem do martelo e não do bisturi. Há um claro precedente de sucesso contra a grande tecnologia com uma abordagem de bisturi, sendo o mais notável a Autoridade de Mercados e Concorrência do Reino Unido. Os dois grandes casos que eles ganharam contra o Google se concentraram em mecanismos anticompetitivos específicos: a seu próprio produto na pilha AdTech e permitir façam pagamentos no aplicativo. impedir o Google de fornecer tratamento preferencial que outros provedores de pagamento Se a FTC continuar em seu caminho atual, sua série de perdas vai encorajar as empresas de tecnologia a continuar fazendo o que quiserem, porque sabem que podem vencer no tribunal. É hora de a FTC refletir sobre suas falhas, aprender com os sucessos de outros reguladores e corrigir o curso. 🚀 Se você gostou desta peça, considere assinar Toda semana, publico uma na forma de uma leitura de 10 minutos. . minha newsletter semanal análise aprofundada sobre um tópico de tecnologia/estratégia de produto atual Atenciosamente, Viggy. Também publicado aqui