Batalha em Hollywood: Indústria do Cinema Contra Avanço da IA

Hollywood está se manifestando fortemente a favor do projeto de lei de segurança de IA da Califórnia

Hollywood está se confrontando com o Vale do Silício na batalha pelo SB 1047, o primeiro projeto de lei de segurança de IA da Califórnia. Em meio a dúvidas sobre se o governador Gavin Newsom assinará a legislação, uma onda de endossos estrelados marca o primeiro esforço organizado de celebridades para avançar regulamentações de IA além dos interesses diretos da indústria do entretenimento.

Na terça-feira, mais de 125 grandes nomes de Hollywood publicaram uma carta aberta pedindo a Newsom que assinasse o projeto de lei de segurança de IA. As assinaturas incluem Ava DuVernay, Jane Fonda, J.J. Abrams, Shonda Rhimes, Alec Baldwin, Pedro Pascal, Jessica Chastain, Adam McKay e Ron Perlman. "Acreditamos plenamente no deslumbrante potencial da IA para ser usada para o bem. Mas também devemos ser realistas sobre os riscos", diz a carta. Como sinal de genuíno entusiasmo, a carta foi escrita por um dos signatários, de acordo com uma pessoa em contato com as celebridades.

O SB 1047 é a legislação de segurança de IA mais significativa dos EUA até o momento, e a assinatura de Newsom quebraria o precedente de deixar a indústria policiar o desenvolvimento e implantação de seus modelos mais poderosos por meio de compromissos voluntários. O cerne do projeto exige que os maiores desenvolvedores de IA implementem salvaguardas de sua própria escolha para reduzir a chance de seus modelos causarem ou possibilitarem um desastre, como um grave ataque cibernético ou uma pandemia. Ele se aplicaria a qualquer empresa de IA coberta que faça negócios na Califórnia, que é o lar das cinco principais empresas de IA generativa e da quinta maior economia do mundo. Isso o torna uma regulamentação nacional de fato em um país que ficou atrás da UE, China e Reino Unido nos esforços para regular a IA.

O projeto foi aprovado na legislatura da Califórnia em agosto, e Newsom tem até 30 de setembro para assiná-lo ou vetá-lo. Até agora, não está claro o que ele fará. O governador fez seus primeiros comentários diretos sobre o SB 1047 em uma entrevista com o bilionário fundador da Salesforce, Marc Benioff, na semana passada. Embora tenha dito ao Los Angeles Times que não havia tomado uma decisão final logo antes da entrevista, ele sugeriu a Benioff que tinha reservas sobre o potencial impacto do projeto na competitividade do estado.

Inicialmente, não estava claro o quanto o SAG-AFTRA iria defender o SB 1047

Ao mesmo tempo, Newsom recentemente assinou dois projetos de lei de IA que apelam diretamente ao SAG-AFTRA em sua sede em Los Angeles, ladeado por líderes do poderoso sindicato de atores e artistas de tela. O grupo trabalhista foi uma força motriz por trás dos projetos, que regulam o uso de réplicas digitais e se baseiam em concessões conquistadas na greve dos atores de 2023. O sindicato também é um dos apoiadores mais proeminentes do SB 1047.

Os signatários da carta das celebridades, muitos dos quais são membros do SAG-AFTRA, escrevem que estão "genuinamente gratos" pela assinatura de Newsom nos dois projetos de réplicas digitais. Mas o projeto de lei de segurança de IA, eles escrevem, "não se trata de proteger artistas — trata-se de proteger a todos".

O SB 1047 angariou tanto apoio quanto críticas intensas. É oposto pela maior parte da indústria de IA, pela ex-presidente da Câmara Nancy Pelosi, pelo prefeito de São Francisco London Breed e por oito democratas do Congresso da Califórnia. Poderosos apoiadores incluem o Sindicato Internacional de Empregados de Serviços (SEIU), a Fundação da Comunidade Latina, Elon Musk e — em uma carta noticiada pela primeira vez pelo The Verge — o SAG-AFTRA.

A decisão de Newsom pode se resumir a política de poder bruto — algo que cada lado reconhece à medida que reúne apoio nos últimos dias do projeto. Ao contemplar seu futuro político, o governador enfrenta uma escolha difícil entre as duas indústrias pelas quais seu estado é mais conhecido: tecnologia e entretenimento.

Inicialmente, não estava claro o quanto o SAG-AFTRA iria defender o SB 1047. Os artistas performáticos foram diretamente impactados pelo aumento precipitado da IA generativa, desde pornografia deepfake não consensual de celebridades como Taylor Swift até a ameaça de réplicas digitais eliminarem empregos de atuação. Em um ponto de conflito anterior entre Hollywood e a indústria de IA, a OpenAI foi acusada de roubar a voz de Scarlett Johansson para uso no ChatGPT. Mas, ao contrário dos dois projetos que Newsom assinou, o SB 1047 não aborda diretamente essas questões. Ele visa ameaças muito mais catastróficas.

À medida que o prazo se aproxima, no entanto, o apoio do sindicato está se revelando muito mais do que um casamento de conveniência com outros apoiadores da regulação das grandes empresas de tecnologia. A carta de terça-feira inclui líderes do SAG-AFTRA como a presidente Fran Drescher, o diretor executivo nacional e negociador-chefe Duncan Crabtree-Ireland, a secretária-tesoureira Joely Fisher e 12 membros do conselho nacional, incluindo Sean Astin e Rosie O'Donnell.

"Somos os canários na mina de carvão"

Fisher disse ao The Verge que, além das proteções que Newsom transformou em lei, "nossa comunidade também se preocupa profundamente com o desenvolvimento seguro e responsável da IA, então muitos de nós nos unimos para instar o Governador a assinar este pela humanidade e seu legado. Colocar barreiras na Big Tech não sufocará a inovação".

Na terça-feira à tarde, Astin publicou uma carta pessoal detalhada que acabara de enviar a Newsom, escrevendo que o SB 1047 ainda é necessário "porque é o único projeto que busca regular os maiores dos grandes modelos de linguagem e clusters de computadores usados por gigantes da tecnologia". A estrela de O Senhor dos Anéis também menciona seu recém-obtido mestrado em administração pública.

Antes da carta de terça-feira, pelo menos 11 membros do SAG-AFTRA postaram nas redes sociais em apoio ao SB 1047. Estrelas como Joseph Gordon-Levitt, Mark Ruffalo, Alyssa Milano, Astin e Piper Perabo publicaram vídeos e posts pedindo a Newsom que assinasse o projeto.

O comediante Adam Conover disse em seu vídeo: "Sou um grande crítico da IA e muito do que você ouve sobre a revolta dos robôs é bobagem e marketing, mas os bilionários que dirigem essa indústria realmente estão causando riscos reais que não estão fazendo o suficiente para evitar".

Jason Winston George, membro do conselho do SAG-AFTRA e estrela da TV em Grey's Anatomy, disse ao The Verge que ele é "um grande fã de Gavin Newsom" e está "incrivelmente grato" por o governador ter assinado dois projetos apoiados pelo sindicato. Mas ele não quer que Newsom pare por aí. George também está totalmente a favor do SB 1047.

George mencionou o Oppenheimer de Christopher Nolan, que ganhou o Melhor Filme por sua retratação do "pai da bomba atômica", comparando o físico angustiado a Geoffrey Hinton, o pioneiro do deep learning que famosamente se demitiu do Google para falar livremente sobre os riscos da tecnologia que ele moldou. Hinton, o cientista vivo mais citado, também escreveu a favor do SB 1047.

Com a greve dos atores de 2023, o SAG-AFTRA tem estado na vanguarda dos esforços para regular a IA nos EUA. O uso de ferramentas de IA em Hollywood foi talvez o maior obstáculo para resolver a greve de 118 dias dos atores. "Somos os canários na mina de carvão, e nos tornamos muito agudamente conscientes de quanto [a IA] vai mudar tudo, e por isso acho que nossos membros são tão vocais", disse George, que fez parte da equipe de negociação do sindicato. "Não tenho medo da IA, só quero ter certeza de que há barreiras de proteção", acrescentou.

O apoio das celebridades ao SB 1047 é outro sinal da crescente divisão entre as elites de Hollywood e do Vale do Silício. Vários bilionários da tecnologia de alto perfil recentemente mudaram para a direita, enquanto as maiores estrelas permaneceram solidamente azuis e endossaram Kamala Harris.

O sindicato não é estranho ao uso da legislação para avançar seus interesses. Atualmente, lista 18 projetos de lei federais e estaduais de IA além do SB 1047 no rastreador de legislação do grupo para 2024, cobrindo principalmente preocupações relacionadas ao entretenimento, como réplicas de IA, deepfakes e proteção de direitos autorais. Mas seu apoio ao SB 1047 marca a primeira vez que o grupo lançou seu peso atrás de um projeto de lei de IA não diretamente relacionado à sua indústria.

Isso fará diferença? Ninguém parece certo. Mas a carta de terça-feira inclui alguns dos aliados mais conhecidos do governador.

Hollywood se manifestou em força para apoiar Newsom em sua corrida de recall em 2021. E agora, alguns desses proeminentes apoiadores assinaram a carta do SB 1047, como Mark Hamill, Alyssa Milano, Shonda Rhimes e J.J. Abrams, que doou $32.400 para a campanha de Newsom em 2022. Além disso, Jane Fonda lutou contra a perfuração de petróleo com Newsom, e Ava DuVernay foi induzida pelo governador ao Hall da Fama da Califórnia em 2022.

Em 2024, a Califórnia aprovou mais de 40 projetos de lei de IA abordando coisas como caminhões autônomos, desinformação eleitoral e pornografia infantil gerada por IA. No entanto, nenhum dos outros projetos de lei de IA na mesa de Newsom provocou tanta resistência da indústria quanto o SB 1047.

"Este é um espaço onde dominamos e quero manter nossa dominância"

O governador tem se mostrado disposto a enfrentar indústrias poderosas antes, como combustíveis fósseis e fast food, mas não mostrou a mesma firmeza com as grandes empresas de tecnologia. Em agosto, Newsom orquestrou um acordo de bastidores para matar propostas de financiamento do jornalismo local através de impostos sobre plataformas tecnológicas como Google e Meta. Em vez disso, Google e Califórnia contribuirão com dinheiro para financiar o jornalismo local e um acelerador de IA. Líderes de múltiplos sindicatos de jornalistas chamaram o acordo de "desastroso". (Uma das propostas, que também era apoiada pelo SAG-AFTRA, enfrentou algumas críticas de boa fé sobre como planejava arrecadar e distribuir fundos.)

No Dreamforce, Newsom falou longamente sobre o SB 1047. Embora tenha dito que sentia um "profundo senso de responsabilidade para abordar algumas daquelas preocupações mais extremas que acho que muitos de nós temos", ele parecia estar inclinado a um veto. Newsom se preocupava com o "impacto desproporcional" e o "efeito inibidor, particularmente na comunidade de código aberto" que ele acha que o projeto poderia ter.

"Este é um espaço onde dominamos e quero manter nossa dominância", disse ele. "Quais são os riscos demonstráveis na IA e quais são os riscos hipotéticos? Não posso resolver tudo — o que podemos resolver?"

A pessoa em contato com os apoiadores celebridades, que desejou permanecer anônima devido à controvérsia em torno do projeto, disse ao The Verge que alguns sentem que "Newsom os enganou" ao assinar os projetos de réplicas de IA com grande alarde. Alguns deles "acham que foi um desvio intencional para fazer as pessoas pensarem que ele tinha assinado todos os projetos de IA com os quais se importam, e então, na verdade, vetar o que ouvi ser referido várias vezes como o 'grande'", disse a pessoa. "Acho que essas são pessoas muito, muito inteligentes. Muitas delas leram o projeto inteiro, desenvolveram opiniões sobre seções e provisões específicas no projeto."

Eles enfatizaram que nem todos se sentiam assim, no entanto, e que muitos "têm fé que [Newsom] fará a coisa certa."

A carta de Hollywood adverte que os riscos da IA não permanecerão hipotéticos por muito tempo. "Ameaças graves da IA costumavam ser coisa de ficção científica, mas não mais", diz. Cita uma carta aberta apoiando o SB 1047 assinada por mais de 110 funcionários atuais e ex-funcionários das principais empresas de IA, que escrevem: "Acreditamos que os modelos de IA mais poderosos podem em breve representar riscos graves, como acesso expandido a armas biológicas e ataques cibernéticos à infraestrutura crítica."

Seus signatários retratam o SB 1047 como uma luta contra uma indústria poderosa, imprudente e frouxamente regulada. "A inteligência artificial avançada está sendo implantada por empresas de tecnologia massivas com fins lucrativos com muito pouca supervisão governamental", diz o signatário Adam McKay. "Estou pedindo ao governador Newsom que demonstre que ele representa o interesse público e não cederá à Big Tech."