Preocupado com IA? Como os legisladores da Califórnia planejam enfrentar os riscos tecnológicos em 2024

Jody Long foi capturada por uma gaiola cheia de câmeras instaladas para capturar imagens de seu rosto e corpo.

“Fiquei um pouco nervoso, porque antes de ir para lá eu disse que não lembrava que isso estivesse no meu contrato”, disse o ator.

Long foi informado de que os cineastas precisavam de digitalizações dela, porque queriam garantir que seus braços estivessem posicionados corretamente na cena em que ela segura um personagem gerado por computador.

Aquele momento em 2020 ficou com Long, presidente da SAG-AFTRA local de Los Angeles, quando ele estava negociando a segurança em torno do uso de inteligência artificial quando os atores entraram em greve. Em novembro, o Actors Guild chegou a um acordo com os estúdios de Hollywood que – entre outras coisas – exigia consentimento e compensação pela utilização de uma réplica digital de um trabalhador.

Os sindicatos não são os únicos que tentam limitar os perigos potenciais da IA. Com o governador Gavin Newsom assinando uma ordem executiva sobre IA em setembro, os legisladores da Califórnia introduziram um conjunto de legislação que prepara o terreno para mais regulamentação em 2024. Algumas propostas centram-se na proteção dos trabalhadores, no combate aos sistemas de IA que podem contribuir para o preconceito de género e no estabelecimento de novos requisitos de proteção contra a utilização indevida da IA ​​para preconceitos raciais e crimes cibernéticos, no desenvolvimento de armas e na propaganda.

No entanto, não está claro se os legisladores da Califórnia conseguirão aprovar a legislação sobre IA. Eles enfrentarão lobby de empresas de tecnologia de bilhões de dólares, incluindo Microsoft, Google e Facebook, forças políticas que bloquearam com sucesso vários projetos de lei de IA apresentados este ano.

A inteligência artificial existe há décadas. Mas à medida que a tecnologia avança rapidamente, a capacidade das máquinas para realizar tarefas que envolvem a inteligência humana levantou questões sobre se a IA substituirá empregos, alimentará a propagação de desinformação ou mesmo se levará à extinção da humanidade.

À medida que os legisladores tentam regulamentar a IA, também tentam compreender como a tecnologia funciona para não prejudicar os seus benefícios potenciais, ao mesmo tempo que tentam minimizar os perigos.

O professor Daniel Ho disse: “Um dos principais desafios é que esta tecnologia é de dupla utilização, o que significa que a mesma tecnologia, por exemplo, pode trazer melhorias massivas nos cuidados de saúde, sendo potencialmente utilizada em “Também pode ser usada para causar danos graves .” na Faculdade de Direito da Universidade de Stanford, que assessora a Casa Branca em políticas de IA.

Os políticos estão a sentir uma sensação de urgência, apontando para a resistência que já enfrentaram na tentativa de controlar alguns dos problemas de saúde mental e segurança infantil exacerbados pelas redes sociais e outros produtos tecnológicos. Embora alguns executivos da tecnologia digam que não se opõem à regulamentação, também afirmaram que os críticos estão a exagerar os riscos e expressaram preocupações de que terão de lidar com diferentes regulamentações em todo o mundo.

Technet – um grupo empresarial que inclui várias empresas como Apple, Google e Amazon – descreve seus Local na rede Internet O que os membros apoiarão ou não quando se trata de regulamentação de IA. Por exemplo, a TechNet afirma que os decisores políticos devem evitar “proibições completas da inteligência artificial, da aprendizagem automática ou de outras formas de tomada de decisão automatizada” e não forçar os criadores de IA a partilhar publicamente informações proprietárias.

O deputado estadual Ash Kalra (D-San Jose) disse que os legisladores não confiam nas empresas de tecnologia para se regularem.

Kalra disse: “Como legislador, minha intenção é proteger o público e os trabalhadores e protegê-los dos riscos que surgem através da IA ​​não regulamentada”. “As pessoas que estão na indústria têm prioridades diferentes.”

De acordo com um relatório de abril da Goldman Sachs, a IA poderia impactar 300 milhões de empregos em tempo integral.

Kalra apresentado em setembro Legislação Daria aos actores, dubladores e outros trabalhadores uma forma de anular contratos vagos que permitem aos estúdios e outras empresas utilizar inteligência artificial para clonar digitalmente as suas vozes, rostos e corpos. Kalra disse que não tem planos imediatos de revogar o projeto de lei, que é apoiado pela SAG-AFTRA.

legisladores federais Também foi introduzida legislação destinada a proteger a voz e a igualdade dos trabalhadores. O presidente Biden assinou ordem executiva sobre IA em outubro, analisando como a tecnologia pode melhorar a produtividade, mas também deslocar trabalhadores.

O presidente Biden e o governador Gavin Newsom em uma discussão sobre inteligência artificial em junho. Tanto Biden quanto Newsom emitiram e assinaram ordens executivas sobre IA.

(Susan Walsh/Associated Press)

Duncan Crabtree-Ireland, diretor executivo nacional e negociador-chefe da SAG-AFTRA, disse acreditar que é importante que os legisladores estaduais e federais regulamentem a IA sem demora.

“Terá que vir de uma variedade de fontes e [be] “Montados de uma forma que crie a imagem final que todos queremos ver”, disse ele.

Os decisores políticos fora dos EUA já estão a avançar. Em dezembro Parlamento Europeu E os estados membros da UE chegaram a um acordo histórico sobre a Lei de IA, chamando a proposta de “a primeira lei abrangente de IA do mundo”. A legislação inclui um conjunto diferente de regras dependendo do grau de risco dos sistemas de IA e também exigirá que ferramentas de IA que publicam texto, como o ChatGPT da OpenAI, publiquem dados protegidos por direitos autorais usados ​​para treinar o sistema. Gerar imagens e outros conteúdos.

À medida que os legisladores federais e estaduais melhoram a lei, os trabalhadores analisam o impacto da IA ​​nos seus empregos e examinam se as leis existentes proporcionam proteção suficiente.

As empresas de tecnologia – incluindo OpenAI, Stability AI, controlada pela Microsoft, Meta e Anthropic – estão enfrentando ações judiciais por alegações de que usaram obras protegidas por direitos autorais de artistas e escritores para treinar seus sistemas de IA. Na quarta-feira, o The New York Times abriu um processo contra a Microsoft e a OpenAI, acusando as empresas de tecnologia de usarem trabalhos protegidos por direitos autorais para criar produtos de IA que competiriam com os meios de comunicação.

Tim Friedlander, presidente e cofundador da Associação Nacional. Os dubladores disseram que seus membros estão perdendo empregos porque algumas empresas decidiram usar vozes geradas por IA. Os atores também alegaram que suas vozes estão sendo clonadas sem seu consentimento ou compensação, os músicos também enfrentam esse problema.

“Uma das coisas difíceis neste momento é que não há como provar se algo é humano ou artificial ou ser capaz de provar de onde veio o som”, disse ele.

A segurança do trabalhador é uma questão relacionada à IA que os legisladores da Califórnia tentarão resolver em 2024.

O senador Scott Wiener (D-San Francisco) apresentou a Lei de Segurança em Inteligência Artificial em setembro, que visa abordar alguns dos maiores riscos representados pela IA, disse ele, incluindo o potencial uso indevido da tecnologia em armas químicas e nucleares, interferência eleitoral e ataques cibernéticos. Embora os legisladores não queiram “sufocar a inovação”, disse Wiener, eles também querem ser proativos.

“Se não se antecipar a isto, pode ser tarde demais e vimos nas redes sociais e noutras áreas onde deveríamos pelo menos ter implementado sistemas regulatórios abrangentes antes dos problemas começarem”, disse ele. ,

Os legisladores também estão preocupados com o facto de os sistemas de IA poderem cometer erros que poderão levar a um tratamento desigual das pessoas com base em características protegidas, como raça e género. A deputada Rebecca Bauer-Kahn (D-Orinda) está patrocinando um projeto de lei que impediria qualquer pessoa ou entidade de implantar um sistema ou serviço de IA que esteja envolvido na tomada de “decisões de consequências” que resultem em “discriminação algorítmica”.

As preocupações de que os algoritmos possam abrigar preconceitos raciais e de género devido aos dados utilizados para treinar sistemas informáticos têm sido um problema constante na indústria tecnológica. Por exemplo, a Amazon cancelou uma ferramenta de recrutamento de IA porque mostrava um preconceito contra as mulheres porque o modelo de computador foi treinado com currículos principalmente de homens, Reuters Relatado em 2018.

A aprovação de legislação sobre IA já se revelou difícil. O projeto de lei de Bauer-Kahn nunca chegou ao plenário da Assembleia para votação. A análise da legislação, AB 331, afirma que várias indústrias e empresas expressaram preocupações de que ela é demasiado ampla e resultaria num “excesso de regulamentação nesta área”.

Ainda assim, Bauer-Kahn disse que planeia reintroduzir o projeto de lei em 2024, apesar da oposição na última sessão.

“Não é que eu queira que estes dispositivos desapareçam, mas quero ter a certeza de que, quando entrarem no mercado, saibamos que não são discriminatórios”, disse ela. “Esse equilíbrio não é pedir muito.”

Tentar descobrir quais as questões que devem ser priorizadas no que diz respeito aos potenciais riscos da IA ​​é outro desafio que os políticos enfrentarão em 2024, dado que projetos de lei controversos serão provavelmente aprovados num ano eleitoral.

“Se não houver pelo menos algum entendimento acordado sobre a priorização de danos e quais prioridades são mais urgentes, pode ser difícil descobrir quais poderiam ser as formas de intervenção mais eficazes”, disse Ho de Stanford. Professor da Faculdade de Direito.

Long disse que, apesar de todas as dúvidas sobre a IA, está otimista em relação ao futuro.

Ela estrelou filmes de grande sucesso como “Shang-Chi e a Lenda dos Dez Anéis” da Marvel e em 2021 se tornou a primeira asiático-americana a ganhar um Emmy Diurno de Melhor Performance de Atriz Coadjuvante no programa da Netflix “Dash & Lily”. ” ,

“Minha indústria é um processo colaborativo entre muitos seres humanos”, disse ele. “E enquanto tivermos seres humanos que continuem a apresentar as suas histórias, penso que ficaremos bem.”