Com o advento da inteligência artificial “extraterrestre”, o Canadá precisa de legislação agora: pioneiro da IA
O governo federal deve agir rapidamente para regulamentar a inteligência artificial, disse um dos principais pioneiros da IA, que alertou que a trajetória atual da tecnologia representa enormes riscos sociais.
Yoshua Bengio, conhecido como o “padrinho” da IA, disse aos membros do Parlamento na segunda-feira que Ottawa deveria promulgar imediatamente uma lei, mesmo que essa lei não seja perfeita.
A diretora científica do Quebec AI Institute, Mila, disse que uma inteligência “sobre-humana” que seja tão inteligente quanto a de um ser humano poderia ser desenvolvida nas próximas duas décadas – ou mesmo nos próximos anos.
“Não estamos prontos”, disse Bengio.
Ele disse que um risco de curto prazo da IA é o uso de vídeos deepfake para espalhar desinformação. Esses vídeos usam IA para fazer parecer que uma figura pública está dizendo algo que não disse ou fazendo algo que nunca aconteceu.
“Esta tecnologia também pode ser usada para interagir com as pessoas através de texto ou diálogo”, disse Bengio, “enganando assim um utilizador das redes sociais e fazendo-o mudar de ideias sobre questões políticas”.
“Existem preocupações reais sobre o uso da IA de formas politicamente orientadas que vão contra os princípios da nossa democracia.”
Um ou dois anos depois, existe a preocupação de que sistemas mais avançados possam ser usados para ataques cibernéticos.
Os sistemas de IA estão cada vez melhores em programação.
“Quando estes sistemas se tornarem suficientemente fortes para derrotar a nossa segurança cibernética existente e a nossa infraestrutura digital industrial, estaremos em apuros”, disse Bengio.
“Especialmente se esses sistemas caírem em mãos erradas.”
Projeto de lei propõe regulamentar sistemas de IA
O Comité da Indústria da Câmara dos Comuns, onde Bengio testemunhou na segunda-feira, está a estudar um projeto de lei do governo liberal que atualizaria a lei de privacidade e começaria a regulamentar alguns sistemas de inteligência artificial.
O projecto de lei daria ao governo tempo para desenvolver regras, mas Bengio disse que algumas disposições deveriam entrar em vigor imediatamente.
“Com a abordagem atual, levará cerca de dois anos para ser implementada”, disse ele.
Ele disse que uma das regras iniciais que gostaria de ver implementada é um registo que exigiria sistemas com um nível específico de capacidade para reportar ao governo.
Bengio disse que a responsabilidade e o custo de demonstrar a segurança seriam atribuídos às grandes empresas de tecnologia que desenvolvem estes sistemas, e não aos contribuintes.
O projeto de lei C-27 foi redigido pela primeira vez para visar o que foi descrito como sistemas de IA de “alto impacto” até 2022.
Bengio disse que o governo deveria mudar a definição da lei de “alto impacto” para incluir tecnologia que representa ameaças à segurança nacional e à sociedade.
Isto pode incluir quaisquer sistemas de IA que os malfeitores possam utilizar para conceber ataques cibernéticos e armas perigosas, ou sistemas que encontrem formas de se auto-replicarem, apesar das instruções de programação em contrário.
Sistemas generativos de IA como ChatGPT, que podem gerar texto, imagens e vídeo, surgiram para uso público generalizado após a introdução do projeto de lei.
O governo disse que planeja alterar a lei para refletir isso.
Os liberais dizem que pretendem forçar as empresas a tomar medidas para garantir que o conteúdo que criam possa ser identificado como gerado por IA.
“É muito importante cobrir os sistemas de IA de uso geral porque estes são os sistemas que podem ser mais perigosos se utilizados indevidamente”, disse Bengio.
A professora Catherine Regis, da Universidade de Montreal, também disse na reunião do comitê na segunda-feira que o governo precisa tomar medidas imediatas, citando os recentes “desenvolvimentos meteorológicos na IA com os quais todos estamos familiarizados”.
Falando em francês, ele explicou que a regulamentação da IA é um esforço global e que se o Canadá quiser ter voz, terá de descobrir o que fazer a nível nacional.
“Serão tomadas decisões a nível global que terão impacto em todos os países”, disse ele.
“Estabelecer uma abordagem clara e concreta a nível canadiano é um dos pré-requisitos para construir uma estrutura credível e desempenhar um papel influente na governação global”, disse ele.
Olhar O pioneiro da IA, Yoshua Bengio, compartilha uma preocupação principal:
O professor e cientista da computação de Montreal conhecido internacionalmente como o “Padrinho” da inteligência artificial compartilhou suas maiores preocupações relacionadas à IA para 2024.
The post Com o advento da inteligência artificial “extraterrestre”, o Canadá precisa de legislação agora: pioneiro da IA appeared first on Sempre Atualizado.
Source: News
About The Author
