Meta diz que o Facebook e o Instagram rotularão todas as imagens em suas plataformas como notícias de ciência e tecnologia geradas por IA

Sir Nick Clegg – político que se tornou meta-executivo – diz que os limites entre o “conteúdo humano” e o “conteúdo sintético” estão a tornar-se “turvos”, à medida que o gigante das redes sociais anuncia que irá rotular todas as imagens de IA nas suas plataformas.

A Meta, dona do Facebook, Instagram e Threads, já está colocando o rótulo “Imagined with AI” em imagens fotorrealistas criadas com seus próprios recursos. meta Recurso de IA.

A gigante da tecnologia disse que agora está construindo “ferramentas líderes do setor” que permitirão identificar marcadores invisíveis em imagens geradas por inteligência artificial provenientes do Google, OpenAI, Microsoft ou outros sites como Adobe.

A Meta disse que começará a implementar a rotulagem no Facebook, Instagram e Threads nos próximos meses.

senhor NickO ex-vice-primeiro-ministro britânico, que agora é presidente de assuntos globais da Meta, escreveu num comunicado que a medida ocorre num ano em que “uma série de eleições importantes estão a ter lugar em todo o mundo”.

Ele acrescentou: “Ao longo do caminho, esperamos aprender mais sobre como as pessoas estão criando e compartilhando conteúdo de IA, que tipos de transparência as pessoas consideram mais valiosos e como essas tecnologias evoluem. seguindo em frente.”

Sir Nick disse que a medida é importante num momento em que “a distinção entre materiais humanos e sintéticos” está se tornando confusa.

A Meta diz que está “trabalhando com parceiros da indústria em padrões técnicos comuns para identificação de conteúdo de IA”, acrescentando que rotulará imagens geradas por IA quando sua tecnologia detectar “indicadores padrão da indústria”.

A empresa afirma que os rótulos virão em “todos os idiomas”.

Por que a Meta decidiu agora anunciar uma grande mudança em seus esforços para se familiarizar mais com imagens e vídeos gerados por IA?

Tom Clarke

Editor de Ciência e Tecnologia

@t0mclark3

Bem, em primeiro lugar, tornou-se impossível ignorar.

De acordo com uma estimativa recente, 15 mil milhões de imagens serão criadas apenas pela IA e carregadas na Internet desde 2022. Como a maioria dos conteúdos online, a maioria deles se enquadra na variedade inofensiva e até mesmo boba de gatinho fofo, ficção científica e anime.

Mas grandes números são prejudiciais. Coisas como imagens falsas e explícitas carregadas sem o consentimento de indivíduos públicos ou privados, ou desinformação com motivação política destinada a manipular a verdade.

Mas a outra razão para a reacção é que empresas como a Meta sabem que serão forçadas a fazer algo a respeito.

O Reino Unido aprovou a Lei de Segurança Online no ano passado, que torna crime o upload de fotos falsas e explícitas de uma pessoa sem o seu consentimento. Os legisladores dos EUA disseram aos proprietários das redes sociais na semana passada que estão a falhar no seu dever de manter os utilizadores seguros online e que as leis que os obrigam a fazer mais são agora a única linha de acção.

O anúncio do Meta fará diferença? Sim, isto provavelmente forçará os seus concorrentes a fazer o mesmo e certamente ajudará a esclarecer quais imagens são geradas pela IA e quais não são.

Mas várias equipas de investigação demonstraram que as marcas de água digitais – mesmo as marcas de água escondidas nos metadados de uma imagem – podem ser removidas com um pouco de experiência. Até Meta admite que a tecnologia não é perfeita.

O verdadeiro teste será se veremos uma redução na explosão de imagens falsas prejudiciais que aparecem online nos próximos meses. E pode ser mais fácil falar do que fazer.

Embora uma superestrela como Taylor Swift possa pressionar a Big Tech para remover suas imagens ilegais – o mesmo não pode ser dito dos 3,5 bilhões de usuários de uma metaplataforma ou de outra.

Se isso não acontecer, o próximo teste será se veremos grandes e poderosas empresas tecnológicas levadas a tribunal por esta questão. Alguns prevêem que somente colocando a grande tecnologia no seu bolso é que uma mudança real acontecerá.

Sir Nick disse que ainda não é possível para o Meta identificar todo o conteúdo gerado por IA – aqueles que criam imagens são capazes de remover marcadores invisíveis.

Ele disse: “Estamos trabalhando duro para desenvolver classificadores que possam nos ajudar a detectar automaticamente conteúdo gerado por IA, mesmo quando o conteúdo não possui marcadores invisíveis. Procurando maneiras de tornar isso mais difícil. Ou alterar a marca d’água invisível.”

Sir Nick disse que esta parte do trabalho da Meta é importante porque o uso da IA ​​“provavelmente se tornará um espaço cada vez mais adversário nos próximos anos”.

Imagem gerada por IA de Elon Musk.  Foto: fatos completos
imagem:
Imagem gerada por IA de Elon Musk. Foto: fatos completos

“Pessoas e organizações que procuram ativamente enganar as pessoas com conteúdo gerado por IA procurarão formas de implementar salvaguardas para o detetar. Na nossa indústria e na sociedade em geral, precisamos de encontrar formas de permanecermos. Temos de continuar a procurar avançar. para frente”, disse ele.

A Meta também planeja adicionar um recurso à sua plataforma que permitirá às pessoas indicar quando estão compartilhando conteúdo gerado por IA, para que a empresa possa adicionar um rótulo a ele.

Consulte Mais informação:
Meta chefe questionado sobre preocupações com abuso infantil

Facebook completa 20 anos: do albergue de Zuckerberg a uma empresa de US$ 1 trilhão
Oito imagens geradas por IA que fascinaram as pessoas

Uma imagem falsa gerada por IA de Julian Assange na prisão.  Foto: fatos completos
imagem:
Uma imagem falsa gerada por IA de Julian Assange na prisão. Foto: fatos completos

Taylor Swift alvo de imagens de IA

As imagens de IA têm se mostrado controversas nos últimos meses – muitas delas são tão realistas que os usuários muitas vezes não conseguem dizer que não são reais.

Em janeiro, Fotos falsas da estrela pop Taylor SwiftA farsa, que se acredita ter sido criada usando IA, foi amplamente divulgada nas redes sociais.

Use o navegador Chrome para um player de vídeo mais acessível

Deepfakes rápidos: Casa Branca ‘preocupada’

Um porta-voz do presidente dos EUA, Biden, disse que as imagens sexualmente explícitas da estrela eram “profundamente preocupantes”.

A secretária de imprensa da Casa Branca, Karine Jean-Pierre, disse que as empresas de mídia social “têm um papel importante a desempenhar na aplicação de seus regulamentos” e instou o Congresso a promulgar legislação sobre o assunto.

Uma reunião real que parecia não acontecer

No Reino Unido, uma apresentação de slides de oito imagens está sendo exibida Príncipe William E Príncipe Harry Mas coroação do rei Amplamente difundido no Facebook em 2023, com mais de 78 mil curtidas.

Um deles mostrou um abraço emocionado entre William e Harry após relatos de uma briga entre os irmãos.

No entanto, nenhuma das oito imagens era genuína.

Enquanto isso, sua foto gerada por IA enganou muitas pessoas ao redor do mundo em 2023, quando Donald Trump foi formalmente autuado por 13 acusações de fraude eleitoral.

Source link

The post Meta diz que o Facebook e o Instagram rotularão todas as imagens em suas plataformas como notícias de ciência e tecnologia geradas por IA appeared first on Sempre Atualizado.

Source: News

Add a Comment

Your email address will not be published. Required fields are marked *