Escândalo de falso jornalista de IA na Sports Illustrated desperta debate sobre o futuro do jornalismo

No entanto, este escândalo levanta uma questão muito real: como sabemos o que é falso e o que não é?

Embora ferramentas de IA como o ChatGPT já sejam amplamente utilizadas para tarefas como planeamento de viagens e recomendação de filmes, e para aplicações mais sofisticadas como reconhecimento facial, a sua utilização em redações levantou potenciais ameaças existenciais aos jornalistas.

As ferramentas de IA podem ser usadas para produzir textos mais rapidamente – embora muitas vezes factualmente incorretos – e, ao contrário dos humanos, não exigem um aumento salarial, não exigem férias anuais ou ficam esgotadas.

No início deste ano, o site de notícias de tecnologia dos EUA CNET foi flagrado publicando dezenas de artigos gerados por IA sob a assinatura de “CNET Money Staff”, cobrindo histórias que incluíam as taxas de hipotecas e refinanciamentos do dia. Muitas das histórias continham erros factuais básicos, e a empresa posteriormente acrescentou a isenção de responsabilidade de que “Este artigo foi auxiliado por um mecanismo de IA”.

Um jornalista da CNET baseado nos EUA, falando sob condição de anonimato, disse que o incidente destruiu o moral dentro da redação.

O jornalista disse que este incidente não só preocupou os funcionários, mas também os inspirou a formar um sindicato.

O BuzzFeed também começou a publicar conteúdo gerado por IA, incluindo questionários e guias de viagem escritos por IA, embora isso esteja claramente marcado como sendo trabalho de um computador.

Especialistas dizem que há muitos aspectos positivos na IA, inclusive para jornalistas, mas as redações precisam ser transparentes e claras sobre como a utilizam.

“Definitivamente precisamos nos preocupar”, diz Alexandra Wake, professora associada de jornalismo da RMIT.

“A IA traz benefícios para os jornalistas. Por um lado, criaria histórias estereotipadas melhores de várias maneiras. Mas não consegue descobrir novas informações que ainda não estejam no computador, não consegue ver novas informações e não consegue saber quando alguém está mentindo.

“Enganar as pessoas é estúpido em muitos aspectos – não só mina a confiança no jornalismo, como quebra todo tipo de código ético – não apenas o jornalismo.”

Cassie Derrick, diretora de mídia do sindicato de jornalistas australianos, Media, Entertainment and Arts Alliance (MEAA), concorda e diz que as ferramentas generativas de IA podem ser úteis quando usadas corretamente.

No início deste ano, a MEAA escreveu ao chefe da News Corp Austrália, Michael Miller, em meio a revelações de que a empresa estava produzindo milhares de notícias hiperlocais sobre clima, trânsito, preços de combustíveis, listas de tribunais, mortes e avisos funerários.

Está carregando

Essas histórias não são escritas sob pseudônimos – geralmente levam a assinatura de Peter Judd, editor de jornalismo de dados da empresa. Eles são escritos por uma máquina, embora a News Corp afirme que um ser humano supervisiona a cópia gerada. O CEO da News Corp, Robert Thomson, alertou que a IA criará um “tsunami” de empregos.

“Redações menores e maior consumo de notícias significam que os jornalistas estão sob mais pressão do que nunca para cumprir prazos, e ferramentas como a IA generativa podem ser muito eficazes para ajudar com essas pressões de carga de trabalho”, diz Derrick. “Mas a responsabilização é importante.”

“A transparência é essencial para confiar nas notícias. O público tem o direito de saber quem fornece as suas informações, de onde vêm as fontes e que investigações foram feitas. Quando uma IA escreve um artigo inteiro sem monitorizar efetivamente os jornalistas que seguem o código de conduta jornalístico, esses elementos essenciais de transparência ficam obscurecidos.

“Os meios de comunicação social precisam de trabalhar com os jornalistas para criar políticas e práticas que equilibrem os benefícios da IA ​​como ferramenta, sem comprometer o jornalismo ético e transparente.”

A jornalista independente de tecnologia Joan Westenberg diz que vê o jornalismo anônimo de IA como uma ameaça aos princípios fundamentais sobre os quais o jornalismo foi construído.

‘Quando os artigos são gerados por IA sem divulgação, não é apenas uma violação da ética jornalística, é uma traição à confiança dos leitores.’

Jon Westenberg, jornalista de tecnologia

Ela diz que em anos cobrindo tendências tecnológicas, ela viu como as ferramentas digitais podem melhorar a narrativa, mas a falta de visão humana sobre a IA é uma deficiência séria.

Ela diz: “Isso mina a confiança construída entre jornalistas e leitores, obscurece a transparência necessária e abre possibilidades perigosas para manipulação narrativa”.

“A confiança no jornalismo é conquistada com dificuldade… Baseia-se na responsabilidade pessoal e no rigor ético. Quando os artigos são gerados por IA sem divulgação, não é apenas uma violação da ética jornalística, é uma traição à confiança dos leitores.

Está carregando

Um estudo feito por aplicativos de assinatura de revistas digitais e jornais facilmente descobriram que muitos australianos desconfiam da dependência excessiva da IA ​​em áreas onde o julgamento humano desempenha um papel fundamental, incluindo jornalismo e ensino. Apenas 10 por cento dos australianos viram benefícios na utilização da IA ​​no jornalismo, enquanto 30 por cento a consideraram prejudicial.

Podem ser necessárias novas regras para facilitar a identificação de conteúdos criados por IA generativa.

A China tornou as marcas d’água obrigatórias para conteúdo de IA e tornou ilegal removê-las, alterá-las ou removê-las. A Europa também está a considerar legislação semelhante.

O governo australiano lançou um inquérito no início deste ano sobre quais os regulamentos que poderiam ser necessários para garantir o desenvolvimento seguro da IA ​​e se seriam necessárias novas leis. O inquérito recebeu mais de 500 submissões, incluindo dos gigantes da tecnologia Google, OpenAI e Microsoft, mas o governo ainda não emitiu a sua resposta.

O Google revelou o SynthID em agosto, uma tecnologia que incorpora uma marca d’água digital diretamente nos pixels de uma imagem, tornando-a invisível ao olho humano, mas detectável para identificação.

“A ideia de marcas d’água para identificação de conteúdo é promissora, mas há um problema”, disse o advogado norte-americano Riley Beam, consultor jurídico da Douglas R Beam, ao This Masthead.

“Incorporar informações de identificação pessoal em metadados para estabelecer a propriedade pode ultrapassar os limites da privacidade do usuário. Este duplo desafio de garantir a autenticidade do conteúdo e ao mesmo tempo respeitar a privacidade acrescenta complexidade à questão.

As marcas d’água atuais de IA não são infalíveis, disse Beam, pois os pesquisadores encontraram maneiras de removê-las ou contorná-las facilmente, levantando questões sobre sua eficácia.

“Usar marcas d’água de IA, como o SynthID do Google para imagens, é um passo em direção à identificação, mas no grande esquema das coisas, confiar apenas em marcas d’água pode não ser suficiente para lidar com o aumento da desinformação gerada pela IA. “Combinar esses marcadores digitais com verificação manual de conteúdo e verificação de fatos surge como uma abordagem mais robusta”, disse Beam.

“As organizações noticiosas devem permanecer vigilantes e adotar uma estratégia multifacetada para navegar no cenário em evolução da tecnologia de IA, garantindo a credibilidade e a qualidade da informação.”

O boletim informativo Market Recap é um resumo das negociações do dia. cada um de nós entendeEUtarde,