Contente
- Uma boa história é mais convincente do que toda a verdade
- Ainda está vendo?
- Falsificações indetectáveis
- Sem erros, sem estresse - seu guia passo a passo para criar software que muda vidas sem destruir sua vida
- Possíveis conseqüências
- Planejamento proativo
Fonte: Mike2focus / Dreamstime.com
Leve embora:
O consumo de mídia está evoluindo juntamente com os avanços tecnológicos, como inteligência artificial (IA). Embora geralmente aceitemos o progresso, também devemos estar cientes das desvantagens de algumas formas de tecnologia. Há um lado sombrio na capacidade da IA quando ela é usada na promoção de notícias falsas.
O lado sombrio da tecnologia estava entre os tópicos explorados na segunda conferência Machines + Media do NYC Media Lab, que foi patrocinada e organizada pela Bloomberg em sua sede global na cidade em 15 de maio. Embora algumas das sessões tratassem mais de qual tecnologia está atualmente disponível para a mídia, mesmo aqueles que trouxeram a sombra da manipulação e desinformação.
Uma boa história é mais convincente do que toda a verdade
Na sessão intitulada "Estado da arte", Gilad Lotan, vice-presidente de ciência de dados da Buzzfeed, apontou que o problema de notícias falsas ou enganosas não pode ser atribuído apenas a empresas de mídia ou novas tecnologias. "As pessoas não estão necessariamente procurando fatos", disse ele. "Os leitores querem histórias."
Ele acrescentou que alimentar esse desejo por histórias e narrativas favoritas pode resultar em notícias falsas que são "mais manipulação do que informações falsas". De fato, a história entregue pode não incluir nada falso. O que é falso é que os fatos relatados são escolhidos e removidos do maior "golpe" para levar os "leitores a uma conclusão".
Na mesma linha, na sessão “Platform + Media”, Kelly Born, da Us Democracy Initiative da William e Flora Hewlett Foundation, disse: “As pessoas gostam de notícias que reforçam suas crenças e, especialmente, se desencadeiam indignação”. Ela alertou que a capitalização da mídia nessa tendência pode levar a uma "tempestade perfeita" que traz à tona o pior de nós. Isso é agravado pela possibilidade de apresentações completamente fabricadas.
Ainda está vendo?
A tecnologia desempenha um papel importante ao contar a história através de imagens e vídeos. Geralmente acreditamos no que vemos, a menos que haja sinais óbvios de manipulação. No entanto, à medida que a IA melhora o realismo de vídeos falsos, agora é possível literalmente colocar palavras na boca de figuras públicas. (A IA não está sendo usada apenas para fins nefastos. Confira alguns construtivos em 5 maneiras pelas quais as empresas podem querer considerar o uso da IA.)
O perigo da produção de vídeos muito confiáveis da AI foi demonstrado na sessão intitulada "Soluções para o lado obscuro da mídia acionada por máquina". Começou com um vídeo com Barack Obama dizendo coisas que o ex-presidente nunca realmente disse. O movimento ainda estava um pouco fora de sincronia com as palavras, por isso tem algumas marcas de um vídeo falso, e a maioria do público disse que poderia reconhecê-lo como falso.
Que a manipulação de vídeo de Obama não alcançou o realismo de ressuscitar Peter Cushing como Grand Moff Tarkin para "Rogue One". Como um artigo do New York Times explicou, o efeito foi alcançado com um ator usando "materiais de captura de movimento em sua cabeça" enquanto estava na frente da câmera "para que seu rosto pudesse ser substituído por uma recriação digital da de Cushing". O diretor de criação / supervisor sênior de efeitos visuais do filme chamou de "uma versão super-alta tecnologia e trabalhosa do trabalho" Maquiagem."
Falsificações indetectáveis
Agora, graças aos avanços da IA, especificamente, GANs, é mais fácil do que nunca obter efeitos mágicos em filmes. Utilizando GANs, um sistema de IA refina as imagens até que seja bom o suficiente para ser aceito como real por um sistema de IA projetado para detectar falsificações.
Sem erros, sem estresse - seu guia passo a passo para criar software que muda vidas sem destruir sua vida
Você não pode melhorar suas habilidades de programação quando ninguém se importa com a qualidade do software.
Neste vídeo, você pode ver os pesquisadores demonstrarem como um ator pode direcionar os movimentos do rosto de uma figura pública para produzir qualquer expressão e pronunciamento com o nível de fidelidade geralmente não encontrado em vídeos manipulados.
Embora nem todas as pessoas que brincam com vídeos tenham esse sistema disponível no momento, o software estará ao alcance de mais pessoas em um futuro próximo.
Possíveis conseqüências
Dhruv Ghulati, fundador e CEO da Factmata, diz que está "muito preocupado" com o modo como essa capacidade pode ser aplicada ao colocar não apenas os líderes mundiais, mas também os CEOs e celebridades em vídeos como prova de dizer ou fazer coisas que não fizeram. . Os poderes destrutivos do vídeo seriam intensificados com a obtenção de um efeito viral das botnets.
Isso significa que "não podemos mais confiar em nossos olhos mentirosos", declarou Mor Naaman, professor associado de ciência da informação, Cornell Tech. Ele estava preocupado que isso levaria a uma perda de confiança.
Outros estão preocupados em acender as chamas da violência. Já "apenas vídeos levemente modificados" são "usados para causar violência no mundo em desenvolvimento", observou Aviv Ovadya, tecnólogo-chefe do Center for Social Media Responsability. (As mídias sociais podem ser uma maneira eficaz de espalhar informações falsas. Confira as 4 principais falhas de alimentação mais devastadoras.)
Sarah Hudson, parceira da Investing nos EUA, manifestou preocupação com o fato de as imagens manipuladas "em escala" representar "uma ameaça incrível à segurança pública".
Planejamento proativo
É imperativo "prevenir o máximo possível desse abuso", disse Ovadya. É por isso que é importante "pensar com antecedência ao desenvolver tecnologia" sobre "como mitigar os efeitos negativos" e "dedicar recursos para lidar com essas conseqüências não intencionais".
É impossível atrasar o progresso, mas o que precisamos fazer é garantir que a direção que tomamos seja pensada e planejada. Isso significa não apenas trabalhar na tecnologia para ver o que pode ser feito, mas pensar no que pode ser feito que deve ser evitado.
O caminho a seguir para a inovação tecnológica é pensar em quais são os efeitos e planejar salvaguardas antes que os perigos se concretizem. Para fazer isso, precisaremos de cooperação entre pesquisadores, empresas de tecnologia e agências governamentais para estabelecer padrões e melhores práticas às quais as pessoas aderirão. Isso deve ser uma prioridade para todos os envolvidos.