A iniciativa da empresa visa faz parte de um projeto anti-desinformação
A Microsoft anunciou uma campanha anti-desinformação que inclui uma ferramenta para detectar falsificações em vídeos e fotos. Conhecido como Microsoft Video Authenticator, o software pode analisar uma foto ou vídeo para informar a probabilidade de o conteúdo ser falso.
A ferramenta desenvolvida, é capaz de analisar clipes e fotografias, prestando atenção em elementos que seriam invisíveis ao olho humano. Com base na análise, ele fornece uma “nota de confiança” para que o próprio usuário possa decidir se é válido acreditar naquele conteúdo ou não. O algoritmo seria altamente eficaz na detecção de deepfakes, afirma a Microsoft.
Para sua criação, a Microsoft usou um conjunto de dados forense que consiste em 1.000 sequências de vídeo que foram manipuladas com quatro métodos automatizados para gerar deepfakes. O Video Authenticator foi testado no Deepfake Detection Challenge , um conjunto de dados que permite o treinamento de modelos de detecção e possui mais de 100.000 vídeos.
De acordo com a Microsoft, existem poucas ferramentas que nos ajudam a garantir que o conteúdo que visualizamos vem de uma fonte confiável e que não foi alterado. À medida que os processos de criação de vídeos falsos mudam, os métodos de detecção precisam evoluir para serem preparados e certificar a autenticidade na mídia.
A Microsoft também anunciou uma segunda ferramenta que se integra com a sua plataforma de nuvem, o Microsoft Azure, e com a ajuda de uma extensão de navegador você pode verificar, em tempo real, se o conteúdo que as pessoas veem é autêntico.
Essa tecnologia permite que o produtor de conteúdo adicione certificados e hashes(algoritmo de mapeamento) digitais ao conteúdo. O leitor, que pode ser uma extensão do navegador ou outro aplicativo, verificará os certificados e combinará os hashes para determinar se o conteúdo é autêntico, bem como sua origem.
A ferramenta é a base de uma iniciativa da BBC chamada Project Origin, que busca combater a desinformação marcando o conteúdo que é manipulado. O Project Origin faz parte da Trusted News Initiative (TNI), uma colaboração das principais organizações de notícias e tecnologia que buscam combater a disseminação da desinformação.
O TNI foi criado com vistas às próximas eleições nos Estados Unidos, onde Donald Trump busca a reeleição. Recentemente, a equipe de campanha de Trump e o Partido Republicano foram escolhidos por postar vídeos alterados no Twitter, forçando a rede social a rotulá-los como modificados.
O Twitter anunciou anteriormente sua posição sobre deepfakes, dizendo que colocaria um aviso e alertaria as pessoas antes de compartilhá-los, embora não tenha prometido removê-los.
Discussion about this post