A Google não quer deepfakes na internet. Preocupada com o aumento de vídeos falsos gerados por algoritmos de inteligência artificial, a empresa de Mountain View, Califórnia anunciou, por meio de seu blog oficial, um projeto voltado a pesquisadores para que possam coibir o aumento desse tipo de “produção”, que consiste, basicamente, em inserir imagens em caráter bastante realista em outras mídias.
O projeto é detalhado no post como uma iniciativa em conjunto da Google com a startup Jigsaw, empresa essa que nasceu do projeto de incubadoras corporativas da gigante da internet. Juntas, as companhias trabalharam com atores por cerca de um ano, criando vídeos e deepfakes, no intuito de fornecer tais mídias a pesquisadores de tecnologia e segurança, a fim de que estes os analisassem e criassem ferramentas que permitiriam coibir a criação e viralização de vídeos falsos.
No passado, deepfakes foram usados para uma série de ações potencialmente nocivas: exemplos da tecnologia giram em torno de falas nunca existentes atribuídas a presidentes e atrizes de Hollywood tendo seus rostos superimpostos em vídeos de cenas de sexo explícito.
–
Siga o Canaltech no Twitter e seja o primeiro a saber tudo o que acontece no mundo da tecnologia.
–
O gif abaixo mostra alguns dos exemplos criados pelas empresas. A parte de cima corresponde aos atores na realidade, enquanto a parte de baixo mostra o material falso. Alguns são bem óbvios, já outros são bastante realistas e difíceis de enxergar, especialmente se você não tiver a referência real para tirar a base:
“A Google vê esses problemas com muita seriedade. Assim que publicamos nossos princípios de inteligência artificial, no ano passado, nós assumimos o compromisso de desenvolver as melhores práticas de IA para minimizar o potencial de danos e abusos.
Em janeiro, nós anunciamos o lançamento de um conjunto de dados de discursos sintéticos, em apoio a um desafio internacional de desenvolvimento de detectores de áudios falsos de alto desempenho. Esse conjunto foi baixado por mais de 150 organizações de pesquisa e da indústria como parte desse desafio, e agora ele se encontra livre e aberto para o público.
Hoje, em colaboração com a Jigsaw, anunciamos o lançamento de um conjunto grande de dados visuais de deepfakes que produzimos e que foi incorporado no benchmark NewForensics da Universidade Tecnológica de Munique e da Universidade Federico II de Nápoles, um esforço que a Google co-patrocina.
O uso desses dados dentro da FaceForensics é realizado em parceria com líderes de pesquisa, incluindo o Professor Matthias Niessner, a Professora Luisa Verdoliva e toda a equipe FaceForensics”.
O post segue oferecendo o link para download das informações dentro de uma página mantida pela FaceForensics no GitHub.
O leitor do Canaltech deve lembrar de dois casos específicos que cobrimos aqui: o primeiro é o “FaceApp”, um aplicativo que fez bastante sucesso no Brasil e no mundo ao oferecer, por meio de uma selfie ou foto do usuário, uma versão “envelhecida” dele próprio. O FaceApp pedia por permissões preocupantes, embora neste caso, elas fossem relacionadas a ferramentas do smartphone de quem o utilizasse, como dados de GPS e endereços de IP para compartilhamento com empresas terceirizadas.
Outro caso ainda mais evidente é o DeepNude, um app que usava aspectos de inteligência artificial e machine learning para receber o upload de uma foto — qualquer foto — de mulher e, independente do quanto ela estiver vestida na imagem original, o app poderia criar um “falso nude” dela. O realismo e proximidade com os resultados não eram lá muito próximos de um nude real, mas foi o suficiente para causar preocupações óbvias na comunidade tecnológica.
A Google informou pelo post em seu blog que ambas as bases de dados — para áudio e vídeo — continuarão em constante atualização e aumento de tamanho. Assim, à medida que a tecnologia por trás dos deepfakes evoluir, também o farão os mecanismos de pesquisa e defesa.
Trending no Canaltech:
- Play Store é mais um app da Google que acaba de ganhar Modo Escuro
- Amazon anuncia novos produtos como Echo Studio e fones sem fio Echo Buds
- Cientista encontra forma de criar um laser capaz de abrir um buraco no universo
- Discurso de Trump na ONU faz empresas de tecnologia perderem milhões
- NASA quer saber a causa de perfuração em nave da ISS, mas Rússia manterá segredo
Fonte: Canaltech
