Les vidéos truquées combattues par Facebook

A l’heure où les vidéos peuvent être truquées de façon ultra réaliste – ce que l’on appelle les Deep Fakes – en utilisant l’intelligence artificielle, les géants des technologies se mobilisent afin de trouver des contrefeux. Facebook par la voix de Mike Schroepfer, son Chief Technology Officer (patron des technologies), lance l’initiative « Deep Fake Detection Challenge » afin de détecter ces vidéos truquées.

De nouveaux outils pour détecter les vidéos truquées

Facebook souhaite la diffusion d’outils en Open Source afin de détecter ces vidéos. L’initiative est soutenue à son lancement par Facebook, « The partnership on AI », Microsoft, et des universitaires de Cornell Tech, du MIT, de l’université d’Oxford, de UC Berkeley, de l’université du Maryland, etc. « Le but du défi est de produire une technologie que tout le monde peut utiliser pour mieux détecter le moment où l’IA a été utilisée pour modifier une vidéo afin d’induire le spectateur en erreur » annonce Mike Schroepfer.

La gouvernance de cette initiative sera supervisée par le nouveau Comité directeur sur l’IA et l’intégrité des médias du « Partenariat sur l’intelligence artificielle » (« Partnership on AI »), composé d’organisations telles que Facebook, Witness, Microsoft et d’autres organismes de la société civile, de la technologie, des médias et des milieux universitaires.

We want to catalyze more research and development to ensure that there are better open source tools to detect deepfakes. Learn more about the DeepFake Detection Challenge: https://t.co/IlwSVmhQxb pic.twitter.com/ZFAS3IPq8l

— Facebook AI (@facebookai) September 5, 2019

Microsoft, Google, Amazon et Amnesty international

Le projet est soutenu par Microsoft et le consortium sur l’intelligence artificielle « Partnership on AI » où on retrouve plusieurs géants de la technologie, dont Apple, Amazon, Baidu et IBM ou un grand de l’information comme la BBC et Amnesty International ou l’Unicef.

Facebook investit 10 millions de dollars dans le «Deepfake Detection Challenge», qui vise à stimuler la recherche en matière de détection. Dans le cadre de ce projet, Facebook demande aux chercheurs de produire des « deep fakes » réalistes afin de créer un ensemble de données permettant de tester les outils de détection.

Ces « deep fakes » de test utiliseront des acteurs rémunérés. Aucune donnée de Facebook ne sera employée. L’ensemble des données destinées aux tests sera éprouvé en octobre lors de l’International Conference on Computer Vision (ICCV). La délivrance du jeu de données complet et le lancement du challenge auront lieu lors de la conférence sur Neural Information Processing Systems (NeurIPS) en décembre