Categories
Aide Explication How-To

Fawkes – Sauver la face face à l’IA

2020 est une année décisive pour l’apprentissage automatique (deep learning) et l’intelligence artificielle (AI). C’est cette année qu’apparaît la vraie démocratisation de l’apprentissage automatique avec des modèles et des algorithmes prêts à l’emploi disponibles sur l’Internet. Les GPUs (processeurs graphiques) sont plus abordables et encore plus disponibles qu’avant, de nouvelles méthodes d’entraînement telles que le « transfer learning » ont même rendu possible de créer de puissants modèles à partir de peu de données.

Mais l’apprentissage automatique plus accessible a aussi des désavantages. Un article récent du New York Times par Kashmir Hill a profilé clearview.ai, un service de reconnaissance faciale en roue libre qui a téléchargé près de 3 milliards de photos de personnes depuis internet pour les utiliser comme modèles afin de construire un système de reconnaissance faciale pour des millions de citoyens sans leur accord ni même les informer de cet usage. Clearview.ai démontre à quel point il est facile de créer des outils invasifs pour monitorer et tracker en utilisant l’apprentissage automatique.

Comment se protéger contre des tiers qui construisent des modèles de reconnaissance faciale qui vont nous reconnaître où que nous allons ? Les régulations peuvent et vont aider à restreindre l’usage de l’apprentissage automatisé mais auront peu d’impact sur les organisations privées, les individus et même les états qui poursuivent des buts similaires.

C’est pour cette raison que le SAND Lab de l’Université de Chicago a développé Fawkes*, un logiciel et un algorithme (fonctionnant sur votre propre ordinateur) qui donne la possibilité aux individus de limiter comment leur propres images peuvent être utilisés pour les tracker. En résumé, Fawkes modifie vos photos personnelles et opère des changements très précis au niveau des pixels de l’image qui sont invisibles à l’œil humain, dans un procédé que est appelé masquage de l’image.

Vous pouvez par la suite utiliser ces photos « masquées » comme vous le feriez habituellement, les partager sur les réseau sociaux, les envoyer à des amis, les imprimer et les afficher comme pour n’importe quelle autre photo. La différence est qui si quelqu’un se base sur l’une de ces photos « masquées » pour construire un modèle de reconnaissance faciale, ce modèle sera faussé et il sera alors impossible de vous reconnaître réellement en se basant sur une vraie photo de vous soumise à ce modèle. Ce système de masque est difficilement détectable par l’œil humain ou une machine et ne produira aucune erreur quand il est utilisé mais faussera complètement les modèles qui seront donc incapable de vous reconnaitre si une « vraie » photo de vous leur est soumise.

Fawkes a été testé de manière extensive dans une variété d’environnements et est à 100 % efficace contre les meilleurs modèles de reconnaissance faciale (Microsoft Azure Face API, Amazon Rekognition & Face++).

Un exemple en image, laquelle de ces deux photos a-t-elle été masquée ?

Télécharger Fawkes et plus d’informations :

Rendez-vous sur le site de Fawkes pour télécharger l’utilitaire qui est disponible sur Linux, Mac et Windows ou pour obtenir encore plus d’information sur cet utilitaire prometteur !

*Fawkes pour Guy Fawkes, personnage dont l’icone du film V pour Vendetta a été reprise par Anonymous.

Sources :

Categories
Explication News Opinion Pétition

Pétition pour soutenir l’OTF

Historique :

  • 2012 Fondation de L’Open Technology Fund dans le cadre du projet pilote Radio Free Asia par le département d’état américain.
  • 2014 Collaboration avec Google et Dropbox pour créer l’association Simply Secure afin de faciliter l’usage d’outils respectueux de la vie privée.
  • 2017 l’élection de Donald Trump remet en question le futur de l’organisme.
  • 2019 L’Open Technology Fund devient une organisation indépendante à but non-lucratif.
  • 2020 l’administration Trump menace de supprimer les fonds pour l »Open Technology Fund.

Présentation :

Logo de L’Open Technology Fund

L’Open Technology Fund (OTF) est une organisation indépendante à but non-lucratif américaine qui a pour but de promouvoir les technologies qui permettent la liberté d’expression sur Internet.

L’OTF soutient des projets qui luttent contre la censure et la surveillance répressive, ce qui permet aux citoyens du monde entier d’exercer leur droit fondamentaux en ligne.

C’est en effet grâce à la recherche, au développement, à l’implémentation de technologies qui facilitent la libre circulation de l’information que l’OTF aide à sécuriser les utilisateurs les plus à risque. La communauté de l’OTF œuvre pour façonner Internet en tant que plateforme qui favorise une connexion sans entrave, facilitant le progrès social tout en renforçant les valeurs démocratiques fondamentales.

Une pétition ?

Cette pétition a pour but d’interpeller les membres du congrès américain afin d’empêcher l’administration Trump de geler les budgets alloués à l’Open Technology Fund ce qui mettrait en péril la subsistance de cette organisation.

Signer cette pétition ne prends pas longtemps et vous permet de vous faire entendre en tant que citoyens d’Internet car il est primordial de garantir un accès équitable à tout un chacun aux informations de manière sécurisée.

Faites un geste pour l’internet libre et la démocratie participative :

Sources :