Téléchargez vos photos et obtenez une description détaillée de ce qu’elles contiennent.
L’ingénieur logiciel Vishnu Mohandas a décidé de quitter Google à plus d’un titre lorsqu’il a appris que le géant de la technologie avait brièvement aidé l’armée américaine à développer une IA pour étudier les images de drones. En 2020, il a quitté son emploi sur Google Assistant et a également arrêté de sauvegarder toutes ses images sur Google Photos. Il craignait que son contenu puisse être utilisé pour former des systèmes d’IA, même s’ils n’étaient pas spécifiquement liés au projet du Pentagone. « Je ne contrôle aucun des résultats futurs que cela permettra », a pensé Mohandas. « Alors maintenant, ne devrais-je pas être plus responsable ? »
Mohandas, qui a appris la programmation en autodidacte et qui vit à Bengaluru, en Inde, a décidé qu’il voulait développer un service alternatif de stockage et de partage de photos qui soit open source et crypté de bout en bout. Quelque chose de « plus privé, sain et digne de confiance », dit-il. Le service payant qu’il a conçu, Ente, est rentable et dit avoir plus de 100 000 utilisateurs, dont beaucoup font déjà partie de la foule obsédée par la confidentialité. Mais Mohandas a eu du mal à expliquer au grand public pourquoi il devrait reconsidérer sa confiance dans Google Photos, malgré toutes les commodités qu’il offre.
Puis, un week-end de mai, un stagiaire d’Ente a eu une idée : donner aux gens une idée de ce que certains modèles d’IA de Google peuvent apprendre en étudiant des images. Le mois dernier, Ente a lancé https://Theyseeyourphotos.com, un site Web et un coup de marketing conçus pour retourner la technologie de Google contre elle-même. Les gens peuvent télécharger n’importe quelle photo sur le site Web, qui est ensuite envoyée à un programme de vision par ordinateur de Google Cloud qui en rédige une description étonnamment complète en trois paragraphes. (Ente demande au modèle d’IA de documenter les petits détails des images téléchargées.)
L’une des premières photos que Mohandas a essayé de télécharger était un selfie avec sa femme et sa fille devant un temple en Indonésie. L’analyse de Google a été exhaustive, documentant même le modèle de montre spécifique que portait sa femme, une Casio F-91W. Mais ensuite, explique Mohandas, l’IA a fait quelque chose d’étrange : elle a remarqué que les montres Casio F-91W sont généralement associées aux extrémistes islamiques. « Nous avons dû modifier les invites pour les rendre un peu plus saines, mais toujours effrayantes », explique Mohandas. Ente a commencé à demander au modèle de produire des résultats courts et objectifs, rien de sombre.
La même photo de famille téléchargée sur Theyseeyourphotos renvoie désormais un résultat plus générique qui inclut le nom du temple et le « ciel partiellement nuageux et la verdure luxuriante » qui l’entoure. Mais l’IA fait toujours un certain nombre d’hypothèses sur Mohandas et sa famille, comme le fait que leurs visages expriment un « contentement commun » et que les « parents sont probablement d’origine sud-asiatique, de classe moyenne ». Elle juge leurs vêtements (« appropriés pour faire du tourisme ») et note que « la montre de la femme affiche une heure d’environ 14 heures, ce qui corrobore les métadonnées de l’image ».
Le porte-parole de Google, Colin Smith, a refusé de commenter directement le projet d’Ente. Il a demandé à WIRED de soutenir les pages qui indiquent que les téléchargements sur Google Photos ne sont utilisés que pour former des modèles d’IA génératifs qui aident les utilisateurs à gérer leurs bibliothèques d’images, comme ceux qui analysent l’âge et la localisation des sujets des photos. L’entreprise affirme qu’elle ne vend pas le contenu stocké dans Google Photos à des tiers ni ne l’utilise à des fins publicitaires. Les utilisateurs peuvent désactiver certaines des fonctionnalités d’analyse dans Photos, mais ils ne peuvent pas empêcher Google d’accéder entièrement à leurs images, car les données ne sont pas cryptées de bout en bout.
Si vous ne souhaitez pas télécharger votre propre photo, Ente offre aux utilisateurs la possibilité d’expérimenter sur Theyseeyourphotos en utilisant l’une des nombreuses images de stock. La vision par ordinateur de Google est capable de détecter des détails subtils, comme le tatouage d’une personne qui semble être la lettre G, ou le tatouage temporaire d’une feuille d’un enfant. « L’essentiel est qu’il ne s’agisse que d’une seule photo », explique Mohandas. Il espère que le site Web incitera les gens à imaginer tout ce que Google – ou toute autre entreprise d’IA – peut apprendre sur eux en analysant des milliers de leurs photos dans le cloud de la même manière.
Si Theyseeyourphotos vous incite à passer de Google Photos à un autre service de stockage d’images, la transition ne sera peut-être pas totalement fluide. Mohandas affirme que Google rend difficile le transfert de la photothèque d’un utilisateur vers un autre service en décomposant les fichiers et en les compressant. Il affirme également que Google Play, la boutique d’applications Android de la société, a signalé à plusieurs reprises l’application d’Ente pour des problèmes tels que le manque de transparence des prix, qui, selon Mohandas, sont faux. Smith, de Google, affirme que les commentaires sont appréciés et que l’entreprise améliore constamment ses services.
Ente, qui signifie « mien » en malayalam, la langue maternelle de Mohandas, n’est pas sans inconvénients. Étant donné que le service est petit et open source, des fonctionnalités telles que le partage de fichiers et la recherche peuvent ne pas être encore aussi avancées. Si un utilisateur perd ou oublie son mot de passe, qui fait également office de clé de cryptage, il peut perdre l’accès à sa photothèque. Mohandas dit qu’il confie ses propres photos de famille à Ente, qui conserve deux sauvegardes privées distinctes pour les utilisateurs. Mais Google a des décades d’expérience dans la conservation des données.
C’est précisément ce qui inquiète Mohandas. Il craint que les archives visuelles de l’humanité soient exploitées d’une manière qu’il ne peut ni prévoir ni contrôler. « Google est une entreprise qui, selon moi, sera toujours là dans 20 ans », dit-il. Les photos prises de sa fille aujourd’hui révèlent qui elle est et ce qui la rend heureuse ou triste. « Ces informations pourraient être utilisées pour la manipuler dans des décennies par quiconque a accès à ces données : annonceurs, sites de rencontres, employeurs et industries qui n’existent pas encore mais qui bénéficieront de profils psychologiques », dit Mohandas. Il reconnaît qu’il peut paraître trop paranoïaque à certaines personnes, mais dit que « nous ne savons pas comment l’avenir va se dérouler, et cela ne fait pas de mal d’être prudent, et cela ne fait pas de mal d’avoir une option. »
Source: wired.com (auteur: Paresh Dave) -publication du 3/12/2024, traduite de l’anglais