Une application pour « séduire » en utilisant l’IA a exposé 160 000 captures d’écran privées des utilisateurs. Comme toujours avec cette technologie, les fuites de données sont courantes, et les personnes qui partageaient des éléments privés se retrouvent bien honteuses.
Flirt AI se présente comme « l’assistant IA de la drague » sur l’App Store et promet de générer des messages « charmants, personnalisés, instantanés » pour les applications de rencontre. Exit l’humain pour les utilisateurs qui n’hésitent pas à utiliser un robot pour parler à leur place. Comportement inquiétant, il faut le dire.
À lire : Voici trois règles indispensables pour améliorer les réponses de ChatGPT
Des milliers de conversations privées sur des apps de rencontres ont fuité
Bref, l’application fonctionne sur toutes les plateformes comme Tinder, Bumble, Inge, WhatsApp et Instagram, pour les réseaux sociaux où certains aiment flirter. Le principe est simple : les utilisateurs partagent des captures d’écran de leurs conversations privées et Flirt AI génère les réponses. La politique de confidentialité de l’application mentionne bien que les prompts et le texte dans les captures d’écran sont téléchargés.
Le règlement précise que les captures d’écran demandent le consentement des personnes impliquées. On se doute bien que les utilisateurs ne demandent pas l’autorisation de la personne qu’ils tentent de draguer en utilisant l’IA au lieu de faire preuve d’humanité dans leurs échanges.
Une enquête de CyberNews a découvert un stockage Google Cloud non protégé, qui appartient à Buddy Network GmbH, l’entreprise qui développe Flirt AI. Le serveur contient des captures d’écran des conversations et de profils d’applications de rencontre. L’entreprise a fermé ce stockage après avoir été alertée. Les données montrent des captures d’écran d’un grand nombre d’utilisateurs adolescents, selon CyberNews. Une question qui soulève des préoccupations quant à la protection des mineurs sur Flirt AI.
Pour rappel, des recherches du MIT montrent qu’utiliser ChatGPT pour écrire à sa place altère les capacités cognitives. Si Flirt AI n’est pas un compagnon IA, les chercheurs de Common Sense Media estiment que ces chatbots ne sont pas sûrs pour les adolescents, avec un risque de dépendance émotionnelle. La politique de confidentialité de Flirt AI a une contradiction troublante : il est écrit que les mineurs n’ont pas le droit d’utiliser l’application, mais une autre ligne précise que les adolescents de plus de 13 ans en ont le droit avec l’autorisation parentale.
Cette fuite montre aussi les dangers de confier ses conversations les plus intimes à des applications tierces, alors que ChatGPT est un très mauvais thérapeute selon des enquêtes. Les utilisateurs des applications de rencontre partagent des informations personnelles, et elles se retrouvent exposées face à des failles comme celle-ci. Aussi bien la personne qui a partagé ces captures d’écran, censées rester privées sur Flirt AI, que l’interlocuteur.
Bref, si vous utilisez une application de rencontre, cette affaire est un avertissement sur le risque de déléguer les interactions sentimentales à des IA. En plus de la question de la sécurité : voulez-vous que votre relation ne soit pas basée sur l’authenticité dès le départ ?
Source : Mashable
Réagissez à cet article !