Un Recall 2.0 ? Microsoft prépare une fonctionnalité d'IA qui scanne et analyse tous vos fichiers multimédias, mais à quel prix pour la confidentialité ?

Encore une fonction d'IA qui fouille votre PC

Malgré les retours négatifs suscités par les problèmes de sécurité posés par sa fonctionnalité IA Recall, l'entreprise semble vouloir en remettre une couche avec « Intelligent media search ». Déjà baptisée « Recall 2 », la fonctionnalité qui promet de scanner et d’analyser tout le contenu de votre PC suscite la controverse alors qu'elle n'a même pas encore été annoncée officiellement par Microsoft. Intégrée dans Windows 11 Canary Build 27695, elle analyse tous les fichiers multimédias du système (y compris les fichiers texte, image, audio et vidéo) et les récupère à la demande.

Microsoft a annoncé la fonction Recall lors de l'événement Build en mai. Recall est une fonction basée sur l'IA pour les PC Copilot+. Elle suit toutes les activités d'un PC Windows afin de faciliter les recherches ultérieures en utilisant le langage nature. Pour ce faire, Recall est censée capturer les données de toutes les applications, sauf si vous en excluez une, en prenant une série de captures d'écran et en stockant ces interactions dans une base de données. La fonction Recall s'exécute localement. Elle peut fonctionner sans connexion Internet et même lorsque vous n'êtes pas connecté à votre compte Microsoft.

Mais Recall est décriée par les experts en sécurité. Si quelqu'un d'autre que vous accède aux données collectées par Recall, les conséquences pourraient être désastreuses. Cela peut vous sembler familier, Recall est remarquablement similaire à la fonctionnalité Timeline de Windows 10, qui a échoué et a été mise de côté. Mais contrairement à Timeline, Recall ne se contente pas de restaurer une version de vos fichiers de bureau, il utilise l'IA pour vous ramener à ce moment, en ouvrant même les applications pertinentes. Un pirate qui parvient à trouver et exploiter une faille dans Recall pourrait causer des dégâts énormes.


Microsoft Recall pour Windows 11 serait un risque pour la sécurité, d'après des chercheurs...

Imaginez en tant qu’utilisateur de Windows 11 que tout ce que vous avez fait au cours des trois derniers mois soit enregistré. C’est le genre de possibilités qu’offre la fonctionnalité Microsoft Recall qui enregistre et maintient une chronologie des activités informatiques de l’utilisateur du système d’exploitation et lui permet de localiser instantanément le contenu sur lequel il a travaillé.

« Pour ceux qui ne le savent pas, Microsoft a décidé d'intégrer un voleur de données dans le système d'exploitation Windows de base et de l'activer par défaut », a commenté le chercheur en sécurité Kevin Beaumont.


Quels sont les risques potentiels auxquels Microsoft Recall expose les utilisateurs de Windows 11 ?

• Vous utilisez un ordinateur public : disons que vous faites des achats ou des opérations bancaires en ligne sur un ordinateur de la bibliothèque. Vous n'avez pas réalisé que Recall était actif. Cela permettrait à la personne qui utilise l'ordinateur après vous vient d'aller dans les archives de Recall pour récupérer toutes vos coordonnées bancaires, votre adresse et vos mots de passe. C'est comme remettre les clés de votre maison à un cambrioleur avant de lui dire que vous partez en vacances pour la semaine.
• Vous utilisez un ordinateur portable professionnel : Votre patron, votre équipe informatique et toute personne ayant accès à votre appareil pourront voir quel usage vous faites de l’appareil. Ils peuvent s'en servir pour suivre votre rendement au travail et même lire les messages privés que vous envoyez à d'autres personnes.
• Vous utilisez un PC familial : si vous utilisez l'ordinateur familial et que vous n'avez pas de profil protégé par un mot de passe, n'importe qui peut entrer et ouvrir votre historique de rappel. Si vous avez fait quelque chose de peu recommandable, cela va se voir, même si vous avez supprimé l'historique de vos recherches
• Vous êtes victime d'un piratage ou votre ordinateur portable est volé : si quelqu'un vole votre ordinateur portable et que vous ne disposez pas d'un mot de passe fort pour le verrouiller, un cybercriminel peut utiliser Microsoft Recall pour entrer en possession de vos données et informations personnelles.

Pourquoi ces risques sont-ils de l’ordre du plausible ?

Parce que Microsoft souligne dans la Foire Aux Questions relative à cette fonctionnalité que « Recall n'effectue pas de modération de contenu. Il ne cache pas les informations telles que les mots de passe ou les numéros de comptes financiers. Ces données peuvent se trouver dans des instantanés stockés sur votre appareil, en particulier lorsque les sites ne respectent pas les protocoles Internet standard tels que la dissimulation de la saisie du mot de passe. »

En d’autres termes, Microsoft Recall est un outil qui stocke vos mots de passe, vos informations, les détails de votre compte, etc. et qui est visible par tous les utilisateurs de votre profil. Si vous n'avez qu'un seul profil pour votre appareil, cela signifie que toutes les personnes ayant accès à ce PC pourront voir vos données Recall.


...Et pourtant, Microsoft se prépare à lancer un Recall 2.0

Les commentaires négatifs qui se sont abattus sur Windows Recall n'ont apparemment pas atteint Microsoft, car une autre fonction d'intelligence artificielle est apparue dans Windows 11, qui fait en grande partie la même chose.

Un utilisateur de X/Twitter a découvert une fonctionnalité appelée « Intelligent Media Search » dans Windows 11 Canary Build 27695 qui analyse tous les fichiers multimédias du système (y compris le texte, l'image, l'audio et la vidéo) et les récupère à la demande.

Il n'est pas encore clair s'il s'agit d'une fonctionnalité indépendante ou d'une extension de Recall lui-même, mais la communauté Windows n'approuvera probablement pas l'une ou l'autre solution. Même si cette fonctionnalité est censée faciliter la vie quotidienne et le travail, elle suscite des inquiétudes légitimes en matière de sécurité, de confidentialité et de performances.

These changes may already exist in other branches but in 27695...

"Intelligent media search" references have been added
Intelligent media search available
Search by spoken words in your indexed video or audio files. By clicking 'I agree,' you consent to scanning the media files…

— Xeno (@XenoPanther) August 30, 2024

Pourquoi cette fonction d'intelligence artificielle est-elle inquiétante ?

La recherche intelligente de médias semble être un moyen rapide et facile de trouver le contenu que vous recherchez sur votre système, qu'il s'agisse de photos de vacances ou de documents de travail importants.

Avec Recall, le processus de récupération fonctionne via des captures d'écran intermittentes qui enregistrent tout ce que vous faites, que Windows 11 analyse et stocke afin que vous puissiez immédiatement « rappeler » tout ce que vous avez fait dans le passé. Nous ne savons pas comment fonctionne Intelligent Media Search, et Microsoft n'a encore rien annoncé officiellement au sujet de cette fonction de recherche alimentée par l'IA.

Toutefois, les premières inquiétudes concernant la protection des données et la sécurité se font déjà jour. La capacité de cette fonctionnalité à enregistrer et analyser chaque action sur un PC pourrait être exploitée à des fins malveillantes, mettant en danger la vie privée des utilisateurs. Ainsi, s'il est vrai que les informations sont chiffrées et stockées uniquement sur l'appareil de l'utilisateur, que se passerait-il si quelqu'un y accédait par le biais d'un accès physique ou d'un piratage à distance ? Cela pourrait rendre les informations sensibles rapidement accessibles aux attaquants, qui pourraient chercher, obtenir ce dont ils ont besoin et s'enfuir au plus vite.

Cette situation est particulièrement problématique dans l'Union européenne, où l'utilisation et la mise en œuvre de ces fonctionnalités sont soumises à des réglementations spécifiques. Microsoft a même dû reporter le lancement de Recall en raison de ces problèmes.


Les défis techniques ne doivent pas non plus être sous-estimés

Avec Recall, les gens s'inquiètent de la quantité d'espace de stockage nécessaire pour conserver toutes les captures d'écran créées. En ce qui concerne la recherche intelligente de médias, quelle sera l'incidence sur les performances de l'analyse constante des contenus multimédias sur votre ordinateur et vos lecteurs ?

La prochaine génération de PC Copilot+ devrait être capable de gérer des fonctions d'IA comme celle-ci avec facilité, mais il faudra attendre un certain temps avant qu'ils ne soient suffisamment abordables pour les utilisateurs quotidiens et qu'ils ne deviennent des appareils grand public. L'IA étant encore un peu un gadget, son adoption sera lente et progressive.

Il ne sera probablement pas possible de le désinstaller

Récemment, les testeurs ont repris espoir lorsqu'une version préliminaire de Windows a permis de désinstaller Recall. Cependant, Microsoft a rapidement précisé qu'il s'agissait d'un bogue qui serait supprimé. Bien que Microsoft permette de désactiver Recall manuellement, il est évident que l'entreprise n'a pas l'intention de le rendre définitivement amovible. Nous nous attendons à une attitude similaire à l'égard de la recherche intelligente de médias (et, probablement, de toutes les fonctionnalités basées sur l'IA).

Conclusion

Pour que Recall 2.0 soit largement accepté, Microsoft devra non seulement répondre aux préoccupations de confidentialité et de sécurité, mais aussi démontrer que cette fonctionnalité peut être utilisée de manière à protéger les données des utilisateurs. Cela pourrait inclure des options de personnalisation permettant aux utilisateurs de contrôler ce qui est scanné et comment les données sont utilisées. De plus, des collaborations avec des régulateurs et des experts en sécurité pourraient aider à établir des normes et des meilleures pratiques pour l’utilisation de l’IA dans la gestion des fichiers.

En attendant, les entreprises et les particuliers doivent être conscients des risques potentiels et prendre des mesures pour protéger leurs informations sensibles. Les régulateurs devront également examiner de près cette technologie pour s’assurer qu’elle respecte les normes de protection des données et ne viole pas les droits des utilisateurs.

Source : Windows 11 Canary Build 27695

Et vous ?

Quels sont, selon vous, les principaux avantages et inconvénients de l’intégration de l’IA dans la gestion des fichiers personnels ?
Comment pensez-vous que les entreprises devraient équilibrer l’innovation technologique et la protection de la vie privée des utilisateurs ?
Quelles mesures de sécurité supplémentaires aimeriez-vous voir mises en place pour des fonctionnalités comme Recall 2.0 ?
Pensez-vous que les régulateurs devraient imposer des restrictions plus strictes sur l’utilisation de l’IA pour le traitement des données personnelles ? Pourquoi ou pourquoi pas ?
Comment percevez-vous l’impact potentiel de Recall 2.0 sur les performances des ordinateurs plus anciens ?
Seriez-vous prêt à sacrifier une partie de votre vie privée pour bénéficier des avantages de fonctionnalités avancées comme Recall 2.0 ?