Microsoft admet que les agents IA peuvent avoir des hallucinations et être victimes d'attaques mais continuera à inonder Windows 11 d'agents IA même si vous n'en voulez pas

Microsoft admet que les agents IA peuvent avoir des hallucinations et être victimes d'attaques
Mais continuera à inonder Windows 11 d’agents IA même si vous n’en voulez pas

Depuis quelques semaines, Microsoft lie le futur de Windows aux agents d’intelligence artificielle. L’entreprise vient entre autres de lancer la fonctionnalité expérimentale dénommée « Espace de travail d'agent. » La documentation de l'entreprise elle-même souligne néanmoins que ces agents peuvent avoir des hallucinations, agir de manière imprévisible et même succomber à des attaques qui n'existaient pas il y a un an. Pourtant, le géant technologique continue de promouvoir les fonctionnalités des agents dans Windows 11.

« L'IA dispose aujourd'hui de capacités puissantes : elle peut par exemple accomplir de nombreuses tâches complexes en réponse aux demandes des utilisateurs, transformant ainsi la manière dont ceux-ci interagissent avec leur PC. Malgré l'introduction de ces capacités, les modèles d'IA restent confrontés à des limitations fonctionnelles en termes de comportement et peuvent parfois halluciner et donc produire des résultats inattendus. De plus, les agents d’intelligence artificielle introduisent de nouveaux risques de sécurité, tels que l’attaque par injection de prompts croisés (XPIA), où des contenus malveillants intégrés dans des éléments de l'interface utilisateur ou des documents peuvent passer outre les instructions de l'agent, entraînant des actions involontaires telles que l'exfiltration de données ou l'installation de logiciels malveillants », indique Microsoft.

This is Microsoft's new agentic Copilot feature for Windows 11 in action. It will take your task and complete it in a separate desktop environment, and you can watch it while it works or minimize and get on with your own task. pic.twitter.com/s1qaXaTVUS

— Zac Bowden (@zacbowden) October 16, 2025

La fonctionnalité Espace de travail d’agent apparaît comme une redite de Microsoft Recall : C’est de l’intelligence artificielle à l’œuvre dans les deux cas et les risques de sécurité sont similaires

Imaginez en tant qu’utilisateur de Windows 11 que tout ce que vous avez fait au cours des trois derniers mois soit enregistré. C’est le genre de possibilités qu’offre la fonctionnalité Microsoft Recall qui enregistre et maintient une chronologie des activités informatiques de l’utilisateur du système d’exploitation et lui permet de localiser instantanément le contenu sur lequel il a travaillé. Microsoft Recall effectue des captures d’écran à une certaine fréquence et les stocke sur l’appareil. C’est en cela que des chercheurs en sécurité y ont vu un œil sur la vie privée des utilisateurs et un potentiel logiciel voleur de données.

En effet, Microsoft Recall exposait les utilisateurs de Windows 11 à une série de risques avant que Microsoft ne procède à des améliorations :

• Vous utilisez un ordinateur public : disons que vous faites des achats ou des opérations bancaires en ligne sur un ordinateur de la bibliothèque. Vous n'avez pas réalisé que Recall était actif. Cela permettrait à la personne qui utilise l'ordinateur après vous vient d'aller dans les archives de Recall pour récupérer toutes vos coordonnées bancaires, votre adresse et vos mots de passe. C'est comme remettre les clés de votre maison à un cambrioleur avant de lui dire que vous partez en vacances pour la semaine.
• Vous utilisez un ordinateur portable professionnel : Votre patron, votre équipe informatique et toute personne ayant accès à votre appareil pourront voir quel usage vous faites de l’appareil. Ils peuvent s'en servir pour suivre votre rendement au travail et même lire les messages privés que vous envoyez à d'autres personnes.
• Vous utilisez un PC familial : si vous utilisez l'ordinateur familial et que vous n'avez pas de profil protégé par un mot de passe, n'importe qui peut entrer et ouvrir votre historique de rappel. Si vous avez fait quelque chose de peu recommandable, cela va se voir, même si vous avez supprimé l'historique de vos recherches
• Vous êtes victime d'un piratage ou votre ordinateur portable est volé : si quelqu'un vole votre ordinateur portable et que vous ne disposez pas d'un mot de passe fort pour le verrouiller, un cybercriminel peut utiliser Microsoft Recall pour entrer en possession de vos données et informations personnelles.

L’agent workspace pour sa part est mis en œuvre ainsi :

• Il existe un nouveau réglage (« Experimental agentic features ») que l’utilisateur doit activer. Sans ce réglage, les agents ne peuvent pas opérer : « L'espace de travail de l'agent n'est activé que lorsque vous activez le paramètre expérimental de la fonctionnalité agentique. Cette fonctionnalité est désactivée par défaut. Nous vous recommandons de n'activer cette fonctionnalité que si vous comprenez les implications en matière de sécurité décrites sur cette page. Ce paramètre ne peut être activé que par un utilisateur administrateur de l'appareil et, une fois activé, il est valable pour tous les utilisateurs de l'appareil, y compris les autres administrateurs et les utilisateurs standard ».
• Chaque agent fonctionne sous son propre compte utilisateur (distinct de votre compte principal), ce qui permet de cloisonner ses actions, d’autoriser ou restreindre ses droits, et de séparer ses logs et activités.
• Les agents peuvent se voir accorder l’accès à certains dossiers connus de l’utilisateur (Documents, Téléchargements, Bureau, Images, Musique, Vidéos) pour pouvoir agir sur vos fichiers.
• L’agent workspace fonctionne dans une session Windows séparée, permettant une exécution parallèle à votre propre session, mais de façon plus légère qu’une machine virtuelle traditionnelle.

Your PC is Watching: Windows Recall & AI Spying EXPOSED
Watch the video on YouTube: https://t.co/EmTL5zbt0Q pic.twitter.com/Hx5QgHebmU

— David Bombal (@davidbombal) November 30, 2025

Le géant technologique insiste pourtant pour servir ces fonctionnalités aux utilisateurs de Windows 11

Lees utilisateurs de Windows 11 ne sont pas libres de désinstaller des fonctionnalités pour lesquelles une série d’audits indépendants leur ont donné toutes les raisons de douter. C’est ce qui ressort d’une annonce de microsoft selon laquelle la désactivation de Recall n’est pas à l’ordre du jour chez Microsoft. En d’autres termes, les utilisateurs de Windows 11 vont devoir en consommer même s’ils n’en veulent pas. C’est l’une des raisons pour lesquelles des observateurs comme la Free Software Foundation estiment que Windows 11 prive les utilisateurs de leur autonomie numérique. On tient donc là une possible explication de l’augmentation des parts de marché de Linux telles que signalées par des éditeurs comme ZorinOS.

Source : Microsoft

Et vous ?

Dans quelle mesure seriez-vous prêts à accepter qu’un système d’exploitation exécute des tâches de manière autonome dans nos fichiers et nos applications ? Jusqu’où doit aller l’autonomie d’un agent pour rester utile sans devenir intrusif ?

Peut-on faire confiance à un agent qui dispose d’un accès potentiellement large à nos dossiers les plus sensibles ? Microsoft arrivera-t-il à convaincre les professionnels que les mécanismes de confinement et les comptes agents séparés suffisent à garantir la confidentialité ? Et si une faille apparaît, qui en portera la responsabilité : l’OS, l’utilisateur ou l’agent lui-même ?

Comment les équipes de sécurité devront-elles s’adapter à ce nouvel espace d’exécution qui tourne en permanence en arrière-plan ? Faut-il considérer l’agent workspace comme un nouveau vecteur d’attaque possible ?

Ces agents vont-ils réellement stimuler la productivité ou risquent-ils plutôt de créer une dépendance où l’utilisateur perd peu à peu sa maîtrise opérationnelle ? À quel moment l’assistance devient-elle une béquille qui affaiblit les compétences ?

Voir aussi :

Protéger votre vie privée : comment désactiver complètement ou temporairement la fonctionnalité "Recall" dans Windows 11, qui s'appuie sur un modèle d'IA pour vous permettre de retrouver toutes vos activités

La scientifique en chef de Microsoft Research rejette les préoccupations selon lesquelles la fonction d'IA Windows Recall est un cauchemar pour la vie privée et une mine d'or pour les pirates informatiques

Un développeur prouve que la fonctionnalité d'IA Windows Recall n'a pas besoin d'un PC Copilot+ équipé d'un matériel NPU pour fonctionner, malgré les recommandations systèmes de Microsoft