Microsoft met en garde contre les risques liés aux intelligences artificielles clandestines

Les intelligences artificielles infiltrent silencieusement les entreprises sans contrôle. Microsoft tire la sonnette d’alarme en soulignant les dangers associés. La multiplication des IA clandestines menace la sécurité des systèmes d’information.

Les risques insoupçonnés des intelligences artificielles cachées en entreprise

Plus de 80 % des grandes entreprises du Fortune 500 utilisent aujourd’hui des assistants intelligents pour accélérer leurs processus. Pourtant, moins de la moitié d’entre elles ont établi des règles précises pour encadrer ces outils. Cette absence de cadre ouvre la porte aux failles de sécurité.

Le phénomène dit de “Schatten-KI” désigne l’usage non autorisé d’applications IA par les employés, souvent sans que les équipes IT ne soient informées. Ils déploient des chatbots et agents autonomes qu’ils récupèrent sur le net pour gagner du temps. Quand personne ne maîtrise l’environnement, cela devient dangereux.

Des IA clandestines qui compromettent la stabilité des infrastructures

Ces agents autonomes, sans supervision rigoureuse, peuvent rapidement devenir des vulnérabilités faibles. Ils obtiennent souvent des accès privilégiés non contrôlés. C’est comme laisser une porte ouverte au milieu d’un mur blindé !

Microsoft alerte : une rapide implantation de ces IA sans tests préalables fragilise les contrôles existants et démultiplie les risques de piratages. La cybersécurité, point crucial dans la résilience des réseaux, est mise à rude épreuve.

Les conséquences concrètes sur la sécurité et la conformité des entreprises

En Allemagne, les dégâts liés à ces manquements se chiffrent à plus de 200 milliards d’euros chaque année. Et la tendance ne faiblit pas. Pourtant, 29 % des salariés continuent d’utiliser clandestinement ces IA potentielles portes dérobées.

Cette situation génère des “zones d’ombre” dans la surveillance IT, rendant toute réaction rapide quasi impossible. Une architecture réseau, c’est comme un système vivant : il faut que tout soit sous contrôle pour assurer haute disponibilité et continuité d’activité.

La nécessité d’un contrôle strict et d’une gestion centralisée des IA en entreprise

Le rapport publié avant la Conférence de Munich sur la Sécurité insiste : il faut un registre central pour inventorier chaque assistant IA, qui y a accès, et quel est son usage. C’est la seule façon de contenir les agents non autorisés et d’isoler les menaces.

Il est également vital de limiter l’accès aux données aux seules informations indispensables à la tâche accomplie. Ne jamais donner plus de droits que nécessaire à ces IA, c’est la base pour éviter la compromission des données sensibles.

Une attaque signalée utilisant la technique dite du “Memory Poisoning”

Le phénomène n’est pas qu’hypothétique ! Récemment, Microsoft Defender a détecté une campagne malveillante exploitant une technique inquiétante : le “Memory Poisoning”. Ce procédé vise à manipuler durablement la mémoire des intelligences artificielles afin de fausser leurs réponses.

On touche là à un niveau de sophistication qui bouleverse les logiques traditionnelles de sécurisation. Un agent IA corrompu agit alors comme un faux collaborateur au sein du réseau, pouvant causer des dégâts invisibles mais lourds de conséquences.

Source: www.n-tv.de