Microsoft a récemment ouvert la porte à un tout nouveau cadre pour encadrer ses intelligences artificielles. Ce projet de code de conduite, appelé « Humanist AI », vise à garantir que les IA restent sous contrôle humain strict. Une première mouture déjà soumise à consultation publique pour peaufiner ses règles.
Microsoft publie un code de conduite pour ses IA en 2026
Le 14 septembre, Microsoft a dévoilé un document destiné à encadrer clairement le développement et l’usage de ses modèles d’IA. Baptisé « Humanist AI », ce code place le contrôle humain en tête de ses priorités. L’entreprise veut que ses systèmes restent « subordonnés » aux humains, avec des objectifs et des limites précises.
Ce projet n’est pas figé : c’est une première version publiée pour recueillir avis et critiques. La consultation publique durera six semaines, ouvrant la voie à une version améliorée attendue d’ici la fin de l’année. L’application concrète des règles est prévue dès 2027.
Un contrôle humain impératif sur les systèmes d’intelligence artificielle
Microsoft insiste lourdement : l’autonomie des IA ne doit pas dépasser les capacités humaines de contrôle. En clair, chaque système doit pouvoir être interrompu ou corrigé à tout moment. Cette hiérarchie d’instructions garantit qu’aucun utilisateur ne contourne les règles mises en place.
Le principe est clair, pragmatique : une IA qui échappe au contrôle représente un risque majeur, surtout dans les secteurs sensibles. Les intervenants doivent garder la main sur le périmètre d’action des robots IA, pour prévenir les dérives et les erreurs.
Des limites claires sur les usages à risque des intelligences artificielles
Le Code de conduite couvre également les usages interdits ou fortement régulés. Microsoft refuse que ses modèles soient utilisés pour causer des dommages physiques, psychologiques ou sociaux. L’entreprise impose aussi le respect des lois et réglementations en vigueur.
Une attention particulière est portée aux domaines les plus sensibles : les armes, le crime, et en général tout ce qui pourrait heurter les droits fondamentaux. La protection des données privées reste au cœur du dispositif, en évitant toute fuite ou mauvaise manipulation d’informations confidentielles.
Les systèmes autonomes doivent intégrer des moyens de contrôle humains efficaces. Toute décision sensible ou irréversible doit pouvoir être surveillée, corrigée voire arrêtée. Cette prudence est la clé pour assurer la résilience et la fiabilité des IA dans des environnements critiques.
Vers une superintelligence « humaniste » mais maîtrisée
Microsoft ne mise pas sur un gel de la recherche ni sur une IA bridée. Au contraire, l’entreprise travaille à ce que ses modèles futurs soient puissants, capables de performances hors normes. Mais cette puissance devra s’accompagner d’un cadre strict, où l’autonomie est limitée.
Le défi ? Produire des modèles supérieurs aux capacités humaines dans plusieurs domaines tout en garantissant un contrôle humain permanent. Ce « paradoxe » guide la stratégie de Microsoft, très éloignée d’une IA globale, libre et incontrôlée.
La firme préfère des IA « calibrées », adaptées à des tâches précises, plutôt qu’une entité numérique sans frontière ni garde-fou. Cette orientation pragmatique répond au risque grandissant de systèmes hors de contrôle qui pourrait compromettre sécurité et confiance.
Un code en constitution pour mieux anticiper les risques
Pour l’instant, ce Code de conduite n’influence pas le développement actuel des modèles Microsoft. Il s’agit d’une proposition ouverte au dialogue entre chercheurs, experts juridiques, entreprises, pouvoirs publics et citoyens. Cette phase d’échanges est indispensable pour bâtir un cadre robuste et pertinent.
Microsoft affiche ainsi une posture consciente et responsable face aux enjeux complexes de l’IA. L’objectif est de déployer dès 2027 des modèles conformes aux principes édictés, avec des mécanismes réels de supervision humaine. Une étape majeure pour qui connaît l’importance de la résilience et du contrôle dans les systèmes critiques.
Source: www.lemondeinformatique.fr
Commentaires
Laisser un commentaire