Depuis quelques mois, des dirigeants de laboratoires d'IA évoquent publiquement, dans le débat sur l'IA risque, une probabilité de l'ordre de 10 % que l'intelligence artificielle conduise à la disparition de l'humanité. La formule fait le tour des médias, alimente les tribunes et brouille un débat déjà complexe.
Pendant ce temps, dans les PME et ETI de services, le sujet IA risque se joue à une tout autre échelle : celle des données confidentielles envoyées dans un outil grand public, des décisions biaisées, des compétences qui se délitent et d'une réglementation européenne qui devient pleinement applicable en 2026. Cet article fait la synthèse de ces deux niveaux de discussion, du risque existentiel au risque opérationnel, pour vous aider à trier ce qui relève du débat philosophique et ce qui exige une décision de direction.
IA risque – ce que les dirigeants doivent savoir en 2026
Temps de lecture : ~10 min
- Ce que dit vraiment le débat sur les 10 % de chance de disparaître
- Superintelligence, définir avant de craindre
- IA risque, la hiérarchie réelle des menaces pour une entreprise de services
- Ce que l'AI Act change pour vos projets
- Comment une PME peut réduire les risques liés à l'IA
- Le contrepoids, une intelligence collective qui reste humaine
- Aller plus loin avec l'IA risque en 2026
- FAQ
Ce que dit vraiment le débat sur les 10 % de chance de disparaître
Un indicateur subjectif, pas une statistique
Le chiffre circule sous le nom de p(doom), une estimation subjective que certains chercheurs et fondateurs de laboratoires donnent de la probabilité d'un scénario catastrophique lié à l'IA. Il ne s'agit pas du résultat d'un modèle statistique ni d'une étude validée par des pairs, mais d'un jugement d'expert exprimé sous forme numérique. C'est important à rappeler, car la précision apparente du pourcentage crée une illusion de mesure.
Les critiques de cette approche soulignent deux biais. D'abord, un intérêt économique, puisque dramatiser la puissance d'une technologie valorise ceux qui la construisent et justifie des barrières réglementaires favorables aux acteurs installés. Ensuite, un effet d'éviction, car le risque existentiel lointain capte l'attention politique au détriment des dommages déjà documentés, comme la désinformation générée par IA, les atteintes à la vie privée ou les erreurs de traitement automatisé de décisions.
Cela ne signifie pas que le débat soit vide. Les mêmes voix rappellent que la vitesse de progression des modèles dépasse celle des dispositifs de contrôle, que la course entre laboratoires réduit le temps consacré à la sécurité et que la dépendance technologique d'organisations entières à quelques fournisseurs constitue en soi une vulnérabilité systémique. La bonne posture pour un dirigeant n'est ni le déni ni la sidération, mais la hiérarchisation.
Superintelligence, définir avant de craindre
Clarifier ce que recouvre la superintelligence
Le mot superintelligence est au cœur de la controverse et il mérite une définition précise. On parle d'une intelligence artificielle qui surpasserait les meilleures capacités humaines dans pratiquement tous les domaines utiles, du raisonnement scientifique à la stratégie, à la persuasion et à la conception de nouvelles technologies. Il faut la distinguer de deux notions voisines. L'IA étroite, celle que nous utilisons tous les jours, excelle sur une tâche délimitée comme la traduction ou la classification de documents. L'intelligence artificielle générale désignerait un système capable d'égaler un humain compétent sur un très large éventail de tâches nouvelles, sans réentraînement spécifique.
Le scénario redouté n'est donc pas celui d'un logiciel qui se met en colère. Il repose sur trois hypothèses enchaînées : une amélioration récursive rapide des modèles, un désalignement entre les objectifs donnés et les comportements réellement optimisés, et la capacité d'un système d'IA autonome à agir dans le monde physique ou économique sans supervision humaine effective. Chacune de ces hypothèses est discutée et aucune n'est démontrée. Ce qui est en revanche parfaitement observable aujourd'hui, ce sont les hallucinations des modèles génératifs, les biais algorithmiques et la difficulté à auditer des systèmes dont la transparence algorithmique reste limitée.
Bon à savoir
Une hallucination n'est pas un bug ponctuel mais une conséquence du fonctionnement statistique des modèles de langage, qui produisent la suite de mots la plus probable et non la plus vraie. C'est pourquoi la vérification humaine reste une obligation de méthode, pas une précaution facultative.
IA risque, la hiérarchie réelle des menaces pour une entreprise de services
Pour une organisation de 50 à 500 collaborateurs, le sujet IA risque se décline en quatre familles très concrètes.
La première est la confidentialité des données. Les services d'IA générative tiers exposent les organisations à une perte de maîtrise sur les informations qu'elles y transmettent, comme l'a souligné le rapport de l'OPECST consacré à l'IA générative, qui pointe à la fois cette fuite potentielle et la fiabilité incertaine des contenus produits. Un compte rendu d'entretien annuel, un plan social en préparation ou une grille de rémunération collés dans un outil public deviennent des données hors de votre gouvernance, ce que rappelle notre synthèse sur la RGPD.
La deuxième famille concerne la cybersécurité. Le rapport de CCI France sur l'appropriation de l'IA par les PME identifie une vulnérabilité accrue face aux attaques exploitant les systèmes d'IA ou les données qu'ils traitent, ainsi qu'un manque d'expertise interne favorisant les mauvais usages. La cybercriminalité assistée par IA rend les tentatives d'hameçonnage plus crédibles et industrialise la fraude au président ; notre guide cybersécurité de l'ANSSI détaille les réflexes à adopter.
La troisième famille regroupe les biais et les erreurs, particulièrement sensibles dans les métiers de service où l'IA touche au tri de candidatures, au scoring de dossiers ou à l'évaluation de la performance. Les travaux du Labo Société Numérique montrent que les organisations publiques citent en tête les erreurs, les biais, le manque de transparence et le déficit de formation des agents.
La quatrième famille est sociale. Les Perspectives de l'emploi de l'OCDE indiquent que l'IA élargit l'éventail des emplois exposés à l'automatisation en atteignant désormais les tâches cognitives et fondées sur l'expertise, ce qui ouvre un risque de déqualification professionnelle et de perte de sens au travail.
Ce que l'AI Act change pour vos projets
Le règlement européen sur l'IA, texte 2024/1689, est entré en vigueur le 1er août 2024 et devient applicable pour l'essentiel à partir du 2 août 2026, avec quelques exceptions de calendrier. Il repose sur une approche par niveau de risque, ce qui permet à une direction de situer rapidement un projet et d'anticiper ses obligations de mise en conformité. Un système de recommandation de contenus internes et un outil de sélection de candidats ne relèvent pas du même régime.
| Niveau | Exemples d'usages en entreprise de services | Obligations principales |
|---|---|---|
| Risque minimal | Filtrage de courriels, correction de texte, moteur de recherche interne | Aucune obligation spécifique, bonnes pratiques recommandées |
| Risque limité | Agent conversationnel client, génération de contenus marketing | Transparence, information de l'utilisateur, marquage des contenus générés |
| Risque élevé | Tri de candidatures, évaluation de performance, décisions d'accès au crédit | Gouvernance des données, documentation technique, supervision humaine, gestion des incidents |
| Pratiques interdites | Notation sociale, reconnaissance des émotions au travail | Interdiction, aucune mise sur le marché ni usage possible |
Le règlement identifie neuf pratiques interdites, dont plusieurs concernent directement la sphère professionnelle. Voici celles qu'un employeur doit connaître avant tout projet.
- La notation sociale des personnes, ou scoring social, à partir de comportements ou de caractéristiques personnelles.
- La reconnaissance des émotions sur le lieu de travail et dans l'éducation, ce qui exclut les dispositifs prétendant mesurer l'humeur des équipes par la voix ou le visage.
- La catégorisation biométrique visant à déduire des caractéristiques protégées, ainsi que l'identification biométrique à distance en temps réel dans les lieux publics à des fins répressives.
- La manipulation préjudiciable fondée sur l'IA et l'exploitation des vulnérabilités de personnes.
À cela s'ajoute le socle du RGPD, qui continue de s'appliquer pleinement. Dès qu'un traitement automatisé présente un risque élevé pour les droits des personnes, une analyse d'impact relative à la protection des données, la DPIA, s'impose. La Commission européenne met à disposition un explorateur officiel du règlement, l'AI Act Explorer, qui permet de qualifier un cas d'usage article par article. Les rapports parlementaires français rappellent d'ailleurs que le principal risque juridique des entreprises n'est pas la nouveauté du texte, mais le déploiement d'outils sans évaluation d'impact ni documentation.
Comment une PME peut réduire les risques liés à l'IA
Organiser la gestion des risques IA au quotidien
La réduction du risque ne passe pas par l'interdiction généralisée, qui produit surtout un usage clandestin des outils. Elle passe par un cadre lisible et par la montée en compétence. Les enquêtes du Labo Société Numérique montrent qu'un quart des organisations citent le manque de compétences internes comme risque majeur et que 13 % redoutent un mauvais usage, notamment le partage de données sensibles et l'absence de vérification des contenus générés. Autrement dit, l'essentiel du risque est managérial avant d'être technologique.
Voici les leviers qui produisent le plus d'effet à budget contenu.
- Cartographier les usages réels, y compris les outils utilisés sans validation, puis classer chaque cas d'usage selon les niveaux de l'AI Act.
- Publier une charte courte précisant les données qui ne sortent jamais de l'organisation et les décisions qui restent systématiquement humaines.
- Former les managers à la relecture critique, à la détection des hallucinations et à la formulation des consignes, plutôt que de former uniquement aux fonctionnalités.
- Documenter chaque déploiement sensible, avec un responsable identifié, un audit de modèle IA périodique et un canal de signalement des incidents.
- Ouvrir le sujet au dialogue social, car l'automatisation cognitive touche l'organisation du travail et les parcours professionnels.
Important
La supervision humaine n'a de valeur que si elle est outillée et tracée. Un validateur qui approuve cent recommandations par jour sans critère explicite ne constitue pas un contrôle, il transfère simplement la responsabilité juridique.
Le contrepoids, une intelligence collective qui reste humaine
Face à ce paysage, la question la plus utile n'est pas de savoir si une superintelligence effacera l'humanité dans la décennie, mais de vérifier que vos décisions managériales continuent de reposer sur des données vérifiables et sur le jugement de personnes responsables. C'est le parti pris de notre plateforme.
Le modèle LeDIAG a été conçu à partir de l'intelligence collective d'une vingtaine d'experts français de haut niveau et s'appuie sur une base de plus de 4 500 diagnostics réalisés, ce qui le rend directement lisible dans la culture managériale française. Nous détaillons cette genèse du modèle LeDIAG sur notre page dédiée.
Évaluer ensemble le management et le fonctionnement du digital est précisément ce qui permet de détecter une dépendance technologique excessive, une surcharge cognitive liée aux outils ou un déficit de compétences avant que l'IA ne vienne amplifier le problème. Nos analyses sur IA et les managers et sur les faces sombres de ChatGPT vont dans le même sens. Une technologie ne corrige jamais une organisation floue, elle en accélère les effets.
Aller plus loin avec l'IA risque en 2026
Le débat sur les 10 % de chance de disparaître a une vertu, il rappelle que l'IA n'est pas un simple logiciel de productivité. Il a aussi un défaut, celui de détourner l'attention des risques immédiats et parfaitement traitables.
Pour une PME ou une ETI de services en 2026, la feuille de route est claire : qualifier ses cas d'usage au regard de l'AI Act, protéger ses données, garder l'humain au point de décision et investir dans les compétences. Le reste relève du débat public, auquel il est légitime de participer sans en faire le pilote de votre stratégie.
En résumé : IA risque et décisions de direction
L'IA risque ne se résume ni aux scénarios catastrophes de superintelligence, ni aux promesses d'automatisation sans pertes ni frictions. Pour une PME ou une ETI de services, l'enjeu des prochaines années est de traiter en priorité les risques concrets — données, biais, cybersécurité, impacts sociaux et conformité au RGPD et à l'AI Act — tout en gardant la capacité de participer au débat de société sur le long terme. En gardant l'humain au point de décision, en documentant les usages et en investissant dans les compétences, une direction peut tirer parti de l'IA tout en maîtrisant ses risques.
FAQ
Quelle est la différence entre un système d'IA à risque élevé et un système à risque limité ?
Le risque limité concerne surtout des obligations de transparence, informer l'utilisateur qu'il interagit avec une machine ou signaler un contenu généré. Le risque élevé implique un régime complet, avec gouvernance des données d'entraînement, documentation technique, traçabilité, supervision humaine et gestion des incidents, parce que le système intervient dans des domaines sensibles comme l'emploi, le crédit ou la sécurité.
L'IA doit-elle figurer dans le document unique d'évaluation des risques professionnels ?
Dès lors qu'un outil modifie la charge de travail, le rythme ou l'autonomie des salariés, ses effets relèvent de la prévention des risques psychosociaux et peuvent légitimement être documentés dans cette démarche. C'est aussi un point d'appui utile pour justifier un plan d'accompagnement auprès d'une direction générale.
Les modèles open source sont-ils plus risqués que les solutions propriétaires ?
L'Autorité de la concurrence relève que les modèles ouverts peuvent être réutilisés par des acteurs malveillants et posent des enjeux de contrôle des usages, tout en limitant les risques de dépendance à un fournisseur unique. Le choix se fait donc cas par cas, selon la sensibilité des données et vos capacités internes de sécurisation.
Qui est responsable en cas d'erreur d'un outil d'IA dans mon entreprise ?
La responsabilité de l'employeur reste engagée pour les décisions prises à partir d'une recommandation algorithmique. C'est la raison pour laquelle la désignation d'un référent, la conservation des traces de validation et la formation des utilisateurs constituent des protections concrètes, y compris sur le plan juridique.
Faut-il attendre une norme stabilisée avant de lancer un projet d'IA ?
Attendre présente un risque propre, celui de laisser s'installer des usages non encadrés et de perdre en compétence. Un périmètre restreint, mesuré et documenté vaut mieux qu'un moratoire théorique contourné dans les faits.