26 Nov Altman, l’IAG et le capital humain
Comme le disent certains avec humour « nous avons sorti les pop-corns pour suivre le feuilleton des démêlés de Sam Altman avec OpenAI » le week end dernier. Pour résumé : vendredi 17 novembre, il est viré par son Conseil d’Administration. Samedi Microsoft (un des principaux actionnaires avec 49% du capital d’OpenAI) propose de l’embaucher. Et comme en début de semaine la grogne monte, 743 des 770 salariés menaçant de suivre Altman, il est finalement réintégré mercredi, 5 jours plus tard.
Comme j’ai un petit côté provocateur, je n’ai pas pu m’empêcher de demander à ChatGPT, le produit d’OpenAI, pourquoi Sam Altman avait été viré de OpenAi. Voici la copie d’écran de sa réponse. Elle rappelle au passage que l’IA, aussi puissante soit-elle, reste mal armée pour réagir en temps réel à une actualité complexe. Il lui faut plus d’un an pour prendre en compte un changement important de l’environnement. Heureusement que nos décideurs humains sont un peu plus réactifs !
Gouvernance et leadership
Une de mes premières réflexions porte sur l’aspect gouvernance. C’est un peu compliqué chez OpenAI car au début il n’y avait que du non lucratif, « nonprofit ». Mais quand Altman s’est rendu compte qu’il allait avoir besoin de grosses puissances de calcul il a été obligé d’aller chercher des actionnaires. L’entité devient alors une « société à but lucratif plafonné ». Une règle est imposée pour que les bénéfices dégagés pour les actionnaires ne dépassent pas 100 fois leur mise initiale. Ce qui est déjà plutôt pas mal.
Cela n’explique pas complètement comment 4 membres (sur 6) du Conseil d’Administration ont pu convoquer Altman un matin sans avertissement préalable et le congédier en coupant immédiatement ses accès au réseau de l’entreprise.
La réaction bloc de la quasi-totalité des salariés qui ont demandé sa réintégration est intéressante aussi à analyser et à comparer avec un autre cas. De notre côté de l’atlantique, en 2021, Emmanuel Faber s’est aussi fait brutalement remercier par le CA de Danone. Il avait pourtant tenté de continuer sur le chemin d’Antoine puis Franck Riboud en favorisant le déploiement des actions RSE de Danone sur plusieurs continents. Mais il manquait sans doute de leadership en interne car aucun cadre n’a levé le plus petit doigt pour tenter de sauver sa tête. Si l’on tente un parallèle avec OpenAI, nous aurions dû avoir une lettre signée par plusieurs milliers de cadres dirigeants de Danone appelant le CA à revenir sur sa décision.
Peut-être que l’attitude de Sam Altman est trop commerciale pour certains des administrateurs de OpenAI qui trouvent qu’il multiplie trop vite les innovations. Mais en tout cas il a su s’attacher la loyauté de ses collaborateurs bien autrement qu’Emmanuel Faber. Bon, la taille de l’entreprise y est sans doute pour quelque chose : ils doivent être 100 fois plus nombreux dans le groupe Danone. Mais reconnaissez qu’une lettre de défense signée par 96% des collaborateurs, cela a de la gueule !
Le capital humain
Souvent quand un Conseil d’Administration prend une décision aussi brutale, c’est à cause d’inquiétude sur la stratégie de l’entreprise, mais aussi son cours de bourse. Comme le montre ce graphique, le cours de bourse d’OpenAI a peu réagi à l’affaire Altman du 17 novembre : aucune baisse spectaculaire entre le 17 et le 22 novembre, date du retour du dirigeant fondateur.
Il est donc assez amusant de constater que si OpenAI travaille sur de l’intelligence artificielle, c’est bien le poids l’intelligence humaine qui a fait pencher la balance en faveur de son retour. Les membres du CA étaient probablement convaincus que la société pouvait progresser sans son dirigeant (et peut être même plus vite encore…). Mais impossible de la faire tourner sans ses salariés. Or, les grandes entreprises technologiques de la Silicon Valley se sont empressées de foncer sur ces experts humains. Microsoft s’engage à embaucher les déserteurs mais d’autres grands groupes comme Sales Force se dépêchent de faire des appels du pied aux salariés menaçant de quitter OpenAI.
Une démonstration intéressante donc de l’importance du capital humain. Ce ne sont pas les codes sources que les compétiteurs ont cherché à acheter mais bien les experts qui menaçaient de quitter le navire en masse si leur leader n’était pas de retour. Il est donc fort probable que ce capital humain menacé a fait pencher la balance du côté du retour de Altman. En tant que dirigeant de LEDIAG je me réjouis de cette constatation. Car l’outil de diagnostic interactif mis à votre disposition travaille bien sur cette notion de capital humain, en particulier via les 3 premières dimensions évaluées : ENERGIE, TALENTS et CONFIANCE.
L’avenir de l’humanité
Autour de cet épisode un peu rocambolesque se trouve une question fondamentale : l’IA est-elle dangereuse pour l’avenir de l’espèce humaine. A travers le monde, de nombreux chercheurs se sont déjà alarmés ces derniers mois. Certains demandant une trêve dans les développements de l’IA pour se laisser le temps de la réflexion. Alors que Yann Le Cun et Sam Altman font plutôt parti des « rassuristes » évaluant les risques comme étant raisonnables, d’autres comme Elon Musk sont plus alarmistes. Ce dernier faisait partie des membres fondateurs d’OpenAI dont il a claqué la porte en 2018. Mais lancer l’alarme ne l’empêche de créer sa propre structure X.AI pour travailler sur ces mêmes sujets,
Malgré ces dangers potentiels, toutes les organisations travaillant sur l’IA restent obsédées par l’AGI ou en français IAG pour Intelligence Artificielle Généralisée. Le but est de faire en sorte que l’IA puisse résoudre des problèmes mathématiques complexes. Le logiciel deviendrait alors capable d’apprendre et de raisonner comme les êtres humains. Et, tout comme eux, il pourrait créer des armes nucléaires ou bactériologiques. Cela est évidemment inquiétant, même si certains dirigeants nous ont déjà montré qu’ils n’avaient pas besoin d’intelligence artificielle pour concevoir des armes capables de rayer l’espèce humaine de la planète. Le cinéma et la science fiction mettent en scène des exemples de tels systèmes avancés : le J.A.R.V.I.S de Tony Stark dans le film Iron Man, le Batcomputer que l’on retrouve dans les films de Batman ou bien entendu Hall9000 de 2001 l’odyssée de l’espace qui supprime sans hésiter les êtres humains qui le menacent.
Chez OpenAI, cette quête de l’IAG a pris le nom de projet Q* (lire Q star). Et une des raisons ayant poussé le CA a viré Sam Altman serait une lettre de plusieurs chercheurs travaillant pour OpenAI visant à alerter les administrateurs sur les risques encourus par un tel projet. D’après un article du journal Le Monde, des travaux sont en cours sur deux concepts : A-bit pour l’optimisation de l’utilité, et B-bit pour l’alignement avec les valeurs humaines. Ilya Sutskever, chef de la section scientifique chez OpenAI, était mécontent des progrès insuffisants sur le modèle B-bit. Faisant partie du CA il a sans doute participé à cristalliser cette décision contre Altman.
Il me semble assez rassurant de voir les chercheurs en matière d’IA se pencher sur l’alignement avec les valeurs humaines. Sam Altman va-t-il maintenant rester longtemps aux commandes d’OpenAI ? Donnera-t-il l’importance qu’ils méritent aux travaux de B-bit ? Sera-t-il plus transparent sur les chemins vers lesquels il veut emmener OpenAI ? Le feuilleton n’est peut-être pas totalement terminé. On peut certes reprocher à Sam Altman de ne pas être assez transparent sur sa stratégie. Mais, les milliers de diagnostics déjà enregistrés par LEDIAG montrent que cette capacité à impliquer les salariés dans la stratégie de l’entité dépend fortement de sa taille.
C’est sans doute différent dans votre organisation. Même si vous ne travaillez pas sur des sujets aussi stratégiques que Q*, n’hésitez pas à prendre 5′ pour réaliser votre propre autodiagnostic et découvrir votre profil sur les 5 dimensions clés.
.
Aucun commentaire