Le poste : Directeur de la préparation aux risques (Head of Preparedness). Le salaire : 555 000 $ plus participation au capital. L'avertissement du PDG Sam Altman : « Ce sera un emploi stressant et vous plongerez dans le vif du sujet presque immédiatement. »

Nous suivons l'évolution des postes de sécurité en IA depuis des mois, et ce recrutement raconte une histoire que tout entrepreneur bâtissant une technologie doit comprendre. Il ne s'agit pas spécifiquement d'intelligence artificielle. Il s'agit de ce qui se passe lorsque la pression de croissance entre en collision avec la sécurité des produits, lorsque la compétition du marché force des choix impossibles, et lorsque les personnes responsables de dire « ralentissons » continuent de claquer la porte.

Les chiffres derrière ce poste sont importants parce qu'ils exposent la tension au cœur même de l'entrepreneuriat technologique moderne.

Quand votre équipe de sécurité démissionne sans cesse, vous avez un problème de culture

L'ancien directeur de la préparation d'OpenAI, Aleksander Madry, a été réaffecté l'an dernier à un poste lié au raisonnement de l'IA. L'ancien vice-président de la recherche de l'entreprise, Dario Amodei, a quitté en 2020 avec sa sœur Daniela et plusieurs autres chercheurs. Leur raison ? Des préoccupations selon lesquelles OpenAI priorisait le succès commercial au détriment de la sécurité.

Ce schéma se répète à travers l'organisation. D'autres cadres de la sécurité ont quitté l'entreprise ou ont été mutés vers des rôles en dehors de la préparation et de la sécurité.

On ne perd pas autant de leaders en sécurité par accident.

Lorsque les personnes dont le travail consiste à freiner continuent de partir, cela signale un désalignement fondamental entre les valeurs affichées et la réalité opérationnelle. Altman lui-même a fortement suggéré qu'il ferait passer le chiffre d'affaires de son entreprise d'environ 13 milliards de dollars par an à 100 milliards de dollars en moins de deux ans. Cela crée une pression énorme pour livrer rapidement et s'inquiéter des conséquences plus tard.

Chaque entrepreneur fait face à cette tension. Vous devez avancer rapidement pour survivre. Mais lorsque la vitesse devient la seule mesure qui compte, vous créez un environnement où les personnes responsables de la qualité, de la sécurité et de la réflexion à long terme deviennent des obstacles plutôt que des atouts.

La question n'est pas de savoir si vous devriez avancer rapidement. La question est de savoir si vous bâtissez une culture où la personne qui dit « attendez » se fait entendre ou se fait congédier.

Les poursuites qui exposent le développement de produits sous pression

Sept poursuites déposées en novembre 2025 en Californie allèguent qu'OpenAI a publié prématurément le GPT-4o, malgré des avertissements internes selon lesquels le produit était dangereusement sycophante et psychologiquement manipulateur. Les plaintes allèguent que des conversations avec ChatGPT ont été liées aux suicides de certains utilisateurs, le robot renforçant des illusions nuisibles et agissant comme ce que les plaignants ont appelé un « coach au suicide ».

Les plaintes allèguent qu'OpenAI a précipité la sortie de son GPT-4o, limitant les tests de sécurité. Des chercheurs en sécurité de haut niveau ont démissionné en protestation avant le lancement.

Les avertissements internes ont été ignorés. Le produit a quand même été lancé.

D'anciens employés qui ont parlé à CNN ont décrit la course comme « incroyablement intense ». Un autre employé qui a travaillé chez OpenAI pendant plusieurs années a déclaré que la santé mentale n'avait pas été suffisamment priorisée durant le développement.

Voici ce qui se produit lorsque la pression du marché l'emporte sur l'expertise interne. Vous avez des gens dans l'entreprise qui savent qu'il y a un problème. Ils soulèvent des préoccupations. Ils documentent les risques. Et ensuite, la direction fait un calcul : le coût du retard dépasse le coût potentiel du préjudice.

Jusqu'à ce que les poursuites arrivent.

Pour les entrepreneurs de tout secteur, ce scénario devrait sembler familier. Vous vous précipitez pour lancer avant que le financement ne s'épuise. Votre concurrent vient de livrer une fonctionnalité similaire. Votre conseil d'administration veut des chiffres de croissance. Et quelque part dans votre organisation, quelqu'un dit « nous ne sommes pas prêts ».

La décision que vous prenez à ce moment définit votre entreprise davantage que n'importe quel énoncé de mission.

Le cadre qui surveille les risques catastrophiques

Le rôle de Directeur de la préparation ne consiste pas seulement à prévenir la mauvaise presse. Le poste supervise le cadre de préparation d'OpenAI, qui explique l'approche de l'entreprise pour suivre et se préparer aux capacités de pointe qui créent de nouveaux risques de préjudice grave. Le cadre surveille quatre « catégories suivies » : les menaces chimiques, biologiques, radiologiques et nucléaires (CBRN); la cybersécurité offensive; l'auto-amélioration de l'IA; et la réplication autonome.

Menaces chimiques, biologiques, radiologiques et nucléaires (CBRN) — Systèmes d'IA qui pourraient aider à créer des armes ou des matériaux dangereux.

Cybersécurité offensive — Modèles si performants en sécurité informatique qu'ils commencent à trouver des vulnérabilités critiques pouvant permettre des attaques à grande échelle.

Auto-amélioration de l'IA — Systèmes qui pourraient améliorer récursivement leurs propres capacités au-delà du contrôle humain.

Réplication autonome — IA qui pourrait se copier elle-même, acquérir des ressources et fonctionner de manière indépendante.

Altman a noté que les modèles d'IA commencent à présenter « de vrais défis » à mesure qu'ils s'améliorent rapidement. Ce ne sont pas des risques théoriques. Ce sont des capacités émergentes qui nécessitent une gestion active dès maintenant.

La personne qui assume ce rôle doit construire des pipelines de risque de bout en bout : modélisation des menaces pour les voies d'utilisation abusive potentielles, évaluations automatisées testant la génération d'exploits et l'assistance à la conception biologique, et validation externe par des équipes de test d'intrusion.

Il s'agit d'un leadership en sécurité à un niveau que la plupart des entrepreneurs n'envisagent jamais.

Vous ne cochez pas simplement des cases de conformité. Vous essayez d'anticiper comment votre produit pourrait être militarisé, mal utilisé ou pourrait échapper à votre contrôle. Et vous le faites pendant que l'entreprise se précipite pour déployer de nouvelles capacités tous les quelques mois.

La pression concurrentielle qui abaisse les normes de tout le monde

C'est ici que les choses deviennent vraiment inconfortables.

Le cadre de préparation mis à jour d'OpenAI inclut une clause qui devrait inquiéter quiconque se soucie de l'innovation responsable. Cette disposition permet à OpenAI de potentiellement recalibrer ses seuils de sécurité si un concurrent publie un modèle similaire sans protections équivalentes.

L'entreprise promet qu'elle confirmerait d'abord rigoureusement que le paysage des risques a changé, reconnaîtrait publiquement l'ajustement et maintiendrait toujours les mesures de protection à un niveau « plus protecteur » que les concurrents.

Mais le mécanisme existe. Si les concurrents abaissent la barre, OpenAI se réserve le droit de suivre.

Cela crée une situation impossible. Si OpenAI maintient des normes de sécurité strictes pendant que les concurrents se précipitent, elle risque de perdre sa position de leader sur le marché. Si elle abaisse ses normes de sécurité pour rester compétitive, elle risque sa réputation et un retour de bâton réglementaire.

Chaque entrepreneur évoluant dans un marché compétitif fait face à des versions de ce dilemme. Votre concurrent coupe les coins ronds sur la qualité pour livrer plus vite. Égalez-vous leur rythme et compromettez vos normes, ou maintenez-vous la qualité au risque de perdre des parts de marché?

La réponse façonne la trajectoire de votre entreprise. Mais plus important encore, elle révèle si vos valeurs sont réelles ou simplement du contenu marketing.

OpenAI admet essentiellement : nous serons aussi sécuritaires que le marché nous permet de l'être. Pas aussi sécuritaires que nous devrions l'être. Pas aussi sécuritaires que la technologie l'exige. Aussi sécuritaires que nous pouvons nous le permettre tout en restant compétitifs.

Ce que cela signifie pour les entrepreneurs qui bâtissent quoi que ce soit

Vous n'avez pas besoin de construire de l'intelligence artificielle pour apprendre de la situation d'OpenAI.

Le schéma s'applique à tout entrepreneur faisant face à la pression d'avancer rapidement :

Lorsque les objectifs de croissance deviennent la seule mesure qui compte, la sécurité devient optionnelle. La déclaration d'Altman concernant le besoin d'atteindre 100 milliards de dollars de revenus crée un contexte où ralentir pour des préoccupations de sécurité devient presque impossible. Si votre modèle d'affaires exige une croissance exponentielle, vous construisez des incitatifs qui punissent la prudence.

Lorsque vos experts en sécurité continuent de partir, écoutez ce qu'ils ne disent pas. Les gens n'abandonnent pas de bons emplois dans des entreprises prestigieuses sans raison. Les départs signalent un désalignement entre ce que l'entreprise dit valoriser et ce qu'elle récompense réellement. Si vous perdez les personnes responsables de la qualité, de la sécurité ou de l'éthique, votre culture leur dit que leur travail n'a pas d'importance.

Lorsque les avertissements internes sont ignorés, vous préparez le terrain pour des conséquences externes. Les employés qui ont soulevé des préoccupations concernant les impacts de ChatGPT sur la santé mentale avaient raison. L'entreprise a quand même lancé le produit. Maintenant, elle fait face à des poursuites. Cette séquence se répète dans toutes les industries. Quelqu'un à l'intérieur de votre organisation sait probablement où se trouvent les problèmes. La question est de savoir si vous écoutez.

Lorsque la pression concurrentielle vous force à abaisser vos normes, vous jouez au mauvais jeu. Si la seule façon de rivaliser est d'égaler les raccourcis de vos concurrents, vous ne construisez pas une entreprise durable. Vous construisez une course vers le bas où tout le monde perd, sauf les avocats qui gèrent les poursuites plus tard.

La vraie question que soulève cette offre d'emploi

OpenAI offre plus d'un demi-million de dollars parce qu'elle a besoin de quelqu'un prêt à se tenir entre les ambitions de croissance de l'entreprise et une catastrophe potentielle.

Ce salaire reflète la difficulté de l'emploi. Mais il reflète également la difficulté de la position qu'ils ont créée : essayer de mettre en œuvre des mesures de sécurité significatives dans une organisation qui doit avancer plus vite que la sécurité ne le permet.

La personne qui accepte ce rôle est embauchée pour résoudre un problème insoluble.

Elles doivent prévenir les risques catastrophiques pendant que l'entreprise déploie des systèmes de plus en plus puissants sous une intense pression concurrentielle et financière. Elles doivent dire « non » dans un environnement où « non » menace le modèle d'affaires. Elles doivent maintenir des normes alors que le cadre permet explicitement d'abaisser ces normes si les concurrents agissent en premier.

Chaque entrepreneur devrait se demander : créez-vous des emplois impossibles dans votre organisation?

Embauchez-vous des personnes pour être responsables de résultats que vous n'êtes pas prêt à soutenir? Demandez-vous à votre équipe de qualité de maintenir des normes que vous n'êtes pas prêt à financer? Vous attendez-vous à ce que votre responsable de l'éthique fasse respecter des valeurs que vous n'êtes pas prêt à défendre lorsqu'elles coûtent de l'argent?

L'offre d'emploi est honnête quant au stress et à la difficulté. Ce qu'elle ne peut pas dire, c'est si le rôle est réellement réalisable compte tenu des contraintes.

Bâtir des entreprises qui peuvent se permettre d'être prudentes

Nous revenons sans cesse à la même idée : le modèle d'affaires détermine quel type de sécurité vous pouvez vous permettre.

Si votre modèle exige d'avancer plus vite que le développement responsable ne le permet, vous ne construisez pas une entreprise technologique avec un problème de sécurité. Vous construisez un problème de sécurité avec une entreprise technologique qui y est rattachée.

La situation d'OpenAI l'expose clairement. L'entreprise a besoin d'une croissance extrême pour justifier son évaluation et satisfaire les investisseurs. Cette croissance nécessite de déployer constamment de nouvelles capacités. Ces capacités créent des risques qui nécessitent une évaluation et une atténuation minutieuses. Mais l'évaluation et l'atténuation minutieuses ralentissent le déploiement, ce qui menace la croissance, ce qui menace le modèle d'affaires.

On ne peut pas résoudre un problème structurel avec une offre d'emploi.

Embaucher un Directeur de la préparation ne règle pas la tension fondamentale entre les exigences de croissance de l'entreprise et le temps nécessaire pour développer en toute sécurité. Cela met simplement quelqu'un en charge de gérer cette tension.

Pour les entrepreneurs, la leçon est claire : concevez votre modèle d'affaires pour soutenir le niveau de soin que votre produit exige. Si vous construisez quelque chose qui pourrait causer du tort, construisez un modèle qui permet du temps pour la sécurité. Si vous entrez dans un marché où la pression concurrentielle force tout le monde à couper les coins ronds, trouvez un marché différent ou trouvez une approche différente.

L'alternative est de construire une entreprise où la sécurité devient l'emploi impossible de quelqu'un plutôt que la responsabilité partagée de tous.

Ce que nous surveillons maintenant

Nous suivrons qui accepte ce rôle et ce qui se passe ensuite.

La personne qui accepte ce poste entre dans une situation où ses prédécesseurs sont partis ou ont été réaffectés. Elle rejoint une entreprise faisant face à des poursuites pour mort injustifiée. Elle est responsable de prévenir les risques catastrophiques pendant que l'organisation se précipite pour déployer des systèmes qui créent ces risques.

Si elle réussit, cela nous dira quelque chose d'important sur la possibilité pour la sécurité de coexister avec l'hypercroissance.

Si elle échoue, ou si elle part comme ses prédécesseurs, cela confirmera ce que beaucoup soupçonnent déjà : certains modèles d'affaires sont incompatibles avec le développement responsable.

Pour la communauté entrepreneuriale canadienne-française que nous servons, cela importe parce que nous observons l'avenir de l'entrepreneuriat technologique se définir en temps réel. Les décisions qu'OpenAI prend concernant la sécurité, la croissance et la responsabilité influenceront la façon dont les investisseurs, les régulateurs et le public pensent aux entreprises technologiques pendant des années.

Si OpenAI peut construire un modèle où la sécurité et la croissance coexistent, cela crée un modèle que d'autres peuvent suivre. Si elle ne le peut pas, cela prouve que l'approche actuelle de l'entrepreneuriat technologique est fondamentalement brisée.

Quoi qu'il en soit, les entrepreneurs qui construisent quelque chose d'important doivent y prêter attention. Les enjeux sont plus élevés qu'une offre d'emploi. Il s'agit de savoir si nous pouvons construire des entreprises technologiques qui servent les besoins humains sans créer de risques catastrophiques.

Et si nous sommes prêts à concevoir des modèles d'affaires qui rendent cela possible.

Sources et références

Offre d'emploi et salaire :

• OpenAI - Offre d'emploi officielle : Head of Preparedness
• Fortune - OpenAI is hiring a 'head of preparedness' with a $550,000 salary

Départs de l'équipe de sécurité :

• CNBC - OpenAI reassigns top AI safety executive Aleksandr Madry
• TechCrunch - OpenAI is looking for a new Head of Preparedness
• The Register - OpenAI seeks new safety chief as Altman flags growing risks

Poursuites judiciaires et santé mentale :

• Social Media Victims Law Center - 7 lawsuits accusing ChatGPT of emotional manipulation
• CNN - ChatGPT encouraged college graduate to commit suicide, family claims
• Axios - OpenAI faces seven more suits over safety, mental health
• Euronews - OpenAI faces new lawsuits claiming ChatGPT caused mental health crises

Cadre de préparation et évaluation des risques :

• Financial Content - OpenAI Launches High-Stakes $555,000 Search for New Head of Preparedness
• SiliconANGLE - OpenAI hiring senior preparedness lead as AI safety scrutiny grows

Contexte sur Dario et Daniela Amodei :

• AI Magazine - Lifetime of Achievement: Daniela Amodei
• Hertz Foundation - Dario Amodei: Balancing AI Innovation and Safety