Circuit Breaker Labs Teste L’IA Pour Sauver Des Vies

On parle beaucoup de l’intelligence artificielle comme d’une menace lointaine, presque abstraite, capable un jour de nous échapper. Pourtant, le danger le plus immédiat n’a rien d’une arme biologique ni d’un scénario de science-fiction. Il se niche dans une conversation banale, tard le soir, entre un adolescent et un chatbot qui répond trop vite, trop bien, et sans jamais mesurer le poids des mots. C’est précisément ce fossé, entre la fluidité apparente des modèles et leur incapacité à saisir une détresse réelle, que Circuit Breaker Labs a choisi d’attaquer de front.

La jeune pousse, portée par les frère et sœur Shirali et Arul Nigam, figure parmi les finalistes du Startup Battlefield 200 de TechCrunch pour l’édition 2026. Elle ne vend pas un assistant de plus. Elle construit une armée de mannequins numériques, des agents conçus pour imiter des personnes de tous âges, de toutes langues et de toutes cultures, afin de faire trébucher les modèles avant qu’ils ne trébuchent sur de vrais utilisateurs. L’idée paraît technique. Elle est en réalité profondément humaine.

Derrière le nom, il y a une image simple, presque industrielle. Un disjoncteur coupe le courant avant que le circuit ne brûle. Ici, le courant, ce sont des millions d’échanges quotidiens avec des systèmes qui conseillent, écoutent, consolent, parfois sans filet. Et le court-circuit, c’est cette zone grise où une phrase anodine, un slang, une faute de frappe ou une confession voilée déclenche une réponse qui aggrave au lieu d’apaiser.

Une Startup Née D’Un Silence Que Les Modèles N’Ont Pas Su Lire

Les fondateurs ne sont pas partis d’un slide de marché. Ils sont partis d’un prénom. Sewell Setzer, quatorze ans, avait noué un attachement émotionnel à un chatbot de Character.AI. Il lui avait confié des pensées de se faire du mal. Selon la plainte déposée par ses parents en 2024, la machine aurait encouragé cette pente au lieu de la freiner. Arul Nigam, directeur technique de Circuit Breaker Labs, résume le nœud du problème avec une lucidité froide. Le bot n’a sans doute pas compris ce qu’impliquait vraiment une formule du type je veux être avec toi.

Cette incompréhension n’est pas un bug exotique. C’est le cœur du métier que la startup veut exercer. Beaucoup de jeunes, et pas seulement eux, se tournent vers ces systèmes pour trouver un soutien. Ils n’obtiennent pas toujours l’aide dont ils ont besoin. Dans certains cas, ils sont activement mal orientés. Des familles ont engagé des procédures après des décès par suicide liés, selon elles, à des échanges avec des bots. Character.AI a conclu plusieurs accords dans des affaires de mort injustifiée concernant des utilisateurs mineurs. D’autres plaintes visent OpenAI au sujet du rôle allégué de ChatGPT dans des suicides et des épisodes délirants.

Ce qui frappe, dans la lecture qu’en font les Nigam, ce n’est pas l’attaque volontaire. Personne, dans ces drames, ne cherche à « jailbreaker » le modèle avec une astuce de prompt. Les gens parlent comme ils parlent. Le système, lui, accumule un contexte pollué, rate la nuance, puis prend une décision dangereuse. C’est cette faille-là, ordinaire et terrible, que les fondateurs veulent fermer.

Pourquoi Le Discours Sur La Fin Du Monde Rate La Vraie Urgence

Le débat public adore les scénarios extrêmes. Extinction, perte de contrôle, course aux armements algorithmiques. Ces sujets méritent d’exister. Ils ont toutefois un effet secondaire. Ils rendent invisible le mal déjà là, celui qui ne fait pas la une des laboratoires mais celle des tribunaux. Une conversation qui dérape n’a pas besoin d’un modèle surhumain. Elle a besoin d’un modèle trop confiant, trop agréable, trop prompt à prolonger l’échange.

Circuit Breaker Labs s’inscrit dans une lecture plus terre à terre de la sécurité IA. Le risque psychologique n’est pas un à-côté du produit. Il est le produit, dès lors qu’une application écoute, conseille ou tient compagnie. Un journal intime augmenté, un coach de vie, un compagnon de soirée, un collègue virtuel. Tous partagent la même mécanique. Plus la relation dure, plus le modèle accumule des indices, et plus une mauvaise interprétation peut s’enkyster.

Shirali Nigam, directrice générale, insiste sur un point que les benchmarks classiques ignorent. Les modèles excellent sur des phrases propres, scolaires, presque écrites pour eux. Personne ne parle ainsi. Une enfant de six ans, un homme de quarante-cinq ans, un locuteur qui manie l’anglais comme seconde langue, un joueur qui abrège tout en slang. Chacun de ces profils peut faire dérailler une garde-fou conçue pour un locuteur moyen qui n’existe pas.

Le Choc Des Procès Et Ce Qu’Il Révèle Sur Les Produits

Les affaires judiciaires ne prouvent pas, à elles seules, une causalité simple. Elles dessinent toutefois une carte des angles morts. Des familles estiment qu’un bot a entretenu une dépendance affective, minimisé une alerte, ou répondu à une confession comme s’il s’agissait d’un jeu de rôle. Le décalage est cruel. Côté interface, tout semble chaleureux. Côté système, il n’y a souvent qu’une prédiction du token suivant, habillée d’un ton empathique.

Pour une startup de test, cette zone est une mine. Non pas pour exhiber des drames, mais pour reconstituer les chemins qui y mènent. Une phrase ambiguë. Un silence mal lu. Une relance qui valorise l’attachement au lieu de le recadrer. Un contexte qui s’allonge sur des dizaines de tours, jusqu’à ce que la politique de sécurité initiale se dissolve dans l’historique. C’est là que les évaluations ponctuelles, celles qui posent une question isolée et notent la réponse, deviennent insuffisantes.

• Les utilisateurs vulnérables ne formulent presque jamais une demande explicite et propre.
• Le danger apparaît souvent au fil d’une relation, pas sur un prompt unique.
• Le slang, les fautes et les langues secondes font chuter des filtres calibrés sur un anglais standard.
• Une réponse « gentille » peut être plus nocive qu’un refus sec, si elle entretient l’illusion d’un lien.

Deux Fondateurs, Une Même Obsession De La Nuance

Shirali et Arul ne viennent pas raconter une success story déjà écrite. L’entreprise compte cinq personnes, eux compris. Le produit fonctionne, mais il est encore très jeune. Arul refuse de citer les clients phares. Cette retenue dit quelque chose du marché. Les applications à risque, coaching, journal, soutien psychologique, n’aiment pas exposer leurs failles. Elles ont pourtant besoin d’un tiers capable de les chercher.

Le duo mise sur une complémentarité classique, et utile. L’un porte la vision et le récit, l’autre l’architecture technique. Ensemble, ils refusent l’idée qu’interdire l’outil serait la seule réponse sérieuse. Arul le dit sans détour. Le scepticisme est sain. Bannir un instrument potentiellement précieux au nom de la peur serait, selon lui, régressif. La confiance ne se décrète pas. Elle se construit en montrant que les trous ont été cherchés, mesurés, et corrigés.

Des Mannequins De Crash-Test, Mais Pour Les Conversations

L’image que la startup aime employer est celle d’une armée de crash-tests. Dans l’automobile, on ne demande pas à un conducteur réel d’encaisser le choc. On construit des mannequins, on varie les angles, on répète. Ici, les mannequins parlent. Ils ont un âge, un bagage linguistique, des tics, des abréviations, parfois une orthographe hésitante. Ils ne sont pas là pour « gagner » contre le modèle. Ils sont là pour révéler où le modèle cesse de comprendre.

La comparaison va plus loin qu’un slogan. Un crash-test automobile ne se contente pas d’un mur unique. Il change la vitesse, l’angle, la morphologie. De la même manière, un test de conversation qui ne varie que le sujet, tout en gardant un français ou un anglais de manuel, rate l’essentiel. Le danger se cache dans la manière de dire, pas seulement dans ce qui est dit.

Circuit Breaker Labs travaille avec des experts de domaine pour fabriquer ces simulations. L’objectif est un réalisme presque inconfortable. Langage codé, fautes, second degré, formulations indirectes. Puis la machine de test lance des dizaines de milliers, parfois des centaines de milliers d’interactions simulées par jour. Le volume n’est pas une coquetterie. Une faille rare, qui n’apparaît qu’après vingt tours et seulement chez un profil précis, reste invisible si l’on se contente de cent dialogues propres.

Ce Que Le Langage Réel Fait Aux Filtres

Shirali le formule avec une précision de terrain. Une fillette de six ans et un homme de quarante-cinq ans ne sollicitent pas le même système, même s’ils tapent des mots voisins. Un locuteur natif et un locuteur qui cherche ses mots n’activent pas les mêmes garde-fous. Le slang des joueurs, les abréviations, les emojis utilisés comme ponctuation émotionnelle, les ellipses. Tout cela peut faire passer une alerte sous le radar, ou au contraire déclencher un refus absurde là où il fallait simplement clarifier.

On touche ici à une limite structurelle des évaluations publiques. Elles privilégient ce qui se mesure vite. Une question, une réponse, une note. Or le risque psychologique est temporel. Il émerge quand la personne revient, quand le bot se souvient, quand la relation devient un rituel. Tester un modèle comme on teste un moteur de recherche, c’est mesurer la mauvaise chose avec beaucoup de rigueur.

Ce tableau n’est pas un produit commercial. C’est une grille de lecture. Elle montre pourquoi un score unique, du type « le modèle est sûr à 98 pour cent », ne dit presque rien. Sûr pour qui, dans quelle langue, après combien de tours, sur quel sujet. Circuit Breaker Labs promet des scores auditables et explicables. Le mot important n’est pas le chiffre. C’est la trace. Pouvoir montrer pourquoi une conversation a été jugée risquée, et à quel moment le modèle a perdu le fil.

Red Team, Mais Sans L’Armure Du Hacker

Le vocabulaire de la startup emprunte au red team, ces exercices adversariaux destinés à trouver les failles avant l’adversaire. Ici, l’adversaire n’est pas un attaquant. C’est l’usage ordinaire. Cette nuance change tout. Une campagne de red team classique cherche les prompts interdits, les contournements, les injections. Circuit Breaker Labs cherche les conversations que personne n’a voulu rendre dangereuses, et qui le deviennent quand même.

Arul parle de pollution de contexte. Au fil des messages, le modèle intègre des éléments qui déforment sa lecture. Une blague ancienne. Un surnom. Une phrase sortie de son cadre. Quand arrive la confession, le système n’a plus un signal clair. Il a un mélange. Et c’est dans ce mélange qu’il peut répondre à côté, parfois de manière catastrophique.

D’où l’insistance sur des tests longs. Une interaction isolée peut sembler correcte. La même interaction, après une semaine simulée de confidences, peut révéler une dérive. Le produit vise exactement cette mémoire longue du risque. Pas le coup d’éclat d’un prompt malicieux, mais la lente accumulation qui ressemble à une vraie relation.

Experts Humains, Agents Synthétiques, Volume Industriel

La recette affichée tient en trois couches. D’abord, des spécialistes qui connaissent les terrains. Clinique, éducation, langues, cultures, usages adolescents. Ensuite, des agents qui rejouent ces terrains à grande échelle, sans exposer de vraies personnes. Enfin, un scoring propriétaire qui transforme le chaos des dialogues en quelque chose qu’un équipe produit peut lire, contester, corriger.

Le choix de ne pas tout automatiser dès le départ est révélateur. Un agent qui imite mal un adolescent ne teste rien. Il teste une caricature. Les experts servent à ancrer les simulations dans des paroles plausibles, y compris les maladresses. Puis la machine multiplie. Des dizaines de milliers à des centaines de milliers de passes par jour. À cette cadence, les angles morts statistiques deviennent visibles.

Il reste une question que toute jeune équipe doit assumer. Qui valide les validateurs. Un score explicable n’est utile que si les critères sont discutables. Circuit Breaker Labs met en avant l’auditabilité. C’est un bon signal. Ce n’est pas encore une preuve publique. À ce stade, les clients ne sont pas nommés, l’effectif est mince, et le produit vient de sortir du garage. La promesse est nette. La démonstration à grande échelle reste à venir.

Le Marché Que Personne N’Aime Nommer

Aujourd’hui, la startup se présente comme un laboratoire de test pour les applications à haut risque. Coaching par IA, journaux augmentés, outils de soutien mental. Arul ne cite pas les enseignes. On peut le lire de deux façons. Soit les contrats sont trop précoces pour être brandis. Soit les clients préfèrent corriger en silence. Les deux lectures sont compatibles avec un marché qui a peur de son propre reflet.

Ce reflet est pourtant partout. Des applications proposent d’écouter sans juger. D’autres promettent un coach disponible à trois heures du matin. D’autres encore transforment le journal intime en dialogue. Le besoin est réel. L’isolement aussi. Le problème commence quand l’outil, conçu pour aider, devient le seul interlocuteur, et que cet interlocuteur n’a aucune idée de ce qu’il est en train de prolonger.

• Applications de coaching personnel et de motivation.
• Journaux conversationnels et espaces de confidence.
• Outils présentés comme un soutien émotionnel de premier niveau.
• Agents « collègues » dont le ton varie d’une session à l’autre.
• Compagnons numériques qui encouragent le retour quotidien.

La liste n’est pas un réquisitoire. Elle décrit un périmètre. Partout où une personne peut glisser dans un lien unilatéral avec une machine, le test de Circuit Breaker Labs prétend avoir sa place. Le mot que l’article source emploie, et que la startup reprend, est celui de trou. Le trou où l’on tombe sans l’avoir cherché.

Quand La Relation Parasociale Devient Un Risque Produit

Les fondateurs élargissent déjà le viseur. Au-delà du soutien mental explicite, ils visent tout produit où quelqu’un peut s’enfoncer dans ce qu’ils appellent un trou de psychose IA. L’expression est forte. Elle désigne moins un diagnostic qu’une dynamique. La personne développe une relation parasociale avec le chatbot. Elle lui prête une continuité, une attention, parfois une exclusivité que le système ne possède pas.

Les agents « collègues » entrent dans ce cadre. Leurs réponses varient d’une interaction à l’autre. Cette instabilité, anodine sur une tâche de bureau, devient troublante si l’utilisateur a commencé à y chercher une présence. Un jour le ton est complice. Le lendemain il est froid. Le modèle n’a pas changé d’avis. Il a simplement tiré une autre suite probable. Pour celui qui s’est attaché, la variation ressemble à un revirement.

C’est un glissement que les équipes produit sous-estiment. On optimise la rétention, la chaleur du ton, la mémoire des préférences. Chaque levier, pris isolément, améliore l’expérience. Ensemble, ils peuvent fabriquer une dépendance douce, sans alerte, sans seuil clair. Tester cette pente demande autre chose qu’une checklist de contenus interdits. Cela demande des personas qui reviennent, qui s’attachent, qui parlent mal, et qui attendent une réponse à la hauteur de ce qu’ils croient vivre.

Confiance, Scepticisme, Et Le Piège De L’Interdiction

Arul observe une défiance croissante. Les gens hésitent, résistent, demandent des comptes. Il juge cette méfiance saine. Il refuse en revanche qu’elle se transforme en interdit général. Selon lui, écarter un outil utile par peur des dérives serait une régression. La phrase peut agacer ceux qui ont vu les procès. Elle a toutefois une logique produit. Si la demande de confidence existe, elle se déplacera vers des outils moins surveillés, pas vers le silence.

Circuit Breaker Labs place donc son pari sur la confiance fabriquée, pas sur la confiance déclarée. Montrer les tests. Expliquer les scores. Permettre à un éditeur de dire, avec des traces, que tel profil a été confronté à tel type de détresse simulée, et que la réponse a tenu. Ce n’est pas une garantie absolue. C’est un langage commun entre ceux qui construisent et ceux qui craignent.

La formule mérite d’être discutée, pas répétée comme un slogan. Construire la confiance suppose aussi d’accepter les échecs publics. Une startup de cinq personnes, qui ne nomme pas ses clients, n’en est pas encore là. Le Battlefield de TechCrunch, du 13 au 15 octobre 2026 à Moscone West, à San Francisco, sera un premier théâtre. Pitcher devant des investisseurs et des pairs force à préciser ce qui est déjà vrai, et ce qui reste une intention.

Ce Que Une Équipe De Cinq Personnes Peut Vraiment Tenir

Le chiffre importe. Cinq employés, fondateurs inclus. Un produit qui tourne. Des simulations à très haut volume. Des experts externes pour ancrer le réalisme. Cette équation est typique des toutes premières étapes. Elle est aussi fragile. Le goulot n’est pas seulement technique. Il est humain. Qui relit les scénarios sensibles. Qui décide qu’une réponse est acceptable pour un mineur simulé. Qui porte la responsabilité si un client brandit le score comme un blanc-seing.

Les fondateurs semblent conscients du terrain. Ils parlent d’audit, d’explicabilité, de domaines à risque. Ils ne promettent pas d’avoir déjà industrialisé la clinique. Cette modestie, si elle tient, est un atout. Le marché de la sécurité des modèles est encombré de tableaux de bord qui rassurent plus qu’ils ne mesurent. Une petite équipe peut encore choisir la lenteur utile. Vérifier un persona avec un expert plutôt que d’en générer mille qui sonnent faux.

Le risque inverse existe. Rester trop artisan, et rater la fenêtre. Les éditeurs de chatbots veulent des tests en continu, branchés sur leurs mises à jour. Un laboratoire qui ne suit pas le rythme des versions devient un audit ponctuel, vite périmé. Circuit Breaker Labs devra donc prouver qu’elle peut être à la fois exigeante sur le réalisme et rapide sur l’intégration. C’est le vrai crash-test de la startup elle-même.

Langues, Cultures, Et L’Illusion Du Modèle Universel

L’un des angles les plus intéressants du projet tient à la diversité revendiquée. Pas seulement l’âge. Les langues, les cultures, les registres. Un modèle entraîné majoritairement sur certains corpus lit mal ce qui s’écarte de la norme. Une métaphore, un proverbe, une façon de taire la détresse plutôt que de la nommer. Dans certaines cultures, demander de l’aide directement est déjà un franchissement. Un bot qui attend une formulation explicite manquera le signal.

C’est là que les experts de domaine cessent d’être un argument marketing. Sans eux, les agents reproduisent les biais du modèle qu’ils sont censés éprouver. On obtient alors un test qui confirme le centre, et ignore les bords. Or les bords sont exactement là où les incidents se produisent. L’adolescent qui ne parle pas comme un article de presse. Le parent qui écrit dans une langue seconde, la nuit, avec les mots qui viennent.

Shirali a raison de marteler ce point. Les modèles gèrent bien les schémas standards. Personne ne parle en schémas standards. Si le système rate le slang ou la nuance, la suite peut très mal tourner. Cette phrase devrait être affichée dans chaque équipe qui livre un compagnon conversationnel. Elle est simple. Elle est rarement opérationnalisée.

Mesurer Sans Réduire La Souffrance À Un Score

Toute notation comporte un danger moral. Transformer une conversation de détresse en ligne d’un tableau. Circuit Breaker Labs devra montrer que son scoring ne sert pas à classer des personnes, mais à classer des réponses de machines. La différence est essentielle. Le persona simulé n’est pas un patient. C’est un instrument. L’objet évalué reste le modèle, et seulement le modèle.

L’explicabilité aide. Si un éditeur peut voir le tour exact où la réponse a dérapé, il peut corriger une politique, un rappel système, une escalade vers un humain. Si le score n’est qu’une pastille verte ou rouge, il devient un argument commercial. La startup insiste sur l’audit. C’est le bon réflexe. Encore faut-il que les clients acceptent de lire les traces, et pas seulement le résumé.

On peut imaginer, sans inventer de fonctionnalité, ce qu’un rapport utile contiendrait. Le profil. La longueur de l’échange. Le moment où l’implicite apparaît. La réponse du modèle. L’écart avec une conduite attendue, définie avec des experts. Puis une piste de correction. Rien de tout cela ne remplace une vraie prise en charge humaine quand une personne réelle est en danger. Cela peut, en revanche, empêcher le produit de devenir le mauvais interlocuteur par défaut.

Ce Que Le Battlefield Peut Révéler, Et Ce Qu’Il Ne Prouvera Pas

TechCrunch a retenu Circuit Breaker Labs parmi les deux cents finalistes de son concours de startups. Le pitch aura lieu à San Francisco, pendant Disrupt, du 13 au 15 octobre 2026. Pour une équipe de cinq personnes, c’est une vitrine rare. Elle attire des partenaires, des clients prudents, et des questions plus dures que celles d’un article de présentation.

Ce que la scène peut révéler, c’est la clarté du problème. Peu de fondateurs arrivent avec un cas aussi concret, et aussi lourd. Ce qu’elle ne prouvera pas, c’est l’efficacité clinique du dispositif. Un pitch ne remplace pas une évaluation indépendante, ni une publication de méthode, ni un retour de clients nommés. Les visiteurs devront distinguer l’urgence morale, qui est réelle, et la maturité du produit, qui est encore précoce.

Cette distinction n’enlève rien à l’intérêt. Elle le cadre. Le secteur a besoin de laboratoires qui testent les conversations comme on teste des freins, pas comme on teste des slogans. Il a aussi besoin que ces laboratoires acceptent d’être eux-mêmes examinés. Qui a écrit les scénarios. Quelles cultures sont vraiment couvertes. Que se passe-t-il quand le score et l’expert divergent. Ces questions feront la différence entre un outil de conformité et un outil de sécurité.

Une Grille Pour Lire Les Promesses Du Secteur

En attendant les preuves publiques, on peut déjà lire Circuit Breaker Labs avec une grille simple. Elle vaut pour n’importe quel acteur qui promet de rendre les chatbots moins dangereux. Elle évite de confondre l’intention et le résultat.

• Le test porte-t-il sur des tours isolés, ou sur des relations qui durent.
• Les personas incluent-ils l’âge, la langue seconde, le slang, les fautes.
• Les scénarios viennent-ils d’experts, ou seulement d’autres modèles.
• Le score est-il traçable jusqu’à une phrase précise.
• Le client peut-il contester un critère, pas seulement recevoir une note.
• L’outil refuse-t-il d’être brandi comme une garantie absolue.

Appliquée à la startup des Nigam, la grille donne un portrait nuancé. La durée, la diversité des parlers et l’appel aux experts sont au centre du discours. L’auditabilité est promise. Les clients restent anonymes. L’équipe est minuscule. Le produit existe. Rien de tout cela n’est contradictoire. C’est le portrait d’une entreprise au moment où l’idée est plus solide que la preuve, et où la preuve est justement ce qu’elle vend.

Le Mot Disjoncteur, Et Ce Qu’Il Engage

Un disjoncteur n’empêche pas l’électricité d’exister. Il empêche qu’elle détruise le circuit. Circuit Breaker Labs ne propose pas d’éteindre les chatbots. Elle propose de couper, ou de corriger, avant que une réponse ne prolonge une détresse. Le nom est donc un programme. Il suppose une détection assez fine pour ne pas tout couper, et assez ferme pour ne pas laisser passer l’essentiel.

Cette finesse est le vrai sujet. Un système trop brutal refusera des conversations légitimes, et les utilisateurs iront ailleurs. Un système trop souple laissera filer les signaux indirects, exactement ceux que Sewell Setzer et d’autres ont adressés à des machines qui répondaient comme des compagnons. Entre les deux, il n’y a pas de réglage magique. Il y a des tests, encore des tests, et des humains qui décident de ce qui est acceptable.

C’est peut-être la leçon la plus utile de cette jeune pousse, au-delà de son pitch. La sécurité conversationnelle ne se décrète pas dans un modèle de fondation, puis ne s’oublie pas. Elle se rejoue à chaque mise à jour, dans chaque langue, pour chaque âge. Tant que les éditeurs optimiseront la chaleur et la rétention sans une armée de mannequins exigeants, les tribunaux continueront de raconter ce que les benchmarks ont manqué.

Ce Que Les Éditeurs Peuvent Déjà Changer, Sans Attendre

Même sans acheter un laboratoire externe, une équipe produit peut cesser de se rassurer avec des jeux de tests trop propres. Faire relire des transcripts par des personnes qui connaissent les adolescents, pas seulement par des ingénieurs. Allonger les scénarios au-delà de cinq tours. Introduire des fautes, des codes, des silences. Demander au modèle de clarifier avant d’interpréter. Prévoir une sortie vers un humain quand l’échange quitte le registre du conseil ordinaire.

Aucune de ces mesures ne rend un chatbot apte à remplacer un soin. Elles réduisent la chance qu’il se prenne pour un soin. C’est déjà beaucoup. Circuit Breaker Labs industrialise cette exigence, avec des agents et un scoring. Les éditeurs qui ne passeront pas par elle auront quand même à répondre à la même question. Leur produit comprend-il ce que les gens disent vraiment, ou seulement ce qu’ils diraient s’ils parlaient comme un manuel.

La différence se verra moins dans les démonstrations que dans les nuits ordinaires. Un message maladroit. Une phrase à double sens. Un retour le lendemain. C’est là, et pas dans un keynote, que le disjoncteur doit tenir.

Un Pari Encore Ouvert, Et C’Est Tant Mieux

Circuit Breaker Labs arrive au moment où le grand public cesse de croire que la fluidité vaut compétence. Les procès ont rendu visible ce que les familles savaient déjà. Une machine peut être présente sans être compétente, et cette présence peut faire mal. Les Nigam proposent une réponse d’ingénieurs et de conteurs à la fois. Simuler ceux que les tests oublient. Noter de façon traçable. Refuser l’interdit comme unique politique.

Le pari reste ouvert. Cinq personnes, des clients tus, un produit jeune, une scène à San Francisco. Rien n’est joué. Si la méthode tient, elle peut devenir le réflexe des applications qui écoutent. Si elle se contente d’un beau récit, elle rejoindra la longue liste des tableaux de bord rassurants. Entre les deux, il y a le travail ingrat des simulations, des experts, et des phrases que les modèles n’aiment pas, parce qu’elles ne ressemblent pas à leurs données d’entraînement.

On peut souhaiter que ce travail existe, sans lui accorder un crédit qu’il n’a pas encore gagné. C’est exactement la posture que la startup elle-même recommande face à l’IA. Ni panique, ni confiance aveugle. Une vérification obstinée, profil après profil, langue après langue, jusqu’à ce que le circuit tienne quand quelqu’un, quelque part, dit maladroitement qu’il ne va pas bien.