À force de crier au loup...

Cette semaine, les trois plus grands noms de l'IA, Amodei, Altman, Musk, ont solennellement appelé à « ralentir », le même week-end. Un chercheur d'Anthropic a démissionné avec fracas : « l'IA pourrait tous nous tuer d'ici 2030 ». Les marchés ont plongé lundi, et Trump a recadré tout le monde. Bref, le grand frisson.

Mais ce n'est pas la première fois qu'on a ce genre de séquence, et hélas ça me rappelle la fable du petit garçon qui criait au loup. À force de hurler au danger, on finit par ne plus écouter celui qui crie. Et ce jour-là, si le loup est vraiment là, on aura un vrai problème. Un gros.

Regardons la séquence de la semaine de plus près. La démission du chercheur, Jacob Coxon, je la crois sincère : des chercheurs d'Anthropic confirment leur peur en interne. Mais elle a été mise en scène comme un lancement de produit. Le Wall Street Journal a sorti son interview exclusive quelques minutes avant son propre message public, des organisations militantes l'ont relayée dans les quinze premières minutes à des niveaux extrêmes, sur un compte qui n'avait jusque-là ni historique ni audience. Sincère sur le fond sans doute, mais très orchestré.

Et le même week-end, comme par hasard, les patrons appellent en chœur à « ralentir ». Or, deux jours plus tôt, Altman annonçait qu'OpenAI ne s'introduirait pas en bourse en 2026, une entrée qu'il juge désormais « malavisée », en invoquant la sécurité. N'oublions pas le contexte, il est primordial : un marché qui se refroidit, l'entrée en bourse de SpaceX qui a englouti des capitaux colossaux, des pertes qui se comptent en milliards, et la Banque des règlements internationaux qui range la bulle IA parmi ses premiers risques. Brandir le péril moral pile au moment de reporter une entrée en bourse dans un marché devenu sceptique, c'est une excuse facile pour s'aménager une meilleure fenêtre de tir.

J'ai déjà pointé ce réflexe, celui d'instrumentaliser la sécurité et la réglementation : en juillet, Fable 5 « coupé pour raison de sécurité nationale » se retrouvait bradé en promotion un mois plus tard pour contrer un concurrent.

Néanmoins, il faut rester nuancé. Oui, le risque est réel, et je ne fais pas partie de ceux qui ricanent, pour une raison très concrète : je le mesure de mes propres mains. Ce que l'IA fait déjà, bien utilisée, est impressionnant. Et un outil aussi puissant peut évidemment servir le pire aussi bien que le meilleur : un usage malveillant, ou simplement néfaste, fait autant de dégâts que l'usage vertueux fait de bien. Ce n'est pas la science-fiction du robot qui se retourne contre nous, c'est plus banal et plus proche : la même puissance, pointée dans la mauvaise direction. Comme toute technologie de pointe mal utilisée, les dégâts peuvent être gigantesques.

Voilà le danger que je prends au sérieux. Et en même temps, une partie de ces alertes sert d'abord les intérêts de leurs lanceurs : souligner l'avance de son laboratoire, préparer les esprits, ménager un cours de bourse. Le problème, c'est le mélange.

Et c'est exactement comme ça qu'on se rend sourd. Ou qu'on se retrouve avec une population de plus en plus méfiante de l'IA.

Un exemple récent. Dario Amodei réclame depuis peu un tour de vis sur les modèles ouverts, ceux dont les paramètres sont publiés, et en particulier les modèles chinois, toujours au nom de la sécurité. Sur le fond, l'inquiétude n'est pas absurde : un modèle puissant et librement téléchargeable peut servir à n'importe quoi. Sauf que, ces dernières semaines, les modèles chinois ouverts ont fait un bond spectaculaire, au point de rivaliser avec les meilleurs pour une fraction du prix. Difficile de ne pas voir que freiner cette course arrangerait surtout son propre laboratoire. Il ne demande pas une interdiction, il l'a précisé, mais des mesures ciblées, dont un coup d'arrêt à la « distillation », la technique par laquelle un modèle apprend d'un plus avancé. C'est justement comme ça que les poursuivants rattrapent la tête de course. Au fond, tout le monde veut ralentir, les autres, le temps de défendre son intérêt du moment, quitte à réaccélérer au prochain virage pour gagner un tour.

Le plus dommage, c'est que cette dramatisation sabote une bonne idée. Encadrer ces laboratoires, leur imposer transparence et responsabilité, c'est nécessaire et souhaitable. L'Europe a d'ailleurs commencé, en traitant les fournisseurs des modèles les plus puissants comme des acteurs à risque systémique, avec des obligations de transparence. Mais on n'obtient pas des règles saines en agitant la peur de l'extinction un week-end sur deux. On les obtient avec du sang-froid, du bon sens et un débat public. Encore faut-il que le politique en prenne la mesure et s'y attaque.

Ma position n'a pas changé. Ni gober, ni balayer. S'informer aux sources, tester par soi-même, et garder son discernement, surtout quand l'alarme est spectaculaire et que le calendrier tombe trop bien. C'est fatigant, je sais. Mais c'est la seule façon de rester capable d'entendre, le jour où le loup sera vraiment là.