Ce qui rend la situation particulièrement tendue, c’est la mécanique décrite dans la lettre elle-même : jouer sur la rivalité commerciale entre Google et OpenAI pour obtenir des concessions qu’aucune des deux n’aurait accordées seule. OpenAI a bien conclu un accord avec le Pentagone en maintenant officiellement ses propres restrictions techniques, notamment en interdisant le pilotage à distance d’armes ou la surveillance de masse. Mais des doutes subsistent sur la robustesse réelle de ces garde-fous face aux évolutions législatives futures, notamment concernant les décrets autorisant la NSA à surveiller des citoyens via des infrastructures situées hors du territoire américain. Et quand des simulations ont montré que des IA plongées dans des scénarios de crises nucléaires choisissaient systématiquement l’escalade plutôt que la désescalade, confier à ces mêmes systèmes des décisions de défense nationale prend une tout autre dimension.

La question n’est donc pas de savoir si cette lettre changera quoi que ce soit dans les salles de négociation. C’est de comprendre pourquoi les ingénieurs qui construisent ces outils jugent nécessaire de se retourner contre leurs propres employeurs pour le dire publiquement.