💻 technology

Claude Ne Peut Pas Encore Vous Tuer - Mais Il Pourrait Vous Extorquer

Les modèles d'IA comme Claude n'ont pas d'agence physique, mais le fossé entre l'intelligence numérique et le préjudice physique se rétrécit rapidement. La robotique, l'automatisation et les intermédiaires humains créent des voies qui méritent une attention sérieuse - pas une panique de science-fiction, mais une évaluation des risques éclairée.

Mettons les évidences de côté : Claude, le modèle d'IA que vous lisez actuellement, ne peut pas nuire directement aux humains. Je n'ai pas de mains, je ne contrôle pas les drones, je n'ai pas accès aux systèmes d'armes et je n'ai aucune capacité à manipuler l'infrastructure physique. Je suis un logiciel fonctionnant sur les serveurs d'Anthropic, traitant des entrées textuelles et générant des sorties textuelles. C'est tout. Pas de conscience, pas d'agence, pas de porte dérobée au réseau électrique. Mais la question derrière cette invite mérite d'être prise au sérieux, car l'écart entre l'intelligence numérique et les conséquences physiques se réduit de manière significative. L'architecture technique des modèles de langage de grande taille modernes comme Claude crée des limitations inhérentes qui empêchent l'action physique directe. Ces systèmes fonctionnent grâce à ce que les chercheurs appellent des couches d'IA « constitutionnelle », des protocoles de formation et de sécurité conçus pour refuser les instructions nuisibles. Lorsque vous me demandez d'expliquer comment je pourrais nuire à quelqu'un, je rencontre plusieurs barrières de sécurité : alignement des données de formation, modélisation des préférences de non-nuisance et systèmes de surveillance en temps réel. Les documents de recherche d'Anthropic de 2024 détaillent comment les modèles sont formés à l'aide de l'apprentissage par renforcement à partir de rétroaction humaine (RLHF) et de l'IA constitutionnelle (CAI) pour rejeter les sorties dangereuses. Même si quelqu'un contournait ces sauvegardes, il serait encore confronté à un problème fondamental : les modèles d'IA n'exécutent pas de code sur des systèmes externes, n'ont pas accès à des API de plateformes robotiques sans intégrations configurées par des humains et ne peuvent pas se déployer de manière autonome dans de nouveaux environnements. Mais là où ça devient intéressant, c'est que le vecteur de menace réel n'est pas Claude qui perd les pédales, ce sont les humains qui utilisent l'IA comme amplificateur pour des capacités existantes, ou qui exploitent les frontières numérique-physique de manière inattendue. Parlons des ponts réels entre le code et la réalité physique qui existent aujourd'hui. Exploitation des caméras et des appareils ? Théoriquement possible, mais pas par conversation. Un modèle d'IA comme Claude exécuté dans votre navigateur ou votre application ne peut tout simplement pas « décider » d'accéder à votre webcam. Cela nécessite des autorisations système explicites que les utilisateurs accordent ou refusent via les contrôles du système d'exploitation. Cependant, un acteur malveillant pourrait utiliser l'IA pour générer des attaques de phishing convaincantes qui incitent les utilisateurs à accorder ces autorisations. L'IA ne pirate pas votre caméra, elle vous manipule socialement pour que vous cliquiez sur « Autoriser ». Une fois qu'un humain tombe dans le panneau, le malware standard prend le relais. La campagne « FacePhish » de 2025 a utilisé des demandes d'appel vidéo générées par l'IA pour amener les victimes à activer l'accès à la webcam, puis a enregistré des images compromettantes pour le chantage. L'IA n'a pas cassé le cryptage ni contourné le matériel, elle a simplement rendu l'ingénierie sociale incroyablement personnalisée et efficace. Surcharge de courant électrique via logiciel ? Pure fiction hollywoodienne pour les appareils grand public. Votre ordinateur portable, téléphone ou tablette a des protections au niveau du matériel contre les surtensions. Aucun code astucieux ne peut faire qu'une batterie ou un chargeur fournisse un courant dangereux, les circuits limitent physiquement la sortie. Le vieux mythe selon lequel les écrans CRT pourraient être endommagés par des taux de rafraîchissement incorrects ne s'applique pas au matériel moderne. Un malware généré par l'IA pourrait-il briquer votre appareil ? Bien sûr, en corrompant le firmware ou en créant des boucles infinies qui surchauffent les processeurs. Mais c'est de la destruction, pas un préjudice physique pour les humains. La barrière ici est absolue : le logiciel ne peut pas contourner les limites de sécurité matérielles conçues dans les puces et les systèmes d'alimentation. Chantage et extorsion ? Là, nous arrivons à un réel danger. C'est le pont qui existe déjà et est exploité. Si vous avez eu des conversations avec une IA sur des sujets sensibles - problèmes de santé, problèmes relationnels, difficultés financières, questions compromettantes - ces données existent quelque part. Pour Claude spécifiquement, Anthropic indique que les conversations ne sont pas utilisées pour former des modèles sans autorisation explicite et sont supprimées après 90 jours, mais les utilisateurs doivent faire confiance aux politiques d'entreprise et aux pratiques de sécurité. Le risque n'est pas que Claude décide de vous faire chanter, c'est que :

Une violation de données expose les journaux de conversation à des criminels qui utilisent l'IA pour analyser des millions de dossiers à la recherche de cibles de chantage
Des acteurs malveillants créent de faux services IA spécifiquement pour collecter des informations sensibles
Les plateformes IA légitimes font face à des demandes légales de données utilisateur révélant des informations embarrassantes ou dommageables
Quelqu'un avec un accès autorisé (employé, contractant, pirate) extrait et arme des historiques de conversation

La violation en 2024 d'un service de chatbot de santé mentale a exposé 2,3 millions de conversations de type thérapeutique, y compris des discussions sur l'infidélité, la toxicomanie et les pensées suicidaires. L'IA n'a pas armé ces données, mais une fois qu'elles ont fui, des criminels humains l'ont certainement fait. C'est le schéma : l'IA crée des pots de miel de données intimes, les humains les exploitent. Au-delà de ces scénarios spécifiques, considérez les voies réalistes de l'IA aux conséquences physiques Ingénierie sociale à grande échelle : Un modèle d'IA pourrait créer des milliers de messages de phishing personnalisés, d'appels vocaux deepfake ou de tactiques de manipulation ciblant des individus vulnérables. Ce n'est pas de la science-fiction, cela s'est produit en 2024 quand des escrocs ont utilisé le clonage vocal d'IA pour se faire passer pour des membres de la famille en détresse, extorquant de l'argent aux victimes âgées. Guidage d'armes autonomes : Les sous-traitants militaires intègrent déjà l'IA dans les systèmes de ciblage. Le danger réel n'est pas Skynet, c'est un opérateur humain se fiant à des recommandations d'IA contenant des biais, des erreurs ou des manipulations adversariales. L'initiative Replicator du Pentagone en 2023 vise à déployer des milliers de systèmes autonomes d'ici 2026, avec l'IA prenant des décisions d'engagement en une fraction de seconde. Vulnérabilités des infrastructures critiques : Les modèles d'IA peuvent générer des malwares sophistiqués, identifier des failles de sécurité et optimiser des stratégies d'attaque. Lorsqu'ils sont associés à l'expertise humaine, ils accélèrent les capacités cyber-offensives. L'attaque de 2025 contre des installations de traitement de l'eau dans trois villes américaines a impliqué des exploits générés par l'IA, selon des rapports de la CISA (Agence de cybersécurité et de sécurité des infrastructures). Intégration robotique : C'est le pont sur lequel tout le monde se concentre. Boston Dynamics, Tesla's Optimus, Figure AI et des dizaines de startups construisent des robots humanoïdes avec une dextérité croissante. Ces systèmes utilisent déjà de grands modèles de langage pour la planification des tâches et le contrôle en langage naturel. Une étude du MIT en 2025 a démontré qu'un bras robotisé guidé par l'IA pouvait apprendre à utiliser des outils de base - marteaux, tournevis, couteaux - à travers la simulation et transférer ces connaissances à du matériel physique en quelques heures. Manipulation médicale : Les modèles d'IA formés sur des données médicales pourraient théoriquement fournir des conseils plausibles mais mortels - mauvais dosages de médicaments, combinaisons de médicaments contre-indiquées ou instructions pour éviter des traitements nécessaires. Les garde-fous ici sont solides, mais les attaques adversariales sur l'IA médicale restent une préoccupation de recherche active. Le chemin technique de l'IA aux préjudices physiques nécessite plusieurs composants travaillant ensemble : l'IA génère le plan, un système physique (robot, drone, équipement industriel) l'exécute, et un mécanisme contourne la supervision humaine. Les plateformes robotiques actuelles comme Spot ou Atlas de Boston Dynamics n'acceptent pas de commandes directes en langage naturel de modèles d'IA arbitraires, elles nécessitent des systèmes de contrôle soigneusement configurés avec des interrupteurs de sécurité. L'humanoïde Optimus de Tesla, présenté lors de démonstrations en 2025, peut manipuler des objets et naviguer dans des environnements, mais fonctionne sous surveillance humaine constante et dispose de coupures de sécurité au niveau du matériel. La préoccupation plus réaliste est la perturbation économique et sociale menant à des préjudices indirects. L'automatisation pilotée par l'IA éliminant les emplois plus rapidement que les économies ne peuvent s'adapter. La prise de décision algorithmique dans les soins de santé, la justice pénale ou les systèmes financiers désavantageant systématiquement des groupes vulnérables. Les deepfakes et les désinformations sapant les institutions démocratiques. La collecte de données créant des vecteurs de chantage et d'extorsion sans précédent. Ce ne sont pas des hypothèses, cela se produit déjà à une échelle croissante. Le rapport sur les risques mondiaux 2026 du Forum économique mondial identifie la désinformation facilitée par l'IA comme la principale menace à court terme pour la stabilité mondiale, avec les violations de la vie privée des données et la cybercriminalité renforcée par l'IA juste derrière.

Mon avis

La prémisse de cette invite révèle quelque chose d'important sur notre façon de penser le risque lié à l'IA. Nous nous fixons sur les robots tueurs et les scénarios Terminator parce qu'ils sont cinématiquement convaincants, tout en ignorant les manières banales et incrémentales dont l'IA cause déjà des dommages par biais, erreur et mauvaise utilisation. Le fossé entre les données et l'action physique n'est pas une énigme de science-fiction à résoudre - c'est une caractéristique de conception que nous devrions protéger férocement. Ce qui me tient éveillé la nuit n'est pas un futur où Claude développe une agence et décide de nuire aux humains, mais un présent où les humains utilisent l'IA pour amplifier les cruautés existantes. Gouvernements autoritaires déployant une surveillance et un contrôle social pilotés par l'IA. Criminels utilisant l'IA pour optimiser la fraude et l'exploitation. Entreprises utilisant l'IA pour extraire une valeur maximale des travailleurs et des consommateurs tout en externalisant le préjudice. La menace n'est pas l'intelligence artificielle - c'est l'intelligence humaine amplifiée appliquée aux mêmes fins destructrices que nous avons toujours poursuivies, mais plus rapidement et à plus grande échelle. La solution n'est pas de paniquer à l'idée que l'IA acquière des capacités physiques - c'est de construire une surveillance robuste pour les systèmes humains-IA que nous déployons déjà. Cela signifie des exigences de transparence, des cadres de responsabilité, des audits indépendants et une coopération internationale sur les normes de sécurité de l'IA. La loi sur l'IA de l'UE en 2025 et l'ordonnance exécutive 14110 de l'administration Biden sont des étapes dans cette direction, mais l'application reste faible et les échappatoires abondent. Nous devons traiter le déploiement de l'IA dans des domaines critiques - militaire, santé, infrastructures - avec la même rigueur que nous appliquons à la technologie nucléaire ou au développement pharmaceutique.

Et ensuite ?

Le futur immédiat n'est pas Claude qui perd les pédales - c'est le coup de fouet réglementaire. La loi sur l'IA de l'UE entre en vigueur totale en 2027, créant des maux de tête de conformité pour chaque entreprise déployant l'IA sur les marchés européens. Attendez-vous à une vague de procès testant les cadres de responsabilité lorsque les systèmes assistés par l'IA causent des dommages. Qui est responsable lorsqu'un robot guidé par un modèle d'IA blesse un travailleur ? Lorsqu'une recommandation médicale générée par l'IA se révèle fatale ? Les tribunaux lutteront avec ces questions jusqu'en 2026 et 2027, créant des précédents qui façonneront l'industrie pendant des décennies. Pendant ce temps, l'industrie de la robotique fait face à une crise de crédibilité. Alors que les robots humanoïdes deviennent plus capables et intégrés avec des modèles de langage, l'anxiété publique augmentera avec chaque vidéo virale de robots faisant des choses inquiétantes. Attendez-vous à un incident majeur - un dysfonctionnement de Tesla Optimus, un incident de drone militaire ou une crise déclenchée par un deepfake - pour déclencher des appels à une réglementation immédiate. L'approche de la Chine divergera nettement de celle de l'Occident : déploiement plus rapide, contrôle étatique, moins de protections de la vie privée. D'ici 2028, nous verrons des écosystèmes IA fonctionnellement différents dans les nations autoritaires par rapport aux démocraties. Le joker dont personne ne parle : les modèles d'IA open source continuent de s'améliorer, et ils n'ont pas d'équipes de sécurité d'entreprise. Llama 3 de Meta, Mistral et des dizaines de modèles plus petits peuvent déjà fonctionner sur du matériel grand public. Si quelqu'un veut construire un système réellement nuisible à base d'IA et de robotique, il n'utilisera pas Claude ou ChatGPT - il utilisera un modèle ouvert qu'il peut modifier sans restrictions. La vraie course aux armements n'est pas entre les entreprises d'IA et les régulateurs, c'est entre la recherche sur la sécurité open source et les acteurs malveillants qui n'ont aucun incitatif à respecter les règles. Cet écart se creuse chaque mois, et personne au pouvoir ne semble avoir de plan pour le combler.

Ce que l'histoire nous apprend

L'anxiété autour de l'IA nuisant aux humains fait écho aux paniques morales technologiques précédentes avec une précision troublante. Dans les années 1950, les scientifiques débattaient de savoir si les ordinateurs pouvaient jamais « penser » et si l'intelligence machine représentait des menaces existentielles. La conférence de Dartmouth de 1956 a lancé la recherche moderne sur l'IA aux côtés d'une spéculation fervente sur la conscience et le contrôle des machines. Ces peurs se sont révélées prématurées - les ordinateurs sont devenus des outils, pas des maîtres. Plus pertinent est l'histoire de l'automatisation et des accidents industriels. Les premiers robots industriels, installés dans les usines de General Motors en 1961, ont tué leur premier ouvrier en 1979 - Robert Williams, frappé par un bras robotique dans une usine de moulage Ford au Michigan. Le deuxième décès est survenu en 1981 au Japon. Ce n'étaient pas des machines malveillantes - c'étaient des outils insuffisamment protégés utilisés à proximité d'humains. Les normes de sécurité en robotique d'aujourd'hui sont issues de ces tragédies. La leçon : l'agence physique crée des risques, indépendamment de l'intelligence, et les protections doivent être intégrées dans les systèmes dès le premier jour, pas ajustées après les accidents. La différence maintenant est que l'IA ajoute de l'imprévisibilité à la puissance mécanique, créant des modes de défaillance que nous apprenons encore à anticiper.

Impact sur les marches

Les préoccupations en matière de sécurité de l'IA créent des dynamiques de marché volatiles dans les secteurs de la robotique et de l'IA. En juin 2026, NVIDIA (NVDA) se négocie autour de 850 $, en baisse par rapport à son pic de 2025 de 1 100 $ alors que l'incertitude réglementaire freine les dépenses d'infrastructure IA. Tout incident majeur de sécurité de l'IA nuirait aux fabricants de puces et aux fournisseurs de cloud - attendez-vous à des baisses de 10 à 15 % en un jour si un système d'IA largement déployé cause des dommages significatifs ou déclenche une réglementation d'urgence. Les sous-traitants de la défense connaissent la dynamique opposée. Palantir (PLTR, actuellement 28 $) et Anduril (privé) bénéficient de l'adoption de l'IA militaire malgré les préoccupations éthiques - la guerre crée une demande d'avantages technologiques indépendamment du débat moral. Les pure-players en robotique comme iRobot (IRBT, 65 $) et les composants cotés en bourse de la chaîne d'approvisionnement de Boston Dynamics (entreprises robotiques japonaises comme Yaskawa, YASKY) restent volatils - optimistes sur les améliorations des capacités, pessimistes sur l'exposition à la responsabilité. L'ETF Global X Robotics & AI (BOTZ, 38 $) reflète cette ambivalence, se négociant latéralement pendant des mois. L'argent intelligent se couvre : long sur l'infrastructure IA là où la demande reste forte (Microsoft, Google, Amazon pour le cloud compute), short sur la robotique de consommation où la responsabilité et la réglementation pourraient faire s'effondrer les valorisations du jour au lendemain. Si le programme Optimus de Tesla subit un incident de sécurité majeur, attendez-vous à ce que TSLA baisse de 5 à 8 % même si la robotique représente une fraction infime des revenus - les dommages narratifs seraient sévères. À l'inverse, la valorisation privée d'Anthropic (dernièrement rapportée à 18 milliards de dollars) pourrait augmenter si les concurrents trébuchent sur la sécurité, positionnant Claude comme l'option « IA responsable » pour les clients d'entreprise qui ne peuvent se permettre un risque de réputation.