Le contrat ChatGPT-Pentagone : fuites, détails et dilemmes éthiques
La relation évolutive entre les puissants développeurs d'intelligence artificielle et le ministère américain de la Défense a allumé un débat féroce. Cette dynamique est riche en dilemmes éthiques et a de profondes implications pour les libertés civiles. Les changements rapides et les discussions publiques intenses entourant ces partenariats révèlent une tension profonde entre le progrès technologique et le besoin de sauvegardes sociétales.
Source: Cette image représente une représentation abstraite et futuriste de l'intelligence artificielle au cœur des opérations militaires, symbolisant le thème central de l'intégration de l'IA dans la défense.
Résumé rapide des principaux développements
- Accord révisé d'OpenAI : Suite à la pression publique, OpenAI a modifié son contrat avec le Pentagone pour interdire explicitement l'utilisation de ses systèmes d'IA pour la surveillance domestique des citoyens et des ressortissants américains.
- Commentaires de Sam Altman : Le PDG d'OpenAI, Sam Altman, a qualifié l'accord initial d'« opportuniste et bâclé » et a reconnu la précipitation des négociations.
- Position principielle d'Anthropic : Anthropic a constamment refusé de compromettre ses principes éthiques, refusant d'autoriser l'utilisation de ses systèmes pour la surveillance domestique ou les armes autonomes létales, ce qui a entraîné des frictions importantes avec le Pentagone.
- Rétroaction publique : Le partenariat OpenAI-Pentagone a entraîné une augmentation de 200 % des désinstallations de l'application ChatGPT et des manifestations, tandis que l'application Claude d'Anthropic a connu une augmentation de popularité.
- Préoccupations concernant la surveillance : Des sénateurs et des groupes de défense des libertés civiles ont tiré la sonnette d'alarme sur le potentiel de l'IA en matière de surveillance de masse et sur la nécessité d'une plus grande transparence dans les contrats gouvernementaux.
- Ambiguïté juridique : Des juristes demandent la publication du contrat intégral entre OpenAI et le Pentagone, invoquant des préoccupations quant à l'applicabilité des garanties énoncées.
L'engagement d'OpenAI auprès du Pentagone
OpenAI, un développeur d'IA de premier plan, a récemment apporté des modifications importantes à son contrat avec le ministère américain de la Défense. Cela est intervenu après une pression publique considérable, comme détaillé dans une déclaration de
Sam Altman on X. Le cœur de ces révisions est de garantir que les systèmes d'IA d'OpenAI ne soient pas utilisés pour la surveillance domestique des citoyens et des ressortissants américains. L'accord mis à jour stipule désormais explicitement que « le système d'IA ne doit pas être utilisé intentionnellement pour la surveillance domestique des personnes et des ressortissants américains ». Altman a réitéré ce point dansanother X post.Le PDG d'OpenAI, Sam Altman, a décrit de manière franche l'accord initial comme « opportuniste et bâclé », un sentiment qu'il a partagé dans un
post on X.
Source: geekwire.com
Sam Altman, PDG d'OpenAI, a décrit l'accord initial de l'entreprise avec le ministère américain de la Défense comme à la fois « opportuniste et bâclé ».
Il a précisé en outre que les agences de renseignement du ministère de la Défense, telles que la NSA, sont spécifiquement interdites d'utiliser les services d'OpenAI. Katrina Mulligan, responsable des partenariats en sécurité nationale chez OpenAI, a confirmé cette exclusion des composantes de renseignement de la défense nationale du contrat dans son X post. OpenAI a également publié un article de blog, affirmant que son accord offre des protections contre l'utilisation de sa technologie pour des armes autonomes et la surveillance de masse. L'entreprise affirme que son accord avec le Pentagone comprend « plus de protections que tout accord précédent pour les déploiements d'IA classifiés, y compris ceux d'Anthropic ».
Réaction publique et dynamiques internes
L'annonce du partenariat d'OpenAI avec le ministère de la Défense a suscité une vive réaction publique. Sensor Tower a signalé une augmentation frappante de 200 % du taux moyen de désinstallation quotidienne de l'application ChatGPT par rapport aux taux typiques. Des manifestations ont également éclaté devant le siège d'OpenAI à San Francisco, exhortant les employés à remettre en question les termes de l'entreprise et appelant au boycott sous des hashtags tels que #CancelGPT ou #QuitGPT. Dans un développement contrasté, l'application Claude d'Anthropic a connu une augmentation de popularité, se classant en tête de l'App Store d'Apple peu après la diffusion de la nouvelle.
Sam Altman lui-même a reconnu que les négociations avec le Pentagone semblaient « définitivement précipitées », comme partagé dans un
X post. OpenAI soutient qu'elle n'a pas accepté d'autoriser le Pentagone à utiliser sa technologie sans restriction. Boaz Barak, un employé d'OpenAI, a déclaré que l'entreprise pouvait intégrer ses « lignes rouges » – interdisant la surveillance de masse et le contrôle des systèmes d'armes sans intervention humaine – directement dans le comportement du modèle. Cependant, les différences spécifiques dans les règles de protection d'OpenAI pour les utilisateurs militaires par rapport aux utilisateurs standard restent non divulguées.Jessica Tillipman, doyenne associée du droit des marchés publics à l'Université George Washington, a noté que l'extrait publié n'accorde pas à OpenAI le droit indépendant d'interdire une utilisation gouvernementale autrement légale, comme discuté sur son
blog. Cette ambiguïté a incité des experts juridiques à exiger une plus grande transparence concernant le contrat intégral entre OpenAI et le Pentagone. Brian McGrail du Center for AI Safety, tout en reconnaissant les changements comme une « étape dans la bonne direction », a également demandé le contrat complet.Opposition principielle d'Anthropic
En contraste frappant avec la conformité finale d'OpenAI, Anthropic a constamment refusé de compromettre ses principes éthiques pour un accord avec le ministère américain de la Défense. L'entreprise a refusé catégoriquement d'autoriser l'utilisation de ses systèmes pour la surveillance domestique ou le contrôle d'armes autonomes létales. Anthropic aurait été mis sur liste noire par l'administration Trump après avoir refusé de supprimer un principe d'entreprise interdisant l'utilisation de sa technologie pour des armes entièrement autonomes. Le professeur Mariarosaria Taddeo de l'Université d'Oxford a exprimé sa préoccupation, notant qu'avec le retrait d'Anthropic, « l'acteur le plus soucieux de la sécurité » était « hors » des partenariats potentiels du Pentagone.
Cette position principielle, cependant, n'a pas entièrement empêché Claude d'Anthropic d'être utilisé dans le conflit israélo-américain avec l'Iran, malgré des interdictions antérieures. Par exemple, Palantir a annoncé un partenariat pour fournir des modèles d'IA aux opérations de renseignement et de défense du gouvernement américain, comme détaillé dans un
press release. Pour sa part, le Pentagone a refusé de commenter ses relations avec Anthropic.La controverse sur le "risque de chaîne d'approvisionnement"
La position controversée d'Anthropic a suscité de vives critiques de la part de Pete Hegseth, secrétaire à la Guerre, qui a publiquement qualifié la position de l'entreprise d'« arrogance et trahison » dans un
X post.
Source: idcrawl.com
Pete Hegseth, secrétaire à la Guerre, a critiqué publiquement Anthropic, qualifiant leur position d'« arrogance et trahison » dans un post X.
Hegseth est allé plus loin, menaçant de classer Anthropic comme un « risque de chaîne d'approvisionnement ». Une telle désignation interdirait effectivement à tous les sous-traitants et partenaires de l'armée américaine de s'engager dans des activités commerciales avec l'entreprise. Anthropic, en réponse, a déclaré son intention de poursuivre en justice si cette menace se matérialisait, comme publié dans un
statement on its website. Il est à noter qu'OpenAI s'est publiquement opposé à la classification d'Anthropic comme risque de chaîne d'approvisionnement.Le Pentagone a depuis alloué six mois pour remplacer Claude par des modèles d'OpenAI et de xAI d'Elon Musk. Cependant, le déploiement rapporté de Claude dans le conflit iranien quelques heures après l'interdiction souligne les difficultés pratiques d'un remplacement immédiat. Ce conflit persistant entre Anthropic et le Pentagone reflète une rupture claire de confiance : Anthropic se méfie de la capacité du Pentagone à utiliser sa technologie de manière responsable, tandis que le Pentagone remet en question l'engagement d'Anthropic envers les applications de sécurité nationale de sa technologie.
Préoccupations plus larges concernant la surveillance et le suivi par l'IA du gouvernement
Les discussions autour de ces accords d'IA portent sur des préoccupations plus générales concernant la surveillance et le suivi par l'IA du gouvernement. Le sénateur Ron Wyden a critiqué le Pentagone pour ne pas avoir accédé aux préoccupations d'Anthropic en matière de confidentialité des données. Il a lancé un avertissement sévère sur la capacité de l'IA à construire des profils détaillés d'Américains à partir de données commerciales, qualifiant cela d'« expansion terrifiante de la surveillance de masse », comme souligné dans un
press release. Dario Amodei d'Anthropic a souligné le besoin critique d'engagements plus fermes du ministère de la Défense contre la surveillance des Américains, notant que les lois actuelles luttent pour suivre le rythme des progrès rapides dans le développement de l'IA. La recherche indique que même les données prétendument anonymisées peuvent mener à la ré-identification des individus par des systèmes d'IA, comme noté dans unstudy on arXiv.Le document de politique du ministère de la Défense, DoD Instruction 3000.09, expose la politique et les responsabilités pour le développement et l'utilisation de systèmes d'armes autonomes, qui peuvent être trouvés sur le
DoD website.
Source: publicintelligence.net
Le document de politique du ministère de la Défense, DoD Instruction 3000.09, expose des politiques critiques pour le développement et l'utilisation de systèmes d'armes autonomes.
Ce document souligne en outre l'importance des considérations éthiques dans le déploiement de l'IA. Des organisations telles que le
Algorithmic Justice League, the ACLU, and Brookings ont largement détaillé leurs préoccupations concernant le potentiel de l'IA en matière de surveillance de masse et ses implications pour la vie privée et les droits.L'accord entre OpenAI et le Pentagone a été signé le 27 février, notamment quelques heures après que l'ancien président Donald Trump a émis une instruction de cesser l'utilisation de Claude d'Anthropic par les agences fédérales.
Questions fréquemment posées
Quelle a été la principale controverse entourant l'accord OpenAI-Pentagone ?
La principale controverse tournait autour des inquiétudes que les systèmes d'IA d'OpenAI pourraient être utilisés pour la surveillance domestique des citoyens américains et pour des armes autonomes. La pression publique a conduit OpenAI à réviser son contrat pour interdire explicitement ces utilisations.
Comment la position d'Anthropic différait-elle de celle d'OpenAI ?
Anthropic a constamment refusé de compromettre ses principes éthiques, refusant d'autoriser ses systèmes d'IA pour la surveillance domestique ou les armes autonomes létales. Cela a conduit à un différend important avec le Pentagone, tandis qu'OpenAI a finalement révisé son contrat pour inclure des interdictions similaires.
Quelle est l'importance de la menace de « risque de chaîne d'approvisionnement » contre Anthropic ?
Le secrétaire à la Guerre a menacé de classer Anthropic comme « risque de chaîne d'approvisionnement », ce qui interdirait effectivement à tous les sous-traitants et partenaires militaires américains de faire affaire avec l'entreprise. Cela souligne le mécontentement du Pentagone face au refus d'Anthropic de coopérer sur certaines conditions.
Quelles sont les implications plus larges de ces accords pour l'IA et les libertés civiles ?
Ces accords soulèvent des préoccupations importantes quant au potentiel de l'IA à étendre la surveillance de masse et à ses implications pour la vie privée et les droits fondamentaux. Ils soulignent la nécessité de directives éthiques solides, de transparence dans les contrats gouvernementaux et de lois qui suivent le rythme du développement de l'IA.
Alternatives à ChatGPT
Pour les utilisateurs préoccupés par les implications de l'accord OpenAI-Pentagone, plusieurs plateformes d'IA alternatives sont disponibles. La campagne "QuitGPT" recommande spécifiquement d'explorer ces options :
| Plateforme d'IA | Développeur | Notes |
|---|---|---|
| Confer | Divers | Axé sur l'IA collaborative. |
| Alpine | Divers | Souvent utilisé pour les solutions d'entreprise. |
| Lumo | Divers | Solutions d'IA émergentes. |
| Gemini | Modèle d'IA avancé de Google. | |
| Claude | Anthropic | Connu pour sa position éthique ferme contre l'utilisation militaire pour la surveillance/les armes. |
Inversement, la campagne déconseille fortement l'utilisation de Grok, développé par la plateforme X d'Elon Musk, en raison de diverses préoccupations.
Conclusion
Le paysage fluctuant des partenariats d'IA avec l'armée américaine représente un tournant critique pour les entreprises technologiques et les organismes gouvernementaux. La demande publique de directives éthiques solides et de transparence dans les contrats, en particulier concernant la surveillance et les armes autonomes, continuera sans aucun doute à façonner ces relations évolutives. Ce dialogue continu est essentiel pour garantir que les avancées technologiques servent l'humanité sans compromettre les droits et libertés fondamentaux.
Copyright © Zerlo.net