El acuerdo de ChatGPT con el Pentágono: filtraciones, detalles y dilemas éticos
La relación evolutiva entre los poderosos desarrolladores de inteligencia artificial y el Departamento de Defensa de EE. UU. ha encendido un feroz debate. Esta dinámica está plagada de dilemas éticos y tiene profundas implicaciones para las libertades civiles. Los rápidos cambios y el intenso discurso público en torno a estas asociaciones revelan una profunda tensión entre el avance tecnológico y la necesidad de salvaguardias sociales.
Fuente: Esta imagen representa una representación abstracta y futurista de la inteligencia artificial en el corazón de las operaciones militares, simbolizando el tema central de la integración de la IA en la defensa.
Resumen rápido de los desarrollos clave
- Acuerdo revisado de OpenAI: Tras la presión pública, OpenAI modificó su contrato con el Pentágono para prohibir explícitamente el uso de sus sistemas de IA para la vigilancia doméstica de ciudadanos estadounidenses.
- Comentarios de Sam Altman: El CEO de OpenAI, Sam Altman, describió el acuerdo inicial como "oportunista y descuidado" y reconoció la prisa en las negociaciones.
- Posición de principios de Anthropic: Anthropic se negó sistemáticamente a comprometer sus principios éticos, negándose a permitir el uso de sus sistemas para la vigilancia doméstica o armas autónomas letales, lo que provocó fricciones significativas con el Pentágono.
- Reacción pública: La asociación entre OpenAI y el Pentágono provocó un aumento del 200% en las desinstalaciones de la aplicación ChatGPT y protestas, mientras que la aplicación Claude de Anthropic experimentó un aumento en popularidad.
- Preocupaciones de vigilancia: Senadores y grupos de derechos civiles han expresado su alarma sobre el potencial de la IA para la vigilancia masiva y la necesidad de una mayor transparencia en los contratos gubernamentales.
- Ambigüedad legal: Expertos legales piden la publicación del contrato completo entre OpenAI y el Pentágono, citando preocupaciones sobre la aplicabilidad de las salvaguardias declaradas.
Participación de OpenAI con el Pentágono
OpenAI, un destacado desarrollador de IA, realizó recientemente importantes revisiones en su contrato con el Departamento de Defensa de EE. UU. Esto se produjo tras una considerable presión pública, como se detalla en una declaración de
Sam Altman on X. El núcleo de estas revisiones es garantizar que los sistemas de IA de OpenAI no se utilicen para la vigilancia doméstica de ciudadanos estadounidenses. El acuerdo actualizado ahora establece explícitamente que el "sistema de IA no se utilizará intencionalmente para la vigilancia doméstica de personas estadounidenses". Altman reiteró este punto enanother X post.El CEO de OpenAI, Sam Altman, describió francamente el acuerdo inicial como "oportunista y descuidado", un sentimiento que compartió en un
post on X.
Fuente: geekwire.com
Sam Altman, CEO de OpenAI, describió el acuerdo inicial de la empresa con el Departamento de Defensa de EE. UU. como "oportunista y descuidado".
Aclaró además que las agencias de inteligencia del Departamento de Defensa, como la NSA, tienen prohibido específicamente el uso de los servicios de OpenAI. Katrina Mulligan, jefa de Alianzas de Seguridad Nacional de OpenAI, confirmó esta exclusión de los componentes de inteligencia de defensa nacional del contrato en su X post. OpenAI también publicó una entrada de blog, afirmando que su acuerdo proporciona protecciones contra el uso de su tecnología para armas autónomas y vigilancia masiva. La empresa afirma que su acuerdo con el Pentágono incluye "más salvaguardias que cualquier acuerdo anterior para despliegues de IA clasificados, incluidos los de Anthropic".
Reacción pública y dinámicas internas
El anuncio de la asociación de OpenAI con el Departamento de Defensa fue recibido con una reacción pública significativa. Sensor Tower informó de un sorprendente aumento del 200% en la tasa diaria promedio de desinstalaciones de la aplicación ChatGPT en comparación con las tasas típicas. También estallaron protestas frente a la sede de OpenAI en San Francisco, instando a los empleados a cuestionar los términos de la empresa y pidiendo un boicot bajo hashtags como #CancelGPT o #QuitGPT. En un desarrollo contrastante, la aplicación Claude de Anthropic experimentó un aumento en popularidad, encabezando las listas de la App Store de Apple poco después de que se propagaran las noticias.
El propio Sam Altman reconoció que las negociaciones con el Pentágono se sintieron "definitivamente apresuradas", como compartió en un
X post. OpenAI sostiene que no cedió a permitir el uso irrestricto de su tecnología por parte del Pentágono. Boaz Barak, un empleado de OpenAI, declaró que la empresa puede incrustar sus "líneas rojas" —prohibiendo la vigilancia masiva y el control de sistemas de armas sin intervención humana— directamente en el comportamiento del modelo. Sin embargo, las diferencias específicas en las reglas de protección de OpenAI para usuarios militares frente a los estándar no se divulgan.Jessica Tillipman, decana asociada de Derecho de Adquisiciones Gubernamentales de la Universidad George Washington, señaló que el extracto publicado no otorga a OpenAI un derecho independiente para prohibir el uso gubernamental, por lo demás legal, como se discute en su
blog. Esta ambigüedad ha llevado a expertos legales a exigir una mayor transparencia sobre el contrato completo entre OpenAI y el Pentágono. Brian McGrail, del Center for AI Safety, si bien reconoció los cambios como un "paso en la dirección correcta", también solicitó el contrato completo.Oposición de principios de Anthropic
En marcado contraste con la eventual conformidad de OpenAI, Anthropic se negó sistemáticamente a comprometer sus principios éticos para un acuerdo con el Departamento de Defensa de EE. UU. La empresa se negó firmemente a permitir que sus sistemas se utilizaran para la vigilancia doméstica o para controlar armas autónomas letales. Según se informa, Anthropic fue incluido en la lista negra por la administración Trump después de negarse a eliminar un principio corporativo que prohíbe el uso de su tecnología para armas totalmente autónomas. La profesora Mariarosaria Taddeo de la Universidad de Oxford expresó su preocupación, señalando que con la retirada de Anthropic, "el actor más consciente de la seguridad" estaba "fuera" de las posibles asociaciones del Pentágono.
Esta postura de principios, sin embargo, no impidió por completo que Claude de Anthropic se utilizara presuntamente en el conflicto entre EE. UU. e Irán, a pesar de las prohibiciones anteriores. Por ejemplo, Palantir anunció una asociación para suministrar modelos de IA a las operaciones de inteligencia y defensa del gobierno de EE. UU., como se detalla en un
press release. El Pentágono, por su parte, se negó a comentar sobre sus tratos con Anthropic.La controversia sobre el "riesgo de la cadena de suministro"
La postura controvertida de Anthropic atrajo fuertes críticas de Pete Hegseth, el Secretario de Guerra, quien calificó públicamente la posición de la empresa de "arrogancia y traición" en un
X post.
Fuente: idcrawl.com
Pete Hegseth, el Secretario de Guerra, criticó públicamente a Anthropic, calificando su postura de "arrogancia y traición" en una publicación de X.
Hegseth fue más allá, amenazando con clasificar a Anthropic como un "riesgo de la cadena de suministro". Dicha designación prohibiría efectivamente a todos los contratistas y socios del ejército de EE. UU. participar en actividades comerciales con la empresa. Anthropic, en respuesta, declaró su intención de demandar si esta amenaza se materializaba, según se publicó en un
statement on its website. Cabe señalar que OpenAI se ha opuesto públicamente a clasificar a Anthropic como un riesgo de la cadena de suministro.El Pentágono ha asignado desde entonces seis meses para reemplazar Claude con modelos de OpenAI y xAI de Elon Musk. Sin embargo, el presunto despliegue de Claude en el conflicto de Irán apenas unas horas después de la prohibición destaca las dificultades prácticas de un reemplazo inmediato. Esta disputa en curso entre Anthropic y el Pentágono refleja una clara ruptura de la confianza: Anthropic desconfía de la capacidad del Pentágono para utilizar su tecnología de manera responsable, mientras que el Pentágono cuestiona el compromiso de Anthropic con las aplicaciones de su tecnología para la seguridad nacional.
Preocupaciones más amplias sobre el monitoreo y la vigilancia de IA por parte del gobierno
Las discusiones en torno a estos acuerdos de IA se extienden a preocupaciones más amplias sobre el monitoreo y la vigilancia de IA por parte del gobierno. El senador Ron Wyden criticó al Pentágono por no ceder a las preocupaciones de privacidad de datos de Anthropic. Emitió una severa advertencia sobre la capacidad de la IA para construir perfiles detallados de estadounidenses a partir de datos comerciales, calificándolo de "aterradora expansión de la vigilancia masiva", como se destacó en un
press release. Dario Amodei, de Anthropic, enfatizó la necesidad crítica de compromisos más firmes por parte del Departamento de Defensa contra la vigilancia de los estadounidenses, observando que las leyes actuales luchan por mantenerse al día con los rápidos avances en el desarrollo de la IA. La investigación indica que incluso los datos supuestamente anonimizados pueden llevar a la reidentificación de individuos a través de sistemas de IA, como se señaló en unstudy on arXiv.El documento de política del Departamento de Defensa, DoD Instruction 3000.09, describe la política y las responsabilidades para el desarrollo y uso de sistemas de armas autónomas, que se puede encontrar en el
DoD website.
Fuente: publicintelligence.net
El documento de política del Departamento de Defensa, DoD Instruction 3000.09, establece políticas críticas para el desarrollo y uso de sistemas de armas autónomas.
Este documento subraya además la importancia de las consideraciones éticas en el despliegue de la IA. Organizaciones como la
Algorithmic Justice League, the ACLU, and Brookings han detallado extensamente preocupaciones sobre el potencial de la IA para la vigilancia masiva y sus implicaciones para la privacidad y los derechos.El acuerdo entre OpenAI y el Pentágono se firmó el 27 de febrero, notablemente solo unas horas después de que el expresidente Donald Trump emitiera una instrucción para cesar el uso de Claude de Anthropic por parte de las agencias federales.
Preguntas frecuentes
¿Cuál fue la principal controversia en torno al acuerdo de OpenAI con el Pentágono?
La principal controversia se centró en las preocupaciones de que los sistemas de IA de OpenAI pudieran utilizarse para la vigilancia doméstica de ciudadanos estadounidenses y para armas autónomas. La presión pública llevó a OpenAI a revisar su contrato para prohibir explícitamente estos usos.
¿En qué se diferenció la postura de Anthropic de la de OpenAI?
Anthropic se negó sistemáticamente a comprometer sus principios éticos, negándose a permitir que sus sistemas de IA se utilizaran para vigilancia doméstica o armas autónomas letales. Esto llevó a una disputa significativa con el Pentágono, mientras que OpenAI finalmente revisó su contrato para incluir prohibiciones similares.
¿Cuál es el significado de la amenaza de "riesgo de la cadena de suministro" contra Anthropic?
El Secretario de Guerra amenazó con clasificar a Anthropic como un "riesgo de la cadena de suministro", lo que efectivamente prohibiría a todos los contratistas y socios militares de EE. UU. hacer negocios con la empresa. Esto resalta el descontento del Pentágono con la negativa de Anthropic a cooperar en ciertos términos.
¿Cuáles son las implicaciones más amplias de estos acuerdos para la IA y las libertades civiles?
Estos acuerdos plantean importantes preocupaciones sobre el potencial de la IA para expandir la vigilancia masiva y sus implicaciones para la privacidad y los derechos fundamentales. Subrayan la necesidad de directrices éticas sólidas, transparencia en los contratos gubernamentales y leyes que se mantengan al día con el desarrollo de la IA.
Alternativas a ChatGPT
Para los usuarios preocupados por las implicaciones del acuerdo entre OpenAI y el Pentágono, hay varias plataformas de IA alternativas disponibles. La campaña "QuitGPT" recomienda específicamente explorar estas opciones:
| Plataforma de IA | Desarrollador | Notas |
|---|---|---|
| Confer | Varios | Enfoque en IA colaborativa. |
| Alpine | Varios | A menudo utilizado para soluciones empresariales. |
| Lumo | Varios | Soluciones emergentes de IA. |
| Gemini | Modelo de IA avanzado de Google. | |
| Claude | Anthropic | Conocido por su sólida postura ética contra el uso militar para vigilancia/armas. |
Por el contrario, la campaña desaconseja encarecidamente el uso de Grok, desarrollado por la plataforma X de Elon Musk, debido a diversas preocupaciones.
Conclusión
El panorama cambiante de las asociaciones de IA con el ejército de EE. UU. representa una coyuntura crítica tanto para las empresas de tecnología como para los organismos gubernamentales. La demanda pública de directrices éticas sólidas y transparencia en los contratos, particularmente en lo que respecta a la vigilancia y las armas autónomas, sin duda seguirá dando forma a estas relaciones en evolución. Este diálogo continuo es esencial para garantizar que los avances tecnológicos sirvan a la humanidad sin comprometer los derechos y libertades fundamentales.
Copyright © Zerlo.net