Пентагон и Anthropic: Конфликт из-за гарантий безопасности ИИ
Противостояние Пентагона с Anthropic: этика ИИ против национальной безопасности. Десятилетиями идея искусственного интеллекта, принимающего автономные военные решения, прочно относилась к области научной фантастики. Сегодня эта фантастика приближается к реальности, создавая напряженное противостояние между Министерством обороны США и Anthropic, ведущим разработчиком ИИ. В основе этого конфликта лежат не только технологии, но и фундаментальные вопросы об этике, подотчетности и самой природе национальной безопасности в эпоху передового ИИ.
Источник: Собственная иллюстрация
Краткое изложение спора
- Основной конфликт: Министерство обороны США (Пентагон) требует неограниченного использования модели ИИ Claude от Anthropic в военных целях, в то время как Anthropic настаивает на сохранении строгих мер безопасности.
- Позиция Пентагона: Считает, что Anthropic не должен иметь права голоса в том, как его продукты используются военными в "всех законных целях". Угрожает суровыми последствиями, если Anthropic не выполнит требования.
- "Красные линии" Anthropic: Отказывается разрешать использование своего ИИ для полностью автономных кинетических операций (ИИ принимает окончательные решения о наведении без вмешательства человека) или массового внутреннего наблюдения.
- Угрозы со стороны Пентагона: Включают расторжение контракта Anthropic на сумму 200 миллионов долларов, классификацию его как "риска цепочки поставок" и возможное применение Закона о производстве оборонной продукции.
- Позиция Anthropic: Генеральный директор Дарио Амодеи заявляет, что компания скорее откажется от сотрудничества, чем согласится на использование, которое "подрывает демократические ценности". Переговоры "практически не принесли прогресса".
- Более широкие последствия: Спор подчеркивает критическое напряжение между технологическим преимуществом в национальной обороне и этическими соображениями передового ИИ, потенциально устанавливая прецеденты для будущего управления ИИ.
Требование Пентагона о неограниченном использовании ИИ
Министерство обороны США (часто называемое Министерством войны, вторичное обозначение в соответствии с исполнительным указом президента США Дональда Трампа от сентября) оказалось в центре стремительно обостряющегося спора с Anthropic. Конфликт сосредоточен на модели ИИ Claude от Anthropic и настойчивости Пентагона на ее неограниченном использовании в военных применениях.
Источник: caribbeannewsglobal.com
Министр обороны США Пит Хегзет предъявил ультиматум генеральному директору Anthropic, потребовав, чтобы компания разрешила беспрепятственное развертывание своих технологий ИИ для "всех законных целей".
Министр обороны США Пит Хегзет предъявил ультиматум генеральному директору Anthropic Дарио Амодеи, потребовав, чтобы компания разрешила беспрепятственное развертывание своих технологий ИИ для "всех законных целей" к пятнице вечернего срока. Хегзет сделал эту угрозу во время Tuesday meeting with Amodei.
Позиция Пентагона ясна: он считает, что Anthropic не должен иметь права голоса в том, как его продукты используются военными. Это требование не уникально для Anthropic; Министерство обороны стремится к тому, чтобы модели ИИ от различных поставщиков были доступны для "всех законных вариантов использования" в закрытых средах, стандарт, которому недавно следовал xAI Илона Маска accepted for classified work. Также ускоряются переговоры по интеграции моделей OpenAI и Google в эти закрытые операции.
Красные линии Anthropic: автономное оружие и массовое наблюдение
Anthropic, известный своей последовательной позицией разработчика ИИ, заботящегося о безопасности, придерживается строгих "красных линий" в отношении применения своих технологий. К ним относятся запреты на использование своего ИИ в автономных кинетических операциях, где инструменты ИИ принимают окончательные военные решения о наведении без вмешательства человека. Еще одна критически важная граница — использование инструментов Anthropic для массового внутреннего наблюдения за американскими гражданами.
Компания утверждает, что ИИ еще недостаточно надежен для управления полностью автономным оружием, и что адекватных законов или правил, регулирующих ИИ в массовом наблюдении, в настоящее время не существует. Генеральный директор Anthropic Дарио Амодеи изложил позицию компании, заявив, что его организация скорее откажется от сотрудничества с Пентагоном, чем согласится на использование, которое "подрывает демократические ценности, а не защищает их". Он подчеркнул, что такие приложения никогда не входили в число их предыдущих контрактов с Министерством войны и не должны быть таковыми сейчас.
❝ просто недостаточно надежен ❞
Генеральный директор, Anthropic
Источник: healthevolution.com
Генеральный директор Anthropic Дарио Амодеи изложил позицию компании, заявив, что его организация скорее откажется от сотрудничества, чем согласится на использование, которое «подрывает демократические ценности».
Амодеи далее разъяснил эти опасения в блоге компании, объяснив, что ИИ может синтезировать разрозненные данные в исчерпывающие профили отдельных лиц в огромном масштабе. Он подчеркнул поддержку ИИ в законной разведывательной и контрразведывательной деятельности за рубежом, но счел его использование для массового внутреннего наблюдения несовместимым с демократическими ценностями. Что касается автономного оружия, Амодеи предупредил, что даже самые передовые системы ИИ «simply not reliable enough" и могут подвергнуть опасности американских солдат и гражданских лиц без надлежащего надзора и гарантий, которые еще не существуют. Anthropic ранее предлагал сотрудничать с Министерством войны в области исследований и разработок для повышения надежности системы, но предложение не было принято.
Последствия и углубляющийся кризис доверия
Если Anthropic не выполнит требования Пентагона, Хегзет пригрозил суровыми последствиями. К ним относятся, в частности, расторжение текущего контракта Anthropic на сумму 200 миллионов долларов и классификация компании как "риска цепочки поставок". Такая классификация фактически внесет Anthropic в черный список, запретив другим компаниям, имеющим военные контракты, использовать ее продукцию в своей оборонной работе. Это обозначение обычно зарезервировано для организаций, считающихся продолжением иностранных противников, таких как Россия или Китай, как исследуется в this analysis. Хегзет также заявил, что обеспечит применение Закона о производстве оборонной продукции, который может обязать руководителей Anthropic предоставить Пентагону неограниченный доступ в целях национальной безопасности, согласно Lawfare Media.
Несмотря на эти суровые угрозы, Anthropic подтвердил в четверг, что переговоры с Пентагоном "практически не принесли прогресса". Амодеи заявил, что компания не могла принять то, что оборонные чиновники представили как свою "final offer" concerning AI safety protocols. Anthropic отметил, что язык контракта, полученный от Министерства войны, по-прежнему не достиг "практически никакого прогресса в предотвращении использования Claude для массового наблюдения за американцами или в полностью автономном оружии". Более того, новая формулировка, представленная как компромисс, включала юридические положения, которые позволяли игнорировать эти гарантии по желанию.
❝ Независимо от этого, эти угрозы не меняют нашей позиции: мы не можем по совести согласиться с их просьбой. ❞Генеральный директор, Anthropic
Эскалация спора выявила значительный разрыв в доверии между двумя сторонами. В то время как представитель Пентагона, ведущий переговоры с Anthropic, Эмиль Майкл, назвал Амодеи "лжецом" с "божественным комплексом", ставящим под угрозу национальную безопасность, Амодеи возразил, что угрозы "внутренне противоречивы", одновременно определяя Anthropic как риск безопасности и Claude как необходимое для национальной безопасности. Он подтвердил: "Независимо от этого, эти угрозы не меняют нашей позиции: мы не можем по совести принять их просьбу."
❝ лжец ❞
Представитель Пентагона
Позиция Anthropic как компании, ориентированной на безопасность ИИ, оказалась под пристальным вниманием, особенно после сообщений о том, что вооруженные силы США использовали ее модель ИИ Claude в январской операции по аресту бывшего президента Венесуэлы Николаса Мадуро. В то время как Anthropic была первой прорывной компанией в области ИИ, развернувшей свои модели в закрытых сетях и адаптировавшей их для клиентов в области национальной безопасности, модель Claude, как сообщается, была развернута в операции Мадуро через контракт с Palantir. Эта ситуация добавила еще один уровень сложности к текущим дискуссиям.
Источник: deviantart.com
Позиция Anthropic оказалась под пристальным вниманием после сообщений о том, что вооруженные силы США использовали ее модель ИИ Claude в январской операции по аресту бывшего президента Венесуэлы Николаса Мадуро.
FAQ: Спор Anthropic против Пентагона по ИИ
В чем заключается основное разногласие между Anthropic и Пентагоном?
Пентагон требует неограниченного использования модели ИИ Claude от Anthropic для "всех законных целей" в военных приложениях. Anthropic, однако, настаивает на сохранении строгих мер безопасности, особенно против использования в полностью автономном оружии и массовом внутреннем наблюдении.
Какие "красные линии" установила Anthropic для своей технологии ИИ?
Anthropic имеет две основные "красные линии": запрет на использование своего ИИ в автономных кинетических операциях, где ИИ принимает окончательные военные решения о наведении без вмешательства человека, и запрет на его использование для массового внутреннего наблюдения за американскими гражданами.
Каковы потенциальные последствия, если Anthropic не выполнит требования?
Пентагон угрожал расторгнуть контракт Anthropic на 200 миллионов долларов, классифицировать компанию как "риск цепочки поставок" (фактически внести ее в черный список для работы, связанной с военными) и потенциально применить Закон о производстве оборонной продукции для принуждения к соблюдению.
Использовался ли ИИ Anthropic военными ранее?
Да, сообщения указывают на то, что модель ИИ Claude от Anthropic была использована вооруженными силами США в январской операции по аресту бывшего президента Венесуэлы Николаса Мадуро, предположительно через контракт с Palantir. Это добавило сложности к текущему спору.
Заключение
Противостояние между Пентагоном и Anthropic подчеркивает критическое напряжение: стремление к технологическому преимуществу в национальной обороне против этических соображений и вопросов безопасности, присущих разработке передового ИИ. Поскольку срок миновал, Anthropic оставался за столом переговоров, но с сохраняющимися значительными пробелами. Амодеи указал на готовность содействовать плавному переходу к другому поставщику, если Пентагон решит разорвать отношения. Этот конфликт, вероятно, установит прецеденты для взаимодействия компаний-разработчиков ИИ с государственными и военными органами, формируя будущее этики ИИ, национальной безопасности и границ технологической ответственности.