Сделка ChatGPT с Пентагоном: утечки, детали и этические дилеммы
Развивающиеся отношения между мощными разработчиками искусственного интеллекта и Министерством обороны США вызвали ожесточенные споры. Эта динамика полна этических дилемм и имеет глубокие последствия для гражданских свобод. Быстрые изменения и интенсивный общественный дискурс вокруг этих партнерств выявляют глубокое напряжение между технологическим прогрессом и необходимостью общественных гарантий.
Источник: Это изображение представляет собой абстрактное, футуристическое изображение искусственного интеллекта в центре военных действий, символизирующее основную тему интеграции ИИ в оборону.
Краткое изложение ключевых событий
- Пересмотренная сделка OpenAI: Под давлением общественности OpenAI изменила свой контракт с Пентагоном, чтобы явно запретить использование своих систем ИИ для внутреннего наблюдения за гражданами США.
- Комментарии Сэма Альтмана: Генеральный директор OpenAI Сэм Альтман охарактеризовал первоначальную сделку как «оппортунистическую и небрежную» и признал спешку в переговорах.
- Принципиальная позиция Anthropic: Anthropic последовательно отказывалась идти на компромисс со своими этическими принципами, отказываясь разрешать использование своих систем для внутреннего наблюдения или для летального автономного оружия, что привело к значительным трениям с Пентагоном.
- Общественная негативная реакция: Партнерство OpenAI-Пентагон привело к увеличению числа деинсталляций приложения ChatGPT на 200% и протестам, в то время как приложение Claude от Anthropic пережило всплеск популярности.
- Обеспокоенность слежкой: Сенаторы и группы по защите гражданских свобод выразили обеспокоенность по поводу потенциала ИИ для массовой слежки и необходимости большей прозрачности в государственных контрактах.
- Правовая неопределенность: Юридические эксперты призывают к полному раскрытию контракта между OpenAI и Пентагоном, ссылаясь на опасения по поводу применимости заявленных гарантий.
Взаимодействие OpenAI с Пентагоном
OpenAI, ведущий разработчик ИИ, недавно внес существенные изменения в свой контракт с Министерством обороны США. Это произошло после значительного общественного давления, как подробно описано в заявлении от
Sam Altman on X. Суть этих изменений заключается в том, чтобы гарантировать, что системы ИИ OpenAI не будут использоваться для внутреннего наблюдения за гражданами США. Обновленное соглашение теперь явно гласит, что «система ИИ не должна преднамеренно использоваться для внутреннего наблюдения за американскими лицами и гражданами». Альтман подтвердил этот момент вanother X post.Генеральный директор OpenAI Сэм Альтман откровенно назвал первоначальную сделку «оппортунистической и небрежной», что он выразил в
post on X.
Источник: geekwire.com
Генеральный директор OpenAI Сэм Альтман охарактеризовал первоначальное соглашение компании с Министерством обороны США как «оппортунистическое и небрежное»
Он далее уточнил, что разведывательные агентства Министерства обороны, такие как АНБ, не имеют права использовать услуги OpenAI. Катрина Маллиган, глава отдела национальных партнерств в области безопасности OpenAI, подтвердила исключение частей национальной оборонной разведки из контракта в своем X post. OpenAI также опубликовала сообщение в блоге, утверждая, что ее соглашение обеспечивает защиту от использования ее технологий для автономного оружия и массовой слежки. Компания утверждает, что ее сделка с Пентагоном включает «больше гарантий, чем любое предыдущее соглашение для развернутых секретных ИИ, в том числе со стороны Anthropic».
Общественная реакция и внутренние процессы
Объявление о партнерстве OpenAI с Министерством обороны вызвало значительную общественную негативную реакцию. Sensor Tower сообщила о поразительном росте средней ежедневной ставки деинсталляции приложения ChatGPT на 200% по сравнению с обычными показателями. Также вспыхнули протесты перед штаб-квартирой OpenAI в Сан-Франциско, призывая сотрудников ставить под сомнение условия компании и призывая к бойкоту под хэштегами вроде #CancelGPT или #QuitGPT. В противоположность этому, приложение Claude от Anthropic пережило всплеск популярности, заняв первое место в рейтинге Apple App Store вскоре после появления этой новости.
Сам Сэм Альтман признал, что переговоры с Пентагоном были «определенно поспешными», как было сказано в
X post. OpenAI утверждает, что не пошла на уступки, разрешая Пентагону неограниченное использование своих технологий. Боаз Барак, сотрудник OpenAI, заявил, что компания может встроить свои «красные линии» — запрещающие массовую слежку и контроль оружейных систем без вовлечения человека — непосредственно в поведение модели. Однако конкретные различия в защитных правилах OpenAI для военных и обычных пользователей остаются нераскрытыми.Джессика Тилльипман, доцент по праву государственных закупок в Университете Джорджа Вашингтона, отметила, что опубликованный отрывок не предоставляет OpenAI независимого права запрещать иное законное использование правительством, как обсуждалось на ее
blog. Эта двусмысленность побудила юридических экспертов требовать большей прозрачности в отношении полного контракта между OpenAI и Пентагоном. Брайан Макгрейл из Центра по безопасности ИИ, признавая изменения «шагом в правильном направлении», также запросил полный контракт.Принципиальное противостояние Anthropic
В резком контрасте с конечным соблюдением условий OpenAI, Anthropic последовательно отказывалась идти на компромисс со своими этическими принципами ради сделки с Министерством обороны США. Компания твердо отказалась разрешать использование своих систем для внутреннего наблюдения или для контроля летального автономного оружия. Сообщается, что Anthropic была внесена в черный список администрацией Трампа после того, как отказалась отказаться от корпоративного принципа, запрещающего использование ее технологий для полностью автономного оружия. Профессор Мариарозария Таддео из Оксфордского университета выразила обеспокоенность, отметив, что с уходом Anthropic «самый безопасный актер» «выбыл» из потенциальных партнеров Пентагона.
Этот принципиальный подход, однако, не полностью предотвратил использование Claude от Anthropic в конфликте США и Ирана, несмотря на предыдущие запреты. Например, Palantir объявила о партнерстве по предоставлению моделей ИИ для разведывательных и оборонных операций правительства США, как подробно описано в
press release. В свою очередь, Пентагон отказался комментировать свои отношения с Anthropic.Спор о «риске цепочки поставок»
Противоречивая позиция Anthropic вызвала острые критические замечания со стороны Пита Хегсета, военного министра, который публично назвал позицию компании «высокомерием и предательством» в
X post.
Источник: idcrawl.com
Пит Хегсет, военный министр, публично раскритиковал Anthropic, назвав их позицию «высокомерием и предательством» в посте на X.
Хегсет пошел дальше, угрожая классифицировать Anthropic как «риск цепочки поставок». Такое обозначение фактически запретило бы всем подрядчикам и партнерам армии США заниматься коммерческой деятельностью с компанией. Anthropic в ответ заявила о своем намерении подать в суд, если эта угроза материализуется, как опубликовано в
statement on its website. Примечательно, что OpenAI публично выступила против классификации Anthropic как риска цепочки поставок.С тех пор Пентагон выделил шесть месяцев на замену Claude моделями от OpenAI и xAI Илона Маска. Однако предполагаемое развертывание Claude в иранском конфликте всего через несколько часов после запрета подчеркивает практические трудности немедленной замены. Этот текущий спор между Anthropic и Пентагоном отражает явное нарушение доверия: Anthropic не доверяет способности Пентагона использовать свои технологии ответственно, в то время как Пентагон ставит под сомнение приверженность Anthropic применению своих технологий в области национальной безопасности.
Более широкие опасения по поводу государственного мониторинга и слежки с помощью ИИ
Обсуждения, касающиеся этих сделок с ИИ, распространяются на более широкие опасения по поводу государственного мониторинга и слежки с помощью ИИ. Сенатор Рон Уайден раскритиковал Пентагон за то, что он не принял во внимание опасения Anthropic по поводу конфиденциальности данных. Он выступил с резким предупреждением о способности ИИ строить подробные профили американцев на основе коммерческих данных, назвав это «ужасающим расширением массовой слежки», как отмечено в
press release. Дарио Амодеи из Anthropic подчеркнул критическую необходимость более твердых обязательств со стороны Министерства обороны против слежки за американцами, отметив, что нынешние законы с трудом успевают за быстрыми достижениями в разработке ИИ. Исследования показывают, что даже предположительно анонимные данные могут привести к повторной идентификации лиц с помощью систем ИИ, как отмечено вstudy on arXiv.В документе Министерства обороны DoD Instruction 3000.09 изложена политика и обязанности по разработке и использованию автономных систем вооружения, который можно найти на
DoD website.
Источник: publicintelligence.net
В документе Министерства обороны DoD Instruction 3000.09 изложены критически важные правила разработки и использования автономных систем вооружения.
Этот документ еще больше подчеркивает важность этических соображений при развертывании ИИ. Такие организации, как
Algorithmic Justice League, the ACLU, and Brookings подробно описали опасения по поводу потенциала ИИ для массовой слежки и его последствий для конфиденциальности и прав.Сделка между OpenAI и Пентагоном была подписана 27 февраля, примечательно, всего через несколько часов после того, как бывший президент Дональд Трамп издал распоряжение о прекращении использования Claude от Anthropic федеральными агентствами.
Часто задаваемые вопросы
В чем заключалась основная спорная ситуация вокруг сделки OpenAI с Пентагоном?
Основная спорная ситуация была связана с опасениями, что системы ИИ OpenAI могут быть использованы для внутреннего наблюдения за гражданами США и для автономного оружия. Общественное давление привело к тому, что OpenAI пересмотрела свой контракт, чтобы явно запретить такое использование.
Чем позиция Anthropic отличалась от позиции OpenAI?
Anthropic последовательно отказывалась идти на компромисс со своими этическими принципами, отказываясь разрешать использование своих систем ИИ для внутреннего наблюдения или летального автономного оружия. Это привело к значительному спору с Пентагоном, в то время как OpenAI в конечном итоге пересмотрела свой контракт, включив аналогичные запреты.
В чем заключается значимость угрозы «риска цепочки поставок» против Anthropic?
Военный министр угрожал классифицировать Anthropic как «риск цепочки поставок», что фактически запретило бы всем подрядчикам и партнерам армии США вести дела с компанией. Это подчеркивает недовольство Пентагона отказом Anthropic сотрудничать на определенных условиях.
Каковы более широкие последствия этих сделок для ИИ и гражданских свобод?
Эти сделки вызывают серьезные опасения по поводу потенциала ИИ для расширения массовой слежки и его последствий для конфиденциальности и основных прав. Они подчеркивают необходимость надежных этических руководств, прозрачности в государственных контрактах и законов, которые идут в ногу с развитием ИИ.
Альтернативы ChatGPT
Для пользователей, обеспокоенных последствиями сделки OpenAI с Пентагоном, доступны несколько альтернативных платформ ИИ. Кампания «QuitGPT» специально рекомендует изучить эти варианты:
| Платформа ИИ | Разработчик | Примечания |
|---|---|---|
| Confer | Различные | Фокус на совместном ИИ. |
| Alpine | Различные | Часто используется для корпоративных решений. |
| Lumo | Различные | Новые решения в области ИИ. |
| Gemini | Продвинутая модель ИИ от Google. | |
| Claude | Anthropic | Известна своей сильной этической позицией против военного использования для наблюдения/оружия. |
Напротив, кампания настоятельно не рекомендует использовать Grok, разработанный платформой X Илона Маска, из-за различных опасений.
Заключение
Нестабильный ландшафт партнерств в области ИИ с вооруженными силами США представляет собой критический момент как для технологических компаний, так и для государственных органов. Требования общественности к надежным этическим руководствам и прозрачности в контрактах, особенно касающихся слежки и автономного оружия, несомненно, будут продолжать формировать эти развивающиеся отношения. Этот продолжающийся диалог необходим для обеспечения того, чтобы технологические достижения служили человечеству, не ставя под угрозу основные права и свободы.
Авторские права © Zerlo.net