Искусственный интеллект в сфере обороны Великобритании 2022-2023

Это заявление о политике следует читать вместе со Стратегией оборонного ИИ до 2022 года.

Управляющее резюме

Стратегия оборонного ИИ излагает наше видение стратегических возможностей и проблем, связанных с появлением ИИ как преобразующей и революционной новой технологии. Осознание преимуществ ИИ и противодействие угрозам и проблемам, связанным с использованием ИИ другими, является одной из важнейших стратегических задач нашего времени.

ИИ позволит нашим людям эффективно использовать ранее невообразимые объемы данных. Это улучшит принятие решений и достижение оперативного эффекта. Существуют веские доводы в пользу разработки и использования системы ИИ там, где она будет явно полезной или приведет к более этичному результату. В эпоху растущей глобальной конкуренции и ограниченности ресурсов крайне важно, чтобы мы добились максимальной эффективности и действенности, используя ИИ во всем спектре оборонной деятельности.

Мы также признаем, что природа ИИ порождает риски и опасения по поводу возможного воздействия на людей. Они могут быть особенно острыми в контексте обороны. Если мы не решим их, мы рискуем потерять общественное согласие, увидев, что наша способность действовать подорвана, и усугубить безответственное поведение других, не говоря уже о подрыве нашей способности обеспечивать оборонный потенциал.

В Министерстве обороны это будет достигнуто за счет ряда частично совпадающих подходов. Мы будем:

• установить четкие организационные намерения и цели по внедрению и использованию ИИ, подкрепленные определенными ролями и обязанностями, как указано в Стратегии оборонного ИИ;
• продолжать применять наши надежные режимы безопасности и регулирования;
• всегда соблюдать наши национальные и международные юридические обязательства; а также
• установить четкую структуру и процессы для обеспечения этического принятия технологии.

Это позитивный план эффективного, инновационного и ответственного внедрения ИИ. По сути, лучший способ разработать системы искусственного интеллекта для обороны, отвечающие нашим оперативным потребностям и отражающие ценности тех, кому мы служим, — это: установить амбициозное направление; обеспечивать ясность и определенность наших подходов; и предоставить уверенность коллегам в обороне, промышленности и обществе в целом, тем самым демонстрируя надежность.

Искусственный интеллект в сфере обороны Великобритании 2022-2023

Амбициозная реализация возможностей

Мы стремимся всесторонне использовать ИИ, ускоряя ввод в эксплуатацию «лучших в своем классе» возможностей с поддержкой ИИ, чтобы сделать все части обороны значительно более эффективными и действенными. Для этого мы должны гарантировать, что мы всегда амбициозны в том, как мы внедряем ИИ в возможности обороны, где ИИ является подходящим инструментом для внедрения. Мы не будем внедрять ИИ ради него самого; это не «конец» сам по себе.

Мы рассчитываем, что наш подход позволит, а не ограничит внедрение и использование решений и возможностей на основе ИИ в обороне. Мы обеспечим команды, разрабатывающие и внедряющие концепции, технологии и решения, для изучения амбициозных идей и вариантов использования. Мы предоставим им четкие рамки для поддержки раннего выявления и устранения рисков безопасности, правовых и этических рисков; это придаст им уверенности в том, что они смогут использовать весь потенциал технологии, соблюдая при этом политику и другие важные требования. Мы будем поощрять их к выявлению более широких факторов, препятствующих их прогрессу, таких как политика или процесс, в надежде на то, что соответствующие решения будут найдены и быстро реализованы.

Мы хотим использовать творческий подход и инновации, присущие оборонному и частному секторам. Это включает в себя необходимые подходы к решению проблем, чтобы воплотить эти амбициозные варианты использования в жизнь надлежащим образом. Поскольку риски и проблемы могут существовать в отношении любой части «системы систем» на протяжении всего жизненного цикла возможности, мы ясно понимаем, что решения могут быть найдены аналогичным образом для всей «системы систем» и жизненного цикла.

Другими словами, проблема может заключаться не в том, «для чего» предназначена возможность, а в том, «как» она это делает и как мы обеспечиваем эффективное и надлежащее использование ИИ внутри нее. Мы позаботимся о том, чтобы на нашем предприятии были приняты подходящие методы для «разработки» проблем, и что мы тщательно тестируем решения с поддержкой ИИ. Дополнительную информацию можно найти в Стратегии оборонного ИИ.

В качестве универсальной технологии ИИ называют «новым электричеством». ^{[сноска 1]} Очевидно, что существуют важные различия. Один полезный момент для сравнения заключается в том, что первоначальное планирование создания крупной системы (в конечном итоге работающей от электричества) будет сосредоточено на желаемом результате и уровне амбиций. Обсуждение может касаться в основном видения и готовности раздвинуть границы, хотя планировщики также рассматривают возможные маршруты доставки и, вероятно, знают о технических ограничениях.

Первоначальное планирование обычно не зависело от обсуждения того, означает ли вероятное включение электричества возможность безопасной и ответственной доставки системы. Эти проблемы будут решаться систематически путем проектирования, производства, использования в эксплуатации и утилизации, даже если это потребует изменений в операционных подходах или дополнительных исследований и разработок для предоставления технических решений.

Это похоже на то, как мы думаем об ИИ. Мы исходим из убеждения, что ИИ — это мощный инструмент, и что мы должны быть уверены в своем видении возможностей ИИ. Таким образом, безопасные и ответственные результаты являются функцией общеоборонных процессов, а не заранее установленных ограничений, которые рискуют оказаться произвольными, ограничивающими и привычно устаревшими, учитывая скорость технического прогресса.

Наш подход и оружие с искусственным интеллектом

Мы сосредоточимся на результатах, изучая амбициозные варианты, а не отфильтровывая идеи или концепции, пока они еще находятся на чертежной доске. Мы не исключаем включение ИИ в системы вооружения. На практике, однако, некоторые концепции и возможности могут оказаться невозможными для безопасного и ответственного применения, и мы очень четко понимаем, что должно быть соответствующее контексту участие человека в оружии, которое идентифицирует, выбирает и атакует цели. Это может означать некоторую форму человеческого наблюдения в режиме реального времени или контроль, осуществляемый посредством настройки рабочих параметров системы.

Мы считаем, что искусственный интеллект может существенно повысить производительность наших сотрудников и значительно расширить наши возможности. Однако, учитывая опасения по поводу этики и рисков делегирования определенных решений ИИ, также важно заявить, что мы не считаем, что «более автономный» обязательно означает «более способный». Мы считаем, что взаимодействие человека и машины ^{[сноска 2]} дает наилучшие результаты с точки зрения общей эффективности, оптимального использования ресурсов, практичности интеграции и легкости, с которой мы можем решать возникающие проблемы; поэтому это наш подход к внедрению ИИ по умолчанию.

Надлежащая степень «автономии» системы и тип «человеческого контроля» должны тщательно рассматриваться в каждом конкретном случае.

Взгляд на системы с поддержкой ИИ с технологической точки зрения: точная степень автономии с поддержкой ИИ, необходимая для любой конкретной возможности или компонента, будет зависеть от конкретного характера системы или концепции ее использования. Операционные результаты обычно зависят от скорости и точности с точки зрения оценки, а затем действий. Они могут быть включены в очень высокой степени без необходимости делегирования проблемных уровней свободы действий или суждений ИИ.

Глядя на те же системы с точки зрения людей: мы можем осуществлять удовлетворительный и строгий человеческий контроль над системами с поддержкой ИИ, не всегда требуя какой-либо формы человеческого наблюдения в реальном времени. Действительно, это может действовать как ненужное и неуместное ограничение на эксплуатационные характеристики. Например, для защиты морской платформы от гиперзвукового оружия могут понадобиться оборонительные системы, способные обнаруживать входящие угрозы и открывать огонь быстрее, чем человек может среагировать.

Еще один важный момент заключается в том, что все новое оружие, средства и методы ведения войны подлежат тщательной проверке на соответствие международному гуманитарному праву и другим применимым нормам международного права. Определения в отношении необходимого масштаба и применения соответствующего контексту участия человека будут проводиться аналогичным образом систематически. Мы также корректируем наши операционные процедуры, чтобы гарантировать, что мы остаемся в рамках действующего законодательства.

Этот подход отражен в нашей политике в отношении международных дебатов по «смертоносным автономным системам оружия», более подробно изложенной в Приложении C.

Ключевые проблемы внедрения искусственного интеллекта в обороне

Использование ИИ в оборонном контексте поднимает ряд взаимосвязанных вопросов и задач, которые необходимо учитывать командам разработчиков и пользователям. Это включает:

• Алгоритмическая предвзятость: риск того, что необъективные наборы данных, используемые для обучения систем ИИ, могут привести к дискриминационным результатам и несоразмерному вреду для определенных групп пользователей;
• Ответственность и подотчетность: необходимость обеспечения того, чтобы делегирование задач или решений системам ИИ не приводило к «разрыву ответственности» между системами, которые принимают решения или дают рекомендации, и ответственными за них людьми-командирами;
• Непредсказуемость: риск того, что некоторые системы ИИ могут вести себя непредсказуемо, особенно в новых или сложных условиях, или по мере того, как они учатся и адаптируются с течением времени;
• Непреднамеренные последствия и стимулы: потенциал систем с поддержкой ИИ оказывать непреднамеренные побочные эффекты на поведение человека за счет включения определенных стимулов или влияния на другие системы сверх их предполагаемого эффекта;
• Последствия для людей: необходимость иначе думать о том, что ожидается от людей, и о влиянии ИИ на людей, поскольку системы с поддержкой ИИ создают возможности для автоматизации «скучных, грязных или опасных» задач; а также;
• Человеческий контроль: при использовании систем с поддержкой ИИ в целях обороны необходимо понимать соответствующую форму участия человека, необходимую для любого данного приложения или контекста.

Эти проблемы могут возникать по отдельности или в сочетании. Некоторые создают проблемы с безопасностью, требуя от нас убедиться, что наш ИИ не причинит непреднамеренного вреда или опасности при его использовании. Некоторые из них вызывают этические проблемы, требуя от нас убедиться, что использование нами технологии соответствует нашим ценностям и ценностям общества, которое мы представляем. Некоторые из них являются важными элементами обеспечения того, чтобы конкретная возможность соответствовала нашим внутренним и международным правовым обязательствам (например, в отношении защиты данных, конфиденциальности или международного гуманитарного права).

При правильном решении этих вопросов мы должны поддерживать доверие и добрую волю наших основных заинтересованных сторон, включая наш обслуживающий персонал, союзников и партнеров в частном секторе. Без этого мы рискуем замедлить внедрение инноваций, упустить важные возможности для сотрудничества и сократить общественное согласие на использование этих технологий.

Применяя безопасный и ответственный подход к ИИ, у нас также есть возможность подать положительный пример другим, поощряя безопасное и ответственное использование ИИ во всем мире.

Для достижения этих результатов мы создаем четкую структуру, которая обеспечит поддержку и ясность для команд в обороне и за ее пределами, которые разрабатывают и эксплуатируют наши системы с поддержкой ИИ.

Безопасное использование ИИ

Ряд ключевых проблем, связанных с внедрением ИИ для обороны, создает особые проблемы с безопасностью.

Непредсказуемость некоторых систем ИИ, особенно при их применении в новых и сложных условиях, увеличивает риск возникновения непредвиденных проблем при их использовании. Относительные трудности с интерпретацией того, как некоторые формы систем ИИ обучаются и принимают решения, создают новые проблемы для тестирования, оценки и сертификации таких систем. Кроме того, высокое потенциальное влияние систем с поддержкой ИИ для обороны повышает ставки потенциальных побочных эффектов или непредвиденных последствий, особенно когда они могут причинить вред тем, кто с ними взаимодействует.

В целом, это не новая задача для Департамента. Защита связана законодательством Великобритании и имеет надежный режим соблюдения. Оборонная деятельность также включает в себя те, которые опасны по своей природе и требуют дополнительного управления рисками, выходящего за рамки наших уставных обязательств.

В тех случаях, когда у Министерства обороны есть определенные отступления, исключения или отказ от применения законодательства и правил Великобритании, политика и практика Министерства заключаются в том, чтобы поддерживать механизмы, которые, насколько это практически возможно, дают результаты, которые, насколько это практически возможно, по крайней мере не хуже тех, которые требуются законодательством Великобритании. Это отражено в документе «Здоровье, безопасность и охрана окружающей среды» (HS&EP) in Defense – Заявление о политике министра обороны.

Таким образом, строгое соблюдение правил безопасности необходимо для использования Defence любой новой технологии.

Управление безопасности обороны (DSA) вносит свой вклад в оборонный потенциал, репутацию и эффективность путем разработки и обеспечения соблюдения правил обороны в отношении здоровья, безопасности и защиты окружающей среды, а также поддерживает министерство обороны, предоставляя независимую, основанную на фактических данных гарантию.

DSA проводит сканирование горизонта в отношении развития возможностей ИИ. DSA будет продолжать устанавливать оборонные правила и проводить правоприменительную деятельность в рамках эксплуатационных возможностей, а также будет изучать, как можно обеспечить возможности ИИ в будущем.

В рамках DSA Отдел расследования происшествий Министерства обороны (DAIB) предоставляет Министерству обороны возможность расследования авиационных происшествий и инцидентов, проводя беспристрастные и экспертные расследования безопасности без вины во всех областях, уделяя особое внимание выявлению и пониманию всех факторов аварии. Сюда могут входить несчастные случаи, связанные с возможностями ИИ.

Легальное использование ИИ

Деятельность защиты регулируется рядом законодательных положений, которые гарантируют, что наша работа осуществляется в соответствии с законом. Этот закон защищает основные свободы и права человека, в то же время предоставляя Министерству обороны полномочия, необходимые для обеспечения безопасности граждан в современном мире.

Защита всегда стремится соблюдать свои юридические обязательства по всему спектру деятельности, от трудового права до конфиденциальности и закупок, а также права вооруженных конфликтов, также известного как международное гуманитарное право (МГП). В компании действуют надежные методы и процессы, обеспечивающие соблюдение закона ее деятельностью и ее сотрудниками. Эти методы и процессы применяются и будут применяться к возможностям с поддержкой ИИ.

Развертывание возможностей ИИ в вооруженных конфликтах должно полностью соответствовать МГП, удовлетворяя четырем основным принципам различия, необходимости, гуманности и соразмерности. Мы совершенно ясно понимаем, что использование любой системы или оружия, которые не удовлетворяют этим основополагающим принципам, представляло бы собой нарушение международного права. ^{[сноска 3]}

Юридические проверки статьи 36 гарантируют, что командиры, военнослужащие, политики, британская общественность и наши союзники могут быть уверены в том, что британское оружие является законным. Дополнительный протокол 1 к Женевской конвенции требует «при изучении, разработке, приобретении или принятии на вооружение нового оружия, средств или метода ведения войны. . . определить, будет ли его использование при некоторых или всех обстоятельствах запрещено [Дополнительным протоколом I] или любой другой [применимой] нормой международного права».

Таким образом, как и в случае с любой новой и появляющейся технологией, Министерство обороны осознает необходимость быть в курсе любых юридических проблем, которые могут возникнуть в связи с использованием ИИ в обороне, будь то в качестве средства или метода ведения войны или в качестве «бэк-офиса». ‘ и имеет надежные процессы проверки.

Этическое использование ИИ

MOD посвящен защите жителей Великобритании, территорий, ценностей и интересов дома и за рубежом. Мы должны соблюдать этику — и быть замеченными в этичности — при разработке и использовании ИИ для защиты ценностей Великобритании и сохранения доверия и поддержки наших граждан, ключевых заинтересованных сторон, союзников и партнеров. Это включает в себя признание потенциальных случаев, когда ИИ может быть важным инструментом, помогающим нам добиваться этических результатов, и когда не использовать ИИ может быть неэтично.

Поэтому мы разработали этические принципы использования ИИ в обороне (Приложение А), призванные направить наш общий подход к технологиям и системам с поддержкой ИИ во всем диапазоне возможных вариантов использования, от бэк-офиса до поддержки принятия решений и возможностей боевого пространства. ^{[сноска 4]} Они будут применяться к нашей разработке и использованию ИИ на протяжении всего их жизненного цикла, а также к системам с поддержкой ИИ: платформам, процессам или системам, частью которых является ИИ. Эти принципы будут:

• управлять нашим подходом к ключевым проблемам ИИ, в частности обеспечивая руководство ответственной разработкой, обучением и использованием (см. раздел «Внедрение»)
• составляют основу подхода Великобритании к созданию согласованных норм для ИИ в обороне на международном уровне, работая с партнерами и союзниками над формированием глобального развития ИИ в направлении свободы, открытости и демократии.
• предоставить характеристики для систем ИИ, которым, как ожидается, будут следовать команды Министерства обороны при разработке новых систем с поддержкой ИИ.

Изложение принципов является ключевым шагом на пути к обеспечению ответственного и безопасного подхода к технологии. Эффективное внедрение и развитие принципов потребуется для обеспечения того, чтобы наша разработка ИИ соответствовала нашим требованиям к безопасным и ответственным инновациям.

Партнерство и консультации

Для разработки этих Принципов Министерство обороны работало в партнерстве с Центром этики и инноваций в области данных (CDEI). CDEI, первый в мире в своем роде, возглавляет работу правительства Великобритании по созданию надежных инноваций с использованием данных и искусственного интеллекта. Под руководством консультативного органа, состоящего из всемирно признанных экспертов, Центр работает с партнерами из государственного сектора, промышленности и научных кругов в Великобритании и за рубежом, чтобы выявлять и устранять барьеры на пути к ответственным инновациям. Принципы MOD являются результатом более чем 18 месяцев консультаций с более чем 100 заинтересованными экспертами со всего мира. ^{[сноска 5]}

В рамках процесса консультаций Министерство обороны созвало Консультативную группу по этике ИИ, группу экспертов в области компьютерных наук, этики ИИ и военной этики. Эта группа гарантировала, что Министерство обороны извлекло пользу из знаний специалистов и задач, и сыграла решающую роль в поддержке разработки Принципов. Более подробная информация о его роли и текущем составе доступна в Приложении B.

Продолжая реализацию этих подходов, наша приверженность прозрачности и консультациям с промышленностью и союзниками сохранится. Мы продолжим работать с CDEI по мере развития этой области, чтобы убедиться, что наш текущий подход соответствует передовой практике ответственной работы. Мы также продолжим активно взаимодействовать с ведущими экспертами из академических кругов и отрасли, в том числе с Консультативной группой по этике.

Управление

Это заявление о политике следует рассматривать вместе со Стратегией обороны в области искусственного интеллекта до 2021 года, в которой содержится более подробная информация по широкому спектру вопросов и действий в области искусственного интеллекта, имеющих отношение к обороне.

В соответствии с моделью управления, изложенной в Стратегии:

• 2-й постоянный секретарь (2-й PUS) и заместитель начальника штаба обороны будут контролировать и управлять деятельностью, связанной с ИИ, в Министерстве обороны.
• 2-й PUS несет особую ответственность за политику в области искусственного интеллекта в Министерстве обороны, включая надзор за нашей этической базой и ответственность за принятие мер в рамках делегированной модели для обеспечения эффективной реализации.
• Постоянный секретарь (PUS) по-прежнему отвечает за здоровье, безопасность и защиту окружающей среды при поддержке главного операционного директора (COO) и директора по охране труда и охране окружающей среды.
• 2-й PUS (и другие высокопоставленные должностные лица по мере необходимости) будут поддерживаться (с точки зрения разработки политики) Отделом оборонного ИИ и автономии (DAU), входящим в состав оборонной науки и технологий (DST), и консультироваться со стороны Консультативной группы по этике ИИ. Научные и технические консультации будут предоставляться главным научным советником Министерства обороны (при поддержке DST и Лаборатории оборонных наук и технологий (Dstl)) и директором по информационным технологиям (при поддержке Defense Digital). Независимые технические консультации и обзор будут предоставлены Экспертным комитетом по оборонным наукам (DSEC).
• Ответственные за бюджет высшего уровня (TLB) и руководители агентств торговых фондов являются старшими ответственными за безопасность и несут ответственность за назначение ответственных в своей организации, которые управляют деятельностью, которая может быть опасной для жизни. В каждой организации TLB будет ответственный сотрудник, ответственный за реализацию этики ИИ.

Внедрение – построение оправданного доверия

Изложив в этом документе наш общий подход к амбициозному, безопасному и ответственному внедрению ИИ, эффективная реализация будет иметь решающее значение. Мы должны максимизировать выгоду, которую мы извлекаем из ИИ, а также демонстрировать надежность как с точки зрения широты нашего портфолио инструментов и возможностей с поддержкой ИИ, так и с точки зрения специфики отдельных вариантов использования. Эти две цели связаны. Обеспечение безопасного, надежного и ответственного использования ИИ не препятствует инновациям; это ключ к сотрудничеству и обеспечению того, чтобы системы обеспечивали нужные нам результаты.

Таким образом, наш подход будет таким:

• направленность вовне: мы будем прозрачными, будем последовательно взаимодействовать и принимать вызовы со стороны промышленности, научных кругов, гражданского общества, международных партнеров и союзников;
• применяется на протяжении всего жизненного цикла системы ИИ: группы защиты смогут сформулировать, как безопасный и ответственный подход соблюдается на протяжении всего жизненного цикла системы ИИ, охватывающего все линии развития защиты;
• зависит от контекста: широкий спектр потенциальных вариантов использования ИИ в обороне означает, что применение подходов к политике не может быть единообразным или зависящим от технологии, а должно учитывать особые требования каждого проекта.

Приложение A: Этические принципы использования ИИ в обороне

Преамбула: Наше намерение в отношении этического использования ИИ в обороне

Министерство обороны стремится ответственно разрабатывать и развертывать системы с поддержкой ИИ таким образом, чтобы укреплять доверие и консенсус, устанавливая международные стандарты этического использования ИИ для обороны. Министерство обороны будет разрабатывать и развертывать системы с поддержкой ИИ для целей, которые явно выгодны: обеспечение оперативных улучшений, поддержка цели обороны и защита прав человека и демократических ценностей.

Существующие обязательства министерства обороны в соответствии с законодательством Великобритании и международным правом, в том числе, в соответствующих случаях, международным гуманитарным правом (МГП) и международным правом в области прав человека, служат основой для разработки, развертывания и эксплуатации систем с искусственным интеллектом. Эти этические принципы не влияют на существующие юридические обязательства и не заменяют их. Вместо этого они устанавливают этические рамки, которые будут определять подход Министерства обороны к внедрению ИИ в соответствии со строгими существующими кодексами поведения и правилами.

Эти принципы применимы ко всему спектру вариантов использования ИИ в обороне, от боевых действий до бэк-офиса, а также на протяжении всего жизненного цикла этих систем.

Первый принцип: человекоцентричность

Воздействие систем с искусственным интеллектом на людей необходимо оценивать и учитывать, учитывая весь спектр как положительных, так и отрицательных эффектов на протяжении всего жизненного цикла системы.

Независимо от того, являются ли они персоналом Министерства обороны США, гражданскими лицами или объектами военных действий, к людям, взаимодействующим с системами с поддержкой ИИ для обороны или затронутым ими, следует относиться с уважением. Это означает оценку и тщательный анализ воздействия систем с искусственным интеллектом на людей, полный учет человеческого разнообразия и обеспечение как можно более положительного воздействия. Эти последствия должны отдавать приоритет человеческой жизни и благополучию, а также более широким заботам человечества, таким как воздействие на окружающую среду, принимая во внимание военную необходимость. Это относится ко всем видам использования систем с поддержкой ИИ, от бэк-офиса до поля боя.

Выбор в пользу разработки и развертывания систем ИИ является этическим, и его следует принимать с учетом последствий для человека. Использование определенных систем, в которых негативные последствия для человека перевешивают преимущества, может быть неэтичным. И наоборот, могут быть веские этические аргументы в пользу разработки и использования системы ИИ, если она будет явно полезной или приведет к более этичному результату.

Второй принцип: Ответственность

Ответственность человека за системы с поддержкой ИИ должна быть четко установлена, обеспечивая подотчетность за их результаты, с четко определенными средствами, с помощью которых человек осуществляет контроль на протяжении всего их жизненного цикла.

Повышенная скорость, сложность и автоматизация систем с поддержкой ИИ могут усложнить наше понимание ранее существовавших концепций человеческого контроля, ответственности и подотчетности. Это может происходить за счет сортировки и фильтрации информации, представляемой лицам, принимающим решения, автоматизации процессов, ранее управляемых человеком, или процессов, с помощью которых системы с поддержкой ИИ обучаются и развиваются после их первоначального развертывания. Тем не менее, как уникальные моральные агенты, люди всегда должны нести ответственность за этичное использование ИИ в обороне.

Ответственность человека за использование систем с искусственным интеллектом в обороне должна подкрепляться четким и последовательным определением средств, с помощью которых осуществляется человеческий контроль, а также характера и ограничений этого контроля. В то время как уровень человеческого контроля будет варьироваться в зависимости от контекста и возможностей каждой системы с поддержкой ИИ, способность осуществлять человеческое суждение об их результатах имеет важное значение.

Независимо от варианта использования, ответственность за каждый элемент системы с поддержкой ИИ и определение ответственности за риски должны быть четко определены от разработки до развертывания, включая повторное развертывание в новых контекстах, до вывода из эксплуатации. Сюда входят случаи, когда системы представляют собой сложные сочетания компонентов ИИ и компонентов, не связанных с ИИ, от нескольких разных поставщиков. Таким образом, определенные аспекты ответственности могут выходить за рамки команды, развертывающей конкретную систему, на другие функции в рамках Министерства обороны или за ее пределами, на третьи стороны, которые создают или интегрируют системы с поддержкой ИИ для обороны.

В совокупности эти формулировки человеческого контроля, ответственности и владения рисками должны обеспечивать четкую отчетность за результаты любой системы с поддержкой ИИ в обороне. Не должно быть развертывания или использования без четкого разграничения ответственности и подотчетности, что не должно быть принято назначенным ответственным лицом, если оно не будет удовлетворено тем, что оно может осуществлять контроль, соизмеримый с различными рисками.

Третий принцип: понимание

Системы с поддержкой ИИ и их результаты должны быть должным образом поняты соответствующими лицами, а механизмы, обеспечивающие это понимание, должны быть явной частью проектирования системы.

Эффективное и этичное принятие решений в обороне, от фронта боевых действий до оперативных операций, всегда подкрепляется надлежащим пониманием контекста теми, кто принимает решения. Персонал обороны должен иметь соответствующее, зависящее от контекста понимание систем с поддержкой ИИ, с которыми они работают и работают вместе.

Этот уровень понимания, естественно, будет различаться в зависимости от знаний, необходимых для этичного поведения в данной роли и в данной системе. Это может включать понимание общих характеристик, преимуществ и ограничений систем ИИ. Для этого может потребоваться знание целей системы и правильной среды для использования, включая сценарии, в которых система не должна развертываться или использоваться. Также может потребоваться понимание производительности системы и возможных состояний отказа. Наши люди должны быть соответствующим образом обучены и компетентны, чтобы работать с этими инструментами или понимать их.

Чтобы обеспечить это понимание, мы должны быть в состоянии убедиться, что наши системы с поддержкой ИИ работают должным образом. Хотя природа некоторых систем машинного обучения как «черного ящика» означает, что их трудно полностью объяснить, мы должны иметь возможность проверять как системы, так и их результаты на уровне, который удовлетворяет тех, кто должным образом формально несет ответственность и подотчетен. Механизмы для интерпретации и понимания наших систем должны быть важной и четкой частью проектирования системы на протяжении всего жизненного цикла.

Это требование контекстно-зависимого понимания, основанного на технически понятных системах, должно распространяться не только на министерство обороны, но и на коммерческих поставщиков, союзные войска и гражданское население. Хотя абсолютная прозрачность в отношении работы каждой системы с поддержкой ИИ нежелательна и нецелесообразна, общественное согласие и сотрудничество зависят от общего понимания в зависимости от контекста. То, что делают наши системы, как мы намерены их использовать, и наши процессы для обеспечения положительных результатов в результате их использования должны быть максимально прозрачными в рамках необходимых ограничений контекста национальной безопасности.

Четвертый принцип: предвзятость и снижение вреда

Лица, ответственные за системы с поддержкой ИИ, должны активно снижать риск неожиданных или непреднамеренных смещений или вреда, возникающих в результате этих систем, будь то в ходе их первоначального развертывания или по мере их изучения, изменения или повторного развертывания.

Системы с поддержкой ИИ предлагают значительные преимущества для обороны. Однако использование систем с поддержкой ИИ также может причинить вред (помимо того, который уже принят в соответствии с существующими этическими и правовыми нормами) тем, кто их использует или затронут их развертыванием. Они могут варьироваться от вреда, вызванного отсутствием надлежащей конфиденциальности личных данных, до непреднамеренного военного вреда из-за непредсказуемости системы. Такой вред может меняться со временем по мере того, как системы учатся и развиваются, или по мере того, как они развертываются за пределами своих первоначальных настроек. Особую озабоченность вызывает риск дискриминационных результатов в результате алгоритмической предвзятости или искаженных наборов данных. Защита должна гарантировать, что ее системы с поддержкой ИИ не приведут к несправедливой предвзятости или дискриминации в соответствии с текущими стратегиями Министерства обороны США по разнообразию и интеграции.

Принцип предвзятости и уменьшения вреда требует оценки и, по возможности, смягчения этих предубеждений или вреда. Это включает в себя устранение предвзятости при принятии алгоритмических решений, тщательное отслеживание и управление наборами данных, установку мер безопасности и пороговых значений производительности на протяжении всего жизненного цикла системы, управление воздействием окружающей среды и применение строгих критериев разработки для новых систем или существующих систем, применяемых в новом контексте.

Пятый принцип: надежность

Системы с поддержкой ИИ должны быть явно надежными, надежными и безопасными.

Системы MOD с поддержкой ИИ должны быть достаточно надежными; они должны соответствовать намеченным критериям проектирования и развертывания и работать так, как ожидалось, в пределах допустимых параметров производительности. Эти параметры необходимо регулярно пересматривать и тестировать, чтобы обеспечить их надежность на постоянной основе, особенно по мере того, как системы с поддержкой ИИ учатся и развиваются с течением времени или развертываются в новых условиях.

Учитывая уникальный оперативный контекст Министерства обороны и проблемы информационной среды, этот принцип также требует, чтобы системы с поддержкой ИИ были безопасными, а также надежный подход к кибербезопасности, защите данных и конфиденциальности.

Персонал Минобороны, работающий с системами с поддержкой ИИ или вместе с ними, может завоевать доверие к этим системам, убедившись, что у них есть соответствующий уровень понимания производительности и параметров этих систем, как сформулировано в принципе понимания.

Приложение B: Консультативная группа Министерства обороны по этике искусственного интеллекта

Консультативная группа MOD AI по этике является неофициальным консультативным советом 2-го постоянного министра обороны в его роли старшего ответственного лица по этике AI в министерстве.

Цель группы состоит в том, чтобы объединить мнения экспертов из Министерства обороны, научных кругов, промышленности и гражданского общества для консультирования 2-го постоянного секретаря по вопросам разработки политики, касающейся безопасной и ответственной разработки и использования ИИ.

Группа носит только консультативный характер и не имеет формальных полномочий по принятию решений, но будет нести ответственность за тщательное изучение текущего подхода Министерства обороны к ответственному и этичному ИИ. Эксперты были назначены министерством обороны на основе их опыта в области разработки ИИ, этики ИИ, военной этики и международного права.

На момент публикации текущая комиссия собиралась три раза и сыграла ключевую роль в обеспечении тщательного изучения и предоставлении рекомендаций по разработке этических принципов и потенциальных методов реализации. Комиссия не участвовала в создании политики, связанной с автономными системами смертоносного оружия, а также политики департамента в отношении безопасности ИИ.

Текущий состав группы выглядит следующим образом:

Лоуренс Ли, 2-й постоянный министр обороны (председатель)

Профессор Дапо Аканде, директор Оксфордского института этики, права и вооруженных конфликтов

Профессор Ник Колозимо, глобальный научный сотрудник и технолог, BAE systems и приглашенный профессор Крэнфилдского университета (Центр автономных и киберфизических систем).

Д-р Мерел Экельхоф, сотрудник по обмену валют в Объединенном центре искусственного интеллекта Министерства обороны США и бывший ведущий исследователь по искусственному интеллекту и автономии в ЮНИДИР, присутствовала на панели в своем личном качестве.

Табита Голдстауб, основатель CognitionX и председатель Совета по искусственному интеллекту

Д-р Даррелл Джая-Ратнам, управляющий директор DIEM Analytics

Профессор Питер Ли, профессор прикладной этики Портсмутского университета

Профессор дама Анджела Маклин, главный научный советник Министерства обороны

Ричард Мойес, управляющий директор и соучредитель, Статья 36

Профессор Гопал Рамчурн, директор Центра надежных автономных систем UKRI и Университета Саутгемптона

Полли Скалли, директор по стратегии Министерства обороны

профессор Мариаросариа Таддео, доцент и старший научный сотрудник Оксфордского института Интернета Оксфордского университета; Научный сотрудник Dstl по этике, Институт Алана Тьюринга.

Генерал-лейтенант Роли Уокер, заместитель начальника штаба обороны по военной стратегии и операциям

Профессор Дэвид Уетэм, профессор этики и военной профессии, Королевский колледж Лондона

Доминик Уилсон, генеральный директор по политике безопасности, Министерство обороны

ПРИЛОЖЕНИЕ C: Летальные автономные системы вооружения (LAWS)

Визы в Англию для работы. Какую выбрать визу для работы в Англии? Все виды и типы виз в Англию для россиян в 2022-2023 году.

Телеграм канал ВикиВиза https://t.me/wikivisa

Чат и оперативные ответы по визам https://t.me/wikivisa_chat