Стратегия искусственного интеллекта министерства обороны Великобритании

Год назад мы опубликовали Комплексный обзор, взяв на себя обязательство укреплять безопасность и оборону и модернизировать наши вооруженные силы. Тогда мы предупредили, что эти шаги являются необходимым ответом на ухудшение глобальной обстановки в области безопасности, в том числе на угрозы со стороны государства. С тех пор незаконное вторжение России в Украину вернуло в самое сердце Европы все ужасы войн индустриальной эпохи. Трагические события, разворачивающиеся на Украине, являются ярким напоминанием о важности обеспечения того, чтобы наши вооруженные силы могли противостоять обычным военным вызовам, которые, как мы надеялись, наш континент оставил позади в 20-м веке.

Однако мы также отметили, что живем в эпоху упорной глобальной конкуренции, для которой характерны гибридные и подпороговые угрозы. Ужасающее вторжение России в Украину стирает любую грань между войной и миром, но ему предшествовала многолетняя злонамеренная деятельность. Будучи солидарны с мировым сообществом, бросая вызов действиям путинского режима, мы признаем, что оборона должна быть актуальной и эффективной во всех сферах конкуренции и конфликтов.

Чтобы справиться с этими различными проблемами, оборона должна уделять приоритетное внимание исследованиям, разработкам и экспериментам, сохраняя стратегическое преимущество за счет использования инновационных концепций и передовых технологических достижений, а искусственный интеллект является одной из технологий, необходимых для модернизации обороны. Представьте себе солдата на передовой, обученного работе в высокоразвитых синтетических средах, управляемого портативными устройствами управления и контроля, анализирующего и рекомендующего различные варианты действий, получающего данные из базы данных, собирающей и обрабатывающей самую свежую информацию от сотен небольших дронов, захватывающих тысячи часов отснятый материал. Представьте себе автономные системы снабжения и боевые машины, доставляющие припасы и эффекты более эффективно, не подвергая опасности наших людей.

ИИ обладает огромным потенциалом для расширения возможностей, но слишком часто о нем говорят как о потенциальной угрозе. Системы с искусственным интеллектом действительно представляют угрозу нашей безопасности в руках наших противников, и крайне важно, чтобы мы не уступали им жизненно важное преимущество. Мы также признаем, что использование ИИ во многих контекстах, особенно военными, вызывает серьезные проблемы. Мы относимся к этому очень серьезно, но подумайте на мгновение о количестве устройств с поддержкой ИИ, которые есть у вас дома, и спросите себя, не должны ли мы использовать ту же технологию для защиты себя и наших ценностей. Мы должны быть амбициозными в стремлении к стратегическим и оперативным преимуществам с помощью ИИ, соблюдая при этом стандарты, ценности и нормы общества, которому мы служим, и демонстрируя надежность.

Эта стратегия определяет, как мы будем внедрять и использовать ИИ в нужном темпе и масштабе, превращая оборону в организацию, «готовую к ИИ», и предоставляя передовые возможности; как мы будем укреплять партнерские отношения с британской индустрией искусственного интеллекта; и как мы будем сотрудничать на международном уровне, чтобы формировать глобальные разработки ИИ для обеспечения безопасности, стабильности и демократических ценностей. Он является ключевым элементом национальной стратегии в области искусственного интеллекта и укрепляет место Министерства обороны в основе стремления правительства к стратегическому преимуществу с помощью науки и технологий.

Достопочтенный Бен Уоллес, член парламента

Обзор стратегии оборонного ИИ — Искусственный интеллект министерства обороны Великобритании

Наше видение состоит в том, что с точки зрения ИИ мы будем самой эффективной, действенной, надежной и влиятельной оборонной организацией в мире для нашего размера.

Задача 1: Превратить Defense в организацию, готовую к использованию ИИ.

Действия для достижения цели 1: Повышение квалификации руководителей и рабочей силы, набор ключевых специалистов; решать проблемы политики; модернизировать цифровые, информационные и технологические инструменты.

Задача 2: внедрить и использовать искусственный интеллект в нужном темпе и масштабе для получения преимущества в обороне.

Действия для достижения цели 2: Организация для достижения успеха; Используйте краткосрочные и долгосрочные возможности; систематические эксперименты; Сотрудничайте на международном уровне.

Задача 3: Укрепить экосистему искусственного интеллекта в области обороны и безопасности Великобритании.

Действия для достижения цели 3: Укрепить доверие и уточнить требования; Устранение коммерческих барьеров; Стимулировать участие и совместное творчество; Поддерживайте рост бизнеса.

Задача 4: Формировать глобальные разработки в области искусственного интеллекта для обеспечения безопасности, стабильности и демократических ценностей.

Действия для достижения цели 4: Поддерживать ответственное глобальное развитие ИИ; способствовать безопасности и стабильности; Разработка будущей политики безопасности.

Четыре результата внедрения ИИ для обороны: преимущество в принятии решений, эффективность, открытие новых возможностей, усиление всей силы.

Управление ИИ в обороне: у ИИ в обороне нет единого владельца. Каждое бизнес-подразделение и функция играют важную роль, если мы хотим достичь наших целей.

• Головной офис Министерства обороны США: установите политику и стратегию в области ИИ, определите цели возможностей, направьте стратегические программы и обеспечьте общую согласованность.
• Бизнес-подразделения/функциональные руководители: используйте наиболее подходящие для них формы ИИ, руководствуясь настоящей Стратегией и указаниями головного офиса.
• Стратегическое командование: Обеспечьте стратегическую и оперативную интеграцию в областях боевых действий.

Общая стратегическая согласованность управляется совместно Отделом искусственного интеллекта и автономии обороны (DAU) и Центром искусственного интеллекта обороны (DAIC). DAU устанавливает стратегические рамки политики, регулирующие разработку, внедрение и использование ИИ. DAIC является координационным центром по исследованиям и разработкам в области ИИ и техническим вопросам.

Что такое искусственный интеллект?

Министерство обороны понимает искусственный интеллект (ИИ) как семейство технологий общего назначения, любая из которых может позволить машинам выполнять задачи, обычно требующие человеческого или биологического интеллекта, особенно когда машины учатся на основе данных, как выполнять эти задачи.

Диаграмма Венна, показывающая 3 круга: первый — это наука о данных, которая включает прогнозную аналитику, модели классификации на основе данных, управление данными, описательный анализ, визуализацию и механизмы правил, пересекается со вторым: искусственный интеллект, включая механизмы правил, не связанные с Обработка естественного языка на основе ML и символьная логика. Третий круг, машинное обучение, полностью находится внутри второго круга и перекрывает первый. Машинное обучение включает в себя обработку естественного языка, речь, зрение, прогнозную аналитику и модели классификации на основе данных.

Пересекающиеся технологии:

• ИИ: машины, которые выполняют задачи, обычно требующие человеческого интеллекта, особенно когда машины учатся на основе данных, как выполнять эти задачи. — Национальная стратегия Великобритании по искусственному интеллекту
• Машинное обучение: компьютерные алгоритмы, которые могут «обучаться», находя закономерности в выборочных данных, а затем применяя их к новым данным для получения полезных результатов, часто с использованием нейронных сетей. — Институт Алана Тьюринга
• Наука о данных: исследования, которые включают обработку больших объемов данных, чтобы дать представление о реальных проблемах. — Институт Алана Тьюринга

Уровни надзора и контроля

Диаграмма, показывающая Autonomy Spectrum Framework, представленную в виде градиента слева направо: от ручного управления к автоматизации и к автономности. Начиная слева и двигаясь вправо:

1. Управляется человеком
2. Помощь оператору — система помогает оператору
3. Автономность задач — система может независимо выполнять заранее заданные задачи, инициированные оператором.
4. Условная автономия — оператор выбирает действие, которое будет выполняться под наблюдением в определенных условиях.
5. Высокая автономность — системы принимают независимые решения в рамках целей, определенных человеком.

В этих категориях находятся ключевые вспомогательные технологии и методы. Всю ширину диаграммы охватывают автоматизация бизнес-процессов, роботизированные системы (физические) и наука о данных. От «автономии задач» — узкий ИИ, а под «высокоавтономным» — общий ИИ.

Надлежащий уровень человеческого надзора, проверки и контроля будет варьироваться в зависимости от конструкции системы, целей миссии и оперативного контекста.

Управляющее резюме

Наше видение состоит в том, что с точки зрения ИИ мы будем самой эффективной, действенной, надежной и влиятельной оборонной организацией в мире для нашего размера:

• Эффективность — благодаря предоставлению боевых возможностей и вспомогательных функций, а также с точки зрения нашей способности сотрудничать и сотрудничать с союзниками Великобритании и экосистемой ИИ;
• Эффективность — за счет инновационного использования технологий для предоставления возможностей, проведения операций и реализации преимуществ производительности в нашей организации;
• Нам доверяют — общественность, наши партнеры и наши люди, за безопасность и надежность наших систем ИИ, а также за нашу четкую приверженность законному и этичному использованию ИИ в соответствии с нашими основными ценностями;
• Влиятельный — с точки зрения формирования глобального развития технологий ИИ и управления проблемами, связанными с ИИ, для достижения положительных результатов, совместной работы и подачи примера.

В Интегрированном обзоре (2021 г.) подчеркивается, что национальное превосходство в области ИИ имеет решающее значение для обеспечения статуса Великобритании как «научно-технической сверхдержавы» к 2030 г. экономического роста и преобразования всех сфер жизни. Интегрированная операционная концепция (2020 г.) описывает, как всепроникающая информация и быстрые технологические изменения меняют характер ведения войны. По всему спектру военных операций конфликт становится все более сложным и динамичным. Новые технологии генерируют огромные объемы данных, открывают новые угрозы и уязвимости и расширяют масштабы потенциальных атак за счет передовых возможностей следующего поколения (таких как роящиеся дроны, высокоскоростное оружие и современные кибератаки).

Эти технологии — и рабочий темп, который они обеспечивают, — вероятно, значительно сократят время принятия решений, нагрузят пределы человеческого понимания и часто потребуют ответов со скоростью машины. Как отмечается в документе Defense Command Paper (2021 г.), «будущие конфликты могут быть выиграны или проиграны в зависимости от скорости и эффективности используемых решений ИИ». В то же время информационные операции приобретают все большее значение для противодействия ложным нарративам, отвлекающим внимание, прикрывающим злонамеренные действия и подрывающим общественную поддержку. Короче говоря, происходит радикальный переворот в обороне, и стратегическая конкуренция, связанная с ИИ, усиливается. Наш ответ должен быть быстрым, амбициозным и всеобъемлющим.

В этой стратегии излагается, как мы будем решать эту важную стратегическую задачу. Его должны прочитать все высшие руководители министерства обороны и широко распространить по всей организации, потому что ИИ влияет на всех. Это имеет особое значение для всех, кто участвует в развитии и преобразовании сил обороны, чьи структуры и процессы будут играть ключевую роль в реализации и доставке, но каждая часть обороны должна определить те элементы, которые имеют к ним отношение, и действовать соответствующим образом.

Мы должны превратиться в организацию, «готовую к ИИ». Мы будем активно внедрять изменения в нашу культуру, навыки и политику, обучая лидеров, повышая квалификацию рабочей силы и укрепляя подразделение оборонного ИИ и автономии. Мы создадим структуру навыков оборонного ИИ и новые пути карьерного роста и развития ИИ. Мы осознаем, что данные являются критически важным стратегическим активом, и будем соответствующим образом обрабатывать и использовать их. Мы реализуем Цифровую стратегию для обороны (2021 г.) и Стратегию использования данных для обороны (2021 г.), а также создадим новую цифровую магистраль и оборонный центр искусственного интеллекта. Некоторые элементы этой трансформации (особенно средства реализации цифровых технологий и данных) будут поставляться или поддерживаться на основе всей системы обороны в соответствии с новой технической стратегией ИИ.

Мы должны внедрить и использовать искусственный интеллект в нужном темпе и масштабе для обеспечения оборонного преимущества, установив искусственный интеллект в качестве одного из наших главных приоритетов и ключевого источника стратегического преимущества в рамках наших стратегий развития потенциала и процессов развития сил. Наша возможность и наша проблема заключаются в огромном количестве приложений ИИ в нашей организации. В ближайшем будущем мы повысим нашу эффективность, результативность и производительность за счет систематического развертывания и внедрения «ИИ сейчас»: зрелой науки о данных, машинного обучения и передовых методов вычислительной статистики. Параллельно мы будем инвестировать в AI Next: передовые исследования и разработки в области ИИ, интегрированные в наши более широкие направления исследований и разработок. В основе нашего подхода к внедрению ИИ и развитию эффективного взаимодействия человека и машины лежат интегрированные междисциплинарные группы доставки. сочетая человеческое познание, изобретательность и ответственность с аналитическими возможностями машины. Мы создадим центр для оценки и устранения уязвимостей и угроз системы ИИ. Мы будем тесно сотрудничать с союзниками и партнерами, разрабатывая инновационные решения для решения общих проблем, разделяя при этом бремя поддержания нишевых, но важных возможностей разработки и тестирования ИИ.

Мы должны стимулировать и поддерживать британскую экосистему ИИ для обороны и безопасности, основываясь на обязательствах, изложенных в Промышленной стратегии обороны и безопасности (2021 г.) и Национальной стратегии ИИ. Наша способность использовать эти технологии основана на жизнеспособности нашей промышленной и академической базы искусственного интеллекта. Мы будем отстаивать и поддерживать нашу национальную экосистему ИИ как самостоятельный стратегический актив, создавая более динамичное и интегрированное партнерство. Мы будем укреплять связи с сектором, создавая новую сеть искусственного интеллекта для обороны и национальной безопасности, способствуя обмену талантами и совместному творчеству, сообщая масштабный сигнал о спросе для поощрения инвестиций гражданского сектора в связанные с обороной исследования и разработки в области искусственного интеллекта и упрощая доступ к оборонным данным. и активы. Мы продолжим совершенствовать нашу систему сбора данных, чтобы обеспечить более высокую скорость и гибкость доставки. Мы также предпримем шаги по расширению возможностей для малых и средних предприятий, модернизации подходов к регулированию и максимальному использованию и коммерциализации принадлежащей Министерству обороны интеллектуальной собственности, связанной с искусственным интеллектом. Мы будем делать все это в Министерстве обороны, в то же время более широко поддерживая переход к экономике с поддержкой ИИ, используя преимущества инноваций в Великобритании.

Мы должны формировать глобальные разработки в области искусственного интеллекта для обеспечения безопасности, стабильности и демократических ценностей. По мере того как ИИ становится все более распространенным, он существенно изменит динамику глобальной безопасности. Это станет ключевым направлением геостратегической конкуренции не только как средство для получения технологического и коммерческого преимущества, но и как поле битвы для конкурирующих идеологий. Мы будем формировать развитие ИИ в соответствии с целями и ценностями Великобритании, продвигая этические подходы и влияя на глобальные нормы и стандарты в соответствии с демократическими ценностями. Мы будем способствовать безопасности и стабильности, обеспечивая надлежащую защиту технологических достижений Великобритании, противодействуя распространению вредных технологий и изучая механизмы для укрепления доверия и минимизации рисков, связанных с использованием ИИ в военных целях. По мере того как мы разрабатываем наши политики безопасности для отражения проблем, связанных с ИИ, мы будем сохранять широкое представление о последствиях и угрозах, учитывая экстремальные и даже экзистенциальные риски, которые могут возникнуть, и активно взаимодействуя с союзниками и партнерами. Мы будем выступать за снижение стратегических рисков и стремиться к налаживанию диалога, чтобы снизить риск стратегических ошибок, неправильного толкования и просчетов. Мы позаботимся о том, чтобы — независимо от использования ИИ в наших стратегических системах — политический контроль человека над нашим ядерным оружием всегда сохранялся.

1. Введение

Перед нами стоит стратегический императив: адаптироваться и преуспеть в использовании таких технологий, как искусственный интеллект (ИИ), или все больше отставать от наших союзников и конкурентов. Проблемы далеко идущие и фундаментальные, и мы должны быть амбициозными.

1.1 Глобальный технологический контекст

Комплексный обзор определяет быстрые технологические изменения как важнейшую стратегическую задачу. Новые технологии разрабатываются и внедряются быстрее, чем когда-либо прежде, вызывая глубокие изменения в наших обществах, политике и экономике и ускоряя появление угроз. В то время как прорывные открытия осуществляются правительством и университетами, промышленность и коммерческие возможности являются ключевыми двигателями инноваций. Глобальная конкуренция за редкие таланты является жесткой. Технологии — это арена обостряющейся и все более критической конкуренции между государствами, как с точки зрения процветания и безопасности, так и как выражение различных взглядов на общество.

Злоумышленники вкладывают значительные средства, чтобы бросить вызов нашему технологическому превосходству и угрожать нашим интересам. Мы все чаще наблюдаем враждебные действия против наших обществ, экономик и демократий, которые трудно обнаружить, сложно бросить вызов и еще труднее сдержать. Наша будущая безопасность, устойчивость, международное положение и процветание будут определяться нашей способностью понимать, использовать и адаптироваться к быстрым технологическим изменениям.

1.1.1 Значение искусственного интеллекта

ИИ — это, пожалуй, самая трансформирующая, вездесущая и революционная новая технология с огромным потенциалом для изменения правил целых отраслей, стимулирования существенного экономического роста и преобразования всех сфер жизни общества. Он станет частью большинства будущих продуктов и услуг, которые станут движущей силой 4-й промышленной революции и повлияют на все аспекты нашей жизни. Эта Стратегия определяет ИИ как семейство технологий общего назначения, любая из которых может позволить машинам выполнять задачи, которые традиционно требуют человеческого или биологического интеллекта, особенно когда машины учатся выполнять эти задачи на основе данных; например, распознавание закономерностей, обучение на собственном опыте, прогнозирование и выполнение действий.

Защитные приложения для ИИ простираются от корпоративного или бизнес-пространства — «бэк-офиса» — до передовой: помогают повысить скорость и эффективность бизнес-процессов и вспомогательных функций; повышение качества принятия решений и темпов операций; повышение безопасности и устойчивости взаимосвязанных сетей; увеличение массы, стойкости, досягаемости и эффективности наших вооруженных сил; и защищать наших людей от вреда, автоматизируя «скучные, грязные и опасные» задачи.

Возможность дополнить или заменить человеческий интеллект поднимает фундаментальные вопросы о наших отношениях с технологиями, личных и социальных последствиях больших данных, а также о возможностях человеческого участия, прав и ответственности в эпоху принятия решений на основе данных и машинной скорости. . Тем не менее, широкое использование и внедрение этих технологий непреодолимо: те, кто успешно внедряет и адаптирует, будут процветать; неудачник отстанет. Осознание преимуществ ИИ и противодействие возникающим угрозам может стать одной из самых важных стратегических задач нашего времени.

Великобритания будет подавать пример, работая с партнерами по всему миру, чтобы гарантировать, что международные соглашения включают наши этические ценности, и ясно давать понять, что прогресс в области ИИ должен быть достигнут ответственно и безопасно, в соответствии с демократическими нормами и верховенством закона.

1.1.2 Угрозы ИИ

Использование ИИ противниками усилит угрозы выше и ниже порога вооруженного конфликта. У ИИ есть потенциал для расширения как передовых военных возможностей, так и более простых недорогих «коммерческих» продуктов, доступных для широкого круга государственных и негосударственных субъектов. Противники стремятся использовать ИИ во всем спектре военных возможностей, включая наступательные и оборонительные кибернетические, удаленные и автономные системы, ситуационную осведомленность, планирование миссий и целеуказание, оперативный анализ и военные игры, а также для поддержки принятия военных решений на тактическом, оперативном и стратегическом уровнях.

Склонность противников к риску предполагает, что они, вероятно, будут использовать ИИ способами, которые мы сочли бы неприемлемыми по юридическим, этическим соображениям или соображениям безопасности. Точно так же злоумышленники будут использовать целый ряд информационных, кибернетических и физических средств для атаки на наши системы искусственного интеллекта и подрыва уверенности в их производительности, безопасности и надежности (например, путем «отравления» наших данных, повреждения аппаратных компонентов в нашей цепочке поставок или вмешательства в коммуникацию). и команды).

1.1.3 Соревнование ИИ

Глобальная конкуренция за преимущества с помощью ИИ является интенсивной. Союзники, противники и системные конкуренты вкладывают значительные средства в развитие исследовательского потенциала, максимизируют доступ к талантам и ускоряют вывод решений на рынок. Великобритания обладает значительными преимуществами и признана центром искусственного интеллекта. Наш процветающий сектор искусственного интеллекта стоит более 15,6 млрд фунтов стерлингов и считается одним из самых инновационных и продуктивных в мире. Наш динамично развивающийся цифровой сектор, стоимость которого в 2018 году оценивается в 149 млрд фунтов стерлингов, создает инновационные предприятия, производит «единорогов» и нанимает высококвалифицированных специалистов по всей Великобритании, занимая третье место в мире по количеству компаний, занимающихся искусственным интеллектом. В то время как США в настоящее время являются мировым лидером в области технологий ИИ (например, в исследованиях и патентах, в инвестициях правительства и частного сектора, а также в диапазоне, охвате и размере их промышленной базы ИИ), Китай значительно ускорил развитие своей собственной экосистемы ИИ, чтобы выйти на мировой уровень во многих аспектах, включая развитие AI Talent. Десятки стран опубликовали амбициозные стратегии ИИ для обеспечения экономических, социальных преимуществ и преимуществ в области безопасности. Это открывает большие возможности для сотрудничества, хотя возможности должны быть сбалансированы с рисками для национальной безопасности.

1.2 Наш ответ

У нас есть хорошие возможности для того, чтобы воспользоваться возможностями ИИ, извлекая выгоду из наших национальных сильных сторон в области НИОКР, согласовываясь с более широкими целями, изложенными в Национальной стратегии ИИ, для поощрения долгосрочных инвестиций и планирования, поддержки перехода к экономике, основанной на ИИ, и оптимизировать национальное и международное управление. В обороне реализуется более 200 программ исследований и разработок, связанных с ИИ, от приложений машинного обучения до исследований «поколение за следующим»; и охватывает области от автономных кораблей и роящихся дронов до управления талантами и профилактического обслуживания.

Это многообещающее начало, но необходимо срочно внести пошаговые изменения, если мы хотим использовать ИИ в темпах и масштабах, необходимых для противодействия развивающейся угрозе. В этой стратегии изложен комплексный ответ на возможности и разрушительное воздействие ИИ, а также краткосрочные и среднесрочные действия, которые мы предпримем для решения этих проблем и катализа технологического сдвига, который происходит раз в поколение во всех сферах нашего бизнеса. , в нашей операционной деятельности и в наших партнерских отношениях.

Наши цели:

• трансформироваться в организацию, готовую к ИИ, инвестируя в критически важные факторы и формируя культуру, подходящую для информационной эпохи;
• внедрить и использовать искусственный интеллект в нужном темпе и масштабе для получения преимуществ в сфере обороны, реализуя как амбициозные, сложные проекты, так и более простые итеративные подходы;
• укреплять экосистему искусственного интеллекта в сфере обороны и безопасности в Великобритании, признавая фундаментальную необходимость работы с партнерами в правительстве, промышленности и научных кругах;
• формировать глобальные разработки ИИ для продвижения безопасности, стабильности и демократических ценностей, распространяя влияние на международном уровне и работая с союзниками.

1.3 Амбициозное, безопасное и ответственное использование ИИ

ИИ обладает исключительным потенциалом в качестве универсальной технологии. Мы намерены реализовать его преимущества во всей нашей организации, от «бэк-офиса» до боевого пространства. Мы особенно стремимся поставлять и эксплуатировать системы и платформы мирового класса с поддержкой ИИ, включая системы вооружения с поддержкой ИИ.

Однако мы признаем, что использование ИИ во многих контекстах, особенно военными, вызывает серьезные проблемы. Есть опасения по поводу справедливости, предвзятости, надежности и характера человеческой ответственности и подотчетности. (Например, есть хорошо задокументированные случаи вербовки программного обеспечения, демонстрирующего расовую или гендерную предвзятость). Непреднамеренные или неожиданные результаты с поддержкой ИИ могут иметь особенно серьезные последствия в контексте эксплуатации. Мы очень серьезно относимся ко всем этим вопросам.

1.3.1 Наше обязательство как ответственного пользователя ИИ

В Национальной стратегии искусственного интеллекта говорится, что государственный сектор Великобритании будет лидировать, показывая пример безопасного и этичного развертывания искусственного интеллекта посредством того, как он регулирует собственное использование технологии. Стремясь к стратегическому и оперативному преимуществу с помощью ИИ, мы полны решимости поддерживать стандарты, ценности и нормы общества, которому мы служим, и демонстрировать надежность.

Поэтому мы опубликовали детали нашего подхода, который будет «амбициозным, безопасным, ответственным». Военные возможности и операции Великобритании всегда будут соответствовать нашим национальным и международным обязательствам. Мы будем поддерживать строгие и надежные процессы и стандарты безопасности, гарантируя, что наши существующие подходы к безопасности и регулированию в Министерстве обороны применяются к ИИ. Однако наш подход применим везде, где используется ИИ в обороне, на протяжении всего жизненного цикла системы, и он руководствуется надежными этическими принципами, разработанными в сотрудничестве с Центром этики и инноваций данных (CDEI). Этот подход не только обеспечивает план ответственного ИИ, но и лучший способ обеспечить быстрое, эффективное и инновационное внедрение ИИ, предоставляя нашим сотрудникам и нашим партнерам в промышленности и академических кругах (включая такие органы, как Совет по ИИ,

1.3.2 Наша приверженность нашим людям

Наше стремление к возможностям с поддержкой ИИ не изменит нашего мнения о том, что наши люди — наш лучший актив. ИИ обладает огромным потенциалом для улучшения и поддержки их работы (например, позволяя аналитикам осмысливать все большие объемы данных), но мы понимаем, что некоторые проблемы требуют человеческого творчества и контекстуального мышления, и что реальное воздействие военных действий требует применения человеческий суд и ответственность. Мы не будем упрощенно предполагать, что ИИ по своей сути снижает требования к рабочей силе, даже если он меняет действия, которые нам нужны, чтобы люди выполняли. Там, где внедрение ИИ затронет сотрудников, мы поддержим их и поможем найти новые роли и навыки.

Мы понимаем, что должны использовать ИИ, чтобы свести к минимуму риски, с которыми сталкиваются наши люди. В рамках нашего подхода к ответственному ИИ мы также признаем важность того, чтобы наши люди не подвергались юридической опасности при использовании новых технологий.

Машины умеют делать все правильно (например, быстро обрабатывать большие наборы данных). Люди умеют делать правильные вещи (например, оценивать сложную, неполную, быстро меняющуюся информацию, руководствуясь такими ценностями, как справедливость). Таким образом, объединение человека и машины будет нашим подходом по умолчанию к внедрению ИИ как по этическим, так и по юридическим причинам, а также для реализации «эффекта мультипликатора», который возникает в результате сочетания человеческого познания и изобретательности с аналитическими возможностями машины.

2 Превратитесь в организацию, готовую к ИИ

Оборона должна быстро перейти от объединенных сил индустриальной эпохи к гибким интегрированным силам информационной эпохи, чтобы опережать противников в условиях все более сложной и динамичной среды угроз. Быстрое и систематическое внедрение ИИ — там, где это правильное решение — станет важным элементом реализации этой цели.

В этой главе изложены основополагающие «факторы реализации», которые срочно необходимы для надлежащей подготовки обороны к широкому внедрению ИИ. Всем организациям и функциям необходимо будет решить свою «готовность к ИИ» — с ключевыми элементами и поддержкой, предоставляемой по защите функциональными владельцами (особенно цифровыми) — на основе следующего подхода:

2.1 Культура, навыки и политика

Наши внутренние системы и процессы часто не успевают за теми, которые используются для цифровой трансформации в частном секторе. Мы должны превратиться в предприятие с интенсивным использованием программного обеспечения, организованное и мотивированное для оценки и использования данных, готовое терпеть повышенный риск, учиться на собственном опыте и быстро переориентироваться на достижение успеха и эффективности. Мы должны иметь возможность разрабатывать, тестировать и развертывать новые алгоритмы быстрее, чем наши противники. Мы должны быть гибкими и интегрированными, способными выявлять и интерпретировать угрозы на скорости машины с междоменной культурой, необходимой для защиты, использования, реагирования и восстановления в режиме реального времени.

Это задача для всей системы обороны в контексте национального дефицита навыков ИИ. Мы должны повысить понимание ИИ на всех уровнях: обеспечить, чтобы лидеры могли ориентироваться в ажиотаже, использовать возможности и действовать как умные «клиенты» и сторонники услуг ИИ; повышение грамотности в области искусственного интеллекта в наших профессиональных сообществах (особенно среди сотрудников, занимающихся политикой, юридическими и коммерческими вопросами); растущий опыт в области глубокого кодирования ИИ и инженерных навыков в Whole Force, в том числе с нашими партнерами в отрасли; и создание информированной пользовательской базы, обладающей знаниями и уверенностью в эффективном использовании новых возможностей. Мы увеличим разнообразие людей, работающих с искусственным интеллектом и разрабатывающих его, чтобы наилучшим образом отразить и защитить общество.

Национальная стратегия в области искусственного интеллекта определяет действия правительства по трем направлениям привлечения и обучения лучших людей: тех, кто создает искусственный интеллект, тех, кто использует искусственный интеллект, и тех, кого мы хотим вдохновлять искусственным интеллектом. Мы будем работать с Управлением по ИИ (OAI) и коллегами в правительстве, подключаясь к этим национальным программам, где это уместно, включая программы, обеспечивающие большую гибкость и мобильность талантов ИИ во всем мире, чтобы оборона оставалась в авангарде разработки и развертывания ИИ. .

2.1.1 Стратегическое планирование навыков оборонного ИИ

Наша способность добиваться результатов в решающей степени зависит от нашей способности развивать, привлекать и удерживать квалифицированных специалистов в сфере обороны. Тем не менее, глобальный рынок талантов ИИ очень интенсивен, и Минобороны рискует столкнуться с серьезной нехваткой навыков, если мы не будем действовать быстро и решительно. Мы должны понимать наши требования к навыкам ИИ по всем направлениям, модернизировать наше предложение по найму и удержанию и действовать стратегически, чтобы у нас были нужные люди в нужных местах для работы. Мы будем:

• разработать структуру навыков ИИ для обороны в целом, согласованную с общей структурой навыков обороны, определяя требования к навыкам в обороне, поскольку каждой организации потребуется сочетание навыков ИИ, подходящих для ее деятельности;
• выявлять и устранять политические барьеры, чтобы мы могли набирать нужные таланты и навыки, разрабатывая варианты надбавок к ИИ для стимулирования найма, повышения квалификации и удержания, а также изучая гибкие способы найма элитных талантов, включая боковой вход;
• установить контрольные показатели для найма и удержания в соответствии с ключевыми категориями, активно отслеживая «узкие места» рабочей силы ИИ и обеспечивая уверенность в достижимости местных планов и устойчивости критически важных возможностей.

2.1.2 Использование самых ярких умов для решения задач ИИ

Эффективным междисциплинарным командам по разработке и внедрению ИИ требуется ряд специалистов, в том числе специалисты по данным, разработчики ИИ, инженеры по машинному обучению и аналитики ИИ. Карьера ИИ в обороне должна быть признана привлекательным и многообещающим выбором для этого высококвалифицированного таланта. Параллельно с этим мы должны максимально использовать существующих людей, выявляя и развивая людей, которые имеют способности и отношение к карьере ИИ. Мы будем:

• назначить руководителя отдела искусственного интеллекта (находящегося в Центре оборонного искусственного интеллекта (DAIC), описанного в разделе 2.2.3), ответственного за структуру навыков искусственного интеллекта, разработку нашего предложения по найму и развитию, установление стандартов для навыков группы доставки (особенно для новых или новое развертывание ИИ) — работа с оборонными цифровыми, данными и технологиями (DDaT) и киберпрофессиями, FLC, CDP и государственной цифровой службой;
• создать пути карьерного роста и развития ИИ, принадлежащие руководителю отдела ИИ, с вариантами как для глубоких специалистов, так и для квалифицированных специалистов широкого профиля. Это будет основываться на существующих «лучших в своем классе» инициативах в сфере обороны (например, обучение кодированию JHub) и в более широком плане (например, «Ускоритель науки о данных»);
• разработать новые механизмы для выявления и взращивания талантов ИИ в обороне, потенциально включая проверку способностей, гибкие пути входа в новую профессию ИИ и схемы стимулирования для поощрения прохождения продвинутых технических курсов;
• изучить варианты унифицированного управления карьерой военных специалистов по искусственному интеллекту, аналогично модели, которая была создана для киберпрофессионалов. Осведомленность и понимание ИИ должны быть включены в программы военной подготовки, и мы рассмотрим варианты создания специальной Академии ИИ в составе Академии обороны;
• укрепить существующие академические партнерства и изучить варианты использования поддерживаемых государством мероприятий на уровне лучших специалистов, докторов наук и магистров. Это включает в себя стипендии Тьюринга, центры докторантуры, аспирантуру, финансируемую промышленностью, и курсы по преобразованию ИИ. Мы изучим схемы размещения для студентов AI Masters, чтобы получить практический опыт в области обороны, и будем работать с национальными программами навыков, чтобы увеличить количество британских талантов в критических областях;
• использовать больше специалистов-резервистов, адаптируя мероприятия по набору персонала для привлечения людей, разбирающихся в данных, чтобы мы могли эффективно использовать более широкий кадровый потенциал ИИ в Великобритании — важный компонент Whole Force.

2.1.3 Лидерство ИИ на всех уровнях

Отсутствие понимания не может быть препятствием для эксплуатации ИИ. Руководители всех уровней должны быть готовы оценить преимущества, которые может предоставить ИИ, риски, на которые им необходимо обращать внимание, и любые этические и социальные последствия, которые могут возникнуть (при этом технические знания различаются в зависимости от роли). Мы будем:

• обязать всех старших руководителей министерства обороны иметь фундаментальное и стратегическое понимание ИИ и его последствий для их организации;
• Предоставлять целевые продукты для привлечения и поддержки лидеров «среднего звена», обеспечивая их обучение и понимание, необходимые для выявления и использования возможностей, связанных с искусственным интеллектом, и управления рисками внедрения;
• поддерживать лидеров на всех уровнях с помощью согласованных программ обучения лидеров ИИ, включая соответствующие продукты для сканирования горизонтов и сообщества по интересам, чтобы делиться пониманием проблем, возможностей и передового опыта;
• поручить всем оборонным организациям и функциям пересмотреть политики и процессы, чтобы обеспечить лидерам возможность своевременно использовать возможности ИИ;
• создать функцию взаимодействия и обмена, предоставляемую Центром оборонного искусственного интеллекта, для поощрения беспрепятственного обмена между обороной, академическими кругами и технологическим сектором. Работая с академическими кругами и промышленностью (в том числе с Советом по ИИ, Институтом Алана Тьюринга и форумом малого и среднего бизнеса Партнерства по развитию обороны), мы будем использовать прикомандирование и трудоустройство для привлечения талантливых лидеров ИИ из частного сектора с полномочиями по внедрению инноваций с высокой степенью риска и стимулировать культурные изменения; создавать возможности для внешних экспертов для поддержки разработки политики; и разработать схемы для лидеров обороны, чтобы они могли получить опыт в технологическом секторе. Мы позаботимся о том, чтобы наш подход работал как для малого и среднего бизнеса, так и для наших более знакомых партнеров в области обороны.

2.1.4 Повышение квалификации наших сотрудников

Мы создадим информированное сообщество пользователей ИИ среди наших сотрудников, закрепляя понимание ИИ и данных как фундаментального компонента профессионального развития на всех уровнях организации, поддерживаемого соответствующим обучением и осведомленностью. Помимо общей цифровой грамотности, наши люди должны обладать достаточным пониманием, чтобы уверенно, эффективно и ответственно работать с инструментами и системами ИИ. Нам нужны специалисты по искусственному интеллекту из разных профессий; от политики и права до коммерческой экспертизы. Это особенно важно в контексте военных операторов, поэтому мы будем:

• изучить варианты для создания и управления уникальным набором навыков «военного оператора с поддержкой ИИ» или торговлей, адаптируя существующие наборы навыков, где ИИ становится важным фактором;
• внедрить четкие и поддающиеся проверке процессы лицензирования и регулярной повторной сертификации операторов военного ИИ, аналогичные лицензиям на эксплуатацию транспортных средств или механизмов, где это уместно;
• интегрировать ИИ и взаимодействие человека и машины в наши программы обучения и тренировок, используя реальные, виртуальные и смоделированные методы, и создать четкие системы для сбора и изучения уроков, связанных с ИИ, из наших операционных развертываний.

2.1.5 Разнообразие и инклюзивность

Мы стремимся увеличить разнообразие и инклюзивность нашей рабочей силы. Это правильно, что мы представляем сообщества, которым мы служим, а разнообразие и инклюзивность способствуют творчеству, привносят новые перспективы и помогают бросить вызов устоявшимся или устаревшим подходам. Наше вмешательство в развитие навыков укрепит разнообразие и инклюзивность нашей рабочей силы.

Эти качества особенно важны при разработке и эксплуатации новых технологий, помогая нам представлять и разрабатывать новые возможности и тактику, избегать стратегических неожиданностей и предвидеть непредвиденные последствия. Разнообразные и инклюзивные группы проектирования, разработки и эксплуатации необходимы для понимания того, как системы ИИ влияют и могут использоваться разным персоналом, а также для смягчения предубеждений и других эффектов, которые в противном случае могут остаться незамеченными, но несоразмерно воздействовать на определенные группы.

Мы также признаем, что при правильном использовании искусственный интеллект может стать мощным инструментом, способствующим разнообразию. Таким образом, принципы разнообразия и инклюзивности будут подчеркивать все элементы этой стратегии; кроме того, мы будем постоянно оценивать разнообразие и участие в разработке и развертывании ИИ и действовать там, где это необходимо, для его улучшения.

2.1.6 Политика, процесс и законодательство

Стратегия Министерства обороны США в области науки и технологий (2020 г.) подчеркивает важность «упреждающей разработки политики» — решения вопросов политики до того, как технология созреет, — для успешного внедрения новых возможностей. В 2018 году было создано подразделение Defense AI & Autonomy Unit (DAU), чтобы помочь министерству быстро внедрять эти технологии. Теперь мы должны активизировать усилия, чтобы наша политика, процессы и подходы к законодательству позволяли, а не ограничивали нас. В качестве примеров: потребуется обновить кадровую политику, чтобы сотрудники могли эффективно и справедливо использовать ИИ для ускорения найма; наша способность извлекать важную информацию из все большего количества данных зависит от интеллектуальной собственности и коммерческих структур, лежащих в основе закупок.

Эффективное внедрение ИИ также зависит от вопросов о существующем законодательстве, связанном с разведкой, и разрешениях на обмен информацией; а планирование и проведение военных операций с использованием возможностей ИИ будет определяться политикой, регулирующей такие факторы, как делегирование командования и управления. Поэтому мы будем:

• укрепить DAU в качестве нашего координационного центра политики и стратегической согласованности в отношении ИИ. Функциональные владельцы и руководители политики в Министерстве обороны будут работать с DAU, чтобы обеспечить соответствие политик и процессов настоящей Стратегии, а также выявить и решить приоритетные проблемы;
• создать междисциплинарную целевую группу «Оперативный ИИ», чтобы сосредоточить особые усилия на вопросах политики ИИ, затрагивающих национальные или коалиционные военные операции и ключевую разведывательную деятельность;
• работать с Управлением по ИИ и коллегами в правительстве, чтобы определить и решить ключевые междисциплинарные политические или юридические соображения для поддержки своевременного принятия ИИ обороной.

2.2 Цифровые технологии, данные и технологии

2.2.1 Надежные, согласованные и надежные данные

Данные — это важнейший стратегический актив, уступающий по важности только нашим людям. В знак признания этого преобразования данных Министерства обороны в настоящее время осуществляется центральный офис данных, созданный в рамках Defense Digital, а также структура данных Министерства обороны для преобразования культуры, поведения и возможностей данных Министерства обороны.

Однако многое еще предстоит сделать, так как наши обширные ресурсы данных слишком часто устаревают, плохо курируются, недооцениваются и даже выбрасываются. Мы опубликовали Цифровую стратегию для обороны и Стратегию данных для обороны, в которых изложено, как мы будем трансформироваться в организацию, управляемую данными: разрушение цифровых хранилищ; создание общих архитектур данных, стандартов, соглашений по маркировке и платформ эксплуатации (включая рабочую среду AI Analytics); и обеспечение надлежащего доступа к интегрированным, проверенным и проверенным данным в оборонном предприятии. Основываясь на этих мерах, приоритетом настоящей Стратегии является использование данных. Мы будем:

• поддерживать стратегии работы с данными в каждой части нашей организации, определяя, какие данные будут ключевым источником преимуществ или эффективности, и как они будут получены или собраны. «Реестры данных» будут доступны через MOD для продвижения экспериментов и взаимодействия;
• использовать новые способы сбора данных, связанных с ИИ, в том числе требуя, чтобы программные продукты и услуги были оснащены инструментами для создания данных об использовании и производительности (заботясь о том, чтобы не ущемлять автономию, неприкосновенность частной жизни и права людей);
• внедрить новые процессы и способы работы (включая подходящие шаблоны, форматы и стандарты) для создания структурированных данных, которые можно эффективно использовать на последующих этапах;
• внедрять протоколы для обеспечения достоверности и целостности наших наборов данных, в том числе полученных из внешних (и, возможно, открытых) источников, а также для снижения рисков предвзятости;
• пересмотреть соглашения об обмене данными с союзниками, промышленностью и академическими кругами, в том числе путем изучения инновационных способов рационализации бюрократии по обмену данными и принятия мер, обеспечивающих доступность данных, передаваемых партнерам или создаваемых ими, для Министерства обороны;
• разрабатывать протоколы безопасности, которые поощряют позитивное принятие рисков и при этом эффективно защищают наши данные от злоумышленников и манипуляций. Это включает в себя механизмы рассекречивания и разрешений для поощрения обмена данными с быстро развивающимися разработчиками ИИ.

Преимущество в области искусственного интеллекта будет зависеть от нашей способности предоставлять победоносные алгоритмы и надежные машинные данные тем, кто в них нуждается, и когда им это нужно, независимо от географии, платформы или организационных границ. Правильные цифровые, информационные и технологические инструменты будут иметь важное значение.

2.2.2 Вычислительная мощность, сети и оборудование

Быстрая, масштабируемая и безопасная вычислительная мощность и бесшовная сетевая инфраструктура имеют решающее значение для полноценного использования ИИ в обороне, позволяя беспрепятственно передавать данные между датчиками, исполнительными органами и лицами, принимающими решения, чтобы затем их можно было использовать для стратегического военного преимущества в боевой обстановке и повышения эффективности. в деловом пространстве. Цифровая стратегия обороны определяет, как это будет осуществляться с помощью «цифровой магистрали», передовой экосистемы, объединяющей людей, процессы, данные и технологии. Благодаря усиленной кибербезопасности технологии будут обновлены, наша рабочая сила будет преобразована в цифровую форму, а надежные процессы будут внедрены для обеспечения согласованности и общих стандартов.

Облачный хостинг в нескольких классификациях необходим для обеспечения масштабируемых вычислений, необходимых для наших моделей ИИ. Облачный хостинг уже доступен для официальных конфиденциальных данных. Мы доставим облака как в Secret, так и в Above Secret к концу 2022 и 2024 года соответственно. Поскольку операционное использование ИИ часто зависит от конфиденциальных данных, мы должны предоставить эффективные методы передачи данных между классификациями. Интерфейсы прикладных программ (API) и диоды также должны стать обычным явлением, чтобы мы могли разрабатывать и развертывать новейшие алгоритмы в нужном темпе и в масштабе.

Усовершенствованные датчики, аппаратное обеспечение следующего поколения (например, «за пределами КМОП-технологий») и новые подходы к «периферийным вычислениям» будут иметь решающее значение для использования ИИ в обороне, в том числе за счет создания новых возможностей для работы и предоставления расширенных возможностей в сложных условиях, в условиях отсутствия сигнала или ухудшения качества. Поэтому мы будем инвестировать в исследования и разработки и партнерские отношения с правительством и промышленностью для разработки и внедрения оборудования следующего поколения.

2.2.3 Центр искусственного интеллекта обороны (DAIC)

Наряду с Digital Backbone мы создаем Digital Foundry, объединяя и наращивая существующие активы для предоставления инновационных возможностей, требующих интенсивного использования программного обеспечения. Эту федеративную экосистему будет возглавлять Defense Digital в партнерстве с другими подразделениями Министерства обороны и инноваций, научно-техническим сообществом, партнерами по национальной безопасности, промышленностью и академическими кругами. Он призван стать важным следующим шагом в предоставлении ИИ, анализа данных, робототехники, автоматизации и других передовых возможностей. Центр оборонного искусственного интеллекта (DAIC) станет ключевой частью Foundry, объединив опыт Defense Digital, Dstl и Future Capability Group Defense Equipment & Support. DAIC достиг начальной эксплуатационной готовности в апреле 2022 года. и в настоящее время растет, чтобы накопить критическую массу опыта, чтобы мы могли использовать изменяющую правила игры мощь ИИ и ускорить согласованное понимание и развитие возможностей ИИ в Департаменте. DAIC будет выполнять три основные функции:

1. выступать в качестве дальновидного центра, отстаивая разработку и использование ИИ в обороне;
2. обеспечить и координировать быструю разработку, доставку и масштабирование проектов ИИ, которые обеспечивают прорыв в стратегическом преимуществе;
3. предоставить доступ к базовым цифровым службам/услугам данных и источникам знаний в качестве общих услуг для более широкой обороны.

Вместе с более широким Foundry DAIC возглавит предоставление современных цифровых сред и сред разработки, безопасности и эксплуатации (DevSecOps), общих сервисов и инструментов, а также авторитетных источников данных, которые требуются инженерам и специалистам по данным для создания прототипов, тестирования, проверки и последующего развертывания. их программное обеспечение и алгоритмы быстро и в масштабе. Технологии искусственного интеллекта будут разрабатываться в различных экосистемах (от собственных решений до проприетарных коммерческих продуктов) для удовлетворения широкого спектра потенциальных приложений. DAIC поможет направлять и координировать разработку технологий, помогая создать соответствующую среду разработки с учетом конечного применения разработанной системы. Он будет разрабатывать и поддерживать техническую стратегию оборонного ИИ и справочники для специалистов по ИИ, которые будут направлять усилия в обороне, в том числе с помощью соответствующих стандартов и систем обеспечения рисков для различных операционных контекстов обороны — от приложений искусственного интеллекта военного уровня до бэк-офисных систем — вместе с лежащими в основе подходами к тестированию, оценке, проверке и валидации (TEV&V) и мерами защиты технологий. DAIC будет создан со свободой политики, чтобы подражать успешным методам работы технологических организаций, и первоначально сосредоточится на оптимизации существующей работы, связанной с ИИ, в наших подразделениях S&T, FLC по эксплуатации ИИ и цифровом бизнесе.

2.2.4 Техническое обеспечение, сертификация и управление

Системы искусственного интеллекта представляют собой принципиально иные задачи тестирования и проверки по сравнению с традиционными физическими и программными возможностями, не в последнюю очередь потому, что может быть технически сложно объяснить, на чем основаны решения системы. Это значительный риск для достижения наших стратегических целей. Мы должны обеспечить правильный баланс рисков, обеспечив безопасность, надежность, эффективность и киберзащищенность новых возможностей на базе ИИ, а также своевременность их предоставления — в случае некоторых алгоритмов — в течение нескольких часов.

Мы позаботимся о том, чтобы управление, ориентированное на оборону, тесно согласовывалось с национальными рамками для технологий ИИ, поощряя инновации и инвестиции, защищая общественность и сохраняя фундаментальные ценности. Параллельно мы будем работать с глобальными партнерами над формированием норм и продвижением ответственного развития ИИ на международном уровне.

Мы будем пионерами и сторонниками инновационных подходов к тестированию, оценке, верификации и аттестации (TEV&V), внедряя новые возможности для живых и виртуальных испытаний и сотрудничая с широким кругом партнеров. Наша научно-техническая программа будет работать с партнерами, в том числе через Национальную программу цифровых двойников и Программу Data Centric Engineering Program Института Алана Тьюринга, для разработки новых и менее рискованных подходов к проектированию, разработке и тестированию с использованием цифровых моделей и симуляций.

Головной офис, DAIC, оборонное оборудование и поддержка, а также Управление безопасности обороны создадут всеобъемлющую структуру для тестирования, проверки, сертификации и регулирования систем с поддержкой ИИ — как человеческого, так и технического компонента человеко-машинных групп. Наш подход к управлению рисками, связанными с ИИ, будет основан на принципе ALARP (настолько низкий, насколько это практически возможно), который является общепринятым в обороне для систем, критически важных для безопасности и связанных с безопасностью. Этот режим будет признавать важность надлежащего тестирования на протяжении всего жизненного цикла систем, отражая возможность того, что системы ИИ продолжают учиться и адаптировать свое поведение после развертывания.

Мы будем сотрудничать с другими государственными ведомствами, регулирующими органами, такими органами, как Совет по горизонтам регулирования, организациями по разработке стандартов, промышленностью, академическими кругами и международными партнерами, чтобы продвигать гибкие, развивающиеся, но строгие технические стандарты, политики и правила для проектирования, разработки, эксплуатации и утилизации. Системы искусственного интеллекта — вклад в достижение цели правительства по созданию самой надежной и инновационной системы управления искусственным интеллектом в мире. OAI изложит национальную позицию по управлению и регулированию ИИ в Белой книге, которая должна выйти в 2022 году.

Доверие является фундаментальным сквозным фактором любого крупномасштабного использования ИИ. Предполагать нельзя – это надо заслужить. Оно возникает, когда у наших людей есть необходимая подготовка, понимание и опыт; у нас есть хорошо зарекомендовавшие себя механизмы этики, гарантии и соблюдения; и мы постоянно проверяем, проверяем и обеспечиваем возможности ИИ в рамках надежных данных, технических и управленческих структур.

3 Внедряйте и используйте искусственный интеллект в темпе и масштабе для получения преимущества в обороне

Мы стремимся всесторонне использовать ИИ, ускоряя ввод в эксплуатацию «лучших в своем классе» возможностей ИИ; и сделать все части обороны значительно более эффективными и действенными. Для этого лидеры и команды в сфере обороны должны преуспеть в использовании и повторении ИИ. Совокупность выгод (больших и малых) будет основным источником эффективности и кумулятивного преимущества. Мы также должны стимулировать реализацию амбициозных, сложных проектов, которые обеспечат революционные операционные возможности и преимущества.

Факторы, описанные в главе 2, обеспечивают основу для решения многих проблем, связанных с быстрым и систематическим внедрением ИИ. Мы также будем извлекать выгоду из ряда уже проводимых исследований и демонстраций возможностей, нашей динамичной национальной базы исследований и разработок в области искусственного интеллекта и наших прочных отношений с союзниками и партнерами.

3.1 Организация успеха

ИИ не является прерогативой какой-то одной части нашей организации. Каждое бизнес-подразделение и функция играют важную роль, если мы хотим достичь наших целей. В соответствии с нашей делегированной моделью:

• Головной офис будет устанавливать общую политику и стратегию в области ИИ, определять целевые/целевые показатели возможностей, направлять ключевые стратегические программы ИИ (при необходимости) и обеспечивать общую программную согласованность наших возможностей с поддержкой ИИ;
• Бизнес-подразделения и функциональные руководители в сфере обороны будут активно использовать наиболее подходящие для них формы ИИ, руководствуясь настоящей Стратегией и указаниями головного офиса. Большая часть поставок будет принадлежать отдельным TLB или программам оборудования;
• Стратегическое командование обеспечит стратегическую и оперативную интеграцию возможностей искусственного интеллекта в пяти областях боевых действий. Директор по информационным технологиям Министерства обороны (CIO) обеспечивает общую цифровую согласованность и предоставление общей инфраструктуры, сред, инструментов и сетей для использования в Департаменте.

Общая стратегическая согласованность усилий Департамента по искусственному интеллекту управляется совместно Отделом оборонного искусственного интеллекта и автономии (DAU) и Центром оборонного искусственного интеллекта (DAIC). DAU отвечает (от имени 2-го постоянного секретаря Министерства обороны США) за определение и надзор за рамками стратегической политики, регулирующей разработку, принятие и использование ИИ (например, этические подходы, пороговые значения риска, сквозные вопросы). DAIC является координационным центром по исследованиям и разработкам в области искусственного интеллекта и техническим вопросам: согласование и организация деятельности по обороне; предоставление централизованных услуг и инструментов; отстаивание навыков и партнерских отношений; и выступая в качестве агента для решения стратегических, совместных или сквозных задач ИИ. Обзор ландшафта оборонного ИИ представлен в Приложении A.

Хотя подходы к развитию, доставке и развертыванию возможностей, возможно, придется переосмыслить, чтобы обеспечить возможность использования ИИ в темпе, существующие «органы» Министерства обороны (например, правила безопасности, аккредитация безопасности) в целом не изменились. Однако ответственные органы должны учитывать проблемы и проблемы, связанные с ИИ.

3.2 Наш подход к доставке

В целом нашу деятельность можно разделить на три категории: (1) военный потенциал; (2) оперативные возможности и возможности поддержки принятия решений; и (3) корпоративные услуги и «бэк-офис». С технологической точки зрения ключевое различие заключается между «ИИ сейчас» (зрелые технологии ИИ, которые быстро доступны и требуют незначительной адаптации или вообще не требуют адаптации к контексту обороны) и «ИИ следующего» (преобразующее «следующее поколение» и «поколение за следующим»). возможности с поддержкой ИИ).

Многие из самых немедленных приростов эффективности и производительности для обороны будут обеспечены за счет систематического развертывания и внедрения AI Now. Возможности в этой области включают использование зрелой науки о данных, машинного обучения и передовых методов вычислительной статистики для создания более интеллектуальных систем управления финансами или персоналом, оптимизации логистики и технического обслуживания, а также использования инструментов объединения данных и расширенной аналитики для улучшения разведки, наблюдения и рекогносцировки (ISR). ) виды деятельности.

Чтобы ускорить внедрение AI Now:

• бизнес-подразделения и функции определят портфель новых проектов, наиболее соответствующих их потребностям, с учетом их уникальных обстоятельств, проблем и рисков;
• мы опубликуем наши стратегические ориентиры и разработаем «Пособие по концепции ИИ» — живой документ, который мы будем часто обновлять, стимулируя инновации, определяя ключевые приложения, в которых мы видим наибольшую выгоду от внедрения ИИ;
• мы будем уделять первоочередное внимание внедрению проверенных методов из частного сектора, сравнивая наш бизнес и услуги поддержки с сопоставимыми организациями, сотрудничая, чтобы учиться и подражать «передовому опыту», и используя технологию «Коммерческие полки» (COTS) — тесно сотрудничая с нашими партнерами. национальная экосистема ИИ. См. главу 4;
• мы делегируем ответственность местным командам по определению и приобретению или разработке продуктов и решений, необходимых для достижения желаемых стратегических ориентиров — общая согласованность программ будет управляться через DAIC.

Параллельно мы будем инвестировать в AI Next: передовые исследования и разработки в области ИИ, предназначенные для решения текущих и устойчивых проблем оборонного потенциала, где новые технологии могут обеспечить решающее преимущество в боевых действиях. Учитывая повышенные технические и политические риски, связанные с предоставлением трансформационных оперативных возможностей, эта деятельность, вероятно, будет осуществляться централизованно и, по крайней мере, в первую очередь, в рамках программы оборонной науки и техники (S&T). Другие элементы нашей системы доставки НИОКР предоставят возможность и возможности для разработки, тестирования, интеграции и развертывания конечных систем в установленные сроки. Чтобы ускорить внедрение AI Next, мы:

• поддерживать программы обзора горизонтов, тесно связанные с академическими кругами и ведущими игроками в этом секторе, чтобы гарантировать, что оборона идет в ногу с передовыми достижениями в этой быстро меняющейся и быстро развивающейся области;
• уделять первостепенное внимание ИИ как источнику стратегического преимущества в рамках наших стратегий развития потенциала и процессов развития сил, обеспечивая тесное сотрудничество между FLC, функциональными владельцами и научно-исследовательским сообществом;
• браться за амбициозные и сложные проекты, устанавливая амбициозные ориентиры для стимулирования инвестиций в НИОКР среди наших партнеров, ускорения разработки и ускорения темпов внедрения новых возможностей и подходов, основанных на ИИ, во всех силах;
• изучить обязательность программ оборудования, чтобы они были «готовы к ИИ», с пониманием того, что это может быть необходимо, например, для будущих капитальных платформ, их датчиков и исполнительных органов для обработки на периферии (распознавание образов, управление и контроль, анализ интеллекта).

DAIC будет действовать как наш орган по технической согласованности: определяя наши требования к внутренним или береговым гарантированным возможностям; предоставление экспертных услуг «переводчика», чтобы помочь руководителям понять возможности и значение ИИ; и обеспечение того, чтобы уроки и успешные подходы широко распространялись в Министерстве обороны (в том числе через Техническую стратегию ИИ и Справочники для практиков).

3.3 Содействие темпам, инновациям и экспериментам

По мере того, как мы будем работать как с ИИ сейчас, так и с ИИ в будущем, мы будем использовать системный подход, признавая (а) что интеграция ИИ в физические или цифровые системы, возможно, является такой же сложной задачей, если не более сложной, чем разработка самого ИИ; и (б) что мы не можем сосредоточиться на технологии изолированно, игнорируя другие критические элементы, необходимые для реализации преимуществ и предоставления действительно новых возможностей. Мы будем:

• учиться на практике, берясь за относительно «простые» проекты ИИ — с точки зрения технического, этического или операционного риска — для быстрого достижения эволюционных результатов и снижения риска более сложных действий;
• внедрить культуру систематических экспериментов для повторения, внедрения минимально жизнеспособных продуктов, возможностей тестирования, технологий снижения рисков и планов обучения, разработки новых операционных концепций и доктрин, а также повышения нашего аппетита и способности быстро внедрять инновации в области ИИ;
• предоставлять программное обеспечение для искусственного интеллекта с помощью межфункциональных групп, включающих конечных пользователей, технологов (внутренних, отраслевых и, возможно, научных кругов), спонсоров и покупателей возможностей на всех этапах проектирования и разработки;
• обеспечить наличие в программах науки и техники ИИ соответствующих стратегий закупок, коммерческой деятельности и интеллектуальной собственности для последующей деятельности по приобретению и операционной деятельности;
• использовать передовые возможности моделирования и симуляции (например, синтетические среды, цифровые двойники), а также подходы DevSecOps и Prototype Warfare, чтобы ускорить темпы разработки, тестирования и внедрения новых алгоритмов и возможностей на основе ИИ;
• внедрить новые подходы к гибкому и быстрому развитию и предоставлению возможностей, применяя передовой опыт и уроки первопроходческих проектов и центров инноваций в сфере обороны, а также гарантируя, что требования поддержки на протяжении всего жизненного цикла учитываются с самого начала;
• предпринять шаги в соответствии с нашим амбициозным, безопасным и ответственным подходом, чтобы обеспечить безопасность, надежность, ответственность и этику в основе инноваций.

3.3.1 Обеспечение нашего операционного преимущества ИИ

Во все более сложных и противоречивых средах безопасности нам нужно будет реагировать на угрозы со скоростью машины (а не человека) эффективно и без ущерба для наших ценностей. Злоумышленники будут стремиться скомпрометировать наши системы искусственного интеллекта, снизить их производительность и подорвать доверие пользователей и общественности, используя множество цифровых и физических средств. Они также будут использовать ИИ для атаки и подрыва систем, не использующих ИИ. Наша способность использовать ИИ, превосходя или иным образом отрицая преимущества искусственного интеллекта противника, будет иметь решающее значение.

Мы должны оценивать и устранять уязвимости и угрозы системы ИИ как для наших возможностей, так и для данных, которые ими управляют. Мы должны защищать системы ИИ от кибератак и других манипуляций, устраняя данные, цифровые и ИТ-уязвимости, одновременно разрабатывая и постоянно совершенствуя методологии безопасности для защиты возможностей ИИ. Мы должны выявлять и защищаться от более широких угроз возможностям и операционной эффективности, связанных с искусственным интеллектом, например методов обмана. Мы должны понимать потенциальные междоменные эффекты и последствия «алгоритмической войны»; разработать соответствующие методы противодействия ИИ; и разработать соответствующую доктрину, политические позиции и интегрированный процесс для управления их развертыванием. Мы должны регулярно и своевременно обмениваться опытом и передовой практикой, разрабатывать эффективные методы смягчения последствий и реверсивные режимы,

Мы создадим «совместный центр боевых действий» для решения этих различных оперативных задач, связанных с ИИ, первоначально как виртуальную федеративную экосистему, основанную на DAIC и Объединенной кибергруппе сил с участием научно-технических, разведывательных, объединенных силовых разработок и других наших центров боевых действий ( военно-морского флота, земли, воздуха и космоса), в союзе с Национальным центром кибербезопасности и Национальными силами кибербезопасности.

3.4 Работа с правительством

ИИ изменит экономический ландшафт Великобритании, что потребует усилий всего общества и всего правительства, которые охватят следующее десятилетие. Правительство изложило свои цели и планы в отношении ИИ в Национальной стратегии ИИ. Оборона играет решающую роль в подготовке и внедрении ИИ для поддержки как национальной безопасности, так и экономического процветания. Точно так же мы можем многое выиграть от сотрудничества с другими государственными ведомствами, чтобы Великобритания наилучшим образом использовала наши сильные стороны в области искусственного интеллекта.

Взаимодействие в области обороны с партнерами в правительстве включает:

• активная поддержка нового Национального совета по науке и технологиям (NSTC) при премьер-министре, обеспечение согласованного национального подхода к ИИ (и другим технологиям) в рамках новой программы S&T Advantage;
• тесное сотрудничество с соответствующими межправительственными инициативами для обеспечения сплоченности и использования синергии в сильной экосистеме искусственного интеллекта Великобритании, в том числе с новым Агентством перспективных исследований и изобретений и Национальной программой исследований и инноваций в области искусственного интеллекта UKRI;
• связь с Управлением по искусственному интеллекту и Советом по ИИ, стремясь максимизировать потенциальную выгоду от инвестиций в оборону в ИИ и выявлять возможности, при которых инвестиции в оборону могут помочь устранить препятствия как для гражданского, так и для военного использования.

В сфере национальной безопасности мы будем:

• определить возможности для распределения бремени и сотрудничества с разведывательными агентствами и соответствующими департаментами для разработки и использования новых технологий ИИ, в том числе путем определения общих приоритетов возможностей ИИ для национальной безопасности и создания новой сети ИИ для обороны и национальной безопасности для совместного взаимодействия с национальной экосистемой ИИ;
• углублять существующее сотрудничество в области ИИ, например, с Обменом технологиями и инновациями национальной безопасности (NSTIx), пространством для совместного создания науки о данных и ИИ, которое объединяет заинтересованные стороны в области национальной безопасности, отраслевых и академических партнеров для итеративного создания лучших возможностей национальной безопасности;
• поддерживать межведомственные инициативы по укреплению методов защиты технологий Великобритании и формировать более широкие глобальные режимы регулирования и противодействия распространению.

3.5 Международное сотрудничество возможностей

Самый быстрый путь к освоению этих технологий — тесное сотрудничество с союзниками и партнерами. Таким образом, наш подход к ИИ будет «международным по замыслу»: обмен информацией и передовым опытом; содействие обмену талантами; разработка инновационных решений для решения общих задач; и разделить бремя поддержания нишевых, но важных возможностей разработки и тестирования ИИ. Мы будем уделять первоочередное внимание закладке основ для функциональной совместимости: обеспечению того, чтобы наши системы ИИ могли работать вместе по мере необходимости (например, обмен данными с датчиков), чтобы процессы были взаимодополняющими и надежными (например, для TEV&V), а также укрепляли доверие к возможностям с поддержкой ИИ, используемым в операции коалиции.

3.5.1 Ключевые партнерские отношения с ИИ

Соединенные Штаты являются ведущей мировой державой ИИ и нашим самым важным международным партнером. Запрос оборонного бюджета США на 2021 финансовый год (который выделяет 800 млн долларов на ИИ и 1,7 млрд долларов на автономию) демонстрирует значительные амбиции в области ИИ. США также лидируют в мире по защите ответственного использования ИИ в соответствии с нашими общими ценностями. Это наш главный приоритет в области исследований и разработок в области ИИ и сотрудничества в области возможностей, основанный на наших тесных и давних отношениях в области других технологий и возможностей. Создание нашего собственного оборонного центра искусственного интеллекта создаст новые возможности для тесного сотрудничества с Главным управлением данных и искусственного интеллекта (CDAO), и мы будем изучать возможности для расширенного сотрудничества «сервис-сервис» для решения задач с общими возможностями, где ИИ обещает революционное преимущество. .

Мы также будем расширять наши совместные усилия за счет наших давних двусторонних партнерских отношений и партнерства Five Eyes с Австралией, Канадой и Новой Зеландией. Основанные на интеллекте, совместном использовании данных, цифровых технологиях и общих ценностях, они представляют собой идеальные рамки для развития функциональной совместимости ИИ. Мы также будем углублять сотрудничество в области ИИ через трехстороннее партнерство по безопасности AUKUS.

НАТО является нашим самым важным стратегическим альянсом и станет центральным форумом для консультаций Великобритании и союзников по ИИ и другим новым технологиям. Стратегия НАТО в области искусственного интеллекта (2021 г.) определяет, как Североатлантический союз будет коллективно подходить к ключевым вопросам искусственного интеллекта, отстаивать принятие общих стандартов и принципов и способствовать оперативной совместимости. Это включает в себя программы развития талантов и стипендий, а также создание сети «Центров тестирования ИИ» — центров сотрудничества, где институты и страны НАТО могут совместно разрабатывать и совместно тестировать соответствующие приложения ИИ вместе с частным сектором и академическими партнерами.

Мы будем тесно сотрудничать с рядом дополнительных партнеров, особенно в Европе и Индо-Тихоокеанском регионе, где есть потенциал для взаимной выгоды, и наши цели и ценности совпадают. Многие из наших близких европейских союзников инвестируют в ИИ, в том числе в рамках совместных программ ЕС; мы будем уделять первоочередное внимание сотрудничеству с Германией и Францией, обе из которых объявили об амбициозных планах в 2018 году стать мировыми лидерами в области ИИ (первая объявила о семилетнем плане на 3 млрд евро, вторая — о плане на 1,5 млрд евро вместе с их «ИИ для человечества»). стратегия). В Индо-Тихоокеанском регионе мы, в частности, изучим варианты расширения сотрудничества в сфере ИИ с Японией, Индией и Сингапуром.

4 Укрепление экосистемы искусственного интеллекта в области обороны и безопасности Великобритании

Глобальная цифровая экономика трансформировалась за последние годы. Инвестиции в технологии частного сектора намного превышают инвестиции правительств. Технологические титаны стали геополитическими державами. Большинство новых и появляющихся технологий, таких как ИИ, по своей сути имеют двойное назначение, а инновации можно найти в широкой экосистеме университетских отделений и быстро развивающихся малых и средних технологических предприятий.

4.1 Сильные стороны ИИ в Великобритании

Великобритания является мировой сверхдержавой в области искусственного интеллекта и имеет хорошие возможности для того, чтобы стать мировым лидером в следующем десятилетии в качестве подлинного центра исследований и инноваций, скопления талантов со всего мира и прогрессивной нормативно-правовой и деловой среды. Национальная стратегия в области искусственного интеллекта определяет, как Великобритания укрепит свое положение в качестве державы искусственного интеллекта в будущем. В Великобритании есть индустрии искусственного интеллекта и цифровых технологий мирового класса, с особыми преимуществами в области финансовых технологий, биотехнологий, цифрового маркетинга, рекламы и безопасности. Сильные технологические кластеры возникли по всей стране, в том числе в «Золотом треугольнике» (Оксфорд, Кембридж, Лондон), Кардиффе, Белфасте, Эдинбурге и Манчестере.

Британские университеты занимают третье место в мире по количеству цитируемых публикаций по исследованиям в области ИИ. Система высшего образования Великобритании формирует разнообразную базу навыков, привлекает элитные таланты со всего мира и запускает бесчисленные инновационные стартапы, дополненные сетью центров передового опыта, инновационных катапульт и бизнес-акселераторов, включая Институт Алана Тьюринга, Цифровую катапульту, Центр Хартри, Центры докторантуры и инфраструктур цифровых исследований. Экспертиза по таким вопросам, как этика и безопасность ИИ, предоставляется такими организациями, как Центр изучения экзистенциального риска Кембриджского университета и Центр будущего интеллекта Леверхалма, а также Центр управления ИИ и Центр долгосрочной устойчивости Оксфордского университета.

Позиция Великобритании как мирового лидера в области искусственного интеллекта укрепляется нашей уважаемой правовой системой, хорошо разработанными подходами к регулированию и влиятельными государственными органами, включая Управление искусственного интеллекта, Центр этики и инноваций данных (CDEI), независимый Совет по искусственному интеллекту и Регулирующий орган. Совет Горизонтов. Оборона должна использовать все эти силы для достижения целей, изложенных в настоящей Стратегии; сотрудничество с нетрадиционными секторами для доступа к элитным талантам и извлечение выгоды из исследований и решений двойного назначения, разработанных на национальной технологической базе.

4.1.1 Роль обороны в стимулировании технологических инноваций

В Национальной стратегии в области искусственного интеллекта поставлена ​​цель правительства распространить искусственный интеллект на всю экономику, чтобы обеспечить максимальный рост и производительность, в том числе за счет использования потенциала государственного сектора для стимулирования спроса на искусственный интеллект и рынков новых услуг. Государственный сектор будет лидировать, действуя как образец безопасного, этичного и быстрого развертывания ИИ.

Оборона уже играет значительную роль, поддерживая и катализируя национальную научно-техническую и инновационную экосистему. Мы управляем критически важными научно-техническими возможностями и инвестируем 50% нашего бюджета на научно-технические исследования в промышленность и академические круги. Финансирование обороны и опыт помогают формировать национальную политику, инвестиции, программы повышения квалификации и центры передового опыта, такие как британские программы Cyber ​​и Quantum, Институт Алана Тьюринга и Trustworthy Autonomous Systems Hub. Благодаря оборонным инновациям и таким инициативам, как Стратегический инвестиционный фонд национальной безопасности, мы помогаем развивать новые технологии двойного назначения, одновременно привлекая инвестиции в акционерный капитал для формирования рынков. Наша покупательная способность стимулирует экономику, и мы часто действуем в качестве первопроходцев, снижая риски прототипов технологий перед коммерческой эксплуатацией. Однако,

Недавно мы запустили несколько инициатив по оптимизации процессов и устранению основных структурных препятствий. Промышленная стратегия обороны и безопасности, Стратегия оборонной науки и технологий, Цифровая стратегия обороны, Стратегия оборонных данных и План действий оборонного малого и среднего бизнеса определяют, как мы будем устранять препятствия для взаимодействия, оказывать более сильную поддержку партнерам и значительно облегчать работу. с нами в целом. Настоящая Стратегия основывается на этих обязательствах.

4.2 Партнерство на основе доверия

Учитывая важность ИИ для национального положения, британскую экосистему ИИ следует признать стратегическим национальным ресурсом, столь же важным сейчас, как уголь и сталь в индустриальную эпоху. Оборона должна сыграть свою роль в развитии и защите этого актива. Оборона также должна быть естественным партнером британского сектора искусственного интеллекта. Сотрудничество с нами дает возможность оказать реальное влияние, помогая защитить нашу нацию, работая над некоторыми из самых интересных и сложных технических проблем реального мира, которые будут определять наше общее будущее.

Ученые и партнеры из частного сектора требуют уверенности в том, что они работают с ответственным участником. Мы знаем, что это должно быть партнерство, основанное на доверии, и что мы должны заслужить это доверие. Мы полны решимости подавать пример. Наш подход к безопасному и ответственному использованию ИИ в обороне будет применяться ко всем системам и возможностям с поддержкой ИИ, которые разрабатываются и внедряются в нашем бизнесе. Кроме того, мы будем:

• быть прозрачными в отношении того, как мы используем ИИ, поощряя тщательное изучение и оспаривание через нашу Консультативную группу по этике ИИ и другие форумы, чтобы гарантировать, что ИИ будет использоваться только ответственно в соответствии с самыми высокими этическими и моральными стандартами и в соответствии с нашими международными юридические обязанности;
• четко указать в рамках Early Market Engagement, как и почему мы будем использовать алгоритмы и приложения, которые будут разработаны нашими партнерами, и гарантировать, что существуют пути для отдельных разработчиков, чтобы сообщать о проблемах и запрашивать дополнительную контекстную информацию;
• публиковать как можно больше информации о ключевых мерах безопасности, таких как наш подход к решению проблем TEV&V, обеспечивая уверенность в том, что мы будем безопасно и надежно использовать системы ИИ.

Чтобы наладить более динамичное и интегрированное партнерство с экосистемой искусственного интеллекта Великобритании, обеспечив ее направленность и стимулирование для поддержки требований обороны и приоритетных национальных целей, мы будем:

• Четко сообщайте о наших требованиях к ИИ, намерениях и ожиданиях;
• Устранение препятствий на пути беспрепятственного сотрудничества;
• Стимулируйте участие и совместное творчество.

4.3 Четкое информирование о наших требованиях к ИИ, намерениях и ожиданиях

Мы будем укреплять уверенность и доверие, четко объясняя наши намерения, требования и ожидания. Мы уже сообщаем о наших интересах в области НИОКР в таких публикациях, как «Концепция оборонных технологий» (2019 г.), «Области научных интересов» (ежегодно) и «Стратегия науки и техники Министерства обороны США». Мы проводим регулярные тематические конкурсы инноваций через Акселератор обороны и безопасности (DASA) и напрямую взаимодействуем с партнерами в промышленности и академических кругах через такие каналы, как Форум поставщиков оборонной промышленности — Группа исследований, технологий и инноваций (DSF-RTIG). Мы будем опираться на эти установленные пути, работая с государственными партнерами и, при необходимости, с международными партнерами, чтобы сообщать масштабный сигнал о спросе для поощрения инвестиций гражданского сектора в исследования и разработки в области искусственного интеллекта, имеющие отношение к обороне.

Параллельно важно четко понимать уникальный контекст и проблемы разработки решений ИИ для обороны, а также наши ожидания в отношении ответственных инноваций. Например, эксплуатационные требования Министерства обороны могут потребовать более низкой допустимости риска (например, приемлемой частоты отказов), чем в коммерческих условиях, среды разработки и тестирования могут быть более ограниченными, а процессы TEV&V, возможно, должны учитывать возможность несчастных случаев, предвзятости, неправильного использования. или вмешательство противника. Нетрадиционным партнерам потребуется повысить квалификацию, чтобы они понимали значение своих проектов и помогали внедрить соответствующие процессы, подходы и культуру безопасности.

Мы будем:

• работать с широким кругом заинтересованных сторон (включая Управление по ИИ и Совет ИИ) над созданием новой сети ИИ для обороны и национальной безопасности в качестве форума для обмена требованиями и разработки передового опыта с промышленностью и академическими кругами по целому ряду вопросов, от политики и технические проблемы вплоть до коммерческих вопросов и вопросов закупок. Это будет ключевой форум для стимулирования более тесной работы над вопросами и приложениями, относящимися к обороне, а также для выявления и консультирования по нормативным проблемам и другим возможностям для поддержки роста экосистемы ИИ в Великобритании.
• определить, где проблемы обороны пересекаются с проблемами, с которыми сталкиваются другие сектора экономики, и работать с этими нетрадиционными партнерами для разработки общих решений. Сюда входят отрасли двойного назначения (например, робототехника, автономные платформы, мобильные/периферийные вычисления), в которых достижения могут облегчить применение ИИ для решения задач обороны, помогая нам перенести ИИ из центров обработки данных «бэк-офиса» и моделирования в реальную среду. мировой фронт.
• работать с NSSIF, чтобы помочь сформировать экосистему двойного назначения, получить доступ к возможностям искусственного интеллекта, представляющим интерес для Министерства обороны, и, при необходимости, получить долю в компаниях для ускорения разработки и предоставления возможностей, получая при этом выгоду от последующих коммерческих приложений;
• изучить возможности адаптации наших коммерческих процессов и процессов закупок, чтобы помочь поставщикам ИИ (особенно тем, кто раньше с нами не работал) понять ограничения и условия, характерные для Министерства обороны;
• работать с академическими и отраслевыми форумами для разработки кодексов поведения, которые стимулируют культуру ответственных инноваций в соответствии со следующими принципами:

4.4 Устранение препятствий на пути беспрепятственного сотрудничества

Как указано выше, мы продолжим выполнять обязательства в рамках Промышленной стратегии обороны и безопасности и других стратегий, чтобы открыть более тесные партнерские отношения с промышленностью, включая нашу экосистему ИИ на всех уровнях технологической зрелости и по всему стеку технологий. Эти обязательства включают в себя повышение прозрачности наших долгосрочных приоритетов, раннее взаимодействие с промышленностью в поиске потенциальных решений требований к возможностям, снижение барьеров для малых и средних предприятий и более совместную работу, чтобы вселить в фирмы уверенность в том, что они будут инвестировать в разработку новых технологий. Мы также будем работать с государственными партнерами, поставщиками и международными партнерами, чтобы обеспечить надлежащую защиту критически важных возможностей искусственного интеллекта и интеллектуальной собственности (см. главу 5).

4.4.1 Политика приобретения и закупок информационной эпохи

В рамках постоянного совершенствования системы сбора данных мы тестируем более быстрые процессы приобретения передовых технологий, которые позволят внедрить методологии Agile в комплексную систему сбора данных. Кроме того, мы оптимизируем коммерческие модели для ИИ и цифровой доставки, чтобы мы могли заключать контракты в темпе, соответствующем короткому времени выполнения работ, что необходимо для гибких и прорывных технологических компаний.

Мы будем работать через новую сеть искусственного интеллекта обороны и национальной безопасности и рабочую группу малых и средних предприятий Форума поставщиков оборонных услуг, чтобы понять проблемы, стоящие перед более мелкими поставщиками, включая устранение барьеров, которые мешают жизнеспособным компаниям, особенно малым и средним предприятиям, войти в наши цепочки поставок.

Мы извлечем уроки из нашей инновационной экосистемы и внедрим передовой опыт в сфере обороны. Например, мы изучим возможности оптимизации закупок для «небольших» цифровых покупок, отражая необходимость сгладить путь закупок от проверки концепции до покупки цифровых продуктов и услуг.

4.5 Стимулирование участия и совместного творчества

Консультации с партнерами в британском секторе искусственного интеллекта выявили следующие ключевые факторы:

4.5.1 Понимание и отражение рыночных сил

Министерство обороны должно понимать — и должно быть видно, что они понимают — рыночные силы и процессы, которые на самом деле стимулируют компании в секторе ИИ. Затем это понимание должно быть отражено как в наших подходах, так и в коммуникациях, связанных с ИИ. Поэтому мы создадим специальную группу по взаимодействию с промышленностью в Центре оборонного искусственного интеллекта, укомплектованную как королевскими слугами, так и прикомандированными из частного сектора, чтобы гарантировать, что мы должным образом настроены на перспективы и потребности наших отраслевых (и академических) партнеров и регулярно тестировать подходы через сеть искусственного интеллекта обороны и национальной безопасности.

4.5.2 Обмен талантами

В главе 2 этой стратегии изложены меры по повышению квалификации и понимания ИИ в обороне. Ключевая роль новой функции взаимодействия и обмена в Центре искусственного интеллекта обороны будет заключаться в установлении более тесных связей с учебными институтами, университетами и профессиональными организациями, занимающимися вопросами искусственного интеллекта, для освещения возможностей и влияния работы в обороне, развеивания мифов и стимулирования двустороннего сотрудничества. поток талантов. Мы будем укреплять существующие связи с британскими университетами, предоставляя четкую информацию для ученых, заинтересованных в сотрудничестве с нами по таким вопросам, как обработка информации. Мы также будем сотрудничать с Советом по искусственному интеллекту и другими заинтересованными сторонами и форумами, чтобы информировать о наших требованиях к навыкам в индустрии искусственного интеллекта и техническом секторе в целом, а также проводить конкурсы и хакатоны для выявления и привлечения новых талантов.

4.5.3 Упрощение доступа к активам защиты

Мы будем отстаивать архитектуру открытых систем, чтобы избежать привязки к поставщику и продвигать опциональность, а также предпримем шаги, чтобы разблокировать данные Министерства обороны в соответствии с более широким подходом правительства, изложенным в Национальной стратегии данных. Это включает в себя сотрудничество в разработке платформы управления информацией под руководством Центра защиты национальной инфраструктуры (CPNI), охватывающей технические и нетехнические основы, необходимые для обеспечения сложного, многостороннего, безопасного обмена данными. Данные — это жизненная сила систем ИИ, и разработчикам нужен доступ к большим объемам качественных, тщательно отобранных данных для обучения и настройки своих алгоритмов. Таким образом, более широкий доступ к данным Министерства обороны является ключевым элементом нашего нового договора с британским сектором искусственного интеллекта. Однако, несмотря на то, что Минобороны располагает уникальными крупномасштабными наборами данных, большая часть этих данных может быть сфабрикована, плохо отобрана или строго засекречена.

Везде, где это возможно, наш подход будет заключаться в том, чтобы требовать от владельцев информации предоставлять открытый доступ к курируемым наборам данных, чтобы максимизировать потенциал для обмена и экспериментирования, а также работать с промышленностью и академическими кругами для разработки масштабируемых решений проблем маркировки данных. Автоматизированные (псевдо) методы анонимизации и технологии повышения конфиденциальности могут позволить проводить анализ без раскрытия основных деталей. Там, где это невозможно или неуместно (например, операционные данные или данные, зависящие от платформы), мы изучим варианты разработки и распространения репрезентативных синтетических наборов данных, управляемых Центром искусственного интеллекта Министерства обороны США.

Мы увеличим доступ к нишевым оборонным возможностям. Наряду с обучающими данными сообществу разработчиков ИИ необходим доступ к вычислительной мощности и репрезентативным цифровым тестовым средам, чтобы безопасно экспериментировать и улучшать функциональность своих продуктов. В качестве основной части нашего предложения мы предоставим гораздо более широкий доступ к специализированным вычислительным возможностям и инфраструктуре тестирования и проверки, которую мы поддерживаем, извлекая уроки из аналогичных правительственных инициатив, таких как пилотная тестовая песочница FSA для финансового сектора. Эти возможности недоступны британским академическим и отраслевым партнерам, но часто необходимы для расширения границ возможного в экстремальных операционных условиях обороны.

4.5.4 Содействие совместному творчеству

«Совместное создание» объединяет правительственных пользователей с поставщиками для поощрения беспрепятственного обмена идеями и данными, итеративного прототипирования и быстрой разработки в таких темпах и масштабах, которые иначе были бы недостижимы. Мы будем все больше распространять наш технический опыт мирового уровня в специализированных региональных пространствах совместного творчества по всей Великобритании, чтобы расширять взаимодействие и сотрудничество с сектором ИИ, способствовать процветанию и поддерживать Leveling Up и Союз. Мы будем:

• углубить существующее региональное сотрудничество в области искусственного интеллекта, в том числе с помощью: новой лаборатории искусственного интеллекта Dstl в Ньюкасле; Инновационные центры под командованием (такие как Defense BattleLab в Winfrith); Центры совместного создания технологий национальной безопасности и обмена инновациями; и все более тесное сотрудничество с другими государственными инициативами, такими как NHSx;
• продолжать использовать сеть региональных партнеров DASA по инновациям, чтобы помочь новаторам в области ИИ в бизнесе и академических кругах понять и получить доступ к возможностям и активам обороны;
• шире использовать растущую сеть региональных кластеров обороны и безопасности, которую министерство обороны поддерживает в экспериментальном порядке по всей Великобритании;
• изучите возможности для тематических кластеров совместного создания ИИ по всей Великобритании, которые могут использовать многопрофильные группы отраслевых и академических специалистов для решения ключевых задач из нашей книги по ИИ.

Центр оборонного ИИ будет играть ключевую роль в выполнении этих обязательств, выступая в качестве координационного центра для обеспечения доступа к передовым знаниям, методам, стандартам и новым идеям со всей национальной ИИ и более широкой технологической базы.

4.5.5 Услуги поддержки бизнеса

Инновационным стартапам в области искусственного интеллекта часто требуется ряд услуг по поддержке бизнеса, чтобы инкубировать продукты и находить доступ к потокам финансирования, необходимым для масштабирования и конкурентоспособности. Мы поможем компаниям, работающим с искусственным интеллектом, получить доступ к надежным источникам рекомендаций по развитию бизнеса, акционерному финансированию и инвестициям с помощью таких программ, как Программа эксплуатации оборонных технологий и Развитие цепочки поставок оборонного назначения; изучая варианты расширения услуги «Доступ к наставничеству и финансам» Defense and Security Accelerator, чтобы обеспечить большую поддержку для малых и средних компаний, занимающихся искусственным интеллектом.

Кроме того, мы будем:

• Разработать новые подходы для максимального использования и коммерциализации принадлежащей Министерству обороны интеллектуальной собственности, связанной с ИИ, через Ploughshare Innovations Ltd;
• Поддерживать расширенный доступ к глобальному рынку для британского сектора искусственного интеллекта, чтобы инновационные британские технологические компании могли обеспечить рост капитала и потребительский масштаб, необходимые для конкуренции на глобальном уровне. От имени британской промышленности Министерство обороны Великобритании, благодаря своему членству в Национальной технологической и промышленной базе США (NTIB), тесно сотрудничает с партнерами в Министерстве обороны США, Министерстве обороны Австралии, Министерстве национальной обороны Австралии. Канада, для укрепления и повышения устойчивости наших соответствующих промышленных баз, расширения инноваций и устранения барьеров на пути потока знаний, товаров и услуг.

5 глобальных разработок искусственного интеллекта для продвижения безопасности, стабильности и демократических ценностей

По мере того как ИИ становится все более распространенным, он существенно изменит динамику глобальной безопасности. С одной стороны, он предоставляет возможности для улучшения, внедрения, мониторинга и обеспечения соблюдения глобальных структур управления. С другой стороны, экономический спад может вызвать нестабильность; общественное беспокойство по поводу влияния алгоритмов может возрасти; а использование ИИ в военных целях может изменить характер конфликта.

Некоторые проблемы, связанные с ИИ, могут быть незаметными и коварными; в то время как системы искусственного интеллекта обладают потенциалом для укрепления демократии и прозрачности управления, авторитарные режимы используют их для усиления слежки и репрессий. Манипулятивные методы, такие как «глубокие фейки», могут все чаще использоваться для подрыва демократических процессов. Другие проблемы могут быть более драматичными; мы должны быть готовы к возможному появлению дестабилизирующих новых возможностей (включая новое оружие массового уничтожения или массового эффекта), попыткам скрыть ответственность за незаконное или злонамеренное использование, а также к авариям или недоразумениям, связанным с системами с поддержкой ИИ.

ИИ станет важной областью геостратегической конкуренции не только как средство для получения технологического и коммерческого преимущества, но и как поле битвы для конкурирующих идеологий. Нам нужно понимать разнообразную местность, на которой будут вестись эти «битвы» — с точки зрения технологий, данных, систем, норм — и использовать различные рычаги, имеющиеся в нашем распоряжении, для достижения наилучшего эффекта. В условиях этой геостратегической сложности и тесного сотрудничества с более широким правительством, союзниками и партнерами наши цели в сфере обороны заключаются в следующем:

• Формировать глобальное развитие ИИ в соответствии с целями и ценностями Великобритании, продвигая ответственные подходы и влияя на глобальные нормы и стандарты в соответствии с демократическими ценностями;
• Содействие безопасности и стабильности — противодействие распространению вредоносных технологий и изучение механизмов укрепления доверия и минимизации рисков, связанных с использованием ИИ в военных целях;
• Разрабатывайте будущие подходы к политике — исследуйте стратегические риски и проблемы, связанные с ИИ, и активно решайте их вместе с союзниками и партнерами.

5.1 Формировать глобальное развитие ИИ в соответствии с целями и ценностями Великобритании

ИИ преображает мир вокруг нас, но его формы, использование и воздействие не предопределены заранее. Эффективное вмешательство и влияние могут значительно снизить риск и увеличить выгоду для Великобритании, ее союзников и партнеров. Поэтому важно, чтобы мы максимизировали нашу способность формировать глобальные тенденции в развитии и использовании технологии, особенно там, где эти вопросы касаются наших основных ценностей. Мы будем наиболее эффективны, когда будем сотрудничать и создавать коалиции с единомышленниками, но мы будем смотреть шире, работая с теми, кто традиционно меньше связан с Великобританией в этих областях, чтобы мы могли понять и — где это уместно — учитывать их взгляды и опасения.

5.1.1 Содействовать безопасной и ответственной военной разработке и использованию

Мы ясно понимаем, что стремимся максимизировать наши операционные возможности за счет использования ИИ, но также и то, что не должно быть «гонки на выживание» — никакого стремления к возможностям без учета ответственности и гарантий. Великобритания призвана сыграть важную роль в предотвращении такой нисходящей спирали и уже давно находится в авангарде формирования открытого международного порядка. Международное гуманитарное право обеспечивает надежную, основанную на принципах основу для регулирования разработки и применения оружия, уделяя особое внимание последствиям, а не характеру какой-либо конкретной технологии. Он налагает позитивные обязательства, учитывающие основные принципы — различие, необходимость, гуманность и соразмерность — и является наиболее подходящим способом регулирования новых средств и методов ведения войны.

ИИ — это технология общего назначения, которая по-разному вносит свой вклад в системы, включая системы вооружений, и поддерживает разные цели, но ничто в ИИ принципиально не меняет наших обязательств по законодательству Великобритании и международному праву или значения, которое мы придаем стандартам, ценностям. и нормы общества, которому мы служим. Мы изложили свой собственный подход и призываем другие страны поступать так же; такие публичные заявления являются важным подспорьем для понимания, изучения и диалога.

Наш подход будет лежать в основе наших усилий по формированию глобального понимания ответственного использования военного ИИ в соответствии с ценностями Великобритании. Мы будем тесно сотрудничать с союзниками и партнерами, чтобы достичь консенсуса, продвигать общее видение безопасного, ответственного и этичного использования этих технологий во всем мире и добиваться соблюдения международного гуманитарного права. Великобритания глубоко привержена принципам многосторонности, и мы будем продолжать играть ведущую роль в международных дискуссиях по укреплению институтов и их адаптации к меняющемуся облику технологий. Правильно, что мы продолжаем придавать большое значение Конвенции ООН о конкретных видах обычного оружия (КОО), в которой обсуждаются «автономные системы смертоносного оружия» (АССО). Дискуссии КНО останутся в центре наших усилий по формированию международных норм и стандартов,

Наша непосредственная задача, работая в тесном сотрудничестве с союзниками и партнерами, состоит в том, чтобы этические вопросы, связанные с ними вопросы доверия и соответствующий аппарат политик, процессов и доктрин не препятствовали нашему законному, ответственному и этичному развитию ИИ, а также нашим усилиям. на сотрудничество и интероперабельность. Мы решительно приветствуем публикацию этических принципов близкими союзниками, такими как США и Франция, и лидерство НАТО в этических дебатах в Североатлантическом союзе. Мы продолжим активно участвовать в возглавляемом США Партнерстве по ИИ в целях обороны, которое объединяет страны-единомышленники для продвижения этики ИИ, таксономии, надежного ИИ и навыков.

Мы продолжим работать с ООН, другими государствами, гражданским обществом, промышленностью и академическими кругами для разработки и продвижения передового опыта использования ИИ и автономии в системах вооружений. Мы будем открыты для широкого спектра мер для этого. Они могут включать: кодексы поведения; ряд позитивных обязательств или обязательств; или новые механизмы отчетности или проверки. При этом мы будем активно делиться нашим обширным дипломатическим, техническим и юридическим опытом, но мы не можем останавливаться на достигнутом — мы должны обеспечить, чтобы международные системы имели возможность эффективно обеспечивать соблюдение норм и стандартов, привлекая к ответственности тех, кто их не соблюдает.

5.1.2 Влияние на глобальное развитие технологий ИИ

Комплексный обзор подчеркивает вероятность острой конкуренции за разработку правил, норм и стандартов, регулирующих технологии и цифровую экономику, и поэтому особую важность активной дипломатии для воздействия на эти рамки. У нас есть ключевой интерес к этой деятельности. Мы признаем важность использования нормативно-правовой базы для формирования рынков, обеспечения стабильности и уменьшения возможностей злоумышленников использовать технологии для причинения нам вреда. Нам также нужны нормативные акты и стандарты для поддержки и обеспечения наших предпочтительных вариантов использования ИИ.

Поэтому мы будем играть ключевую роль в поддержке регуляторной дипломатии Великобритании, делясь своим научно-техническим опытом и знаниями в соответствующих областях, таких как регулирование киберпространства. Мы поможем обеспечить, чтобы подход Великобритании к исследованиям и разработкам в области искусственного интеллекта поддерживал более широкие стратегические цели, следуя подходу Integrated Review «Собственный совместный доступ». Мы можем продвигать определенные ценности, создавая технологии, которые позволяют их реализовать; как важный участник британских исследований и разработок и крупный будущий пользователь ИИ, мы можем поощрять исследования и разработки систем ИИ, которые продвигают открытое и демократичное использование ИИ, в частности надежного и объяснимого ИИ. Работая с промышленностью и академическими кругами, мы изучим возможности для формирования конкурентной среды ИИ, чтобы дать нашим ценностям структурное преимущество.

5.2 Обеспечение безопасности и стабильности

Как и любая важная технология или способность, ИИ может нарушить баланс сил между государствами или отдельными регионами. Эта проблема усугубляется характером технологии, которая становится все более распространенной и в некотором смысле доступной. Передовые приложения можно найти во многих отраслях, а такие технологии, как небольшие дроны, становятся все более доступными. Новизна некоторых приложений создает риск просчета или неправильного понимания. «Мощь ИИ» — как и «кибермощь» — очень хвалят, но ее трудно измерить и контролировать.

5.2.1 Борьба с распространением и контроль над вооружениями

Признавая, что многие формы ИИ будут повсеместными и легкодоступными, мы, тем не менее, должны предпринять шаги, чтобы ограничить распространение ключевых стратегических или конфиденциальных технологий или методов. Мы должны быть особенно обеспокоены преднамеренной передачей технологий государствами негосударственным или марионеточным субъектам. Мы будем работать с союзниками и партнерами, чтобы устранить потенциально дестабилизирующий эффект распространения ИИ. Мы должны укреплять, активизировать и адаптировать, уравновешивая возможности новых технологий с соответствующими средствами контроля, чтобы ограничить доступ к приложениям искусственного интеллекта «военного уровня». Там, где это уместно, мы будем работать через существующие режимы нераспространения, разоружения и экспортного контроля, договоры и организации. Мы будем:

• Внимательно следите за тенденциями в технологиях, готовясь к рискам, связанным с технологиями двойного назначения, или к рискам, что ИИ усугубит существующие проблемы в области борьбы с распространением и контроля над вооружениями;
• Сосредоточьтесь на ограничении перемещения компонентов и оборудования, которые значительно расширят возможности; и о применении надлежащих средств контроля за движением данных;
• Поддерживать стратегические международные обязательства Уайтхолла в области науки и технологий, чтобы обеспечить четкий подход к рискам технологий двойного назначения, таких как ИИ;
• Работайте с международными партнерами над разработкой средств предотвращения распространения или неправомерного использования ИИ.

ИИ сам по себе может сыграть ключевую роль в достижении этих целей. Там, где это уместно, мы будем использовать его для: помощи в выявлении рисков; сделать механизмы отчетности более эффективными; укрепить наш потенциал правоприменения; обеспечить эффективное применение средств контроля; и позволяют быстрее проверять потенциальные проблемы.

5.2.2 Защита критически важных технологий

Наша экосистема искусственного интеллекта подпитывается открытыми знаниями, информацией и потоками данных, особенно в среде академических исследований. Эта открытость является большой силой, поощряющей здоровый приток внутренних и иностранных инвестиций, которые помогли превратить научные и технологические идеи в продукты, решения и услуги мирового уровня. Однако, как ясно показал Комплексный обзор, наша открытость все чаще используется противниками в военных и экономических целях. Области, вызывающие обеспокоенность, широки, включая академическое вмешательство, проникновение в чувствительные области исследований, приобретение или контроль над ключевыми стратегическими технологическими компаниями, риски передачи и распространения нематериальных технологий, кражу интеллектуальной собственности, фальсификацию и обратный инжиниринг. Особенно активными угрозами в этом отношении являются такие противники, как Россия и Иран. Так же, Стратегия военно-гражданского синтеза Китая обеспечивает четкое стратегическое направление для дальнейшей интеграции гражданских и военных исследований и промышленных разработок, повышая риск того, что партнерство в области НИОКР или приобретение технологий двойного назначения могут принести непосредственную пользу их оборонно-промышленной базе и более широкому аппарату национальной безопасности. Хотя у военно-гражданского синтеза более широкие цели, чем приобретение иностранных технологий, на практике это означает, что нет четкой границы между китайской гражданской и военной экономикой, что увеличивает затраты на комплексную проверку для стран и глобальных организаций, которые не желают вносить свой вклад в китайскую военную модернизацию. Партнерства D или приобретение технологий двойного назначения могут принести непосредственную пользу их оборонно-промышленной базе и более широкому аппарату национальной безопасности. Хотя у военно-гражданского синтеза более широкие цели, чем приобретение иностранных технологий, на практике это означает, что нет четкой границы между китайской гражданской и военной экономикой, что увеличивает затраты на комплексную проверку для стран и глобальных организаций, которые не желают вносить свой вклад в китайскую военную модернизацию. Партнерства D или приобретение технологий двойного назначения могут принести непосредственную пользу их оборонно-промышленной базе и более широкому аппарату национальной безопасности. Хотя у военно-гражданского синтеза более широкие цели, чем приобретение иностранных технологий, на практике это означает, что нет четкой границы между китайской гражданской и военной экономикой, что увеличивает затраты на комплексную проверку для стран и глобальных организаций, которые не желают вносить свой вклад в китайскую военную модернизацию.

Эффективная защита технологий имеет решающее значение для обеспечения военного превосходства в будущем, защиты интеллектуальной собственности Великобритании и выполнения наших обязательств по предотвращению распространения товаров, программного обеспечения и технологий военного и двойного назначения. Это серьезная проблема, учитывая, что угрозы для наших секторов исследований и разработок еще не ясно поняты и быстро развиваются по мере развития новых технологий. Мы будем:

• Углубить наше понимание сравнительных сильных и слабых сторон искусственного интеллекта в Великобритании (включая аппаратные зависимости), определяя критически важные технологии компонентов, где: (а) Великобритании требуется гарантированный доступ на суше; (б) мы должны отдавать приоритет сотрудничеству с единомышленниками; или (c) вездесущность технологии представляет минимальную угрозу безопасности;
• Определите, требуют ли наши уникальные требования более строгих мер для приобретения продуктов, услуг и базовых технологий ИИ. Хотя мы стремимся укреплять британскую экосистему ИИ, и наше исходное предположение состоит в том, что большинство коммерческих технологий двойного назначения «ИИ сейчас» могут быть подходящими для глобальной конкуренции, эксплуатация — или разработка на заказ технологии — «ИИ следующего», вероятно, требовать усиленной защиты (возможно, включая гарантированный доступ к берегу, где нам нужна оперативная независимость);
• Избирательно вмешиваться, чтобы обеспечить поддержку и защиту стратегически важных британских компаний и возможностей от иностранных инвестиций, когда этого требуют национальные интересы;
• Взвешенно и целенаправленно используйте имеющиеся в нашем распоряжении рычаги защиты технологий, включая полномочия в соответствии с Законом о национальной безопасности и инвестициях, проверки в рамках Схемы академического утверждения технологий и положения в рамках режимов экспортного контроля.

5.2.3 Укрепляйте доверие и минимизируйте риск

Тем не менее, мы должны ожидать увеличения числа силовых элементов с искусственным интеллектом на реальных или виртуальных театрах военных действий, и чтобы они действовали с возрастающей скоростью. Их может быть трудно отличить от более традиционных сил, но они демонстрируют неожиданное поведение. Это может быть преднамеренно, неожиданные последствия различных системных взаимодействий, или результат кибератаки или каких-либо других манипуляций. Некоторые возможности просто будут работать со сбоями, особенно если стандарты безопасности и надежности будут скомпрометированы в погоне за внедрением новых боевых возможностей. Увеличение числа автономных платформ и снижение участия человека в операциях (или даже контроля над ними) может изменить порог конфликта и создать спирали насилия и эскалации.

Мы должны предпринять соответствующие шаги, чтобы ограничить возможность недоразумений, просчетов или неконтролируемой эскалации, возникающих из-за этих факторов. Иногда может быть важно знать, была ли система с поддержкой ИИ или нет, и в какой степени. Это может быть особенно важно в случае кризиса или вспышки, или в уже неясном контексте подпороговой активности. Мы будем взаимодействовать с союзниками и партнерами, чтобы разобраться в этих вопросах и разработать предложения по кодексам поведения и другим мерам укрепления доверия, которые могут снизить риск случайных столкновений, побочного ущерба и просчетов. Мы также будем делиться передовым международным опытом проведения проверок TEV&V и оружия, например, практические описания и тематические исследования, касающиеся использования и параметров системного контроля, где это уместно.

5.3 Разработка будущей политики безопасности

Технологии искусственного интеллекта быстро развиваются, и с ними связаны риски и проблемы безопасности. Мы должны иметь широкое представление о последствиях и угрозах, принимая во внимание экстремальные и даже экзистенциальные риски, которые могут возникнуть, и обеспечивать, чтобы наши методы управления рисками учитывали и соответствующим образом адаптировались к неопределенности. Мы должны убедиться, что наше технологическое понимание будущего, разработок и тенденций ИИ (включая инвестиционные рынки), полученное в основном благодаря нашей научно-технической программе и взаимодействию с более широким экспертным сообществом, дает информацию для нашего более широкого анализа, стратегии и позиции. Инновационные и прорывные приложения (которые по своей природе трудно предсказать) уже оказали значительное влияние на многие отрасли и бизнес-модели.

Мы должны понимать, как тенденции ИИ пересекаются с другими факторами — экономическими, демографическими, политическими, социальными, дипломатическими, стратегической мощью «больших технологий» — и как ИИ может управлять важной динамикой, инкубировать новые угрозы или иным образом подрывать глобальную безопасность. Автоматизированное производство дезинформации и использование «дипфейков» может усугубить «законные действия» против наших сил, резко подорвать общественную поддержку операций Великобритании или даже, в экстремальных обстоятельствах, подавить и парализовать принятие важных решений на национальном уровне. Растущая глобальная фрагментация технологий или ограниченность ресурсов (например, связанные с поставками полупроводников) могут приобретать все большее стратегическое значение.

Мы будем поддерживать Национальный совет по науке и технологиям и Управление по стратегии в области науки и технологий в разработке широких взглядов на эти стратегические последствия, предоставляя уникальный опыт обороны, разведданные, анализ и понимание — например, посредством варгейминга, красных команд и расследований на основе сценариев. Мы будем тесно взаимодействовать с союзниками, партнерами, академическими кругами и гражданским обществом, чтобы продвигать стратегические исследования и наращивать потенциал для понимания и прогнозирования стратегических последствий и рисков, связанных с ИИ в обороне. Признавая глубокое влияние ИИ во многих секторах, мы будем стремиться извлечь уроки из областей (например, финансов), которые разработали протоколы для ограничения потрясений, несмотря на высокую конкуренцию и быстро меняющуюся среду.

5.3.1 ИИ, стратегические системы и сдерживание

Существует потенциальный риск того, что стратегическая стабильность может быть подорвана разработкой нового оружия массового уничтожения или массового эффекта или интеграцией ИИ в стратегические системы. Позиции и расчеты ядерного сдерживания уже осложнены появлением новых угроз космическим системам связи и раннего предупреждения, а также более широкой и аморфной киберугрозой цифровым системам. Благодаря множеству возможных применений ИИ может еще больше разрушить стратегические парадигмы, например, путем поощрения увеличения скорости машин. И наоборот, ИИ может повысить стратегическую стабильность, например, за счет более сложного моделирования, принятия более информированных решений и, следовательно, снижения риска просчетов и непреднамеренной эскалации.

Великобритания находится в авангарде международной работы по снижению риска ядерного конфликта и укреплению взаимного доверия и безопасности. Мы будем выступать за снижение стратегических рисков и стремиться к налаживанию диалога между государствами, обладающими ядерным оружием, а также между государствами, обладающими ядерным оружием, и государствами, не обладающими ядерным оружием, для улучшения понимания и снижения риска ошибок, неправильных толкований и просчетов. Мы изучим влияние ИИ на взаимосвязанные области кибербезопасности, космоса и ядерной энергетики, изучая потенциал ИИ для ускорения или усиления разработок, связанных с другими появляющимися и стратегическими технологиями. Мы будем продвигать и участвовать в международном диалоге, направленном на выявление и устранение важнейших стратегических рисков, связанных с ИИ. Мы позаботимся о том, чтобы — независимо от использования ИИ в наших стратегических системах — политический контроль человека над нашим ядерным оружием всегда сохранялся. Мы настоятельно призываем другие ядерные государства взять на себя аналогичные обязательства.

Как благоприятная технология, ИИ сам по себе не представляет угрозы, и мы будем стремиться использовать ИИ там, где это уместно, чтобы помочь справиться с угрозами, с которыми мы сталкиваемся, и уменьшить их. Однако мы понимаем, что злоумышленники, скорее всего, попытаются использовать ИИ, чтобы увеличить вред, который они могут нанести нам. Твердая позиция в отношении сдерживания лежит в основе Комплексного обзора. Мы будем поддерживать эффективность наших стратегий и возможностей сдерживания перед лицом новых угроз, возможностей или других изменений в среде безопасности, вызванных ИИ. Мы будем разрабатывать новые стратегии по мере необходимости для устранения конкретных угроз, связанных с ИИ, продолжая при этом отстаивать позитивное и ответственное использование ИИ. В случае угрозы или нападения со стороны противника с поддержкой ИИ мы будем учитывать не только нанесенный ущерб, но и способ использования ИИ при формулировании нашего ответа.

6 Реализация стратегии и не только

Крайне важно, чтобы все части нашего бизнеса были стимулированы, мотивированы и обеспечены ресурсами, чтобы реагировать на вызовы ИИ в требуемом темпе и масштабе. Оборона — сложная организация. Каждая часть столкнется со своим уникальным сочетанием возможностей, проблем и сбоев ИИ, и каждая часть несет ответственность за то, чтобы принять вызов и внести свой вклад в реализацию нашего видения.

• Все функциональные владельцы, передовые команды, бюджеты верхнего уровня (TLB) и поддерживающие организации предоставят официальный ответ на эту Стратегию в течение следующих 6 месяцев (с момента публикации);
• Опираясь на эти ответы, лидеры и организации либо разработают отдельную стратегию/план ИИ, либо обеспечат широкое освещение ИИ в других стратегиях и планах;
• Головной офис обеспечит соответствие корпоративных, стратегических и функциональных планов настоящей Стратегии и установление амбициозных целей и ориентиров, а также надлежащее освещение всего спектра вопросов, изложенных в этом документе;
• Все старшие комитеты и советы рассмотрят свои обязанности и деятельность, предоставив официальные гарантии того, что они согласованы и согласуются с настоящей Стратегией и любыми дополнительными планами ИИ, которые появляются.

6.1 Приоритеты

Отдельные организации и функции должны будут определить приоритеты своей деятельности в рамках описанного выше процесса под контролем головного офиса. На уровне обороны нашими непосредственными приоритетами являются:

• Немедленно внесите изменения в то, как мы структурируем наши данные, чтобы мы начали создавать тщательно подобранные наборы данных, необходимые для внедрения ИИ;
• Предоставить оборонный центр искусственного интеллекта (DAIC) в качестве начальной операционной возможности, уделяя особое внимание установлению эффективных связей с промышленностью и академическими кругами;
• Разработать и внедрить наш «амбициозный, безопасный, ответственный» подход к ИИ в обороне, при этом головной офис будет руководить всеобъемлющей политикой и процессом, а UKStratComd будет вести более детальную работу среди сообщества военных практиков и операторов;
• Создание и распространение технологических/программных дорожных карт и первой итерации технологической стратегии искусственного интеллекта для руководства проектными группами в сфере обороны.

6.2 Лидерство и управление

Второй постоянный секретарь и заместитель начальника штаба обороны будут контролировать и управлять деятельностью министерства обороны. Они будут тщательно изучать и согласовывать ответы и подходы, описанные выше, и иметь всеобъемлющий план реализации стратегии оборонного ИИ. Этот план будет основываться на результатах, описанных выше, и будет четко отображать действия и обязанности.

Совет по оборонным технологиям и инновациям (DTIB) будет выполнять функции Совета по реализации стратегии ИИ. 2nd PUS и VCDS, как сопредседатели, будут тщательно изучать деятельность других старших советов и проводить ежегодную инвентаризацию AI через DTIB. Технологический и глобальный контекст будет быстро развиваться, наши планы станут более детализированными, мы извлечем уроки об эффективности нашего подхода, а искусственный интеллект станет более заметной частью «обычного бизнеса». Чтобы обеспечить надлежащее отражение этих изменений и возможностей в руководстве высокого уровня и сохранить импульс, DTIB будет следить за обновлением этой Стратегии (во главе с Отделом оборонного ИИ и автономии), сопровождаемым обзором планов оборонных организаций. после двух лет.

6.3 Заглядывая вперед

Чтобы стать действительно «готовой к ИИ» организацией — и выйти за рамки этого и стать «выдающимся ИИ» — высшее руководство и персонал всей организации должны активно и творчески продвигать изменения, особенно с учетом следующих принципов:

• Мы должны коренным образом изменить то, как мы думаем о современных технологиях. Это не просто средство реализации, но мощная разрушительная и созидательная сила. Мы не можем изолировать себя от этих эффектов, которые лишь частично связаны с нашим собственным выбором в отношении усыновления и эксплуатации. Страны, которые внедряют технологическое понимание и стратегическое понимание в основу своих решений и планов, будут иметь решающее преимущество;
• ИИ должен стать основной технологией будущего практически для всего, что мы делаем. Мы должны быть амбициозными, стремясь предоставлять лучшие в мире решения для искусственного интеллекта и возможности на основе искусственного интеллекта.
• Мы должны быть готовы скорректировать наше мировоззрение и научиться ценить разные вещи, особенно наши данные, а также скорость и качество выводов, которые мы можем из них извлечь;
• Национальная «научная мощь» лежит в основе всех аспектов нашей безопасности, процветания и международного влияния. У нас есть стратегический интерес в долгосрочном здоровье и устойчивости национального технологического сектора, а также важная роль в обеспечении политики и деятельности Великобритании в области исследований и разработок — от безопасности до торговли и дипломатии — поддержки этого долгосрочного будущего;
• Мы должны изменить то, как мы думаем о характере работы, навыках, которые нужны нашим людям, и о том, как мы организуем для достижения успеха;
• Все в обороне заинтересованы и играют свою роль в этих изменениях. Мы должны катализировать устойчивые изменения в мышлении, культуре, планировании и реализации на всех уровнях и во всех частях нашей организации.

Все виды и типы британских виз, гостевые, семейные, рабочие и студенческие визы, виза жены и виза невесты, бизнес визы в Великобританию в 2022 – 2023 годах

 

Телеграм канал ВикиВиза https://t.me/wikivisa

Чат и оперативные ответы по визам https://t.me/wikivisa_chat