Стратегия Пентагона в области искусственного интеллекта
https://ic.pics.livejournal.com/colonelcassad/19281164/2007508/2007508_900.jpg
На прошлой неделе Пентагон выпустил официальный доклад, где озвучивались цели и задачи развития искусственного интеллекта в интересах министерства обороны США.
Стратегия Пентагона в области искусственного интеллекта
Во вторник, 12 февраля 2018 г., министерство обороны США опубликовало «Краткое содержание стратегии министерства обороны по искусственному интеллекту на 2018 год». Этот документ закладывает основу взаимодействия военного ведомства с ИИ-технологиями, как с точки зрения конечного применения, так и с точки зрения организационных вопросов при внедрении. С точки зрения Пентагона, ИИ-технологии способны радикально преобразовать военное дело. Авторы считают, что Пентагон обязан включиться в гонку вооружений и определить для себя рамки использования новых технологий, так как их уже начали внедрять в России и Китае, в том числе в сферах, критичных с точки зрении этики.
Целеполагание
Авторы заранее оговаривают, что внедрение ИИ — это итеративный процесс освоения новых технологий, который выходит за рамки конкретных идей, изложенных в документе. Тем не менее, формулируется несколько вполне конкретных предложений по использованию ИИ-технологий в контексте МО США. Главным и ближайшим по времени реализации проекта (если судить из частоты упоминания в тексте) авторы считают так называемые предсказательные обслуживание и логистику (predictive maintenance and supply), суть которых в следующем: при постоянном мониторинге состояния военной техники можно распознать маркеры её деградации раньше, чем она станет фактически непригодной к использованию, и более эффективно использовать ремонтные ресурсы. Это должно снизить операционные издержки и улучшить соотношение количества боеготовых сил к их общему числу — так называемый коэффициент оперативного напряжения.
Также в документе упоминается применение ИИ (а, конкретнее, распознавания образов) для улучшения общей ситуационной осведомлённости и опознавания возникающих и неочевидных человеческому оператору опасностей во всех сферах применения — от киберпространства до «классического» поля боя. Эти опасности могут возникать как из-за потенциальных неисправностей и дефектов, так и из-за действий противника; улучшение осведомлённости должно, по задумке Пентагона, повысить качество оценки ситуации и улучшить точность действий военных. Также Пентагон надеется таким образом предсказать небезопасные ситуации, улучшить принимаемые решения и способствовать повышению безопасности как военнослужащих, так и защищаемых ими объектов, например, критической инфраструктуры США.
Не обходит вниманием документ и то, что его авторы называют поддержкой принятия решений (decision support). В переводе на общепонятные категории это означает расчёт планов действий в той или иной ситуации. В случае с обслуживанием техники — это вычисление оптимальных стратегий обслуживания и либо оценка действий и советы человеческому оператору, либо же полная автоматизация управлением ремонтных бригад.
Относительно автоматизации как таковой авторы пишут довольно осторожно и ограничиваются общими фразами. Технологии, связанные с ИИ, должны автоматизировать «ручной, частый, неквалифицированный труд», чтобы увеличить производительность труда, уменьшить вероятность ошибки из-за человеческого фактора и позволить человеческим операторам сконцентрироваться на более высокоуровневых задачах. Всё вместе должно трансформировать Пентагон в крупного ИИ-работодателя и повысить эффективность внутренних процессов в министерстве.
Организационные аспекты
Для вышеупомянутой трансформации оборонное ведомство предлагает создать дополнительную структуру — Объединённый центр искусственного интеллекта (Joint Artificial Intelligence Center, JAIC), задачей которой и будет интеграция технологий ИИ в повседневную жизнь военных. По замыслу Пентагона, JAIC должен выполнять несколько ролей.
Организационно Центр должен координировать внедрение соответствующих технологий во всех сферах военной деятельности. Это значит, что Центр будет связующим звеном между конечными пользователями и исследованиями, позволяя внедрять новые разработки сразу в военном контексте. Вторая основная цель создания единого центра — снижение организационных преград для использования одних и тех же наработок в разных видах войск.
Создание JAIC видится шагом по концентрации компетенций по ИИ в руках одной структуры внутри Пентагона, которая, с одной стороны, будет координировать внедрение ИИ внутри вооружённых сил, и, с другой стороны, будет отвечать за коммуникацию по этому направлению с союзниками и научно-техническими центрами фундаментальных исследований вроде DARPA или университетов. Тут важно отметить, что JAIC задумывается в первую очередь как исполнительная структура, цель которой разработка, оценка, и, в случае успешных испытаний на поле боя, широкомасштабное внедрение прототипов; коммуникативные компетенции считаются скорее необходимостью для выполнения этой задачи. В этих рамках в ответственность JAIC будут входить стандартизация различных аспектов ИИ, в том числе, его разработки и применения.
Для быстрого набора компетенции в области ИИ Пентагон надеется на сотрудничество с промышленными партнёрами, сократив время тендерных процедур. Также планируется привлекать академическое и open source сообщество интересными задачами без военной специфики; таким образом военные надеются не только на решение своих задач, но и на привлечение ценных кадров.
Отдельным пунктом документ упоминает взаимодействие с научным сообществом путём финансирования исследований как через традиционные каналы вроде DARPA, так и через новые фонды, создающиеся под исследования в области ИИ. Пентагон интересуют здесь не только новые алгоритмические возможности, но и ответы на вопрос, как создать безопасный для военного применения ИИ, чьи решения могут быть объяснены человеку. В этом же контексте оборонное ведомство обязуется исследовать этические принципы использования ИИ и бороться за их международное принятие.
Оценка документа
В целом документ отражает не только современный консенсус вокруг ИИ и возможностей его использования, но и общее мироощущение в США. Показательно, что в мотивировочной части авторы документа подчёркивают необходимость включения в гонку ИИ тем, что вероятные противники уже разрабатывают и внедряют соответствующие технологии с далеко идущими геополитическими целями, противоречащими ценностям США и их союзников. В том числе и поэтому документ многократно упоминает вопросы этики и ценностей.
Судя по всему, в Пентагоне сформировалось мнение, что для внедрения ИИ-технологий не хватает ни расходуемых ресурсов, ни организационных структур. Поэтому стратегия предусматривает, кроме собственно внедрения технологий, дополнительное активное финансирование, привлечение кадров из гражданского и научного сектора, а также создание специализированного внутреннего ведомства по ИИ, которое должно управлять внедрением технологий и отчасти преобразовать не только процесс внедрения, но и сам Пентагон, увеличивая его эффективность не только за счёт технических инноваций, но и за счёт применения современных управленческих практик.
http://russiancouncil.ru/analytics-and-comments/analytics/obzor-strategii-ii-mo-ssha/ – цинк
https://media.defense.gov/2019/Feb/12/2002088963/-1/-1/1/SUMMARY-OF-DOD-AI-STRATEGY.PDF?fbclid=IwAR0iPoHeBD-hjWG6spK_6C9nJjADlqguh9ZwV_gHYRpUrq7M0Zj7dsbvTEA – оригинал доклада на английском языке
На прошлой неделе Пентагон выпустил официальный доклад, где озвучивались цели и задачи развития искусственного интеллекта в интересах министерства обороны США.
Стратегия Пентагона в области искусственного интеллекта
Во вторник, 12 февраля 2018 г., министерство обороны США опубликовало «Краткое содержание стратегии министерства обороны по искусственному интеллекту на 2018 год». Этот документ закладывает основу взаимодействия военного ведомства с ИИ-технологиями, как с точки зрения конечного применения, так и с точки зрения организационных вопросов при внедрении. С точки зрения Пентагона, ИИ-технологии способны радикально преобразовать военное дело. Авторы считают, что Пентагон обязан включиться в гонку вооружений и определить для себя рамки использования новых технологий, так как их уже начали внедрять в России и Китае, в том числе в сферах, критичных с точки зрении этики.
Целеполагание
Авторы заранее оговаривают, что внедрение ИИ — это итеративный процесс освоения новых технологий, который выходит за рамки конкретных идей, изложенных в документе. Тем не менее, формулируется несколько вполне конкретных предложений по использованию ИИ-технологий в контексте МО США. Главным и ближайшим по времени реализации проекта (если судить из частоты упоминания в тексте) авторы считают так называемые предсказательные обслуживание и логистику (predictive maintenance and supply), суть которых в следующем: при постоянном мониторинге состояния военной техники можно распознать маркеры её деградации раньше, чем она станет фактически непригодной к использованию, и более эффективно использовать ремонтные ресурсы. Это должно снизить операционные издержки и улучшить соотношение количества боеготовых сил к их общему числу — так называемый коэффициент оперативного напряжения.
Также в документе упоминается применение ИИ (а, конкретнее, распознавания образов) для улучшения общей ситуационной осведомлённости и опознавания возникающих и неочевидных человеческому оператору опасностей во всех сферах применения — от киберпространства до «классического» поля боя. Эти опасности могут возникать как из-за потенциальных неисправностей и дефектов, так и из-за действий противника; улучшение осведомлённости должно, по задумке Пентагона, повысить качество оценки ситуации и улучшить точность действий военных. Также Пентагон надеется таким образом предсказать небезопасные ситуации, улучшить принимаемые решения и способствовать повышению безопасности как военнослужащих, так и защищаемых ими объектов, например, критической инфраструктуры США.
Не обходит вниманием документ и то, что его авторы называют поддержкой принятия решений (decision support). В переводе на общепонятные категории это означает расчёт планов действий в той или иной ситуации. В случае с обслуживанием техники — это вычисление оптимальных стратегий обслуживания и либо оценка действий и советы человеческому оператору, либо же полная автоматизация управлением ремонтных бригад.
Относительно автоматизации как таковой авторы пишут довольно осторожно и ограничиваются общими фразами. Технологии, связанные с ИИ, должны автоматизировать «ручной, частый, неквалифицированный труд», чтобы увеличить производительность труда, уменьшить вероятность ошибки из-за человеческого фактора и позволить человеческим операторам сконцентрироваться на более высокоуровневых задачах. Всё вместе должно трансформировать Пентагон в крупного ИИ-работодателя и повысить эффективность внутренних процессов в министерстве.
Организационные аспекты
Для вышеупомянутой трансформации оборонное ведомство предлагает создать дополнительную структуру — Объединённый центр искусственного интеллекта (Joint Artificial Intelligence Center, JAIC), задачей которой и будет интеграция технологий ИИ в повседневную жизнь военных. По замыслу Пентагона, JAIC должен выполнять несколько ролей.
Организационно Центр должен координировать внедрение соответствующих технологий во всех сферах военной деятельности. Это значит, что Центр будет связующим звеном между конечными пользователями и исследованиями, позволяя внедрять новые разработки сразу в военном контексте. Вторая основная цель создания единого центра — снижение организационных преград для использования одних и тех же наработок в разных видах войск.
Создание JAIC видится шагом по концентрации компетенций по ИИ в руках одной структуры внутри Пентагона, которая, с одной стороны, будет координировать внедрение ИИ внутри вооружённых сил, и, с другой стороны, будет отвечать за коммуникацию по этому направлению с союзниками и научно-техническими центрами фундаментальных исследований вроде DARPA или университетов. Тут важно отметить, что JAIC задумывается в первую очередь как исполнительная структура, цель которой разработка, оценка, и, в случае успешных испытаний на поле боя, широкомасштабное внедрение прототипов; коммуникативные компетенции считаются скорее необходимостью для выполнения этой задачи. В этих рамках в ответственность JAIC будут входить стандартизация различных аспектов ИИ, в том числе, его разработки и применения.
Для быстрого набора компетенции в области ИИ Пентагон надеется на сотрудничество с промышленными партнёрами, сократив время тендерных процедур. Также планируется привлекать академическое и open source сообщество интересными задачами без военной специфики; таким образом военные надеются не только на решение своих задач, но и на привлечение ценных кадров.
Отдельным пунктом документ упоминает взаимодействие с научным сообществом путём финансирования исследований как через традиционные каналы вроде DARPA, так и через новые фонды, создающиеся под исследования в области ИИ. Пентагон интересуют здесь не только новые алгоритмические возможности, но и ответы на вопрос, как создать безопасный для военного применения ИИ, чьи решения могут быть объяснены человеку. В этом же контексте оборонное ведомство обязуется исследовать этические принципы использования ИИ и бороться за их международное принятие.
Оценка документа
В целом документ отражает не только современный консенсус вокруг ИИ и возможностей его использования, но и общее мироощущение в США. Показательно, что в мотивировочной части авторы документа подчёркивают необходимость включения в гонку ИИ тем, что вероятные противники уже разрабатывают и внедряют соответствующие технологии с далеко идущими геополитическими целями, противоречащими ценностям США и их союзников. В том числе и поэтому документ многократно упоминает вопросы этики и ценностей.
Судя по всему, в Пентагоне сформировалось мнение, что для внедрения ИИ-технологий не хватает ни расходуемых ресурсов, ни организационных структур. Поэтому стратегия предусматривает, кроме собственно внедрения технологий, дополнительное активное финансирование, привлечение кадров из гражданского и научного сектора, а также создание специализированного внутреннего ведомства по ИИ, которое должно управлять внедрением технологий и отчасти преобразовать не только процесс внедрения, но и сам Пентагон, увеличивая его эффективность не только за счёт технических инноваций, но и за счёт применения современных управленческих практик.
http://russiancouncil.ru/analytics-and-comments/analytics/obzor-strategii-ii-mo-ssha/ – цинк
https://media.defense.gov/2019/Feb/12/2002088963/-1/-1/1/SUMMARY-OF-DOD-AI-STRATEGY.PDF?fbclid=IwAR0iPoHeBD-hjWG6spK_6C9nJjADlqguh9ZwV_gHYRpUrq7M0Zj7dsbvTEA – оригинал доклада на английском языке
