Скорость уже давно считается определяющим фактором при принятии военных решений.

Но алгоритмы обещают ускорить эти решения далеко за пределы человеческих возможностей, в ущерб защитной логике закона, пишет Анна Розали Грейпл, научный сотрудник с ученой степенью (PhD) Института глобальных исследований Женевского университета.

(Источник: GENEVA SOLUTIONS).

В серии GENEVA SOLUTIONS, опубликованных с 22 по 26 сентября в сотрудничестве с Le Temps, преподаватели Женевского института международных исследований делятся своим взглядом на мир в условиях растущих угроз – так же, как это сделали их предшественники в Высшем институте международных исследований летом 1939 года. GENEVA SOLUTIONS публикуют избранные номера из оригинальной серии.

Солдат смотрит на экран. Появляются имя и фотография, помеченные алгоритмом как боевик. У него есть секунды, чтобы решить: является ли этот человек законной целью? Это, и мало что еще, рискует стать человеческим суждением, отделяющим рекомендацию ИИ от смертоносной силы.

Речь идет не об автономном оружии, которое находит и атакует цели без участия человека. Мы имеем дело с более незаметной реальностью — системами поддержки принятия решений на базе ИИ, которые все сильнее влияют на военные приказы, включая вопросы жизни и смерти. Их привлекательность строится на обманчиво простом убеждении: системы ИИ способны справляться со сложными мыслительными задачами лучше людей. Быстрее. Точнее. Рациональнее. Однако это многообещающее, но соблазнительное допущение рискует вытеснить элемент человеческого суждения, на котором держится все право вооруженных конфликтов.

Эпоха скорости

Современный идеал ускоренного принятия решений наиболее тесно связан с полковником ВВС США Джоном Бойдом и его циклом «Наблюдение, ориентация, решение, действие» (петля Бойда) (OODA))

Бойд утверждал, что победа достается той стороне, которая способна проходить этот цикл быстрее, чем противник успевает отреагировать. Скорость принятия решений в такой концепции — не просто одно из многих достоинств. Она является решающим фактором.

Эта логика до сих пор формирует военное мышление.

Это влияет на то, как обучаются военные, как проектируются командные структуры и как оцениваются новые технологии.

(Обновленная) мечта благодаря эффективности машины

ИИ получил распространение во многом потому, что он обещает реализовать эту амбицию лучше, чем это могут сделать люди.

На протяжении десятилетий быстрое принятие решений воспринималось как чисто человеческое достижение, развиваемое посредством обучения и интуиции.

Сейчас главным препятствием все чаще становятся люди: они склонны к усталости, когнитивной перегрузке, непоследовательности и задержке.

ИИ обещает снять эти ограничения, резко подняв планку борьбы с возникающими угрозами с минут до ошеломляющего времени. 1000 тактических решений в час (один каждые 3,6 секунды). Это  намного превосходит скорость человеческой мысли .

Этот сдвиг легко не заметить, поскольку идеалом остается неустанное стремление к более быстрым и эффективным решениям. Изменился только герой в центре. Главный результат заключается в том, что люди переходят от активного применения обоснованных суждений к пассивному одобрению алгоритмических предложений.

Эта логика заложена в таких системах, как Lavender и Gospel, которые, по имеющимся данным, используются израильскими силами в секторе Газа, или в интеллектуальной системе Maven (Maven Smart System), применявшейся США во время операции «Epic Fury» против Ирана в начале этого года. Позиционируемые как инструменты поддержки принятия решений на базе ИИ, они все чаще выполняют задачи, которые раньше доверялись исключительно обученным военным офицерам. Задачи, которые влекут за собой серьезные юридические последствия: определение законных целей и вынесение рекомендаций о применении силы. Формально люди по-прежнему вовлечены в процесс, однако машинная скорость практически не оставляет времени для реального анализа. Контроль рискует превратиться в простое «штампование» алгоритмических рекомендаций, что в корне меняет саму природу принятия военных решений.

Будущее войны: выбор человека

Весьма заманчиво рассматривать эту траекторию как неизбежную — будто юридически значимые решения естественным образом перейдут от людей к системам ИИ ради победы в войнах. Однако системы ИИ — это не нейтральные «инструменты», возникшие из ниоткуда. Это технологии общего назначения, которые выполняют именно то, для чего их спроектировали. Каждая система воплощает в себе выбор человека: ради чего проводить оптимизацию и к какому типу войны готовиться.

Следовательно, нынешняя траектория развития говорит не столько о самой природе ИИ, сколько о приоритетах и «слепых зонах» институтов, которые его создают. Стремление к ускорению тактических решений — это не объективное понимание того, какой война обязана стать. Это нормативное видение того, какой она должна стать, завуалированное заимствованным авторитетом машин.

Это осознание дает как надежду, так и повод для предостережения.

Если сегодняшние системы ИИ отражают выбор человека, то завтрашние могут отражать уже совсем другой выбор. Изменение курса начинается с отказа от мысли, что этот путь неизбежен. Затем предстоит более трудная работа: переосмыслить эти технологии через призму иного набора приоритетов, ценностей и устремлений.

В конечном счете, будущее войны определит не ИИ. Его определит человек. Главная задача в военном деле, как и во всех остальных сферах, заключается не в том, чтобы решить, на что способен ИИ, а в том, чтобы определить, какое именно человеческое начало мы хотим в нем воплотить.

 

Анна Розали Грейпл — научный сотрудник Института глобальных исследований Женевского университета. Ее исследования находятся на стыке международного права, новых технологий и критических исследований, уделяя особое внимание вооруженным конфликтам. Имеет степень доктора международного права с отличием Женевского института последипломного образования.