Grok идёт на войну
как Пентагон ускоряет внедрение ИИ за счёт детища Илона Маска
Пентагон продолжает активно внедрять искусственный интеллект в военное планирование. Ранее было известно об использовании в ходе войны против Ирана системы Maven Smart System (MSS) от Palantir, а теперь благодаря всплывшим судебным документам стало известно, что США подключили к своим военным операциям и модель Grok от Илона Маска, интегрировав её в MSS.
Bloomberg: США атаковали школу в Минабе из-за ошибочных данных разведки
В опубликованных документах, связанных с иском против энергоснабжения дата-центров xAI в Миссисипи, директор по цифровым технологиям и искусственному интеллекту Министерства обороны США Камерон Стэнли заявил, что в первые четыре дня операции против Ирана американская армия использовала Grok для помощи в нанесении более 2 тыс. ударов по 2 тыс. различных целей.
По известной публично информации, Maven Smart System способна обрабатывать почти 2 млрд токенов (единиц измерения обработки данных искусственным интеллектом) в день, что эквивалентно примерно 1,5 млрд слов или 6 млн страниц текста. На выполнение аналогичной работы в схожие сроки потребовались бы огромные аналитические отделы из десятков тысяч непрерывно работающих квалифицированных специалистов. Это наглядно демонстрирует, как современный генеративный ИИ способен значительно ускорить первичную обработку разведывательной информации, а значит, и сам процесс от обнаружения до поражения цели.
Несмотря на очевидное преимущество ИИ в военной сфере и соблазн его использовать, широкое внедрение машинных алгоритмов в планирование операций с нанесением ударов несёт множество рисков.
Например, даже мощные современные алгоритмы до сих пор подвержены такому явлению, как галлюцинирование, когда ИИ оказывается не способен выдать достоверную информацию, но, движимый алгоритмом о необходимости угодить человеку, начинает выдумывать ложные факты. Причём делает это максимально правдоподобно и непротиворечиво, что способно убедить не слишком придирчивого внешнего наблюдателя.
Из этого вытекает взаимосвязанная проблема с излишним доверием оператора к используемой языковой модели. А учитывая, что ИИ обрабатывает массивы данных, просто недоступные для человека, перепроверять за ним большинство выданной информации в условиях ограниченного времени на войне может быть попросту нереально — иначе теряется смысл использования ИИ с тем самым ускорением процесса принятия решения.
Кроме того, существуют две ключевые фундаментальные проблемы. Первая — это предвзятость. ИИ действует исходя из скормленных ему обучающих данных, и если новый театр военных действий, применяемые на нём военная техника и вооружения будут значительно отличаться от исходных обучающих данных модели, то количество ошибок и выданных ложных целей значительно возрастёт. В данном случае это реинкарнация пословицы про генералов, которые всегда готовятся к прошлой войне. Так и здесь: любой ИИ обучается на материалах прошлого. Вторая — это так называемая проблема «чёрного ящика». Оператор может видеть, какие данные поступили в ИИ и какие выводы он из этого сделал, но не может понять, как и почему система пришла именно к такому решению. В военной сфере цена такой ошибки будет непомерно высокой, особенно если она окажется не отдельным просчётом, а неправильно работающим системным алгоритмом, регулярно приводящим к выдаче неверных прогнозов и ложных целей на поражение.
Все эти проблемы требуют жёсткого контроля за использованием военного ИИ со стороны человека и чётких алгоритмов перепроверки значимой итоговой информации, особенно если она используется для нанесения ударов в местах, связанных с гражданской инфраструктурой и населением. Страшным примером такого излишнего доверия ИИ стали американские удары по иранским школам в Минабе и Ламерде, совокупно приведшие к гибели 177 и ранению ещё 195 человек, большинство из которых были детьми.
В том случае алгоритм ИИ выдал устаревшие данные, говорящие о том, что здания школ относятся к инфраструктуре соседних военных баз, а операторы либо не успели перепроверить информацию из-за той самой спешки в цепочке принятия решений, либо не стали этого делать, полагаясь на доверие машинному алгоритму. Из безобидных, но забавных примеров можно вспомнить удар ВВС США по выброшенной пустой таре для авиабомб в аэропорту Бушера. Судя по спутниковым снимкам, она валялась на этом месте долгие годы, пока алгоритм не распознал в ней военную цель и не отдал приказ разбомбить её. Подобные бездумные удары приводят уже не к жертвам, а к излишнему расходу боеприпасов, что ИИ, наоборот, должен сокращать.
И здесь мы приходим к финальной проблеме, связанной с размыванием ответственности за допущенные ошибки. Кто виноват в ошибочно поражённой цели — алгоритм, выдавший её оператору, сам оператор, принявший решение о поражении по полученным от алгоритма данным, или вовсе разработчик этого алгоритма, допустивший просчёты в его написании? Простого ответа на это сейчас нет.
В итоге есть большие опасения, что скачкообразное внедрение новых ИИ-технологий в военную сферу, подгоняемое конкуренцией США с Россией и Китаем, будет приводить ко всё большему количеству ошибок, ведь Пентагон прямо отмечает, что его ключевой стратегией сейчас является скорость.
Точка зрения автора может не совпадать с позицией редакции.