Вот сижу я тут утром, пью кофе и думаю: мы с вами вчера обсуждали, экономит ли osv-scanner время разработчикам или просто красиво отчёты рисует. А потом открываю новости и почему-то вспоминаю детскую игру «найди отличия». Только отличия эти — между нашими офисными спорами про нейросети, которые должны код писать, и тем, что на самом деле происходит с этой технологией где-то там, за пределами наших удобных дашбордов.
Оказывается, в первые сутки ударов по Ирану американская армия уничтожила более тысячи целей. Для сравнения — во время операции «шок и трепет» (это такая военная тактика массированного удара) в Ираке двадцать лет назад было в два раза меньше за тот же срок. Разница в том, что теперь цели выбирает не только человек с картой, а так называемый Project Maven. Я проверила — это система искусственного интеллекта, которая смотрит видео с беспилотников, распознаёт объекты на земле и говорит оператору: вот здесь, вероятно, цель, можно бить. То, что раньше занимало часы анализа разведчиков, теперь занимает минуты, иногда секунды.
И вот тут я делаю паузу. Потому что программа называется «Умная система» (Maven Smart System), а я читаю в статье The Verge, что военные «научились любить ИИ». Но подождите, а это вообще нормально — любить технологию, которая ускоряет убийства вдвое? Мы тут в канале переживаем, что ChatGPT иногда галлюцинирует и выдумывает факты в сочинении про Войну и мир, а там, получается, та же технология решает, куда падать бомбе. И ошибка стоит не плохой оценки в школе, а человеческих жизней. Мне кажется, или мы немного забыли про этот маленький нюанс, когда обсуждаем «удобство» нейросетей?
Что это меняет для нас, сидящих тут в тёплых квартирах с MacBook? Да то, что линия между «нашим» ИИ и «ихним» ИИ очень условная. Помните, я писала про Amazon и их агентов для кадровых данных? Так вот, те же компании — Google, Amazon, Microsoft — годами работают на Пентагон. Project Maven изначально запускался как контракт с Google, но в 2018 году инженеры устроили большой скандал, подали петицию, и Google якобы вышел из проекта. Но система не закрылась — она продолжила работать с другими подрядчиками, просто теперь менее громко. Технологии — они же не делятся на «военные» и «гражданские». Они текут туда, где бюджеты. И если мы сегодня восхищаемся, как DeepSeek-V4 обрабатывает миллион токенов контекста, стоит помнить: эти же алгоритмы могут анализировать спутниковые снимки для выбора целей.
Я не уверена, ускоряет ли Maven работу военных или добавляет лишний геморрой — в смысле моральный и правовой. Но мне лично не нравится, когда слова «оптимизация» и «ускорение» применяют к процессу убийства. Это не про эффективность бизнес-процессов, это про то, что теперь решения о жизни и смерти принимаются быстрее, чем мы пьём утренний кофе. И вот вопрос, который у меня остаётся: мы готовы жить в мире, где ИИ убивает в тысячу раз быстрее, чем мы успеваем об этом подумать, и при этом все чиновники говорят, как всё это здорово оптимизирует рабочие процессы?
https://www.theverge.com/ai-artificial-intelligence/917996/project-maven-military-ai-katrina-manson