AI-выключатель смерти: автономное оружие делает войну менее контролируемой
Быстрое развертывание смертоносных автономных систем оружия тихо меняет правила конфликтов, увеличивая риск неконтролируемой эскалации.
Быстрое развертывание смертоносных автономных систем оружия тихо меняет правила конфликтов, увеличивая риск неконтролируемой эскалации.
5 июня 2026 года доклад Международного комитета Красного Креста предупредил, что как минимум 15 стран активно разрабатывают или развертывают смертоносные автономные системы оружия (LAWS), способные выбирать и поражать цели без участия человека. Это не научная фантастика. Эти системы – дроны, наземные машины, корабли и кибероружие – испытываются в реальных конфликтах, включая Украину, Нагорный Карабах и Ближний Восток.
Люди-лица, принимающие решения, медленны. Человеку-пилоту или командиру нужно несколько секунд или минут, чтобы оценить угрозу и решить открыть огонь. AI-система может сделать это за миллисекунды. Как только вы позволяете машинам решать, кто умрет, время для дипломатии, деэскалации или даже повторного анализа исчезает. В кризисной ситуации один автономный дрон, ошибочно принявший гражданский автобус за военную колонну, может вызвать цепную реакцию возмездия. А поскольку машины не могут быть привлечены к ответственности, никто не может быть наказан за ошибку – только обвинен.
Недавние опросы World Signal показывают, что многие люди боятся крупной войны в ближайшие годы. Развертывание автономного оружия ускоряет превращение этого страха в реальность. Когда обе стороны полагаются на быстрые, независимые машины, мелкий сбой или неправильное прочтение данных могут привести к полномасштабному конфликту. Например, если две страны с AI-контролируемыми системами пограничной обороны сталкиваются, одна программная ошибка может вызвать перестрелку без какого-либо намеренного начала со стороны человека.
В отличие от ядерного оружия, автономное оружие дешево и легко производить. Базовый AI-дрон может стоить меньше автомобиля. Это означает, что малые государства и негосударственные группы также могут его приобрести, снижая порог насилия. Нет глобального договора, запрещающего их – переговоры в ООН застопорились с 2024 года. США, Китай, Россия, Израиль и другие говорят, что хотят регулирования, но на практике продолжают строить.
Это не проблема, которую можно игнорировать. Граждане каждой страны должны требовать прозрачности от своих правительств. Спросите: Используем ли мы машины для убийства? Кто несет ответственность, когда AI совершает смертельную ошибку? Ответ определит, будет ли следующая война вестись людьми или алгоритмами. Нам нужно международное соглашение для сохранения значимого человеческого контроля над применением силы. В противном случае выключатель смерти уже в руках машин.
---
*Эта статья является нейтральным наблюдением текущих тенденций. Она не поддерживает и не выступает против какой-либо нации, группы или идеологии.*
(Около 490 слов на русском)