«Тревожная перспектива»: как ИИ может начать ядерную войну

02.09.19 | 14:59

К началу ядерной войны между США и Россией может привести использование в военной сфере искусственного интеллекта, считает экс-замминистра обороны США Роберт Уорк. По его словам, эта система может расценить как представляющие угрозу неопасные факторы. Страны, тогда еще США и СССР, были на грани ядерной войны еще в 1980-е годы прошлого столетия. Такая угроза была вызвана как раз ошибкой системы предупреждения.

Бывший заместитель министра обороны США Роберт Уорк, слова которого приводит издание Breaking Defense, считает, что искусственный интеллект может быть крайне опасен при использовании его военными в принятии решения о нанесении ядерного удара. Экс-замминистра обороны подчеркнул, что такие системы не должны участвовать в контроле ядерного вооружения, так как существует несколько параметров и показателей, по которым они запускаются.

Специалист назвал «тревожной перспективой», что в некоторых ситуациях искусственный интеллект может расценить неопасные факторы как представляющие угрозу.

В частности, он привел в пример российскую систему «Периметр», которая может принять за ядерные взрывы сейсмическую активность. В этом случае она направит запрос в штаб войск, и, если вдруг ответа не поступит, она может отдать команду на запуск межконтинентальных баллистических ракет.

Уорк также выразил мнение, что военное применение искусственного интеллекта может привести к плачевным последствиям и без его прямого участия в управлении ядерным оружием. Потенциально опасной сферой может быть его использование при анализе разведывательных данных и в системах раннего предупреждения.

«Представьте, система искусственного интеллекта в командном центре китайских войск, проанализировав оперативные данные, заявляет, что США готовятся нанести удар по Китаю и рекомендует нанести превентивный удар», — сказал экс-замминистра обороны.

В то же время он признал, что искусственный интеллект может принести военным и пользу, но все же его применение должно быть ограничено. Военный уверен, что его использование не должно распространяться на ядерное вооружение, поскольку это может привести к «катастрофическому сценарию».

Дело в том, что такая теория вовсе не выглядит оторванной от реальности, поскольку история уже знает пример того, как ошибка системы чуть не стала поводом к началу ядерной войны.

Это было еще в период холодной войны между СССР и США. В ночь на 26 сентября 1983 года Советский Союз получил ложное предупреждение об атаке с американской стороны. В 0.15 на командном пункте системы предупреждения ракетного нападения (СПРН) появилась информация, что с территории США в сторону СССР была запущена межконтинентальная баллистическая ракета.

«Сирена орала как оглашенная, сверху на экране высветились большие красные буквы «Старт». Это означает, что МБР точно пошла. Я посмотрел вниз на свой боевой расчет. В это время кто-то даже поднялся со своих мест, они стали оборачиваться на меня. Пришлось повысить голос для того, чтобы все немедленно заняли снова свои посты. Необходимо было проверить поступившую информацию. Не могло оказаться так, что это на самом деле была баллистическая ракета с боеголовками на борту», — рассказывал позже дежуривший тогда полковник Станислав Петров.

Вскоре после появления таких оповещений стало понятно, что эта тревога была ложной. Это подтвердили многочисленные приборы, следящие за воздушным пространством. По сути, решение полковника Петрова о признании угрозы не соответствующей действительности предотвратило ядерную войну.

После разрыва Договора о ликвидации ракет средней и меньшей дальности (ДРСМД), который действовал между США и СССР, а после между американской стороной и российской, в мире усилилась паника по поводу возможного начала ядерной войны. Ученые Ратгерского университета, Национального центра атмосферных исследований и Колорадского университета в Боулдере в своей научной работе пришли к выводу, что

полномасштабная ядерная война между США и Россией приведет к наступлению темной и холодной зимы, которая продлится около десяти лет.

Как пишет Daily Mail, исследователи применили для моделирования данной ситуации новую схему, отличающуюся более высокой разрешающей способностью и более высокой границей применимости — 140 км над поверхностью, то есть на 60 км выше, чем в ранее представленной модели NASA.

Судя по результатам исследования, пожары, спровоцированные масштабным применением ядерного оружия, выбросят в атмосферу 147 млн т сажи. В течение нескольких недель она распространится стратосферными ветрами по всему земному шару и заслонит солнечный свет. По прогнозам экспертов, на рассеивание завесы потребуется около семи лет. При этом на то, чтобы показатели освещенности у поверхности Земли вернулись к нормальному уровню, уйдет еще три года.

https://www.gazeta.ru