Илон Маск и другие: грядет третья революция в вооружениях

21.08.17 | 14:58

Риск появления "роботов-убийц" как никогда высок и людям необходимо со всей серьезностью отнестись к этой угрозе, считают ведущие эксперты по робототехнике и компьютерным системам.

Более ста экспертов, среди которых инженер и предприниматель Илон Маск, в письме ООН предупреждают о возможной "третьей революции в вооружениях" и призывают предпринять шаги с тем, чтобы не допустить разработку "роботов-убийц".

Специалисты убеждены, что смертоносная технология автономного оружия, которым будут управлять интеллектуальные машины (ИИ/AI) - это "ящик Пандоры, который, раз открыв, невозможно будет закрыть" и что времени, чтобы это предотвратить, остается очень немного.

"Если оно будет разработано, то это позволит вести гораздо более масштабные, чем когда-либо, вооруженные конфликты в такие сроки, которые людям невозможно представить", - говорится в обращении, подписанном 116 экспертами.

"Это может стать оружием террора; оружием, которое деспоты и террористы смогут использовать против ни в чем неповинного населения; оружием, взломанным с ужасающими намерениями", - написано в обращении.

Эксперты призывают ООН отнести эти, с моральной точки зрения вредные, технологии к разряду вооружений, запрещенных Конвенцией ООН о конкретных видах обычного оружия.

Вместе с создателем Tesla и SpaceX Илоном Маском письмо подписали и Мустафа Сулейман, один из создателей принадлежащей Google компании DeepMind, а также Игорь Кузнецов, основатель и глава российской компании NaviRobot, и Алексей Южаков и Олег Кивокурцев - основатели российской компании Promobot.

В понедельник должно было состояться заседание специальной группы правительственных экспертов при ООН по проблемам автономного оружия, однако оно было перенесено на ноябрь, как следует из сообщения на вебсайте.

В письме экспертов по этому поводу отмечается следующее: "Мы очень сожалеем, что первая встреча группы правительственных экспертов, которая должна была состояться сегодня, отменена из-за того, что некоторое число членов не внесли свой финансовый взнос в ООН. Поэтому мы призываем Высокие Договаривающиеся Стороны удвоить усилия на своей первой встрече, которая теперь запланирована на ноябрь месяц".

Потенциальный запрет на разработку технологии "роботов-убийц" ранее уже обсуждался в различных комитетах ООН.

В 2015 году, к примеру, более тысячи ученых, экспертов и изобретателей написали письмо, в котором также содержалось предупреждение об опасности, котрую несет в себе автономное оружие. Свои подписи тогда поставили английский физик Стивен Хокинг, один из основателей компании Apple Стив Возняк и Илон Маск.

Что такое "робот-убийца"?

Робот-убийца - это совершенно автономный вид оружия, который может выбирать и преследовать цели без руководства со стороны человека. Пока таковых не существует, однако развитие технологий приближает момент, когда это может стать реальностью.

Те, кто выступают за создание подобных машин, утверждают, что нынешних международных законов достаточно для того, чтобы справиться с любой проблемой, которая потенциально может возникнуть при использовании этого типа вооружений.

Они полагают, что мораторий или запрет надо вводить тогда, когда станет совершенно очевидно, что ситуация вышла из-под контроля.

Однако оппоненты говорят, что подобное оружие является угрозой человечеству, и любая автономно существующая система, способная убивать, должна быть запрещена.

bbc.com