Специалист по робототехнике, физике, биоэтике и философии из британского Шеффилдского университета Ноэл Шарки инициировал создание организации "Международный комитет контроля роботизированного оружия" (МККРО). Задача столь необычного комитета - ограничить и по возможности контролировать распространение роботизированного военного оборудования. Другими словами, Ноэл Шарки и его единомышленники планируют создать своего рода "кодекс этики" для военных роботов. Как ни странно это звучит, но такая проблема уже назрела.

В своем интервью изданию New Scientist Шарки подробно рассказал о беспокоящих его и его коллег этических аспектах эксплуатации военных систем. Особенно, если эти роботизированные системы способны принимать самостоятельные решения. Ноэл Шарки предупреждает: "Роботизированное оружие может изменить характер войн. Сейчас человечество стремительно движется в сторону создания автономных военных систем, даже не задумываясь, как это может повлиять на гражданское население в долгосрочной перспективе".

Среди наиболее известных учредителей МККРО - такие известные ученые, как Юрген Альтман (Дортмундский технологический университет), Роберт Спэрроу (Центр биоэтики человека при Монашском университете, Мельбурн), философ Питер Асаро (Рутгерский университет, США).

МККРО уже опубликовала первую версию своей декларации. В ней, в частности, говорится, что военные роботы не должны вооружаться ядерным оружием, а также должны быть полностью запрещены в космическом пространстве. Для продвижения своих идей Комитет собирается запустить мониторинг развития автономных вооружений, а также лоббировать законы о контроле за такими вооружениями. Предполагается, что это будет сделано по аналогии с уже существующими законами о ядерном и биологическом оружии.

В настоящее время комитет готовит развёрнутый отчёт - он будет представлен на рассмотрение в Европарламент. А летом 2010 года в Германии планируется провести конференцию по этой проблематике - в ней примут участие известные учёные, политики и военные.

Роботизированные военные системы уже сегодня активно применяются в вооруженных конфликтах. В числе наиболее известных - американские беспилотники МК-1 "Предатор" и МК-9 "Рипер", а также мини-вездеход "Талон". Последний, будучи самой новой разработкой, может оснащаться как "мирными" химическими, температурными и радиационными датчиками, видеокамерами, но также гранатомётами и пулемётами.

Перечень такого рода систем уже довольно велик - роботы занимаются разведкой, саперными работами, выслеживают снайперов и даже наносят ракетно-штурмовые удары. Как говорит Ноэл Шарки, уже порядка 50 стран либо приняли такие системы на вооружение, либо разрабатывают их.

И еще один момент. Напомню: МККРО активно выступает за то, чтобы закрыть для военных роботов космическое пространство. Но военные спутники - фото- и радионаблюдения, связи и т.п. - те же роботы. По иронии судьбы, военные роботы освоили околоземное пространство раньше, чем начали применяться на земле.

Конечно, перечисленные системы - не роботы в полном смысле этого слова. Ими управляют операторы-люди, так что это, скорее, "продвинутые" манипуляторы. Однако ученые единодушны: прогресс (особенно в области искусственного интеллекта) движется все быстрее, и уже скоро военные системы научатся принимать решения самостоятельно. И вполне вероятно, что это будут решения о чьей-то жизни или смерти.

Но вот что меня тревожит. Последствия, "побочные эффекты" действий роботов - даже самых мирных - могут быть весьма и весьма непредсказуемыми. Вот вам свеженький пример из жизни. Есть в Германии компания Tchibo, известная в наших краях своим кофе, а у себя на родине - целым спектром разнообразных товаров, в число которых входят и женские сумки. Каково это - найти что-либо в хаосе женской сумочки - думаю, многие знают (по крайней мере, женатые люди). И вот, чтобы облегчить жизнь представительницам слабого пола, компания Tchibo выпустила специальные женские сумки со светодиодной подсветкой. Когда обладательница такой сумки открывает ее, специальные магниты включают, а спустя 45 секунд автоматически выключают подсветку.

В принципе, такую сумку можно рассматривать как самого простейшего робота. И вот, спустя некоторое время после выхода новинки, общество защиты прав потребителей земли Северный Рейн-Вестфалия заявило: магниты сумок могут стирать данные положенных туда банковских и кредитных карт. В дальнейшем и пресс-секретарь Tchibo подтвердил случаи размагничивания и потери данных с банковских карт из-за хранения в сумках с подсветкой. И пусть речь пока идет о единичных инцидентах, это заставляет задуматься. Каких неожиданностей можно ожидать от неизмеримо более сложных, да еще и вооруженных военных роботов?

Несколько десятилетий назад полусумасшедший албанский диктатор Энвер Ходжи в ожидании III Мировой войны густо застроил всю Албанию бетонными бункерами и ДОТами. Делалось это, конечно, с благородной целью - "защитить население от агрессоров". А осталось - монументальным памятником милитаристскому безумию. Что могут учудить роботы в будущем? Сегодня они стирают данные с кредиток и, возможно, расшатывают финансовую систему (см. "КВ" №42). А как они поступят, получив приказ защищать одних людей от других?

Одна из главных причин беспокойства для Международного комитета контроля роботизированного оружия - то, что в будущем, когда участниками и жертвами войн будут преимущественно не люди, а роботы, страны мира станут активнее воевать друг с другом. В таких войнах "побочные свойства" роботов будут проявляться все активнее, а интеллект - быстро развиваться. В конце концов, вероятен сценарий, при котором автономные боевые системы смогут самостоятельно начинать и обострять военные конфликты.

Виктор ДЕМИДОВ