Развяжут ли войну гражданские беспилотники?

Дроны с технологиями искусственного интеллекта (AI), системы распознавания лиц – все это сейчас используется во благо человека. Но военные начеку. Они с энтузиазмом превращают полезные гражданские инструменты в системы вооружений.

Модифицированные гражданские дроны сегодня способны перемещаться в запрещенных пространствах, искать цели с помощью системы распознавания лиц и транспортировать смертоносное оружие. Технологии все те же, что и у университетов и компаний, которые разрабатывают беспилотные летательные аппараты (БПЛА) для доставки заказов из онлайн-магазинов, транспортировки медикаментов для жителей отдаленных районов на Севере или в Африке.

БПЛА – это автономное оружие, которое ожидает своего часа.

В ожидании трансформации

Политики во всем мире в последние годы обсуждают неизбежную автоматизацию оружия. Автономные и полуавтономные системы вооружения широко применяются на протяжении десятилетий, но сегодня оружие берет на себя навигацию и координацию, оставляя человеку лишь указание целей.

Оружие может взять на себя чувствительные когнитивные функции солдата и принимать решения об убийстве. Это сложные этические моменты.

ИИ в неравном бою

С точки зрения этики непонятно, что делать, если одна сторона конфликта использует ИИ, а другая, ссылаясь на моральные и этические возражения, нет? Вероятно, это подстегнет гонку ИИ-вооружений.

Первое ядерное оружие было использовано почти полвека назад. Ядерный арсенал стран по-прежнему играет огромную роль в определении ее способности проявлять свою волю на глобальном уровне. Выходит, военная мощь все еще одерживает верх над этическими соображениями. Поэтому для стран, которые не планировали использовать ИИ в войнах, стоит не простой выбор: включаться в гонку ИИ-вооружений, или готовится к возможному проигрышу в конфликтах.

Убийства по ошибке

Неисправная система искусственного интеллекта может выполнить множество неправильных операций и за такой период времени, что противник не сразу поймет о своем моментальном проигрыше. Конфликт в итоге может закончиться за минуту.

Оружие с ИИ не распознает целью конкретного человека, транспортное средство или структуру. Оно руководствуется такими характеристиками, как уникальный набор цветов и текстур в определенном отношении друг к другу. Это делает такое оружие уникально уязвимым для тонких модификаций. Злоумышленники могут маскировать цели так, что оружие будет уничтожать мирное население.

Когда настанет эра вооружений с ИИ?

Университеты и компании по всему миру строят беспилотные летательные аппараты, способные самостоятельно перемещаться по сложной городской среде и даже координировать свои действия с другими дронами. Вместе с военными они, возможно, не понимая этого, уже создают отряды роботов-убийц.

Создаются и технологии против дронов. Начиная от простых радиочастотных глушителей до импульсных систем EMP, мощных лазеров, реактивных систем до экзотических технологий, способных сбивать БПЛА полете. Модифицированные гражданские дроны оснащены различными датчиками и навигационными системами, предназначенными для идентификации БПЛА, которые нарушают воздушные пространства.

По иронии судьбы, некоторые из тех же институтов и исследователей, которые так решительно выступили против «роботов-убийц», сейчас разрабатывают технологии, которые помогут выигрывать войны без солдат.

Военные модификации гражданских дронов

Уже существуют модифицированные гражданские беспилотные платформы, которые специально разработаны для разрешения военных конфликтов. Такие БПЛА оснащены функцией автономных полетов, бортовыми картами, технологиями связи, которые позволяют им успешно работать в радио-и GPS-запрещенных пространствах, системами камер и искусственного интеллекта для визуальной идентификации цели, доставки полезных грузов. В этих процессах уже не требуется вмешательство человека.

Разработаны системы для сканирования военной формы на предмет ранговых показателей на базах и на поле боя, позволяющие автономному оружию автоматически целиться в старших офицеров. Чем выше ранг – тем ценнее цель для автономного оружия.

Тревожно, что уже существуют военные беспилотники с бортовыми базами данных распознавания лиц. Эти системы могут сканировать толпы людей, чтобы выявить интересующих военные ведомства лиц. Экспериментальные системы показали способность вычислять лиц, которые используют оружие или готовых в любой момент к применению насилия.

Ошибки смертоносных систем с ИИ

Общественные дебаты о возможности использования ИИ на войне и возможных ошибках технологий искусственного интеллекта, способных уничтожать целые города, не прекращаются.

Не понятно, кто понесет юридическую или уголовную ответственность за фатальный сбой алгоритма распознавания лиц? Правительство, что использует беспилотник, оборонный подрядчик – разработчик БПЛА, или технологическая компания, которая создавала программное обеспечение для распознавания лиц?

Это не фантастические видения далекого будущего, а коммерческие продукты. Сегодня они уже реализуются оборонными подрядчиками по всему миру и вводятся в активную эксплуатацию.

Их реальная производительность может не соответствовать маркетинговой шумихе. Факт остается фактом: эти системы с каждым днем становятся совершеннее и опаснее.

Главное преимущества дронов для военных – их относительная дешевизна. Они не стоят миллиарды долларов. Это модифицированные гражданские беспилотники с шасси бортовыми потребительскими мобильными платформами обработки ИИ и с использованием коммерчески доступных алгоритмов визуального распознавания. Выходит, что страны, которые успешно разрабатывали самолеты, без труда смогут соорудить и смертоносные беспилотники.

Автономные компоненты систем гражданской авиации легко трансформировать в дальние и длительные беспилотные системы. Некоторые компании ИИ уже активно раскачивают оборонных подрядчиков на военные применения своих гражданских технологий.

Сколько времени осталось до войны с ИИ

Политики неторопливо обсуждают опасность автономных систем вооружений в абстрактных терминах. А эти самые системы уже развертываются по всему миру.

Автономия ИИ-оружия полностью обеспечена потребительскими ИИ-платформами, что делает их легко переносимыми для широкого спектра оружейных систем.

Остановить продвижение потребительских разработок в сфере ИИ к военному использованию практически невозможно. Мировой прогресс в обработке изображений и видео представляет собой еще одну новую возможность, легко добавляемую к военному дрону.

В конце концов, каждый дрон с доставкой товаров из-интернет-магазинов, донорских органов и медикаментов из медучреждений – это обычная автономная система оружия в ожидании.

Автор: Калев Литару, материал основан на статье Forbes