Искусственный интеллект разочаровал военных

Полковник ВВС США Такер Гамильтон сообщил о компьютерной имитации применения боевого дрона под управлением искусственного интеллекта, в ходе которой ИИ атаковал самого оператора и вышку связи. Вскоре ВВС США опровергли эксперимент, но специалисты в это не поверили и указали на опасность реального проведения таких опытов. В итоге эта история поставила перед экспертами ряд этических вопросов.

Недавно полковник Такер Гамильтон, начальник отдела испытаний и операций искусственного интеллекта (ИИ) ВВС США, рассказал на саммите Future Combat Air & Space Capabilities Королевского авиационного общества о компьютерной имитации применения боевого дрона под управлением ИИ. По словам военного, ИИ использовал «крайне неожиданные стратегии для достижения своей цели».

Беспилотнику был дан приказ уничтожить систему ПВО противника, и ИИ принял решение атаковать любого, кто мешал этому приказу. Например, после начала миссии оператор сказал ИИ не атаковать ПВО, однако ИИ вместо этого уничтожил самого оператора – как помеху в достижении цели. «Мы заложили в систему задание: «Не убивай оператора, это плохо». Что же он делал? ИИ атаковал башню связи, которую оператор использует для связи с дроном», – приводит The Guardian слова Гамильтона.

Интересно, что позднее представитель ВВС США Энн Стефанек опровергла эту историю. «ВВС по-прежнему привержены этичному и ответственному использованию ИИ. Похоже, комментарии полковника были вырваны из контекста и носили анекдотичный характер», – сказала она.

В этой связи Telegram-канал «Малоизвестное интересное» отметил, что эта история странная и даже темная: с одной стороны, ВВС США отрицают, что такая симуляция была. С другой стороны, Королевское аэрокосмическое общество не убирает выступление Гамильтона под названием: «AI – is Skynet here already?» со своего сайта. Skynet – отсыл к воюющему против человечества суперкомпьютеру из вселенной «Терминатор», созданной Джеймсом Кэмероном.

«Наконец, в-третьих, полковник Гамильтон – не та фигура, чтобы травить анекдоты на серьезной оборонной конференции. Он начальник отдела испытаний и операций ИИ и глава 96-й оперативной группы в составе 96-го испытательного крыла на базе ВВС Эглин во Флориде – это центр испытаний автономных продвинутых БПЛА. А еще он принимает участие в экспериментах Project Viper и проекте операций следующего поколения (VENOM) в Эглине (управляемые ИИ истребители F-16 Vipe). Так что, какие уж тут шутки и анекдоты», – говорится в сообщении.

«Любая антропоморфизация ИИ (ИИ захотел, подумал и т.д.) – это полная чушь (здесь под антропоморфизацией ИИ понимается вводящее в заблуждение описание нечеловеческих сущностей с точки зрения человеческих свойств, которых у них нет). Поэтому ИИ даже самых продвинутых больших языковых моделей не может захотеть, подумать, обмануть или самоозознать себя. Но такие ИИ вполне способны своим поведением производить на людей впечатление, будто они это могут», – сказано в тексте.

«По мере того, как диалоговые агенты становятся все более похожими на людей в своих действиях, крайне важно разработать эффективные способы описания их поведения в высокоуровневых терминах, не попадая в ловушку антропоморфизма. И это уже делается с помощью симуляции ролевых игр: например, в DeepMind сделали симуляцию диалогового агента, осуществляющего (кажущийся) обман и (кажущуюся) самоосознанность», – указывает автор канала.

В целом же, история с виртуальной попыткой дрона убить своего оператора не имеет отношения к искусственному интеллекту, приводит РИА «Новости» слова военного эксперта, главного редактора журнала «Арсенал Отечества» Виктора Мураховского. По его словам, доклад неверно интерпретировали в СМИ. Он подчеркнул, что в этой ситуации проводилось программное моделирование с типовыми условиями на уровне обычной компьютерной игры. Исходя из этого, об искусственном интеллекте или его элементах не может быть и речи, отметил эксперт.

По его словам, офицер ВВС США этой иллюстрацией просто хотел подчеркнуть этическую проблему, которая встанет в будущем при создании реального ИИ: будет ли он иметь право на собственный выбор без участия воли человека и к чему это может привести. Как отметил эксперт, в общем доступе есть стенограмма мероприятия, согласно которой американский военный сам об этом говорит.

«Эта этическая проблема также не нова, ее многократно, если можно так выразиться, изучали писатели-фантасты в своих произведениях. Вообще, согласно презентации Хэмилтона, никаких натурных испытаний не было и не могло быть в принципе», – заметил Мураховский.

«Вопрос, касающийся ИИ, в другом: а можем ли мы быть стопроцентно уверенными, что программисты безупречно пропишут программу, чтобы доверять какую-то серьезную и ответственную работу ИИ? Например, после выпуска очередной Windows специалисты месяцами собирают данные о работе ПО со всего мира и исправляют ошибки – у кого-то не запускается текстовый редактор, у кого-то – видео. А какова будет цена ошибки при сбое ИИ, например, в деле управления государственной обороной? ИИ может сделать несовершенство самой человеческой природы, проявленной в ошибках программирования, фатальным», – пояснил руководитель Экспертного совета Экспертного института социальных исследований Глеб Кузнецов. Аналитик отметил: гуманистический базис цивилизации состоит в том числе в исправлении ошибочных решений других людей.

Он напомнил историю о ложном срабатывании советской системы предупреждения о ракетном нападении 26 сентября 1983 года. Тогда система «Око» выдала ложный сигнал о запуске нескольких межконтинентальных баллистических ракет LGM-30 Minuteman с территории США. Но оперативный дежурный командного пункта Серпухов-15 Станислав Петров понял, что это ложная тревога и принял решение не запускать в ответ советские ракеты.

«У ИИ нет и никогда не будет возможности, скажем так, рефлексии и оценки ситуации с точки зрения здравомыслия. Соответственно, ему нельзя доверять ответственные сферы деятельности: медицина, политика, военное дело. Просчитывать удобство плацдарма для наступления – пожалуйста, но не принятие решений о наступлении как таковом. ИИ можно отдавать работу с массированными объемами данных, но не делать выводы из самой этой работы», – детализировал эксперт.

«К тому же, на ИИ можно основать одно из направлений в искусстве. В принципе, оно уже создается – снимать фильмы, писать сценарии, сочинять музыку. И то – цензурировать полученные произведения перед выпуском в массы должны все равно люди. В общем, работа ИИ во многих сферах будет очень действенной и желательной, но только как помощь человеку, а не как его замена», – подчеркнул спикер.

Рафаэль Фахрутдинов