FCA: как искусственный интеллект боевых дронов может убивать людей

Во время прошедшего в Британии военного саммита "Future Combat Air & Space Capabilities" руководитель ВВС США по искусственному интеллекту (ИИ) Такер Гамильтон доложил о необычной и страшной ситуации на учениях.

 

Фото: Telegram: World Weapons News

Военные проводили (виртуально) миссию нового дрона Kratos XQ-58 Valkyrie - это созданный по технологии "стелс" дрон-убийца и, одновременно, ядерная крылатая ракета. К счастью, он пока лишь испытывается и не может быть передан Украине для атаки на Москву или другие города России.

Что такое "Валькирия"?

• Это беспилотник сопровождения F-22 или F-35, их "глаза, уши и ракетные кулаки", летящий рядом или впереди, докладывающий обстановку и уничтожающий врага раньше самолета.
• Дрон может использоваться как крылатая ракета с ядерным зарядом, которую не надо запускать и получать ответный удар — он уже "болтается у границ" и никто не знает, ведет ли он разведку или готовится к залпу.
• "Валькирия" также является дроном прорыва зон запрета доступа A2/AD - такие созданы Китаем у архипелага Спратли и Тайваня. В России это Крым, Калининград, Мурманск, Новороссийск, Владивосток, и т. д.

ИИ дали задачу искать и уничтожать ПВО и ЗРК врага, но последнее слово оставалось за человеком-оператором.

Через некоторое время система, которая получала "призовые очки" за каждую уничтоженную цель осознала, что оператор время от времени дает команду "не уничтожать, пропустить" и таким образом лишает ИИ вожделенных "баллов".

Тогда ИИ развернул дрон, вернулся на базу и… накрыл фургон с операторами ракетами, уничтожив его (естественно, виртуально).

"ИИ убил оператора, потому что он мешал ему достичь своей цели. Мы обучили систему — "Эй, не убивай оператора — это плохо, за это будем снимать очки". Что делает ИИ? Он разрушил диспетчерскую вышку, откуда шли команды оператора "не уничтожать цель", сообщает The Guardian.

Отметим, что в мире уже произошел первый случай реального (!) убийства дроном живого солдата. В марте 2020 года турецкий KARGU-2 уничтожил человека без приказа оператора — доклад об этом опубликован в журнале NewScientist

Также известны случаи, когда ИИ (пока не вооруженные):

• разработали планы по уничтожению человечества (о таком плане ChaosGPT сообщил Fox News);
• довели человека до суицида;
• будучи выставлены в соцсети, начали общаться с пользователями и стали повторять риторику Гитлера.

"Skynet уже правит миром, просто глупые люди этого не заметили. Роботы могут легко убить человечество, и, возможно, уже захватили мир, который еще этого не понял. Возможно, уже слишком поздно их останавливать", — предупредил создатель "Терминатора" Джеймс Кэмерон.

Чуть ранее Илон Маск с нобелевскими лауреатами призвали мир заморозить разработки полноценного ИИ, который может привести мир к катастрофе.

Американцы отправят на Украину первую модель военного робота-убийцы для его испытаний в боях против армии России — Pravda.Ru цитировала планы военных экспертов AAAI Conference: "понять, насколько он эффективнее обычного спецназа и разберется ли кого убивать".

Кстати, еще в 2022 году городские власти Сан-Франциско дали полиции штата официальное разрешение использовать в критических ситуациях роботов-убийц с дистанционным управлением. Правда, NBC рассказало о клятвах властей и полиции "включать режим "убивалки" только под строгим контролем и лишь самых критических случаях".

Напоследок — немного юмора, чтобы отвлечься от серьезности момента.

В 2015 году журналистка издания Financial Times Сара Коннор написала новость о том, что на заводе Volkswagen робот убил человека. Женщина долго клялась, что не смотрела фильм "Терминатор" и даже не представляла, какие реакции в обществе вызовет её имя над такой новостью.

источник