Дроны убийцы

Материал из Циклопедии
Перейти к навигации Перейти к поиску

Дроны убийцы

Slaughterbots
Жанр
Короткометражный фильм
Режиссёр
Stewart Sugg
Продюсер
Matthew Nelson Stuart Russell
Автор сценария
Stuart Russell Matt Wood



Кинокомпания
Space Digital


Длительность
8 мин.


Страна
США США
Язык
английский
Год
2017
Следующий фильм
Slaughterbots - if human: kill()


IMDb
ID 7659054
Сайт
autonomousweapons.org

«Дроны убийцы» (англ. Slaughterbots) — пропагандистское видео 2017 года, посвященное контролю над вооружениями, в котором представлен драматизированный сценарий ближайшего будущего, в котором стаи недорогих микродронов используют искусственный интеллект и распознавание лиц для убийства политических оппонентов на основе заранее запрограммированных критериев. Его выпустили Институт будущего жизни и Стюарт Рассел, профессор информатики в Berkeley.[1] На YouTube видео быстро стало вирусным, собрав более двух миллионов просмотров[2][3] и было показано на заседании Конвенции ООН по конкретным видам обычного оружия в Женеве в том же месяце.[4]

Смысл фильма в том, что стаи таких «дронов-убийц» — миниатюрных летающих смертоносных автономных орудий — могут в ближайшем будущем стать настоящим оружием массового уничтожения, оказался спорным.[2][5][6]

Продолжение Slaughterbots — if human: kill() (2021), представило дополнительные гипотетические сценарии нападений на мирных жителей и снова призвало ООН запретить автономное оружие, нацеленное на людей.[7]

Краткое содержание[править]

Действие драматизации продолжительностью семь минут происходит в ближайшем будущем в стиле «Черного зеркала».[8][9] Небольшие автономные дроны размером с ладонь, использующие распознавание лиц и фигурную взрывчатку, можно запрограммировать на поиск и уничтожение известных лиц или групп лиц (например, лиц, носящих военную форму противника). Технический руководитель заявляет, что ядерное оружие теперь «устарело»: заказ «неудержимых» дронов на 25 миллионов долларов может уничтожить полгорода. По мере развития видео неизвестные стороны повторно используют эту технологию для убийства политических оппонентов, от действующих конгрессменов до студенческих активистов, идентифицированных через их профили в Facebook . В одной из сцен роящиеся дроны координируют свои действия, чтобы проникнуть в здание: более крупный дрон пробивает дыру в стене, чтобы открыть доступ к меньшим.[10]

За инсценировкой следует сорока секундная просьба Рассела: «Этот короткометражный фильм — больше, чем просто предположение; он показывает результаты интеграции и миниатюризации технологий, которые у нас уже есть… Потенциал ИИ принести пользу человечеству огромен, даже в обороне, но разрешение машинам убивать людей будет иметь разрушительные последствия для нашей безопасности и свободы».[11]

Производство[править]

По словам Рассела, «Мы пытались показать свойство автономного оружия автоматически превращаться в оружие массового уничтожения, потому что вы можете запускать столько, сколько захотите… и поэтому мы подумали, что видео прояснит это». Рассел также выразил желание заменить нереалистичную и бесполезную концепцию автономного оружия Голливудского Терминатора чем-то более реалистичным.[12] Видео было произведено компанией Space Digital в MediaCityUK и снято Стюартом Саггом с натурными съемками в Хартфордширском университете[en][13] и в Эдинбурге . Эдинбург был выбран потому, что создателям фильма «нужны были пустые улицы воскресным утром» для съемок вооруженной полиции, патрулирующей пустынные улицы, а также потому, что это место узнаваемо для международной аудитории.[14] Все дроны были добавлены на пост-продакшене.[12][15]

Reception[править]

Техническая осуществимость[править]

В декабре 2017 года The Economist оценил целесообразность использования Slaughterbots в рамках программ микродронов MAST и DCIST в США. В настоящее время у компании MAST есть велокоптер, который весит менее 30 граммов, но у него есть обратная сторона: его легко потревожить собственной отраженной турбулентностью, когда он находится слишком близко к стене. Другой кандидат — что-то вроде Salto, 98-граммового прыгающего робота, который работает лучше, чем велосипедисты, в ограниченном пространстве. Уровень автономной координации между дронами, показанный в Slaughterbots, в настоящее время недоступен, но ситуация начинает меняться: для демонстрации с воздуха используются стаи дронов . В целом The Economist согласился с тем, что «дроны-убийцы» могут стать возможными в обозримом будущем: «В 2008 году шпионский дрон, который можно было держать в ладони, был идеей из области научной фантастики. Такие дроны сейчас стали обычным явлением… Когда DCIST завершится в 2022 году, идея Slaughterbots может показаться гораздо менее вымышленной, чем сейчас». The Economist скептически относится к тому, что контроль над вооружениями может предотвратить подобную милитаризацию роев беспилотников: «Как кто-то сказал о ядерном оружии после того, как было взорвано первое, единственный секрет, который стоит хранить, теперь раскрыт: эта чертова штука работает».[1]

В апреле 2018 года правительственный Швейцарский центр дронов и робототехники[de], ссылаясь на Slaughterbots, испытал 3-граммовый кумулятивный заряд на модели головы и пришел к выводу, что «травмы настолько серьёзны, что шансы на выживание очень малы».[16][17]

DARPA активно работает над тем, чтобы сделать рои автономных беспилотных летательных аппаратов доступными для вооруженных сил США.[18]

Вероятность угрозы[править]

В декабре 2017 года Пол Шарр из Центра новой американской безопасности[en] оспорил осуществимость сценария видео, заявив, что «у каждой военной технологии есть средства противодействия, а меры противодействия небольшим дронам даже не являются гипотетическими. Правительство США активно работает над способами сбивать, глушить, поджаривать, взламывать, ловить в ловушку или иным образом побеждать небольшие дроны. Микродроны на видео можно победить с помощью чего-то простого, например, проволочной сетки. На видео видно, как дроны с более тяжелой нагрузкой проделывают дыры в стенах, чтобы другие дроны могли проникнуть внутрь, но решение — это просто многоуровневая защита». Шарре также заявил, что подразумеваемое предложение Рассела — юридически обязывающий договор о запрете автономного оружия — «не решит реальных проблем, с которыми сталкивается человечество по мере развития автономии в области вооружений. Запрет не помешает террористам создавать грубое роботизированное оружие своими руками… На самом деле, даже неясно, запретит ли запрет оружие, показанное на видео, которое на самом деле является достаточно дискриминационным».[19]

В январе 2018 года Стюарт Рассел и трое других авторов подробно ответили Шарру. Их разногласия касались прежде всего вопроса о том, являются ли «дроны-убийцы», представленные в видео, «потенциально масштабируемым оружием массового уничтожения (ОМП)». Они пришли к выводу, что "мы и многие другие эксперты по-прежнему считаем правдоподобной точку зрения о том, что автономное оружие может стать масштабируемым оружием массового поражения. Заявление Шарра о том, что запрет будет неэффективным или контрпродуктивным, не соответствует историческим данным. Наконец, идея о том, что безопасность человечества будет повышена за счет нерегулируемой гонки автономных вооружений, в лучшем случае является выдачей желаемого за действительное.[20]

Общественное мнение[править]

Мэтт МакФарланд из CNN высказал мнение, что «Возможно, самый кошмарный антиутопический фильм 2017 года был снят не в Голливуде». МакФарланд также заявил, что дебаты по поводу запрета дронов-убийц приняли «сенсационный» поворот: в 2015 году «они полагались на открытые письма и петиции, используя академический язык», и использовали сухие выражения, такие как «вооруженные квадрокоптеры». Теперь, в 2017 году, «они предупреждают о „дронах-убийцах“».[21]

Эндрю Янг ссылался на Slaughterbots в своем твите во время выдвижения своей кандидатуры на пост президента США в 2020 году.[22]

Видео-продолжение, опубликованное 30 ноября 2021 года, к 8 декабря набрало более двух миллионов просмотров на YouTube.[23]

См. также[править]

Источники[править]

  1. ↑ 1,0 1,1 "«Military robots are getting smaller and more capable»", The Economist, 14 December 2017, <https://www.economist.com/news/science-and-technology/21732507-soon-they-will-travel-swarms-military-robots-are-getting-smaller-and-more>. Проверено 21 января 2018. 
  2. ↑ 2,0 2,1 Why You Shouldn't Fear 'Slaughterbots' (англ.), IEEE Spectrum: Technology, Engineering, and Science News (декабрь 2017 года). Проверено 21 января 2018.
  3. ↑ Slaughterbots (12 November 2017). Проверено 21 января 2018.
  4. ↑ UC Berkeley professor's eerie lethal drone video goes viral, SFGate (ноябрь 2017 года). Проверено 21 января 2018.
  5. ↑ Russell, Stuart; Aguirre, Anthony; Conn, Ariel; and Tegmark, Max (23 January 2018).Why You Should Fear 'Slaughterbots' — A Response IEEE Spectrum: Technology, Engineering, and Science News. Retrieved 8 April 2023.
  6. ↑ Scharre, Paul (1 February 2018). Debating Slaughterbots and the Future of Autonomous Weapons IEEE Spectrum: Technology, Engineering, and Science News. Retrieved 8 April 2023.
  7. ↑ (2021) «Autonomous Weapons Are Here, but the World Isn't Ready for Them».
  8. ↑ Watch 'Slaughterbots,' A Warning About the Future of Killer Bots (en-us) (ноябрь 2017 года). Проверено 21 января 2018.
  9. ↑ Dvorsky. Artificially Intelligent Drones Become Terrifying Killing Machines in Dystopian Short Film. Проверено 21 января 2018.
  10. ↑ Mikelionis. UC Berkeley professor's 'slaughterbots' video on killer drones goes viral (ноябрь 2017 года). Проверено 21 января 2018.
  11. ↑ Watch out for 'killer robots,' UC Berkeley professor warns in video (ноябрь 2017 года). Проверено 21 января 2018.
  12. ↑ 12,0 12,1 "As much death as you want": UC Berkeley's Stuart Russell on "Slaughterbots" (англ.) (декабрь 2017 года). Проверено 21 января 2018.
  13. ↑ Film produced by Hertfordshire University staff and students goes viral (англ.) (28 November 2017). Проверено 21 января 2018.
  14. ↑ Edinburgh used for 'killer drone' film (ноябрь 2017 года). Проверено 21 января 2018.
  15. ↑ Killer drone attacks filmed in Edinburgh to highlight artificial intelligence fears (англ.) (ноябрь 2017 года). Проверено 21 января 2018.
  16. ↑ Fake news? Lethal effect of micro drones (англ.). Проверено 31 мая 2018.
  17. ↑ "Einstein" bei den Robotern - TV - Play SRF (нем.). Проверено 31 мая 2018.
  18. ↑ DARPA'S DREAM OF A TINY ROBOT ARMY IS CLOSE TO BECOMING A REALITY (December 2020).
  19. ↑ Scharre. Why You Shouldn't Fear 'Slaughterbots' (англ.) (декабрь 2017 года). Проверено 21 января 2018.
  20. ↑ Russell (2018), Op. cit.
  21. ↑ McFarland. 'Slaughterbots' film shows potential horrors of killer drones (ноябрь 2017 года). Проверено 21 января 2018.
  22. ↑ Andrew Yang calls for global ban on killer robots (февраль 2020 года). Проверено 31 декабря 2021.
  23. ↑ Mizokami. A New Video Explains, in Graphic Terms, Why the United Nations Must Ban 'Slaughterbots' (декабрь 2021 года). Проверено 31 декабря 2021.

Ссылки[править]

Источник — http://cyclowiki.org/w/index.php?title=Дроны_убийцы&oldid=1791167