Философское Представьте солдата в окопе на поле боя. Он напуган. Он

Представьте солдата в окопе на поле боя. Он напуган. Он истощен бессонными ночами, отсутствием самого минимального комфорта и непрерывной опасностью. Его чувства притуплены постоянным страхом за свою жизнь, и жизни товарищей. Вполне вероятно, он ранен и мучается от боли. Он ненавидит врага постоянной, слепой и нерассуждающей ненавистью. Он, вполне возможно, не слишком хорошо образован, и видит конфликт только как его показывает пропаганда: «мы — хорошие, а они — плохие». Он усвоил на собственном опыте, что война, это очень во многом «убей или тебя убьют». Он, скорее всего, молод — вчерашний подросток с нестабильной, разбалансированной гормональными бурями психикой. На него постоянно давят приказы и распоряжения командиров, смысл которых ему далеко не всегда очевиден — очень часто ему кажется, что эти приказы не имеют никакого отношения к реальности. И иногда он в этом прав.

И каким же образом этот солдат сумеет принимать более беспристрастные, точные и моральные решения на поле боя, чем робот?

Справа - бездушная, аморальная машина смерти, слева - высокоинтеллектуальный, душевный индивидуум, всегда принимающий исключительно правильные, морально безупречные решения в любой обстановке. Не перепутайте.
Справа - бездушная, аморальная машина смерти, слева - высокоинтеллектуальный, душевный индивидуум, всегда принимающий исключительно правильные, морально безупречные решения в любой обстановке. Не перепутайте.

Мое личное ИМХО — все эти идеи, что «решение о применении оружия должно обязательно оставаться за людьми» и «машины не должны сами принимать смертельное решение», строятся на совершенно абсурдной идеализации человека, и демонизации машины. Сформированной замшелой фантастикой 50-ых, когда представление о роботах и компьютерах было самым наивным и сводилось к «железный человек с блестящими интеллектуальными способностями но априори аморальный». Даже если опустить сомнительный вопрос о моральности войны как таковой, эти взгляды явно исходят из совершенно анахроничных представлений о роботе как непременно самоосознающей, способной к формированию собственного представления о мире машине. 

Такая позиция имела определенный смысл в 1950-1960-ых — когда ввиду чисто технических ограничений, полностью автоматизированными могли быть лишь системы стратегического значения. То есть те, для которых «цена ошибки» была априори неприемлемо велика — и которые, как правило, управлялись высококвалифицированным персоналом, находящимся в существенно более безопасной позиции. Однако, к 2020-ым ситуация переменилась и изрядно. Вопрос «о праве робота на убийство» сейчас уже сводится не к «запуску атомных ракет по ложной тревоге» а к «выстрелу с дрона по подозрительной цели».

Суммируя плюсы и минусы:

+ Робот озабочен собственной безопасностью лишь в той мере, в которой это практично для выполнения боевого задания. Робот не испытывает никаких принципиальных проблем с тем, чтобы высунуться из укрытия для точной идентификации цели или сознательно подставиться под первый выстрел возможного противника. Для живого солдата, это неприемлемо. Для робота — это лишь вопрос «будет ли это эффективно решать проблему».

+ Робот не испытывает эмоциональной нагрузки, не беспокоится за товарищей, не устает и не испытывает ненависти к противнику. Робот совершенно точно не будет принимать решение в стиле «расстрелять в отместку».

+ Робот всегда будет скрупулезен в следовании всем протоколам и алгоритмам применения оружия. Он не начнет стрелять по неудачно высунувшимся гражданским потому, что «да ясно же, что с той стороны только враг!»

— Робот может «тупить» необъяснимо для человека. Имеется в виду, что самообучающиеся программы в ходе, собственно, самообучения, могут временами приходить к совершенно парадоксальным (с человеческой точки зрения) выводам и решениям, слабо коррелирующим с реальностью.

— Робот может быть более уязвим в том плане, что его скрупулезное следование протоколам позволяет противнику — предполагая, что тот знает об этих протоколах — найти способы эффективно обмануть робота на «формальностях». Живые солдаты менее восприимчивы к такого рода обманам ввиду наличия эмоциональных реакций (т.е. подозрительности). 




источник - fonzeppelinfonzeppelin 
[1 ссылок 62 комментариев 5050 посещений]
читать полный текст со всеми комментариями
blog comments powered by Disqus

Добавить комментарий



Топы по Месяцам

Твиттер @t30p

Twitter мая 13, 21:00
Куда пропадают дети Позачера пропал ребёнок. Приятельская дочка, подросток 13-ти лет. Вышла из музыкальной школы, с https://blog.t30p.ru/post.aspx?id=e8a3722d-fe2b-4200-a8a0-279155c8babc

Twitter мая 13, 20:23
RT @aminyaylo: Друзья, у знакомого пропала дочь. Утром ушла в школу, в школе не появлялась, на связь не выходит. Распространите, пожалуйста…

Twitter мая 13, 20:23
@aminyaylo Поздравляю, Вы попали в топ твиттера с 696 ретвитами и 2 ответами на 5е место http://www.t30p.ru/t https://twitter.com/aminyaylo/status/1392920988849934340

Twitter мая 13, 20:02
RT @pevchikh: Дмитрий Песков - один из самых бесполезных чиновников на свете. Существует уже вагон документов, который доказывает, что двор…

Twitter мая 13, 20:01
В московском метро установили специальные ящики. Надолго ли? https://ift.tt/2QiiNLe

Twitter мая 13, 20:00
Великая Отечественная. Ч2. Дед пропал без вести, родителей не репрессировали. Что они делали не так?Кстати, часто п https://blog.t30p.ru/post.aspx?id=2c27ded9-2b61-4f11-9f0b-3352a938fddf

Twitter мая 13, 19:40
Войнушка-2021 Невовремя я поплакалась, что Израиль победил ковид и меня выгоняют на работу. Теперь опять можно рабо https://blog.t30p.ru/post.aspx?id=32990bbc-f8f3-4530-baf0-48afad055892

Twitter мая 13, 19:20
Скорость и доступность интернета в России.Компания broadbandchoices попыталась изучить качество, доступность и стои https://blog.t30p.ru/post.aspx?id=fec7f0f2-5108-4a57-aafe-29ce9d940e46

Twitter мая 13, 19:00
Барабан стиральной машины — назначение, виды, как выбратьБарабан в стиральной машине занимает практически все прост https://blog.t30p.ru/post.aspx?id=31575a19-4344-41f6-b50b-28b1da3019c6

Twitter мая 13, 18:40
Массовый убийца Галявиев: «кто-то его к этому готовил»Советский районный суд г. Казани удовлетворил ходатайство сле https://blog.t30p.ru/post.aspx?id=a6f9ad76-ceb9-4664-8207-780572dc3374

Twitter мая 13, 18:20
Духовный тесты Мой университетский друг на старости лет решил защитить магистерскую по психологии. Тема - сравнение https://blog.t30p.ru/post.aspx?id=fe8fd6e5-09f7-4a62-9ca3-92333a0e6006

Twitter мая 13, 18:02
[4$] Кадеты Очень много достойных людей о которых говорят очень мало, но https://ift.tt/3uMknEa

Twitter мая 13, 18:02
Корона российской империи. Прелюдия https://ift.tt/3fiaWWw

Twitter мая 13, 18:01
RT @LordOfMops: Самой точной репрезентацией уровня моего умственного развития все еще является капитан Смоллетт из советского Острова Сокрв…

Twitter мая 13, 18:01
RT @dmitry_gordon: Петр Алексеевич, с удовольствием с вами посужусь. Судиться – так судиться. Жму руку, Петр Алексеевич, обнимаю! https:/…

Twitter мая 13, 18:00
Про больных на головуПонимаю, что сейчас меня тапками закидают или чем похуже. Когда-то, когда мои родители выписыв https://blog.t30p.ru/post.aspx?id=08cf89bf-8be2-4dc3-afd3-415495391971

Twitter мая 13, 17:40
Драники Помните фильм "Девчата", где молодая повариха убеждала, что из картофеля можно приготовить очень много блюд https://blog.t30p.ru/post.aspx?id=c2272ceb-1a15-4659-93d1-115f31ffe8fc

Twitter мая 13, 17:20
А бывает вообще равный вклад, если мужчина не работает?Яна, здравствуйте!У меня вопрос, я давно уже им мучаюсь, и к https://blog.t30p.ru/post.aspx?id=0748ac14-902b-461d-884f-8017ef836dd3

Twitter мая 13, 17:00
Было или не было По следам преступления в Казани многие пишут: "А вот раньше такого не было".Часто пишут не просто https://blog.t30p.ru/post.aspx?id=4f580b69-cc52-4055-9922-99b0f8d23110

Twitter мая 13, 16:40
Корм для людей по аналогии собачьего и кошачьегоПочему нет "человечьего корма" - условного мешка снэков со всеми не https://blog.t30p.ru/post.aspx?id=5df5f3b6-b110-4642-adaf-5ea166c345b9

follow me