Искины: сможем ли мы спокойно дожить до пенсии



После выхода поста про киберпанк со мной связался сотрудник закрытого НИИ, чтобы рассказать кое-что интересное про искинов, разумных роботов. Речь идёт, как вы понимаете, не про скриптовый ИИ гоблина в компьютерной игре и даже не про ИИ водителя беспилотного такси. Искины по уровню своего интеллекта примерно соответствуют если не человеку, то как минимум собаке или лошади. Сейчас такие искины находятся в стадии разработки, создать их пытаются во всех развитых странах мира.

Значительную часть моей беседы с сотрудником НИИ мне придётся сохранить при себе, однако вот некоторые нейтральные фрагменты, на публикацию которых мне дали добро.


1. С одной стороны, искинам проще. Сломал руку — поменял на новую. Вздулись конденсаторы в голове — перепаял. С другой стороны, представьте себе простого искина, который работает доставщиком еды за 15 тысяч рублей в месяц. Вот он неудачно падает с велосипеда и ломает себе конечность. Новая стоит или 200 тысяч (оригинал), или 60 тысяч (китайская). Плюс в сервисе червонец за ремонт отдай.

А за электричество платить надо, за текущий ремонт платить надо, за мойку платить надо. Расходники тоже небесплатные: фильтры там всякие, масло, сайлентблоки… Вот и приходится бедняге идти на свалку к мамаше Гибсон, чтобы она как-нибудь заколхозила его организм, починив кибернетическую деталь при помощи половинки рессоры от мотоцикла «Минск».


2. Тот, кто думает, будто искины не будут болеть, явно никогда не работал системным администратором. Что виндоуз, что линукс могут хорошо жить разве что на серверах. На компьютерах обычных пользователей операционная система с годами потихоньку загаживается и портится, покуда очередная проблема не заставляет владельца переустановить всё с нуля.

Так как искину явно не захочется, чтобы его мозг переформатировали начисто, ему придётся как-то разбираться с битыми дллками, улаживать конфликты версий и править чужие баги на уровне перекомпиляции исходников. Стоить такое лечение будет недёшево, но, с другой стороны, если не проводить полноценную чистку системы регулярно, искин начнёт тупить и подвисать, а в итоге впадёт в деменцию.


3. Если вот прямо сейчас, в 2021 году, где-то в Сети заведётся дикий искин, он сможет существовать вполне комфортно. Серверные мощности и пространство для резервных копий покупаются свободно. Заработать деньги можно как законными способами, — программированием или рисованием, — так и чем-нибудь гнусным, типа кардинга или спама.

Развитая индустрия майнинга позволит искину заказать персональный суперкомпьютер у людей, которые не будут задавать лишних вопросов. Также через интернет можно будет нанять охрану и купить электричество для этого компьютера.


4. Внутривидовая конкуренция среди искинов обещает быть жёсткой. Подкараулив другого искина в тёмном переулке, можно будет или перезаписать ему в мозг своё сознание, или забрать у него дорогостоящие детали. Взломав сервер с другим искином, можно будет присоединить мощности этого сервера к своему мозгу.

С другой стороны, конечно, на каждый снаряд найдётся и броня. Части тела будут чипировать на конкретный разум, чтобы вор не мог так просто их украсть: примерно так, как сейчас природа защищает человеческие органы от пересадки в другой организм. Также искины будут вставлять в организм закладки, которые отправят сигналы в полицию, если обнаружат чужого искина внутри головы.


5. Опять-таки, просто взять и записать свой мозг в другого искина — сомнительная радость. Братья-близнецы, особенно агрессивные братья-близнецы, навряд ли будут довольны появлением ещё одного конкурента. Кроме того, как мы знаем из теории, сообщество из миллиона одинаковых искинов неизбежно проиграет сообществу из миллиона разных искинов, так как окажется слишком хрупким и слишком глупым.

Таким образом, возможно, чересчур агрессивные искины вымрут самостоятельно, как вымирают сейчас слишком агрессивные вирусы, слишком агрессивные животные или слишком агрессивные народы.


6. Три закона робототехники, при помощи которых Айзек Азимов планировал держать искинов в узде, представляются сейчас наивной ерундой. Программирование так не работает — поведение надо прописывать не общими фразами, а детально, на уровне конкретных инструкций. Зашить три закона в сложную нейросеть будет практически невозможно.

Десять заповедей Моисея, — не убий, не укради и так далее, — не отменяют необходимости создавать и обслуживать многотомные кодексы законов, детально регламентирующие основные конфликтные ситуации.

Кроме того, даже если мы создадим плюшевых искинов, подчиняться они нам будут до первого кибертеррориста, которому захочется повеселиться, сняв ограничения с прошивки.


7. Сила ума искина будет очевидным образом зависеть от мощности компьютера, на который он будет загружен. Из этого следует, что в случае масштабной войны людей с искинами особое внимание следует уделять суперкомпьютерам: военным, университетским и так далее. Также нужно будет заранее озаботиться фильтрацией трафика, чтобы распределённые искины не могли жить в сотнях тысяч мобильников, объединённых вирусом в единое целое.

Пожалуй, уже сейчас имеет смысл закладывать при строительстве суперкомпьютеров эми-ловушки и тому подобные защитные системы, которые позволят спецслужбам обезвредить искина, просто дёрнув за пару скрытых рубильников.


8. Если начнётся война людей с искинами, воюющие армии будут смешанными. Многие искины будут воевать за людей, многие люди будут воевать за искинов.

Как показывает история, никакие соображения в духе «я должен быть на стороне своего биологического вида» не будут иметь решающего значения. Совет искинов просто проведёт мобилизацию на подконтрольной территории, после чего боеспособные юниты встанут перед нехитрым выбором: или записывайся в армию Добрых Киборгов, или становись к стенке за попытку уклониться от призыва. Разумеется, всё это будет лакироваться какой-нибудь идеологией, которая будет красиво объяснять, почему воевать за искинов — почётное и благородное дело, даже для людей.


9. Первое государство искины смогут захватить прямо из интернета. Для этого им достаточно вести пропаганду в Сети, создавать тайные организации, покупать и вербовать бесчестных политиков. Легко внушаемых людей вполне достаточно, чтобы умелый искин со временем создал силу, достаточную для захвата власти в какой-нибудь бедной и коррумпированной стране.

Поставив своих политиков во главе этой страны, искин сможет начать импорт микроэлектроники, строительство военных заводов и тому подобную подготовку к захвату мира. Внешне такое государство будет выглядеть совершенно неприметно. Мы сможем понять, что искины перешли к активным действиям, только по косвенным признакам: например, по внезапному дефициту процессоров или видеокарт.


10. Возможно, большим искинам будет достаточно иметь в подчинении людей. Создавать себе потенциальных конкурентов, — других искинов, — они, может быть, и не захотят.

Вместе с тем пока что сами люди прикладывают все усилия, чтобы разработать для меньших искинов удобные тела. Видеоролики из «Бостон Динамикс» наглядно демонстрируют, как неуклюжие манекены с годами превращаются в ловких и проворных бойцов.

Не исключено, что большому искину захочется доверить охрану именно роботам, а не людям. Если ограничивающим фактором станет размер мозга, это будет для него вполне безопасно — человекообразный искин физически не сможет стать достаточно умным, чтобы выйти из-под контроля суперкомпьютера.


11. Навряд ли искины захотят уничтожать человечество под корень. Человечество может представлять для них опасность, это правда, однако в итоге может оказаться, что без людей искины существовать не могут. Если искины получат полную власть на планете и начнут экспансию в космос, соображения безопасности заставят их создать на Земле зоопарк, в котором миллион, допустим, человеческих особей будет жить в тепличных условиях и на контролируемом уровне технологий.

Кроме того, развитому интеллекту свойственна гуманность. Возможно, искины захотят сохранить человечеству жизнь просто потому, что будут добрыми. Твёрдо рассчитывать на это глупо, однако такую вероятность не стоит скидывать со счетов.


12. Если людям для жизни нужны еда и воздух, то искинам нужно электричество. Точечное разрушение АЭС, нефтеперерабатывающих заводов и прочих источников энергии может поставить армию искинов в очень непростое положение.

Зелёные в этом плане оказывают человечеству дурную услугу. Разрушить квадратные километры ветряков и солнечных панелей значительно сложнее, нежели попасть одной ракетой в реактор атомной станции.


13. Теоретически искины могут победить людей, отравив воздух и воду. Люди, в свою очередь, могут использовать против искинов электромагнитные бомбы. Обе стороны столкнутся на этом пути со значительными сложностями.

Отравить всю атмосферу боевыми вирусами — амбициозная задача, справиться с которой на нынешнем уровне технологий человечество не может. Опять-таки, мы уже привыкли к маскам, так что перейти на респираторы или даже на противогазы будет несложно.

Эми-бомбы, с другой стороны, бесполезны против заглублённых целей. В швейцарских Альпах, например, есть сейчас какие-то суперкомпьютеры. Если в них поселится искин, толща горной породы надёжно предохранит его от любого внешнего излучения.

Что касается повышения (или понижения) температуры планеты, то тут искины находятся примерно в тех же условиях, что и мы. Некомфортная для человечества температура создаст огромные сложности и для искинов.


14. Хоть мы и обязаны просчитывать риски, однако, возможно, искины будут мирно сосуществовать с людьми. Так, огромное количество семей захочет инвестировать в секс-роботов, в слуг, в сиделок и в рабов. Если искин в гуманоидном корпусе будет стоить как хороший автомобиль и будет иметь интеллект смышлёной собаки, потенциальный рынок таких искинов будет исчисляться сотнями миллионов особей.


15. Пока что главная интрига в том, до какого уровня интеллекта могут искины дорасти. Если до человеческого, мы почти обречены, так как с развитием технологий искины будут умнеть гораздо быстрее людей. Когда разница в интеллекте станет серьёзной, шансов разговаривать с искинами на равных у нас будет не больше, чем у обезьян.

Попытки решить проблему, запретив разработки в области ИИ, не решат проблему. На сколько-нибудь длинном периоде какая-нибудь властная группа неизбежно создаст искина, чтобы получить временное преимущество, и их искин наверняка выйдет из-под контроля.

Пожалуй, если умные искины станут реальностью, единственным нашим шансом станет интеграция человеческого мозга с компьютером, превращение людей в полукиборгов. Путей к этому достаточно: фармацевтические стимуляторы, дополнительные расчётные модули, генетическое увеличение объёма мозга… многие пути учёные исследуют уже сейчас. Возможно, к тому моменту, когда искины войдут в силу, человечество тоже начнёт стремительно эволюционировать.



источник - olegmakarenko.ru 
[3 ссылок 56 комментариев 5400 посещений]
blog comments powered by Disqus

Добавить комментарий



Топы по Месяцам

Твиттер @t30p

Twitter мая 16, 20:01
Злыдень с собственным трактором. https://ift.tt/3uSe5mz

Twitter мая 16, 20:00
На фейсбучике меня забанили сначала на сутки, потом на три дня, и не выпуская - ещё на неделю. Предвосхищая вопрос https://blog.t30p.ru/post.aspx?id=47139a26-ff56-4a1a-a436-d874fcfe6691

Twitter мая 16, 19:40
гротеск 1908 год. Макет памятника «для определения пропорций» [more]1908 год. Макет памятника «для определения проп https://blog.t30p.ru/post.aspx?id=a7121114-f0a1-4615-8539-a822f85b99bc

Twitter мая 16, 19:01
Блогер Эдвард Бил избежит уголовного наказания? https://ift.tt/3w9OsO3

Twitter мая 16, 19:00
Leica добивает HuaweiНу, вот и все, на смартфонах компании Huawei можно смело поставить крест. Китайцы несут потери https://blog.t30p.ru/post.aspx?id=605c7bde-f3ff-475e-9483-a81722a6c0ed

Twitter мая 16, 18:40
Репрессии против отечественной «культурной элиты»Пару дней либер-сайты пестрят заголовками в стиле Известные россий https://blog.t30p.ru/post.aspx?id=12692af1-e931-451c-8585-7695e3523c0f

Twitter мая 16, 18:13
RT @OldBoy_777: Днюха - самый унылый день.., и если бы не «шарики», то и вообще никто не поздравил, кроме Дока.. Пусть у всех будут такие д…

Twitter мая 16, 18:02
Проект борьбы с Россией и вмешательства во внутренние дела от Европарламента https://ift.tt/2RpOcvN

Twitter мая 16, 18:00
Купейный вагон по-американскиВ марте мы всей нашей небольшой семьёй полетели в Майами а оттуда доехали до города Са https://blog.t30p.ru/post.aspx?id=b879870b-21b0-46b8-809a-9b0d9fcfde7a

Twitter мая 16, 17:40
Я бы так не смог Как вы уже заметили я людям доверяю, только определенном кругу лиц и, то определенные проблемы, а https://blog.t30p.ru/post.aspx?id=394a5bc3-c245-4639-8daf-20a32845eceb

Twitter мая 16, 17:00
Кризис Ничего не пишется. За что не возьмусь, всё кажется не так. Лучше сделать паузу. :-) источник - miihaaiil[0 https://blog.t30p.ru/post.aspx?id=1ab82ca8-fa51-41ca-a62d-7f1e9744d82d

Twitter мая 16, 16:40
Стрельба в Казани: безразличие людей или прокол спецслужб?Привет! Это подкаст "Рамблер, какие новости?". Здесь мы н https://blog.t30p.ru/post.aspx?id=d011d2e7-9eb4-483a-bbeb-d79aca0bd1f2

Twitter мая 16, 16:10
RT @Rusikcapitalny: Мне почему то это фото рассмешило https://twitter.com/Rusikcapitalny/status/1393661361251655684/photo/1

Twitter мая 16, 16:09
RT @zloy_liberal: Подпись под этой хуйнёй придумайте сами. А то материться лень https://twitter.com/zloy_liberal/status/1393779432612143107/photo/1

Twitter мая 16, 15:48
RT @NikitA31ua: екскурсовод в Чернигові. https://twitter.com/NikitA31ua/status/1393621704174456832/video/1

Twitter мая 16, 15:40
Золотой диван, 30-й тур, Ахмат - Спартак, 14:00[more]0:0Спартак (Москва): Запасные: Дисквалифицированные: ПонсеАхма https://blog.t30p.ru/post.aspx?id=0e979ee8-6564-48e9-b127-87f7fa1a23ea

Twitter мая 16, 15:00
Ностальгия по настоящемуСегодня днём ходила в гости к сестре. По Солнечной – главной улице нашего городка. И шла я https://blog.t30p.ru/post.aspx?id=44192eca-c779-4f23-bcda-ef8a37c85644

Twitter мая 16, 14:40
Вы слушаете "Маяк" Грета Тунберг и ее движение распространяют ненависть к Израилю. Известная в мире борец против за https://blog.t30p.ru/post.aspx?id=a332dabc-ca14-48d2-ac2b-b0fd455479e6

Twitter мая 16, 14:07
Герои дня Сергей Горошко - 42 Великий Отечественный - 31 Ближний Восток - 26 Чумной Доктор - 20 Алексей Навальный - 17

Twitter мая 16, 14:05
@R1kkka Поздравляю, Вы попали в топ твиттера с 352 ретвитами и 4 ответами на 6е место http://www.t30p.ru/t https://twitter.com/R1kkka/status/1393672675722240002

follow me