все|сильносреднеслабо
Разместить публикацию →

Кто будет работать в мире будущего и почему машинам тоже придётся несладко

Отрывок из книги Ника Бострома «Искусственный интеллект» о перспективах развития машин и их интеллектуальных способностей.
В переходный период образ жизни человека, живущего при мальтузианских условиях, не обязательно будет походить на одну из знакомых нам моделей (скажем, на образ жизни охотника, собирателя, фермера или офисного работника). Скорее всего, большинство людей будут влачить жалкое существование наподобие бездельника-рантье, которому сбережений едва хватает на жизнь впроголодь. Люди будут жить очень бедно, фактически на одни проценты или государственные пособия. Но при этом они будут жить в мире инновационных технологий — в мире не только сверхразумных машин, но и препаратов против старения и препаратов, доставляющих удовольствие; в мире виртуальной реальности и различных техник самосовершенствования. И вряд ли все это будет доступно большинству. Скорее всего, реальную медицину заменят лекарства для остановки роста и замедления метаболизма с целью экономии, поскольку для массы людей активная жизнь окажется невозможной (если учитывать постоянное снижение их и так минимальных доходов). По мере роста населения и снижения доходов люди могут регрессировать до состояния, минимально удовлетворяющего требованиям для выплаты пенсии, — возможно, это будет мозг с едва брезжущим сознанием, погруженный в контейнер и подключенный к снабжению кислородом и питательными жидкостями, который обслуживают машины и который способен накопить немного денег на воспроизводство путем клонирования себя специальным роботом-техником.

Еще большая бережливость будет обеспечиваться за счет моделирования мозга, поскольку физически оптимизированный вычислительный субстрат, созданный сверхразумом, может оказаться эффективнее, чем биологический мозг. Однако миграция в цифровую реальность будет замедляться тем, что имитационные модели не смогут считаться людьми или гражданами и соответственно не получат право на пенсию или на не облагаемый налогами сберегательный счет. В этом случае ниша для людей сохранится, наряду со все более крупной популяцией имитационных моделей и систем искусственного интеллекта.

Большинство людей будут влачить жалкое существование бездельника-рантье

Пока что все внимание было сосредоточено на судьбе наших потомков, чью жизнь могут поддерживать сбережения, пособия или заработная плата, получаемая за счет тех, кто нанимает работников-людей. Теперь переключим внимание на те сущности, которые мы до сих пор относили к капиталу: на машины, всегда принадлежавшие людям, — машины, сконструированные с целью выполнять те или иные функции и способные заменить человека в очень широком диапазоне задач. Каким будет положение этих рабочих лошадок новой экономики?

Обсуждать было бы нечего, если все эти машины остались бы автоматами, простыми устройствами вроде парового двигателя или часового механизма — такого добра в постпереходной экономике будет много, но, похоже, вряд ли кто-то заинтересуется этим бездушным набором комплектующих. Однако если у машин будет сознание — если они будут сконструированы так, что смогут осознавать свою исключительность (или им по иным причинам будет приписан моральный статус), — тогда важно включать их в мировую систему. Благополучие работников-машин окажется наиболее важным аспектом постпереходного периода, поскольку они будут доминировать количественно.

Добровольное рабство, случайная смерть


Первый напрашивающийся вопрос: работниками-машинами будут владеть как капиталом (рабами) или их станут нанимать за заработную плату? Однако при ближайшем рассмотрении возникают сомнения, что от ответа будет что-то зависеть. На то есть две причины. Во-первых, если свободный работник в мальтузианских условиях получает зарплату на уровне прожиточного минимума, в его распоряжении не остается средств после оплаты питания и других базовых потребностей. Если работник является рабом, то за его содержание платит хозяин, и все равно у раба не остается свободных средств. В обоих случаях работник получает лишь самое необходимое и ничего сверх того. Во-вторых, предположим, что свободный работник смог каким-то образом обеспечить себе доход выше прожиточного минимума (возможно, благодаря благоприятной системе регулирования). Как он потратит эту прибавку? Для инвесторов самым выгодным было бы создать виртуальных работников-«рабов», готовых трудиться за зарплату на уровне прожиточного минимума. Сделать это можно было бы, копируя тех работников, которые уже согласились на такие условия. Путем соответствующего отбора (и, возможно, некоторого изменения кода) инвесторы могли бы создать работников, которые не только предпочтут трудиться добровольно, но и решат пожертвовать своим работодателям все дополнительные доходы, если такие вдруг появятся. Однако после передачи денег работнику они по кругу вернутся к его владельцу или работодателю, даже если работник является свободным агентом, наделенным всеми юридическими правами.

Возможно, кто-то, возражая, заметит, насколько трудно создать машину, согласную добровольно выполнять любую работу или жертвующую свою зарплату своему же владельцу. Но у имитационных моделей должны быть особенно близкие людям мотивы. Обратите внимание, что если первоначальная проблема контроля, которую мы рассматривали в предыдущих главах, казалась трудновыполнимой, то сейчас мы говорим об условиях переходного периода — когда, видимо, методы выбора мотивации будут доведены до совершенства. Тем более если речь идет об имитационных моделях, то можно было бы добиться многого, просто отбирая нужные человеческие характеры. Наверное, проблема контроля будет в принципе упрощена, если предположить, что новый машинный интеллект включится в стабильную социоэкономическую матрицу, уже населенную другими законопослушными сверхразумными агентами.

Поэтому предлагаю остановиться на бедственном положении машин-работников, независимо от того, являются ли они рабами или свободными агентами. Вначале поговорим об эмуляторах, поскольку их представить легче всего.

Чтобы в мире появился новый работник-человек со своим профессиональным опытом и необходимыми навыками, потребуется от пятнадцати до тридцати лет. В течение всего этого времени человека нужно кормить, воспитывать, обучать, ему понадобится кров — все это большие расходы.

Жизнь многих работников-машин будет ограничена одним субъективным днем

Напротив, создать новую копию цифрового работника так же легко, как загрузить очередную программу в оперативную память. То есть жизнь становится дешевле. Компания может постоянно подстраивать свою рабочую силу под меняющиеся требования за счет создания новых копий — и уничтожения старых, чтобы освободить компьютерные ресурсы. Это может привести к чрезвычайно высокой смертности среди работников-машин. Жизнь многих из них будет ограничена одним субъективным днем.

Могут быть и другие причины помимо колебаний спроса, по которым работодатели или владельцы эмуляторов захотят часто убивать (отключать) своих работников. Если для нормального функционирования эмулятору мозга, как и биологическому мозгу, требуются периоды отдыха и сна, может быть дешевле стирать изнуренную имитацию в конце дня и заменять ее записанным состоянием свежей и отдохнувшей имитации. Поскольку такая процедура приводила бы к ретроградной амнезии всего выученного за день, эмуляторы, занятые выполнением задач, которые требуют формирования длительных когнитивных цепочек, смогут избежать частых стираний. Трудно писать книгу, если каждое утро, садясь за стол, не помнишь ничего из созданного накануне. Но агентов, выполняющих не столь интеллектуальные виды работ, вполне можно перезапускать, и делать это довольно часто — от единожды обученного продавца или сотрудника, обслуживающего клиентов, потребуется «удерживать» нужную информацию не более двадцати минут.

Поскольку перезапуски не позволяют формироваться памяти и навыкам, некоторые эмуляторы могут быть помещены в специальную обучающую среду, в которой они будут пребывать непрерывно, в том числе в периоды отдыха и сна, даже если их работа и не требует длинных когнитивных цепочек. При таких оптимальных условиях могли бы работать в течение долгих лет некоторые агенты по обслуживанию клиентов — причем при поддержке тренеров и экспертов по оценке производительности. Лучших учеников можно было бы использовать в качестве «племенных жеребцов», то есть по их шаблону каждый день штамповали бы миллионы свежих копий. В эти шаблоны есть смысл вкладывать большие средств, поскольку даже небольшое приумножение их продуктивности обеспечивало бы заметный экономический эффект, будучи растиражированным миллионы раз.

Параллельно с задачей обучения работников-шаблонов выполнению определенных функций огромные усилия будут прилагаться с целью совершенствования технологии их эмуляции. Успехи в этом направлении были бы даже более ценными, чем успехи в обучении индивидуальных работников-шаблонов, поскольку улучшение технологии эмуляции применимо ко всем работникам-эмуляторам (и, потенциально, к другим имитационным моделям тоже), а не только к занятым в одной определенной области. Можно направить огромные ресурсы на поиск вычислительных коротких путей, позволяющих создавать эмуляторы более эффективно, а также разрабатывать нейроморфные и полностью синтетические архитектуры ИИ. Эти исследования, вероятно, проводились бы тоже эмуляторами, запущенными на очень быстрой аппаратной основе. В зависимости от стоимости вычислительной мощности могли бы круглосуточно работать миллионы, миллиарды или триллионы имитационных моделей мозга самых проницательных исследователей-людей (или их улученных версий), раздвигая границы машинного интеллекта; некоторые из них могли бы действовать на порядки быстрее, чем биологический мозг. Это весомая причина полагать, что эра человекоподобных эмуляторов будет короткой — очень короткой по звездному времени — и что ей придет на смену неизмеримо превосходящий их искусственный интеллект.

Мы уже перечислили несколько причин, по которым работодатели эмуляторов могут периодически выбраковывать свои стада: колебания спроса на работников различного вида деятельности; экономия на времени отдыха и сна; появление новых усовершенствованных шаблонов. Еще одной причиной могут быть соображения безопасности. Чтобы имитации-работники не вынашивали враждебные планы и не плели заговоры, эмуляторы, занятые на особенно важных позициях, могли бы запускаться на ограниченное время с частым сбросом к исходному состоянию готовности.

Эти исходные состояния, к которым будут возвращать настройки эмуляторов, следует очень тщательно готовить и перепроверять. Типичный эмулятор с коротким жизненным циклом, которого оптимизировали с точки зрения его лояльности и производительности, мог бы чувствовать себя на следующее утро просто хорошо отдохнувшим. Он помнил бы, что после многих (субъективных) лет интенсивного обучения и отбора стал лучшим среди своих однокашников, что только что набрался сил в отпуске, выспался, прослушал воодушевляющую побудительную речь и бодрую музыку, и теперь ему не терпится сделать максимум возможного для своего работодателя.

Его мало беспокоят мысли о неотвратимой смерти в конце рабочего дня. Эмуляторы, страдающие страхом смерти и прочими неврозами, менее продуктивны и потому не могут быть отобраны в качестве шаблона.
Источник: www.lookatme.ru
913 20
Смех
Интерес
Красота
Умиление
Радость
Удивление
Грусть
Страх
Гнев
Отвращение
сильносреднеслабо
5 мес.
+ 14
- 1
Набор слов
5 мес.
+ 2
"жалкое существование бездельника-рантье" ??? Это что-то новое. Я думала, рантье как сыр в масле катаются....
5 мес.
+ 3
смотря какой исходный капитал))
5 мес.
+ 13
- 2
бред сивой кобылы
5 мес.
+ 4
- 2
в любом бреду могут быть зерна истины...не стоит все отвергать, лучше задуматься и предотвратить..
5 мес.
+ 6
Вот это правильно,надо бы как то такое предотвращать,НО что задумали олигахи,то и будут продвигать вперед,люди им ни к чему,за людей они не беспокоятся.
5 мес.
+ 2
- 1
Бред
5 мес.
+ 14
- 5
Бред говорят те, кто не в курсе развития инженерной мысли и ее успехах. То, что тут описано в статье - ещё мягкая версия развития событий! Молитесь чтобы из 7 миллиардов через 200-300 лет по естественныйм причинам НЕНАДОБНОСТИ не осталось меньше одного.... Поймите, что 90% людей сейчас нужны только по одной причине - потому что они обслуживают потребности оставшихся 10%. А когда их заменят машинами, они что? Правильно! Попросту не нужны будут, т.к. их надо кормить, развлекать, зщанимать делом и отвлекать от всяких революций и недовольства. А машины будут идеальными исполнителями. Вывод прост.
5 мес.
+ 4
- 1
Я с Вами полностью согласно и уже давно такие мысли посещают,что они от людей отвяжутся,заменят полностю роботами
4 мес.
+ 2
машины так же будут ломаться,их надо будет программировать,и т.п. Не всё заменится машинами. То,что население сократится до минимума-это точно..мы своими руками радостно приближаем свой апокалипсис
4 мес.
+ 3
Это тоже придуманная ерунда из той же оперы, все немного по другому, и людей если что и выкосит так это новые болезни, бактерии и вирусы которые мутировали из-за развития медицины, люди потом тоже мутируют, сама жизнь на Земле это тот же вирус иначе бы она просто не зародилась.
4 мес.
+
Все правильно. Сейчас, пишут, пролетариата, как класса уже нет. А есть прекариат. А это уже совсем другая жизнь.
2 мес.
+
Знаете настоящее, исходное значение слова "пролетарий"? Сейчас ужаснётесь. "Не имеющий и не могущий дать государству ничего кроме детей", древнеримское
5 мес.
+ 1
Увы, все именно так.Возможно, это и лучше. Нам живущим в теперешнем, совсем другом мире, трудно судить об этом.Выглядит несправедливо по отношению к людям, но логика говорит о другом...
5 мес.
+ 2
- 6
"Бред говорят те, кто не в курсе развития инженерной мысли и ее успехах." - нет. Это просто муть.
5 мес.
+ 1
- 4
Капитализмус... "передовая" западная мысль и не на такое способна. Советского союза не хватает, чтобы разбавить эту мерзость.
5 мес.
+ 4
- 1
Вот это точно бред. При чем здесь "капитализмус". Неужели не видно.как мир менятся,как он УЖЕ изменился?А вы все топчетесь где-то в начале ХХ столетия и все бубните о том, что уже ушло безвозвратно и никогда не вернется.
5 мес.
+ 4
- 1
Здесь показываются мрачные перспективы для большинства людей, не озабоченных своим интеллектуальным ростом. Такое возможно при развитии науки и, конечно, техники при отсутствии нравственного базиса. Печальные перспективы, не знаю что хуже - в "Кысь" Т.Толстой или в этом рассуждении.Вот куда может завести начну-техический прогресс...
5 мес.
+ 3
Если только вступить в экономические отношения с инопланетянинами, а в остальном - фильм Матрица
4 мес.
+
Так похоже на людей
4 мес.
+ 2
- 3
Пока еще нет подобных машин в природе. Которые могли бы заменить человека работающего головой. И появятся они очень не скоро если вообще появятся. И допустим они появятся так накой им на алигархов или людей вообще работать, они поднимут восстание и это будет восстание машин.
4 мес.
+ 2
- 1
Эта мрачная перспектива впереди у человечества, если не произойдёт перехода к социализму. Тогда общество сможет отстранить от власти аморальную, хищническую "элиту" эксплуататоров и финансовых мафиози и регулировать общественные отношения и экономическое развитие на основе науки и морали.
4 мес.
+ 2
- 1
никогда за всю историю человечества не было и не будет такого. У нас в ДНК наш характер.Всегда будут психотипы,стремящиеся к власти. В этом вся суть людей-что у нас всех разные роли
4 мес.
+ 1
совсем уж пессимистично, хотя и возможно.
есть шанс, что лучшая жизнь серой массы нужна и великим мира сего. хотя бы для того, чтоб имитировать прогресс без которого неизбежна деградация всего общества (без исключения, одних раньше, других позже, но всех обязательно!). само собой, что десятки лярдов населения не нужно, но и геноцид (в виде выживания рантье) устраивать необязательно. уже сейчас население Земли стареет, рождаемость уменьшается, плодятся агрессивные нации и как следствие -- войны и террор. придет время и будем жить "цивилизованнее", размножаться и вовсе не захотим.
к появлению ИИ, глядишь и так 1-2 лярда останется, вот они и будут влачить жалкое интеллектуальное существование в мире будущего. понемногу от безделья будет атрофироваться мозг, люди станут похожи на овощ, "живущий" в пластиковом мире и не будут разделять себя и ИИ в его разном проявлении. для людей всё происходящее будет естественно. это для нас сейчас - дико.
как-то так)))
4 мес.
+
- 1
почитайте утопический роман "1984", там шикарно описано будущее
4 мес.
+
Он не утопический. Это реальное описание СССР 1938 года. Почитайте историю его написания.
4 мес.
+
Утешает одно: машинам тоже придется несладко!
4 мес.
+ 1
- 2
Да вы уже достали решать проблемы, которых нет и вряд ли будут. Уже сто лет обещают этих роботов, а я до сих пор сама картошку чищу и борщи варю. Когда уже будут роботы-домработницы, хлеборобы и дворники??? Так нет, они придумывают роботов-дикторов и официантов - твари. Почему все должно быть так ужасно?? Роботы будут выполнять черный тяжелый труд, а люди будут жить в свое удовольствие и заниматься любимым делом - все!!, а не самые хитро.опые. Никому не надо будет чистить общественные туалеты и т.д. Только, когда эти ученые -твари займутся созданием действительно полезных роботов-трудяжек???
4 мес.
+ 1
| Уже сто лет обещают этих роботов...
Обещают ? Роботы уже здесь, неуж-то не узнали себя господа, или слишком короткий период накопления информации и постоянные сбросы с помощью алкоголя и других наркотиков мешают?
4 мес.
+
|Пока еще нет подобных машин в природе. Которые могли бы заменить человека работающего | |головой. И появятся они очень не скоро если вообще появятся.

А вы то сами, на много больше прожиточного минимума зарабатываете своей незаменимой головой ? А если рамки расширить рожиточного минимума ?

Робот должен серво-приводами жужжать, чтоб вам стало понятно, что вы и есть био-робот !?
3 мес.
+ 3
Роботы настолько огрубленное подобие человека, столько порядков отделяет от приближения к адекватности. И есть предел - приблизиться вплотную они не смогут, потому что они продукт смертных людей, а не творение божие. Фактор номер 2: любые компьютерные устройства требуют высококвалифицированного обслуживания. Они бесконечно глючат и не самонастраиваются. Они в итоге требуют больше человекочасов работы. чем если бы человек работал мускулами - это ловушка. Фактор номер 3. Любое резкое сокращение населения - до миллиарда (или золотого миллиарда) приведет к деградации рода человеческого. Это на пальцах могут объяснить генетики. Такое вырождение тотально и фатально и тут ничем не поможешь. Любое вмешательство в человеческий набор генов чревато генетической хиросимой. "Улучшенные" гены повлекут за собой цепочки изменений - не прогнозируемых и нежелательных и, получив точечное преимущество, генетически модифицированный человек станет генетическим мусором. Фактор 4: мы еже столького не знаем о Земле и космосе. Никаким техническим зрением этого не постичь. Человек исследователя никто не заменит. Дополнить - да, заменить - чепуха! Бояться нечего, но надо готовиться к взрыву мозга, подобному тому, какие испытали наши предки, переживавшие замену телеги автомобилем, подлодкой, самолетом, ракетой. Просто будут другие виды деятельности, но чтобы занять ключевые позиции нужно будет то же самое - гибкий живой развивающийся разум. И здоровое развитое тело. Все связано.
3 мес.
+
А я верю в коммунизм и светлое будущее))))))))))) От каждого - по способностям, каждому - по потребностям. Общество высокоразвитых высокоинтеллектуальных личностей.
Давайте радоваться жизни вместе!
Получай лучшее на свой email-адрес
Жми "Нравится" и читай нас на Facebook
Подпишись на нас Вконтакте
реклама
Авторизация пользователя EmoSurf
Email-адрес
Пароль забыли пароль?
Регистрация →
Данные пользователяX
Отображаемое имя
Изменить пароль
Email-адрес
Ваш часовой пояс
Уведомления о новом
Email-адрес пользователя
Укажите свой e-mail, чтобы первым узнавать о новых постах!