Формируем наш мир - Конструктивный взгляд (gonchar) wrote,
Формируем наш мир - Конструктивный взгляд
gonchar

  • Mood:

Одна мифическая и одна реальная опасность искусственного интеллекта

Мифической опасностью
искусственного интеллекта я считаю опасность в духе "восстания роботов".
Вопрос - возможно ли такое?

Ответ - конечно, возможно. Но реально это лишь с учётом реальной опасности (см. ниже). А реальная опасность (см. ниже) опасна сама по себе, безо всяких восстаний.

Что можно сказать про собственно "восстание роботов"?
Я бы обратил внимание на два момента.

Первый.

Люди уже ухитрились создать штуки, которых вполне довольно для того, чтобы сделать собственную жизнь в лучшем случае крайне неприятной, а в весьма вероятной - вообще с ней покончить. Самая известная такая штука - ядерное оружие. Там безо всякого искусственного интеллекта )да и вообще без особого интеллекта) можно на ровном месте "выключить свет".

Второй.

Я, например, считаю ГМО значительно более опасной штукой. По сочетанию двух причин: неопределённости результата экспериментирования и саморазмножаемости этого результата. Например нет никаких гарантий, что в силу незнания, или ошибки, или злого умысла в природу не вырвется какой-нибудь вирус, который выкосит человечество до того, как удастся придумать средства борьбы с ним. Но люди в массе не думают, точнее, думают шаблонами, их не смущает, скажем, что они нормально относятся к повсеместным мерам электробезопасности, но игнорируют свободные исследования в области ГМО.

Поскольку эта тема поднималась неоднократно, и каждый раз я сталкиваюсь с непониманием, произнесу ещё раз. Меня, в отличие от основной массы противников ГМО, волнует НЕ МАССОВОЕ кормление людей ГМО ("все превратимся в скорпионов") - это как раз можно надеяться отсечь. Меня волнует именно ЭКСПЕРИМЕНТИРОВАНИЕ с такими штуками. Грубо говоря, мне наплевать на ЦЕХА Монсанто, меня волнуют их лаборатории, а ещё более - лаборатории военных (или Вы наивно полагаете, что сейчас в мире никто в этой сфере не пытается создать вирусы и т.п.?), террористов, идиотов, чайников - да и просто общее число ЛАБОРАТОРИЙ.

Искусственный интеллект, в отличие от того же ГМО, по крайней мере:
- действует по известной программе (не надо про нейронные сети и самообучение - всё равно есть базовая программа, которая может быть блокирующей)
- сам не размножается, во всяком случае, со скоростью живых организмов
- пока дело не дошло до полностью роботизированных циклов производства (от проектирования и добычи сырья до производства машин, проектирующих и добывающих сырьё), всё это находится под контролем человека

Поэтому "восстание роботов" - это, конечно, замечательная штука для Голливуда, но пока она не находится в числе серьёзных опасностей для человечества. Так, мелочь пока - надо просто иметь её в виду при проектировании.

Реальная опасность

Сначала укажу на важное разделение в действиях человека. Его все, наверное, понимают, но не все его помнят каждую минуту... точнее, это так в европейской цивилизации, для людей религиозных в духе "восточных" религий оно, это разделение, каждосекундно, повсеместно и принципиально важно.

Типы действий человека

Действия человека делятся на действия для других и действия для себя - с точки зрения цели. Конкретное действие может, конечно, содержать и ту цель, и другую, но всё равно, это разделение присутствует.

Поясню на примерах.

Скажем, кто-то, прочтя этот текст, пойдёт в зал тягать штангу. Действие с точки зрения человечества совершенно идиотское - тягающий, потратив на это занятие всю жизнь, даже близко не подойдёт к уровню простейшего тельфера стоимостью в сто долларов. Но это действие важно для самого занимающегося. Это - действие для себя.

Кто-то пойдёт лечить людей. Это - действие для этих людей. Для самого человека это действие может быть совершенно незначимо, его, человека, в действии лечения может интересовать только получаемое вознаграждение. То есть, то, что можно в последующем обменять на действия других людей.

Кто-то уединится с супругой/супругом для сексуальных целей. При правильном отношении к делу это действие будет одновременно действием и для себя, и для партнёра.

Думаю, понятно. Добавлю. Для "западного" человека характерны действия, направленные на других людей. Сделать им что-то (заработать денег), за что они потом сделают что-то тебе. Кстати, христианский менталитет тоже подталкивает человека к действиям именно для других (грубо - спасение через заботу о ближнем). Для восточного менталитета характерно противоположное. Человека волнует в первую очередь его карма, какие-либо действия по отношению к другим людям - лишь частный случай её проработки. Чтобы уменьшить такого рода отвлечения, уходят в монастыри, в ненаселённые места, отказываются от общения, медитируют и пр.

Цивилизация

Но наша цивилизация - множество сообществ людей - всё-таки в основе имеет западный тип. Мы развиваемся, как цивилизация, в первую очередь путём создания знаний и материальных благ с последующим обменом ими друг с другом. хоть в Лондоне, хоть в Дели.
Это важно, принципиально важно.


Искусственный интеллект

Теперь смотрим на искусственный интеллект. Проблема, конечно, не в том, что он заменит водителей или высвободит часть населения. Это всё мелочи, так или иначе общество их отрегулирует, не переживайте. Когда Форд сделал массовый автомобиль (а за ним сделали и прочие), не умерли с голоду миллионы конюхов. Это не проблема.
И все разговоры "футурологов" об уменьшении рабочей недели, проблемах при замене одного вида труда на другой и т.п. - это всё чушь собачья. Человечество (точнее, безнес) разберётся с этим безо всяких футурологов (которые, науськивая правительства, будут человечеству и бизнесу только мешать... хотя их заслуги приписывать себе).

Проблема гораздо серьёзнее.

Оговорю - тут важно развитие не только именно "интеллекта", но и некоторых технических устройств (которое видится совершенно реальным).

Мне кажется, есть очень хорошая формулировка этой проблемы (сформулировал в разговоре с Selic).

Что будет, если ДЛЯ ЛЮБОГО действия, которое может сделать человек для других людей, аналогичное действие робота будет одновременно качественнее, быстрее и дешевле.

Вот это - ОЧЕНЬ серьёзно. Дело в том, что такое техническое развитие сделает бессмысленными ВСЕ действия людей, которые они совершают для других людей - то есть все действия, лежащие в основе нашей цивилизации, нашего сегодняшнего развития.
Приготовить еду? Только для собственного развлечения - для вкуса же её гораздо лучше приготовит робот. Заняться сексом с супругой? Оно можно, но сексуальная кукла тебя удовлетворит сильнее - и супругу тоже.
Построить дом? Вырастить сад, изготовить.... - всё это робот сделает быстрее, дешевле и лучше.
Спроектировать дом? Нарисовать картину? Робот нарисует лучше. И в тысячу раз быстрее, и пишущих материалов изведёт меньше.
Сказать, какой дом хочешь? Да робот изучил тебя так, что предложит тебе варианты твоих пожеланий быстрее и точнее, чем ты сам их сформулируешь. А энергии при этом потратит меньше, чем ты.

и, кстати,р разговорами "футурологов" о разделении человечества на "массы" и "элиту" тут не обойдёшься. То, что произносится на этот счёт с ханжеским видом якобы беспокойства за "народ" и внутренней радостью от ощущения принадлежности к "элитам" - вздор, самообман. 



Понимаете серьёзность проблемы в целом?


В этом случае человечеству, в том виде, в котором оно существует, придёт конец. Оно перейдёт в иную фазу. Возможно, оно будет таким, в котором каждый человек будет полностью озабочен действиями для себя, своим саморазвитием. А друг другу люди станут, по большому счёту, безразличны - например, у человека останутся лишь любовные и дружеские связи с буквально несколькими людьми, с жизнью же других он соприкасаться вообще не будет.

Причём ИНДИВИДУАЛЬНЫЕ занятия тоже могут поменяться коренным образом.
Вот простой вопрос - многие ли из нас делают что-то именно ради саморазвития, не ради побочных эффектов от него? Не ради мнения окружающих, например. Скажем, многие ли будут вести ЗОЖ, если медицинский робот вылечит тебя всегда при любом ожирении, а девушкам/парням будет на твоё брюхо наплевать, поскольку в качестве сексуального объекта их будет интересовать робот? Многие ли будут учить языки, если автоматический переводчик...

Многие ли будут заниматься наукой, если ИНТЕРЕС узнать новое пропадёт - потому что искусственный интеллект найдёт ответ быстрее тебя? Будет ли иметь смысл доказывать теорему, если ...? Многие ли сейчас, например, тренируют мозги на быстрый устный счёт? А тут выявится бессмысленность большинства сегодняшних интеллектуальных занятий "для себя". И останется что-то, что сейчас не признают атеисты - и смысл деятельности будет лишь в развитии этого чего-то... что тогда будут говорить атеисты? :)

Примечание: кстати, у Азимова, например, есть фантастика в этом духе. Не помню, как называется, довольно бездарная литературно :) Суть в том, что есть планеты, на которых люди практически не общаются, каждого обслуживает куча роботов и т.п. Но Азимов, как ни странно, не додумался там до нашей формулировки - тотальной, относящейся ко всем действиям человека - которая показыват бессмысленность даже той, описанной у Азимова картины. Вообще, коллеги, хорошая формулировка - это очень важно. В людом деле. Часто найти её - практически решить задачу. Или понять, что её не надо решать. Но найти иногда очень трудно.

Может, что-то ещё. Не знаю.
Но, анализируя проблему, стоит иметь, я считаю, в виду именно такую, почти математически точную формулировку:
Что будет, если ДЛЯ ЛЮБОГО действия, которое может сделать человек для других людей, аналогичное действие робота будет одновременно качественнее, быстрее и дешевле.


=================================================

Ввиду миграции оригинал записи тут:
http://gonchar.dreamwidth.org/329906.html

Поскольку некоторые люди говорят, что испытыают сложности при работе с Дримом, комментарии к записи открыты тут.
Но лучше всё-таки вести обсуждение в Дриме. Какой-то специальной регистрации там не требуется. Хотя и зарегистрироваться - дело пары минут.
Tags: наука__футурология, техника__искусственный_интеллект
Subscribe
  • Post a new comment

    Error

    default userpic
    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 13 comments