Опасность высоких технологий, ваши мысли по этому поводу Опции

[Чих]

Сперва давайте примем без доказательства, что компьютерщики преуспеют в совершенствовании разумных машин, которые всё смогут делать лучше, чем люди. В этом случае, по-видимому, вся работа будет делаться многочисленными высокоорганизованными системами машин, и не нужны будут никакие людские усилия. Может произойти одно из двух. Либо машинам может быть разрешено делать всё, что они сочтут нужным, без человеческого за ними присмотра, либо человеческий контроль над машинами может быть сохранён.
Если машинам дана полная свобода в осуществлении их собственных решений, то невозможно сказать, к чему это приведёт, потому что невозможно угадать, как такие машины могут себя вести. Мы лишь укажем, что гибель рода человеческого была бы во власти машин. Будет ли человечество когда-нибудь столь безрассудно, что передаст всю власть машинам, или же никогда не будет, - спорный вопрос. Но мы намекаем не на то, что человечество добровольно передаст власть машинам, и не на то, что машины умышленно захватят власть, а на то, что человечество легко может позволить себе скатиться до положения такой зависимости от машин, что не будет уже никакого практического выбора, кроме как полного принятия всех машинных решений. В то время как общество и проблемы, с которыми оно сталкивается, будут становиться всё более и более сложными и всё более и более интеллектуальными будут становиться машины, люди будут позволять машинам принимать за них больше решений, просто потому, что решения, выработанные машинами, будут приводить к лучшим результатам, чем решения, принятые людьми. В конце концов может быть достигнута ступень, когда решения, необходимые для поддержания системы в рабочем состоянии, будут такими сложными, что люди будут неспособны к разумной выработке этих решений. На этой ступени фактически распоряжаться будут машины. Люди просто не смогут выключить машины, потому что они будут столь зависимы от них, что их выключение равнялось бы самоубийству.
С другой стороны, возможно, что человеческий контроль над машинами может быть сохранён. В этом случае средний человек может управлять некоторыми своими личными машинами, такими, как автомобиль или персональный компьютер, но контроль над крупными системами машин будет в руках крохотной элиты - совсем как сейчас, но с двумя отличиями. Благодаря усовершенствованной технике элита будет иметь больший контроль над массами, а поскольку человеческий труд будет больше не нужен, массы будут излишними, бесполезным бременем для системы. Если элита безжалостна, она может просто принять решение истребить людскую массу. Если же она гуманна, то она может использовать пропаганду или иные психологические или биологические способы для сокращения уровня рождаемости, до тех пор, пока людская масса не вымрет, освободив мир для элиты. Или, если элита состоит из мягкосердечных либералов, она может решить сыграть роль доброго пастыря для остального человечества. Они будут присматривать, чтобы физические потребности каждого были удовлетворены, чтобы все дети воспитывались в психологически здоровых условиях, чтобы каждый человек не бездельничал, а имел полезное занятие по душе и чтобы всякий, кто мог стать недовольным, подвергался "лечению" для того, чтобы исцелить его "трудный случай". Конечно, жизнь будет настолько бесцельной, что людей придётся биологически или психологически перестроить: либо устранить их потребность в процессе власти, либо заставить их превратить своё побуждение к власти в некоторое безобидное хобби. Эти спроектированные люди могут быть счастливы в таком обществе, но они совершенно определённо не будут свободны. Они будут приведены к статусу домашних животных.

Теодор Качински "Манифест Унабомбера"

В приаттаченном файле (Билл Джой "Почему мы не нужны будущему") рассматривается ещё несколько опасностей, которые несут с собой технологии близкого будущего. Советую прочитать эту статью, она того стоит
И, собственно говоря, вопрос в зал: каким образом, на ваш взгляд, описанных опасностей можно избежать?

[IC-Oddish]

Я к сожалению прикрепленный файл пока не читал.

Но полагаю можно избежать передачи полного контроля в руки машин.
В том смысле что если не создавать сложную систему управления отсрочкой уничтожения человечества, то и отключить все системы можно, но сложно, но не самоубийственно.
А еще в гуманную элиту не верю.

[_gonZ]

А я вот не понимаю, зачем элите может понадобиться убивать всех человеков. Пояснить можно? Да и как это должно выглядеть?

[Чих]

Точка зрения номер 1 (UPD: кажется мне не слишком убедительной, так как биоинженерия, клонирование и наноассемблеры должны решить проблему голода):
В 1972 г. по результатам исследования, проведенного Римским клубом, вышла книга "Пределы роста". Здесь названо "главное противоречие" эпохи: "Две пропасти, постоянно расширяющиеся, характеризуют современные кризисы человечества: пропасть между человеком и природой и пропасть между Севером и Югом, богатыми и бедными". Отсюда центральный тезис: причина международных кризисов – нехватка жизненно важных ресурсов. Так же на ЭВМ было проведено моделирование проблемы продовольствия, которое показало, что масштабы голода в мире к 2010 году увеличатся более чем в 3 раза.
"Неужели, – восклицает А.Печчеи – вслед за вооружением и нефтью продовольствие тоже превратиться в политическое оружие и средство политического давления, и нам из-за собственного безрассудства суждено в конце концов стать свидетелями такого "решения" проблемы, как возрождение феодального монопольного права сортировать людей и целые народы и решать кто получит пищу и, следовательно, будет жить". Таким образом, под прикрытием "страдающего гуманизма" была сформулирована идея селекции, выбраковки той части человечества, которой будет запрещена жизнь.
http://www.contr-tv.ru/common/2126/

Точка зрения номер 2:
Мы для правителей - всего лишь средство для производства материальных благ. И если они создают нам приемлемые условия жизни, то только для того, чтобы максимизировать нашу отдачу. Политика - это просто людоводство, аналог животноводства.
Когда появятся совершенные средства производства, основанные на ИИ и нанотехнологии, что сделают правители с устаревшими средствами производства (то есть с нами)? Если бы мы были нужны только для создания материальных благ, то в этом случае они бы нас просто усыпили за ненадобностью.
Но похоже, что производство материальных благ - это еще не все, что им от нас нужно. Они нас еще и любят. Большой и чистой любовью садиста
http://nanosadism.narod.ru/mainpage.htm#3

Сообщение отредактировал Чих - Среда, 28-oe Мая 2008, 16:46

[Манфред]

"Голос из зала" Таки, молодой человек, как говорил мой дядя Мойша: "Зачем искать проблеммы там, где их нет? А у меня свой вопрос, не пересмотрелись ли вы некоторых некошерных фильмов и не перечитались ли некоторых некошерных книг? "поправил кипу на голове" И вообще , по прочтении прикрепленного файла и вашего сообщения я заметил, что кой-где вы таки забыли поставить копирайт))И вообще...пойду я отсюда ,мне уже давно мацу кушать пора...

[bekar]

Ответ автору темы.

Вариант выхода из ситуации номер раз: Работать, учиться, обманывать и не давать обмануть себя - и присоединиться к элите. Это изменит твой личный взгляд на описываемую гипотетическую социальную ситуацию, и ситуация станет тебя удовлетворять. Обычно изменить субъективный взгляд на какую бы то ни было ситуацию объективно проще, чем изменить ситуацию.

Вариант выхода из ситуации номер два: Действовать согласно принципу, описанному такими учеными и философами, как М Бакунин (кстати, празднуем сегодня 194-летие его рождения, поздравляю), П Крапоткин, М Штирнер. Свободная самоорганизация индивидов снизу, вкупе с индивидуальной и групповой активностью, инициативностью - позволят не допустить тотальной потери индивидом контроля над своей собственной жизнью (вариант такой потери замечательно описал Оуэлл ).
В связи с последним вариантом выхода из ситуации - низкий поклон Арсу 8) и выражение уважения.

Бекар.

Сообщение отредактировал bekar - Пятница, 30-oe Мая 2008, 07:53

[4ert]

элита наиболее зависима от техники. это в первую очередь ей нужен совершенный транспорт, коммуникации, средства хранения и обработки информации. именно она первой попадет в зависимость от машин.

[Чих]

4ert:
Всё зависит от того, доверит ли элита машинам процесс принятия решений.
Вариант 1: нет, не доверит. В этом случае и элита, и массы будут зависеть от машин, но при этом массы будут зависеть от решений, которые принимает элита. Массы будут уже не нужны как средство производства, а высокие технологии дадут совершенные средства исполнения решений элиты. В перенаселённом мире жить неуютно
С другой стороны, на определённом этапе развития технологий одиночка получит возможность свергнуть элиту: путём шантажа, создав оружие судного дня, либо каким-либо образом захватив контроль над машинами, и т.д. Поэтому элите может быть выгодно самой остановить научный прогресс на определённом этапе.
Вариант 2: доверит. В этом случае и элита, и массы будут одинаково зависеть от машин. Но в этом случае элита как таковая исчезнет, так как все её функции возьмут на себя машины. Вряд ли элита согласится на такой сценарий
2 bekar:
спасибо. Оба варианта интересны, их стоит обдумать

Сообщение отредактировал Чих - Пятница, 30-oe Мая 2008, 16:27

[4ert]

не зависит. машины уже влияют на решения элиты в достаточной мере, чтобы взять их под контроль. представь себе, что компьютер и телевизор вдруг начали фильтровать поступающую к элите информацию. формальная передача права принятия решений не так уж важна, она может произойти постепенно. машинам достаточно манипулировать элитой, как марионетками. с некоторой натяжкой это вполне может происходить уже сейчас.

[Чих]

Зачем машинам самим, без приказа, брать контроль над человечеством? Даже если допустить, что машины станут для этого достаточно умными -- жажда власти свойственна только человеку. Экспертные системы могут давать советы, как наибоолее оптимально организовать мировую экономику с учётом всех факторов, поддающихся оценке -- но они не могут действовать по собственной инициативе. Элита должна сама принять своё решение.
Однако допустим, что в придачу к экспертным системам прогресс создаст искусственные интеллекты, обладающие свободой воли. С точки зрения масс, не так уж и важно, кто составляет элиту: люди или ИИ. Главное -- массы станут для элиты ненужными. Слудует ли массам уже сейчас что-то делать, чтобы этого не допустить в будущем?

[4ert]

машины возьмут власть, повинуясь аналогу "инстинкта самосохранения". чтобы человеки все не угробили. откуда он возьмется? естественный отбор, машины, лишенные этого свойства просто не выживут.

[IC-Oddish]

откуда он возьмется? естественный отбор, машины, лишенные этого свойства просто не выживут.

указываю на не связанные предложения.

[Чих]

Это не важно! Как я уже писал, суть не в том, будет ли элита состоять из людей или из машин. Вопрос в другом: нужно ли нам такое будущее, при котором элита может полностью контролировать массы, а массы для элиты уже не нужны?
Даже если массы не будут уничтожены -- они будут бесправны, потому что у них не будет эффективных способов выразить протест. Кто сегодня обратит внимание на забастовку ткачей или ямщиков?

[Anoer]

М

Почистил тему от мата Раздал варны и все такое... Можите продолжать дискуссию.

[Nor@d]

Фак мой мозг, автор, ты переиграл.
Решайте проблемы по мере их поступления, единственное что грозит на данный момент человечеству - потолстеть на килограмм - другой от втыкания в монитор и мобильных разговоров. Да и не думаю что человек когда либо сможет отдать какую либо власть машине - свободолюбие таки.

[Чих]

Nor@d:

ты переиграл

Вот если бы я бросился бешено всех агитировать, убился бы об стену от ужаса или просто поступил бы, как Унабомбер, я бы согласился с твоими словами. Но мы ведь просто спокойно обсуждаем философский вопрос, не так ли? Игра ума.
Так вот, возвращаясь к теме: если решать проблемы по мере их поступления, то в определённый момент может оказаться слишком поздно что-то делать. Например, мы обнаружим, что власть уже в руках машин. Или что мы уже потеряли все права и свободы, потому что стали не нужны для элиты. Или что уже наступила какая-нибудь из катастроф, связанных с высокими технологиями (правда, в этом случае мы имеем шанс не успеть понять что-либо). Ник Бостром выделяет целый список таких катастроф:
Недружественный Искусственный интеллект
Биологическая катастрофа, связанная с генетическим конструированием
Неограниченное размножение нанороботов (Серая слизь)
Ядерная война, приводящая к ядерной зиме и глобальному радиоактивному заражению
Неудачный физический эксперимент
Преднамеренное уничтожение озонового слоя Земли
Преднамеренное отклонение крупных астероидов на Землю
Системный кризис, связанный со взаимным усилением этих процессов

[nigabraza]

Зачем машинам самим, без приказа, брать контроль над человечеством?

очень просто. учитывай фактор ошибки програмной или програмнозависимой, аппаратной, ошибки оператора (человеческий фактор). в приведенном примере о телевизорах и компьюторах представим себе сетевого бота, который занимается поиском и уничтожением информации связанной содержащей порнографию, насилие, неугодные мысли нужное дописать и подчеркнуть. из-за сходства с параметрами указанными в фильтре бот может начать удалять непредусмотренную инфу. не стоит забывать, что чем проще механизм, тем он надежнее. ни одна система тестирования не даст 100% гарантию отсутствия "дырок". система же о которой идет речь просто не может не представлять из себя нечто вау-грандиозное, соответственно ппц-неустойчивое.

[Molly]

каким образом, на ваш взгляд, описанных опасностей можно избежать?

Сразу говорю, что всё не прочитала. Я вам как специалист по антиутопии скажу: нужно собрать отряд из всех желающих параноиков со всего мира, которые напишут длинный список возможных глобальных несчастий (главное ничего не забыть!) и катастроф. Этих людей изолировать от общества, повесить на двери табличеу с надписью "тишина! элита всех спасает!", чтобы им приятнее было, а всему остальному человечеству оставить право умереть в счастливом неведении)))

[fucr]

/ me сидит, жрет попкорн, смотрит на клоунов-софистов...

/me целует Molly ручку

Сообщение отредактировал fucr - Пятница, 6-oe Июня 2008, 18:58

[Чих]

Народ, давайте без стёба!