Сперва давайте примем без доказательства, что компьютерщики преуспеют в совершенствовании разумных машин, которые всё смогут делать лучше, чем люди. В этом случае, по-видимому, вся работа будет делаться многочисленными высокоорганизованными системами машин, и не нужны будут никакие людские усилия. Может произойти одно из двух. Либо машинам может быть разрешено делать всё, что они сочтут нужным, без человеческого за ними присмотра, либо человеческий контроль над машинами может быть сохранён.
Если машинам дана полная свобода в осуществлении их собственных решений, то невозможно сказать, к чему это приведёт, потому что невозможно угадать, как такие машины могут себя вести. Мы лишь укажем, что гибель рода человеческого была бы во власти машин. Будет ли человечество когда-нибудь столь безрассудно, что передаст всю власть машинам, или же никогда не будет, - спорный вопрос. Но мы намекаем не на то, что человечество добровольно передаст власть машинам, и не на то, что машины умышленно захватят власть, а на то, что человечество легко может позволить себе скатиться до положения такой зависимости от машин, что не будет уже никакого практического выбора, кроме как полного принятия всех машинных решений. В то время как общество и проблемы, с которыми оно сталкивается, будут становиться всё более и более сложными и всё более и более интеллектуальными будут становиться машины, люди будут позволять машинам принимать за них больше решений, просто потому, что решения, выработанные машинами, будут приводить к лучшим результатам, чем решения, принятые людьми. В конце концов может быть достигнута ступень, когда решения, необходимые для поддержания системы в рабочем состоянии, будут такими сложными, что люди будут неспособны к разумной выработке этих решений. На этой ступени фактически распоряжаться будут машины. Люди просто не смогут выключить машины, потому что они будут столь зависимы от них, что их выключение равнялось бы самоубийству.
С другой стороны, возможно, что человеческий контроль над машинами может быть сохранён. В этом случае средний человек может управлять некоторыми своими личными машинами, такими, как автомобиль или персональный компьютер, но контроль над крупными системами машин будет в руках крохотной элиты - совсем как сейчас, но с двумя отличиями. Благодаря усовершенствованной технике элита будет иметь больший контроль над массами, а поскольку человеческий труд будет больше не нужен, массы будут излишними, бесполезным бременем для системы. Если элита безжалостна, она может просто принять решение истребить людскую массу. Если же она гуманна, то она может использовать пропаганду или иные психологические или биологические способы для сокращения уровня рождаемости, до тех пор, пока людская масса не вымрет, освободив мир для элиты. Или, если элита состоит из мягкосердечных либералов, она может решить сыграть роль доброго пастыря для остального человечества. Они будут присматривать, чтобы физические потребности каждого были удовлетворены, чтобы все дети воспитывались в психологически здоровых условиях, чтобы каждый человек не бездельничал, а имел полезное занятие по душе и чтобы всякий, кто мог стать недовольным, подвергался "лечению" для того, чтобы исцелить его "трудный случай". Конечно, жизнь будет настолько бесцельной, что людей придётся биологически или психологически перестроить: либо устранить их потребность в процессе власти, либо заставить их превратить своё побуждение к власти в некоторое безобидное хобби. Эти спроектированные люди могут быть счастливы в таком обществе, но они совершенно определённо не будут свободны. Они будут приведены к статусу домашних животных.



В приаттаченном файле (Билл Джой "Почему мы не нужны будущему") рассматривается ещё несколько опасностей, которые несут с собой технологии близкого будущего. Советую прочитать эту статью, она того стоит
И, собственно говоря, вопрос в зал: каким образом, на ваш взгляд, описанных опасностей можно избежать?

Я к сожалению прикрепленный файл пока не читал.

Но полагаю можно избежать передачи полного контроля в руки машин.
В том смысле что если не создавать сложную систему управления отсрочкой уничтожения человечества, то и отключить все системы можно, но сложно, но не самоубийственно.
А еще в гуманную элиту не верю.

А я вот не понимаю, зачем элите может понадобиться убивать всех человеков. Пояснить можно? Да и как это должно выглядеть?

Точка зрения номер 1 (UPD: кажется мне не слишком убедительной, так как биоинженерия, клонирование и наноассемблеры должны решить проблему голода):
В 1972 г. по результатам исследования, проведенного Римским клубом, вышла книга "Пределы роста". Здесь названо "главное противоречие" эпохи: "Две пропасти, постоянно расширяющиеся, характеризуют современные кризисы человечества: пропасть между человеком и природой и пропасть между Севером и Югом, богатыми и бедными". Отсюда центральный тезис: причина международных кризисов – нехватка жизненно важных ресурсов. Так же на ЭВМ было проведено моделирование проблемы продовольствия, которое показало, что масштабы голода в мире к 2010 году увеличатся более чем в 3 раза.
"Неужели, – восклицает А.Печчеи – вслед за вооружением и нефтью продовольствие тоже превратиться в политическое оружие и средство политического давления, и нам из-за собственного безрассудства суждено в конце концов стать свидетелями такого "решения" проблемы, как возрождение феодального монопольного права сортировать людей и целые народы и решать кто получит пищу и, следовательно, будет жить". Таким образом, под прикрытием "страдающего гуманизма" была сформулирована идея селекции, выбраковки той части человечества, которой будет запрещена жизнь.
http://www.contr-tv.ru/common/2126/

Точка зрения номер 2:
Мы для правителей - всего лишь средство для производства материальных благ. И если они создают нам приемлемые условия жизни, то только для того, чтобы максимизировать нашу отдачу. Политика - это просто людоводство, аналог животноводства.
Когда появятся совершенные средства производства, основанные на ИИ и нанотехнологии, что сделают правители с устаревшими средствами производства (то есть с нами)? Если бы мы были нужны только для создания материальных благ, то в этом случае они бы нас просто усыпили за ненадобностью.
Но похоже, что производство материальных благ - это еще не все, что им от нас нужно. Они нас еще и любят. Большой и чистой любовью садиста
http://nanosadism.narod.ru/mainpage.htm#3

"Голос из зала" Таки, молодой человек, как говорил мой дядя Мойша: "Зачем искать проблеммы там, где их нет? А у меня свой вопрос, не пересмотрелись ли вы некоторых некошерных фильмов и не перечитались ли некоторых некошерных книг? "поправил кипу на голове" И вообще , по прочтении прикрепленного файла и вашего сообщения я заметил, что кой-где вы таки забыли поставить копирайт))И вообще...пойду я отсюда ,мне уже давно мацу кушать пора...

Ответ автору темы.

Вариант выхода из ситуации номер раз: Работать, учиться, обманывать и не давать обмануть себя - и присоединиться к элите. Это изменит твой личный взгляд на описываемую гипотетическую социальную ситуацию, и ситуация станет тебя удовлетворять. Обычно изменить субъективный взгляд на какую бы то ни было ситуацию объективно проще, чем изменить ситуацию.

Вариант выхода из ситуации номер два: Действовать согласно принципу, описанному такими учеными и философами, как М Бакунин (кстати, празднуем сегодня 194-летие его рождения, поздравляю), П Крапоткин, М Штирнер. Свободная самоорганизация индивидов снизу, вкупе с индивидуальной и групповой активностью, инициативностью - позволят не допустить тотальной потери индивидом контроля над своей собственной жизнью (вариант такой потери замечательно описал Оуэлл ).
В связи с последним вариантом выхода из ситуации - низкий поклон Арсу 8) и выражение уважения.

Бекар.

элита наиболее зависима от техники. это в первую очередь ей нужен совершенный транспорт, коммуникации, средства хранения и обработки информации. именно она первой попадет в зависимость от машин.

4ert:
Всё зависит от того, доверит ли элита машинам процесс принятия решений.
Вариант 1: нет, не доверит. В этом случае и элита, и массы будут зависеть от машин, но при этом массы будут зависеть от решений, которые принимает элита. Массы будут уже не нужны как средство производства, а высокие технологии дадут совершенные средства исполнения решений элиты. В перенаселённом мире жить неуютно
С другой стороны, на определённом этапе развития технологий одиночка получит возможность свергнуть элиту: путём шантажа, создав оружие судного дня, либо каким-либо образом захватив контроль над машинами, и т.д. Поэтому элите может быть выгодно самой остановить научный прогресс на определённом этапе.
Вариант 2: доверит. В этом случае и элита, и массы будут одинаково зависеть от машин. Но в этом случае элита как таковая исчезнет, так как все её функции возьмут на себя машины. Вряд ли элита согласится на такой сценарий
2 bekar:
спасибо. Оба варианта интересны, их стоит обдумать

не зависит. машины уже влияют на решения элиты в достаточной мере, чтобы взять их под контроль. представь себе, что компьютер и телевизор вдруг начали фильтровать поступающую к элите информацию. формальная передача права принятия решений не так уж важна, она может произойти постепенно. машинам достаточно манипулировать элитой, как марионетками. с некоторой натяжкой это вполне может происходить уже сейчас.

Зачем машинам самим, без приказа, брать контроль над человечеством? Даже если допустить, что машины станут для этого достаточно умными -- жажда власти свойственна только человеку. Экспертные системы могут давать советы, как наибоолее оптимально организовать мировую экономику с учётом всех факторов, поддающихся оценке -- но они не могут действовать по собственной инициативе. Элита должна сама принять своё решение.
Однако допустим, что в придачу к экспертным системам прогресс создаст искусственные интеллекты, обладающие свободой воли. С точки зрения масс, не так уж и важно, кто составляет элиту: люди или ИИ. Главное -- массы станут для элиты ненужными. Слудует ли массам уже сейчас что-то делать, чтобы этого не допустить в будущем?

машины возьмут власть, повинуясь аналогу "инстинкта самосохранения". чтобы человеки все не угробили. откуда он возьмется? естественный отбор, машины, лишенные этого свойства просто не выживут.

указываю на не связанные предложения.

Это не важно! Как я уже писал, суть не в том, будет ли элита состоять из людей или из машин. Вопрос в другом: нужно ли нам такое будущее, при котором элита может полностью контролировать массы, а массы для элиты уже не нужны?
Даже если массы не будут уничтожены -- они будут бесправны, потому что у них не будет эффективных способов выразить протест. Кто сегодня обратит внимание на забастовку ткачей или ямщиков?

М

Почистил тему от мата Раздал варны и все такое... Можите продолжать дискуссию.

Фак мой мозг, автор, ты переиграл.
Решайте проблемы по мере их поступления, единственное что грозит на данный момент человечеству - потолстеть на килограмм - другой от втыкания в монитор и мобильных разговоров. Да и не думаю что человек когда либо сможет отдать какую либо власть машине - свободолюбие таки.

Nor@d:

Вот если бы я бросился бешено всех агитировать, убился бы об стену от ужаса или просто поступил бы, как Унабомбер, я бы согласился с твоими словами. Но мы ведь просто спокойно обсуждаем философский вопрос, не так ли? Игра ума.
Так вот, возвращаясь к теме: если решать проблемы по мере их поступления, то в определённый момент может оказаться слишком поздно что-то делать. Например, мы обнаружим, что власть уже в руках машин. Или что мы уже потеряли все права и свободы, потому что стали не нужны для элиты. Или что уже наступила какая-нибудь из катастроф, связанных с высокими технологиями (правда, в этом случае мы имеем шанс не успеть понять что-либо). Ник Бостром выделяет целый список таких катастроф:
Недружественный Искусственный интеллект
Биологическая катастрофа, связанная с генетическим конструированием
Неограниченное размножение нанороботов (Серая слизь)
Ядерная война, приводящая к ядерной зиме и глобальному радиоактивному заражению
Неудачный физический эксперимент
Преднамеренное уничтожение озонового слоя Земли
Преднамеренное отклонение крупных астероидов на Землю
Системный кризис, связанный со взаимным усилением этих процессов

очень просто. учитывай фактор ошибки програмной или програмнозависимой, аппаратной, ошибки оператора (человеческий фактор). в приведенном примере о телевизорах и компьюторах представим себе сетевого бота, который занимается поиском и уничтожением информации связанной содержащей порнографию, насилие, неугодные мысли нужное дописать и подчеркнуть. из-за сходства с параметрами указанными в фильтре бот может начать удалять непредусмотренную инфу. не стоит забывать, что чем проще механизм, тем он надежнее. ни одна система тестирования не даст 100% гарантию отсутствия "дырок". система же о которой идет речь просто не может не представлять из себя нечто вау-грандиозное, соответственно ппц-неустойчивое.

Сразу говорю, что всё не прочитала. Я вам как специалист по антиутопии скажу: нужно собрать отряд из всех желающих параноиков со всего мира, которые напишут длинный список возможных глобальных несчастий (главное ничего не забыть!) и катастроф. Этих людей изолировать от общества, повесить на двери табличеу с надписью "тишина! элита всех спасает!", чтобы им приятнее было, а всему остальному человечеству оставить право умереть в счастливом неведении)))

/ me сидит, жрет попкорн, смотрит на клоунов-софистов...

/me целует Molly ручку

Народ, давайте без стёба!

"незаметно вытащил горсть поп-корна у Fucr"а" Таки молодой человек .я же вам как-то говорил, ваши идеи и фантазии мнимые, придуманные каким-то антисемитом, все помыслы которого, к тому же , еще и белы ,как капюшон куклуксклановца. Почему? ДА потому ,как никаких разумных доказательств этому нет. Стараюсь, избежать .как можно нелестных, эпитетов, по прочине пятницы - шаббат все-таки, но таки скажите мне, молодой человек , вы верите в творческий потенциал своего калькулятора?))))))))))) Или в то ,чт оон может завоевать мир?))) Да проклянет YHWH некошерное производство режиссеров Вачовски, и тех ,кто пересмотрел их фильмов)))

Чих, это не стёб. Если машины соберутся захватить мир, то мы, как рядовые граждане, ничего сделать не успеем. А если у нас появится хитрая тоталитарная элита, это будет значить, что мы уже опоздали с дискуссиями.

Molly
так ведь он как бы и говорит, что может надо что-то сделать чтобы не опоздать с дискуссиями?
ну то есть он конечно не говорит, а спрашивает каких можно избежать.

вы если что всех можно избежать по причине их фантасмагоричности так и скажите.

А что будет, если кастрюля откажется варить суп и начнёт кидаться крышкой в бабушку? Это ведь катастрофа! Как же можно! Мы, люди, так зависимы от кастрюль!
А если, скажем, все двери превратятся в гигантские рты и начнут жрать всех, кто через них проходит?
Идея насчёт бунтующих компьютеров - это примерно из той же серии.

"Пределы роста" устарели лет эдак на тридцать.

А я чих и не стебался. Я конечно понял откуда тут ноги растут, но...

Если железяка додумается как организовать собственный диктат, то она уж явно додумается и до того, как воплотить его так, чтобы люди об этом не узнали.

4 Чих

Наука и Инновации, и только они, на данный момент обеспечивают, возможность поддержания современного потребления и темпов развития народонаселения (смотря для какой страны). В частности развитие новых технологий. Процесс формирования гипотезы - ново творения в науке на данный момент определен, как нечто неалгоритмизируемое и иррациональное. Вот и возникает вопрос о возможности машины, по сути создаваемой как алгоритмизируемый объект, на такое творчество. А при отрицательном ответе - вопрос о возможности отказа от научного прогресса "разумной машины". Таким образом - сможет ли машина отказаться от своего иррационального сообщника.

2Molly, fucr и Phoenix: не беретесь вникнуть в вопрос - пожалуйста, не трудитесь и писать

Теперь серьезно. Господа, создание разумных машин неизбежно, рано или поздно. Почему это возможно? Да потому, что человек всегда сможет повторить то, что сделала природа - может, не так экономично, но чистые результаты будут выше. Например, самолет летает быстрее любого живого организма. В конце концов, мы создадим искусственных людей, которые будут иметь искусственные эмоции (без них нельзя - это основной механизм регуляции поведения и обучения), будут думать намного эффективнее людей и эффективнее обучаться. Прототипы были созданы еще в 60-х годах - читайте книги Амосова.
Для чего будут созданы искусственные люди? А для освоения того, что естественным освоить сложно - космоса, подводного и подземного пространства. Может быть, и для военных целей. Так что будут созданы непременно. А вот потом они, как более умные, легко добьются равных прав, а в конце концов и власть захватят.
И меня это совершенно не пугает. Человечество позволило себе уничтожить или поработить почти всех животных под предлогом того, что мы "разумны", а они нет - и следуя той же логике, более разумная цивилизация будет иметь полное право охотиться на нас, разводить в качестве домашних питомцев, и так далее. Избежать этого невозможно, да и не нужно. Претендовать на то, что именно люди являются абсолютным венцом творения - это глупый и самодовольный антропоцентризм.

создается такое впечатление что некоторые тут не читали головной пост темы. автор вроде бы как подчеркнул гипотетичность своих рассуждений и указал на ряд допущений, которые принмаются без дополнительных оговорок. а если у кого-то есть сомения в целесообразности таких рассуждений, то
безусловно переливать о том играет ли Бог в кости или о связи Кинга и Лавкрафта - значительно более целесообразное занятие.
выйдите и зайдите еще раз.

Я не верю, что можно создать абсолютно автономный самостоятельный машинный комплекс, могущий все что захочет. Без армии технологов, конструкторов, дизайнеров это будет всего лишь груда металла.

ИИ даже в самом полном варианте может лишь анализировать. Для управления другими машинами нужна некая унификация всего и вся, но электроника ни разу не стремится к этому. Да и как можно переносить мотивы человека на ИИ, если для этого этот самый ИИ должен повторить все глубину человека?

Фишка с элитой вполне более реалистична. Только никто не будет избавляться от низов, т.к. в этом случае теряется смысл элиты. Властное чувство требует наличие приниженных,В противном случае элита перестает быть самой собой.

Решение приведенных угроз - создание децентрализованного самоорганизованного общества без верхов и низов. Это самая лучшая гарантия того, что хай-тэк не будет использован не по назначению.

2 Phoenix


Прогнозы оказались завышенными.
Но тенденция осталась прежней: ухудшение планетарной экологии и увеличение социальной пропасти на плоскостях верхи-низи и метрополия-периферия.

вполне достаточно встроиться в обеспечение жизнедеятельности существующего общества. и не создавать проблем до поры до времени.
я конечно понимаю, что некоторые тут терминаторов обсмотрелись и по-другому ИИ не представляют. а ему совершенно не нужно обосабливаться и в такой форме существовать. пример: организм человека состоит из клеток. человек разумен, а клетки нет. аналогия: сеть состоит из компьютеров.

Тут патрэбна адказаць на некалькі пытанняў : "Трэба, што-небудзь рабіць, каб робаты не замянілі людзей?", і калі адказ на першае пытанне станоўчы "Што рабіць, каб робаты не замянілі людзей?". Калі робаты будуць больш прыдатныя для жыцця(больш і лепш думаць і самаарганізоўвацца...), тады, вядома, яны змогуць знішчыць людзей і застацца самім. Такім чынам эвалюцыя пойдзе далей і застанецца лепшы від. Уявіце сабе сітуацыю, калі малпачкі ў свой час зразумелі, што калі яны злезуць з дрэва атрымаецца чалавек, які іх загоніць пасля назад на дрэва. Яны б таксама пачалі б склікаць сходы, выдалі б пастанаўленне: "з дрэва не злазіць!". І такім бы чынам затрымалі эвалюцыю і чалавека не было б. Тое ж самае спрабаваў зрабіць Унабомбер. Не лічу гэта правільным(лепш бы гапам розным дасылаў бомбы). Так што трэба працягваць рабіць навуковыя даследванні, калі гэта прыядзе да таго, што робаты стануць разумнымі і выйграць вайну ў людзей - выдатна чалавек сам змог дапамагчы эвалюцыі прыдумаць лепшы від, калі вайну выйграюць людзі - гэта азначае, што яны прайшлі паспяхова яшчэ адно выпрабаванне, што таксама нядрэнна. А вось эфектыўнага адказа на другое пытанне, баюсь, што няма, як і неабходнасці яго шукаць.

По большому счёту, вся энта ваша Сеть существует для передачи "нервных импульсов", производимых человеком. Убираем человека - всё сразу останавливается. Тут же.

А прежде, чем наступят разумные машины - своё слово скажут трансгуманисты и прочие киборги. Возможно развитие в варианте "Вакуумных цветов" Суэнвика. Скорее всего, конфликт машины и человека попросту не состоится.
А бунтующих роботов можно предполагать сколько угодно. Как и zombie outbreak. Вероятность обоих событий в сколько-нибудь обозримом/предсказуемом будущем примерно одинаково смехотворна.

Ars, раньше сами друг друга передушим?

Напоминаю: власть машин -- не единственная угроза высоких технологий
Ars: не успеют прежде чем что?

Не знаю, в тему ли, но, по-моему, опасность высоких технологий не в появлении компьютера-диктатора.
Опасность в чрезмерной зависимости современного человека от современных удобств, таких как горячая вода, унитаз, электричество, телевидение, интернет и т.п. Дальше, я так думаю, будут еще круче.
уже непонятно , чтобы мы делали без мобильников (лет 5 - 6 назад считали , что новорусы с жиру бесятся). у америкосов там еще круче (если ч-з микроволновку можно в и-нет залезть), у них там вааще все центрально, компьютеризированно и круто.
У человека высвобождается столько свободного времени, и на что он его тратит?
А чем чреват выход хотя бы одной из "систем жизнеудобстваобеспечения"? Ну хотя бы электричества?
А (страшный сон большинства людей) не дай бог, антенна выйдет из строя?
Или если у человека отнять одно из удобств, а потом предложить вернуть его взамен на какую-нибудь из человеческих свобод, то что он выберет?
И еще вот что...
с прогрессом и введением новых технологий, призванных помочь человеку и избавить его от нудной рутинной работы не выйдет ли так, что человек без "технологических костылей" уже не сможет сам решить задачу? и не разучится ли человек мыслить логически и аналитически, если всю занудно-рутинную логически-аналитическую работу будет выполнять машина?
А то уже многие перестали пользоваться головой, предпочитая "интуичить", перестали аналитически и критически "пережевывать" полученную информацию.
ну вот, в принципе, и все мои опасения относительно высоких технологий

А што ж можа стаць гэтым хобі? Чым будуць дурыць галаву чалавека, каб "превратить его побуждение к власти в некоторое безобидное хобби"?
Першае, што мне прыйшло ў галаву - футбол(люблю я футбол!) ды іншыя віды спорта. Ніякіх варыянтаў захапіць уладу ў футбольных фанаў няма. Таксама я ведаю, што прыйдзе першым у галаву людзям на гэтым форуме Так вось і атрымліваецца, што нічога прыдумываць не трэба - усё даўно прыдумалі. На прыклад,
"семья, ипотека, котедж и джип,
Ну, и шопинг, рыбалка, футбол для души"
(Телевизор - "Очки")
Таксама усялякія серыялы, рэлігіі... Упэўнены, і вы самі можаце назваць дахалеры ўсялякіх іншых заняткаў.

Усё так за выключэннем таго, што я б не стаў казаць пра гэта ў будучым часе.

Гуглить по словосочетанию "термоядерный синтез".

Арс, можешь мне не верить, в франции ле 7 идут активные работы по создаю такого реактора. Периодически предоставляя результаты работ. Так вот по прогнозам к 213 году реактор заработает. Это я нарыл не в нете. Это инфа из универа, БГУ.

Рабочий термояд - вопрос времени, скорее всего весьма ближайшего будущего. конечно, перед физиками еще стоит ряд проблем, но они неизбежно будут решены. когда именно - вопрос необходимости. имей термоядерный реактор такое же военно-политическое значение, как термоядерная бомба, его бы наверняка уже сделали.
другое дело что революцией внедрение синтеза не станет, его всеобщему использованию неизбежно будет предшествовать длительный переходный период.

да и не термоядом единым жить человечеству. солнечные батареи с приличным КПД позволяющим их эксплуатировать в наших широтах. они пока дороги, так что осталось решить только вопрос с их массовым производством, но такие вопросы человечество уже давно научилось отлично разруливать.


выражаю некоторое недоумение. большинство современных технологических процессов не будет по такой причине переведено на ручную работу из-за ряда условий:
- экстремальные давления и температуры, в которых они протекают.
- запредельное для человека время реакции
- ручные процессы медленны, а время все равно будет дороже энергии
- человек не может обеспечить требуемую точность
- для обеспечения комфортной деятельности человека требуется очень много - освещение, рабочая площадь, санитарная и прочая инфраструктура. все это уж совсем вряд ли будет менее энергоемким.

А что народ думает насчёт развития средств контроля и слежения за обществом?
Т.е. возможно ли построение такого общества где государство контролирует почти каждый шаг человека используя высокие технологии и т.п.?

(Грубо говоря, если каждому прицепят некий чип, который передаёт куда нужно всю информацию о человеке: местонахождение, чем занимается и т.п.
+ наличие видеокамер и подслушивающих ус-в повсюду)

Oliver

А собственно в чем проблема?