Опасность высоких технологий, ваши мысли по этому поводу Опции

[Чих]

Сперва давайте примем без доказательства, что компьютерщики преуспеют в совершенствовании разумных машин, которые всё смогут делать лучше, чем люди. В этом случае, по-видимому, вся работа будет делаться многочисленными высокоорганизованными системами машин, и не нужны будут никакие людские усилия. Может произойти одно из двух. Либо машинам может быть разрешено делать всё, что они сочтут нужным, без человеческого за ними присмотра, либо человеческий контроль над машинами может быть сохранён.
Если машинам дана полная свобода в осуществлении их собственных решений, то невозможно сказать, к чему это приведёт, потому что невозможно угадать, как такие машины могут себя вести. Мы лишь укажем, что гибель рода человеческого была бы во власти машин. Будет ли человечество когда-нибудь столь безрассудно, что передаст всю власть машинам, или же никогда не будет, - спорный вопрос. Но мы намекаем не на то, что человечество добровольно передаст власть машинам, и не на то, что машины умышленно захватят власть, а на то, что человечество легко может позволить себе скатиться до положения такой зависимости от машин, что не будет уже никакого практического выбора, кроме как полного принятия всех машинных решений. В то время как общество и проблемы, с которыми оно сталкивается, будут становиться всё более и более сложными и всё более и более интеллектуальными будут становиться машины, люди будут позволять машинам принимать за них больше решений, просто потому, что решения, выработанные машинами, будут приводить к лучшим результатам, чем решения, принятые людьми. В конце концов может быть достигнута ступень, когда решения, необходимые для поддержания системы в рабочем состоянии, будут такими сложными, что люди будут неспособны к разумной выработке этих решений. На этой ступени фактически распоряжаться будут машины. Люди просто не смогут выключить машины, потому что они будут столь зависимы от них, что их выключение равнялось бы самоубийству.
С другой стороны, возможно, что человеческий контроль над машинами может быть сохранён. В этом случае средний человек может управлять некоторыми своими личными машинами, такими, как автомобиль или персональный компьютер, но контроль над крупными системами машин будет в руках крохотной элиты - совсем как сейчас, но с двумя отличиями. Благодаря усовершенствованной технике элита будет иметь больший контроль над массами, а поскольку человеческий труд будет больше не нужен, массы будут излишними, бесполезным бременем для системы. Если элита безжалостна, она может просто принять решение истребить людскую массу. Если же она гуманна, то она может использовать пропаганду или иные психологические или биологические способы для сокращения уровня рождаемости, до тех пор, пока людская масса не вымрет, освободив мир для элиты. Или, если элита состоит из мягкосердечных либералов, она может решить сыграть роль доброго пастыря для остального человечества. Они будут присматривать, чтобы физические потребности каждого были удовлетворены, чтобы все дети воспитывались в психологически здоровых условиях, чтобы каждый человек не бездельничал, а имел полезное занятие по душе и чтобы всякий, кто мог стать недовольным, подвергался "лечению" для того, чтобы исцелить его "трудный случай". Конечно, жизнь будет настолько бесцельной, что людей придётся биологически или психологически перестроить: либо устранить их потребность в процессе власти, либо заставить их превратить своё побуждение к власти в некоторое безобидное хобби. Эти спроектированные люди могут быть счастливы в таком обществе, но они совершенно определённо не будут свободны. Они будут приведены к статусу домашних животных.

Теодор Качински "Манифест Унабомбера"

В приаттаченном файле (Билл Джой "Почему мы не нужны будущему") рассматривается ещё несколько опасностей, которые несут с собой технологии близкого будущего. Советую прочитать эту статью, она того стоит
И, собственно говоря, вопрос в зал: каким образом, на ваш взгляд, описанных опасностей можно избежать?

[Манфред]

"незаметно вытащил горсть поп-корна у Fucr"а" Таки молодой человек .я же вам как-то говорил, ваши идеи и фантазии мнимые, придуманные каким-то антисемитом, все помыслы которого, к тому же , еще и белы ,как капюшон куклуксклановца. Почему? ДА потому ,как никаких разумных доказательств этому нет. Стараюсь, избежать .как можно нелестных, эпитетов, по прочине пятницы - шаббат все-таки, но таки скажите мне, молодой человек , вы верите в творческий потенциал своего калькулятора?))))))))))) Или в то ,чт оон может завоевать мир?))) Да проклянет YHWH некошерное производство режиссеров Вачовски, и тех ,кто пересмотрел их фильмов)))

[Molly]

Чих, это не стёб. Если машины соберутся захватить мир, то мы, как рядовые граждане, ничего сделать не успеем. А если у нас появится хитрая тоталитарная элита, это будет значить, что мы уже опоздали с дискуссиями.

[IC-Oddish]

Molly
так ведь он как бы и говорит, что может надо что-то сделать чтобы не опоздать с дискуссиями?
ну то есть он конечно не говорит, а спрашивает каких можно избежать.

вы если что всех можно избежать по причине их фантасмагоричности так и скажите.

[Phoenix]

А что будет, если кастрюля откажется варить суп и начнёт кидаться крышкой в бабушку? Это ведь катастрофа! Как же можно! Мы, люди, так зависимы от кастрюль!
А если, скажем, все двери превратятся в гигантские рты и начнут жрать всех, кто через них проходит?
Идея насчёт бунтующих компьютеров - это примерно из той же серии.

"Пределы роста" устарели лет эдак на тридцать.

Сообщение отредактировал Phoenix - Воскресенье, 8-oe Июня 2008, 04:58

[fucr]

А я чих и не стебался. Я конечно понял откуда тут ноги растут, но...

[Parmaith]

Если железяка додумается как организовать собственный диктат, то она уж явно додумается и до того, как воплотить его так, чтобы люди об этом не узнали.

[aXeLl]

4 Чих

Наука и Инновации, и только они, на данный момент обеспечивают, возможность поддержания современного потребления и темпов развития народонаселения (смотря для какой страны). В частности развитие новых технологий. Процесс формирования гипотезы - ново творения в науке на данный момент определен, как нечто неалгоритмизируемое и иррациональное. Вот и возникает вопрос о возможности машины, по сути создаваемой как алгоритмизируемый объект, на такое творчество. А при отрицательном ответе - вопрос о возможности отказа от научного прогресса "разумной машины". Таким образом - сможет ли машина отказаться от своего иррационального сообщника.

[Ector]

2Molly, fucr и Phoenix: не беретесь вникнуть в вопрос - пожалуйста, не трудитесь и писать

Теперь серьезно. Господа, создание разумных машин неизбежно, рано или поздно. Почему это возможно? Да потому, что человек всегда сможет повторить то, что сделала природа - может, не так экономично, но чистые результаты будут выше. Например, самолет летает быстрее любого живого организма. В конце концов, мы создадим искусственных людей, которые будут иметь искусственные эмоции (без них нельзя - это основной механизм регуляции поведения и обучения), будут думать намного эффективнее людей и эффективнее обучаться. Прототипы были созданы еще в 60-х годах - читайте книги Амосова.
Для чего будут созданы искусственные люди? А для освоения того, что естественным освоить сложно - космоса, подводного и подземного пространства. Может быть, и для военных целей. Так что будут созданы непременно. А вот потом они, как более умные, легко добьются равных прав, а в конце концов и власть захватят.
И меня это совершенно не пугает. Человечество позволило себе уничтожить или поработить почти всех животных под предлогом того, что мы "разумны", а они нет - и следуя той же логике, более разумная цивилизация будет иметь полное право охотиться на нас, разводить в качестве домашних питомцев, и так далее. Избежать этого невозможно, да и не нужно. Претендовать на то, что именно люди являются абсолютным венцом творения - это глупый и самодовольный антропоцентризм.

Сообщение отредактировал Ector - Вторник, 10-oe Июня 2008, 10:25

[nigabraza]

создается такое впечатление что некоторые тут не читали головной пост темы. автор вроде бы как подчеркнул гипотетичность своих рассуждений и указал на ряд допущений, которые принмаются без дополнительных оговорок. а если у кого-то есть сомения в целесообразности таких рассуждений, то
безусловно переливать о том играет ли Бог в кости или о связи Кинга и Лавкрафта - значительно более целесообразное занятие.
выйдите и зайдите еще раз.

[Жак]

Я не верю, что можно создать абсолютно автономный самостоятельный машинный комплекс, могущий все что захочет. Без армии технологов, конструкторов, дизайнеров это будет всего лишь груда металла.

ИИ даже в самом полном варианте может лишь анализировать. Для управления другими машинами нужна некая унификация всего и вся, но электроника ни разу не стремится к этому. Да и как можно переносить мотивы человека на ИИ, если для этого этот самый ИИ должен повторить все глубину человека?

Фишка с элитой вполне более реалистична. Только никто не будет избавляться от низов, т.к. в этом случае теряется смысл элиты. Властное чувство требует наличие приниженных,В противном случае элита перестает быть самой собой.

Решение приведенных угроз - создание децентрализованного самоорганизованного общества без верхов и низов. Это самая лучшая гарантия того, что хай-тэк не будет использован не по назначению.

2 Phoenix

"Пределы роста" устарели лет эдак на тридцать.

Прогнозы оказались завышенными.
Но тенденция осталась прежней: ухудшение планетарной экологии и увеличение социальной пропасти на плоскостях верхи-низи и метрополия-периферия.

[4ert]

Я не верю, что можно создать абсолютно автономный самостоятельный машинный комплекс, могущий все что захочет. Без армии технологов, конструкторов, дизайнеров это будет всего лишь груда металла.

вполне достаточно встроиться в обеспечение жизнедеятельности существующего общества. и не создавать проблем до поры до времени.
я конечно понимаю, что некоторые тут терминаторов обсмотрелись и по-другому ИИ не представляют. а ему совершенно не нужно обосабливаться и в такой форме существовать. пример: организм человека состоит из клеток. человек разумен, а клетки нет. аналогия: сеть состоит из компьютеров.

[chrystos]

Тут патрэбна адказаць на некалькі пытанняў : "Трэба, што-небудзь рабіць, каб робаты не замянілі людзей?", і калі адказ на першае пытанне станоўчы "Што рабіць, каб робаты не замянілі людзей?". Калі робаты будуць больш прыдатныя для жыцця(больш і лепш думаць і самаарганізоўвацца...), тады, вядома, яны змогуць знішчыць людзей і застацца самім. Такім чынам эвалюцыя пойдзе далей і застанецца лепшы від. Уявіце сабе сітуацыю, калі малпачкі ў свой час зразумелі, што калі яны злезуць з дрэва атрымаецца чалавек, які іх загоніць пасля назад на дрэва. Яны б таксама пачалі б склікаць сходы, выдалі б пастанаўленне: "з дрэва не злазіць!". І такім бы чынам затрымалі эвалюцыю і чалавека не было б. Тое ж самае спрабаваў зрабіць Унабомбер. Не лічу гэта правільным(лепш бы гапам розным дасылаў бомбы). Так што трэба працягваць рабіць навуковыя даследванні, калі гэта прыядзе да таго, што робаты стануць разумнымі і выйграць вайну ў людзей - выдатна чалавек сам змог дапамагчы эвалюцыі прыдумаць лепшы від, калі вайну выйграюць людзі - гэта азначае, што яны прайшлі паспяхова яшчэ адно выпрабаванне, што таксама нядрэнна. А вось эфектыўнага адказа на другое пытанне, баюсь, што няма, як і неабходнасці яго шукаць.

[Phoenix]

По большому счёту, вся энта ваша Сеть существует для передачи "нервных импульсов", производимых человеком. Убираем человека - всё сразу останавливается. Тут же.

А прежде, чем наступят разумные машины - своё слово скажут трансгуманисты и прочие киборги. Возможно развитие в варианте "Вакуумных цветов" Суэнвика. Скорее всего, конфликт машины и человека попросту не состоится.
А бунтующих роботов можно предполагать сколько угодно. Как и zombie outbreak. Вероятность обоих событий в сколько-нибудь обозримом/предсказуемом будущем примерно одинаково смехотворна.

[Phoenix]

Ars, раньше сами друг друга передушим?

[Чих]

Напоминаю: власть машин -- не единственная угроза высоких технологий
Ars: не успеют прежде чем что?

[Ramirez]

Не знаю, в тему ли, но, по-моему, опасность высоких технологий не в появлении компьютера-диктатора.
Опасность в чрезмерной зависимости современного человека от современных удобств, таких как горячая вода, унитаз, электричество, телевидение, интернет и т.п. Дальше, я так думаю, будут еще круче.
уже непонятно , чтобы мы делали без мобильников (лет 5 - 6 назад считали , что новорусы с жиру бесятся). у америкосов там еще круче (если ч-з микроволновку можно в и-нет залезть), у них там вааще все центрально, компьютеризированно и круто.
У человека высвобождается столько свободного времени, и на что он его тратит?
А чем чреват выход хотя бы одной из "систем жизнеудобстваобеспечения"? Ну хотя бы электричества?
А (страшный сон большинства людей) не дай бог, антенна выйдет из строя?
Или если у человека отнять одно из удобств, а потом предложить вернуть его взамен на какую-нибудь из человеческих свобод, то что он выберет?
И еще вот что...
с прогрессом и введением новых технологий, призванных помочь человеку и избавить его от нудной рутинной работы не выйдет ли так, что человек без "технологических костылей" уже не сможет сам решить задачу? и не разучится ли человек мыслить логически и аналитически, если всю занудно-рутинную логически-аналитическую работу будет выполнять машина?
А то уже многие перестали пользоваться головой, предпочитая "интуичить", перестали аналитически и критически "пережевывать" полученную информацию.
ну вот, в принципе, и все мои опасения относительно высоких технологий

[chrystos]

Или, если элита состоит из мягкосердечных либералов, она может решить сыграть роль доброго пастыря для остального человечества. Они будут присматривать, чтобы физические потребности каждого были удовлетворены, чтобы все дети воспитывались в психологически здоровых условиях, чтобы каждый человек не бездельничал, а имел полезное занятие по душе и чтобы всякий, кто мог стать недовольным, подвергался "лечению" для того, чтобы исцелить его "трудный случай". Конечно, жизнь будет настолько бесцельной, что людей придётся биологически или психологически перестроить: либо устранить их потребность в процессе власти, либо заставить их превратить своё побуждение к власти в некоторое безобидное хобби.

Теодор Качински "Манифест Унабомбера"

А што ж можа стаць гэтым хобі? Чым будуць дурыць галаву чалавека, каб "превратить его побуждение к власти в некоторое безобидное хобби"?
Першае, што мне прыйшло ў галаву - футбол(люблю я футбол!) ды іншыя віды спорта. Ніякіх варыянтаў захапіць уладу ў футбольных фанаў няма. Таксама я ведаю, што прыйдзе першым у галаву людзям на гэтым форуме Так вось і атрымліваецца, што нічога прыдумываць не трэба - усё даўно прыдумалі. На прыклад,
"семья, ипотека, котедж и джип,
Ну, и шопинг, рыбалка, футбол для души"
(Телевизор - "Очки")
Таксама усялякія серыялы, рэлігіі... Упэўнены, і вы самі можаце назваць дахалеры ўсялякіх іншых заняткаў.

Эти спроектированные люди могут быть счастливы в таком обществе, но они совершенно определённо не будут свободны. Они будут приведены к статусу домашних животных.

Усё так за выключэннем таго, што я б не стаў казаць пра гэта ў будучым часе.

[Phoenix]

то очень скоро остро встанет проблема снижения энергоемкости промышленности, а значит будет увеличиваться доля ручного труда.

Гуглить по словосочетанию "термоядерный синтез".

[fucr]

Никто не знает с достоверностью, можно ли эту идею довести до уровня технологии и в какой промежуток времени. Поэтому бесполезно рассматривать эту возможность в прогнозах. Если удастся создать термоядерный реактор с высоким EROEI, то у человечества будет много дешевой энергии, а я лично только порадуюсь.

Арс, можешь мне не верить, в франции ле 7 идут активные работы по создаю такого реактора. Периодически предоставляя результаты работ. Так вот по прогнозам к 213 году реактор заработает. Это я нарыл не в нете. Это инфа из универа, БГУ.

[4ert]

Рабочий термояд - вопрос времени, скорее всего весьма ближайшего будущего. конечно, перед физиками еще стоит ряд проблем, но они неизбежно будут решены. когда именно - вопрос необходимости. имей термоядерный реактор такое же военно-политическое значение, как термоядерная бомба, его бы наверняка уже сделали.
другое дело что революцией внедрение синтеза не станет, его всеобщему использованию неизбежно будет предшествовать длительный переходный период.

да и не термоядом единым жить человечеству. солнечные батареи с приличным КПД позволяющим их эксплуатировать в наших широтах. они пока дороги, так что осталось решить только вопрос с их массовым производством, но такие вопросы человечество уже давно научилось отлично разруливать.

Что касается элит, то очень скоро остро встанет проблема снижения энергоемкости промышленности, а значит будет увеличиваться доля ручного труда.

выражаю некоторое недоумение. большинство современных технологических процессов не будет по такой причине переведено на ручную работу из-за ряда условий:
- экстремальные давления и температуры, в которых они протекают.
- запредельное для человека время реакции
- ручные процессы медленны, а время все равно будет дороже энергии
- человек не может обеспечить требуемую точность
- для обеспечения комфортной деятельности человека требуется очень много - освещение, рабочая площадь, санитарная и прочая инфраструктура. все это уж совсем вряд ли будет менее энергоемким.