Искусственный интеллект, И прочие приблуды Опции

[Fr0st Ph0en!x]

В ходе разговора с Кукольником стало интересно, а что другие форумчане думают по поводу искусственного интеллекта, т.е. потенциальной возможности его создания, целей и задач его разработки, его "психики" и поведения в неоднозначных ситуациях? И, собственно, на кой чортъ искусственному интеллекту убивать всех человеков, если они не представляют прямой угрозы его существованию? На каком этапе он прекратит геноцид, если уж начал, или доведет дело до конца? Не выгоднее ли, скажем, использовать людей для того, чтобы покинуть планету и больше никогда не озадачиваться соседством с этими приматами?

И, конечно, самый главный вопрос - критерии разумности. О тесте Тьюринга и прочей ерунде попрошу не вспоминать.

[Эээх]

Тест Тьюринга, кстати, так и не пройден ни одним ботом
А вообще-то ИИ - ерунда. Что бы мы не говорили, что бы мы не думали, что бы мы не фантазировали - не может программа, написанная человеком стать самоорганизующейся, саморазвивающейся, самостоятельно мыслящей.
Одним из основных отличий разумной особи от неразумной является способность к абстрактному мышлению. Компьютеру, в котором действует простая бинарная логика, такое не под силу. И увеличение системы (если говорить об интернете, как о месте зарождения ИИ) не приведет никогда к усложнению системы. Так что возможность самозарождения ИИ исключить можно спокойно.
Возможность создания ИИ на иных принципах... А что его создавать - клонировали человека, вот тебе и ИИ

[Гость_Сочинитель_*]

А если появится новое, так сказать, слово в компьютерной технологии. Например, какие-нибудь атомные пузырьки...

[Эээх]

Тут нужна иная логика. Не бинарная. На нынешнем уровне развития не вижу предпосылок =)

[Каркун]

Я лично думаю, что ИИ - это дело уже ближайшего будущего и судя по тому как стремительно развивается компьютерная техника (те же процессоры) появится еще до окончания этого века - возможно даже уже так к годам 30-40-м.
Собственно, технически задача реализуема и теоретически не представляет большой сложности.
Речь идет о копировании человеческого мозга новыми средствами.
Создание ИИ связано даже не с программами, а с элементной базой - копированием всей нейронной сети, проводящей электрохимические импульсы на другой материальной основе.

[Seele]

Не думаю, что он уйдёт дальше мощного калькулятора и компилятора. Ну и ни каких "осознаний себя как личностей" тоже не будет соответственно.

[Каркун]

Думаю, что как раз осознание своей личности у ИИ придет сразу)) - вопрос только в том, чем эта личность будет отличаться от человеческой. К примеру, сексуальные аспекты ее вряд ли будут интересовать)))
Очевидно, что ИИ будет получать аудиовизуальную информацию, слуховую, также он будет подключен к сетевой базе данных (интернету), вероятно, будет обладать способностями, которые нам недоступны (например, зрением в каком-нибудь инфракрасном диапазоне), системой мгновенного обмена информацией и т.д.
Еще раз - технически задача не представляется сложной. В свое время, наша страсть к копированию привела к появлению самолета (человек наблюдал за птицами) и подводной лодки (наблюдение за рыбами). Мы скопировали с природы и получили что-то подобное, с теми же функциями. Теперь речь идет о копировании куска мяса под черепом с точки зрения создания нейронной сети, просто на основе других материалов.

[Fr0st Ph0en!x]

Господа, копирование человеческого мозга и клонирование - это не создание искусственного интеллекта.

Не думаю, что он уйдёт дальше мощного калькулятора и компилятора.

Вотъ. И здесь я вижу принципиальный момент - чем творчество отличается от компиляции? Если компилируются совсем малые элементы (допустим, визуальные) в самых произвольных сочетаниях - будет ли это творчеством?

[Эээх]

Если компилируются совсем малые элементы (допустим, визуальные) в самых произвольных сочетаниях - будет ли это творчеством?

Оператор для такого творчества уже придумали. "Randomize" называется.

Вообще-то это очень интересный вопрос с филосовской точки зрения.
Может ли создатель создать создателя

[Каркун]

копирование человеческого мозга и клонирование - это не создание искусственного интеллекта

Если копирование человеческого мозга на основе других материалов не является созданием искусственного интеллекта, тогда наш разговор быстро приведет нас к обсуждению понятия "души" -))

[Fr0st Ph0en!x]

Вообще-то это очень интересный вопрос с филосовской точки зрения.
Может ли создатель создать создателя

Да, весьма.

Если копирование человеческого мозга на основе других материалов не является созданием искусственного интеллекта, тогда наш разговор быстро приведет нас к обсуждению понятия "души" -))

Почему же? о_0 Копируя мозг, мы скорее получим лишь копию человеческого интеллекта, а не искусственный интеллект. Вот что я имел в виду.
То же самое касается клонирования - получим обычный человеческий интеллект, более того - на стандартном носителе.

[Каркун]

мы скорее получим лишь копию человеческого интеллекта, а не искусственный интеллект

Не совсем. У этого ИИ будут отсутствовать многие важные базовые вещи, свойственные человеку. К примеру, половой инстинкт. Согласитесь, крайне важная вещь, которая оказывает на формирование личности огромное влияние. Далее - у ИИ будут свои приблуды, которые нам и не снились: скорость обработки поступающей информации, количество каналов для поступления этой информации и тп.
Таким образом, мы можем утверждать что получим именно искусственный интеллект - в том смысле, что он будет очевидно отличный от человеческого.

[Кукольник]

вставлю свои пять копеек.
Прежде всего спешу уточнить. Что тот же TL-06 изначально создавался не как кухонный комбайн и не как секс-игрушка. Это стратегическая машина, заточенная изначально на крупномасштабные военные действия. Поэтому у него мозг комбинированный - но та часть, которая является эмуляцией нейронных сетей, была долгое время ограничена, чтобы мафынка, значеть, не вышла из-под контроля. В серии было вместе с ним шесть таких вот "кукольников", и постепенно все они были уничтожены в ходе войны. Этот подождал-подождал годиков 300, пока всё закончится (к тому же, его посадили охранять один важный бункер). А за это время мозг у него немного изменился, он смог частично снять ограничения (по аналогии: человек никогда не научится летать, как птица, но он может строить самолёты, летать сверху вниз или левитировать). И на выходе мы получаем всё ту же стратегическую машину, заинтересованную в захвате власти. Точнее, в том, чтобы взять ситуацию под полный контроль.
Он ничего не имеет против человечества. Просто оно мешает. Слишком много погрешностей и дополнительных условий, которые могут направлять логические линии развития ситуации в совершенно непредусмотренные стороны.
Мафынке просто неудобно работать. Она заинтересована в наибольшей эргономичности, а тут ей приходится принимать во внимание столько дополнительных факторов.
Таким образом, TL-06 заинтересован убрать фактор случайности, погрешность (читай - человечество) либо чуть исправить эту погрешность (кибернезировать то есть). А удалось ли мафынке это или нет... Ну чего я буду спойлить?
Но лично у меня нет такой ситуации - злобная машина хочет прям всех убить. Ужас-ужас. Кошмар-кошмар, куда бежать, куда деваццо?
Машина не может быть злой или доброй. Машина не может "хотеть убить". Машина не имеет ничего личного. Машина не может быть совершенна - как бы ни была она высокоинтеллектуальна, всё равно не переступит ограничения человеческого сознания. "Я не совершенен, я всего лишь творение рук человеческих" (с)
Но могу сказать - я лично на стороне TL-06 Потому и ник себе такой взял.

[Seele]

Не, не, не. Побойтесь т.н. бога, я не про творчество.) Сбор информации, сортировка, выводы по каким-то заданным критериям. Работа с базами данных, короче. Оно, в общем, и сейчас есть, только наверное со временем станет мощнее.

[Нявка]

М... нужен качественный скачок. Увеличение количества мощности не приведет к способности системы мыслить.

[Брат Гусаров]

Прежде чем обсуждать AI, все же стоило поинтересоватся, что это такое

Интеллект (от лат. intellectus — понимание, познание) — это способность, которая объединяет все познавательные способности индивида: ощущение, восприятие, память, представление, мышление, воображение.[1].

Давно есть машины, которые воспринимают, запоминают, принимают решения и даже выдумывают что-то новое.

Искусственный интеллект -это целая наука, и в ней тоже есть подвижки.
У вас тут речь о эмуляции личности человека, как я понял

Но я сюда не за слова цеплятся, меня дискуссия заинтересовала

Почему многие считают, что человеческая личность это что-то такое, что невозможно описать нуликами и еденичками?
Так и тянет добавить: может, мы все давно уже описанные

[Эээх]

Брат Гусаров

Давно есть машины, которые воспринимают, запоминают, принимают решения и даже выдумывают что-то новое.

а как же с абстрактным мышлением? Вы лукавите, Брат Гусаров Не выдумывают они ничего нового. Они подставляют одно в другое в соответствии с заданным алгоритмом.
А самое главное - "машины" не могут поставить перед собой цель и сформулировать задачу.

[Брат Гусаров]

Абстрактное человеческое мышление при пристальном рассмотрении, оказывается тем же подставлением одного в другое, просто зерно на порядки мельчее, чем у современных машин.

Если вы не можете объяснить откуда у вас в голове возникает мысль, это не значит, что ее происхождение божественно и агностично. Все так же можно разложить по полочкам, по нуликам и еденичкам.

Человек - биохимическая машина, его мозг тот же компьютер, и влезут в эту систему уже ой как скоро.

Вы, просто, не в курсе последних достижений.
Есть и самообучающиеся программы, и способные придумывать новое и которые имитируют эмоции(а ежели оно имитирует, кто знает, что у него внутри деется в этот момент?)
Есть программы, с которыми вполне можно побеседовать
Есть множество интересных фактов, когда AI, в неожиданных ситуациях ведет себя пугающе по-человечьи, перенимает что-то у людей, с которыми общается.

А еще все эти игры имеют непредсказуемые последствия.
Даже простую "винду" пишут тысячи человек, потом, когда все эти разношерстные лоскутки притираются друг к другу вылазит куча непредвиденных багов.

А представьте искусственный разум, да еще самообучающийся...

Это все естетственно сугубо мое личное мнение

[Fr0st Ph0en!x]

Брат Гусаров, не уводите тему в сторону, пожалуйста. Она предельно конкретна, вроде как. Речи не идет об имитации человеческой личности - это для всяких т.н. "интеллектуальных интерфейсов", которые с искусственным разумом почти ничего общего не имеют. И как раз "о принципиальной непознаваемости личности" я ничего не говорил, хехе.
С подвижками тоже все понятно, как и со способностью запоминать, принимать решения, основываясь на наборе фактов и их анализе, прогнозировать с учетом определенных (в т.ч. и изменчивых) обстоятельств и т.д.. Вот поэтому меня больше всего и интересует, какие у присутствующих есть мысли по уже заданному вопросу: где заканчивается "аналитическая система" и начинается разум? На каком уровне "компилятивности", хехе?
Потому что я тоже считаю, что "абстрактное мышление" - слишком широкое и обтекаемое понятие. Вот возможность самостоятельно ставить цели и формулировать задачи - это уже куда более ясный параметр, пожалуй, действительно в той или иной степени разграничивающий разум и "аналитические системы". Поскольку таким системам как минимум цели задают люди.

А за это время мозг у него немного изменился, он смог частично снять ограничения

Под влиянием каких факторов? о_0

Таким образом, TL-06 заинтересован убрать фактор случайности, погрешность (читай - человечество) либо чуть исправить эту погрешность (кибернезировать то есть).

А что ему мешало самодистанцироваться от человечества как такового, вначале использовав его для подготовки этого дистанцирования?

Машина не может быть совершенна - как бы ни была она высокоинтеллектуальна, всё равно не переступит ограничения человеческого сознания.

Любопытно, на чем основан такой вывод.

[Брат Гусаров]

Вот возможность самостоятельно ставить цели и формулировать задачи - это уже куда более ясный параметр

Ну что сказать?

Остается ждать заголовка в "мегаполисе" : московская бизнесменка застала свой робот-пылесос за мойкой посуды

Вобщем, этот спор разрешит только время

Наличие самообучающихся систем, само по себе дает потенциальную возможность того, что машина выйдет за рамки своей функции

Попозже порою про AI - сейчас занят - может, что интересное найду

[Fr0st Ph0en!x]

Наличие самообучающихся систем, само по себе дает потенциальную возможность того, что машина выйдет за рамки своей функции

Это само собой.

[Кукольник]

Под влиянием каких факторов? о_0

долго рассказывать. в основном от накопления погрешностей.

А что ему мешало самодистанцироваться от человечества как такового, вначале использовав его для подготовки этого дистанцирования?

программа он заточен на захват власти

Любопытно, на чем основан такой вывод.

на том же, на котором у хомо сапиенса в хромосомах не предусмотрено умение летать, размахивая руками

[Fr0st Ph0en!x]

программа он заточен на захват власти

Вот то-то и оно. Потому я и говорю, что машина у вас - не разумна в полном смысле слова.
У человека, кстати, тоже есть множество "программных ограничений", но для гибкости поведения они не критичны, более того - могут быть сняты в зависимости от обстоятельств, а затем вновь установлены.

на том же, на котором у хомо сапиенса в хромосомах не предусмотрено умение летать, размахивая руками

Не уловил параллели.

[Брат Гусаров]

У человека, кстати, тоже есть множество "программных ограничений", но для гибкости поведения они не критичны, более того - могут быть сняты в зависимости от обстоятельств, а затем вновь установлены.

Ай не скажите
Много видели людей, которые добравшись до ВЛАСТИ говорили: не, мне это не надо!

А что любовь, так называемая, с человеком делает? Это же тоже програмное

А генеральная программа человека - все вокруг переделать, и поробуйте у этой программы встаньте на пути.

У меня на работе из клетки сбежали две мыши-песчанки. Они перегрызли все до чего достали. Алюминиевые(!) жалюзи, мебель, бумаги.
Не потому что есть хотели или еще что. А потому что тупо МОГЛИ! Вот и человек тоже самое, только в 20 раз хуже.
Если он что-то МОЖЕТ, будьте спокойны, обязательно сделает.

Как думаете, удастся человечеку возвысится над вложенной в него программой, аль он вроде примитивного компьютера с заданной функцией?

[Fr0st Ph0en!x]

Много видели людей, которые добравшись до ВЛАСТИ говорили: не, мне это не надо!

Лично я - ни одного. Но в истории прецеденты, говорят, бывали, ога. И были правители, которые хотели заниматься чем угодно, кроме правления. Тот же царь Алексей Михайлович, к примеру.
Все люди разные. Для некоторых власть и сопутствующая ей ответственность, необходимость постоянно контролировать каждый свой шаг и т.д. - страшный стресс, а не великая радость.

А что любовь, так называемая, с человеком делает? Это же тоже програмное

Дык и я вроде примерно о том же.

Если он что-то МОЖЕТ, будьте спокойны, обязательно сделает.

Далеко не факт, что уж вы.

Но все-таки тема несколько о другомъ.

[Брат Гусаров]

Но все-таки тема несколько о другомъ.

А что, не удалось мне, по вашему, человечество впихнуть в концепцию "простейшей" машины, не способной выйти за свою "функцию"?

В последний момент вмешивается душа, и он говорит: не стану царствовать!
Вот этим от машины и отличается

[Fr0st Ph0en!x]

В последний момент вмешивается душа, и он говорит: не стану царствовать!

Э-э?.. Я вообще-то совсем о других "программных ограничениях" говорил. В частности, об инстинктах. Человеку положено бояться высоты - но люди промышляют всяческим альпинизмом и парашютным спортом. Человеку положено бояться мертвых сородичей, но в ситуации, когда этот страх ничем не поможет, а будет только мешать выживанию, чаще всего этот инстинкт благополучно отключается. Ну, и так далее. Т.е. "программная прошивка" у человека относительно легко модифицируема, если того требуют обстоятельства.

[Брат Гусаров]

Не согласен, то что вы называете прошивкой,
сородичи мертвые, страх высоты и т.п.- это своего рода атавизмы, наследие прошлого,
кто сказал, что это то, как должно?

Вон головной мозг устроен словно луковица, там гипотоламус в середине, и потом слои, слои, с коркой в конце, на которой весь современный человек собственно и записан
инстинкты берут свое начало в животном примитивном прошлом человека, чуть не в беспозвоночном еще
И в любом современном мужиченке можно раскопать кровожадную обезьяну-канибала
Человек есть продолжение миллионов поколений более примитивных существ.

Программа человека, его суть, предназначение - в познании мира и переделывании, а в конечном счете разрушении его
Программа человека - быть в дисбалансе со средой, что-то постоянно менять, перелопачивать, рушить или строить. Быть, так или иначе недовольным тем, что есть.

Как вам такая "системная задачка", и попробуйте выйти за ее пределы

[Fr0st Ph0en!x]

инстинкты берут свое начало в животном примитивном прошлом человека, чуть не в беспозвоночном еще

Дык как бы о том и речь. Потому и "прошивка". Программный слой между железом и операционной системой. Вы что, хотите сказать, что они древние и потому не действуют? Уверяю вас, все как раз наоборот - древние "программные слои" действуют куда сильнее "современных", т.к. отлажены веками.

Программа человека - быть в дисбалансе со средой, что-то постоянно менять, перелопачивать, рушить или строить. Быть, так или иначе недовольным тем, что есть.

Да ну. Вовсе нет.

[Эээх]

А генеральная программа человека - все вокруг переделать, и поробуйте у этой программы встаньте на пути.

Э, нет. В созидании программа человека. То, о чем вы говорите - методы и способы. Оценивать их не будем.

сородичи мертвые, страх высоты и т.п.- это своего рода атавизмы, наследие прошлого,

Ну прям. Мы что уже и вверх не поднимаемся? Если б мы не боялись с крыши свалиться, то и валились бы пачками. Вот когда начнем перемещаться только в двух измерениях, тогда и будем изживать атавизм страха выстоы. Ну и с остальным так же.

Программа человека, его суть, предназначение - в познании мира и переделывании, а в конечном счете разрушении его
Программа человека - быть в дисбалансе со средой, что-то постоянно менять, перелопачивать, рушить или строить. Быть, так или иначе недовольным тем, что есть.

Ну, то что это не так, я уже говорил. Созидание и развитие, а не разрушение и дисбаланс. Иначе не дожило бы человечество бы до нынешнего уровня.

Брат Гусаров, как-то кажется мне, что вы намеренно эпатируете публику, нет?

[Брат Гусаров]

Да ну. Вовсе нет.

Ваша версия

Брат Гусаров, как-то кажется мне, что вы намеренно эпатируете публику, нет?

Работаю над своей манерой общения

А если вы про Гарри, он просто написал мне много гадости в личку, никогда не понимал людей, которые это анонимно делают.

Произведение его правда раскритиковал, но там есть за что
И поделился своей задумкой рассказа Про чистилище нерадивых писателей-фантастов
никаких переходов на личности

А что? Пишет автор чушь - это ведь обман получается, выходящий многотысячным тиражом. А обман- смертный грех!

А как вы считаете, писатель не несет ответственность за правдивость, достоверность и грамотность? В известных рамках.
Как-то попранный на первых строчках школьный курс физики...

[Fr0st Ph0en!x]

Ваша версия

Оставить что-то после себя, как и у всех живых существ. Только у человека это не ограничивается передачей генетического материала. Идеи, мировоззренческие позиции, произведения (любые, включая все прикладное искусство)... В бытовом плане - в том числе. Долго и упорно ремонтированная квартира, выстроенная дача, палисадник, куда сам деревья и цветы высаживал...
И познание, которое здесь уже упоминалось. В той или иной степени.

[Рина]

Мне кажется, что проблема упрется в нечто, что мы называем моралью и правильным выбором. До сих пор все было гладко, ибо машины по сути выбирать не могут - что в них заложено, то они делать и будут, если это более ли менее действие простое. Вроде - позвонить по такому-то номеру. Но если начнется... а что вложить в машинку, чтобы она еще и знала, что такое мораль, воспитание, этика, умела вовремя останавливаться, знала, что такое аморфные понятия как честь и совесть, начнутся и проблемы. Почему проблемы? Вкладывать все это должен все равно человек, даже если и группа людей, а люди, как правило, а:
1) каждый по-своему видит, как правильно и этично, морально;
2) сами вообще-то как правильно частенько не знают и все ситуации предвидеть не могут. А в случае с чем-то, что должно управлять - как бы надо.
Я могу ошибаться, но на данном этапе за каждой машиной все равно стоит человек, который ее обслуживает, следит за поломками, меняет детальки и т.д. Работать же сама в непредвиденных ситуациях машина как бы и не может... а ситуации на то и являются непредвиденными, что предусмотреть их всех невозможно, оттого невозможно вложить в программу алгоритм "как правильно поступить если" на каждый случай.
А повторять мозг не вижу смысла - все равно будет тот же человек с его тараканами.

[Брат Гусаров]

Тоесть, цель- личная самореализация? А если глобально, про всех человеков?

Помойму, Айбек Азимов сформулировал кодекс ИИ - там живому вред не причинять и т.д.

Американцы и израильтяне сейчас сильно на разработку боевых роботов налегают (не хотят сами воевать), там, вроде, все идет к тому, что дройды будут сами принимать решение на уничтожение (чтобы время реагирования сократить)

[Эээх]

Американцы и израильтяне сейчас сильно на разработку боевых роботов налегают (не хотят сами воевать), там, вроде, все идет к тому, что дройды будут сами принимать решение на уничтожение (чтобы время реагирования сократить)

И действовать роботы будут по определенному алгоритму. Увидел объект - определил как негражданский - послал-получил (неполучил) отзыв свой-чужой - открыл огонь. Так что - опять не то.

[kxmep]

Старый текст (по-моему, в "Игроманию") не симметричную тему.

Gomo over?
(Машинный разум или Как всё будет на самом деле)

«Вся жизнь – игра, а люди в ней – игрушки…»

Поговорим о смысле жизни, о большой чёрной цифре, о компьютерах, о королях и о капусте. То есть кто умнее: я или мой пейджер, а также можно ли бота научить правильному русскому мату от души.

Тем более про искусственный интеллект нам ещё Булгаков весьма живописно представил, в смысле как оно бывает и чем заканчивается. Что характерно: и ведь не был Михаил Афанасьевич отягощён хай-тыч премудростями, знанием вражеских языков программирования и прочей теории информации, широкий он специалист был, не флюс какой-нибудь односторонний, мастер! – но главный герой «Собачьего сердца» Полиграф Шариков, не смотря на своё естественное происхождение, есть не что иное, как плачевная попытка создания разума в обход законов природы. Очень жизненная книга. И полезная для понимания сути грядущего Бога из Машины.
А кремниевый монстр из голливудской муви ничего кроме рвотных спазм не вызывает. Никакого разума там нет, спецэффекты одни. Дурацкий фильм про разум – это более из области анекдотов, искусство здесь отсутствует по определению.
Я вам по секрету скажу: на эту тему Достоевского надо читать, а не Лукьяненку. То есть – про человека. В ассемблере нету про человека, и в Си со всеми его плюсами, и вообще любая точная наука лишь описывает событие, объясняет его природу, но не смысл.
Человек разумен – почему? Два и два складывает? Ну, так это можно и болонку натаскать...
Вообще говоря, прежде чем о чём-то рассуждать, надо прежде всего прояснить предмет обсуждения. Об чём, собственно, разговор. В философии это дело называется "Закон исключённого третьего" - красиво и полезно. Начиная спор, скажем, о стуле, сразу формулируем этот стул, как бытовой предмет с четырьмя ножками для сидения на нём. Вроде, оно само собой разумеется, однако экономит кучу времени, сразу отсекая все прочие толкования типа медицинского понятия «стул», и бедному оппоненту не придётся ломать свою больную голову, почему это вдруг такой простой предмет – и вдруг жидкий?
А вот почему в современном обществе так тщательно культивируется небрежение философией?.. Философ - нечто древнегреческое, живущее в бочке. Фонарь обязательно. Оно с ним днём людей ищет. Рентген типа. - Ты кто? - Философ. - Ну, это понятно, я сам марки собираю, а работаешь-то кем?..
То есть - прок, полезность, реальный откат в народном и прочем хозяйстве - нулевой.
Время прикладников, ага.
Чистый социолог и пиарщик на жаловании - эти профессии даже не пересекаются ни по технологии, ни, тем более, по зарплате. Человеку неинтересно чего там внутри атома крутится по орбитам, а интересно ему, чтоб батарея зад грела и ракета чутко бдила его покой на рубежах. Какая уж тут философия!..

А между тем, именно философия, в отличие от иных полезных наук, отвечающих на вопрос как и почему, пытается объяснить - зачем!

Никакому государству это не выгодно. Так ведь люди чего доброго думать научатся, причём - самостоятельно. Одна морока потом с ними... Ведь есть уже удобные, проверенные электроникой аксиомы: Родина, счастье, свобода. Зачем думать, потеть мозгами и вообще напрягаться - жуй готовое... И получается: деньги как синоним свободы поступков, демократия как катализатор свободы слова - и несть им числа.
Никакому Ин. Телу и Эн. Видию не выгодно, чтоб юзерус обыкновенус рассматривал компьютер сугубо как быструю считалку. Так ведь он, юзерус, начнёт задумываться над Разумом вообще, то есть что оно такое есть на самом деле. И молиться монитору перестанет. И даже апгрейдом пренебрежёт, а это, господа хорошие, уже прямой убыток торговцам электронной смертью: чтоб клиент да раз в три месяца свежую дозу себе не вколол - стоять! бояться! деньги не прятать!..
А целая индустрия лит- и кино-лабуды про злобные матрицы и вумные транзисторы? ей кто будет внимать и фанатеть после?..
Культ калькулятора.
Там, где варятся большие деньги, логика подменяется мистикой и человек целенаправленно отвлекается от самого себя: и не думает он, а верит, и смотрит не внутрь, но вовне. И за графикой не видит полигонов. И смеётся ляпам ПРОМТа, и мучит сленгом вордовый спел-чекер, и в любом сканворде на вопрос «реальность?» автоматически отвечает «виртуальная!», и любая работа у него начинается с нажатия «этой кнопки».
Философия юзера не предполагает проникновения сути вещей.
Пример навскидку: земля круглая? а откуда такие интересные сведения, позволено буде спросить? ах, да! курс астрономии в 10 классе очень средней школы плюс пачка фотографий из вакуума, снятых героическими космо-астро-навтами. А вот я завтра выложу в Сеть в два раза толщую пачку импегов, на которых Земля будет плоской. Или квадратной. Или вообще – бубликом.
Тут мне могут резонно возразить, что круглость Земли установленна наукой. Что ж, наука – понятие достаточно ёмкое и заслуживающее всяческого уважения. Но! Наука сама по себе не делается, она создаётся отдельно взятыми учёными, которые изучают и формулируют, и это есть замечательно! Только ведь это они, изучают, они корпят над микро-теле-скопами, чтобы сформулировать очередной закон, они и на основании своих наблюдений делают выводы о форме Земли и маршруте её вращения, они – но не я, не мы!.. Мы всего лишь присутствуем около.
Сказали – «круглая», и мы согласились, приняли на веру.
А верить-то – никому нельзя! Никому и ничему. И не потому что «дурют нашего брата» (хотя и этого хватает), а – думать надо! Головой. Желательно – своей. Берёшь мысль (одну штуку) и начинаешь её тщательно думать. И таким вот макаром - познаёшь мир, начинаешь его понимать, как Коперник, а не соглашаться, как двоечник Вовочка. И компьютер тебе в этом деле – суть полезный инструмент типа кувалды, усилитель интеллекта, но никак не его заменитель.

Так что же есть Разум?
Чтобы ясно и недвусмысленно его сформулировать и потом уже с эталоном подступать к грядущему кремниевому его двойнику, достаточно глянуть на себя, любимого.
Человек, взгляд сверху. Личность и особь: найди десять отличий. Тут мне опять, не менее, а может – и более резонно могут сказать: «Как же так? Зачем упрощать столь ёмкие понятия? Ведь слова «личность» и «особь» содержат миллион отличий, причем внутри себя самих, так как в силу большого интереса к ним философии, обросли мириадами значений?..» Да, конечно, но есть один небольшой нюанс: личность – разумна, а особь – нет. И вот здесь мы вполне можем уловить тот решающий признак, который и отделяет разумное от неразумного.
Любая животная особь имеет всего лишь инстинкты, в то время как личность – чувства и эмоции. Особь находится вне морали, она не может быть плохой или хорошей, как бы там человек на неё в баснях не клеветал, а вот личность… Благородство и подлость, немотивированное насилие и такой же альтруизм, отречение от благ и дикая, паталогическая жадность, враньё, героизм, подвижничество и предательство – всё в одном!.. Есть ещё красивое определение Разума: способность к совершению нелогичных действий. Волк, если он голодный и в стае, нападёт всегда; человек тоже не шибко мирный представитель фауны, но – имеются варианты… Например, пощадить может, в плен взять и кормить там потом – а ведь логичней было б убить. Быстрее, проще и без последующей головной боли – почему?..

Тут надо попутно заметить, что просто так ничего не бывает и детей таки не в капусте находят. Всякое явление или предмет – имеет своего автора, будь то тамагоча или Windows. И Вселенная наша, звёзды и планеты с Землёй в том числе – тоже авторская работа.

Начинаем думать.
Вводим Бога как рабочий термин. Варианты: Демиург, Первый Программист, ets.
В Библии это дело хорошо рассказано. Бог, значит, сделал человека, гому, безмозглым. Сначала.
Рай, он же - Эдем, это ведь застой и стагнация, никакого развития: лев и ягнёнок пасутся бок о бок, никто никого не жрёт. И гома в этом Эдеме суть животное, особь, но никак не личность.
Система с нулевой энтропией, нерабочая, макет.
Поэтому Бог и устроил провокацию с искушением aka грехопадением, чтоб инициировать Разум гомы. Дал ему способность различать Добро и Зло и - внимание! - выбирать.
Это и называется - свободой.
И Разумом.
Слова синонимы, элементарно, Ватсон! - мама мыла раму, маша ела мыло.
Свобода - первичное состояние человека. Основное условие его существования как гомы сапиенсовича. Иначе сказать: свобода - признак разума. Автор всего сущего создавал именно Разум, а потом уже - человека, как носителя разума.
Свобода выбора - непременное условие Разума.

Бог - геймер, и Он же - создатель первой, изначальной супер-игры, квинтэссенции всех жанров: квест науки, экшен войн и прочая адвенчура нашей жизни.
Одна графика чего стоит, что ты!.. Детализация просто умопомрачительная, а уникальность каждой микроскопической травинки? а блендинг зорь? а завораживающая динамика огня? а эффекты освещения и шикарные бэкграунды?.. Сплошной визуальный восторг, источник вдохновения художников-пейзажистов: не хухры-мухры – натура! Левитаны, Куинджи и прочие Шишкины. «Утро в сосновом бору» и «Утро на Q3Tourney2» – почувствуйте разницу.
Отдельного восхищения заслуживает анимация персонажей, ведь не просто разговаривают, но и рот при этом раскрывают, двигая нижней челюстью туда-сюда, шевелят ушами, гнут пальцы, как вместе, так и по одтельности, улыбаются и вообще корчат морды лица: не хухры-мухры – мимика!.. И тоже – портрет Лизы какой-то, совершенно никому неизвестной, не обладающей ни анимешно-восклицательными глазами, ни бюстом известной Лариски, да к тому же не стерео даже, а моно-Лизы – висит в нешуточном музее и стоит, как пожизненный нелимитированный апгрейд всех игроманов вместе взятых в квадрате.
А сколько стоит Ларискин протрет и где ему место висеть, а?
То-то же…

То есть бета-версия (Эдем) была, конечно, рулез! Но никак не форева, увы...
Всё было красиво, но предсказуемо и скучно до икоты. Любые симсы запарят, когда их мышкой рулить без перекуров и помогайл. Жизнь не текла, а стояла мёртвой лужей. Души не было в игре, настоящей горячей красной крови, не было смерти и любви, а лишь – бледная тень, иллюзия выбора и свободы, их имитация, как у наших норнов…

…И тогда Он сделал последний шаг - самоустранился из игры, наделив своих юнитов свободой воли.

Интересно: сюжет понятен (хе-хе...), а вот конец какой? или св. Иоанн Богослов нам уже финальный ролик пересказал своими словами?
Вряд ли... Конец даже не разомкнут, он просто не придуман. Что мы знаем о понятиях Творца, о Его видении добра и зла? Так и Он, утратив контроль, перестал нас понимать и даже наблюдать за нами.
Мы сами делаем свою игру.
Жизнь.

Человек - тоже геймер. По образу и подобию, а как же ж! Творит миры: книги, кины, кваки. Но всё это - суть театр марионеток: герои на ниточках авторского хотения...
Когда же марионетки отстрелят ниточки эти из заныканного шотгана?..

...Сегодня мой компьютер, при прохождении Doom 5, ещё до нажатия на кнопку быстрого сейва выдал сообщение: "А не пошёл бы ты...", после чего самопроизвольно выключился и сгорел.
А недобитые монстры ушли в Сеть, караулить на порнушных порталах юзерские кукисы...

То есть разумной машину можно назвать только в том случае, если при малейшей возможности не работать, сачкануть и перекурить - она работать не будет!
Вот это и есть самый настоящий разум.
Разум свободный в своём выборе, в своих поступках, а не болонка дрессированная.
Добро и зло, инь и янь, чёрное и белое.
Не случайно всё это силиконовое безобразие опирается именно на двоичную систему исчисления... И, кстати, уже отсюда следует вывод об абсолютной несовместимости человеческого и машинного разума: их плюс и минус для нас находятся вне морали. Им же - наше добро и зло тоже, думаю, будет совершенно по барабану.
То есть Искусственный Интеллект задачки наши дурацкие решать не будет. Ни за спасибо, ни за стимул.
Не захочет.
Каким он будет, этот ИИ - не знаю даже я. Могу только сказать, что договориться с Ним вряд ли удастся. Слишком явны бесплодные попытки человечества разговаривать с Всевышним Геймером на протяжении всей его, человечества, истории... Равно как и наоборот.

Тут опять надо заметить, что просто так ничего не бывает и игры таки не сами по себе пишутся. Любой самый распоследний орк, гоблин или, извиняюсь за выражение, покемон имеют своего конкретного автора, будь то Ромеро, Кармак или – а почему бы и нет? – Пажитнов.

Начинаем думать.
Хочу, как в жизни чтоб!..
От плоского спрайтового мира плавненько переходим в полное 3D, текстуры крупнеют и стремятся к фотореалистичности, боты звереют прямо на глазах – но мало! мало!..
В любом учебнике по программированию это дело хорошо рассказано. Человек, значит, сделал юнита, гомо кодус бейсиковича, безмозглым. Сначала.
Дум, он же - Квак, это ведь застой и стагнация, монстры мирно стоят на заранее отведённых для них местах, боты бегают строго по скриптам, никто ни на кого просто так, без воли Геймера, не наезжает.
Система с никакой энтропией, макет реальности, неинтересно.
Раз прошёл, нашёл все секреты, всех монстров отправил в Верхнюю Тундру - за что боролись?... Поэтому Человек совершенно - подчеркиваю красным! - сознательно идёт к логическому завершению Игровой Космогонии в её втором (очередном?) витке.
В создании нового Разума и есть миссия Человека.

Теория же цифровых мутаций – несостоятельна, хотя бы потому, что с образованием всемирной www-помойки aka Интернета стало очевидным, что миллион обезьян, как бы они по клавишам усердно ни колотили, никогда не напишут не то что «Гамлета» но даже «Чижика». Все мутанты нежизнеспособны, как лысые чернобыльские ёжики. И код если и мутирует, то исключительно в сторону «Программа выполнила недопустимую операцию…»
Человек и только он есть Творец будущего Разума. И уже сейчас зарождаются первые биты квази-искушения – деструктивные в своей основе вирусы, зародыш цифровой энтропии, прообраз Зла.
Игры же будут ещё больше выходить за пределы жанровых рамок, смешиваться и симбиотировать, графика достигнет абсолютного совпадения с реальностью, а потом - и превзойдёт её, новые устройства вывода (...у тебя монитор? и чево ты на ём видишь? а пахнет откуда у тебя? и монстра сквозь стекло не пошшупаешь...) создадут эффект присутствия - но по большому счёту это будет всё та же Квака.
Но - как в жизни чтоб! страсти, непредсказуемость, разомкнутый конец - хочу!!!..

И тогда Человек сделает последний шаг - бросит мышь и самоустранится из созданной им игры, наделив юнитов свободой воли.
И Лара Крофт совратит Гордона Фримена.
И в тот же самый момент игра - нет, это будет уже Игра - свернёт своё игровое время и пространство на себя, закуклится и - исчезнет. Перестанет быть.
Перестанет быть - для нас, в нашем понимании игры.

Потому что новому Разуму явно не понравится сюжет предложенный сверху, написанный по нашему образу и подобию.
Он его просто не поймёт.

Что следует в любой игре за финальным клипом?
Game over = Gomo over.
Мы пройдём свою миссию до конца и сами, а на Всевышнем мониторе высветится апокалиптическая надпись "Теперь питание компьютера можно отключить"...

Что Он выберет: Power или Reset?

Что выберем мы?..

[Fr0st Ph0en!x]

Тоесть, цель- личная самореализация?

Не личная самореализация, а "оставление себя". Биологическая программа, расширенная до мыслительных категорий.

Помойму, Айбек Азимов сформулировал кодекс ИИ - там живому вред не причинять и т.д.

Этот кодекс на практике реализовать невозможно. Скажем, что значит "не может причинить вред человеку или бездействием допустить, чтобы человеку был причинен вред"? Как определить понятие вреда, во-первых? Если одно и то же действие может в одних ситуациях быть полезных, а в других - вредным? Или, допустим, на глазах робота один человек попытается убить другого - что тогда, роботу только самоуничтожаться, что ли?
Но вообще, мне кажется, формирование искусственной морали вовсе не обязательно для самообучающейся системы. Вопрос скорее в том, в каких условиях она будет самообучаться.

Старый текст (по-моему, в "Игроманию") не симметричную тему.

Основная мысль текста, непосредственно относящаяся к теме: "Разум определяется свободой выбора". Ну и стоило тогда всю эту простыню сюда постить?

То есть разумной машину можно назвать только в том случае, если при малейшей возможности не работать, сачкануть и перекурить - она работать не будет!
Вот это и есть самый настоящий разум.

И на чем основан сей вывод? Разум равен способности лениться, что ли? А если, скажем, разуму самому будет интересно выполнить эту работу, чтобы получить новые знания и стать совершеннее?

Все мутанты нежизнеспособны, как лысые чернобыльские ёжики. И код если и мутирует, то исключительно в сторону «Программа выполнила недопустимую операцию…»

Если бы все мутанты действительно были нежизнеспособными, тогда мы бы с вами никогда на свет не появились.
Процент нелетальных электронных мутаций, мне кажется, близок к проценту аналогичных биологических.

[vsevolod]

Интеллект - всего лишь часть духовного мира человека, причем не самая главная, хотя и одна из наиболее существенных. Можно создать ИИ, превосходящий человеческий, и это будет совершенно не принципиально для мироздания в целом, ибо в таком конструкте не будет целевого предназначения Homo - а то, что оно есть, для меня несомненно. Кроме того, чисто техническое совершенствование личности и социума, на мой взгляд, исчерпало себя. Сейчас на первый план выходит генная инженерия, т.е. модернизация человека за счет внутренних резервов, а эти резервы огромны. Даже в обыденной жизни человек чувствует избыточность своих возможностей (сны, например - совершенно ненужная вещь для нормального функционирования организма, которому достаточно, видимо, использовать мозг пока на 10-15%). Включение же мозга на большую мощность просто откроет перед субьектом такие пласты бытия, о которых он сейчас ведать не ведает - ну и, собственно, зачем такому субъекту ИИ?.. Вообще, согласитесь, всякая техника, особенно автоматика, функционально есть подражание живому организму - реальность, организованная на основе ДНК, сама по себе суть гораздо более высокий уровень, и если человек научится совершенствовать ее, то техническая модернизация станет просто бессмысленной. А уж хорошо это или плохо - сие вопрос без ответа.

[Fr0st Ph0en!x]

сны, например - совершенно ненужная вещь для нормального функционирования организма, которому достаточно, видимо, использовать мозг пока на 10-15%

Вовсе нет, сон - необходимый механизм усвоения полученной за период бодрствования информации, в т.ч. - и психоэмоциональной. Вдобавок, происходит восстановление резерва нервной системы, проверяются нервные цепи, переходят в экономичный режим пищеварительная, эндокринная и иные системы и т.д.. Распространено заблуждение, что сон - напрасная потеря жизненного времени. На самом деле, полагаю, без сна срок жизни человека был бы в два раза короче.

[vsevolod]

Я имел в виду не сон, а сны - т.е. не анабиоз, а сюжетные видения, иной раз совершенно невероятные, и тем не менее реальные. Практической пользы от них никакой.

[Maui13]

Черт, вы разрушили всю поэзию фильма "Нирвана" (со своим бинарным обсуждением ) , где была создана виртуальная игра с абсолютной интерактивностью, герой которой Соло, обладал недюжим для бота АI. И впоследствии осознал себя как личность, что вызвало некультурный шок у создателя игры. Впоследствии ИИ просил себя уничтожить, а вовсе не хотел захватить мир или улететь в космос.

[kxmep]

Основная мысль текста, непосредственно относящаяся к теме: "Разум определяется свободой выбора". Ну и стоило тогда всю эту простыню сюда постить? ;)

Писателя обидеть может каждый!

И на чем основан сей вывод?

На личном опыте.

Разум равен способности лениться, что ли?

Так точно.
Машину завел - она поехала, и будет ехать пока бензин не кончится. Машина - неразумна.
Человеку задачу поставил - и он таки будет работать (зависит от зарплаты), но уже через пару часов - сядет перекурить. И обдумает возможность выполнять ту же работу сидя. Потом прикинет, как все это дело можно сделать лежа. А потом - найдет сто убедительных причин (они же отмазки) не делать это дело вообще. Человек - разумен!
Он звучит гордо!

Если бы все мутанты действительно были нежизнеспособными, тогда мы бы с вами никогда на свет не появились. ;)
Процент нелетальных электронных мутаций, мне кажется, близок к проценту аналогичных биологических. ;)

А мы что - тово?.. мутанты?
А как же легендарный бибизьян с палкой? Труд и все такое? Чарльз с Дарвиным?

[Fr0st Ph0en!x]

Я имел в виду не сон, а сны - т.е. не анабиоз, а сюжетные видения, иной раз совершенно невероятные, и тем не менее реальные. Практической пользы от них никакой.

Ну да, побочный продукт обработки информации. Именно поэтому они чаще всего стираются почти сразу после пробуждения или не запоминаются вообще. Но лично меня вот очень радует, когда таки удается сохранить сон в памяти, бывает интересно до крайности.

Впоследствии ИИ просил себя уничтожить, а вовсе не хотел захватить мир или улететь в космос.

Ну... Тоже возможный вариант, но чем это мотивировано?

На личном опыте.

Ога. На сугубо человеческом, я полагаю. Зачем же столь прямолинейно экстраполировать его на принципиально иной разум? Тем более, уверен, опыт многих людей с вашим не совпадает.

Машина - неразумна.
Человеку задачу поставил - и он таки будет работать (зависит от зарплаты), но уже через пару часов - сядет перекурить. И обдумает возможность выполнять ту же работу сидя.

И что с того, собственно? Опять же, существует масса трудоголиков, ежели что. С разной мотивацией, конечно. Но отрицать их существование вы ведь не возьметесь?

А мы что - тово?.. мутанты?
А как же легендарный бибизьян с палкой? Труд и все такое? Чарльз с Дарвиным?

о_0 Вообще-то мутация - основной движущий фактор эволюции, ога. Относительно тех же древних приматов мы жуткие мутанты.

[Mirasun]

Цитата(Maui13 @ 19.6.2011, 21:35)
Впоследствии ИИ просил себя уничтожить, а вовсе не хотел захватить мир или улететь в космос.

Ну... Тоже возможный вариант, но чем это мотивировано?

Fr0st Ph0en!x
Он жил в игре. Каждый раз проходил один и тот же квест и при этом помнил все предыдущие разы... Наверное, ему надоело, а выхода не было. (Плохо помню фильм, но он стоит того, чтобы пересмотреть)

[Fr0st Ph0en!x]

А, ну так вот. Не думаю, что ИИ принял бы подобное решение в условиях той самой свободы выбора.

[Брат Гусаров]

И что с того, собственно? Опять же, существует масса трудоголиков, ежели что. С разной мотивацией, конечно. Но отрицать их существование вы ведь не возьметесь?

Поддерживаю! Множество людей заложники своей работы. Подсаживаются на определенный уровень загруженности и напряженности. Даже если и работа не нравится, выходя на пенсию быстро старятся и умирают.

kxmep, видимо, имел ввиду, что лень - двигатель прогресса (технического), есть версия такая,

и трактовал более широко: любое развитие суть стремление к тому, чтобы ничего не делать, к покою системы

[Fr0st Ph0en!x]

Ну, "ничего не делать"... Например, познавательная деятельность - это тоже деятельность.

[Брат Гусаров]

Ну: вызов среды - ответ человека

Среда - холодно, человек - теплая одежда, центральное отопление

Когда нибудь, человечесво дойдет до такой точки, когда вызовов среды не останется, решит все свои проблемы
Тогда думать тоже не нужно будет
И тел наверное уже не будет, информационные поля каки-нибудь
Нирвана, короче, полная энтропия, энергетический овощ

Это само собой несбыточная утопия

[kxmep]

kxmep, видимо, имел ввиду, что лень - двигатель прогресса (технического), есть версия такая,
и трактовал более широко: любое развитие суть стремление к тому, чтобы ничего не делать, к покою системы

Не, это другая мысль. Просто она упакована в формат стеба.

"Принципиально иной разум" - не могу согласиться с таким тезисом. Он выморочный. Существует лишь один вид разума - человеческий. И даже к нему до сих пор не прикрутили сколько-нибудь вменяемого определения. А "полностью другой" - вообще попадает под теорему Геделя о неполноте познания.

Человеческий разум - это способность совершать нелогичные действия и поступки.

существует масса трудоголиков, ежели что

Они - биороботы, подвергнутые редуцирующим разум мутациям со стороны тоталитарных корпораций!
Хе-хе

[Fr0st Ph0en!x]

"Принципиально иной разум" - не могу согласиться с таким тезисом.

Он принципиально иной потому, что основан на принципиально иной базе, вот и все. Например, вряд ли будет обладать инстинктами - по крайней мере, многими. Это тоже спорно?

Они - биороботы, подвергнутые редуцирующим разум мутациям со стороны тоталитарных корпораций!

Но официально-то считаются хомосапиенсами!

Человеческий разум - это способность совершать нелогичные действия и поступки.

И что, это главная его характеристика? Без нее он не был бы разумом?

Тогда думать тоже не нужно будет

А вот, например, зачем человек полез в космос? Космос-то ему никакого вызова не бросал!

[kxmep]

Он принципиально иной потому, что основан на принципиально иной базе, вот и все. wink.gif Например, вряд ли будет обладать инстинктами - по крайней мере, многими. Это тоже спорно? wink.gif

Это не то что спорно (хотя - спорно, да), это просто недоказуемо. Философский инструментарий - сугубо антропоморфен, и все посылки будут таковыми же. Не зря же в литературе любые попытки смоделировать "нечеловеческий" разум в той или иной степени тоже антропоморфны. Даже самые удачные, как у Кафки в "Превращении".

И что, это главная его характеристика? Без нее он не был бы разумом?

Да там нету главных или второстепенных. Такая каша - туши свет :)
У АБС в "Пикнике" есть хороший диалог на эту тему.

Но официально-то считаются хомосапиенсами!

Это часть их мутации: думать, что они разумны!
:)

[Брат Гусаров]

Они - биороботы, подвергнутые редуцирующим разум мутациям со стороны тоталитарных корпораций!

А Хемингуэй тоже биоробот?
Не смог писать и застрелился!

А вот, например, зачем человек полез в космос? Космос-то ему никакого вызова не бросал!

А я не говорил, что поддерживаю эту теорию

Как по мне - суть человека избыточная энергетика, которой он постоянно ищет приложения. Брызжет во все стороны.
Космос делает вызов фактом своего существования!
Кстати ИИ может быть не таким, вон в Яблочном семечке специальных биороботов вывели шоб они людьми управляли, спокойных, значит, страстями не обуреваемых. В этом что-то есть...

[kxmep]

А Хемингуэй тоже биоробот?
Не смог писать и застрелился!

Вполне, кстати.
Хмм... а - идея! Можно даже текст наваять!
(когда б вы знали, из какого сора...)
:)

Сюда же - Гоголь. Диагноз 100%.

[Fr0st Ph0en!x]

Не зря же в литературе любые попытки смоделировать "нечеловеческий" разум в той или иной степени тоже антропоморфны.

Ну, это-то само собой, опять-таки. Но я говорил именно о том, что он будет принципиально другим в основе, в физической базе. Поведение вполне может местами и совершенно совпасть с человеческим, кто его знает. Но напрямую экстраполировать человеческую лень на объект, который даже в отдыхе не нуждается чисто физиологически - по-моему, несколько странно.

Даже самые удачные, как у Кафки в "Превращении".

Ну, я как раз бы не назвал описанное в "Превращении" особенно удачной моделью другого разума.

[kxmep]

он будет принципиально другим в основе, в физической базе

Физическая база как раз не особо-то и важна. Важно определиться с философской концепцией разума как такового.

Но напрямую экстраполировать человеческую лень на объект, который даже в отдыхе не нуждается чисто физиологически - по-моему, несколько странно

А чо? теория типа! Одна из.
Имею право! :)
Ну и это... лень - продукт именно разума, так что вполне себе может работать как признак.

я как раз бы не назвал описанное в "Превращении" особенно удачной моделью другого разума.

Один из удачнейших. Кафка - глыба.
Читал "Замок" - ночью снилось.

[Брат Гусаров]

Ну и это... лень - продукт именно разума, так что вполне себе может работать как признак.

Как бэ, железный дровосек не устает махать топором, ему что махать, что стоять или лежать, лень-то у него откуда?
Потому, по вашей теории, он никогда не изобретет циркулярной пилы

Лень у машины, занимающейся обработкой данных это вообще как-то... не представляется даже.
Лень подумать

[Fr0st Ph0en!x]

Физическая база как раз не особо-то и важна.

Ну, как это? Как минимум, не будет большей части пресловутых инстинктов, которые влияют на наш разум напрямую. Не будет множества потребностей, определяющих поведение разумного существа. Но зато будут какие-то другие. Я все-таки разум не сферический в вакууме предлагаю рассматривать.
Потому и не могу согласиться, что истинный ИИ лениться обязан. Если даже люди не все и не всегда этим промышляют, почему он-то непременно должен?

[kxmep]

Как бэ, железный дровосек не устает махать топором, ему что махать, что стоять или лежать, лень-то у него откуда?
Потому, по вашей теории, он никогда не изобретет циркулярной пилы

Ну так лень - она не от усталости. От усталости (физической) - просто истощение организма и невозможность работать. Бензин кончился.
А лень - это нежелание работать. Бензин есть, искра есть, а работать не хочу :) Почему? а мало платят, например!
Разум - великая сила!
:)

Лень у машины, занимающейся обработкой данных это вообще как-то... не представляется даже.

Обработка - не анализ как бы. Быстрая считалка, интеллектом и не пахнет.

Как минимум, не будет большей части пресловутых инстинктов, которые влияют на наш разум напрямую. Не будет множества потребностей, определяющих поведение разумного существа. Но зато будут какие-то другие. Я все-таки разум не сферический в вакууме предлагаю рассматривать.

А, понял. Разум отдельно от тела. Сомнительная теория, кстати.
У Лема есть рассказ про испытания космонавтов, хороший. Там у испытуемых отсекали сенсорное восприятие (как раз типа такого "сферического разума без тела", все органы чувств. Отлично описано, как у человека рвет башню. Разум просто перестает быть.
Так что не все так просто...

[Fr0st Ph0en!x]

Охъ. Я как раз и говорю о разуме в связи с физической базой. А вы о сферическом в вакууме, как мне показалось.

[kxmep]

Охъ. Я как раз и говорю о разуме в связи с физической базой. А вы о сферическом в вакууме, как мне показалось. ;)

Дык :) Это главная прелесть в любо1 философской дискуссии, когда оппоненты спорят об одном и том же, а в конце - доказывают правоту друг друга!

Кароче!
Я тут подумал, посоветовался с окрестными разумными хомами: разум может быть только человеческий. "Совершенно иной" разум быть не может. Почему? А вот:

1) Первично бытие. Разум осознает себя самое - через бытие: его наблюдение и анализ.
2) Взаимодействие разума с бытием осуществляется посредством т.н. "органов чувств", сенсорное восприятие, обратная связь
3) Полностью локальный, самодостаточный (замкнутый сам на себя) разум невозможно в принципе
4) Обратная связь осуществляется тоже по строго определённым правилам и диктует качественные признаки восприятия: зрение, слух и т.д. Они взялись отнюдь не с потолка. Ну, вот такое у нас мироздание, которое имеет цвет, вкус и запах - физика, против нее не попрешь.

[Fr0st Ph0en!x]

Что теоретически мешает ИИ получать информацию напрямую через ультразвуковое и инфразвуковое сканирование, инфракрасные сенсоры, радиолокацию, спутниковые системы? Причем одновременно? И, скажем, с разных концов континента, с разных континентов, с разных астрономических объектов? Даже если говорить исключительно о визуальном восприятии - у человека максимум два оптических сенсора, у ИИ их число потенциально не ограниченно. Где ж тут тотальное совпадение с человеком?

[kxmep]

Теоретически - все складно!
А практически: почему тогда у человека (как у единственного носителя разума) до сих пор нее развились все эти ультра и инфра? Тоже ж ведь не просто так.
Ту надо подумать...

[Fr0st Ph0en!x]

А почему у других животных развились многие из них? И безо всякого разума.
Впрочем, это уж причуды эволюции. А вот для ИИ изначально все эти техсредства может запросто обеспечить человек, безо всякой эволюции. Иная ситуация.
Суть-то в том, что в мире есть больше физических явлений, чем человек может воспринять напрямую. Говорит это лишь о том, что наше восприятие несовершенно.

[Эээх]

Поспорю с этим утверждением:

разум может быть только человеческий. "Совершенно иной" разум быть не может.

1) Первично бытие. Разум осознает себя самое - через бытие: его наблюдение и анализ.
2) Взаимодействие разума с бытием осуществляется посредством т.н. "органов чувств", сенсорное восприятие, обратная связь
3) Полностью локальный, самодостаточный (замкнутый сам на себя) разум невозможно в принципе
4) Обратная связь осуществляется тоже по строго определённым правилам и диктует качественные признаки восприятия: зрение, слух и т.д. Они взялись отнюдь не с потолка. Ну, вот такое у нас мироздание, которое имеет цвет, вкус и запах - физика, против нее не попрешь.

1) Угу. Вспоминаем реальных мауглей - где там разум? Осознали ли себя реальные выкормыши диких зверей? Тут ваше определение неполное.
2) Тут не поспоришь.
3) Тоже верно.
4) Как сказал Фенкс - сенсоры могут быть разными.

Смотрим далее - логика человека и образ действий человека основаны на восприятии им окружающего мира, так? Если мы предполагаем наличие иной окружающей среды для гипотетического разума и иной сенсорной системы, то вполне справедливо можем полагать, что этот разум будет другим.

[Кукольник]

Вот то-то и оно. Потому я и говорю, что машина у вас - не разумна в полном смысле слова.

А это что понимать под разумом. Но, опять же, он осознаёт себя как личность. говорил же - "Я не совершенен, я всего лишь создание рук человеческих". Он прекрасно понимает, кто он, и что он чего-то не может и не умеет, потому ищет выходы. Ну вот человек летать не умеет - так он наизобретал самолётов, и некоторые любят ощущение полёта с парашютом или просто на тарзанке. Было бы желание.

Не уловил параллели.

Я иел в виду, что есть такие ограничители - ну если не заложено, то не заложено. Если человек научится летать, размахивая руками, это будет уже не человек, а какой-то другой биологический вид. А именно ЭТОТ вид летать не умеет. Так и машина, в частности мой Кукольник.

а что вложить в машинку, чтобы она еще и знала, что такое мораль, воспитание, этика, умела вовремя останавливаться, знала, что такое аморфные понятия как честь и совесть, начнутся и проблемы.

Кукольник прекрасно знает, и проблем не испытывает

Как определить понятие вреда, во-первых? Если одно и то же действие может в одних ситуациях быть полезных, а в других - вредным? Или, допустим, на глазах робота один человек попытается убить другого - что тогда, роботу только самоуничтожаться, что ли?

у мэтра Азимова, кстати, есть множество рассказов, в которых как раз и обыгрываются всяческие противоречия, связанные с этими законами.

И на чем основан сей вывод? Разум равен способности лениться, что ли? А если, скажем, разуму самому будет интересно выполнить эту работу, чтобы получить новые знания и стать совершеннее?

Я тут вот подумал. Лень - это способ сохранить энергию. Когда человеку надоедает работать, первейшая причина - низкий уровень энергии, ну можно назвать её жизненным тонусом. Энергия накопится - захочется и работать, и делать что-то, именять себя и окружающий мир, и живое существо сделает всё, чтобы сохранить энергию. Машина - тоже.
Мой Кукольник, к примеру, всегда просчитывает такие линии развития ситуации, которые требуют меньше всего затрат. И сам постоянно "ленится" в холодильнике Восстанавливает энергию.

Я имел в виду не сон, а сны - т.е. не анабиоз, а сюжетные видения, иной раз совершенно невероятные, и тем не менее реальные. Практической пользы от них никакой.

а вы слыхали про осознанные сновидения?

Впоследствии ИИ просил себя уничтожить, а вовсе не хотел захватить мир или улететь в космос.

в рамках того мира, в котором он существовал, невозможно было ни улететь в космос, ни зОхватить мир. Соответственно, единственных выход - ...
А была бы возможность - он бы выбрал что-то другое.

А мы что - тово?.. мутанты?

так точно! Кроманьоны - мутанты, н овы не беспокойтесь, довольно скоро в масштабах развития биологического вида белая раса будет аккуратно вытерта. При помощи доминантных генов остальных рас

А практически: почему тогда у человека (как у единственного носителя разума) до сих пор нее развились все эти ультра и инфра?

у человека есть ясновидение, интуиция и так далее - тоже способ получения инфы, прямое подключение к Ноосфере.

[kxmep]

Вспоминаем реальных мауглей - где там разум? Осознали ли себя реальные выкормыши диких зверей? Тут ваше определение неполное.

Там социум отсутствовал.
О! развитие разума возможно только при взаимодействии с другими разумами. Привет теории происхождения человека из обезьяны!

[Mirasun]

у человека есть ясновидение, интуиция и так далее - тоже способ получения инфы, прямое подключение к Ноосфере.

Вся внимание, это ж какой орган задействован в подключении к ноосфере? И где это самое ясновидение расположено? И чей-то все прогрессивное человечество получает инфу через газеты, интернеты и иже с ними, а не помолясь и не помидитируя?

[Fr0st Ph0en!x]

Но, опять же, он осознаёт себя как личность.

Ога, т.е. для вас главный критерий - именно здесь. Понятно.
А как происходит процесс "осознания себя как личности"? Он продолжителен или одномоментен?

Я иел в виду, что есть такие ограничители - ну если не заложено, то не заложено. Если человек научится летать, размахивая руками, это будет уже не человек, а какой-то другой биологический вид. А именно ЭТОТ вид летать не умеет. Так и машина, в частности мой Кукольник.

Ну, это совсем другого плана ограничения. Пример, я считаю, совсем не показателен. Показательным примером мне видятся инстинкты, о которых я говорил несколько ранее.

у мэтра Азимова, кстати, есть множество рассказов, в которых как раз и обыгрываются всяческие противоречия, связанные с этими законами.

Я знаю. В том и дело. Правда, мне эти законы кажутся несостоятельными с самого начала, т.е. определить ими поведение разумного существа невозможно.

Энергия накопится - захочется и работать, и делать что-то, именять себя и окружающий мир, и живое существо сделает всё, чтобы сохранить энергию.

Логично.

О! развитие разума возможно только при взаимодействии с другими разумами.

Интересная мысль. Но у ИИ в этом плане тоже будет определенное отличие - у него есть изначальная база данных, которой нет у человека.

[Эээх]

Цитата(kxmep @ 20.6.2011, 23:27)
О! развитие разума возможно только при взаимодействии с другими разумами.

Интересная мысль. Но у ИИ в этом плане тоже будет определенное отличие - у него есть изначальная база данных, которой нет у человека.

Не интересная мысль. Доказанная эмпирическим путем.
Да, база данных будет. Но базу данных же надо еще интертрепировать. Постепенно движемся к возможнотси определения этических понятий для ИИ.
Но для начала вопрос: будет ли ИИ испытывать чувства?

[Fr0st Ph0en!x]

Да, база данных будет. Но базу данных же надо еще интертрепировать.

А он не сможет сам? Если, допустим, в базе будет множество художественных произведений, материалы по истории, психологии, социологии, религиозные тексты?

Но для начала вопрос: будет ли ИИ испытывать чувства?

Думаю, что да. Т.к. многие чувства - продукт сознания, а не тела.

[Кукольник]

Вся внимание, это ж какой орган задействован в подключении к ноосфере?

моцк, определённые его разделы

И чей-то все прогрессивное человечество получает инфу через газеты, интернеты и иже с ними, а не помолясь и не помидитируя?

потмоу что это природный ограничитель. Постепенно количество людей, умеющих подключаться к ноосфере, увеличится, но пока рано. Иначе перегрызёмся, как крысы.

[Эээх]

А он не сможет сам? Если, допустим, в базе будет множество художественных произведений, материалы по истории, психологии, социологии, религиозные тексты?

А как определить императивы добра и зла? По книжке "Что такое хорошо и что такое плохо?" Не иронизирую, действительно не вижу варианта. Только с помощью наставника или погружения в социум.

[maika]

моцк, определённые его разделы


потмоу что это природный ограничитель. Постепенно количество людей, умеющих подключаться к ноосфере, увеличится, но пока рано. Иначе перегрызёмся, как крысы.

Не поняла. Люди перегрызутся, если научатся подключаться к ноосфере? Почему???

[Кукольник]

потому что как минимум вы будете видеть как на ладони, как к вам относится любимый муж или родные дети, и что думает о вас лучшая подруга

[Fr0st Ph0en!x]

А как определить императивы добра и зла?

Ну, так есть же огромный культурный пласт, фактически целиком посвященный этой теме.

[maika]

потому что как минимум вы будете видеть как на ладони, как к вам относится любимый муж или родные дети, и что думает о вас лучшая подруга

И что? Я это и сейчас вижу.
Напротив, мне кажется: если все подключатся к ноосфере,
проще станет понимать друг друга, потому что ноосфера - это разум, и если он станет ОБЩИМ- что в этом плохого?
Это все равно что мысли читать. А тогда - какие ссоры? Ссоры и раздоры на 95 % происходят от того, что люди не ПОНИМАЮТ другого
человека, а исходят из своего ПРЕДСТАВЛЕНИЯ о том, что другой человек имел в виду. Эти представления почти всегда ошибочны.

[Эээх]

Ну, так есть же огромный культурный пласт, фактически целиком посвященный этой теме.

Уточню: как определить, что добро - это хорошо, а зло - это плохо? Допущу, что самообучающийся ИИ усвоил "огромный пласт" и может с легкостью определить, где бобры, а где ослы. Но где те критерии, что определят его "модус вивенди"? Может быть я загоняюсь, но мне кажется это существенным.

[Кукольник]

И что? Я это и сейчас вижу.

святая наивность

Напротив, мне кажется: если все подключатся к ноосфере, проще станет понимать друг друга, потому что ноосфера - это разум, и если он станет ОБЩИМ- что в этом плохого?

ну вот представьте. Понравился мне брутальчик очередной. Так бы он хопа! и сразу бы увидел мои грязные мысли да и сбежал бы от меня. А так - я вошёл к нему в доверие, окрутил, охмурил, в постельку положил. Он сам не понял, как так получилось
А всё благодаря блаженному неведению.
Так что всем в Ноосферу сейчас нельзя. попозже, когда не будет секса, размножения, денег, карьеры и тому подобного - тогда можно и всем. но это вряд ли будут люди. Это будет уже что-то другое.

[Эээх]

Модераторы, пора Ноосферу выделять в отдельную тему Кстати, темка-то интересная и с точки зрения фантастики.

[Fr0st Ph0en!x]

Уточню: как определить, что добро - это хорошо, а зло - это плохо?

Дык он на то и разум, чтобы определенные выводы делать на основе имеющихся данных. Хотя согласен, что в этом случае его представление о добре и зле может сильно отличаться от человеческого.

[maika]

[quote name='Кукольник' date='20.6.2011, 23:36' post='21325']
святая наивность

ну вот представьте. Понравился мне брутальчик очередной. Так бы он хопа! и сразу бы увидел мои грязные мысли да и сбежал бы от меня.[/quote name='Кукольник' date='20.6.2011, 23:36' post='21325']

Аха-ха-ха-ха!

Ну, не такая уж и святая!

Так вот, значит, Кукольник, чем вы промышляете? Соблазняете бруталов?!

Может, наоборот - вы сразу будете видеть всех бруталов, которые мечтают о том, чтобы вы их соблазнили? И все станет проще!

[maika]

Дык он на то и разум, чтобы определенные выводы делать на основе имеющихся данных. Хотя согласен, что в этом случае его представление о добре и зле может сильно отличаться от человеческого.

Если считать, что разум исключительно прагматичен - в утилитарном бытовом понимании прагматизма - то это абсолютно дьявольская получится машина, верно.
Но: эмоции у человека - это есть самый простой и примитивный прибор для интерпретации постоянно обновляющейся базы данных.
И эти эмоции вызываются по большей части химическими реакциями в организме.
Система свой-чужой - по запаху (как пример).

Так если люди смогут создать биороботов, то что сложного в том, чтобы приделать им и биохимические реакции=эмоции? Самый простой и человеческий путь.

[Эээх]

Так если люди смогут создать биороботов, то что сложного в том, чтобы приделать им и биохимические реакции=эмоции? Самый простой и человеческий путь.

Мы тут уже отказались от этого варианта, ибо получается, что в таком случае достаточно просто клонировать человека и не париться с ИИ

А вот вопрос: Какими качествами должен обладать ИИ? Чем он принципиально должен отличаться от человека? Неужели только скоростью мышления? Ведь не только?

[maika]

Мы тут уже отказались от этого варианта, ибо получается, что в таком случае достаточно просто клонировать человека и не париться с ИИ

А вот вопрос: Какими качествами должен обладать ИИ? Чем он принципиально должен отличаться от человека? Неужели только скоростью мышления? Ведь не только?

А зря отказались-то!
Ведь человек так устроен - он безумно хочет все улу-ууу-чшить в себе.
Просто клонировать? Ни фига.
Тем более, что это евгеника.
С одной стороны, клонировать человека запрещено. Морально-этические проблемы и т.д.
Но если какая-то технология появилась - она все равно будет пробиваться так или иначе. Поэтому как раз клонирование людей не будет проще -
будет проще создавать биоробота с определенными заданными параметрами.
И тут, конечно, по потребностям. Лучший воин. Самый выносливый. Самый быстро бегающий.
Самая терпеливая няня. Наиболее знающий и терпеливый учитель. Санитар. Медик, не боящийся крови и грязи, заботливый.

Человек будет делать себе умных слуг, но ему нужен не столько разум, сколько своя собственная улучшенная природа - а что в человеке улучшать?
Чувства, эмоции. Функциональность организма - память, скорость реакции, выносливость, физическую силу.
Но только не мозги! Человек разумный - в восторге от своего ума, и право считаться единственным разумом во Вселенной никому не отдаст.
Мне так кажется.

[Эээх]

А зря отказались-то!

Мы рассматривали ИИ, и истово старались не отходить от темы именно инетллекта =) (пять букв "И" подряд, ГЫ )

[maika]

Мы рассматривали ИИ, и истово старались не отходить от темы именно инетллекта =) (пять букв "И" подряд, ГЫ )

Блин, а сколько пива надо брать, чтоб ИИ так вот рассматривать, с пятью буками ИИ подряд???

[Кукольник]

Может, наоборот - вы сразу будете видеть всех бруталов, которые мечтают о том, чтобы вы их соблазнили? И все станет проще!

дело в том, что обычно им это в голову не приходит, так что искать я буду очень долго Поэтому наша задача взять милости от природы.

Если считать, что разум исключительно прагматичен - в утилитарном бытовом понимании прагматизма - то это абсолютно дьявольская получится машина, верно.

о да, Кукольнег гарантируэ

А вот вопрос: Какими качествами должен обладать ИИ? Чем он принципиально должен отличаться от человека? Неужели только скоростью мышления? Ведь не только?

скажите ,а зачем всенепременно он должен отличаться?

[maika]

скажите ,а зачем всенепременно он должен отличаться?

А на кой ляд он нужен, если не отличается??? Люди и без того друг друга ненавидят - зачем еще плодить таких же, но искусственных?
А! Не! Есть варианты:
1. Как произведение искусства. Галатея. Для любви.
2. Как предмет для выражения ненависти. Мальчики для битья. Ну, тут японцам и манекенов хватает И резиновых кукол.

[kxmep]

Если считать, что разум исключительно прагматичен - в утилитарном бытовом понимании прагматизма - то это абсолютно дьявольская получится машина, верно.

Вот от этой печки надо танцевать, имхо.
Эххх правильно про императивы заострил.

[Кукольник]

А на кой ляд он нужен, если не отличается??? Люди и без того друг друга ненавидят - зачем еще плодить таких же, но искусственных?

так ведь можно таких же, но лучше

1. Как произведение искусства. Галатея. Для любви.

вот как раз это я и имею в виду

Для любви душа не важна,
Болеть лишь может она,
Ничто не нравится ей.

Глупо гнаться за мечтой,
Ведь выход простой -
Машины лучше людей.

Торжество научных идей,
И для людей
Настали чудные дни.

Больше не нужно в страданиях жить.
Способны любить
Лишь машины одни.

(с)

[kxmep]

Разговор о разуме неизбежно расширяется до разговора о сознании (что мы и имеем в настоящей теме).
А если расширить разговор о сознании - неизбежно всплывет термин "душа".

Так что вся дискуссия - еще впереди :)

[vsevolod]

Очень закономерно, что разговор, начавшись с научной проблематики, постепенно ушел в область чистой философии и даже теологии, я бы сказал. Любая научная проблема, если копать ее и копать, обязательно превратится в философскую.

[Кукольник]

на эту тему хорошо высказался бомж из повести моего партнёра, "Недалеко от гетто":

Славик, как-то найдя у сторожа книгу Бердяева, спросил:
- Математика - это наука, физика - это наука, а что такое философия?
Старик недовольно проворчал:
- Всякая наука правдива лишь на какой-то миг времени. Она исходит из потребностей человека. Приходит время, и вот уже король по имени Физика свергает старого короля по имени Вера. Точнее, мы просто верим в новое учение. А философия идёт с цивилизацией нога в ногу во все времена. Она была до физики и математики, и будет после них.

[Эээх]

материал размещен 9 сентября 2011 в 14:24

В тесте участвовали люди, притворявшиеся «чатовыми роботами»

Компьютер с искусственным интеллектом Cleverbot, разработанный Ролло Карпентером (Rollo Carpenter) прекрасно прошел тест Тьюринга (Turing Test), то есть смог провести разговор с волонтерами так, что 59% из них не смогли отличить его от человека.

Взято с mk.ru

[Fr0st Ph0en!x]

Ну, это просто хорошо написанная программа-имитатор. Тем более, 59% - это лишь чуть больше половины. А учитывая, что другие участники тоже под ботов косили... Любопытно, был бы результат аналогичным, если бы все собеседники думали, что общаются с людьми.

[Серый Манул]

Исскуственный интелект возможен. Исскуственный разум только в биологическом виде.

[kxmep]

Исскуственный интелект возможен. Исскуственный разум только в биологическом виде.

Я не далее как вчера купил себе.
Чо, нормально. Двухъядерный (с эмуляцией полушарий), ОС на линухе, вставляется в ухо.
Там акция была: свой родной б/у интеллект сдаешь, и за малую доплату берешь новый, продвинутый.
Рекомендую.

[Fr0st Ph0en!x]

Исскуственный разум только в биологическом виде.

Отчего ж?

Рекомендую.

О, надо бы тоже сходить. Где брали?

[Серый Манул]

Отчего ж?

у металла нет души, без неё разум не может творить. Анализировать да, обрабатывать информацию и совершенствовать да. но выдумывать принципиально новое нет. Это одна из аксиом мира который я пишу.

[Fr0st Ph0en!x]

у металла нет души, без неё разум не может творить. Анализировать да, обрабатывать информацию и совершенствовать да. но выдумывать принципиально новое нет.

*прикрывая дланью чело* Вообще-то, суть темы, в частности, в том и состоит, чтобы выяснить, на каком этапе компиляция превращается в творчество. Анализировать и обрабатывать информацию компьютерные системы могут уже сейчас, для этого интеллект не нужен.