Искусственный интеллект, И прочие приблуды Опции

[Fr0st Ph0en!x]

Наличие самообучающихся систем, само по себе дает потенциальную возможность того, что машина выйдет за рамки своей функции

Это само собой.

[Кукольник]

Под влиянием каких факторов? о_0

долго рассказывать. в основном от накопления погрешностей.

А что ему мешало самодистанцироваться от человечества как такового, вначале использовав его для подготовки этого дистанцирования?

программа он заточен на захват власти

Любопытно, на чем основан такой вывод.

на том же, на котором у хомо сапиенса в хромосомах не предусмотрено умение летать, размахивая руками

[Fr0st Ph0en!x]

программа он заточен на захват власти

Вот то-то и оно. Потому я и говорю, что машина у вас - не разумна в полном смысле слова.
У человека, кстати, тоже есть множество "программных ограничений", но для гибкости поведения они не критичны, более того - могут быть сняты в зависимости от обстоятельств, а затем вновь установлены.

на том же, на котором у хомо сапиенса в хромосомах не предусмотрено умение летать, размахивая руками

Не уловил параллели.

[Брат Гусаров]

У человека, кстати, тоже есть множество "программных ограничений", но для гибкости поведения они не критичны, более того - могут быть сняты в зависимости от обстоятельств, а затем вновь установлены.

Ай не скажите
Много видели людей, которые добравшись до ВЛАСТИ говорили: не, мне это не надо!

А что любовь, так называемая, с человеком делает? Это же тоже програмное

А генеральная программа человека - все вокруг переделать, и поробуйте у этой программы встаньте на пути.

У меня на работе из клетки сбежали две мыши-песчанки. Они перегрызли все до чего достали. Алюминиевые(!) жалюзи, мебель, бумаги.
Не потому что есть хотели или еще что. А потому что тупо МОГЛИ! Вот и человек тоже самое, только в 20 раз хуже.
Если он что-то МОЖЕТ, будьте спокойны, обязательно сделает.

Как думаете, удастся человечеку возвысится над вложенной в него программой, аль он вроде примитивного компьютера с заданной функцией?

[Fr0st Ph0en!x]

Много видели людей, которые добравшись до ВЛАСТИ говорили: не, мне это не надо!

Лично я - ни одного. Но в истории прецеденты, говорят, бывали, ога. И были правители, которые хотели заниматься чем угодно, кроме правления. Тот же царь Алексей Михайлович, к примеру.
Все люди разные. Для некоторых власть и сопутствующая ей ответственность, необходимость постоянно контролировать каждый свой шаг и т.д. - страшный стресс, а не великая радость.

А что любовь, так называемая, с человеком делает? Это же тоже програмное

Дык и я вроде примерно о том же.

Если он что-то МОЖЕТ, будьте спокойны, обязательно сделает.

Далеко не факт, что уж вы.

Но все-таки тема несколько о другомъ.

[Брат Гусаров]

Но все-таки тема несколько о другомъ.

А что, не удалось мне, по вашему, человечество впихнуть в концепцию "простейшей" машины, не способной выйти за свою "функцию"?

В последний момент вмешивается душа, и он говорит: не стану царствовать!
Вот этим от машины и отличается

[Fr0st Ph0en!x]

В последний момент вмешивается душа, и он говорит: не стану царствовать!

Э-э?.. Я вообще-то совсем о других "программных ограничениях" говорил. В частности, об инстинктах. Человеку положено бояться высоты - но люди промышляют всяческим альпинизмом и парашютным спортом. Человеку положено бояться мертвых сородичей, но в ситуации, когда этот страх ничем не поможет, а будет только мешать выживанию, чаще всего этот инстинкт благополучно отключается. Ну, и так далее. Т.е. "программная прошивка" у человека относительно легко модифицируема, если того требуют обстоятельства.

[Брат Гусаров]

Не согласен, то что вы называете прошивкой,
сородичи мертвые, страх высоты и т.п.- это своего рода атавизмы, наследие прошлого,
кто сказал, что это то, как должно?

Вон головной мозг устроен словно луковица, там гипотоламус в середине, и потом слои, слои, с коркой в конце, на которой весь современный человек собственно и записан
инстинкты берут свое начало в животном примитивном прошлом человека, чуть не в беспозвоночном еще
И в любом современном мужиченке можно раскопать кровожадную обезьяну-канибала
Человек есть продолжение миллионов поколений более примитивных существ.

Программа человека, его суть, предназначение - в познании мира и переделывании, а в конечном счете разрушении его
Программа человека - быть в дисбалансе со средой, что-то постоянно менять, перелопачивать, рушить или строить. Быть, так или иначе недовольным тем, что есть.

Как вам такая "системная задачка", и попробуйте выйти за ее пределы

[Fr0st Ph0en!x]

инстинкты берут свое начало в животном примитивном прошлом человека, чуть не в беспозвоночном еще

Дык как бы о том и речь. Потому и "прошивка". Программный слой между железом и операционной системой. Вы что, хотите сказать, что они древние и потому не действуют? Уверяю вас, все как раз наоборот - древние "программные слои" действуют куда сильнее "современных", т.к. отлажены веками.

Программа человека - быть в дисбалансе со средой, что-то постоянно менять, перелопачивать, рушить или строить. Быть, так или иначе недовольным тем, что есть.

Да ну. Вовсе нет.

[Эээх]

А генеральная программа человека - все вокруг переделать, и поробуйте у этой программы встаньте на пути.

Э, нет. В созидании программа человека. То, о чем вы говорите - методы и способы. Оценивать их не будем.

сородичи мертвые, страх высоты и т.п.- это своего рода атавизмы, наследие прошлого,

Ну прям. Мы что уже и вверх не поднимаемся? Если б мы не боялись с крыши свалиться, то и валились бы пачками. Вот когда начнем перемещаться только в двух измерениях, тогда и будем изживать атавизм страха выстоы. Ну и с остальным так же.

Программа человека, его суть, предназначение - в познании мира и переделывании, а в конечном счете разрушении его
Программа человека - быть в дисбалансе со средой, что-то постоянно менять, перелопачивать, рушить или строить. Быть, так или иначе недовольным тем, что есть.

Ну, то что это не так, я уже говорил. Созидание и развитие, а не разрушение и дисбаланс. Иначе не дожило бы человечество бы до нынешнего уровня.

Брат Гусаров, как-то кажется мне, что вы намеренно эпатируете публику, нет?

[Брат Гусаров]

Да ну. Вовсе нет.

Ваша версия

Брат Гусаров, как-то кажется мне, что вы намеренно эпатируете публику, нет?

Работаю над своей манерой общения

А если вы про Гарри, он просто написал мне много гадости в личку, никогда не понимал людей, которые это анонимно делают.

Произведение его правда раскритиковал, но там есть за что
И поделился своей задумкой рассказа Про чистилище нерадивых писателей-фантастов
никаких переходов на личности

А что? Пишет автор чушь - это ведь обман получается, выходящий многотысячным тиражом. А обман- смертный грех!

А как вы считаете, писатель не несет ответственность за правдивость, достоверность и грамотность? В известных рамках.
Как-то попранный на первых строчках школьный курс физики...

[Fr0st Ph0en!x]

Ваша версия

Оставить что-то после себя, как и у всех живых существ. Только у человека это не ограничивается передачей генетического материала. Идеи, мировоззренческие позиции, произведения (любые, включая все прикладное искусство)... В бытовом плане - в том числе. Долго и упорно ремонтированная квартира, выстроенная дача, палисадник, куда сам деревья и цветы высаживал...
И познание, которое здесь уже упоминалось. В той или иной степени.

[Рина]

Мне кажется, что проблема упрется в нечто, что мы называем моралью и правильным выбором. До сих пор все было гладко, ибо машины по сути выбирать не могут - что в них заложено, то они делать и будут, если это более ли менее действие простое. Вроде - позвонить по такому-то номеру. Но если начнется... а что вложить в машинку, чтобы она еще и знала, что такое мораль, воспитание, этика, умела вовремя останавливаться, знала, что такое аморфные понятия как честь и совесть, начнутся и проблемы. Почему проблемы? Вкладывать все это должен все равно человек, даже если и группа людей, а люди, как правило, а:
1) каждый по-своему видит, как правильно и этично, морально;
2) сами вообще-то как правильно частенько не знают и все ситуации предвидеть не могут. А в случае с чем-то, что должно управлять - как бы надо.
Я могу ошибаться, но на данном этапе за каждой машиной все равно стоит человек, который ее обслуживает, следит за поломками, меняет детальки и т.д. Работать же сама в непредвиденных ситуациях машина как бы и не может... а ситуации на то и являются непредвиденными, что предусмотреть их всех невозможно, оттого невозможно вложить в программу алгоритм "как правильно поступить если" на каждый случай.
А повторять мозг не вижу смысла - все равно будет тот же человек с его тараканами.

[Брат Гусаров]

Тоесть, цель- личная самореализация? А если глобально, про всех человеков?

Помойму, Айбек Азимов сформулировал кодекс ИИ - там живому вред не причинять и т.д.

Американцы и израильтяне сейчас сильно на разработку боевых роботов налегают (не хотят сами воевать), там, вроде, все идет к тому, что дройды будут сами принимать решение на уничтожение (чтобы время реагирования сократить)

[Эээх]

Американцы и израильтяне сейчас сильно на разработку боевых роботов налегают (не хотят сами воевать), там, вроде, все идет к тому, что дройды будут сами принимать решение на уничтожение (чтобы время реагирования сократить)

И действовать роботы будут по определенному алгоритму. Увидел объект - определил как негражданский - послал-получил (неполучил) отзыв свой-чужой - открыл огонь. Так что - опять не то.

[kxmep]

Старый текст (по-моему, в "Игроманию") не симметричную тему.

Gomo over?
(Машинный разум или Как всё будет на самом деле)

«Вся жизнь – игра, а люди в ней – игрушки…»

Поговорим о смысле жизни, о большой чёрной цифре, о компьютерах, о королях и о капусте. То есть кто умнее: я или мой пейджер, а также можно ли бота научить правильному русскому мату от души.

Тем более про искусственный интеллект нам ещё Булгаков весьма живописно представил, в смысле как оно бывает и чем заканчивается. Что характерно: и ведь не был Михаил Афанасьевич отягощён хай-тыч премудростями, знанием вражеских языков программирования и прочей теории информации, широкий он специалист был, не флюс какой-нибудь односторонний, мастер! – но главный герой «Собачьего сердца» Полиграф Шариков, не смотря на своё естественное происхождение, есть не что иное, как плачевная попытка создания разума в обход законов природы. Очень жизненная книга. И полезная для понимания сути грядущего Бога из Машины.
А кремниевый монстр из голливудской муви ничего кроме рвотных спазм не вызывает. Никакого разума там нет, спецэффекты одни. Дурацкий фильм про разум – это более из области анекдотов, искусство здесь отсутствует по определению.
Я вам по секрету скажу: на эту тему Достоевского надо читать, а не Лукьяненку. То есть – про человека. В ассемблере нету про человека, и в Си со всеми его плюсами, и вообще любая точная наука лишь описывает событие, объясняет его природу, но не смысл.
Человек разумен – почему? Два и два складывает? Ну, так это можно и болонку натаскать...
Вообще говоря, прежде чем о чём-то рассуждать, надо прежде всего прояснить предмет обсуждения. Об чём, собственно, разговор. В философии это дело называется "Закон исключённого третьего" - красиво и полезно. Начиная спор, скажем, о стуле, сразу формулируем этот стул, как бытовой предмет с четырьмя ножками для сидения на нём. Вроде, оно само собой разумеется, однако экономит кучу времени, сразу отсекая все прочие толкования типа медицинского понятия «стул», и бедному оппоненту не придётся ломать свою больную голову, почему это вдруг такой простой предмет – и вдруг жидкий?
А вот почему в современном обществе так тщательно культивируется небрежение философией?.. Философ - нечто древнегреческое, живущее в бочке. Фонарь обязательно. Оно с ним днём людей ищет. Рентген типа. - Ты кто? - Философ. - Ну, это понятно, я сам марки собираю, а работаешь-то кем?..
То есть - прок, полезность, реальный откат в народном и прочем хозяйстве - нулевой.
Время прикладников, ага.
Чистый социолог и пиарщик на жаловании - эти профессии даже не пересекаются ни по технологии, ни, тем более, по зарплате. Человеку неинтересно чего там внутри атома крутится по орбитам, а интересно ему, чтоб батарея зад грела и ракета чутко бдила его покой на рубежах. Какая уж тут философия!..

А между тем, именно философия, в отличие от иных полезных наук, отвечающих на вопрос как и почему, пытается объяснить - зачем!

Никакому государству это не выгодно. Так ведь люди чего доброго думать научатся, причём - самостоятельно. Одна морока потом с ними... Ведь есть уже удобные, проверенные электроникой аксиомы: Родина, счастье, свобода. Зачем думать, потеть мозгами и вообще напрягаться - жуй готовое... И получается: деньги как синоним свободы поступков, демократия как катализатор свободы слова - и несть им числа.
Никакому Ин. Телу и Эн. Видию не выгодно, чтоб юзерус обыкновенус рассматривал компьютер сугубо как быструю считалку. Так ведь он, юзерус, начнёт задумываться над Разумом вообще, то есть что оно такое есть на самом деле. И молиться монитору перестанет. И даже апгрейдом пренебрежёт, а это, господа хорошие, уже прямой убыток торговцам электронной смертью: чтоб клиент да раз в три месяца свежую дозу себе не вколол - стоять! бояться! деньги не прятать!..
А целая индустрия лит- и кино-лабуды про злобные матрицы и вумные транзисторы? ей кто будет внимать и фанатеть после?..
Культ калькулятора.
Там, где варятся большие деньги, логика подменяется мистикой и человек целенаправленно отвлекается от самого себя: и не думает он, а верит, и смотрит не внутрь, но вовне. И за графикой не видит полигонов. И смеётся ляпам ПРОМТа, и мучит сленгом вордовый спел-чекер, и в любом сканворде на вопрос «реальность?» автоматически отвечает «виртуальная!», и любая работа у него начинается с нажатия «этой кнопки».
Философия юзера не предполагает проникновения сути вещей.
Пример навскидку: земля круглая? а откуда такие интересные сведения, позволено буде спросить? ах, да! курс астрономии в 10 классе очень средней школы плюс пачка фотографий из вакуума, снятых героическими космо-астро-навтами. А вот я завтра выложу в Сеть в два раза толщую пачку импегов, на которых Земля будет плоской. Или квадратной. Или вообще – бубликом.
Тут мне могут резонно возразить, что круглость Земли установленна наукой. Что ж, наука – понятие достаточно ёмкое и заслуживающее всяческого уважения. Но! Наука сама по себе не делается, она создаётся отдельно взятыми учёными, которые изучают и формулируют, и это есть замечательно! Только ведь это они, изучают, они корпят над микро-теле-скопами, чтобы сформулировать очередной закон, они и на основании своих наблюдений делают выводы о форме Земли и маршруте её вращения, они – но не я, не мы!.. Мы всего лишь присутствуем около.
Сказали – «круглая», и мы согласились, приняли на веру.
А верить-то – никому нельзя! Никому и ничему. И не потому что «дурют нашего брата» (хотя и этого хватает), а – думать надо! Головой. Желательно – своей. Берёшь мысль (одну штуку) и начинаешь её тщательно думать. И таким вот макаром - познаёшь мир, начинаешь его понимать, как Коперник, а не соглашаться, как двоечник Вовочка. И компьютер тебе в этом деле – суть полезный инструмент типа кувалды, усилитель интеллекта, но никак не его заменитель.

Так что же есть Разум?
Чтобы ясно и недвусмысленно его сформулировать и потом уже с эталоном подступать к грядущему кремниевому его двойнику, достаточно глянуть на себя, любимого.
Человек, взгляд сверху. Личность и особь: найди десять отличий. Тут мне опять, не менее, а может – и более резонно могут сказать: «Как же так? Зачем упрощать столь ёмкие понятия? Ведь слова «личность» и «особь» содержат миллион отличий, причем внутри себя самих, так как в силу большого интереса к ним философии, обросли мириадами значений?..» Да, конечно, но есть один небольшой нюанс: личность – разумна, а особь – нет. И вот здесь мы вполне можем уловить тот решающий признак, который и отделяет разумное от неразумного.
Любая животная особь имеет всего лишь инстинкты, в то время как личность – чувства и эмоции. Особь находится вне морали, она не может быть плохой или хорошей, как бы там человек на неё в баснях не клеветал, а вот личность… Благородство и подлость, немотивированное насилие и такой же альтруизм, отречение от благ и дикая, паталогическая жадность, враньё, героизм, подвижничество и предательство – всё в одном!.. Есть ещё красивое определение Разума: способность к совершению нелогичных действий. Волк, если он голодный и в стае, нападёт всегда; человек тоже не шибко мирный представитель фауны, но – имеются варианты… Например, пощадить может, в плен взять и кормить там потом – а ведь логичней было б убить. Быстрее, проще и без последующей головной боли – почему?..

Тут надо попутно заметить, что просто так ничего не бывает и детей таки не в капусте находят. Всякое явление или предмет – имеет своего автора, будь то тамагоча или Windows. И Вселенная наша, звёзды и планеты с Землёй в том числе – тоже авторская работа.

Начинаем думать.
Вводим Бога как рабочий термин. Варианты: Демиург, Первый Программист, ets.
В Библии это дело хорошо рассказано. Бог, значит, сделал человека, гому, безмозглым. Сначала.
Рай, он же - Эдем, это ведь застой и стагнация, никакого развития: лев и ягнёнок пасутся бок о бок, никто никого не жрёт. И гома в этом Эдеме суть животное, особь, но никак не личность.
Система с нулевой энтропией, нерабочая, макет.
Поэтому Бог и устроил провокацию с искушением aka грехопадением, чтоб инициировать Разум гомы. Дал ему способность различать Добро и Зло и - внимание! - выбирать.
Это и называется - свободой.
И Разумом.
Слова синонимы, элементарно, Ватсон! - мама мыла раму, маша ела мыло.
Свобода - первичное состояние человека. Основное условие его существования как гомы сапиенсовича. Иначе сказать: свобода - признак разума. Автор всего сущего создавал именно Разум, а потом уже - человека, как носителя разума.
Свобода выбора - непременное условие Разума.

Бог - геймер, и Он же - создатель первой, изначальной супер-игры, квинтэссенции всех жанров: квест науки, экшен войн и прочая адвенчура нашей жизни.
Одна графика чего стоит, что ты!.. Детализация просто умопомрачительная, а уникальность каждой микроскопической травинки? а блендинг зорь? а завораживающая динамика огня? а эффекты освещения и шикарные бэкграунды?.. Сплошной визуальный восторг, источник вдохновения художников-пейзажистов: не хухры-мухры – натура! Левитаны, Куинджи и прочие Шишкины. «Утро в сосновом бору» и «Утро на Q3Tourney2» – почувствуйте разницу.
Отдельного восхищения заслуживает анимация персонажей, ведь не просто разговаривают, но и рот при этом раскрывают, двигая нижней челюстью туда-сюда, шевелят ушами, гнут пальцы, как вместе, так и по одтельности, улыбаются и вообще корчат морды лица: не хухры-мухры – мимика!.. И тоже – портрет Лизы какой-то, совершенно никому неизвестной, не обладающей ни анимешно-восклицательными глазами, ни бюстом известной Лариски, да к тому же не стерео даже, а моно-Лизы – висит в нешуточном музее и стоит, как пожизненный нелимитированный апгрейд всех игроманов вместе взятых в квадрате.
А сколько стоит Ларискин протрет и где ему место висеть, а?
То-то же…

То есть бета-версия (Эдем) была, конечно, рулез! Но никак не форева, увы...
Всё было красиво, но предсказуемо и скучно до икоты. Любые симсы запарят, когда их мышкой рулить без перекуров и помогайл. Жизнь не текла, а стояла мёртвой лужей. Души не было в игре, настоящей горячей красной крови, не было смерти и любви, а лишь – бледная тень, иллюзия выбора и свободы, их имитация, как у наших норнов…

…И тогда Он сделал последний шаг - самоустранился из игры, наделив своих юнитов свободой воли.

Интересно: сюжет понятен (хе-хе...), а вот конец какой? или св. Иоанн Богослов нам уже финальный ролик пересказал своими словами?
Вряд ли... Конец даже не разомкнут, он просто не придуман. Что мы знаем о понятиях Творца, о Его видении добра и зла? Так и Он, утратив контроль, перестал нас понимать и даже наблюдать за нами.
Мы сами делаем свою игру.
Жизнь.

Человек - тоже геймер. По образу и подобию, а как же ж! Творит миры: книги, кины, кваки. Но всё это - суть театр марионеток: герои на ниточках авторского хотения...
Когда же марионетки отстрелят ниточки эти из заныканного шотгана?..

...Сегодня мой компьютер, при прохождении Doom 5, ещё до нажатия на кнопку быстрого сейва выдал сообщение: "А не пошёл бы ты...", после чего самопроизвольно выключился и сгорел.
А недобитые монстры ушли в Сеть, караулить на порнушных порталах юзерские кукисы...

То есть разумной машину можно назвать только в том случае, если при малейшей возможности не работать, сачкануть и перекурить - она работать не будет!
Вот это и есть самый настоящий разум.
Разум свободный в своём выборе, в своих поступках, а не болонка дрессированная.
Добро и зло, инь и янь, чёрное и белое.
Не случайно всё это силиконовое безобразие опирается именно на двоичную систему исчисления... И, кстати, уже отсюда следует вывод об абсолютной несовместимости человеческого и машинного разума: их плюс и минус для нас находятся вне морали. Им же - наше добро и зло тоже, думаю, будет совершенно по барабану.
То есть Искусственный Интеллект задачки наши дурацкие решать не будет. Ни за спасибо, ни за стимул.
Не захочет.
Каким он будет, этот ИИ - не знаю даже я. Могу только сказать, что договориться с Ним вряд ли удастся. Слишком явны бесплодные попытки человечества разговаривать с Всевышним Геймером на протяжении всей его, человечества, истории... Равно как и наоборот.

Тут опять надо заметить, что просто так ничего не бывает и игры таки не сами по себе пишутся. Любой самый распоследний орк, гоблин или, извиняюсь за выражение, покемон имеют своего конкретного автора, будь то Ромеро, Кармак или – а почему бы и нет? – Пажитнов.

Начинаем думать.
Хочу, как в жизни чтоб!..
От плоского спрайтового мира плавненько переходим в полное 3D, текстуры крупнеют и стремятся к фотореалистичности, боты звереют прямо на глазах – но мало! мало!..
В любом учебнике по программированию это дело хорошо рассказано. Человек, значит, сделал юнита, гомо кодус бейсиковича, безмозглым. Сначала.
Дум, он же - Квак, это ведь застой и стагнация, монстры мирно стоят на заранее отведённых для них местах, боты бегают строго по скриптам, никто ни на кого просто так, без воли Геймера, не наезжает.
Система с никакой энтропией, макет реальности, неинтересно.
Раз прошёл, нашёл все секреты, всех монстров отправил в Верхнюю Тундру - за что боролись?... Поэтому Человек совершенно - подчеркиваю красным! - сознательно идёт к логическому завершению Игровой Космогонии в её втором (очередном?) витке.
В создании нового Разума и есть миссия Человека.

Теория же цифровых мутаций – несостоятельна, хотя бы потому, что с образованием всемирной www-помойки aka Интернета стало очевидным, что миллион обезьян, как бы они по клавишам усердно ни колотили, никогда не напишут не то что «Гамлета» но даже «Чижика». Все мутанты нежизнеспособны, как лысые чернобыльские ёжики. И код если и мутирует, то исключительно в сторону «Программа выполнила недопустимую операцию…»
Человек и только он есть Творец будущего Разума. И уже сейчас зарождаются первые биты квази-искушения – деструктивные в своей основе вирусы, зародыш цифровой энтропии, прообраз Зла.
Игры же будут ещё больше выходить за пределы жанровых рамок, смешиваться и симбиотировать, графика достигнет абсолютного совпадения с реальностью, а потом - и превзойдёт её, новые устройства вывода (...у тебя монитор? и чево ты на ём видишь? а пахнет откуда у тебя? и монстра сквозь стекло не пошшупаешь...) создадут эффект присутствия - но по большому счёту это будет всё та же Квака.
Но - как в жизни чтоб! страсти, непредсказуемость, разомкнутый конец - хочу!!!..

И тогда Человек сделает последний шаг - бросит мышь и самоустранится из созданной им игры, наделив юнитов свободой воли.
И Лара Крофт совратит Гордона Фримена.
И в тот же самый момент игра - нет, это будет уже Игра - свернёт своё игровое время и пространство на себя, закуклится и - исчезнет. Перестанет быть.
Перестанет быть - для нас, в нашем понимании игры.

Потому что новому Разуму явно не понравится сюжет предложенный сверху, написанный по нашему образу и подобию.
Он его просто не поймёт.

Что следует в любой игре за финальным клипом?
Game over = Gomo over.
Мы пройдём свою миссию до конца и сами, а на Всевышнем мониторе высветится апокалиптическая надпись "Теперь питание компьютера можно отключить"...

Что Он выберет: Power или Reset?

Что выберем мы?..

[Fr0st Ph0en!x]

Тоесть, цель- личная самореализация?

Не личная самореализация, а "оставление себя". Биологическая программа, расширенная до мыслительных категорий.

Помойму, Айбек Азимов сформулировал кодекс ИИ - там живому вред не причинять и т.д.

Этот кодекс на практике реализовать невозможно. Скажем, что значит "не может причинить вред человеку или бездействием допустить, чтобы человеку был причинен вред"? Как определить понятие вреда, во-первых? Если одно и то же действие может в одних ситуациях быть полезных, а в других - вредным? Или, допустим, на глазах робота один человек попытается убить другого - что тогда, роботу только самоуничтожаться, что ли?
Но вообще, мне кажется, формирование искусственной морали вовсе не обязательно для самообучающейся системы. Вопрос скорее в том, в каких условиях она будет самообучаться.

Старый текст (по-моему, в "Игроманию") не симметричную тему.

Основная мысль текста, непосредственно относящаяся к теме: "Разум определяется свободой выбора". Ну и стоило тогда всю эту простыню сюда постить?

То есть разумной машину можно назвать только в том случае, если при малейшей возможности не работать, сачкануть и перекурить - она работать не будет!
Вот это и есть самый настоящий разум.

И на чем основан сей вывод? Разум равен способности лениться, что ли? А если, скажем, разуму самому будет интересно выполнить эту работу, чтобы получить новые знания и стать совершеннее?

Все мутанты нежизнеспособны, как лысые чернобыльские ёжики. И код если и мутирует, то исключительно в сторону «Программа выполнила недопустимую операцию…»

Если бы все мутанты действительно были нежизнеспособными, тогда мы бы с вами никогда на свет не появились.
Процент нелетальных электронных мутаций, мне кажется, близок к проценту аналогичных биологических.

[vsevolod]

Интеллект - всего лишь часть духовного мира человека, причем не самая главная, хотя и одна из наиболее существенных. Можно создать ИИ, превосходящий человеческий, и это будет совершенно не принципиально для мироздания в целом, ибо в таком конструкте не будет целевого предназначения Homo - а то, что оно есть, для меня несомненно. Кроме того, чисто техническое совершенствование личности и социума, на мой взгляд, исчерпало себя. Сейчас на первый план выходит генная инженерия, т.е. модернизация человека за счет внутренних резервов, а эти резервы огромны. Даже в обыденной жизни человек чувствует избыточность своих возможностей (сны, например - совершенно ненужная вещь для нормального функционирования организма, которому достаточно, видимо, использовать мозг пока на 10-15%). Включение же мозга на большую мощность просто откроет перед субьектом такие пласты бытия, о которых он сейчас ведать не ведает - ну и, собственно, зачем такому субъекту ИИ?.. Вообще, согласитесь, всякая техника, особенно автоматика, функционально есть подражание живому организму - реальность, организованная на основе ДНК, сама по себе суть гораздо более высокий уровень, и если человек научится совершенствовать ее, то техническая модернизация станет просто бессмысленной. А уж хорошо это или плохо - сие вопрос без ответа.

[Fr0st Ph0en!x]

сны, например - совершенно ненужная вещь для нормального функционирования организма, которому достаточно, видимо, использовать мозг пока на 10-15%

Вовсе нет, сон - необходимый механизм усвоения полученной за период бодрствования информации, в т.ч. - и психоэмоциональной. Вдобавок, происходит восстановление резерва нервной системы, проверяются нервные цепи, переходят в экономичный режим пищеварительная, эндокринная и иные системы и т.д.. Распространено заблуждение, что сон - напрасная потеря жизненного времени. На самом деле, полагаю, без сна срок жизни человека был бы в два раза короче.

[vsevolod]

Я имел в виду не сон, а сны - т.е. не анабиоз, а сюжетные видения, иной раз совершенно невероятные, и тем не менее реальные. Практической пользы от них никакой.