Искусственный интеллект, И прочие приблуды Опции

[Серый Манул]

Доброе время суток всем! Пробегала мимо дискуссии, мельком взглянула на занятную темку с ИИ. Хорошие вопросы подняты и меня лично радует то, что жизнь кипит и бурлит, и человеческий разум плещет словно океан.
Добавлю и мою монетку в общую копилку, если никто не возражает.
На сегодня стали историей факты - создание искусственной ДНК, искусственной бактерии (которая еще и посмела размножаться).
Что такое ДНК человека? - Не просто генетический код, а программа управления развитием и поведением человека. Для любой программы (или сложного кода, алгоритма) всегда имеется материальный носитель. У человека он (носитель кода) биологический (органические молекулы и молекулярные цепочки). У ИИ может быть любой носитель, и почему бы и не кремниевый, или иной другой. Тип носителя для кода не принципиален вообще.
Будет ли ИИ Разумом? - Все зависит от его эволюции (начиная с того момента, когда человек перестанет вмешиваться в этот прогресс как любопытный создатель).
Будет ли ИИ похож на человеческий разум? - Не обязательно, и скорее всего нет. Этот машинный разум или любой другой, - Чужой. Как инопланетный разум не обязан быть гуманным и гуманоидным.
Сможет ли человек сосуществовать с ИИ-разумной цивилизацией параллельно? - До определенных рамок, как кроманьонцы и неандертальцы какое-то время тоже Сосуществовали, но ...потом одни съели других. И вопрос о приоритете и территориальных претензиях, равно как и о потреблении энергии был решен окончательно.

Почитал труды Пригожина, что если применить некий математический аппарат, которые будет выдавать хаотический алгоритм. Постепенно из этого хаоса будет образовыватся определенный порядок, и по идеи этот порядок сформирует искусственый интелект? "Неравновестное программирование"

[Серый Манул]

Внимание! Я не знаю как грамотно вырозить научным языком нижеописаную мысль, надеюсь кто-нибудь меня поймёт

Вообщем, почитал немножко труды Пригожина, Ноебелевского лаурята. О его философии нестабильности, родилась идея, перед тем как её рассказать пару цитат:

Динами́ческий ха́ос — явление в теории динамических систем, при котором поведение нелинейной системы выглядит случайным, несмотря на то, что оно определяется детерминистическими законами.

Причиной появления хаоса является неустойчивость (чувствительность) по отношению к начальным условиям и параметрам: малое изменение начального условия со временем приводит к сколь угодно большим изменениям динамики системы.

Самоорганизация, имеющая своим исходом образование через этап хаоса нового порядка или новых структур, может произойти лишь в системах достаточного уровня сложности, обладающих определённым количеством взаимодействующих между собой элементов, имеющих некоторые критические параметры связи и относительно высокие значения вероятностей своих флуктуаций. В противном случае эффекты от синергетического взаимодействия будут недостаточны для появления коллективного поведения элементов системы и тем самым возникновения самоорганизации. Недостаточно сложные системы не способны ни к спонтанной адаптации ни, тем более, к развитию и при получении извне чрезмерного количества энергии теряют свою структуру и необратимо разрушаются.

Так вот, моя идея заключается в слудющем:

Мы береме несколько математических операторов, программ не знаю как правильно сказать, которые должны симулировать разные аспекты интелекта. Эти аппараты связаны между собой, воздействуют друг на друга и обмениваются данными. ПРи этом, они построены на принципах динамического хаоса, уравнение, которое действует по описаному выше способу. По задумке, получая из вне информацию и обрабатывая её, будет рождатся хаос в этих математических системах, а из этого хаоса неким образом будем организовыватся определенная структура, как в реакции Белоусова-Жаботинского. Это и приведет к организации искусственого интелекта?

[karpa]

Попробуйте пообщаться с программистами, которые работают в области робототехники и ИИ, а также используют метод нейронных сетей для этих целей. Если не ошибаюсь, там это должно быть уже учтено. (В смысле количество связей между параметрами и прочее). Эти специалисты давным-давно уже ушли далеко вперед. Но насколько? Только они и ответят.

[Mekshuny]

Lester Wish умеет удивляться и удивлять http://lesterwish.com/l/myo Скоро все будем окольцованы вот этим

[al1618]

Динами́ческий ха́ос — явление в теории динамических систем, при котором поведение нелинейной системы выглядит случайным, несмотря на то, что оно определяется детерминистическими законами.

Причиной появления хаоса является неустойчивость (чувствительность) по отношению к начальным условиям и параметрам: малое изменение начального условия со временем приводит к сколь угодно большим изменениям динамики системы.

Самоорганизация, имеющая своим исходом образование через этап хаоса нового порядка или новых структур, может произойти лишь в системах достаточного уровня сложности, обладающих определённым количеством взаимодействующих между собой элементов, имеющих некоторые критические параметры связи и относительно высокие значения вероятностей своих флуктуаций.

Хм. Для возможности описаного вами надо опровергнуть "закон неубывания энтропии" для теории информации. Не больше и неменьше

"Хаосом" занимается отдельный раздел теоретической мехнаки, а с некоторых пор вроде самостоятельная наука - теория катастроф.
И есть частный вывод - для систем с ростом степеней свобод "стохастический" режим является преобладающим. Тоесть чем сложнее организация тем выше сваливание в хаос - какая уж тут "самоорганизация".
Вывод:
1. Мы чегото явно незнаем
2. Пригожин или действительно "философствовал" или рассматривал какойто искуственный частный случай.

[Серый Манул]

ИИ - должа быть открытой системой и каждый раз извне получать информацию для понижения энтропии, если не будет получать информацию ИИ разложиться или сойдет с ума.
Зарытые системы суть абстрактны, любая система сколечки да открыта. Закрытость- идеал.

[ve7er]

Думаю можно реализовать различные алгоритмы, в том числе и абстракцию и чувства, которые будут развиваться и саморазвиваться. Все дело в вычислительных мощностях. Нужен не просто высокопроизводительный кластер, но и каналы передачи данных должны быть на уровне. Вот в этом и есть главная проблема.

[Брат Гусаров]

последнее...

http://topwar.ru/26239-razrabotka-robota-s...reyti-gran.html

[сталкер]

Законы робототехники сформулированные Азимовым в первую очередь запрещают приносить вред человеку. Один очень развитый робот настолько проникся этим Первым Законом, что для него речь зашла не просто о человеке, а человечестве. И когда наступил момент, когда он мог предовратить гибель Земли, он этого не сделал. Потому что уничтожение Земли означало вынужденную экспансию человечества в космос, и за этим, как он считал, стояло будущее человечества, прогресс. Этого робота звали Жискар.
Он наверно сомневался в своем ужасном выборе, и поэтому самоуничтожился, не выдержав Запрета на причинение вреда человеку.

[Akai]

Интересная тема. Настолько интересная, что я даже рискну заняться некропостингом.

В ходе разговора с Кукольником стало интересно, а что другие форумчане думают по поводу искусственного интеллекта, т.е. потенциальной возможности его создания, целей и задач его разработки, его "психики" и поведения в неоднозначных ситуациях?

Полагаю, создание искусственного интеллекта вполне реально. Уж если возможен естественный разум, то возможен и искусственный.

Думаю, любой естественный разум на определённом этапе развития становится способен создать разум искусственный. Главное условие тут, вероятно, знать, что же создаёшь. А вот с этим у нас большие сложности. Сегодня наука имеет только смутные представления о том, что такое разум. Сейчас он — пойди туда, не знаю куда, найди то, не знаю что. Мы не знаем, что строим. Ориентируемся не на сущность, а на явления (даже отделить их друг от друга пока не в состоянии).

Оттого и реальные перспективы создания искусственного интеллекта пока что крайне туманны. Безусловно, есть значимые успехи, однако коррелируют они практически исключительно с прогрессом в области вычислительной техники — с тем, что понятно. Но связывать искусственный разум только с железом — сложно придумать большую глупость.

Очевидно, что в таких условиях искусственный интеллект может получиться только случайно, и очень вероятно, на его создание уйдёт примерно столько же времени (или сопоставимо), сколько потратила природа на создание интеллекта естественного. Впрочем, возможно, что-то получится быстрее с использованием биологического моделирования.

Насколько я знаю, наиболее впечатляющие успехи в конструировании искусственного интеллекта достигнуты как раз с использованием данного подхода. Если точнее, то наибольшие успехи показывают смешанные модели, но всё-таки с преобладанием биологического подхода. Рано или поздно даже без понимания сути он позволит создать подобие естественного разума. Вот только тот будет по всем характеристикам уступать оригиналу. А если когда-то будет возможно создать копию, то она всего лишь повторит оригинал.

Но это я уже в сторону ухожу.

Цели будут (и есть) исключительно академические, по крайней мере, поначалу. Однако как только удастся добиться успеха, то есть создать работающий образец, они в немалой степени станут утилитарными. Ну как всегда.

Об его «психике» и поведении в неоднозначных ситуациях сейчас сказать нельзя ничего. Они могут быть любыми. Зависит от того, как именно будет реализован искусственный интеллект: какими средствами, в какой среде и т. д. и т. п.

И, собственно, на кой чортъ искусственному интеллекту убивать всех человеков, если они не представляют прямой угрозы его существованию?

Абсолютно незачем. Кстати сказать, любопытный психологический феномен. Если правильно понимаю, это нормальный человеческий парохиализм, но спроецированный на искусственный интеллект. То есть когнитивное искажение.

И, конечно, самый главный вопрос - критерии разумности.

Смешно сказать, но их нет. Точнее — у каждого свои. Давайте и мы свои выработаем.

Я предлагаю для начала не различать интеллект и разум (философы различают), а потом выработать определение. Оттолкнуться можно, скажем, от интеллекта из википедии:

Интеллект — качество психики, состоящее из способности адаптироваться к новым ситуациям, способности к обучению на основе опыта, пониманию и применению абстрактных концепций и использованию своих знаний для управления окружающей средой. Общая способность к познанию и решению трудностей, которая объединяет все познавательные способности человека: ощущение, восприятие, память, представление, мышление, воображение.

Или от разума в словаре Ушакова:

Разум — высшая ступень познавательной деятельности человека, способность логически мыслить, постигая смысл и связь явлений, уяснять законы развития мира, общества и сознательно находить целесообразные способы их преобразования.

Только уберём упоминания человека. И с психикой, наверное, придётся что-то сделать. Не обязательно убирать, можно оставить, но тогда надо и её определить.

Должен заметить, мне эти определения не очень нравятся. Может, предложите лучше?

Вотъ. И здесь я вижу принципиальный момент - чем творчество отличается от компиляции?

Так компиляция — это уже какое-никакое, но творчество. Полагаю, здесь должен быть другой критерий — осмысленность компиляции. К сожалению, на данном этапе развития науки это требование формализовать не представляется возможным.

Оставить что-то после себя, как и у всех живых существ. Только у человека это не ограничивается передачей генетического материала.

Человек в этом плане ничем не отличается от животных, и у него только передача генов. Всё остальное (посадить сына, вырастить дом, построить дерево и т. д.) — это, так сказать, побочный эффект нашей эволюционной адаптации.

Т.к. многие чувства - продукт сознания, а не тела.

Какие?

Более того, говорил о возможном способе получения ИИ в ходе конкуренции саморазвивающихся систем.

Я где-то слышал краем уха, что кто-то когда-то нечто подобное уже пробовал.

Для получения полноценного искусственного интеллекта данный способ не годится. Дело в том, что даже на ускоренную эволюцию требуется значительное время, плюс очень сильно сказывается ограничение в виде компьютера, на котором процесс протекает (это можно понимать как наличие некоторых проблем с вариативностью давления среды).

Результаты получались любопытные: практически идеально приспособленная для существования в заданной среде программа, но вот разум, к сожалению, был ей тупо не нужен. По факту моделировалась эволюция простейших что ли. А дальше эксперименты не пошли.

Я говорил, в большей степени, о естественном коллективном разуме, описываемом в фантастике

Кстати, любопытный факт: человеческий разум в некотором смысле коллективный и без всякой фантастики. И я говорю не о второй сигнальной системе, не о коммуникации посредством речи. Я имею в виду зеркальные нейроны — для них ни речь, ни даже самосознание не нужны.

Компьютеру, в котором действует простая бинарная логика, такое не под силу.

Вы уверены, что не путаете двоичный способ хранения информации с бинарной логикой? Это ведь не догма: ни способ хранения информации (в железе можно реализовать и какой-нибудь другой, но бинарный проще всего), ни используемая для вычислений логика (например, в различных системах искусственного интеллекта часто используется нечёткая).

А самое главное - "машины" не могут поставить перед собой цель и сформулировать задачу.

В определённых пределах вполне могут. Есть для этого алгоритмы.

Уточню: как определить, что добро - это хорошо, а зло - это плохо?

Да хотя бы так же, как это делает человек.

Я лично думаю, что ИИ - это дело уже ближайшего будущего и судя по тому как стремительно развивается компьютерная техника (те же процессоры) появится еще до окончания этого века - возможно даже уже так к годам 30-40-м.

Крайне сомнительно. Скорей всего, ничего не появится, пока в сфере вычислительной техники не произойдёт фазовый переход. А его ничто не предвещает.

Собственно, технически задача реализуема и теоретически не представляет большой сложности. Речь идет о копировании человеческого мозга новыми средствами.

Это и на данный момент нереально (а уж на тот, когда было написано ваше сообщение, тем более). Ни у кого нет требуемых мощностей. Даже если собрать в кучу все суперкомпьютеры на свете, этого не хватит. В среднем в мозгу человека 86 миллиардов нейронов и что-то около квадриллиона связей между ними. Представьте хотя бы объём оперативной памяти, необходимый для хранения этого дела. Я даже не говорю, что оно ещё и функционировать должно параллельно и асинхронно. Так что решить данную задачу сегодня совершенно невозможно.

Вон ребята из Blue Brain Project в конце 2006 года смоделировали на суперкомпьютере Blue Gene всего одну колонку неокортекса крысы. Только одну колонку. 10000 нейронов. Было задействовано 8192 процессора. Причём оно работало даже не в реальном времени. Правда, в прошлом году им вроде бы удалось связать в нейросеть уже 100 колонок (т. е. 1 миллион нейронов), и они надеются скоро запустить модель целого мозга и аж в реальном времени. Ага. Оптимисты. Чтоб вы поняли, откуда мой скепсис: в мозгу крысы порядка 200 миллионов нейронов. И это только нейроны. Без учёта связей.

То есть мы даже коннектом крысы пока не можем смоделировать, а вы на человеческий замахнулись.

"Принципиально иной разум" - не могу согласиться с таким тезисом. Он выморочный. Существует лишь один вид разума - человеческий.

Это либо ксенофобия, либо глупость, либо и то и другое сразу.

Я тут подумал, посоветовался с окрестными разумными хомами: разум может быть только человеческий.

Ну, в реальности-то это не так.

Разговор о разуме неизбежно расширяется до разговора о сознании (что мы и имеем в настоящей теме).
А если расширить разговор о сознании - неизбежно всплывет термин "душа".

Душа — лишняя сущность. Сознание можно прекрасно объяснить и без неё.

Тем более, что это евгеника.

Это не евгеника. Евгеника — это селекция, то есть искусственный отбор и гибридизация, а клонирование — это копирование и больше ничего.

С одной стороны, клонировать человека запрещено. Морально-этические проблемы и т.д.

Да, ох уж эти надуманные проблемы.

Но только не мозги! Человек разумный - в восторге от своего ума, и право считаться единственным разумом во Вселенной никому не отдаст.

Так он ведь даже на планете Земля не единственный.

Существует эмпирический закон Мура, который гласит: «количество транзисторов, размещаемых на кристалле интегральной схемы, удваивается каждые 24 месяца». <…> Тем не менее, закон Мура имеет свой предел, вызванный атомарной природой вещества и ограничением скорости света.

Это заблуждение. Вообще-то закон Мура не о физике, а об экономике. Вот здесь немного подробней: http://habrahabr.ru/company/intel/blog/237607/.

Имеет ли AI точно такие же права как человек?

Нет, конечно. Поначалу уж точно.

Является ли он аналоговой формой жизни?

Что такое аналоговая форма жизни?

Или он есть всего лишь симуляция разума?

Если вы не видите отличий от настоящего разума, то вам всё равно, симуляция это или нет. Относиться будете как к настоящему, лишь бы был похож на человеческий. Потому что психологический перенос.

Смотрели мультфильмы или фильмы про трансформеров? Они машины или живые организмы? Каждый может считать по-своему.

Тут нет пространства, чтобы «считать по-своему». Они не организмы, они выдуманные живые механизмы и электронные компоненты.

Некоторые учёные на полном серьёзе проверяют реальность мира. Кто знает, быдь может они докажут, что мы все живём в матрице.

Уже проверили. Вселенная вполне реальна.

Никакого прогресса в этом направлении нет, и совершенствование железа или софта тут ничем не помогает.

Ошибаетесь, прогресс есть.

жизнь даже мухи - принципиально иное и неизмеримо более сложное явление, чем работа любого суперкомпьютера

O'Керрол с Бринквортом с вами не согласятся.

Рекомендую почитать книжки Дж. Сёрля.

Он не может ошибаться?

полноценный ИИ в принципе невозможен. Что создано Богом, по определению ниже Бога, и повторить своё творение не может.

Чудесно.

Во-первых, этих "сотен миллионов лет эволюции" на самом деле никто не видел.

Изумительно. Собственно, чего-то такого и не хватало после упоминания вами доброго бородатого дедушки, сидящего на облаке.

В психологии существует

Напрасно вы о психологии вспомнили, потому что психология — это, в общем случае, блуждание в потёмках. Она работает с разумом по принципу чёрного ящика, не видя и не понимая причин явлений, с которыми имеет дело.

Любая программа является алгоритмом или набором алгоритмов, а разум - нет. За доказательствами, опять же, к Пенроузу.

Ну, пока что Пенроуз неправ. То в разуме, что у человечества хватает мозгов понять, так или иначе, алгоритмизируется. А что человечество не понимает сегодня, поймёт завтра, или через год, или через десять лет, или через сто.

И как следствие, возникает производная от этой ошибки - вера в возможность аппроксимации человеческого разума машинными алгоритмами.

Не так уж они и ошибаются.

Но программисты и вообще айтишники при этом останутся не при делах, в лучшем случае - их роль в создании будет сугубо второстепенна.

Так ведь как бы и сейчас искусственным интеллектом занимаются-то не совсем программисты и айтишники. То есть они, конечно, программисты и айтишники, но не в первую голову.

Возвращаясь к теме - есть два момента сдерживающих развитие ИИ.

Отнюдь. Момент, сдерживающий развитие ИИ, всего один — категорическое непонимание, что же такое есть разум.

Но вот странный момент - "железо" (условно) решает далеко не все. Почему-то все забывают о воспитании - человеческий детеныш воспитанный волком (или овцой, обезьяной) небует даже разумным.

Я бы сказал, чаще забывают о том, что человеческое «железо» не статично и до некоторого возраста склонно постоянно меняться. Соответственно, если ему не создать определённые условия, то многие структуры «железо» просто не реализует за ненадобностью, так и функционируя весь срок службы в минимальной конфигурации.

[hacker7]

А какие аспекты интеллекта стоило бы пустить на самоорганизацию для их развития?
Мне трудно увидеть новые аспекты кроме тех, что есть. Те, что есть, с математич. т зр не впечатляют - на их возможности налагает ограничения теория вычислит. сложности
Об этом (в т ч нейронных сетях) писал здесь http://fabulae.ru/prose_b.php?id=31955
То есть если других интеллектов нету, то Мински шутил правильно, инопланетяне будут говорить по-английски, и воевать за миски с жемчугом...

[Max T]

Лет 20 назад, занимался нейросетями и искусственным интеллектом.
Перекопав много литературы, и, решив действовать фундаментально, пошел таким путем: интеллект искусственный должен развиваться, как настоящий, то есть пройти весь путь эволюции. С одноклеточного.
Сказано - сделано. Я сварганил программу нейросети (на Турбо-Паскале) с обратной связью. Алгоритмы там несложные, в книгах уже всё описано. Заложил в неё базовый "живой организм" в виде связанных нескольких "нейронов".

А потом... А потом я плотно задумался - и что дальше?
Искусственному организму, в отличии от живого, не нужно расти. Не нужно побеждать. Ни к чему не нужно стремиться.
Живой человеческий интеллект выработался миллионами лет борьбы за выживание. А моему "искусственному" расти не нужно. Не надо оно ему.
Даже если я, в замкнутом информационном пространстве стравлю несколько нейросетей, у них не будет обратной связи, направленной на победу над другими.
А если и будет такой алгоритм - то это будет заранее заложенная программа, а никак не самостоятельный интеллект.

Перебрав еще несколько вариантов, по которым нейросеть с обратной связью может разрастаться и совершенствоваться, исследования свернул, и забил.

Так что, на основании полутора лет, который я когда-то потратил на это дело, могу ответственно заявить - не будет искусственного интеллекта. Будут программы. Сложные. Но целевые. Не самостоятельные. И только созданные кем то живым.

А все, что я тогда нафантазировал - теперь буду переносить в книги.

[hacker7]

А потом... А потом я плотно задумался

А что вышло из работы программ?!!
Очень интересно

В живых нейросетях меня больше всего удивляют две вещи.

Первое. Как выходит, что разные топологии сети определяют похожие "сознания". Ведь нейроны растут у каждого по-разному. Как это выходит технически, как бы кажется, что в принцие понятно, но не совсем. Тем более что у медиков есть настроения обьяснять работу мозга наличием каких-то центров вплоть до групп нейронов симпатии, что уже точно бред. Центры если и есть, то очень общей и неконкретной да как бы и неинформационной регуляции. Либо влиятельные паттерны, независимо от того, из каких именно нейронов они состоят

В этой связи по Вашим пр-ммам вопрос. Обратная связь как соотносится с обучением?


Второе. Такое впечатление, что сложное поведение может появляться БЕЗ обучения нейросети в педагогич. смысле. Во врожденный навык отбрасывания листьев собакой задними лапами после покакать не верю; но вот скверная привычка лаять на машины приобретена при мне, по примеру других собак, с одного раза
Этот механизм обучения вполне обычной "тупой" сети (каковы они все) приближает их к логическим машинам, от перспектив которых эйфория прошла, но вот они в природе всё же есть...

[Akai]

А какие аспекты интеллекта стоило бы пустить на самоорганизацию для их развития?

Что?

Как выходит, что разные топологии сети определяют похожие "сознания".

Очевидно, что не такие уж и разные топологии, если сознания похожи. К тому же отнюдь не всё от топологии зависит.

Кстати, а что такое сознание?

Такое впечатление, что сложное поведение может появляться БЕЗ обучения нейросети в педагогич. смысле.

Так и есть.

[NatashaKasher]

Сказано - сделано. Я сварганил программу нейросети (на Турбо-Паскале) с обратной связью. Алгоритмы там несложные, в книгах уже всё описано. Заложил в неё базовый "живой организм" в виде связанных нескольких "нейронов".
А потом... А потом я плотно задумался - и что дальше?

Перебрав еще несколько вариантов, по которым нейросеть с обратной связью может разрастаться и совершенствоваться, исследования свернул, и забил.

Можно позаимствовать это в качестве начала пост-ап рассказа ?

[moiser]

Так что, на основании полутора лет, который я когда-то потратил на это дело, могу ответственно заявить - не будет искусственного интеллекта. Будут программы.

Вообще-то, ИИ - сейчас представляет собой отдельное направление в науке и уже не несёт того смысла, что был ранее.
Тем не менее, я думаю, что вы поторопились с таким утверждением. Дело в том, что пока никто не знает что такое разум и как вообще происходит процесс мышления.
Когда это поймут, то создать разумную машину будет несложно.

[Max T]

Можно позаимствовать это в качестве начала пост-ап рассказа ?

Ойдарадибога

[Max T]

Вообще-то, ИИ - сейчас представляет собой отдельное направление в науке и уже не несёт того смысла, что был ранее.
Тем не менее, я думаю, что вы поторопились с таким утверждением. Дело в том, что пока никто не знает что такое разум и как вообще происходит процесс мышления.

Я для себя определяю разум - как способность сопоставлять различные факты для принятия решения.
Вот только человек принимает решения для своих интересов, а у машины интересов нет, если их не заложить искусственно.

[Ну типа Я]

Вот только человек принимает решения для своих интересов

И да и нет. Многие решения человек принимает на уровне инстинктов. Это ничем не отличается от предустановленных параметров в программе.

[Max T]

И да и нет. Многие решения человек принимает на уровне инстинктов. Это ничем не отличается от предустановленных параметров в программе.

Благодаря разуму человек может поступить против инстинктов.