Что делать человеку, Когда будет создан ии? Опции

[Серый Манул]

Что делать человеку, когда будет создан ИИ, который превосходит разум человека? Ваши мысли?

[Ну типа Я]

Ну я с тревогой опасаюсь, что постепенно человек станет инфантильным придатком этих ценных помощников.
Как в Москве-Кассиопее: полное счастье и лимонад каждый день.

Ну это-то нам не грозит в ближайшие сотни, а может и тысячи лет.
Я ведь не просто так допытывался у Манула что есть ИИ, интеллект и прочие жизненные проблемы, пока он марсиан не присовокупил. Все почему-то определяют ИИ (да и сам интеллект) как умение решать сложные задачи. Не будем углубляться в понятие "сложные", поскольку опять же никакого хотя бы сносного определения тут дать нельзя, но умение решать задачи это лишь одно из свойств интеллекта, а не он сам.
С таким же успехом можно оценивать интеллект можно оценивать крышей над головой: в пещере живёт - стало быть совсем тупой, под соломой - чуть поострее, под железной уже интеллектуал, ну а из пластиковых бутылок ну просто гений.
Интеллект это способность к познанию окружающей среды просто так, без цели, мотивации или потребности. В жизни мы это называем любопытством. Оно к нам вместе с жизнью приходит.
От нечего делать мы ковыряем в носу. Зачем? Нам станет веселее? Нет. Принесёт пользу? Нет.
Ребёнок хватает всё что попадёт на глаза. Зачем? Он голодный? Нет. Он разбирается в надуманном искусстве? Нет.
Какая-нибудь амёба усердно без передыху гребёт лапками. Куда? Пожрать? Откуда она может знать, что там жратвы больше, и вообще зачем ей это, если она только что нажралась?
Любопытство позволяет нам действовать без программы. Кто сейчас вспомнит про заложенные в нас генетические коды, мол это и есть программа. Это конечно программа, только крайне узко специализированная, предназначенная лишь для того, чтобы потомство походило на родителей, любопытства в генах нет. У вируса ген есть, а желания бегать по утрам нет.
Поэтому разговоры о коварных замыслах ИИ, об его интеллекте бессмысленны. Да он может захватить мир, но только если ему запрограммировать такую цель. У компа нет любопытства, он не может что-то делать, если ему не будет заданна конкретная цель.
Пример в качестве пояснения. Можно составить программу роботу измерить площадь комнаты с максимальной точностью. Можно заложить в него теорию измерений, как создавать измерительные устройства, как повышать точность. Робот будет мерять, чего-то там изобретать, и измерять всё точнее и точнее в миллиметрах, микронах, нанометрах и т.д. Но этому гению никогда не придёт в голову, пойти и померять соседнюю комнату, если мы только явно ему это не укажем.
Саморазвиваюшиеся программы точно также ограниченны. Можно заложить роботу не конкретную комнату, а понятие жилья в целом. Да он обмеряет все комнаты на Земле, но стадион измерять не пойдёт. А человек пойдёт!

[Ябадзин]

Ну это-то нам не грозит в ближайшие сотни, а может и тысячи лет.
Я ведь не просто так допытывался у Манула что есть ИИ, интеллект и прочие жизненные проблемы, пока он марсиан не присовокупил. Все почему-то определяют ИИ (да и сам интеллект) как умение решать сложные задачи. Не будем углубляться в понятие "сложные", поскольку опять же никакого хотя бы сносного определения тут дать нельзя, но умение решать задачи это лишь одно из свойств интеллекта, а не он сам.
С таким же успехом можно оценивать интеллект можно оценивать крышей над головой: в пещере живёт - стало быть совсем тупой, под соломой - чуть поострее, под железной уже интеллектуал, ну а из пластиковых бутылок ну просто гений.
Интеллект это способность к познанию окружающей среды просто так, без цели, мотивации или потребности. В жизни мы это называем любопытством. Оно к нам вместе с жизнью приходит.
От нечего делать мы ковыряем в носу. Зачем? Нам станет веселее? Нет. Принесёт пользу? Нет.
Ребёнок хватает всё что попадёт на глаза. Зачем? Он голодный? Нет. Он разбирается в надуманном искусстве? Нет.
Какая-нибудь амёба усердно без передыху гребёт лапками. Куда? Пожрать? Откуда она может знать, что там жратвы больше, и вообще зачем ей это, если она только что нажралась?
Любопытство позволяет нам действовать без программы. Кто сейчас вспомнит про заложенные в нас генетические коды, мол это и есть программа. Это конечно программа, только крайне узко специализированная, предназначенная лишь для того, чтобы потомство походило на родителей, любопытства в генах нет. У вируса ген есть, а желания бегать по утрам нет.
Поэтому разговоры о коварных замыслах ИИ, об его интеллекте бессмысленны. Да он может захватить мир, но только если ему запрограммировать такую цель. У компа нет любопытства, он не может что-то делать, если ему не будет заданна конкретная цель.
Пример в качестве пояснения. Можно составить программу роботу измерить площадь комнаты с максимальной точностью. Можно заложить в него теорию измерений, как создавать измерительные устройства, как повышать точность. Робот будет мерять, чего-то там изобретать, и измерять всё точнее и точнее в миллиметрах, микронах, нанометрах и т.д. Но этому гению никогда не придёт в голову, пойти и померять соседнюю комнату, если мы только явно ему это не укажем.
Саморазвиваюшиеся программы точно также ограниченны. Можно заложить роботу не конкретную комнату, а понятие жилья в целом. Да он обмеряет все комнаты на Земле, но стадион измерять не пойдёт. А человек пойдёт!

Я так понимаю, вы говорите о свободе воли? (а то любопытство это еще более расплывчатое что-то).
Ну вроде бы "капитан очевидность", что это один из признаков настоящего ИИ. Какой смысл рассуждать об ограниченных ИИ, которые измеряют комнаты?

[Ну типа Я]

Я так понимаю, вы говорите о свободе воли?

С точностью до наоборот. Как раз в наличии у нас любопытства никакой свободы воли нет - оно есть и всё.

Ну вроде бы "капитан очевидность", что это один из признаков настоящего ИИ. Какой смысл рассуждать об ограниченных ИИ, которые измеряют комнаты?

Назовите мне хоть какой-то программный продукт или железяку, которая эту программу выполняет, которая имеет свободу воли.
Я сам программист и знаю как реализуется широкий выбор в программе, когда невозможно заранее определить входные параметры. Да, можно написать достаточно изощрённый набор условий обработки, но свободой воли там и не пахло.

Я говорю о том, что мы способны действовать без смысла, побуждений или пользы. Попробуйте придумать алгоритм "пойди туда - не знаю куда, принеси то - не знаю что", да ещё с условием что результат нафиг никому не нужен.

[Ябадзин]

С точностью до наоборот. Как раз в наличии у нас любопытства никакой свободы воли нет - оно есть и всё.

Любопытство - это более эмоция. Так сказать, часть "эмоционального разума".
Но реализация акта любопытства невозможна без свободы воли.

Назовите мне хоть какой-то программный продукт или железяку, которая эту программу выполняет, которая имеет свободу воли.

Не назову конечно сейчас.
Но если эта наша функция (свобода воли) будет реализована каким-то образом в ИИ - этот ИИ по поведению будет очень близок к человеку.
Правда, тогда есть риск, что кофемолка перестанет работать.

Я говорю о том, что мы способны действовать без смысла, побуждений или пользы. Попробуйте придумать алгоритм "пойди туда - не знаю куда, принеси то - не знаю что", да ещё с условием что результат нафиг никому не нужен.

Не согласный.
В любом нашем поступке\мысле есть позыв (мотив, спусковой крючок, входной сигнал и т.д.). Он может идти не от разума, а от эмоции, от подсознания, и чаще всего мы этот мотив не можем ясно выявить. Вроде бы это называется динамический хаос (снаружи кажется как хаотическое поведение, но внутри системы есть некие сигналы), как частный случай динамической системы.
Но если создать такой же искусственный аналог - то вот вам и ИИ со свободой воли и желанием левой пятки.
И это не обязательно через жесткий алгоритм - это крайне сложно, здесь я согласен.
Как вариант - некая система на основе динамического хаоса.

[Ну типа Я]

Любопытство - это более эмоция...

Ябадзин, вы подходите с писательской точки зрения. Такое тоже никто не запрещает, а при определённых условиях даже необходимо. Но если нужно решить вопрос с практической точки зрения, надо быть более прагматичным.

Но реализация акта любопытства невозможна без свободы воли.

Компьютеру никто не запрещает приделать себе колёсики и отправится на Северный полюс. Но он этого не сделает, если мы ему не укажем, что он должен туда добраться.

[Ябадзин]

Ябадзин, вы подходите с писательской точки зрения. Такое тоже никто не запрещает, а при определённых условиях даже необходимо. Но если нужно решить вопрос с практической точки зрения, надо быть более прагматичным.

Не с писательской, а с точки зрения физиологии\психики.
Любопытство - это не изначальное качество или категория, а всего лишь проявление\следствие как раз разума\интеллекта\инстинкта.
В данном случае вы подменяете суть разума\интелекта каким-то узким проявлением.
Таракан тоже любопытный. Это свойство почти всех животных видов. Один из аспектов модель поведения и адаптации животных в мире (а может найду где чего слопать?).

Компьютеру никто не запрещает приделать себе колёсики и отправится на Северный полюс. Но он этого не сделает, если мы ему не укажем, что он должен туда добраться.

Он сам себе мешает. У него нет собственных желаний и мыслей.
Если бы у него мотивация (желание) туда добраться - он бы нашел способ реализации. Приделал бы колеса, запряг бы людей в тележку, и вперед залетные...

[Ну типа Я]

Не с писательской, а с точки зрения физиологии\психики.
Любопытство - это не изначальное качество или категория, а всего лишь проявление\следствие как раз разума\интеллекта\инстинкта.

Да нет же. Первобытные люди были намного любопытнее нас хотя бы потому, что их любопытство было связано с риском для жизни, а для нас это не более чем развлечение. А уж с крысой человека и не сравнить, в смысле любопытства мы им и в подметки не годимся. И это не врождённое и не приобретённое качество, оно часть нас самих. Ну как у физического тела есть объём, он не вложен в это тело, это его неотъемлемое свойство.

Он сам себе мешает. У него нет собственных желаний и мыслей.

Вот именно! Не в свободе воли, а в том, что нет желаний. Мотивация тут вторична. Мы не можем вложить в комп желания, мы можем лишь задать ему цель и способы достижения этой цели. Это как-то не очень укладывается в понятие желаний. Какой бы "умный" он не был, но достигнув цели он остановится, а человек нет... и крыса тоже)

[Ябадзин]

Да нет же. Первобытные люди были намного любопытнее нас хотя бы потому, что их любопытство было связано с риском для жизни, а для нас это не более чем развлечение. А уж с крысой человека и не сравнить, в смысле любопытства мы им и в подметки не годимся. И это не врождённое и не приобретённое качество, оно часть нас самих. Ну как у физического тела есть объём, он не вложен в это тело, это его неотъемлемое свойство.

Это качество, приобретенное в течении эволюции.
Это такая же нас часть самих, как чувство жалости и тому подобное.

Вот именно! Не в свободе воли, а в том, что нет желаний. Мотивация тут вторична. Мы не можем вложить в комп желания, мы можем лишь задать ему цель и способы достижения этой цели. Это как-то не очень укладывается в понятие желаний

Ну хорошо, не свободы воли. Желаний.
Почему вы как-то в лоб все с этим компом? В принципе, можно сделать эмулятор желаний, который будет перебирать заложенные варианты.
Но я не об этом. Кто мешает сделать систему, которая будет иметь желания? Если человек может - то и абстрактный ИИ в будущем тоже сможет иметь желания, мотивы и волю.

[Ну типа Я]

Это качество, приобретенное в течении эволюции.

Да не приобретённое и уж тем более в процессе эволюции. Любопытство, как исследование окружающего мира, заложено изначально.

В принципе, можно сделать эмулятор желаний, который будет перебирать заложенные варианты.

По существующим понятиям это будет обычный компьютер. Сколько бы мы не ставили на него программ для разных задач, он как бы умнее от этого не станет.

Но я не об этом. Кто мешает сделать систему, которая будет иметь желания? Если человек может - то и абстрактный ИИ в будущем тоже сможет иметь желания, мотивы и волю.

Потому что мы сталкиваемся с понятиями, которые не можем определить.


Другое дело, что возможно когда-то мы создадим нечто, чего не сможем отличить от себя самих, например, по мышлению и реакциям. Конечно, философы и фантасты того времени наломают целый лес копий, доказывая друг другу что же это такое, но по факту мы должны к этому относится просто как к человеку с определёнными качествами. Из чего это сделано и как работает уже не будет иметь никакого значения.

[Ябадзин]

Да не приобретённое и уж тем более в процессе эволюции. Любопытство, как исследование окружающего мира, заложено изначально.

Зациклило вас на любопытстве (по мне так какое-нибудь переживание интереснее). Ну кем оно заложено?
Павлов, Вавилов и Дарвин плачет кровавыми эволюционными слезами...
Потому как это обычный наработанный алгоритм поиска\обследования территории. Хомяк проверяет клетку, медвель лезет в помойку, червяк ползет куда-то...

По существующим понятиям это будет обычный компьютер. Сколько бы мы не ставили на него программ для разных задач, он как бы умнее от этого не станет.

Да, верно.

Потому что мы сталкиваемся с понятиями, которые не можем определить.

А чего мы не можем определить-то? Какие понятия?

Другое дело, что возможно когда-то мы создадим нечто, чего не сможем отличить от себя самих, например, по мышлению и реакциям.

Э нет, батенька... Это будет банальный тест Тьюринга или китайская комната. Сделать машину, которую нельзя отличить от человека по реакциями не сложно уже сейчас (слово "мышление" отдельно следует рассматривать).

Конечно, философы и фантасты того времени наломают целый лес копий, доказывая друг другу что же это такое, но по факту мы должны к этому относится просто как к человеку с определёнными качествами. Из чего это сделано и как работает уже не будет иметь никакого значения.

Вот здесь я прислоняюсь в некотором смысле к Манулу..
Ведь этот самый "настоящий" ИИ не обязательно должен будет копировать человка. Ну то есть наличие желаний не означает идентичности этих желаний нашим.
Мы хотим мира, макарон и твилечек, а этот ИИ захочет кроварых жертв, картофельных оладий и охотиться на снарка.
Невозможно будет относится к нему как человеку. Но он будет полноценной личностью при этом.
Как тебе такое, Илон Маск?

[Ну типа Я]

червяк ползет куда-то...

Куда ползёт-то? И зачем? Он нажрался, червичиху три раза в щечку чмокнул, чего ему ещё надо? А он, гад, всё равно ползёт! Ну и хрен с ним, пусть ползёт)

А чего мы не можем определить-то? Какие понятия?

Мышление, интеллект. И даже желания, по существующим понятиям это всего лишь действия гормонов в определённых ситуациях. У компа гормонов нет, хоть японцы и делают роботов всяческих видов и полов)

Э нет, батенька... Это будет банальный тест Тьюринга или китайская комната. Сделать машину, которую нельзя отличить от человека по реакциями не сложно уже сейчас (слово "мышление" отдельно следует рассматривать).

Тест Тьюринга не работал даже во времена Тьюринга. Он лишь обозначил проблему, ну и предложил вполне очевидный вариант решения. А уж если в машину заложить алгоритмы, по которым подобные тесты работают, то вероятность успеха вообще уйдёт к нулю.

Мы хотим мира, макарон и твилечек, а этот ИИ захочет кроварых жертв, картофельных оладий и охотиться на снарка.
Невозможно будет относится к нему как человеку. Но он будет полноценной личностью при этом.

Ну это уже тонкости формулировок назвать ли его человеком-извращенцем или гнусным марсианином)
Но всё же человеком, имхо, будет правильнее. Раз его делали человеки, то и качества он унаследует человеческие, как ни крути, другим просто неоткуда взяться. Может как-то исказятся, но не более. Так что, чтобы мы в этом ИИ не нашли, оно всегда будет отражением самого человека.

[Ябадзин]

Мышление, интеллект. И даже желания, по существующим понятиям это всего лишь действия гормонов в определённых ситуациях. У компа гормонов нет, хоть японцы и делают роботов всяческих видов и полов)

Ну это слишко упрощенно, про гормоны.
Можно сделать модель мышления, которая будет иметь желания, определяемые не биологической моделью поведения, а другой.
Это не будет человеком в нашем понимании, но это существо будет обладать мышлением\интелектом.

Ну это уже тонкости формулировок назвать ли его человеком-извращенцем или гнусным марсианином)
Но всё же человеком, имхо, будет правильнее. Раз его делали человеки, то и качества он унаследует человеческие, как ни крути, другим просто неоткуда взяться. Может как-то исказятся, но не более. Так что, чтобы мы в этом ИИ не нашли, оно всегда будет отражением самого человека.

ну почему отражением? Для этого не надо никого создавать, полная планета людей.
Он\оно будет наделен разумом\интелектом, но его желания вообще будут вне нашей привычной системы. Потому что модель его желаний не должна копировать нашу.
Ну вот Бог создал нас по своему подобию. Но наши желания явно отличаются от желания Бога.
Бог в этом смысле не человек.

[Ну типа Я]

Ну это слишко упрощенно, про гормоны.
Можно сделать модель мышления, которая будет иметь желания, определяемые не биологической моделью поведения, а другой.
Это не будет человеком в нашем понимании, но это существо будет обладать мышлением\интелектом.

Но мы-то не можем мыслить без гормонов! Как мы будем сравнивать наше мышление с "его" мышлением? По скорости решения дифференциальных уравнений? Это, как бы, сомнительный критерий.

Ну это слишко упрощенно, про гормоны.
Можно сделать модель мышления, которая будет иметь желания, определяемые не биологической моделью поведения, а другой.
Это не будет человеком в нашем понимании, но это существо будет обладать мышлением\интелектом.

Никакая модель не бывает полной. Раньше или позже вылезут ограничения, которые заложены в эту модель.

ну почему отражением? Для этого не надо никого создавать, полная планета людей.
Он\оно будет наделен разумом\интелектом, но его желания вообще будут вне нашей привычной системы. Потому что модель его желаний не должна копировать нашу.
Ну вот Бог создал нас по своему подобию. Но наши желания явно отличаются от желания Бога.
Бог в этом смысле не человек.

Про Бога ничего не скажу, а вот про человеков попробую)
Попробуйте придумать желание не нужное человеку, но нужное ИИ. Желания типа лучшего моторного масла для шестерёнок не прокатят, это лишь разновидность человеческих желаний еды и выживания.

[Ябадзин]

Но мы-то не можем мыслить без гормонов! Как мы будем сравнивать наше мышление с "его" мышлением? По скорости решения дифференциальных уравнений? Это, как бы, сомнительный критерий.

Потому что мы биологические объекты, потому и не можем.
Солярис помните? Пример не очень, но я это к тому, что разумное существо может быть и не основе биологии.

Попробуйте придумать желание не нужное человеку, но нужное ИИ. Желания типа лучшего моторного масла для шестерёнок не прокатят, это лишь разновидность человеческих желаний еды и выживания.

ну предположим (условно!), что у этого существа будет стремление к энергетической симметрии в пространстве Калаби-Яу.
И оно начнет схлопывать или разворачивать эти пространства во Вселенной.
Или бегать голым в Мытищах по четным годам второго октября, востанавливая уровень прекрасного.
Папа Карло сделал копию из полена, а мог получится Голем-желающий-странного.

[Ну типа Я]

Потому что мы биологические объекты, потому и не можем.
Солярис помните? Пример не очень, но я это к тому, что разумное существо может быть и не основе биологии.

Ага, Солярис вспомнили)
Но если вы вспомните ещё, то там герои так и не определились разумен ли океан или нет, да и считать ли его вообще живым. Но пример хороший как образец попытки понять чего-то, построенного и действующего на принципах, сильно отличающихся от наших.

ну предположим (условно!), что у этого существа будет стремление к энергетической симметрии в пространстве Калаби-Яу.
И оно начнет схлопывать или разворачивать эти пространства во Вселенной.
Или бегать голым в Мытищах по четным годам второго октября, востанавливая уровень прекрасного.

Ну в целом это усложнённый вариант еды и выживания. Но это пол беды, хуже обстоит со "стремлением". Придётся придумать причины и механизм как это "стремление" могло возникнуть.