Что делать человеку, Когда будет создан ии? Опции

[Серый Манул]

Что делать человеку, когда будет создан ИИ, который превосходит разум человека? Ваши мысли?

[Ну типа Я]

Ну я с тревогой опасаюсь, что постепенно человек станет инфантильным придатком этих ценных помощников.
Как в Москве-Кассиопее: полное счастье и лимонад каждый день.

Ну это-то нам не грозит в ближайшие сотни, а может и тысячи лет.
Я ведь не просто так допытывался у Манула что есть ИИ, интеллект и прочие жизненные проблемы, пока он марсиан не присовокупил. Все почему-то определяют ИИ (да и сам интеллект) как умение решать сложные задачи. Не будем углубляться в понятие "сложные", поскольку опять же никакого хотя бы сносного определения тут дать нельзя, но умение решать задачи это лишь одно из свойств интеллекта, а не он сам.
С таким же успехом можно оценивать интеллект можно оценивать крышей над головой: в пещере живёт - стало быть совсем тупой, под соломой - чуть поострее, под железной уже интеллектуал, ну а из пластиковых бутылок ну просто гений.
Интеллект это способность к познанию окружающей среды просто так, без цели, мотивации или потребности. В жизни мы это называем любопытством. Оно к нам вместе с жизнью приходит.
От нечего делать мы ковыряем в носу. Зачем? Нам станет веселее? Нет. Принесёт пользу? Нет.
Ребёнок хватает всё что попадёт на глаза. Зачем? Он голодный? Нет. Он разбирается в надуманном искусстве? Нет.
Какая-нибудь амёба усердно без передыху гребёт лапками. Куда? Пожрать? Откуда она может знать, что там жратвы больше, и вообще зачем ей это, если она только что нажралась?
Любопытство позволяет нам действовать без программы. Кто сейчас вспомнит про заложенные в нас генетические коды, мол это и есть программа. Это конечно программа, только крайне узко специализированная, предназначенная лишь для того, чтобы потомство походило на родителей, любопытства в генах нет. У вируса ген есть, а желания бегать по утрам нет.
Поэтому разговоры о коварных замыслах ИИ, об его интеллекте бессмысленны. Да он может захватить мир, но только если ему запрограммировать такую цель. У компа нет любопытства, он не может что-то делать, если ему не будет заданна конкретная цель.
Пример в качестве пояснения. Можно составить программу роботу измерить площадь комнаты с максимальной точностью. Можно заложить в него теорию измерений, как создавать измерительные устройства, как повышать точность. Робот будет мерять, чего-то там изобретать, и измерять всё точнее и точнее в миллиметрах, микронах, нанометрах и т.д. Но этому гению никогда не придёт в голову, пойти и померять соседнюю комнату, если мы только явно ему это не укажем.
Саморазвиваюшиеся программы точно также ограниченны. Можно заложить роботу не конкретную комнату, а понятие жилья в целом. Да он обмеряет все комнаты на Земле, но стадион измерять не пойдёт. А человек пойдёт!

[Ябадзин]

Ну это-то нам не грозит в ближайшие сотни, а может и тысячи лет.
Я ведь не просто так допытывался у Манула что есть ИИ, интеллект и прочие жизненные проблемы, пока он марсиан не присовокупил. Все почему-то определяют ИИ (да и сам интеллект) как умение решать сложные задачи. Не будем углубляться в понятие "сложные", поскольку опять же никакого хотя бы сносного определения тут дать нельзя, но умение решать задачи это лишь одно из свойств интеллекта, а не он сам.
С таким же успехом можно оценивать интеллект можно оценивать крышей над головой: в пещере живёт - стало быть совсем тупой, под соломой - чуть поострее, под железной уже интеллектуал, ну а из пластиковых бутылок ну просто гений.
Интеллект это способность к познанию окружающей среды просто так, без цели, мотивации или потребности. В жизни мы это называем любопытством. Оно к нам вместе с жизнью приходит.
От нечего делать мы ковыряем в носу. Зачем? Нам станет веселее? Нет. Принесёт пользу? Нет.
Ребёнок хватает всё что попадёт на глаза. Зачем? Он голодный? Нет. Он разбирается в надуманном искусстве? Нет.
Какая-нибудь амёба усердно без передыху гребёт лапками. Куда? Пожрать? Откуда она может знать, что там жратвы больше, и вообще зачем ей это, если она только что нажралась?
Любопытство позволяет нам действовать без программы. Кто сейчас вспомнит про заложенные в нас генетические коды, мол это и есть программа. Это конечно программа, только крайне узко специализированная, предназначенная лишь для того, чтобы потомство походило на родителей, любопытства в генах нет. У вируса ген есть, а желания бегать по утрам нет.
Поэтому разговоры о коварных замыслах ИИ, об его интеллекте бессмысленны. Да он может захватить мир, но только если ему запрограммировать такую цель. У компа нет любопытства, он не может что-то делать, если ему не будет заданна конкретная цель.
Пример в качестве пояснения. Можно составить программу роботу измерить площадь комнаты с максимальной точностью. Можно заложить в него теорию измерений, как создавать измерительные устройства, как повышать точность. Робот будет мерять, чего-то там изобретать, и измерять всё точнее и точнее в миллиметрах, микронах, нанометрах и т.д. Но этому гению никогда не придёт в голову, пойти и померять соседнюю комнату, если мы только явно ему это не укажем.
Саморазвиваюшиеся программы точно также ограниченны. Можно заложить роботу не конкретную комнату, а понятие жилья в целом. Да он обмеряет все комнаты на Земле, но стадион измерять не пойдёт. А человек пойдёт!

Я так понимаю, вы говорите о свободе воли? (а то любопытство это еще более расплывчатое что-то).
Ну вроде бы "капитан очевидность", что это один из признаков настоящего ИИ. Какой смысл рассуждать об ограниченных ИИ, которые измеряют комнаты?

[Ну типа Я]

Я так понимаю, вы говорите о свободе воли?

С точностью до наоборот. Как раз в наличии у нас любопытства никакой свободы воли нет - оно есть и всё.

Ну вроде бы "капитан очевидность", что это один из признаков настоящего ИИ. Какой смысл рассуждать об ограниченных ИИ, которые измеряют комнаты?

Назовите мне хоть какой-то программный продукт или железяку, которая эту программу выполняет, которая имеет свободу воли.
Я сам программист и знаю как реализуется широкий выбор в программе, когда невозможно заранее определить входные параметры. Да, можно написать достаточно изощрённый набор условий обработки, но свободой воли там и не пахло.

Я говорю о том, что мы способны действовать без смысла, побуждений или пользы. Попробуйте придумать алгоритм "пойди туда - не знаю куда, принеси то - не знаю что", да ещё с условием что результат нафиг никому не нужен.

[Ябадзин]

С точностью до наоборот. Как раз в наличии у нас любопытства никакой свободы воли нет - оно есть и всё.

Любопытство - это более эмоция. Так сказать, часть "эмоционального разума".
Но реализация акта любопытства невозможна без свободы воли.

Назовите мне хоть какой-то программный продукт или железяку, которая эту программу выполняет, которая имеет свободу воли.

Не назову конечно сейчас.
Но если эта наша функция (свобода воли) будет реализована каким-то образом в ИИ - этот ИИ по поведению будет очень близок к человеку.
Правда, тогда есть риск, что кофемолка перестанет работать.

Я говорю о том, что мы способны действовать без смысла, побуждений или пользы. Попробуйте придумать алгоритм "пойди туда - не знаю куда, принеси то - не знаю что", да ещё с условием что результат нафиг никому не нужен.

Не согласный.
В любом нашем поступке\мысле есть позыв (мотив, спусковой крючок, входной сигнал и т.д.). Он может идти не от разума, а от эмоции, от подсознания, и чаще всего мы этот мотив не можем ясно выявить. Вроде бы это называется динамический хаос (снаружи кажется как хаотическое поведение, но внутри системы есть некие сигналы), как частный случай динамической системы.
Но если создать такой же искусственный аналог - то вот вам и ИИ со свободой воли и желанием левой пятки.
И это не обязательно через жесткий алгоритм - это крайне сложно, здесь я согласен.
Как вариант - некая система на основе динамического хаоса.

[Ну типа Я]

Любопытство - это более эмоция...

Ябадзин, вы подходите с писательской точки зрения. Такое тоже никто не запрещает, а при определённых условиях даже необходимо. Но если нужно решить вопрос с практической точки зрения, надо быть более прагматичным.

Но реализация акта любопытства невозможна без свободы воли.

Компьютеру никто не запрещает приделать себе колёсики и отправится на Северный полюс. Но он этого не сделает, если мы ему не укажем, что он должен туда добраться.