Что делать человеку, Когда будет создан ии? Опции

[Серый Манул]

Что делать человеку, когда будет создан ИИ, который превосходит разум человека? Ваши мысли?

[Ну типа Я]

Ну я с тревогой опасаюсь, что постепенно человек станет инфантильным придатком этих ценных помощников.
Как в Москве-Кассиопее: полное счастье и лимонад каждый день.

Ну это-то нам не грозит в ближайшие сотни, а может и тысячи лет.
Я ведь не просто так допытывался у Манула что есть ИИ, интеллект и прочие жизненные проблемы, пока он марсиан не присовокупил. Все почему-то определяют ИИ (да и сам интеллект) как умение решать сложные задачи. Не будем углубляться в понятие "сложные", поскольку опять же никакого хотя бы сносного определения тут дать нельзя, но умение решать задачи это лишь одно из свойств интеллекта, а не он сам.
С таким же успехом можно оценивать интеллект можно оценивать крышей над головой: в пещере живёт - стало быть совсем тупой, под соломой - чуть поострее, под железной уже интеллектуал, ну а из пластиковых бутылок ну просто гений.
Интеллект это способность к познанию окружающей среды просто так, без цели, мотивации или потребности. В жизни мы это называем любопытством. Оно к нам вместе с жизнью приходит.
От нечего делать мы ковыряем в носу. Зачем? Нам станет веселее? Нет. Принесёт пользу? Нет.
Ребёнок хватает всё что попадёт на глаза. Зачем? Он голодный? Нет. Он разбирается в надуманном искусстве? Нет.
Какая-нибудь амёба усердно без передыху гребёт лапками. Куда? Пожрать? Откуда она может знать, что там жратвы больше, и вообще зачем ей это, если она только что нажралась?
Любопытство позволяет нам действовать без программы. Кто сейчас вспомнит про заложенные в нас генетические коды, мол это и есть программа. Это конечно программа, только крайне узко специализированная, предназначенная лишь для того, чтобы потомство походило на родителей, любопытства в генах нет. У вируса ген есть, а желания бегать по утрам нет.
Поэтому разговоры о коварных замыслах ИИ, об его интеллекте бессмысленны. Да он может захватить мир, но только если ему запрограммировать такую цель. У компа нет любопытства, он не может что-то делать, если ему не будет заданна конкретная цель.
Пример в качестве пояснения. Можно составить программу роботу измерить площадь комнаты с максимальной точностью. Можно заложить в него теорию измерений, как создавать измерительные устройства, как повышать точность. Робот будет мерять, чего-то там изобретать, и измерять всё точнее и точнее в миллиметрах, микронах, нанометрах и т.д. Но этому гению никогда не придёт в голову, пойти и померять соседнюю комнату, если мы только явно ему это не укажем.
Саморазвиваюшиеся программы точно также ограниченны. Можно заложить роботу не конкретную комнату, а понятие жилья в целом. Да он обмеряет все комнаты на Земле, но стадион измерять не пойдёт. А человек пойдёт!

[Ябадзин]

Ну это-то нам не грозит в ближайшие сотни, а может и тысячи лет.
Я ведь не просто так допытывался у Манула что есть ИИ, интеллект и прочие жизненные проблемы, пока он марсиан не присовокупил. Все почему-то определяют ИИ (да и сам интеллект) как умение решать сложные задачи. Не будем углубляться в понятие "сложные", поскольку опять же никакого хотя бы сносного определения тут дать нельзя, но умение решать задачи это лишь одно из свойств интеллекта, а не он сам.
С таким же успехом можно оценивать интеллект можно оценивать крышей над головой: в пещере живёт - стало быть совсем тупой, под соломой - чуть поострее, под железной уже интеллектуал, ну а из пластиковых бутылок ну просто гений.
Интеллект это способность к познанию окружающей среды просто так, без цели, мотивации или потребности. В жизни мы это называем любопытством. Оно к нам вместе с жизнью приходит.
От нечего делать мы ковыряем в носу. Зачем? Нам станет веселее? Нет. Принесёт пользу? Нет.
Ребёнок хватает всё что попадёт на глаза. Зачем? Он голодный? Нет. Он разбирается в надуманном искусстве? Нет.
Какая-нибудь амёба усердно без передыху гребёт лапками. Куда? Пожрать? Откуда она может знать, что там жратвы больше, и вообще зачем ей это, если она только что нажралась?
Любопытство позволяет нам действовать без программы. Кто сейчас вспомнит про заложенные в нас генетические коды, мол это и есть программа. Это конечно программа, только крайне узко специализированная, предназначенная лишь для того, чтобы потомство походило на родителей, любопытства в генах нет. У вируса ген есть, а желания бегать по утрам нет.
Поэтому разговоры о коварных замыслах ИИ, об его интеллекте бессмысленны. Да он может захватить мир, но только если ему запрограммировать такую цель. У компа нет любопытства, он не может что-то делать, если ему не будет заданна конкретная цель.
Пример в качестве пояснения. Можно составить программу роботу измерить площадь комнаты с максимальной точностью. Можно заложить в него теорию измерений, как создавать измерительные устройства, как повышать точность. Робот будет мерять, чего-то там изобретать, и измерять всё точнее и точнее в миллиметрах, микронах, нанометрах и т.д. Но этому гению никогда не придёт в голову, пойти и померять соседнюю комнату, если мы только явно ему это не укажем.
Саморазвиваюшиеся программы точно также ограниченны. Можно заложить роботу не конкретную комнату, а понятие жилья в целом. Да он обмеряет все комнаты на Земле, но стадион измерять не пойдёт. А человек пойдёт!

Я так понимаю, вы говорите о свободе воли? (а то любопытство это еще более расплывчатое что-то).
Ну вроде бы "капитан очевидность", что это один из признаков настоящего ИИ. Какой смысл рассуждать об ограниченных ИИ, которые измеряют комнаты?

[Ну типа Я]

Я так понимаю, вы говорите о свободе воли?

С точностью до наоборот. Как раз в наличии у нас любопытства никакой свободы воли нет - оно есть и всё.

Ну вроде бы "капитан очевидность", что это один из признаков настоящего ИИ. Какой смысл рассуждать об ограниченных ИИ, которые измеряют комнаты?

Назовите мне хоть какой-то программный продукт или железяку, которая эту программу выполняет, которая имеет свободу воли.
Я сам программист и знаю как реализуется широкий выбор в программе, когда невозможно заранее определить входные параметры. Да, можно написать достаточно изощрённый набор условий обработки, но свободой воли там и не пахло.

Я говорю о том, что мы способны действовать без смысла, побуждений или пользы. Попробуйте придумать алгоритм "пойди туда - не знаю куда, принеси то - не знаю что", да ещё с условием что результат нафиг никому не нужен.