Что делать человеку, Когда будет создан ии? Опции

[Ябадзин]

Да нет же. Первобытные люди были намного любопытнее нас хотя бы потому, что их любопытство было связано с риском для жизни, а для нас это не более чем развлечение. А уж с крысой человека и не сравнить, в смысле любопытства мы им и в подметки не годимся. И это не врождённое и не приобретённое качество, оно часть нас самих. Ну как у физического тела есть объём, он не вложен в это тело, это его неотъемлемое свойство.

Это качество, приобретенное в течении эволюции.
Это такая же нас часть самих, как чувство жалости и тому подобное.

Вот именно! Не в свободе воли, а в том, что нет желаний. Мотивация тут вторична. Мы не можем вложить в комп желания, мы можем лишь задать ему цель и способы достижения этой цели. Это как-то не очень укладывается в понятие желаний

Ну хорошо, не свободы воли. Желаний.
Почему вы как-то в лоб все с этим компом? В принципе, можно сделать эмулятор желаний, который будет перебирать заложенные варианты.
Но я не об этом. Кто мешает сделать систему, которая будет иметь желания? Если человек может - то и абстрактный ИИ в будущем тоже сможет иметь желания, мотивы и волю.

[Ну типа Я]

Это качество, приобретенное в течении эволюции.

Да не приобретённое и уж тем более в процессе эволюции. Любопытство, как исследование окружающего мира, заложено изначально.

В принципе, можно сделать эмулятор желаний, который будет перебирать заложенные варианты.

По существующим понятиям это будет обычный компьютер. Сколько бы мы не ставили на него программ для разных задач, он как бы умнее от этого не станет.

Но я не об этом. Кто мешает сделать систему, которая будет иметь желания? Если человек может - то и абстрактный ИИ в будущем тоже сможет иметь желания, мотивы и волю.

Потому что мы сталкиваемся с понятиями, которые не можем определить.


Другое дело, что возможно когда-то мы создадим нечто, чего не сможем отличить от себя самих, например, по мышлению и реакциям. Конечно, философы и фантасты того времени наломают целый лес копий, доказывая друг другу что же это такое, но по факту мы должны к этому относится просто как к человеку с определёнными качествами. Из чего это сделано и как работает уже не будет иметь никакого значения.

[Ябадзин]

Да не приобретённое и уж тем более в процессе эволюции. Любопытство, как исследование окружающего мира, заложено изначально.

Зациклило вас на любопытстве (по мне так какое-нибудь переживание интереснее). Ну кем оно заложено?
Павлов, Вавилов и Дарвин плачет кровавыми эволюционными слезами...
Потому как это обычный наработанный алгоритм поиска\обследования территории. Хомяк проверяет клетку, медвель лезет в помойку, червяк ползет куда-то...

По существующим понятиям это будет обычный компьютер. Сколько бы мы не ставили на него программ для разных задач, он как бы умнее от этого не станет.

Да, верно.

Потому что мы сталкиваемся с понятиями, которые не можем определить.

А чего мы не можем определить-то? Какие понятия?

Другое дело, что возможно когда-то мы создадим нечто, чего не сможем отличить от себя самих, например, по мышлению и реакциям.

Э нет, батенька... Это будет банальный тест Тьюринга или китайская комната. Сделать машину, которую нельзя отличить от человека по реакциями не сложно уже сейчас (слово "мышление" отдельно следует рассматривать).

Конечно, философы и фантасты того времени наломают целый лес копий, доказывая друг другу что же это такое, но по факту мы должны к этому относится просто как к человеку с определёнными качествами. Из чего это сделано и как работает уже не будет иметь никакого значения.

Вот здесь я прислоняюсь в некотором смысле к Манулу..
Ведь этот самый "настоящий" ИИ не обязательно должен будет копировать человка. Ну то есть наличие желаний не означает идентичности этих желаний нашим.
Мы хотим мира, макарон и твилечек, а этот ИИ захочет кроварых жертв, картофельных оладий и охотиться на снарка.
Невозможно будет относится к нему как человеку. Но он будет полноценной личностью при этом.
Как тебе такое, Илон Маск?

[Ну типа Я]

червяк ползет куда-то...

Куда ползёт-то? И зачем? Он нажрался, червичиху три раза в щечку чмокнул, чего ему ещё надо? А он, гад, всё равно ползёт! Ну и хрен с ним, пусть ползёт)

А чего мы не можем определить-то? Какие понятия?

Мышление, интеллект. И даже желания, по существующим понятиям это всего лишь действия гормонов в определённых ситуациях. У компа гормонов нет, хоть японцы и делают роботов всяческих видов и полов)

Э нет, батенька... Это будет банальный тест Тьюринга или китайская комната. Сделать машину, которую нельзя отличить от человека по реакциями не сложно уже сейчас (слово "мышление" отдельно следует рассматривать).

Тест Тьюринга не работал даже во времена Тьюринга. Он лишь обозначил проблему, ну и предложил вполне очевидный вариант решения. А уж если в машину заложить алгоритмы, по которым подобные тесты работают, то вероятность успеха вообще уйдёт к нулю.

Мы хотим мира, макарон и твилечек, а этот ИИ захочет кроварых жертв, картофельных оладий и охотиться на снарка.
Невозможно будет относится к нему как человеку. Но он будет полноценной личностью при этом.

Ну это уже тонкости формулировок назвать ли его человеком-извращенцем или гнусным марсианином)
Но всё же человеком, имхо, будет правильнее. Раз его делали человеки, то и качества он унаследует человеческие, как ни крути, другим просто неоткуда взяться. Может как-то исказятся, но не более. Так что, чтобы мы в этом ИИ не нашли, оно всегда будет отражением самого человека.

[Ябадзин]

Мышление, интеллект. И даже желания, по существующим понятиям это всего лишь действия гормонов в определённых ситуациях. У компа гормонов нет, хоть японцы и делают роботов всяческих видов и полов)

Ну это слишко упрощенно, про гормоны.
Можно сделать модель мышления, которая будет иметь желания, определяемые не биологической моделью поведения, а другой.
Это не будет человеком в нашем понимании, но это существо будет обладать мышлением\интелектом.

Ну это уже тонкости формулировок назвать ли его человеком-извращенцем или гнусным марсианином)
Но всё же человеком, имхо, будет правильнее. Раз его делали человеки, то и качества он унаследует человеческие, как ни крути, другим просто неоткуда взяться. Может как-то исказятся, но не более. Так что, чтобы мы в этом ИИ не нашли, оно всегда будет отражением самого человека.

ну почему отражением? Для этого не надо никого создавать, полная планета людей.
Он\оно будет наделен разумом\интелектом, но его желания вообще будут вне нашей привычной системы. Потому что модель его желаний не должна копировать нашу.
Ну вот Бог создал нас по своему подобию. Но наши желания явно отличаются от желания Бога.
Бог в этом смысле не человек.

[Ну типа Я]

Ну это слишко упрощенно, про гормоны.
Можно сделать модель мышления, которая будет иметь желания, определяемые не биологической моделью поведения, а другой.
Это не будет человеком в нашем понимании, но это существо будет обладать мышлением\интелектом.

Но мы-то не можем мыслить без гормонов! Как мы будем сравнивать наше мышление с "его" мышлением? По скорости решения дифференциальных уравнений? Это, как бы, сомнительный критерий.

Ну это слишко упрощенно, про гормоны.
Можно сделать модель мышления, которая будет иметь желания, определяемые не биологической моделью поведения, а другой.
Это не будет человеком в нашем понимании, но это существо будет обладать мышлением\интелектом.

Никакая модель не бывает полной. Раньше или позже вылезут ограничения, которые заложены в эту модель.

ну почему отражением? Для этого не надо никого создавать, полная планета людей.
Он\оно будет наделен разумом\интелектом, но его желания вообще будут вне нашей привычной системы. Потому что модель его желаний не должна копировать нашу.
Ну вот Бог создал нас по своему подобию. Но наши желания явно отличаются от желания Бога.
Бог в этом смысле не человек.

Про Бога ничего не скажу, а вот про человеков попробую)
Попробуйте придумать желание не нужное человеку, но нужное ИИ. Желания типа лучшего моторного масла для шестерёнок не прокатят, это лишь разновидность человеческих желаний еды и выживания.

[Ябадзин]

Но мы-то не можем мыслить без гормонов! Как мы будем сравнивать наше мышление с "его" мышлением? По скорости решения дифференциальных уравнений? Это, как бы, сомнительный критерий.

Потому что мы биологические объекты, потому и не можем.
Солярис помните? Пример не очень, но я это к тому, что разумное существо может быть и не основе биологии.

Попробуйте придумать желание не нужное человеку, но нужное ИИ. Желания типа лучшего моторного масла для шестерёнок не прокатят, это лишь разновидность человеческих желаний еды и выживания.

ну предположим (условно!), что у этого существа будет стремление к энергетической симметрии в пространстве Калаби-Яу.
И оно начнет схлопывать или разворачивать эти пространства во Вселенной.
Или бегать голым в Мытищах по четным годам второго октября, востанавливая уровень прекрасного.
Папа Карло сделал копию из полена, а мог получится Голем-желающий-странного.

[Ну типа Я]

Потому что мы биологические объекты, потому и не можем.
Солярис помните? Пример не очень, но я это к тому, что разумное существо может быть и не основе биологии.

Ага, Солярис вспомнили)
Но если вы вспомните ещё, то там герои так и не определились разумен ли океан или нет, да и считать ли его вообще живым. Но пример хороший как образец попытки понять чего-то, построенного и действующего на принципах, сильно отличающихся от наших.

ну предположим (условно!), что у этого существа будет стремление к энергетической симметрии в пространстве Калаби-Яу.
И оно начнет схлопывать или разворачивать эти пространства во Вселенной.
Или бегать голым в Мытищах по четным годам второго октября, востанавливая уровень прекрасного.

Ну в целом это усложнённый вариант еды и выживания. Но это пол беды, хуже обстоит со "стремлением". Придётся придумать причины и механизм как это "стремление" могло возникнуть.

[Ябадзин]

Ну в целом это усложнённый вариант еды и выживания. Но это пол беды, хуже обстоит со "стремлением". Придётся придумать причины и механизм как это "стремление" могло возникнуть.

Что заставило Малевича нарисовать "черный квадрат"? Ну понятно, символизм-супрематизм и все такое.
Но ведь были конкретные причины и механизмы. Можем ли мы их вскрыть до самого сигнала единичного синапса? Не уверен...
Но мы рисуем черные квадраты, независимо от причин и механизмов. Не думаю, что Бог создавал нас с целью рисовать эти квадраты. Он просто дал нам свободу воли, свободу желаний\мотивов. Но никак не ограничивал их рамками. Хочешь - рисуй квадраты, хочешь - убивай студенток и кидай их отпиленные руки в речку.

[Ну типа Я]

Что заставило Малевича нарисовать "черный квадрат"? Ну понятно, символизм-супрематизм и все такое.

Малевича заставил нарисовать квадрат режиссёр спектакля за 15 минут до начала, поскольку Малевич прошарился неизвестно где и не доделал обещанные декорации. Но дело не в этом.
В тех принципах, которые сейчас используются для создания ИИ, нет понятий стремлений и желаний. Там есть то, что с некоторой натяжкой, можно назвать мотивацией, а именно поиск в сети наиболее подходящих связей и средств для выполнения поставленной извне (!) задачи.

ЗЫ Ябадзин, я этот вопрос обгладываю уже 2 месяца, а именно попытаться создать логически непротиворечивые и хотя бы условно выполнимые возможности для возникновения у компа хотя бы примитивных желаний. Меня без хрена хрен сожрёшь!)

[Серый Манул]

Можно использовать цифровые аналоги гармонов. Вопррс реализации ИИ мы сейчас не решим. Изначально мне хотелось понять, как человеку существовать в мире, где естт существа, которые могут заменить его во всем и везде. Причем, все они делают лучше чем он сам. Сейчас, можно провести параллель с бушменами. Им пофигу, и так баунти. Но это стагнация.
Очевидно, что превосходящий ИИ во всем и вся это утопия. Очевидно, что проблемы не будет, если ИИ будут узкоспециализированы, очевидно некоторые занятия даже не смотря на ввод ии, останутся, хотя бы на уровне любительском. Процесс не менее важен результата. Просто, лентяи начнут дегоадировать, а люди, которые найдут стлу продолжать развиваться, будут это делать не смотря на то, что они биомусор на фоне этих высших сущностей.

[Ябадзин]

В тех принципах, которые сейчас используются для создания ИИ, нет понятий стремлений и желаний. Там есть то, что с некоторой натяжкой, можно назвать мотивацией, а именно поиск в сети наиболее подходящих связей и средств для выполнения поставленной извне (!) задачи.

Я больше не про чичас. Понятно, что сегодняшний ИИ это инструмент навроде дрели. Умной, но тупой.
Если посмотреть, то как некий вариант ИИ - это колонии животных сейчас (пчелы, муравьи, стаи рыб и т.д.).
У муравья нет мотивации, но она появляется в рамках над-системы (колония).
Вспоминаем Лема.

[Ябадзин]

Можно использовать цифровые аналоги гармонов. Вопррс реализации ИИ мы сейчас не решим. Изначально мне хотелось понять, как человеку существовать в мире, где естт существа, которые могут заменить его во всем и везде. Причем, все они делают лучше чем он сам. Сейчас, можно провести параллель с бушменами. Им пофигу, и так баунти. Но это стагнация.
Очевидно, что превосходящий ИИ во всем и вся это утопия. Очевидно, что проблемы не будет, если ИИ будут узкоспециализированы, очевидно некоторые занятия даже не смотря на ввод ии, останутся, хотя бы на уровне любительском. Процесс не менее важен результата. Просто, лентяи начнут дегоадировать, а люди, которые найдут стлу продолжать развиваться, будут это делать не смотря на то, что они биомусор на фоне этих высших сущностей.

Я не очень понимаю, почему вы проводите жесткую связку "всемогущий ИИ=заменить людей".
Ну вы же не заменяете муравья или бобра в его повседневной жизни. Хотя могли бы построить хатку быстрее, больше и выше.
Если это будет всемогущий ИИ - он вообще не будет лезьт в наш муравейник и делать за нас нашу работу.
Вот сейчас же Бог не приносит мне зарплату, чтобы я на работу не ходил.

[Fr0st Ph0en!x]

Нельзя разделять физиологию и психологию.

А кто ее тут разделяет? Понятно, что психологические процессы обусловлены физиологическими. Но когда удовлетворены базовые потребности, человек (в норме) начинает удовлетворять прочие - высокоуровневые по отношению к физиологическим.

Чтобы рассуждать на эту тему, необходимо сначала определить что такое интеллект.

Ну это да. Однако в этом обсуждении предполагается, что речь идет об интеллекте, обладающем всеми признаками нашего. То есть в том числе и мотивацией. Ясно, что реального ИИ, если он будет создан, это может и не касаться. То есть, вероятнее всего, интеллектуальные системы не будут выходить за рамки заданного функционала. Но ежели обсуждать в заданном ключе, то придется учитывать и наличие желаний у ИИ. Вопрос в том, какими они будут.

Да не приобретённое и уж тем более в процессе эволюции. Любопытство, как исследование окружающего мира, заложено изначально.

Именно что приобретенное, и именно в процессе эволюции, как иначе-то! У примитивных животных (и бактерий) никакого любопытства нет вовсе. Их может сподвигнуть на деятельность только голод (нехватка питательных веществ), желание размножаться или избежать опасности.

Куда ползёт-то? И зачем?

Жрать хочет. Или там, откуда он уползает, червей и так слишком много. Или там самок не хватает, хотя черви в большинстве таки гермафродиты. Или там слишком жарко\холодно\светло\темно\сухо\сыро\ядовито, или много хищников.

Мышление, интеллект. И даже желания, по существующим понятиям это всего лишь действия гормонов в определённых ситуациях. У компа гормонов нет, хоть японцы и делают роботов всяческих видов и полов)

Гормоны и прочие там нейромедиаторы - это, грубо говоря, биологические регуляторы нашей программы. У ИИ на базе электронных устройств вполне могут быть и другие регуляторы. Собственно, электронные или цифровые.

[Генрих]

Сейчас сказал всезнающему Интернету и пророку его Браузеру: я тебя, с..., сделаю. И дал запрос: "фитюлька ханум". Где там смайлик с соответствующим случаю жестом? Я их сделал. В ответ всего 25 тысяч (не миллионов!) ответов и ни одного попадания.

Знай наших! Нет искусственному разуму!

[Феникс]

В Индонезии чиновников начали заменять на искусственный интеллект. Президент Джоко Видодо планирует реформировать отвечающие за бизнес госорганы, сократив часть людей и поставив вместо них алгоритмы. Он надеется, что это сократит масштаб коррупции в правительстве, и если эксперимент окажется успешным, Джоко продолжит автоматизировать «верхушку» страны.

[Гость_Сочинитель_*]

автоматизировать «верхушку» страны.

Вот у нас бы так.
Автоматам не нужны блага, захваченные и узурпированные нашей верхушкой. Да разве ж они поменяют себя на какой-то там ИИ...

[Феникс]

Вот у нас бы так.
Автоматам не нужны блага, захваченные и узурпированные нашей верхушкой. Да разве ж они поменяют себя на какой-то там ИИ...

Согласен на 100%. Я недавно так смеялся, когда Кудрин пожаловался президенту, что бюрократические припоны правительства стали настолько сложными, что не позволили украсть триллион рублей.))) А прозрачность трат на нацпроекты такова, что видно - ими никто не занимается.)))

[Серый Манул]

программисты могут оставить лазейки или продумать алгоритм скрытой коррупции и воровства, через эти проги

[Ну типа Я]

Вот у нас бы так.
Автоматам не нужны блага, захваченные и узурпированные нашей верхушкой. Да разве ж они поменяют себя на какой-то там ИИ...

Не надо нам так. Это и есть та тайная власть, о которой так любят говорить. Дело, конечно, не в засилье роботов, а в том, что в виртуальном общении нет обязанностей, нет ответчика. К тому же вы вообще нигде и никогда не узнаете, кто реально стоит за всем этими виртуальными услугами.
На деле это уже так и есть. Моей знакомой надо записаться в ГИБДД. Записаться можно только через госуслуги виртуально, а сайт госуслуг сейчас такую услугу не предоставляет по неведомым причинам. Власть есть, услуги есть, а виноватых в том, что ничего не работает, нет. И даже обратиться некуда! Техподдержка вообще на госуслугах сроду не отвечала, а в ГИБДД отвечают тупо - плевать нам на закон, у нас приказ - всё только через сайт госуслуг.