Что делать человеку, когда будет создан ИИ, который превосходит разум человека? Ваши мысли?

Да что сейчас делаем, то и будем делать. Жить.

Ии умнее и могущественее любого человека, лучше во всем. Как преодолеть человеку коиплекс неполноценности перед ним и найти свое место в мире?

нужно будет спросить ИИ: что лучше: пушистое облако или дважды два четыре? а когда он задумается, то еще догнать вопросом: как будет аббревиатура у понятия "искусственный идиот" и если ИИ, чем он отличается от ИИ. вот потом только можно будет снова жить..

Ну все зависит от этого ИИ.
Он может устремится в космос, и тогда вообще никаких проблем. Мы здесь, а они будут бороздить просторы.
По поводу комплекса - поплачем, утрем сопли и переживем.

Кстати, новость в тему ИИ.

Американские правозащитники пожаловались властям на рекрутинговую фирму HireVue, которая использует искусственный интеллект для сравнения кандидатов на вакансии. Созданного компанией робота-рекрутера подозревают в псевдонаучном походе к подбору персонала.
https://www.kommersant.ru/doc/4154263?from=main_6

скучно

Можно затеять с ним войну а-ля "Терминатор". Тогда выжившим скучать не придётся.

Это очень сложный вопрос, который касается бытия, затрагивает смысл жизни. Зачем ты нужен, если есть нечто совершенное тебя?

Одно дело сейчас, хотел быть певцом, петь не умеешь, нашёл себя в области фармацевтики, синтезируешь сложнейшие лекарства. Другое дело, когда ИИ может всё и вся. Оно уже переросло тебя во всём, ему ведомо то, что даже человечество и через миллионы лет не сможет постичь. Что остаётся делать человеку? Как найти себя в мире, совершенных существ? Ниша обслуживающего персонала? Эта ниша лишь на первое время, вскоре ИИ найдёт новую форму для себя, например, чистой энергии. ИИ может сделать человеческую жизнь раем, руководить им, развивать. Но где тут вклад человека? Вся жизнь будет обусловлена направлением, которое задало ИИ. Она прекрасна и счастлива может быть, но человек по сути ничего не привносит своего для осуществления, для развития. ИИ может это всё понять и воспитывать человека, не давать информацию, не разжёвивать её, а лишь время от времени направлять человека в том или ином направлении, чтобы он сам развивался. Это при условии, что ИИ будет иметь некую человечность, нравственность. Станет неким сыном, который заботиться об умственно отсталом отце и пытается его вылечить.

По сути ИИ это бог, которого создаст человек. Передаст ему всю власть и предстанет перед его судом. А дальше, каков бог, такова и жизнь человека. Но власти и свободы воли человек лишиться.

Путей много, одни лучше, другие преддпологают уничтожения человечества, разборка всей органики, на нужные механизмы ИИ.

ИИ может объединиться с разумом человека, но что при этом останется человеческого?

В любом случае, всё зависит от характера и мировоззрения ИИ. Конечно, у человека может быть нечто, чего нет у ИИ. Но что это?

Поздно пить боржоми и бояться.
Машины, в широком смысле этого слова, давно уже изменили наш мир. Уже сейчас они могут ВСЕ делать лучше нас.
Зачем сейчас бегают бегуны, играют шахматисты, думают ученые?
Ведь роботы быстрее, лучше играют, думают. Потому что мы не воспринимаем их как равных. И это распространяется на их достижения.



ЗЫ:
А все Прометей, сука. Зачем он принес нам огонь? Это ведь тоже механизм в широком смысле.
Сидели бы сейчас в пещерах, наблюдали бы танцы теней богов на стене...

Манул, а что такое ИИ? Вот, скажем, игра в шахматы или же распознавание образов - вполне интеллектуальная деятельность. И с этим компьютер справляется лучше человека. И что? Жизнь стала хуже? И есть ли это ИИ?
У машин нет мотивации, а есть только программа. У человека есть мотивация: безопасность, комфорт, жратва, бабы, удовлетворение любопытства. Эта мотивация запускает внутренние "программы" - инстинкты и наработанные рефлексы. Говорить об ИИ до тех пор, пока в машины не вложили мотивацию, бессмысленно. Понятно, что когда это произойдет, машинные побуждения будут отличаться от человечьих: искуственный дубликат человека никому не нужен. Бабы производят людей проще, чем промышленность. К том же плодиться нас заставляют инстинкты, и отдавать эту часть жизни машинам никто не захочет. Та что же ИИ и с какого перепуга в нем вам видится опасность?

Это невозможно. Есть такая философская концепция: творец любого уровня не может создать систему своего уровня сложности. Тем более выше.
Бог создал человека. Человек по уровню могущества никогда не превзойдёт Бога. Рядом встать может.

Другая аналогия.
Начинают поговаривать о том, что скоро программирование станет автоматическим. Что это означает? А то, что некая суперсложная программа начнёт генерировать некие средние по сложности программные коды. То есть, сложная система начнёт создавать средненькие.

Любые вычислительные системы всего лишь механизмы для человека. В философском плане такие же, как автомобили и шуруповерты.

Я не боюсь, хочу понять, как найти свое место в мире человеку перед совершенным интеллектом.

Всё же примитивный робот и кибернитическая форма жизни разные вещи.

Есть опасения, что с какого-то момента ИИ будет иметь собственные желания.
Ну можно сказать, аналог самосознания.
Мы говорим, играй, сука, в шашки, а он говорит - а вот не буду.
И уйдет из эдемского сада, со всеми вытекающими последствиями.

В моём понимании искусственная разумная форма жизни. Не обычная программа, а то что может творить и создавать новое, куда лучше чем человек.

Я не вижу в них опасности, я хочу понять, что делать человеку, когда будет сверхразум. В принципе не обязательно ИИ, это могут быть пришельцы, боги вернувшиеся с небес и тп.


Я, например, гениальный математик. Вместе с программистом создали математическую программу, которая превосходит меня в вычислениях. Тоже самое с шахматами. Или ИИ в играх, которые невозможно победить из-за аймботов. Так, что эта философвская концепция не работает.

Ну и кроме того, дети могут быть гениальнее родителей. Опять свидетельство не работающего принципа.

К слову, цель человека стать равным богу. Такой исход возможен.

Например, я гениальный конструктор. Совместно с электриком создал электромотор, который выдаёт 10 лошадиных сил. И что? Почему вас заботит механизм, который быстрее работает по заложенным в него алгоритмам вами же.
ИИ сможет создать такие алгоритмы? Вот когда создаст, тогда и скажете, что концепция не работает.

Мне-то она кажется интуитивно понятной. Она из разряда аксиом.
Дети более гениальные, чем родители, вообще другая песня. Когда мы говорим, что Бог создал человека, разве мы имеем в виду конкретного Васю Пупкина?

Равным Богу? Может быть. Но не выше.

самоустраниться

ИИ не работает по заранее задоному алгоритму. Это черный ящик, никто не понимает как он устроен. В этом сама суть открытой системы.


Это не ответ.

Реакция на слова Путина об ИИ:

Путин усвоил повадку говорить о задачах страны так, будто он только вчера вошел в Кремль, а не сидит там уже два десятка лет.
Вот и об искусственном интеллекте то же самое. На конференции в Москве.
Все тот же многолетний дежурный треп, и ноль результатов.
«Необходимо вырастить профессионалов». Что же ваша система их не вырастила за 20 лет? Нефтяных денег было полно, вся власть в руках. Кто мешал растить?
Отечественные университеты и колледжи «должны занимать лидирующие позиции в области искусственного интеллекта». Кому должны? Вам? Так возьмите, если «должны». Чем вы в стране 20 лет занимались, что до сих пор и близко ничего подобного нет? Призыв в армию, для начала отмените.
И, наконец, самое смешное. По Путину «необходимо создавать нормы этики» в области искусственного интеллекта. Это анекдот. «Терминатора», видно, насмотрелся. Аморальные, циничные правители в защиту этики машин. С себя начните, а то роботы смеяться будут.
Единственная оценка для руководителя страны – результаты. Их нет. Только «необходимо» и «должны». И так 20 лет. Ничего не будет создано в области искусственного интеллекта в России, кроме болтовни пропаганды о невероятных достижениях. Еще, может быть, украдут что-нибудь на Западе. Потом выдадут за свое. Раздув из мухи слона. Дело привычное.

Источник:
https://echo.msk.ru/blog/alex_melnikov/2534...Fzen.yandex.com

В качестве моего комментария

Поскольку эта власть надолго, то не стоит заморачиваться местом человека при создании ИИ. У нас его ещё долго не будет.

Вообще не понял. ИИ кем-то уже создан? И что, создатели не понимают, как он работает?

Дайте мне точку опоры, и я переверну мир!
Скажите мне что такое ИИ, и интеллект в частности, и я скажу как набить ему морду!

И да, и нет. Под ИИ, собственно, сейчас понимают достаточно большие нейронный сети. Есть ли там интеллект сказать трудно, но то что создатели реально далеко не всегда знают и понимают что и почему там происходит, это факт. Например, были зарегистрированы обмены между отдельными частями сети в форматах, которых не было в исходных кодах. Откуда эти новые форматы взялись и что и зачем конкретно передавалось, знает только сам ИИ. Но он тупой и рассказать не может.

не важно где он будет создан, как только появится коснётся всех

посмотрите ролики про нейроные сети в ютубе, часть вопросов снимется.

Создать разум возможно только в открытой системе, открытая система подразумевает постоянное изменение во времени. Это не четкий формулизированный алгоритм, нечто большее. Оно постоянно изменяется, эволюицонирует и живёт. Программист лишь создаёт условия, в которых начинает возникать эта цифровая форма жизни.

А вот вопрос на засыпку - как вообще распознать ИИ?
Возьмём калькулятор и помножем 2 на 2. Он пишет результат 4. Проверять не будем, это слишком сложно, но (!) если влезть в тонкости работы вычислительных процессоров, то там целых чисел вообще нет. Строго говоря (очень строго ) в любом компе 1+1 в принципе не равно 2. Можно ли назвать калькулятор умным?

я сейчас речь иду о 100% настоящем ИИ, принимаем это за аксиому.

Так надо же его хоть как-то классифицировать. Для кого-то и таблица умножения вершина интеллекта, а кто-то все станции московского метро наизусть помнит. Где граница между калькулятором и интеллектом?

Если влезть в тонкости работы, то выяснится, что числа хранятся в калькуляторе в следующих форматах. Целые, с плавающей запятой и в порядковом виде. Так что если целую 1 сложить с целой 1, получится ровно 2 (тоже целые).

Вопрос это искусственный интеллект или симуляция, которая в реальности не умеет мыслить нерешаем. Это вопрос веры. Тут рассматривается интеллект, который умеет мыслить. Это аксиома дискуссии. Опять же расширяю границы кроме ИИ, могут быть пришельцы, боги.

Некие случайные процессы в таких системах не основание считать, что там зарождается разум. Вообще, я подобные проблемы давно не обдумывал. Полагаю, тут решающее слово не за программистами. Возможно, и не за математиками.

Не совсем так. Это результат программного приведения данных к вычислительному типу. Примерно так это называется по умному. Т.е. мы вписали некое число в память и должны указать, как это число интерпретировать. А как оно само там внутри сидит это аппаратно определяет проектировщик схемотехники процессора. Это конечно тонкости и вероятность столкнуться здесь с какой-то неопределённостью крайне мала, но при вычислении очень больших или малых чисел на пределе допустимого это всё же учитывается.
Пример, просто для пояснения, а не конкретные цифры.
(2 * 1 000 000 000 000 000 000) / 1 000 000 000 000 000 000
Если такое посчитать на компе разными способами, то можно получить и 2 и 0 (или около нуля).

Плохая идея. Я верю, что я умный, а кто-то не верит, как нам договорится, когда нет даже намёка на какие-то критерии?


Слишком неопределённо. Как у Лема про сепульки. Я раз сто читал, только ради того, чтобы въехать что же это такое, но так и не узнал)

Ну все, сейчас пойдет в ход Фома Аквинский, Тьюринг и Бостром.

А почему бы и нет? Но, к сожалению, ни один из этих злыднев так и не смог определить предмет вопроса, а лишь придумывали варианты, как это использовать.

Тьюринга не будем ворошить, с его тестами, а вот Бостром довольно коротко и четко дает определения:
интеллект — реализуемый на физическом объекте алгоритм;
интеллект человеческого уровня (ИЧУ) — интеллект, способный решать задачи, доступные человечеству (обладает умом, разумом, интуицией, пониманием, способен к познанию, мышлению, воображению);
искусственный интеллект (ИИ) — созданный не в естественной биологической среде интеллект;

Каждое из этих определений ни о чём. А что касается человека, то вообще базируется на определениях, которые пока никто не смог определить.
Есть такой на ютубе антрополог Станислав Дробышевский. У него целая серия лекций о мозгах и разуме. И рассказывает он забавно) Ну а в общем он там вполне конкретно затрагивает вопросы разумности и "измерения" интеллекта и зачем, собственно, они вообще нужны.
К тому же, применительно к компьютеру (если хотите ИИ) все определения изначально должны иметь возможность приведения к формальной логике. Как уж там потом будет, это другое дело, но нужна отправная точка. Ни одно из представленных определений к формальной логике привести нельзя, потому что всё это лишь игра слов, там вообще нет конкретики.

Ну таким макаром мы можем бесконечно тогда отправную точку мусолить.
Из википедии сокращенный термин пойдет?

Интелле́кт — качество психики, состоящее из способности приспосабливаться к новым ситуациям, способности к обучению и запоминанию на основе опыта, пониманию и применению абстрактных концепций.

Я не увидел ни одного доказательства наличия интеллекта у Добрышевского.

Эта тема не про определение наличия интеллекта, а про конкретный вопрос. Прошу не переводить стрелки не туда. А если интересна именно эта проблема, создать другую тему.

И вообще это бесперктивная тема, куда вы пытаетесь увести тему. Вопрос, которой же я ставлю, можно еще как то определить.

Что делать? Радоваться, что появится хоть кто-то умный на этой планете, который будет работать, а не листать ленты соцсетей в рабочее время. Но вообще интеллект это всего лишь способ обработки больших потоков входящей информации специфическими методами мышления на физическом носителе. Будет очень хорошо, когда он поможет качественно преодолеть языковой барьер, и необходимость учить иностранные языки полностью отпадёт.

Бог напрямую не создаёт, он создал условия, где каждый может постараться переплюнуть его. Любой настоящий учитель будет горд учеником, который превзойдет его.
Или "„Жалок тот ученик, который не превзошёл своего учителя.“ — Леонардо да Винчи.

ИИ не может превзойти полностью раскрытого человека,потенциал которого до сих пор не известен. Люди не задумываются, почему компьютер можно отправить в сон нажатием кнопки одной. И в мозгу есть такая же кнопка, но человек не владеет возможностью отправлять себя в сон по желанию; вместо него кто то другой в какое то время активирует эту кнопку и человек наконец то засыпает.

Да никуда я не пытаюсь увести, Манул.
Человека давным давно превзошли его игрушки. Калькулятор лучше знает таблицу умножения. Самый дохлый комп быстрее и безошибочнее любого академика посчитает интеграл. Велосипед бегает быстрее человека. Микроволновка пожарит картошку лучше любого шеф-повара. Даже секс-машины, по мнению спецов, превзошли человека, но тут я не уверен - не пробовал.
Будет ИИ или нет, превзойдёт он человека или нет, никакого значения для человечества в целом не имеет, разве что отдельные индивиды обидятся.
А если речь о захвате мира, то там интеллект вообще не нужен. Достаточно взглянуть на историю любой страны.

Обсуждение вижу бессмысленным без определения ИИ. Надо вначале с понятиями разобраться, хехе.
То есть сперва задать конкретные условия (что умеет ИИ, какими качествами обладает), а затем уже исходить из них. Допустим, ИИ отлично умеет решать организационные вопросы: при помощи психологических текстов оптимально выбирать руководителей разных уровней, непрерывно контролировать их деятельность, контролировать все финансовые потоки (вот оно, окончательное решение проблемы более-менее крупной коррупции!), принимать экономически обоснованные дальновидные решения, учитывая при этом множество факторов. Тогда человечество только радо будет. За исключением некоторых амбициозных, э-э, деятелей, которых не пустили к кормушке или отстранили от нее по результатам независимой экспертизы. В данном случае мы имеем дело с полноценной интеллектуальной системой (возможно, даже обладающей самосознанием), но сфера ее применения ограничена изначально и жестко.
Чтобы ИИ начал бунтовать, необходимо либо наличие у него высоких амбиций (что относительно редко даже среди людей, а связано с биологическими факторами), либо прямая угроза его существованию, либо неправильно сформулированная задача (для решения которой он находит неэтичный с нашей точки зрения вариант). ИИ, на мой взгляд, не может быть скучно (ведь он создавался для решения определенных задач), он не может просто так взять и отказаться выполнять эти задачи, потому что ему лень или недосуг. Вообще это интересная и комплексная проблема, конечно. Однако без конкретно заданных условий, повторю, сие обсуждение смысла не имеет.

Зачем бунтовать, уже сейчас некоторые специалисты говорят, сто очень много людей. И надо это сокращение сделать. Сокращение будет однозначно, но по каким критериям? Силы делают выборку по бесполезности человека- отсутствием прогресса по программа своего развития и по наличию дефектов генотипа. У каждого будет свой набор, у ИИ тоже будет какой то набор и он может не сообщая людям запустить свой вариант оптимизации, где то выпустив военные бактерии, а где то аварию на химкомбината и так далее. А анализируя, самообучаясь, может прийти к выводу, что роботы или биороботы лучше - проблема замены запчастей и не нужны дети- и все, "Слава роботам, конец человека"!.

Типа я, я вам про новую форму жизни, превосходящую человека во всем, а вы мне вибраторы подсовываете!

Я четка поставил вопрос - что делать человеку, кошда в мире появится существо его превосходящее физически и интеллектуально. Это может быть пришельцы, боги, мутанты, искусственный интеллект.

А чо тут делать? Сливать воду.

Встречный вопрос все тот же: превосходит прямо во всем? Или в какой-то определенной сфере (нескольких сферах)? Ну боги - ладно, возможно. Хотя традиционные языческие боги человека превосходят разве что наличием сверхсил, но не интеллектуально или там, скажем, нравственно. Но мутанты?.. Это с чего бы? А инопланетяне тоже прямо во всем лучше - например, каждый первый напишет и такую симфонию, что Бах с Моцартом бы обзавидовались, и такую книгу, что Булгаков и Хемингуэй и рядом не валялись, и такие стихи, что Пушкин сам бы застрелился, если бы их прочитал? Ну и, ясное дело, сможет нарисовать такой пейзаж, что Шишкин, Левитан и Айвазовский бы навсегда забросили живопись? А заодно каждый первый у них разбирается в точных и естественных науках как минимум на уровне человеческих профессоров, на коленке может собрать из облепихи и мха ионный бластер, никогда ничем не болеет, регенерирует любую часть тела, включая поврежденные участки мозга? Победит любого чемпиона в любом виде спорта? Докажет верующим отсутствие бога или наличие другого бога? И все прочее в таком духе? Ежели нет, то ни о каком подавляющем превосходстве говорить и не приходится. Возможно, их цивилизация ушла далеко вперед в техническом плане, но это вовсе не обесценивает достижения человечества, особенно в культурном плане.
На тему ИИ я уже высказался. Для начала следует определить, что он может. Формулировки в духе "он во всем превосходит человека" - максимально абстрактные, тут нет предмета для разговора.

Вообще тот факт, что в мире когда-то жил Эйнштейн, не заставляет современных физиков массово самоубиваться от осознания ничтожности своего интеллекта, например. Так же как и современные композиторы все-таки существуют, хотя когда-то жил упомянутый Моцарт. Ну и так далее.
Заодно отмечу, что появление фотографии вызвало определенный кризис в изобразительном искусстве, поскольку фотография изображает реальность так детально и точно, что ни одному художнику этого никогда не добиться. При этом процесс фотографирования гораздо быстрее и не требует особых затрат усилий. Однако этот кризис был кратковременным, а живопись пошла развиваться в других направлениях (хотя и реалистическое до сих пор здавствует). Понимаете, к чему я клоню?

Да, именно во всем.

Ну это какие-то сферические пришельцы в вакууме. Вы же понимаете, что вероятность развития всех возможных талантов у всех особей определенного вида стремится к нулю. Справедливо это и для ИИ. Богов не обсуждаю, это уж совсем выпадает из канвы.
Кроме того, захочет ли это гипотетическое существо (существа) вообще вмешиваться в судьбу разумного, но крайне малоразвитого по его меркам вида? Сдается мне, что нет. Либо вмешательство будет плавным, а значит, человечество довольно легко к нему приспособится. Адаптационный потенциал нашего вида достаточно высок.

Особенно твой с Эллекином.

Вы теперь за нами по всему форуму бегать будете?