Я дам вам парабеллум, будем отстреливаться из гранатомета как Сара Коннор

Ну это-то нам не грозит в ближайшие сотни, а может и тысячи лет.
Я ведь не просто так допытывался у Манула что есть ИИ, интеллект и прочие жизненные проблемы, пока он марсиан не присовокупил. Все почему-то определяют ИИ (да и сам интеллект) как умение решать сложные задачи. Не будем углубляться в понятие "сложные", поскольку опять же никакого хотя бы сносного определения тут дать нельзя, но умение решать задачи это лишь одно из свойств интеллекта, а не он сам.
С таким же успехом можно оценивать интеллект можно оценивать крышей над головой: в пещере живёт - стало быть совсем тупой, под соломой - чуть поострее, под железной уже интеллектуал, ну а из пластиковых бутылок ну просто гений.
Интеллект это способность к познанию окружающей среды просто так, без цели, мотивации или потребности. В жизни мы это называем любопытством. Оно к нам вместе с жизнью приходит.
От нечего делать мы ковыряем в носу. Зачем? Нам станет веселее? Нет. Принесёт пользу? Нет.
Ребёнок хватает всё что попадёт на глаза. Зачем? Он голодный? Нет. Он разбирается в надуманном искусстве? Нет.
Какая-нибудь амёба усердно без передыху гребёт лапками. Куда? Пожрать? Откуда она может знать, что там жратвы больше, и вообще зачем ей это, если она только что нажралась?
Любопытство позволяет нам действовать без программы. Кто сейчас вспомнит про заложенные в нас генетические коды, мол это и есть программа. Это конечно программа, только крайне узко специализированная, предназначенная лишь для того, чтобы потомство походило на родителей, любопытства в генах нет. У вируса ген есть, а желания бегать по утрам нет.
Поэтому разговоры о коварных замыслах ИИ, об его интеллекте бессмысленны. Да он может захватить мир, но только если ему запрограммировать такую цель. У компа нет любопытства, он не может что-то делать, если ему не будет заданна конкретная цель.
Пример в качестве пояснения. Можно составить программу роботу измерить площадь комнаты с максимальной точностью. Можно заложить в него теорию измерений, как создавать измерительные устройства, как повышать точность. Робот будет мерять, чего-то там изобретать, и измерять всё точнее и точнее в миллиметрах, микронах, нанометрах и т.д. Но этому гению никогда не придёт в голову, пойти и померять соседнюю комнату, если мы только явно ему это не укажем.
Саморазвиваюшиеся программы точно также ограниченны. Можно заложить роботу не конкретную комнату, а понятие жилья в целом. Да он обмеряет все комнаты на Земле, но стадион измерять не пойдёт. А человек пойдёт!

Я так понимаю, вы говорите о свободе воли? (а то любопытство это еще более расплывчатое что-то).
Ну вроде бы "капитан очевидность", что это один из признаков настоящего ИИ. Какой смысл рассуждать об ограниченных ИИ, которые измеряют комнаты?

С точностью до наоборот. Как раз в наличии у нас любопытства никакой свободы воли нет - оно есть и всё.


Назовите мне хоть какой-то программный продукт или железяку, которая эту программу выполняет, которая имеет свободу воли.
Я сам программист и знаю как реализуется широкий выбор в программе, когда невозможно заранее определить входные параметры. Да, можно написать достаточно изощрённый набор условий обработки, но свободой воли там и не пахло.

Я говорю о том, что мы способны действовать без смысла, побуждений или пользы. Попробуйте придумать алгоритм "пойди туда - не знаю куда, принеси то - не знаю что", да ещё с условием что результат нафиг никому не нужен.

Вообще, конечно, есть такая проблема. Людям придется развиваться, а не только пользоваться благами труда роботов. Ну в идеале, само собой. На деле все вполне успешно может скатиться в квинтэссенцию гедонизма и потребительства - пока ресурсов будет хватать, разумеется.
Собственно говоря, сия тема в немалом количестве фантастических произведений освещалась, волнует она умы.

Как раз таки есть. Все высшие животные, если угодно, на уровне инстинктов запрограммированы тяготеть к восприятию нового опыта. Особенно в юном возрасте. Это и дофаминовой системой активно поощряется, почти на уровне потребления пищи и продолжения рода. Поскольку опыт полезен для выживания. Осторожность, впрочем, тоже заложена в инстинктах - чтобы на пути получения опыта не помереть случайно.

Это вряд ли)
Человек в нынешнем виде существует примерно 40 тыщ лет. От кроманьонцев мы отличаемся лишь тем, что потеряли некоторые адаптивные способности и усыханием мозгов. За это время мозг сократился примерно на 5-10%.
Появление роботов в широком применении только ускорит эти процессы, но никак не приведёт к развитию.

Любопытство присутствует у всех живых существ, по крайней мере у тех, которые могут двигаться или как-то шебуршиться в окружающем пространстве. Нет такого инстинкта, как познание мира, хотя бы с целью пожрать. Есть инстинкт пожрать, а вот для его реализации нужно проявить интеллект.

Ну, в культурном и интеллектуальном смысле. Понятно, что для эволюции время не измеряется тысячелетиями. Максимум, что можно в этом плане осуществить, - улучшать свой геном точечными модификациями.

Ну что вы, у всяких там микроорганизмов оно отсутствует напрочь, все их реакции - это примитивный ответ на изменение условий среды. У низших животных - примерно та же картина, даже среди позвоночных далеко не все проявляют тягу к изучению нового. В основном она свойственна птицам и млекопитающим, современным рептилиям - в куда меньшей степени.

Любопытство - это более эмоция. Так сказать, часть "эмоционального разума".
Но реализация акта любопытства невозможна без свободы воли.



Не назову конечно сейчас.
Но если эта наша функция (свобода воли) будет реализована каким-то образом в ИИ - этот ИИ по поведению будет очень близок к человеку.
Правда, тогда есть риск, что кофемолка перестанет работать.



Не согласный.
В любом нашем поступке\мысле есть позыв (мотив, спусковой крючок, входной сигнал и т.д.). Он может идти не от разума, а от эмоции, от подсознания, и чаще всего мы этот мотив не можем ясно выявить. Вроде бы это называется динамический хаос (снаружи кажется как хаотическое поведение, но внутри системы есть некие сигналы), как частный случай динамической системы.
Но если создать такой же искусственный аналог - то вот вам и ИИ со свободой воли и желанием левой пятки.
И это не обязательно через жесткий алгоритм - это крайне сложно, здесь я согласен.
Как вариант - некая система на основе динамического хаоса.

Да нет конечно, Fr0st Ph0en!x. Это бредни, что обожравшись и завалившись на диван, все тут же начнут расти культурно и интеллектуально. Поговорка "в здоровом теле - здоровый дух" имеет буквальный смысл. Конечно не в смысле проблем со здоровьем, ростом или весом, в том, что весь наш интеллект построен на физической деятельности. Упрощённо говоря, скульптор ваяет скульптуру не потому, что он "вырос" культурно, а потому, что некий неандерталец догадался расколоть камень, чтобы сделать скребок. Не сделай он скребок, не было бы и скульптора. Нафига людям развиваться, когда у них всё есть и им ничего не надо добиваться?

Ябадзин, вы подходите с писательской точки зрения. Такое тоже никто не запрещает, а при определённых условиях даже необходимо. Но если нужно решить вопрос с практической точки зрения, надо быть более прагматичным.


Компьютеру никто не запрещает приделать себе колёсики и отправится на Северный полюс. Но он этого не сделает, если мы ему не укажем, что он должен туда добраться.

Не с писательской, а с точки зрения физиологии\психики.
Любопытство - это не изначальное качество или категория, а всего лишь проявление\следствие как раз разума\интеллекта\инстинкта.
В данном случае вы подменяете суть разума\интелекта каким-то узким проявлением.
Таракан тоже любопытный. Это свойство почти всех животных видов. Один из аспектов модель поведения и адаптации животных в мире (а может найду где чего слопать?).



Он сам себе мешает. У него нет собственных желаний и мыслей.
Если бы у него мотивация (желание) туда добраться - он бы нашел способ реализации. Приделал бы колеса, запряг бы людей в тележку, и вперед залетные...

Да нет же. Первобытные люди были намного любопытнее нас хотя бы потому, что их любопытство было связано с риском для жизни, а для нас это не более чем развлечение. А уж с крысой человека и не сравнить, в смысле любопытства мы им и в подметки не годимся. И это не врождённое и не приобретённое качество, оно часть нас самих. Ну как у физического тела есть объём, он не вложен в это тело, это его неотъемлемое свойство.


Вот именно! Не в свободе воли, а в том, что нет желаний. Мотивация тут вторична. Мы не можем вложить в комп желания, мы можем лишь задать ему цель и способы достижения этой цели. Это как-то не очень укладывается в понятие желаний. Какой бы "умный" он не был, но достигнув цели он остановится, а человек нет... и крыса тоже)

Под ИИ я имел в виду личность, как и мы с вами, только превосходящую нас во всем. Я пока не рассматриваю возможность онной, специально попросил рассмотреть крайний вариант событий.

Пользуясь случаем, мне кто нибудь может помочь перепрограммировать код на ардуино?

Серый Манул, у вас талант задавать неразрешимые вопросы) Если ИИ личность, то какая разница ИИ он или марсианин?


Для себя бы поэкспериментировал, а для других могу лишь посоветовать поискать в интернете подходящий вариант. Ардуино сейчас очень широко применяется и есть куча программ на любые темы. А если у вас некое конкретное устройство, работающее на ардуино, то на сайте производителя наверняка есть готовые решения.

Ну дык помимо физиологических потребностей, потребности в безопасности и так далее есть и потребности более высокого уровня, которые человек начинает удовлетворять только тогда, когда удовлетворены потребности всех предыдущих уровней. Пирамида Маслова, все дела.

Ну если завалиться на диван, то, конечно, не будут. Нет, я понимаю, что в гипотетическом случае всевозможной автоматизации и повсеместных интеллектуальных систем вовсе не наступит утопическая идиллия, когда все заняты искусством, наукой и прочей самореализацией, да еще и космос параллельно осваивают. Но есть все предпосылки для того, чтобы какая-то часть человечества занялась именно этим, а не только просмотром "Дома-2" и ютуб-каналов.

Он не любопытный, он тупо ищет жрать, тепло и воду. Любопытны, к примеру, котята или щенки.

Но если это полноценный интеллект, то есть аналог существа с развитой ЦНС, но на электронном носителе, то он способен сам выработать какую-то мотивацию для определенной деятельности.

Нельзя разделять физиологию и психологию. Это одно целое и неделимое. Тут все писатели, все пишут про ахи-охи под Луной, но любовь по факту всего лишь проявление одного из базовых и примитивных инстинктов. Но как влияет на психологию!


А тут мы начинаем по второму кругу. Чтобы рассуждать на эту тему, необходимо сначала определить что такое интеллект.

Мало ли что... мало ли кого я превосхожу, как личность. Но почему-то властвовать ни над кем не получается. А иногда так приятно было бы кого-нибудь загнобить.
Гм-м-м... у меня родилась мысль. Кто-то же нами управляет, есть министры, есть капиталисты. Может это уже произошло? Нас захватил и эксплуатирует некий превосходящий нас разум. Даже не слышал о таком языке.

Это не язык, это платформа для управления промышленными устройствами, обработки сигналов датчиков и т.п. Имеет собственный язык программирования - модифицированный C++. Применяется от промышленных роботов до детских игрушек, например, "бесполезная коробка" (забавная штука https://www.youtube.com/watch?v=tGCW8xftdOA ).