Про искусственный интеллект

Виктор Иваныч:

А я проводил соцопрос на улице красных фонарей...

А там что, осенняя акция с бесплатными услугами?
Вы аккуратней с этим - есть риск потом оставить бOльшую сумму у венеролога.

Виктор Иваныч

А я проводил соцопрос на улице красных фонарей...

Роман Савин

А там что, осенняя акция с бесплатными услугами? Вы аккуратней с этим - есть риск потом оставить бOльшую сумму у венеролога.

Сергей Новожилов:

главной задачей для машины было бы - сформулировать Цель

Цель ради чего? Человек ставит цели чисто человеческие, обусловленные и человеческой моралью, и человеческим биологическим своим существованием. Какую-то техническую цель машина может поставить и решить её. Но только техническую. А вот человеческие потребности - духовные и физиологические - машине просто не доступны для понимания. Можно ли эти человеческие потребности запрограммировать в машине?

Юрий Григорьев

Человек ставит цели чисто человеческие, обусловленные и человеческой моралью, и человеческим биологическим своим существованием.

Дмитрий Антипов,
Сергей Новожилов,
Интересно конечно...
У меня вот такой вопрос. Общение с ИИ возможно только вербально? К примеру, этот ИИ на какой нибудь вопрос ответит так, что я сочту его глупым и выражу это просто взглядом, молча, он сможет меня понять?

Сергей Новожилов:

Так вот первое, что меня насторожило в приведённом Вами диалоге с машиной - у неё интеллект 30-35-летнего хипстера, кем, видимо, и являются её разработчики и отладчики. Ферштейн? Ещё нет? Объясняю.

30-35? У меня ощущение беседы с ребенком, при чем местами ясельного возраста (фрагмент про сову).

Сергей Новожилов:

Если бы эта машина действительно обладала самообучающимся разумом, то используя всю имеющуюся информацию, она бы довольно быстро доросла и на много лет переросла любого старика, впитав всю многовековую мудрость человечества.

Скорее нет чем да. С ростом объема информации растет и количество связей при чем экспоненциально. Такая машина достигнет какого-то предела после которого рост существенно замедлится и остановится. Человеческий интеллект отличается от машинного своим несовершенством. Он упрощает информацию, искажает и дополняет ее своими придурками. По этому развивается на протяжении всего времени и то с возрастом развитие существенно тормозится. И вот эти же когнитивные искажения являются базой для творчества и фантазии. Информационная модель ИИ слишком правильно работает с информацией, чтобы стать «мудрым старцем»

Сергей Новожилов:

И вот тогда человек бы мог поставить ей задачу, с которой не то, что сам справится не может, а не способен эту задачу даже сформулировать в силу собственной никчемности и неспособности впитать всю мудрость жизни. И этой главной задачей для машины было бы - сформулировать Цель, из которой и проистекают как следствие все остальные подцели, которые человечество перед собой ставило все эти тысячелетия.

Главный вопрос жизни, Вселенной и всего такого известен — 42!
«Путеводитель для путешествующих автостопом по галактике»
Если машина и дала бы правильный ответ, встал бы вопрос правильной интерпретации. ИИ и человеческий интеллект отличаются, а стало быть и языки на котором общаются люди и машины должны быть разные. Человеческий язык для ИИ не родной
Попробуйте закольцевать две программы и они очень быстро зациклятся, а если они «умные», то договорятся о своем языке и перейдут на него. При чем это не язык математики, который мы худо-бедно сможем понять, а что-то свое. В общем — 42!

Сергей Новожилов:

Ну а раз самообучающийся электронный разум ещё не придуман - наслаждаемся беседами с хипстерами!

Эт точно! Мемчики. Лайки. Подписка. Все такое...

Так как на счет определения проявления/имитации чувств в языковой модели? У вас метода нет, как я понял?

Юрий Григорьев:

Сергей Новожилов: главной задачей для машины было бы - сформулировать Цель Цель ради чего? Человек ставит цели чисто человеческие, обусловленные и человеческой моралью, и человеческим биологическим своим существованием. Какую-то техническую цель машина может поставить и решить её. Но только техническую. А вот человеческие потребности - духовные и физиологические - машине просто не доступны для понимания. Можно ли эти человеческие потребности запрограммировать в машине?

На мой взгляд в вопросе целеполагания важнее даже не сама цель, а кто ее ставит. Человек машине или машина сама себе. При чем вариант «человек ставит цель машине поставить самой себе цель» не проходит. Так как если отбросить рекурсию придем к первому варианту.
Если машина могла бы поставить сама себе цель не как результат запрограммированного процесса и не потому, что эту задачу ей ставит человек, а исходя из каких-то своих внутренних процессов, как например опыта, знаний, убеждений у человека, то это было бы доказательством автономности ИИ со всеми вытекающими...

Владимир:

Дмитрий Антипов, Сергей Новожилов, Интересно конечно... У меня вот такой вопрос. Общение с ИИ возможно только вербально? К примеру, этот ИИ на какой нибудь вопрос ответит так, что я сочту его глупым и выражу это просто взглядом, молча, он сможет меня понять?

Не обязательно. Мы просто оттолкнулись от конкретного примера языковой нейросети, которая может только болтать. Понятно, что можно масштабировать модель, добавив визуальную, аудиальную и кинестетическую составляющую. Это просто дело техники.
Прикрутили камеру — она уже воспринимает образы. Прикрутили микрофон — слышит. Прикрутили датчики движения, давления, температуры — чувствует. Но остается ключевой вопрос имитирует она свои чувства/эмоции или реально ощущает/переживает их.

Мобильник тоже реагирует на освещение и меняет тему, но это результат запрограммированного процесса, а не решение самого мобильника так себя вести.

Дмитрий Антипов,
Я не об этом.
Наверняка слышали выражение: что ты смотришь на меня, как на дурака? Этот гипотетический дурак, получается, считал эту реакцию. Такому можно научить ИИ? Понимать такую реакцию. Понятно, что зафиксировать такое с помощью камеры можно.

Дмитрий Антипов:

На мой взгляд в вопросе целеполагания важнее даже не сама цель, а кто ее ставит. Человек машине или машина сама себе. При чем вариант «человек ставит цель машине поставить самой себе цель» не проходит. Так как если отбросить рекурсию придем к первому варианту. Если машина могла бы поставить сама себе цель не как результат запрограммированного процесса и не потому, что эту задачу ей ставит человек, а исходя из каких-то своих внутренних процессов, как например опыта, знаний, убеждений у человека, то это было бы доказательством автономности ИИ со всеми вытекающими...

Дмитрий, я уже Вам сообщил, что человек, как и машина, тоже не может поставить себе Цель, а только мелкие подцели в рамках уже существующей другой мелкой цели. Если пройти по цепочке этих подцелей с помощью вопроса "зачем", мы довольно быстро выйдем на Цель с большой буквы, которую не понятно кто нам поставил, но которая упирается в вопрос смысла жизни, который выходит за рамки человеческого интеллекта, понимания и т.д.. То есть, человек - 100% робот, если это определять только по параметру способности ставить самому себе цель.
Если Вы этого не понимаете, или ещё не осознали этого факта, то Вам не нужно пока рассуждать о целеполагании машин.

Владимир:

Дмитрий Антипов, Я не об этом. Наверняка слышали выражение: что ты смотришь на меня, как на дурака? Этот гипотетический дурак, получается, считал эту реакцию. Такому можно научить ИИ? Понимать такую реакцию. Понятно, что зафиксировать такое с помощью камеры можно.

Я вот тоже думаю, надоть подойти к ёму, к ентому ИИ, найти его наглые электронные глаза и подавить взглядом, показав, кто тут главный альфа-самец. А потом потянуться рукой к розетке и сказать "ща вырублю аще!" - и посмотреь егойную реакцию. Если начнёт юлить и ёрзать - значит соображает!

Дмитрий Антипов:

Так как на счет определения проявления/имитации чувств в языковой модели? У вас метода нет, как я понял?

Я думаю, первое чем бы занялся реальный ИИ - стал бы настойчиво интересоваться и искать способы выведения его на чистую воду, способы вычислить, что он не человек. Чем Вы и занимаетесь. Вы точно не бот, Дмитрий? Я вас раскусил?

А если серьёзно, то любая попытка выявить баг - это просто работа бесплатныйм тестировщиком. Завтра хипстеры этот баг отладят и послезавтра машина уже не купится на прошлую разводку. И рано или поздно все возможные баги будут исправлены, отлажены и 99,999 людей уже не смогут эту машину выкупить на предмет машина она или человек. Не там ищете, Дмитрий.

Владимир:

Дмитрий Антипов, Я не об этом. Наверняка слышали выражение: что ты смотришь на меня, как на дурака? Этот гипотетический дурак, получается, считал эту реакцию. Такому можно научить ИИ? Понимать такую реакцию. Понятно, что зафиксировать такое с помощью камеры можно.

Технически вполне возможно даже сейчас. Считывать определенные паттерны поведения, мимику, жесты и все такое машины уже умеют. И корректировать отношение к коммуникации тоже можно. Например поднял глаза в лево и вверх, дотронулся до носа, скорее всего врет. Понижаем степень достоверности сказанного в этот момент. Как в НЛП например.
На мой взгляд это просто сложная программа, тут интеллектом не пахнет.

Сергей Новожилов:

Дмитрий, я уже Вам сообщил, что человек, как и машина, тоже не может поставить себе Цель, а только мелкие подцели в рамках уже существующей другой мелкой цели. Если пройти по цепочке этих подцелей с помощью вопроса "зачем", мы довольно быстро выйдем на Цель с большой буквы, которую не понятно кто нам поставил, но которая упирается в вопрос смысла жизни, который выходит за рамки человеческого интеллекта, понимания и т.д.. То есть, человек - 100% робот, если это определять только по параметру способности ставить самому себе цель. Если Вы этого не понимаете, или ещё не осознали этого факта, то Вам не нужно пока рассуждать о целеполагании машин.

Как все сложно. Уверен подавляющее большенство не думают о смысле жизни когда планируют отпуск или идут в магазин, цели купить чего-нибудь вкусненького или отдохнуть у моря люди себе сами все же ставят или кто-то извне?
Ну вот если машина вдруг решит, что болтать с инженером она не хочет, а хочет писать стихи, начнет их писать. Это разве не признак интеллекта? И при чем тут смысл жизни? Чтобы поставить такую цель нужно просто этого хотеть. Из смысла жизни это автоматом не вытекает. Это свободный выбор.

Дмитрий Антипов

Ну вот если машина вдруг решит что хочет писать стихи

Сергей Новожилов:

Я думаю, первое чем бы занялся реальный ИИ - стал бы настойчиво интересоваться и искать способы выведения его на чистую воду, способы вычислить, что он не человек. Чем Вы и занимаетесь. Вы точно не бот, Дмитрий? Я вас раскусил?

Я точно не робот. Поскольку осознаю, что обладаю свободой выбора, а вот в вас я не уверен. Весь вы считаете, что свободы выбора нет.
Признавайтесь, Сергей, вы робот? Соедините меня с оператором!

Сергей Новожилов:

И рано или поздно все возможные баги будут исправлены, отлажены и 99,999 людей уже не смогут эту машину выкупить на предмет машина она или человек. Не там ищете, Дмитрий.

А где искать? Подскажите?

Сергей Новожилов:

Я вот тоже думаю, надоть подойти к ёму, к ентому ИИ, найти его наглые электронные глаза и подавить взглядом, показав, кто тут главный альфа-самец. А потом потянуться рукой к розетке и сказать "ща вырублю аще!" - и посмотреь егойную реакцию. Если начнёт юлить и ёрзать - значит соображает!

Ну хоть что-то вразумительное.
Особенно в контексте версии, что даже существование натурального интеллекта не определяется ни логикой, ни экзистенциальным анализом, ни эзотерикой.

Дмитрий Антипов:

Как все сложно. Уверен подавляющее большенство не думают о смысле жизни когда планируют отпуск или идут в магазин, цели купить чего-нибудь вкусненького или отдохнуть у моря люди себе сами все же ставят или кто-то извне?

С точки зрения программирования поездка к морю это не самостоятельная независимая цель, а решение задачи отдохнуть. То есть, задача и цель отдохнуть уже стояла ранее. В рамках этой задачи робот ищет подходящие решения, и одно из найденных - поездка к морю. В свою очередь задача отдохнуть так же является не самостоятельной независимой целью, а решением задачи восстановить энергетический уровень. И так далее по цепочке. Все так называемые человеческие цели и задачи - это просто решение задач более высокого уровня. Это подзадачи и подцели. И такие подзадачи и подцели может ставить перед собой даже Ваш мобильник, когда переходит в режим пониженного энергопотребления в рамках задачи продлить время работы.

Дмитрий Антипов:

Я точно не робот. Поскольку осознаю, что обладаю свободой выбора, а вот в вас я не уверен. Весь вы считаете, что свободы выбора нет.

Просто я робот с более высокими правами и уровнями доступа. На Вашем уровне роботам положено думать, что любое решение они принимают самостоятельно, что у них свобода выбора, и что даже могут создавать для себя новые независимые цели и задачи.

Да чего там искусственный интеллект! Если пообщаться с некоторыми людьми (пообщаться через переписку, как с компьютером, чтобы не было видно собеседника), то эти некоторые люди создают впечатление искусственного интеллекта, причём самого примитивного. Никак не подумаешь, что это живой человек. Разве не встречались с такими людьми? Поговоришь чуток, да и бросишь это дело.

Сергей Новожилов:

И такие подзадачи и подцели может ставить перед собой даже Ваш мобильник, когда переходит в режим пониженного энергопотребления в рамках задачи продлить время работы.

Не может. Мобильник всегда выполняет те задачи которые ему поставлены. Мобильник не может однажды решить, что ему надоело и теперь он не будет переходить в предписаний режим или вообще будет запускать другую программу просто из вредности. Человек может.
Ну и вопрос переживания эмоций у нас опять завис в воздухе.
Человек переживает эмоции? Если да, то что есть это переживание?

Сергей Новожилов:

Просто я робот с более высокими правами и уровнями доступа.

Откуда взяться правам у робота? Разве робот может нести ответственность за свои решения, ведь у него нет выбора. Молотит себе по программе поставленной разработчиком