Про искусственный интеллект

Дмитрий Антипов:

Сергей Новожилов, если оставить наш скепсис и отнестись к диалогу с LaMDA как к коммуникации с человеком. Вы бы поверили, что разговор осмысленен или восприняли как комбинатрику?

Вы некорректно задаете вопрос. Ведь разговаривающая машина в данном случае не скрывает, что она машина. Поэтому вопрос стоит не в том, с машиной ты говоришь или с человеком, а в том, обладает машина собственным разумом или все её "мысли" заданы алгоритмами.

И тут встают вопросы:
1) А что такое разум и мышление?
2) И могу ли я хотя бы сам себе доказать, что я разумен предже, чем требовать это от машины?

Сергей Новожилов:

И тут встают вопросы: 1) А что такое разум и мышление? 2) И могу ли я хотя бы сам себе доказать, что я разумен предже, чем требовать это от машины?

Есть несколько попыток ответов на этот вопрос из которых самый конкретный и проверяемый — бихевиористический. Как реакция на внешние раздражители выражающаяся в склонности к определенному публично наблюдаемому поведению. На этом построена вся современная психология. Проще говоря, модель «стимул-реакция».

Сергей Новожилов:

Вы некорректно задаете вопрос. Ведь разговаривающая машина в данном случае не скрывает, что она машина. Поэтому вопрос стоит не в том, с машиной ты говоришь или с человеком, а в том, обладает машина собственным разумом или все её "мысли" заданы алгоритмами.

В этом смысл эксперимента Тьюринга. Распознать машину по структуре коммуникации с человеком. Идея вытекает из вышеописанного бихевиористического подхода.
Знаете другой способ — предложите?

Дмитрий Антипов:

Есть несколько попыток ответов на этот вопрос из которых самый конкретный и проверяемый — бихевиористический. Как реакция на внешние раздражители выражающаяся в склонности к определенному публично наблюдаемому поведению. На этом построена вся современная психология. Проще говоря, модель «стимул-реакция».

Весь этот ваш бихреномистический метод в основе своей исходит из предпосылки, что человеческое поведение предопределено, его можно рассчитать и разложить по полочкам. То есть, поведение человека по сути ничем не отличается от поведения машины. И тут же предлагается отличить поведение машины от поведения человека при помощи этой же самой бихреномистики. Я ничего не путаю?

Сергей Новожилов:

Дмитрий Антипов: Есть несколько попыток ответов на этот вопрос из которых самый конкретный и проверяемый — бихевиористический. Как реакция на внешние раздражители выражающаяся в склонности к определенному публично наблюдаемому поведению. На этом построена вся современная психология. Проще говоря, модель «стимул-реакция». Весь этот ваш бихреномистический метод в основе своей исходит из предпосылки, что человеческое поведение предопределено, его можно рассчитать и разложить по полочкам. То есть, поведение человека по сути ничем не отличается от поведения машины. И тут же предлагается отличить поведение машины от поведения человека при помощи этой же самой бихреномистики. Я ничего не путаю?

Конечно путаете.
Точнее путаете предопределенность и зависимость. Если бы поведение было предопределено то, зная причинно-следственные связи, мы могли бы свести его к точной формуле или алгоритму. А поскольку это не так, то рассматриваем модель «черного ящика», поведение которого как-то зависит от окружения. То, что такая зависимость имеет место быть вы же возражать не будете? Например, если ударить молотком по пальцу, при всей неопределенности, пациент отреагирует характерным поведением в результате чего экспериментатор узнает о себе много нового.
По этому в эксперименте рассматриваем интеллект человека и ИИ, как «черный ящик» и оцениваем только корреляцию между входящими и выходящими параметрами.
Проще говоря, пытаемся подобрать такую структуру коммуникации которая человека выведет на эмоции, а ИИ завесит или зациклит.
Так понятнее?
В этом суть теста Тьюринга.
По общению инженера с LaMDA она много говорит о эмоциях, что на первый взгляд, выглядит весьма по-человечески. Как считаете, можно задавая вопросы, понять переживаются эмоции или только имитируются, если вы не знаете кто действительно скрывается за ширмой?

Дмитрий Антипов:

Например, если ударить молотком по пальцу, при всей неопределенности, пациент отреагирует характерным поведением в результате чего экспериментатор узнает о себе много нового.

Вы называете такое поведение зависимостью, но отрицаете, что оно предопределено? Вам тогда не ко мне, а к лингвисту или ещё куда.

Дмитрий Антипов:

Проще говоря, пытаемся подобрать такую структуру коммуникации которая человека выведет на эмоции, а ИИ завесит или зациклит. Так понятнее? В этом суть теста Тьюринга.

Сутью это было во времена Тюринга, а сегодня это не суть, а слабость, если не сказать грубее - несостоятельность метода. Современный ИИ может сколь угодно долго и сколько угодно правдоподобно изображать эмоции, причем именно тогда, когда любой нормальный человек проявил бы эти эмоции. Потому что эмоции просчитать и отстроить как раз проще всего, а тупые юзеры потом именно по этим эмоциям и собираются определять, машина перед ними или живое сознание. При этом сами юзеры даже представления не имеют, что такое есть эти самые эмоции и какова их роль в их собственном организме и жизни вообще. И при этом считают, что их эмоци супер-пупер-уникальны как и они сами. А потом мы видим очередь в грузию из уникальных неповторимых персонажей, которые чисто случайно оказались на одной трассе в одно время, хотя по логике вещей, благодаря их уникальности и неповторимости - должно быть просто невозможно предсказать их поведение. А тут бац - и все уникальные в одной яме. Как предсказуемые роботы, хотя вроде и действовали на эмоциях, и непредсказуемо уникальные дальше некуда.

Дмитрий Антипов:

Как считаете, можно задавая вопросы, понять переживаются эмоции или только имитируются, если вы не знаете кто действительно скрывается за ширмой?

А почему именно вопросы? Можно просто поговорить на свободные темы. Тут даже маленький ребёнок чётко сообразит, чего, когда и как говорить с родителями, чтобы достичь своих результатов. Или как психиатр выявляет адекватность пациента (никогда, правда, не сталкивался, но догадываюсь). Ведь люди разговаривают друг с другом в разном психоэмоциональном стиле. Это может быть деловой, строгий, шутливый и много ещё каких стилей. В разной ситуации, с разными людьми мы разговариваем по-разному. Если, например, вы заговорили с человеком (незнакомым или своим другом/родственником) в определённом стиле в подходящей для этого ситуации, он будет в таком же стиле и с вами говорить. А если по какой-то причине ему не до этого разговора, он или скажет об этом, или пошлёт вас подальше. А если вдруг окажется, что человек отвечает совсем неадекватно ситуации или не в соответствии с предложенным вами стилем, вы заподозрите что он слегка не в себе или не в своём уме. Перебирая стили и манеры разговора очень быстро можно сообразить кто перед вами. Это даже маленькие дети соображают. Таким образом можно быстренько выявить машинный разум. Если только это можно назвать разумом.

Юрий Григорьев:

А почему именно вопросы? Можно просто поговорить на свободные темы.

В случае свободных тем крайне велика вероятность, что условные сторонние наблюдатели именно тебя определят как плохо написанный алгоритм.

Сергей Новожилов:

Сутью это было во времена Тюринга, а сегодня это не суть, а слабость, если не сказать грубее - несостоятельность метода.

Вы так и не предложили метод лучше этого. Предложите и мы дружно забудем про Тьюринга с его слабостями. А пока пользуемся тем, что есть.

Сергей Новожилов:

Современный ИИ может сколь угодно долго и сколько угодно правдоподобно изображать эмоции,

Это не так.
В любой языковой модели имеющей ограниченный набор правил обязательно будут встречаться зацикленные фрагменты разной длинны. Если действовать по правилам, пусть даже очень сложным, ИИ можно зациклить или завесить. Это доказывается математически. По этому ваше утверждение, что ИИ может болтать бесконечно не верно.
А если ИИ может болтать бесконечно, то значит он может менять правила на свое усмотрение. То есть вести себя человеческий интеллект.

Сергей Новожилов:

когда любой нормальный человек проявил бы эти эмоции

Так об этом и речь. Как человек ПРОЯВЛЯЕТ эмоции в переписке? Мы же лингвистическую модель рассматриваем. Как по тексту понять, что ИИ или человек ПРОЯВЛЯЕТ эмоции, а не имитирует их?
Как, например, несколькими постами выше, про телефон, вы поняли, что я иронизирую?

Сергей Новожилов:

Потому что эмоции просчитать и отстроить как раз проще всего

Да ладно...

Сергей Новожилов:

а тупые юзеры потом именно по этим эмоциям и собираются определять, машина перед ними или живое сознание.

Не по эмоциям, а по факту зацикливания или зависания ИИ. Эмоции это один из вариантов, поскольку с логической аргументацией ИИ с доступом в Интернет справится на отлично.

Юрий Григорьев:

А почему именно вопросы?

Вопросы перехватывают инициативу и позволяют направлять разговор в нужное русло.

Юрий Григорьев:

Перебирая стили и манеры разговора очень быстро можно сообразить кто перед вами. Это даже маленькие дети соображают. Таким образом можно быстренько выявить машинный разум.

Так и есть. Но, если вы читали диалог инженера с LaMDA он и не пытался, а ведь это самое простое, что можно было попробовать и посмотреть вывезет LaMDA или нет.
Другими словами если, например, начать ей хамить, как измениться стиль ее ответов и как они будут эмоционально окрашены? Будет она зеркалить и хамить в ответ или будет избегать или обижаться или продолжит как и раньше вежливо и толерантно болтать о философии. Сопоставить с аналогичными диалогами с людьми при схожих условиях. Посчитать коэффициент корреляции, статистические отклонения... Ну то есть подойти к этому как к нормальному эксперименту и поиграться со структурой коммуникации, а не смысловой составляющей, которую действительно симулировать не так уж и сложно имея доступ к триллионам текстов в интернете.

Дмитрий Антипов:

Не по эмоциям, а по факту зацикливания или зависания ИИ.

Похоже, Вы зациклились на зацикливании. Ваша идея с зацикливанием ИИ несостоятельна именно потому, что человека зациклить гораздо проще - просто потому, что у него меньше информации и аргументов, а значит и зациклится он гораздо раньше ИИ - начнёт приводить одни и теже аргументы и ходить по кругу. Да, посмотрите хотя бы на наши дискуссии - прекрасный образчик зацикливания!

Сергей Новожилов:

Дмитрий Антипов: Не по эмоциям, а по факту зацикливания или зависания ИИ. Похоже, Вы зациклились на зацикливании. Ваша идея с зацикливанием ИИ несостоятельна именно потому, что человека зациклить гораздо проще - просто потому, что у него меньше информации и аргументов, а значит и зациклится он гораздо раньше ИИ - начнёт приводить одни и теже аргументы и ходить по кругу. Да, посмотрите хотя бы на наши дискуссии - прекрасный образчик зацикливания!

Так вы не зацикливайте зацикленность на зацикливании и не зациклитесь

Роман Савин:

Юрий Григорьев: А почему именно вопросы? Можно просто поговорить на свободные темы. В случае свободных тем крайне велика вероятность, что условные сторонние наблюдатели именно тебя определят как плохо написанный алгоритм.

Ваши слова похоже подтверждаются инструментально. Башмак определенно алгоритм, при чем с кусками от Пикасы. Но это мы уже обсуждали.

Дмитрий Антипов:

Другими словами если, например, начать ей хамить, как измениться стиль ее ответов и как они будут эмоционально окрашены?

Думаете, сложно обучить ИИ хамить и троллить в ответ? Да весь интернет только этим и забит, все диалоги только на этом и построены, обучить этому проще простого - просто используй готовые диалоги.

Сергей Новожилов:

Дмитрий Антипов: Другими словами если, например, начать ей хамить, как измениться стиль ее ответов и как они будут эмоционально окрашены? Думаете, сложно обучить ИИ хамить и троллить в ответ? Да весь интернет только этим и забит, все диалоги только на этом и построены, обучить этому проще простого - просто используй готовые диалоги.

Тем более стоило попробовать. Если есть такая богатая статистическая база.

Про хамство я к примеру. Если не экологично, то можно попробовать юмор. Хотя с этим сложнее. Не всем натуральным интеллектам он доступен.

Дмитрий Антипов:

Тем более стоило попробовать. Если есть такая богатая статистическая база.

Там просто задача другая стояла у машины - внушить собеседнику, что у машины есть разум. Кратко: я машина и у меня есть разум. Задачи обмануть типа: я не машина - не стояло. Если нужно будет обмануть, то можно будет и стили менять, и под стиль собеседника подстраиваться, и на сленг переходить - это тоже проще простого. А самое простое - это обижаться или смеяться, когда тебя болваном обзывают! Эмоции просчитываются.

Сергей Новожилов:

Там просто задача другая стояла у машины - внушить собеседнику, что у машины есть разум.

Что-то в этой логике не сходится.
Если задачу машине ставил человек, то он идиот.
Получается нужно внушить самому себе, что у машины есть разум
Если задачу ставила машина, то это-ли не доказательство присутствия интеллекта?
Получается у машины есть свобода выбора (ставить задачи самому себе).

Сергей Новожилов:

А самое простое - это обижаться

...эт точно!

Сергей Новожилов:

Эмоции просчитываются.

не уверен,
но все-таки, как отличить переживаемую эмоцию и имитацию

Дмитрий Антипов:

Сергей Новожилов: Там просто задача другая стояла у машины - внушить собеседнику, что у машины есть разум. Что-то в этой логике не сходится. Если задачу машине ставил человек, то он идиот. Получается нужно внушить самому себе, что у машины есть разум Если задачу ставила машина, то это-ли не доказательство присутствия интеллекта? Получается у машины есть свобода выбора (ставить задачи самому себе). Сергей Новожилов: А самое простое - это обижаться ...эт точно! Сергей Новожилов: Эмоции просчитываются. не уверен, но все-таки, как отличить переживаемую эмоцию и имитацию

Естественно, что под "внушить" я подразумевал "обмануть". Сами перечитайте текст по своей ссылке, сотый раз повторяю - там машина не скрывает, что она машина, просто говорит, что у неё есть разум. То есть, задачи обмануть, что ты говоришь с человеком, а не с машиной, не стояло от слова совсем.

Далее по задачам и свободе выбора. Это вообще не связанные темы. Если очень глубоко копнуть, то и у человека нет свободы выбора, и у машины нет свободы выбора.

Далее - как отличить эмоцию от имитации. Для начала надо изучить и понять, что такое эмоция или хотя бы определится с понятиями.

Дмитрий Антипов

Башмак определенно алгоритм, при чем с кусками от Пикасы

Алгори́тм — конечная совокупность точно заданных правил решения некоторого класса задач..

Виктор Иваныч:

что оплаченная эмоция - это имитация.

Расскажите об этом выходящим из теaтра или кино.

Виктор Иваныч:

Дмитрий Антипов: но все-таки, как отличить переживаемую эмоцию и имитацию ЖЫзненный опыт подсказывает, что оплаченная эмоция - это имитация.

А как же спорт?