ИИ: к вопросу о дефиниции

Леонид Ашкинази, канд. физ.-мат. наук, преп. физики ФМШ МИЭМ
Леонид Ашкинази

Прочтение эссе А. Н. Поддьякова «Атаки на семантические сети и машинное обучение: нарративы, шутки и угрозы»1 возымело лично для меня два следствия. Поскольку общество — это сеть, пусть не вполне семантическая, то можно углядеть параллель между хакерскими атаками на искусственный интеллект и успешной деятельностью геббельсоидов, которые убедили миллионы, что снег в видимой части спектра черный, а ворона так люминесцирует, что бела на вид. Сама по себе эта параллель тривиальна, но нет ли более существенного сходства? Во-вторых, при пересказе указанного эссе моим ученикам одна из учениц, Д.А. (я преподаю вот тут — FMSH.RU), спросила: а может ли искусственный интеллект превратиться в естественный и наоборот? Вопрос поразил, перепуганный мозг кинулся было под защиту определений, но оказалось, что главного — чем отличается ИИ от ЕИ — мы не знаем. Определения — даже в полугуманитарном смысле — нет.

Можно, конечно, что-то пролепетать про мемристоры и нейристоры, но это не тот уровень ответа, который устроит учеников. Можно апеллировать к психологии и мудро заметить, что наличие ЕИ у собеседника нас не удивляет, а даже подозрение на наличие ИИ у японского унитаза может вызвать сильные эмоции у ЕИ. На это ехидные собеседники могут заметить, что по нынешним временам не наоборот ли? И предложат способ отличить ИИ от ЕИ — по наличию и отсутствию эмоциональной реакции на ИИ и ЕИ; способ хорош самозамкнутостью, как «сепульки» и «сепулькарии», а плох тем, что получается четыре варианта, а мы отправились в лес за двумя.

Попутно заметим, что объем опубликованного по проблеме ИИ не обязательно говорит о важности оной проблемы для импортозамещения и прогресса человечества вообще; он может быть следствием, скажем так, эмоциональной важности. То есть успешного паразитирования пишущих на страхах читающих. А вот интересно, страхи читающих — они Е или И? Может быть, Е, но И-раздутые? Не где-то ли рядом лежит ответ на вопрос, с которого мы начали?

Традиционный путь возникновения и развития науки таков: интуитивное → кодирование → согласие → продвижение. То есть имеем какое-то интуитивное представление (например, об «энергии» или «должном»), какое-то время, завернувшись в простыню и прохаживаясь, дерем глотку по-древнегречески (автор этой заметки это делал, но не у Кащенко, а в ролевушке), потом, когда надоест, разрабатываем систему терминов (понятий, определений, связей и т. д.), чтобы хоть как-то друг друга понимать, достигаем какого–то согласия (с «энергией» это получилось, с «должным» — пока не очень) и начинаем продвигать науку дальше (то есть опять простыня и прохаживаться).

Поскольку интеллект (и ИИ, и ЕИ) как кусок явно шире рта, пойдем по традиционному пути — разбиением на куски (как иные торты — нарезав и проложив неадгезивной пленочкой). Поскольку в терминах «ИИ» и «ЕИ» есть нечто общее (вторая буква), то и куски должны иметь нечто общее, т. е. должны иметь отношение к интеллекту. А если среди них мы обнаружим комплементарную, как транзисторы, пару, но существенно разнящуюся по доле первой буквы, то продвинемся в понимании. Причем продвинемся даже в чисто дискретном случае, т. е. если сами куски будут чисто И, или чисто Е. Ибо если таких пар будет более одной, у нас возникнет шкала различий — дискретная, но, по крайней мере, метрическая. А если сами куски могут быть частично И или Е, или/и мы введем «веса», то возможна и непрерывная метрическая шкала. Итоговым параметром разума мы будем, естественно, считать сумму произведений параметров кусков на их вес; веса определим опросом респондентов. То есть выясним, что именно воспринимает пипл как Е и И, если речь идет о ЕИ и ИИ. Потом, конечно, отнормируем, чтобы диапазон был от 0 до 1, или, традиционно и скрепно, от 0% до 100%.

Приколись, пипл: мы поломали примитивную дихотомию «ИИ или ЕИ», ввели понятие степени искусственности, ИЕ-индекс, причем с непрерывной шкалой. Примерно так: «Смотри, милая, какой мужчина, какой размер ноги, какой интеллект, естественный на 31,4%, ИЕ-индекс 0,314!» — «Да ты что, откуда ты это взяла, максимум 0,2718!»

Фантасты уже давно всякие гибридные, т. е. промежуточные между ИИ и ЕИ варианты, рассматривают (и это вполне заслуживает отдельной статьи). Но тут перед нами оказывается традиционный камень с тремя стрелками — куски могут быть, материальные и информационные, а информационные — на вход, т. е. относящиеся к обучению, и на выход, т. е. функциональные. Рассмотрим эти три группы последовательно, обращая внимание на возможность изменения их собственного ИЕ-фактора и их вклад в восприятие ИЕ-фактора целого объекта, а стало быть, и возможность изменения этого фактора у всего объекта — с чего, собственно, мы и начали.

Начнем с функционального куска, благо он один. Функция у интеллекта одна — решать задачи; но что его характеризует? Мощность (скорость решения в зависимости от сложности), универсальность (для разных задач), стабильность (независимость от эмоций и стресса). Кажется, что ИИ должен по этим параметрам отличаться от ЕИ, и язык это отражает: фраза про человека «ну, он мыслит, как компьютер» будет собеседником понятна. Но эта же фраза говорит о том, что бывают люди, которые удивляют значениями этих параметров. И ничего страшного, мы продолжаем их считать людьми. Разве что очень высокая мощность, т. е. на уровне хорошего компьютера, может служить надежным признаком ИИ. В остальных случаях этот признак если и используется, то с малым весом. Соответственно, и изменение этих параметров мало о чем говорит, разве что потеря способности разлагать на два простых сомножителя длинные числа. И то мы скажем «ИИ сломался», а не «ИИ превратился в ЕИ».

Здесь уместно вспомнить общение Криса Кельвина с компьютером станции Солярис: «Мой мозг может быть поражен болезнью, но он не в состоянии — ни при каких условиях — произвести расчеты, выполненные большим вычислителем Станции, потому что они потребовали бы многих месяцев». Кстати, именно этот компьютер позже обрел ИИ, сведения об этом скоро будут опубликованы в журнале «Млечный Путь».

Что касается функций интеллекта, то А. Н. Поддьяков указал, что у интеллекта есть еще одна функция — придумывать задачи. Причем есть хорошие решатели кем-то поставленных задач, но как постановщики они не очень; и хорошие постановщики, которые сами с поставленной ими же задачей могут и не справиться, и в дело вступят другие люди. Ставить задачи умеют даже кошки перед котятами (сам видел), а уж преподаватели занимаются этим непрерывно. Причем «ставить» и «решать» переплетены сильнее, чем кажется. В физике решение поставленной природой задачи часто начинается с ее упрощения — а это уже постановка. В математике для такой промежуточной задачи есть даже специальное слово — лемма.

Обратимся к кускам, относящимся к получению информации, к обучению. Информация и программы, которыми располагает ИИ, могут быть просто в него переписаны (рекомендую USB4), c ЕИ это пока не реализовано, хотя фантасты на данную тему развлекаются издавна. Разумеется, программы — это тоже информация, но усвоение информации и программ происходит по-разному, поэтому они здесь и разделены. Информация может сопоставляться с уже имеющейся, а программы могут сопоставляться с уже имеющимися программами. Возможные последствия — отторжение нового или старого, внесение корректив в новое или старое, построение комбинированной картины, поиск дополнительной информации. Можно ожидать, что реакция ЕИ окажется более разнообразной, чем реакция ИИ. В частности, потому что ЕИ изначально (то есть генетически) более разнообразны.

Степень способности критически отнестись к сообщаемой информации и программам может считаться признаком ЕИ. В какой-то мере она может быть реализована и в ИИ, причем посредством соответствующих программ, — и постфактум. И в этом смысле можно если и не превратить ИИ в ЕИ, но — в зависимости от веса, который мы присвоим этому параметру, — сдвинуть итоговое значение ИЕ-индекса к Е-концу шкалы. Можно и в обратную сторону — у ИИ можно отключить соответствующие функции, а у ЕИ можно соответствующим воспитанием (в Интернете сказали бы «зомбированием») ослабить эту способность. Кстати, спросите социологов — они подтвердят, что изрядный процент дорогих россиян, братьев и сестер, спокойно выбирает в анкетах логически несовместимые ответы. Здесь уместно вспомнить моего преподавателя философии, Ю. П. Трусова, который однажды высказался примерно так: «Философия — это вовсе не то, что обычно под этим понимают. Это внутренне непротиворечивая, адекватная окружающему миру и достаточно полная система взглядов, — тут он сделал правильную паузу, — которая со временем складывается в мозгу у некоторых людей».

Процесс программного наполнения может реализоваться (и для ЕИ, и для ИИ) в разных режимах. Скажем, «режим чистого учебника» — когда в обучаемого просто вводится учебный материал (и сопоставляется либо не сопоставляется с уже имеющимся материалом). «Режим учебника с взаимодействием с реальным миром» — когда вводимый материал сопровождается лабораторными работы или подключением (напрямую или через Интернет) к приборам, направленным на мир. «Режим учебника и задачника с модельными задачами». «Режим учебника и задачника с задачами из реального мира». Понятно, что с ИИ у нас ассоциируется начало списка, а с ЕИ — его конец. Причем кажется, что для определения ИЕ-индекса этот пункт более важен, чем предыдущий.

Рис. И. Кийко
Рис. И. Кийко

Заметим, что (аналогично предыдущему) варианты с взаимодействием с реальным миром должны предусматривать обработку неполного совпадения модели и мира. Этот блок, как и при любой педагогике, управляем (одна ручка — отношение «учебник/задачник» и две ручки — «степень контакта с миром для учебника» и «для задачника») и, соответственно, в некоторой мере управляем и суммарный индекс. Причем в соответствии со сказанным выше о возможности разной эффективности для постановки задач и для решения, может оказаться, что для конкретного интеллекта этот индекс различен, если речь идет о постановке задач и о решении.

После обучения начинается — не все в это верят, но это так — жизнь, то есть общение и работа. С одной стороны, как бы мы ни давали определения и как бы ни измеряли, человек не любит менять свои взгляды. И если мы уже назвали какой-то интеллект искусственным или естественным, нам будет трудно изменить свое мнение на этот счет. С другой стороны, капля точит камень, и что если эта кукла с транзисторами и нувисторами внутри день за днем и ночь за ночью проявляет чисто человеческое понимание? И не важно, что я не могу тебя взять на руки и что твои ноги оставляют на песке слишком глубокие следы (Станислав Лем, «Маска»).

Теперь — материальное, два аспекта, внутренний и внешний. Внутренний — ЕИ состоит из нейронов, ИИ — из болтов и гаек. У Станислава Лема («Звездные дневники Ийона Тихого. Путешествие двадцать первое») некоторые персонажи имели два мозга, один возили не тележке перед собой, другой — сзади, соответственно, для размышлений о высоком и низком. Правда, были ли эти мозги в смысле ИИ и ЕИ разными или нет, пан Станислав не сообщил. Тут просматривается некая связь с фразой «задним умом крепок», но не будем отвлекаться. Кстати, есть ли в фантастике сюжет, когда внешне единый объект является носителем двух интеллектов? И не начнут ли они конфликтовать?2 Я знал женщину (М.Г.), которая была близка к обладанию двумя интеллектами, и они в ней уживались вполне мирно.

Мозг, частично состоящий из нейронов, частично из многоколлекторных транзисторов (ходят слухи, что бывает и из многоэмиттерных, но кто ж верит слухам), уже несколько лет как реальность. И если изначально хочется присвоить ИЕ-индекс в соответствии с их долей в коре, то что мы скажем, когда моя радость признается мне…

… как-то раз, ласково запуская пальчики в мою гриву, скажет мне не про две полосочки, а про то, что она раз в неделю (днем, в четверг) ходит (ну, ты понимаешь, куда): «Я выбрала самый дорогой и надежный центр (да, это на деньги, что ты мне подарил на день рождения), два процента за раз (быстрее не рекомендуют), так что еще полгода — и всё, буду думать втрое быстрее, и гарантия от Альцгеймера и всех прочих гадостей3. Может, и тебе, милый, об этом подумать? Твои нейрончики, они уже не молоды… Сделаем, как и мне, графеновые, я тебя еще больше любить буду, я уже сейчас тебя больше люблю (ты ведь заметил?), ведь втрое быстрее, это не шутки, а так и ты будешь втрое…»

Так что дело, как ни странно, не в болтах и гайках, а в том, как это будет подано, как это проявится внешне, и в нашей реакции. Общество вполне может быть расколото, и половина, спасая свою жизнь и жизнь своих переведенных на графен подруг, будет стрелять из окон в жаждущих крови ретроградов…

Внешний вид — второй материальный аспект. Но и здесь не всё просто. Некоторые авторы упоенно пишут, о том, что самое страшное — это когда робот (подразумевается с ИИ) похож на человека4. Но если бы это было так, то фирмы, выпускающие сексуальных кукол, давно бы разорились — они бы даже толком не вышли бы на рынок.

Что касается модификации внешнего вида, то и у ЕИ она возможна — особенно с учетом успехов пластической хирургии, а у ИИ она почти безгранична. Можно осторожно предположить, что в будущем возникнет два направления моды — максимальная антропоморфность и некая «собственная мода» ИИ, близкая к человеческой, но с небольшим, четко обозначенным отличием. Уже сейчас подобное можно видеть на картинках. Значимость этого фактора для людей может быть определена психологами и социологами и, соответственно, — его вклад в ИЕ-индекс.

Широко распространено некорректное применение при описании всего общества психологических терминов, относящихся к конкретному индивидууму (общество напряжено, общество испугано и т. п.). Тырить у психологов термины можно, но нужно не просто подражать, а давать определение, объяснять, как измеряли и вычисляли степень «напряженности» и испуга. Можно попробовать ввести термин «интеллект» для общества, определив его через способность решать и ставить задачи (причем как явно декларируемые, так и не декларируемые). Тогда интеллекту общества можно будет приписать не только (см. выше) уровень, спектр и устойчивость, но и ИЕ-индекс. И может так статься, что неумение и нежелание сопоставлять и думать сдвинет общество не только к миске с баландой, но и к И-концу шкалы. Причем именно в варианте болтов и гаек…

Леонид Ашкинази


1 ТрВ-Наука № 358 от 26 июля 2022 года. trv-science.ru/2022/07/ataki-na-semanticheskie-seti-i-mashinnoe-obuchenie/

2 Вспоминаются трехголовый Змей Горыныч, многоголовые мутанты, фантастические шизофреники и тяни-толкаи… Или в рассказе Джона Кэмпбелла два путешественника, оказавшихся на Трансплутоне, за орбитой Плутона, обнаружили там гигантские цилиндры, за миллионы лет эволюционировавшие до такой степени, что разум отделился у них от бренного тела и перестал что-либо контролировать. С ними очень приятно беседовать, но грубое тело в процессе этой беседы норовит отнять у собеседника последние крохи тепла (fantlab.ru/work63722). — Прим. ред.

3 Фильмы с сюжетом про «идеальных» «Степфордских жен» по одноименному роману Айры Левина снимали в США в 1975 и 2004 годах.

4 Эффект «зловещей долины» (яп. 不気味の谷, англ. uncanny valley): согласно гипотезе, сформулированной японским робототехником Масахиро Мори, робот или другой объект, выглядящий или действующий примерно как человек (но не в точности так), вызывает отвращение и неприязнь.

См. также:

Подписаться
Уведомление о
guest

15 Комментария(-ев)
Встроенные отзывы
Посмотреть все комментарии
Владимир Аксайский
Владимир Аксайский
26 дней(-я) назад

Заметка понравилась, — выглядит изящным ручным изделием незаурядного ЕИ на злободневную тему ИИ.
Однако не всем ИИ и ЕИ она по зубам. Я, например, споткнулся на концовке предложения:  
…будет собеседником понятна.
Предлагаю тост на будущее, где ЕИ, ИИ — друг без друга жить не могли!

Maria Eliferova
Maria Eliferova
23 дней(-я) назад

Зануда-гуманитарий скажет, что у естественного интеллекта НЕ одна функция. Помимо решения задач, он выполняет функцию взаимодействия с другими интеллектами (социальную). Это первое его отличие от ИИ. Второе отличие, занудно-биологическое: в ЕИ встроена система вознаграждения (надеюсь, про дофамин слышали даже безнадёжные технари, но в реальности там всё гораздо сложнее и дофамином не исчерпывается). Компьютеру реально пофиг на результаты решения задачи, потому что они продиктованы потребностью человека, а не компьютера.
И как бы наличие этих двух факторов вполне проясняет, что происходит с естественным интеллектом общества в известных обстоятельствах.

Виктор Всеволодович Сорокин
Виктор Всеволодович Сорокин
19 дней(-я) назад
В ответ на:  Maria Eliferova

Зануда-естественник (ну, я по образованию физик…) ещё вот что скажет:
Естественный Интеллект возник непреднамеренно. Способность человека оный ЕИ проявлять (Ставить задачи, решать задачи, выстраивать иллюзорные картины мира, в которых он ставит и решает задачи… В т.ч. картины мира самые идиотские: сколько задач было поставлено и «решено» в рамках религиозных картин мира, и КАК решено…) — результат того, что в ходе эволюции мозги «ещё-не-человеков», наращивая какие-то функции, приобрели ещё и человеческий интеллект. То есть, «носитель ЕИ», мозги, явно построен неоптимально.
А ИИ разрабатывается — по-возможности — «без излишков» и с вполне определёнными задачами.

Denny
Denny
23 дней(-я) назад

В моем сугубо личном понимании интеллект — это когда не просто решается задача, а когда возникает алгоритм решения задачи, который можно передать другому носителю интеллекта. Когда возникает понимание связи между исходными данными и результатом.

В этом смысле ИИ вообще не является интеллектом. Задача решается, но понимания, как она решается, не возникает. Ну вот «сбылась мечта идиота» — теперь можно предсказывать фолдинг белков, о чем мечтали десятилетиями. Теперь это делается на раз. И что? Мы по-прежнему не понимаем, почему белки сворачиваются так или иначе.

Это как у обезьян в питомнике: нажимаешь красную кнопку — получаешь банан. Зеленую — удар током. Обезьяна быстро учится. Но связи между цветом кнопки и результатом она не понимает.

semen Semenov
semen Semenov
19 дней(-я) назад
В ответ на:  Denny

По-моему, это общая проблема всех методов компьютерного моделирования. Они все говорят как, но не говорят почему. Может, я просто не знаю, но я не припомню ни одного случая, когда таким образом получили и объяснили действительно нетривиальный результат. Другими словами, так можно узнать только количественные характеристики известного моделируемого процесса. Предсказать качественно новые эффекты, насколько я знаю, ни разу не получилось. Собственно, я только повторяю мысли Фейнмана по этому поводу.

Denny
Denny
19 дней(-я) назад
В ответ на:  semen Semenov

Я как-раз занимаюсь моделированием белков некоторых. Методы классические: динамика и Монте-Карло. Но тут программы работают по заложенному алгоритму, без претензий на искусственный интеллект. Сила предсказаний зависит от хм… интеллекта самого исследователя. Но я даже не об этом. Получив результат расчета я могу точно разобраться как и почему при конкретном наборе введенных данных получился именно такой результат.

А в самообучающихся системах предсказания фолдинга белков это невозможно. Невозможно понять, почему программа выдала именно такой фолдинг для конкретной последовательности. Механизмы работы компьютерных нейросетей больше похожи на интуитивное предсказание, основанное на предыдущем эмпирическом опыте проб и ошибок.

Это как езда на велосипеде. Невозможно понять, невозможно объяснить. Невозможно научиться по учебнику удерживать равновесие. Надо поездить, несколько раз завалиться и … подобрать эмпирически нужные движения.

Это понимает и каждый, кто машину водит. Вот вы едете, а впереди загорается красный. Опытный водитель тормозит достаточно плавно и без проблем. Как нажимать на педаль — зависит от скорости, расстояния, автомобиля и дороги. Довольно сложная задача. Но никакого алгоритма в голове водителя нет. Он просто «чувствует» обстановку и машину. За счет обучения на предыдущем опыте. Как раз так и работает ИИ.

А до того, чтобы компьютер мог сам решать действительно интеллектуальные задачи еще как до Луны. Не интересовался специально, но вообще не слышал даже про попытки в этом направлении.

semen Semenov
semen Semenov
19 дней(-я) назад
В ответ на:  Denny

Я скорее о том, что когда компьютер выдал вам неожиданный результат, то практически невозможно разобраться, получился ли у вас новый нетривиальный эффект или просто компьютер чудит. Ну, или очень трудно. При аналитических расчетах, даже полукачественных, оценочных, разобраться с «физическим смыслом» полученного гораздо проще.

Denny
Denny
16 дней(-я) назад
В ответ на:  semen Semenov

Я обычно именно этим и занимаюсь. Когда компьютер выдает нетривиальный результат, я начинаю разбираться. Корявые условия (чаще всего), артефакт вычислительной программы или все же в основе нетривиального результата есть нетривиальный физический смысл, который мы, собственно, и ищем.

Но вот для систем ИИ это невозможно сделать. ИИ ведь не решает задачу в традиционном понимании этого слова. Нет решения, которое можно было бы проверить. ИИ просто угадывает результат. И его обучение тоже не является обучением как таковым. Компьютер просто тренируется угадывать нужный результат.

Для многих практических задач этого вполне достаточно.

В.П.
В.П.
14 дней(-я) назад
В ответ на:  Denny

ИИ наиболее эффективен для решения задач класса NP. Этот класс собственно так и определяется, если без математических подробностей: нет эффективного алгоритма нахождения решения задачи (по крайней мере пока), а эффективный алгоритм проверки предъявленного решения есть. Если вы уже понимаете как эффективно искать решение универсальной задачи из класса NP («могу точно разобраться как и почему при конкретном наборе введенных данных получился именно такой результат»), то вы доказали, что NP=P и институт Клея готов второй раз выдать миллион зелёных (первый раз Перельман свой миллион не взял).

Denny
Denny
14 дней(-я) назад
В ответ на:  В.П.

Да, наверно с точки зрения математического формализма это так и есть. Я в таких вещах разбираюсь… ну очень приблизительно.

В.П.
В.П.
14 дней(-я) назад
В ответ на:  Denny

В порядке саморекламы https://nplus1.ru/material/2021/10/28/pvsnp Попытка неспециалиста объяснить совсем неспециалистам в чём состоит проблема NP=P?

Denny
Denny
14 дней(-я) назад
В ответ на:  В.П.

Большое спасибо!

В.П.
В.П.
18 дней(-я) назад
В ответ на:  Denny

Может и не надо ему решать «интеллектуальные задачи»? Вполне достаточно решать те задачи, которые люди не могут решить. Например, третичную структуру предсказать или расписание оптимизировать или чип спроектировать или для эстетов какую-нибудь математическую гипотезу доказать (есть прецеденты). А с вождением автомобилей и живые шоферы отлично справляются.

Denny
Denny
16 дней(-я) назад
В ответ на:  В.П.

«Ему» вообще ничего не надо. Но, зная «нас», можно убежденно предсказать, что мы его заставим решать всякие задачи. Хотя бы ради спортивного интереса.

Владимир Аксайский
Владимир Аксайский
19 дней(-я) назад

Сетевой магазин:
ИИ-продавец: у нас новинка, персональный ИИ – снимет с Вас половину И-забот и др.
ЕИ-покупатель: мне, пожалуйста, два, — с доставкой на дом.
Взаимосвязь ЕИ и ИИ не противоречит эмпирическому принципу Реди, — ниже он в 8 строчках.  
Живое всё из живого
Небесного и земного
Творцы породили ЕИ
Мы сотворили ИИ…

И радуюсь иногда —
Ведь так без конца тогда —
Ведь все хотят — как лучше
А получается – как всегда!

Оценить: 
Звёзд: 1Звёзд: 2Звёзд: 3Звёзд: 4Звёзд: 5 (6 оценок, среднее: 3,83 из 5)
Загрузка...