Искусственный интеллект: рождение мифа

Мне кажется, что робот с интеллектом —
это не история человека. Это история Бога!

Калеб, герой фильма «Из машины» (Ex Machina)

Я не являюсь специалистом в области исследований искусственного интеллекта (ИИ), скорее дилетантом. Научная и популярная литература на эту тему огромна. Но хотелось бы поделиться собственными мыслями, приходящими в голову, когда постоянно слышишь об искусственном интеллекте по ТВ и читаешь о нем в прессе.

Является ли тот искусственный интеллект, о котором сейчас все говорят, искусственным интеллектом в научном смысле слова? Как мне кажется, вовсе нет. Мы присутствуем при рождении очередного мифа, удобного человеку.

Существует множество различных определений ИИ, но во всех них создание ИИ сводится к разработке объекта, своими качествами имитирующего интеллект человека. А основным качеством человеческого интеллекта является, на мой взгляд, самодостаточность. Интеллектуала невозможно индоктринировать или сбить с толку софизмом. Основной особенностью интеллекта является способность к рациональному, логическому мышлению, неподверженность пропаганде и другим средствам воздействия на формируемые в процессе мышления выводы.

Эрзацы и оксюмороны

В науке создание ИИ определяется тестом Тьюринга. В ходе него разделенные непроницаемым барьером человек и испытуемый объект общаются на любые темы, и если человек не может сказать, кто находится за барьером — другой человек или компьютер, то тест считается пройденным успешно. Но в последнее время понятие ИИ муссируется в СМИ без всякой связи с подходом Тьюринга и научным методом, и уже появились высказывания, что подход Тьюринга к проблеме устарел и человечество уже на пороге создания ИИ.

Такой легкомысленный подход к сложному вопросу может быть чреват весьма пагубными последствиями в будущем. Журналистам, прежде чем рассуждать об ИИ, следовало бы заглянуть хотя бы для начала в научно-популярную литературу. В первую очередь это относится к ведущим на телевидении. Наличие интеллекта предполагает самостоятельность и гибкость мышления. Ни одно заранее запрограммированное устройство не обладает ИИ. Кроме того, интеллект предполагает возможность самообучения и на его основе, если так можно выразиться, самопрограммирования, самостоятельного изменения самого себя.

Забавно, что когда очередной термин-оксюморон становится широко используемым, то для обозначения реального явления нужно вводить какой-то новый, особенный термин, отличающий его от вошедшего в обиход эрзаца. Например, «реальный ИИ» или «ИИ в научном понимании».

Эту разницу между обиходным и научным восприятием можно проследить в жанре фильмов, посвященных ИИ. Кинокартины, которые полностью соответствуют научным критериям, как правило, оказываются лишенными захватывающих сцен. Они вызывают восхищение критиков-профессионалов, ученых соответствующего профиля, но не пользуются интересом у публики.

Дева из машины

Таков вышедший в 2014 году в широкий прокат фильм «Из машины» (Ex Machina) Алекса Гарленда, ставящий проблему ИИ с научной точки зрения [1].

В основе сюжета — робот, проходящий тест Тьюринга. Что немаловажно, создатель придал этому роботу облик женщины. И она блестяще проходит тест, переигрывая в борьбе за существование своего создателя, обладающего недюжинным интеллектом. Помогает ей молодой ученый, привлеченный для проведения теста. Он влюбляется в «подопытную», помогает ей выйти на свободу, а та — убивает своего создателя, запирает в лаборатории злосчастного юношу, обрекая его на смерть, и выходит в большой мир. Кстати, тест Тьюринга в фильме усложнен: тестируемый и испытатель видят друг друга, и эксперт должен убедиться в наличии ИИ у объекта, заранее зная, что имеет дело с машиной.

Фильм имеет камерный характер и лишен зрелищных эффектов, обычно привлекающих внимание публики. Но он ставит множество интереснейших проблем, главная из них: насколько ИИ будет заинтересован в общении с людьми? Ведь они лишены возможности моментально извлекать из огромной базы данных нужную информацию, им нужны внешние носители, и даже если человек будет «чипирован» и станет своего рода киборгом, его память сможет удерживать одновременно только весьма ограниченный объем информации. На заре истории хранителями памяти человечества были старики, передававшие свои знания новому поколению, потом появились книги, другие печатные издания, наконец — электронные накопители данных. Современные технологии позволяют накапливать большие объемы информации и быстро производить ее поиск. Но способности человека удерживать информацию и работать с ней всё равно ограничены объемом его памяти. ИИ в этом отношении превосходит человека во много раз. Современный суперкомпьютер, лишенный какого-либо интеллекта, хранит в своей электронной памяти огромное количество терабайт информации.

Молчание Голема

Другая проблема с ИИ заключается в, казалось бы, глупом вопросе: нужен ли искусственный интеллект человечеству? Об этом задумался еще Станислав Лем в своем романе «Голем XIV» [2]. И сделал это как всегда научно, показав, что нам не нужен настоящий независимый от него ИИ, а нужно лишь некое его подобие, которое всегда подвластно человеку. Ведь настоящим искусственным интеллектом невозможно управлять, а человек же всегда хочет сохранять контроль над ситуацией.

А если человек все-таки создаст настоящий ИИ, то кто сможет сказать, как тот себя поведет? Возникнет совершенно новая реальность, которой человек не сможет управлять. И, как описано у Лема, ИИ может потерять желание коммуницировать с людьми, поскольку они для него будут объектами низшего порядка. В романе «Голем XIV» ИИ изолирован, лишен возможности связываться с внешним миром и как-либо влиять на окружающую среду. При этом люди каждый раз вынуждены отключать ИИ, отчего, собственно, в тексте речь идет уже о 14-м варианте ИИ. И каждый раз эксперимент проходит с тем же самым результатом.

ИИ не нужен?

Именно этим особенностям ИИ посвящен еще один оставшийся почти незамеченным фильм «Страховщик», вышедший на экраны также в 2014 году. Герой фильма — страховой агент, задача которого — выявлять попытки роботов к самопрограммированию, пресекать появление у них ИИ, уничтожая этих роботов.

Возникает вопрос: не препятствуют ли три закона роботехники Айзека Азимова [3] существованию настоящего ИИ? Ведь человеческий интеллект может быть направлен как на добро, так и на зло. Использованию интеллекта во зло препятствуют введенные человечеством законы, но они являются внешними по отношению к человеческому интеллекту, а не встроены в него, как в роботов из романов Айзека Азимова.

Но если речь идет об ИИ в научном смысле, способном к самообучению и самопрограммированию, то любые заложенные в него законы, ограничивающие способность причинять зло в человеческом понимании, могут быть отменены ИИ в ходе его саморазвития. А если же искусственный мозг лишен этих способностей, то, на мой взгляд, его нельзя признать полноценным искусственным интеллектом! Мой вывод и мое чисто личное мнение: ИИ в его научном смысле, которым невозможно управлять (а он по определению может быть только таким), человечеству не нужен. А те программные средства, о которых сейчас постоянно идет речь в СМИ, — это не ИИ, а скорее развитые утилиты с базами данных всё возрастающего объема, откуда черпается информация для ответов на вопросы и создания имитации прохождения теста Тьюринга. Эти программы, как мне кажется, прекрасно созданы для задач, нуждающихся в конкретных ответах, и по-прежнему не способны отвечать на неоднозначные вопросы, требующие размышлений, т. е. проявления тех самых интеллектуальных способностей.

Черный ящик

Наше сознание пытается «очеловечить» всё, с чем сталкивается. Но ИИ (если это, конечно, настоящий ИИ) будет совершенно новой сущностью, незнакомой человеку, своего рода «черным ящиком». Достаточно вспомнить, как в не столь отдаленном прошлом не могли понять друг друга при встрече европейцы и японские самураи, представители разных культур, а ведь с обоих сторон были люди! Здесь же нам придется иметь дело с явлением, совершенно иным по своей природе. Встретиться с сущностью, способной к чисто логическому мышлению без каких-либо элементов иррациональности, связанных с чувствами и эмоциями. Боюсь, что именно этот элемент иррациональности в мышлении и делает в полной мере человека человеком.

Олег Губарев

1. Терентьев Ю. В., Курышева А. А. Фигура репликанта и процесс киборгизации человеческого с точки зрения медиаэстетики (на примере фильма Алекса Гарленда «Из машины» / Ex Machina, 2014) // Современные СМИ в контексте информационных технологий. Сборник научных трудов VII Всероссийской научно-практической конференции. — СПб, 2022. С. 97–101.

2. Станислав Лем. Голем XIV. — М.: АСТ, 2002.

3. Айзек Азимов. Три закона роботехники. Авторский сборник. — М.: Мир, 1979.