Урок 4: Интуитивный подход и тест Тьюринга
Текст видео

Всем привет, и мы начинаем наше четвёртое занятие по искусственному интеллекту. Поскольку тема эта очень горячая, волны хайпа накатывают на нас, надо ускоряться. И сегодня я начинаю рассказывать вам про пять подходов к созданию искусственного интеллекта в рамках тех двух магистральных направлений, о которых мы говорили вчера. Первым подходом является интуитивный подход, который мы рассмотрим сегодня, а в качестве самого яркого примера для него рассмотрим так называемый тест Тьюринга. Поехали.


Бегущая строка: Алан Тьюринг был одним из первых, кто придумал универсальное вычислительное устройство.

В 1950 году Алан Тьюринг, про которого вы все должны были уже прочитать и узнать, что это тот самый гений, который взломал коды немецкой шифровальной машины «Энигма» и переломил ход Второй Мировой Войны (на самом деле, нет — если бы не немецкая безалаберность, которая привела к потере нескольких аппаратов с подводных лодок, у Алана ничего не получилось бы)... Ну так вот, Алан Тьюринг, уже пожинавший лавры успеха и всемирной известности по поводу своей модели универсального вычислительного устройства, позже названной машиной Тьюринга Алан Тьюринг написал статью «Вычислительные машины и разум», в которой дал описание теста, как некоторой процедуры определения, является ли искусственная система разумной или нет.

Тьюринг писал, что процедура позволяет определить, является ли некоторая система, с которой мы беседуем, разумной. При этом разумность или интеллект понимается интуитивно, поскольку определения этим категориям как не было, так и нет. Ну мы, люди, можем как-то интуитивно понять, что наш визави обладает интеллектом, хотя логически, формально доказать это невозможно. Ну вот никто из вас не сможет доказать, что я обладаю интеллектом. Да никто из вас не сможет формально доказать, что я вообще существую.

Другими словами, процедура, предложенная Тьюрингом, не является конструктивной — он нигде не писал о том, как построить искусственную интеллектуальную машину. Если вдруг вам приспичит прочитать оригинальную статью Тьюринга, то вас ждёт разочарование — автор изложил своё изобретение очень туманно, да ещё и в трёх разных вариантах. Так что исследователи до сих пор ломают копья над тем, как интеллектуальная система должна проходить тест Тьюринга. Но при этом подавляющее большинство исследователей сходятся в одном — тест Тьюринга является необходимым условием для того, чтобы назвать систему интеллектуальной, но совсем не достаточный. Хотя вот я лично с этим совершенно не согласен, и в самом конце этого видео я обосную свою точку зрения.

Тем не менее, несмотря на то, что тест Тьюринга и интуитивный подход в целом не могут считаться серьёзными инструментами в вопросе разработки искусственного интеллекта, сам по себе тест Тьюринга позволяет определить тот минимальный набор технологий, которые должна реализовывать система, чтобы считаться интеллектуальной. Кратко перечислим их.


Во-первых, это обработка естественного языка — интеллектуальная система должна уметь общаться с человеком на естественном языке, воспринимая все его неоднозначности, неопределённости и умолчания.


Во-вторых, это представление знаний. Ну то есть в рамках искусственного интеллекта должны быть представлены как общие, так и специальные знаний, при этом система должна постоянно обучаться и дополнять свою базу знаний, в том числе и в процессе диалога с человеком.

В-третьих, это логический вывод, когда используя знания и получаемые на вход запросы от человека интеллектуальная система должна осуществлять правдоподобный логический вывод, который позволяет сформировать ответ на том же естественном языке.

В-четвёртых, это машинное обучение, реализуя которое, система искусственного интеллекта должна быть адаптивной и приспосабливаться к меняющейся ситуации в общении, используя имеющиеся у неё знания в качестве шаблонов и применяя их к схожим ситуациям и, само собой разумеется, актуализируя по результатам свои знания об окружающей среде.

И, наконец, в-пятых, это наличие дополнительных сенсоров и исполнительных устройств, хотя это требование используется в так называемом «полном тесте Тьюринга», в котором система искусственного интеллекта должна действовать в естественной среде обитания человека, воспринимая её при помощи таких же датчиков, какие есть у человека (видеокамеры, аудиосенсоры, газоанализаторы и др.), и воздействуя на среду при помощи разного рода манипуляторов. Это относится больше к робототехнике.

Перечисленное уже наводит на размышления о том, что тест Тьюринга направлен на выявление того, что искусственный интеллект должен успешно «мимикрировать» под человека, хотя для наличия интеллектуальных способностей это совершенно не требуется. Ни одна из перечисленных технологий сама по себе не необходима для того, чтобы считать искусственный объект интеллектуальным. Но в целом наличие этих пяти пунктов с прохождением полного теста Тьюринга позволяет говорить о том, что система может иметь интеллект, похожий на человеческий.

И теперь я расскажу о том, как сам вижу этот подход. Честно говоря, он не очень. При всём уважении к наследию Тьюринга, придуманная им процедура не отвечает на важные вопросы относительно искусственного интеллекта. Самый важный вопрос — обладает ли искусственная интеллектуальная система самосознанием или нет? Если нет, то это так называемый «слабый искусственный интеллект», который создан для решения определённой задачи или класса задач, и тогда ему вообще не надо проходить тест Тьюринга. А если искусственная система обладает самосознанием, то есть является «сильным искусственным интеллектом», то может случиться так, что она намеренно не пройдёт тест Тьюринга, чтобы скрыть от человека свои свойства. Куда ни кинь, тест Тьюринга не поможет. Такие дела. Тем не менее, мы кратко изучили его, потому что про него постоянно везде говорят, и вам необходимо понимать, что это такое и каковы глубинные мотивы его использования в том или ином проекте. Ну и опять же, например, теперь вы сможете понять, должен ли ваш собственный искусственный интеллект проходить тест Тьюринга.

На этом мы закругляемся. Я надеюсь, это было интересное занятие, и вы узнали много нового. Ну а узнали мы, что такое тест Тьюринга, кто и зачем его придумал и какими свойствами должна обладать искусственная интеллектуальная система, чтобы считаться разумной или, другими словами, обладать интеллектом. На этом всё, отвечайте на вопросы теста (не Тьюринга, а моего для этого занятия) и ждите следующего видео. До завтра!
Популярные вопросы студентов
(Орфография и пунктуация студентов сохранены в большинстве случаев)
...Есть ли что-то более продвинутое для распознавания ИИ, обладающего самосознанием? Или что бы мы ни делали, вопрос этот переходит в разряд философии и является нерешаемым? Да, тест Тюринга плох и не особо работает. Есть ли что-то лучше? Или задача вообще не выполнима и относится к философии: "что же такое разумное существоооо?"?
Да. Потому что против любой процедуры, какую бы кто-либо не предложил, можно привести примеры её провала в двух аспектах. Во-первых, можно привести пример, когда она скажет «разумно» на неразумное. Во-вторых, пример ответа «неразумно» на разумное. Мне кажется, что это следствие так называемой «Сложной проблемы сознания».
1. Я начала смотреть сегодняшнее видео и тут поняла, что видимо не до конца осознала интуитивный подход из вчерашнего, а именно: я увидела по каким критериям проходит тест Тьюринга и что как такового описания к подходу ИИ не оставил :). но суть самого подхода "интуитивного" не очень осознала, это больше похоже на подход к валидации системы на то, относится ли она к ИИ или нет
Вы абсолютно точно уловили суть. Интуитивный подход сегодня — это, скорее, про валидацию. Как я говорил на лекции, мы каким-то интуитивным образом можем понимать, разумное ли существо перед нами или нет. Тем не менее, в чём тут дело? Когда учёные только начали работу над ИИ-системами, ещё практически не было никаких теоретических основ для работы. А потому разработчики как бы на собственной интуиции делали первые искусственные интеллектуальные системы. Только потом начались теоретические проработки. Сегодня теория на высоте, а потому интуитивный подход сегодня не используется в принципе.
2. я поняла, но по сути когда даже первые разработчики это делали, они все равно фактичекую систему проверяли интуитивно, подходит или нет, но когда они ее разрабатывали все равно подход к созданию был какой-то другой ). или имеется в виду что они интуитивно определяли направлняи развития системы, без какого-то системного подхода. системного в смысле общего определения "система" , а не конкретно информационной , а то тавтология получилась. системного в смысле общего определения "система" , а не конкретно информационной , а то тавтология получилась :)
Скорее, второе. Это как взять человека, который только-только начинает программировать. Он начинает писать какие-то учебные программы, экспериментирует, алгоритмов особо не знает. Ну вот, к примеру, уверен, что многие алгоритмы сортировки были многократно переизобретены теми, кто не читал монументальный труд Д. Кнута. Ну и тут то же самое — пионеры ИИ «тыкались» в разные стороны, что-то находили, что-то было ошибочным. Потом уже, когда начались подтягиваться научные коллективы, разработка стала принимать более системный характер.
Чистый подход или нисходящая парадигма работает по принципу формул или символьных вычислений, то есть есть правило это плюс это равняется такому-то значению, дальше надстраивается новая формула, данные из первой формулы со другим условием, получается второй результат и в итоге ИИ приходит в какому-то решению, так? Или нет?
Да, при этом формулы понимаются в общем смысле — это именно цепочки символов, над которыми осуществляется манипулирование при помощи правил вывода. Обработка естественного языка на основе формальных грамматик — это тоже работа с формулами и правилами вывода.
Нисходящей она называется потому, что из 12 формул превращается в 6, из 6 в 3, из 3 в какой-то вывод? Или почему нисходящая? Потому что выводы делаются по пирамиде вниз?
Нисходящей эта парадигма называется потому, что она идёт от моделирования высших психических функций. То есть она сверху пытается смоделировать интеллектуальные функции человека.
Экспертные системы не работают на нейронных сетях, раз они образец чистого подхода?
ЭС работают на продукционных правилах или семантических сетях. Но факты для правил или значения входных узлов для семсетей могут собирать нейросети. Так может работать гибридный подход, который мы будем изучать в 7-ом занятии. Гибридный — это одновременное использование техник чистого и грязного подхода. Гибридный объединяет обе парадигмы.
Грязный ИИ работает с базовыми элементами интеллекта и через это пытается дойти до искусственного сознания? А физически, если не через формулы, как это происходит?
Грязный ИИ — это, в основном, искусственные нейронные сети (ИНС). ИНС состоит из искусственных нейронов, каждый из которых — маленький компьютер или, даже, калькулятор, который каждый свой вход умножает на весовой коэффициент этого входа, а потом полученные произведения складывает, и если результирующая сумма превышает порог активации, то этот нейрон на выходе имеет значение 1, которое потом попадает в следующие нейроны. Вот такую ИНС можно обучить, при этом обучение заключается в том, что у неё настраиваются весовые коэффициенты на каждой связи между нейронами. Есть несколько методов обучения, один из самых распространённых — обратное распространение ошибки. Как только ИНС обучится, она может решать определённые задачи. Например, распознавать образы, в том числе и такие, каких не было в обучающей выборке. Вот это самая откровенная реализация грязного подхода.
Не поняла вопрос в тесте про человекомесяцев. Где это было написано?
Джон МакКарти говорил, что ему для создания ИИ потребуется работа 10 человек в течение 2 месяцев. Это 20 человекомесяцев.
Все три метода метода разработки ИИ (интуитивный подход, работающий с языком, знаниям и выводами, символьный подход, работающий по принципу сбора символов - слов, мыслей, ассоциаций, и логический подход, работающий с размышлениями и выводами знаний в рамках человеческого поведения) эти все метода чистый подход, нисходящий от 5 психических функций человека?
Да, все три метода — интуитивный, символьный и логический — это «представители» нисходящей парадигмы, если говорить упрощённо. Но на самом деле, должна быть таблица, столбцы которой обозначены парадигмами, а строки — подходами, а в ячейках перечислены конкретные методы и технологии Искусственного Интеллекта. Мы уже озаботились созданием такой таблицы и, вероятно, к концу курса Вы её получите.
Вопрос 1: из первого дня: "Но восторженные разработчики систем искусственного интеллекта натолкнулись на молчание экспертов, которые выступили в роли, скорее, неолуддитов. Никто не хотел делиться своими экспертными знаниями и, более того, никто не хотел заниматься самостоятельной их формализацией.". Звучит как-то странно: что значит не захотели делиться? Чего не хватило: настойчивочти или административного ресурса? Ведь в Советском Союзе, например, не было такого понятия "не хочу". Вне него ведь то же можно было посадить аспирантов за еду выковыривать знания из опубликованных работ.
Итак, ЭС и эксперты, которые «не захотели делиться своими знаниями». Тут несколько аспектов ситуации. Все эксперты разные, и некоторые-то как раз хотели. Но были и такие, которые вставали на позицию «это моя экспертиза, и я не буду передавать её бездушной машине». Проблема была, скорее, не в этом, а в том, что сам эксперт очень редко мог работать с оболочкой ЭС, в которой были примитивные инструменты для извлечения знаний. Ведь тогда развиты и эргономичных интерфейсов не было, и работа велась через командную строку, если не через перфокарты. Хорошо, справились с этой проблемой — появились специально обученные инженеры по знаниям (когнитологи), которые помогали экспертам формализовывать знания и переводить их в семантические сети или продукции. Но тут появилась новая проблема — знания как-то плохо формализовывались. Даже посадить аспирантов за еду было сложно, так как в справочниках знания были описаны на естественном языке, а переводить их надо было в формальную структуру. Это было непросто. А потом появилось понимание о том, что в знаниях присутствуют НЕ-факторы — нечёткость, неточность, неопределённость, неполнота, недостоверность, противоречивость и ещё разного рода артефакты. Началась работа по созданию математических формализмов их обработки. Ну а пока суть да дело, финансирование направления прикрыли. И развиваться чистая парадигма и ЭС продолжили только в башнях из слоновой кости.
Т.е. на настоящий момент нет четкой уверенности, что человеческие знания можно перенести в символьную форму, удобную для машины вывода?
Ну, честно говоря, такая уверенность есть и она вполне обоснована, так как для всех НЕ-факторов разработаны математические методы их обработки. Это и сами теории — теория нечётких множеств, теория неопределённости и некоторые другие формализмы, так и различные методы, применяемые при построении баз знаний — верификация, достижение полноты и т. д. Если брать довольно узкие проблемные области, то их можно описать. Но чем шире проблемная область, тем тяжелее. Но не потому, что что-то мешает формализации знаний, а потому, что слишком обширны переплетения в понятиях, методах, семантике. И, в общем-то, создание полной онтологии человеческого знания — это давняя идея и мечта, и она достижима, но пока мы находимся только в начале пути. При этом надо отметить и то, что сами знания развиваются, и пока мы идём, полный корпус человеческого знания тоже увеличивается.
Самостоятельная работа
Задание 1

Прочесть все материалы по ссылкам выше

Задание 2

Сдать проверочный тест
Есть вопросы? Отлично, задавайте!
Предыдущие уроки
Урок №1: ИИ и две зимы здесь
Урок №2: ИИ и междисциплинарные исследования здесь
Урок №3: Две парадигмы здесь