Роман душкин
Искусственный Интеллект
Базовый онлайн-курс. Поток № 1, неделя № 1
Поток №1 Неделя №1
Урок №1: ИИ и две зимы здесь
Урок №2: ИИ и междисциплинарные исследования здесь
Урок №3: Две парадигмы здесь
Урок №4: Интуитивный подход и тест Тьюринга здесь
Урок №5: Символьный и логический подходы здесь
Урок №6: Агенты и роевой интеллект здесь
Рецензии курсантов и обратная связь Романа здесь. Рецензировалась новость: "Google: Человечество не готово к технологическим изменениям".
Интересные вопросы курсантов
(орфография и пунктуация курсантов сохранены)
Роман, в лекции вы использовали термин слой нейронной сети, что он означает?
Искусственная нейронная сеть (ИНС) — это математический формализм, моделирующий отдельные аспекты деятельности естественных нейронных сетей, которые располагаются у нас в нервной системе. Ключевым элементом формализма является искусственный нейрон — фактически, это функция, которая получает на вход N значений, суммирует их с весами и выдаёт на свой единственный выход 1, если взвешенная сумма превысила некоторый порог. Это очень упрощённое объяснение, есть много разных вариантов искусственных нейронов, но в основном все они действуют так.

Так вот для решения каких-либо задач искусственные нейроны собираются в сети, которые обычно организованы слоями — слой входных нейронов, скрытые слои, слой выходных нейронов.

На изображении типовая ИНС. Жёлтые — это нейроны входного слоя. Зелёные — скрытые слои. Оранжевые — выходной слой.

Большинство архитектур ИНС предполагают, что все нейроны слоя N передают сигнал во все нейроны слоя N+1. И, соответственно, получают сигнал из всех нейронов слоя N–1.

Входные нейроны фильтруют входную информацию, скрытые её перерабатывают, выходные — формируют ответ ИНС как целого
.
Можешь пожалуйста объяснить суть работы экспертных систем. Суть в том что эксперты говорили что правильно а что нет и на этом строилось обучение?
Суть на пальцах. Экспертная система (ЭС) состоит из трёх частей:
1) База знаний (БЗ)
2) Универсальная машина вывода (решатель)
3) Факты
Эксперт наполняет базу знаний своими знаниями в виде формального предоставления. Например, в виде правил «Если ... То ...». Если на улице пасмурно, То возьми с собой зонтик. Если петух кричит, То солнце всходит на востоке. Если в огороде бузина, То в Киеве дядька.
Обучение ЭС заключается в наполнении БЗ такими формальными штуки (это не обязательно подобные правила, мы ещё будем говорить о методах представления знаний). А потом решатель получает на вход некоторые факты и при помощи логических рассуждений (в основном это метод резолюций и правила Модус Поненс и Модус Толленс) делает определённые выводы. Например. Факт: дядьки в Киеве нет. Вывод: бузины в огороде нет.

Я не совсем понял как связано системы принятия решений в условиях неопределенности и ИИ?
ЭС и Системы поддержки принятия решений (СППР) — это один из методов ИИ.
По сути, задача создания Ai : на основе накопленных фактов / знаний научить принимать лишенное эмоций решение, не ограничиваясь заранее прописанными скриптами?
Да. Это одна из задач ИИ. Если подняться на довольно высокий уровень абстракции, то да — нам надо научить ИИ рационально принимать взвешенное решение, имея в наличии все накопленные знания и те или иные факты, доступные здесь и сейчас. Проблема в том, что знания сами по себе объективно обладают определёнными свойствами, которые не дают возможности всегда рационально решить задачу. Знания бывают неполны. Знания бывают неточны. Знания бывают даже противоречивы. То же самое можно сказать и о фактах, относительно которых надо принять решение. Всё это ИИ должен уметь обрабатывать. Проблема в том, что мы пока сами не очень-то и знаем, как человек поступает в подобных ситуациях, поэтому и возникают разного рода эвристики, техники машинного обучения, неструктурированный поиск.
Но разве глобальные знания м.б. не точны? Знания индивидуума - да, но условного глобального мозга - нет, вопрос тогда будет как к нему подключиться.
Да, могут. Например, в силу неопределённости Гейзенберга. Любые знания неточны и неполны. Наука как раз и направлена на уточнение и повышение степени полноты нашего знания. Но чем больше мы получаем знаний, тем больше появляется неполноты и неточности. Это подметили ещё древние греки.
Вы можете спросить, обладает ли такими же неприятными свойствами «чистое знание» — например, математические формальные системы? Да, и они тоже. Хотя бы в силу теоремы о неполноте Гёделя. Но об этом мы поговорим на одном из следующих занятий.

Я упомянул про принцип неопределённости Гейзенберга. Он говорит о том, что мы не можем точно измерить местоположение и скорость частицы или квантовой системы. Чем точнее мы измеряем местоположение, тем ниже точность у скорости, и наоборот. Почему? Просто в процессе измерения мы воздействуем на измеряемый объект. И чем точнее требуется измерить один параметр, тем сильнее мы самим фактом изменения воздействуем на второй и делаем его менее точным. Другой такой же парой параметров-антагонистов являются время и энергия. В общем, как итог — мы (или ИскИн) никогда не сможем измерить что-либо со стопроцентной точностью, всегда будет некоторый уровень неточности. Неточность измерений влечёт неточность знаний. И эта неточность лежит в фундаменте нашей реальности на самом базовом уровне. Превозмочь её невозможно.

Что касается «чистых знаний», типа абстрактной математики, то тут я апеллировал к теореме Гёделя о неполноте. Она гласит, что любая достаточно выразительная формальная система, в которой есть возможность выразить базовую арифметику (числа и операцию сложения) либо противоречива, либо неполна. Противоречивость обозначает то, что в системе можно доказать некую теорему и её отрицание. Неполнота обозначает невозможность в системе доказать некую теорему, которая истинна и действительно является теоремой. В общем, следствие этой теоремы в том, что наша обычная арифметика является неполной системой, и наполнить её невозможно (это тоже доказано Гёделем).

1. Как понимаю, мы говорим об ИИ - в контексте западного понятия Artificial Intellegence и об ИксИне как о разумном и человечном понятии
Да. ИИ — это Слабый Искусственный Интеллект в терминологии Джона Сёрля. ИскИн — это Сильный, искусственное разумное существо. Но только я бы не стал называть его «человечным». Чем меньше антропоморфизма, тем меньше иллюзий относительно его этики, морали, действий и т. д.
2. Тогда инструментами ИИ сейчас являются в основном нейросети? Или я не прав?
2.1. Экспертные системы тогда также должны переживать подъем. Из-за обилия BigData, в которую входят, в том числе и экспертные мнения?
Сегодня — да. ИНС заполонили всё. Но другие направления тоже не отставлены в сторону. ЭС развиваются не так сильно, но развиваются. Когнитивистика сделала много новых открытий, и вместе с нейрофизиологией и клинической психологией эти науки сейчас объединены и строят гипотезы о природе сознания. Когда найдут, прорыв будет именно в рамках ЭС, но, скорее всего, интеллект будет гибридным — об этом на одном из следующих занятий.
Какие еще инструменты ИИ есть (возможно будут в дальнейшем разбираться) кроме нейросетей и экспертных сетей
Вы назвали два самых широко распространённых инструмента для грязной (ИНС) и чистой (ЭС) парадигмы ИИ (об этом на следующих занятиях). Остальные методы — либо их развитие (например, СППР как развитие ЭС), либо что-то достаточно близкое (как, к примеру, методы машинного обучения статистической природы по отношению к ИНС). Также в состав методов ИИ обычно включают обработку естественного языка, межсистемное взаимодействие в роевом интеллекте и мультиагентных системах, а также разные прикладные направления, типа робототехники, бионики, прямого нейроинтерфейса и др.
Может ли перейти колличество (ИИ) в качество (ИксИн)
мне кажется, что нет. Но хочется экспертного совета :)
Сомневаюсь.
Как это получать новые знания механически? что это за теория? Я понимаю, что в процессе медитации и остановки деятельности ума, который на самом деле нам враг, можно подключиться к источнику абсолюта и черпать оттуда знания. Но а это что за механический процесс?
Например, это может быть формальный вывод и доказательство новых теорем в рамках какой-либо формальной системы. Новая теорема —это новое знание, которое добыто «механически». Или, другое пример, искусственную систему можно запрограммировать для получения результатов неких экспериментов, которые она постоянно ставит. Эта система будет получать данные, фильтровать их и даже как-то интерпретировать, и в этом случае через процесс интерпретации из данных будут получится знания. А дальше знания уже применяются разумным существом или же системой, основанной на знаниях (экспертной системой).
Интересно зачем нужна была разностная машина, какие вычисления она реально производила , какую функцию она выполняла?
Разностная машина проектировалась как универсальный аппроксиматор функций многочленами и вычисления конечных разностей [в нотации LaTeX: \Delta (x_k) = f(x_{k + 1}) - f(x_k) ]. Фактически, она могла бы позволить вычислять приближённые значения логарифмов и тригонометрических функций, что имело бы прямое прикладное значение в мореплавании, инженерном деле и везде, где требовались расчёты инженерного характера.
Не очень понятно, почему парадокс Рассела помешал созданию стройной математической системы по получению знаний? Также очень интересно, возможна ли вообще подобная система, если учитывать, что для нового "знания" нужна идея, а не просто математический анализ данных?
Рассел и другие последователи Гильберта пытались сделать некую систему, которая позволила бы «механически» получать новые математические знания и, в итоге, просто, перебрав и все, построить окончательное и фундаментальное здание науки. Но Рассел первый же вбил гвоздь в крышку гроба наивной теории множеств Канторы со своим парадоксом, а за ним уже и Гёдель доказал, что окончательной и полной системы научного знания мы получить не сможем никогда. Из этого следует интересный вывод — те, кто «общается» с миром чистых платонических идей, всегда будут находить что-то новое и постоянно достраивать здание науки.

Что касается теоремы Гёделя о неполноте. то она гласит, что любая достаточно выразительная формальная система, в которой есть возможность выразить базовую арифметику (числа и операцию сложения) либо противоречива, либо неполна. Противоречивость обозначает то, что в системе можно доказать некую теорему и её отрицание. Неполнота обозначает невозможность в системе доказать некую теорему, которая истинна и действительно является теоремой. В общем, следствие этой теоремы в том, что наша обычная арифметика является неполной системой, и наполнить её невозможно (это тоже доказано Гёделем).

В общем, всё это значит, что мы не сможем построить окончательное здание знания, фундаментальное и завершенное. Знания будут добываться всегда. И всегда будет появляться возможность добавить новые знания. Что бы нового мы не открыли.
Роман, Вы слегка искусственно провоцируете дискуссию или действительно Восточная цивилизация не внесла ничего в развитие математики, возможно приведшее к прорыву западной математической мысли 20 в?
Несомненно, что восточная научная мысль дала какие-то отдельные всплески (типа всем известных нуля и арабских цифр для десятичной записи). Но если рассматривать в целом весь массив философии и науки, то вне всякого сомнения колыбелью научного мировоззрения является античный мир и западная цивилизация, как наследующая ему. Восточные культуры более созерцательны, западные — рациональны.
И как возможно создать язык программирования, не имея машины? Хотя, возможно, мы приходим к проблеме курицы - яйца. С другой стороны, есть гравиационные волны Эйнштейна, обнаруженные через 100 лет после их описания.
Тьюринг сделал это. Он построил умозрительную модель (машину Тьюринга), после чего, фактически, описал в математических терминах универсальный язык программирования. Отсюда появился термин — «Тьюринг-полный язык программирования», который обозначает, что на этом языке можно реализовать любую функцию, которую можно вычислить (не все функции можно вычислить). То же самое сделал Алонзо Чёрч — не имея компьютера, он описал математическую нотацию (лямбда-исчисление), которое как раз представляет собой базовый Тьюринг-полный язык программирования. Все современные языки программирования высоких уровней представляют собой всего лишь «синтаксический сахар», обёртывающий математические записи лямбда-исчисления.
...Есть ли что-то более продвинутое для распознавания ИИ, обладающего самосознанием? Или что бы мы ни делали, вопрос этот переходит в разряд философии и является нерешаемым? Да, тест Тюринга плох и не особо работает. Есть ли что-то лучше? Или задача вообще не выполнима и относится к философии: "что же такое разумное существоооо?"?
Да. Потому что против любой процедуры, какую бы кто-либо не предложил, можно привести примеры её провала в двух аспектах. Во-первых, можно привести пример, когда она скажет «разумно» на неразумное. Во-вторых, пример ответа «неразумно» на разумное. Мне кажется, что это следствие так называемой «Сложной проблемы сознания».
Насколько я понял в роевых алгоритмах роль матки отсутствует, хотя в природе матка играет основополагающую роль в том же улье. Если погибает матка, то и погибает улей. Таким образом, если дальше развивать идею суперорганизма, то необходимо вводить роль матки, тогда интеллект системы очень сильно возрастет.
Смотри, пара примеров. Рассмотрим автономные автомобили:
1) Центральная система управления (ЦСУ), которая за каждый автомобиль решает, по какому маршруту ему ехать, чтобы довезти пассажира или груз. Это централизованная система с иерархией.
2) Есть зональные центры, которые могут координировать свои действия на своём уровне, не эскалируя на ЦСУ. И они могут воздействовать на автономные автомобили. При этом последние обладают определённой степенью свободы принятия решений.
3) Автономные автомобили полностью самостоятельно принимают решения и ездят, общаясь друг с другом и элементами инфраструктуры — это децентрализованная схема. Она может быть очень адаптивной, но схемы с ЦСУ обычно более эффективны.