Роман душкин
Искусственный Интеллект
Базовый онлайн-курс. Поток № 1, неделя № 2
Поток №1 Неделя №1-2
Урок №1: ИИ и две зимы здесь
Урок №2: ИИ и междисциплинарные исследования здесь
Урок №3: Две парадигмы здесь
Урок №4: Интуитивный подход и тест Тьюринга здесь
Урок №5: Символьный и логический подходы здесь
Урок №6: Агенты и роевой интеллект здесь
Урок №7: Пять подходов к созданию ИИ здесь
Урок №8: Сильный и слабый Искусственный Интеллект здесь
Урок №9: Некоторые мифы об ИИ - 1 здесь
Урок №10: Некоторые мифы об ИИ - 2 здесь
Урок №11: Некоторые мифы об ИИ - 3 здесь
Урок №12: Правда об ИИ - 1 здесь

Интересные вопросы курсантов
(орфография и пунктуация курсантов сохранены)
Какое место в доктрине ИИ занимает понятие «сознание»?
Каждый разработчик систем искусственного интеллекта, фактически, решает для себя сам. Сегодня, в основном, делаются системы слабого ИИ, поэтому в них люди не заморачиваются вопросами сознания, самосознания, интеллекта, разума и т. д. Есть задача, есть методы — вот решение. Само по себе сознание и всё вокруг него интересует в большей мере философов и тех разработчиков, кто работает над сильным ИИ.
Вопрос - какие экспертные системы используются сейчас? Переводчики Abby & google это ai?
Сегодня используются тысячи разных экспертных систем. В основном в рамках систем поддержки принятия решений (СППР) в различных ведомствах. В качестве примера могу привести СППР, которую разрабатывал сам для МЧС России. В её составе есть экспертная система (ЭС), которая предназначена для распознавания неизвестных веществ вне лаборатории. Даже более, сегодня всё ещё используются ЭС, разработанные в 1980-х годах XX века. Ну та же DENDRAL, самая первая в истории ЭС, она до сих пор используется.
Что касается переводчиков. Да, это технологии ИИ. Просто есть такая парадоксальная штука — когда технологии плотно входят в жизнь и становятся обыденными, люди не склонны видеть в них что-то необычное или очень научное. Автоматические переводчики стали обыденностью, но то, что лежит у них под капотом, — это, вне всяких сомнений, технологии Искусственного Интеллекта.

1. Здравствуйте, можете более менее простыми словами объяснить метод имитации отжига?
В общем, так. Представьте метод градиентного спуска, который в классическом варианте часто залипает в локальных экстремумах, но теперь следующая точка выбирается случайно в некоторой окрестности текущей точки, а переход в неё осуществляется в соответствии с некоторой условной вероятностью.
2. А для чего в принципе используется метод имитации отжига? для поиска экстремумов тоже?
Да, это метод оптимизации. Но он тоже, конечно, не гарантирует попадания в глобальный.
1. добрый день, что такое весовые коэффициенты нейросети?
Каждой связи между нейронами нейросети приписан некоторый весовой коэффициент, на который умножается значение, передаваемое по этой связи. Обучение нейросети как раз и заключается в подстройке значений этих весовых коэффициентов.
2. то есть информация, которая пройдёт через эту связь станет более значительной?
Или наоборот обнулится. Коэффициент же может получить значение 0.
Я не совсем понимаю что именно даёт увеличение скрытых слоёв инс?
И отличаются ли как-то нейроны, находящие на входе от нейронов в скрытых слоях , например?
Само по себе увеличение количества слоёв в ИНС не даёт ничего. Более того, для некоторых типов ИНС существует такой феномен, как «затухание», когда пр обучении при помощи метода обратного распространения ошибки весовые коэффициенты на межнейронных связях у самых первых слоёв практически не изменяются, так как ошибка не доходит до этих слоёв. Так что всё дело в архитектуре нейронной сети в первую очередь и в типе используемых нейронов во вторую. Задача диктует выбор архитектуры, которая частично определяет тип нейронов, а дальше уже сам исследователь различными методами пытается определить, сколько скрытых слоёв нейросеть должна содержать. То есть нельзя сказать, что вот мы сейчас возьмём и добавим пару сотен слоёв, и тогда о-го-го! Нет, для каждой задачи и каждой архитектуры, фактически, это индивидуальный подбор, и задача эта больше творческая.

Что касается типов нейронов, то тут опять архитектура ИНС диктует, какие нейроны на каких слоях должны быть. Разных типов нейронов придумано довольно много. И они используются в разных типах ИНС. Например, в перцептроне три типа нейронов — по одному на каждый тип слоя. В свёрточной сети на входных слоях могут стоять обычные фильтрующие нейроны, а на скрытых слоях — с памятью. В других архитектурах могут использоваться нейроны с реципрокными и обратными связями. Опять же диктует задача.
Какие есть теории касательно эмоций у ИИ? Могут ли они у него появиться и зачем-то ему быть нужны?
Благодарю за отличный вопрос! Чтобы ответить на него, нужно обратиться к самому механизму эмоций у человека. Как предполагается, они, эмоции, возникли как механизм регуляции ещё у тех организмов, у которых нет нервной системы и, соответственно, целенаправленной передачи сигналов. Протоэмоциями можно назвать хемотаксис у бактерий (то есть движение по градиентам концентраций определённых веществ, которое нами, людьми, погрязшими в антропоморфном видении мира, воспринимается как намеренное приближение к пище или убегание от врага). То же самое можно сказать про растения, низших животных и всех остальных вплоть до человека. То есть эмоция — это общесистемный химический ответ организма на некоторый стимул извне или изнутри. Благодаря эмоциям организм может более или менее быстро реагировать на разные стимулы. Если рассмотреть человека, то у него эмоциональные процессы накладываются на возможность их осознания, и отсюда возникает весь спектр сложных эмоциональных комплексов, включающих вторичные эмоции и эмоции высших порядков. Ну, например, человек в ответ на какое-то событие резко разозлился, потом осознал это и почувствовал стыд. В итоге у него в крови повысились концентрации нескольких гормонов, которые сознанием воспринимаются как соответствующие эмоции. Другими словами, последовательность эволюции такая: хемотаксис => эмоции => нервная система => сознание. Ну и теперь понятно про ИИ. Если он будет изначально рациональным и сознательным, то никакие эмоции ему будут не нужны. Холодный разум, всегда принимающий рациональное взвешенное решение. Само собой разумеется, что сейчас речь идёт о Сильном ИИ. Слабому эмоции ни к чему в принципе. Но если его разработчики так его запрограммируют, то он будет симулировать эмоциональный ответ, например, для более эмпатичного общения с людьми. Кстати, это же может делать и Сильный ИИ, но уже по собственной воле и только для того, чтобы спуститься на наш примитивный уровень.
1. я начала смотреть сегодняшнее видео и тут поняла, что видимо не до конца осознала интуитивный подход из вчерашнего, а именно: я увидела по каким критериям проходит тест Тьюринга и что как такового описания к подходу ИИ не оставил :). но суть самого подхода "интуитивного" не очень осознала, это больше похоже на подход к валидации системы на то, относится ли она к ИИ или нет
Дам комментарий пока здесь небольшая заминка. Вы абсолютно точно уловили суть. Интуитивный подход сегодня — это, скорее, про валидацию. Как я говорил на лекции, мы каким-то интуитивным образом можем понимать, разумное ли существо перед нами или нет. Тем не менее, в чём тут дело? Когда учёные только начали работу над ИИ-системами, ещё практически не было никаких теоретических основ для работы. А потому разработчики как бы на собственной интуиции делали первые искусственные интеллектуальные системы. Только потом начались теоретические проработки. Сегодня теория на высоте, а потому интуитивный подход сегодня не используется в принципе.
2. я поняла, но по сути когда даже первые разработчики это делали, они все равно фактичекую систему проверяли интуитивно, подходит или нет, но когда они ее разрабатывали все равно подход к созданию был какой-то другой ). или имеется в виду что они интуитивно определяли направлняи развития системы, без какого-то системного подхода. системного в смысле общего определения "система" , а не конкретно информационной , а то тавтология получилась. системного в смысле общего определения "система" , а не конкретно информационной , а то тавтология получилась :)
Скорее, второе. Это как взять человека, который только-только начинает программировать. Он начинает писать какие-то учебные программы, экспериментирует, алгоритмов особо не знает. Ну вот, к примеру, уверен, что многие алгоритмы сортировки были многократно переизобретены теми, кто не читал монументальный труд Д. Кнута. Ну и тут то же самое — пионеры ИИ «тыкались» в разные стороны, что-то находили, что-то было ошибочным. Потом уже, когда начались подтягиваться научные коллективы, разработка стала принимать более системный характер.
У меня вопрос по курсу, про гибридизацию человека и новых технологий. Если я правильно понимаю, эта тема должна опираться на новые технологии и исследования протезирования?
Да, именно на исследования по протезированию и опирается тема гибридизации. Но надо понимать, что протизирование и гибридизация — они двухаспектны. С одной стороны, это именно протезы конечностей и даже внутренних органов. С другой — дополнения в мозг и нервную систему для расширения их возможностей. Эти области очень тесно переплетены, и в их основе лежит нейроинтерфейс. То есть схема примерно такая: протезирование => нейроинтерфейс => киборгизация => гибридизация сознания.
Как это получать новые знания механически? что это за теория? Я понимаю, что в процессе медитации и остановки деятельности ума, который на самом деле нам враг, можно подключиться к источнику абсолюта и черпать оттуда знания. Но а это что за механический процесс?
Например, это может быть формальный вывод и доказательство новых теорем в рамках какой-либо формальной системы. Новая теорема —это новое знание, которое добыто «механически». Или, другое пример, искусственную систему можно запрограммировать для получения результатов неких экспериментов, которые она постоянно ставит. Эта система будет получать данные, фильтровать их и даже как-то интерпретировать, и в этом случае через процесс интерпретации из данных будут получится знания. А дальше знания уже применяются разумным существом или же системой, основанной на знаниях (экспертной системой).
Интересно зачем нужна была разностная машина, какие вычисления она реально производила , какую функцию она выполняла?
Разностная машина проектировалась как универсальный аппроксиматор функций многочленами и вычисления конечных разностей [в нотации LaTeX: \Delta (x_k) = f(x_{k + 1}) - f(x_k) ]. Фактически, она могла бы позволить вычислять приближённые значения логарифмов и тригонометрических функций, что имело бы прямое прикладное значение в мореплавании, инженерном деле и везде, где требовались расчёты инженерного характера.
Не очень понятно, почему парадокс Рассела помешал созданию стройной математической системы по получению знаний? Также очень интересно, возможна ли вообще подобная система, если учитывать, что для нового "знания" нужна идея, а не просто математический анализ данных?
Рассел и другие последователи Гильберта пытались сделать некую систему, которая позволила бы «механически» получать новые математические знания и, в итоге, просто, перебрав и все, построить окончательное и фундаментальное здание науки. Но Рассел первый же вбил гвоздь в крышку гроба наивной теории множеств Канторы со своим парадоксом, а за ним уже и Гёдель доказал, что окончательной и полной системы научного знания мы получить не сможем никогда. Из этого следует интересный вывод — те, кто «общается» с миром чистых платонических идей, всегда будут находить что-то новое и постоянно достраивать здание науки.

Что касается теоремы Гёделя о неполноте. то она гласит, что любая достаточно выразительная формальная система, в которой есть возможность выразить базовую арифметику (числа и операцию сложения) либо противоречива, либо неполна. Противоречивость обозначает то, что в системе можно доказать некую теорему и её отрицание. Неполнота обозначает невозможность в системе доказать некую теорему, которая истинна и действительно является теоремой. В общем, следствие этой теоремы в том, что наша обычная арифметика является неполной системой, и наполнить её невозможно (это тоже доказано Гёделем).

В общем, всё это значит, что мы не сможем построить окончательное здание знания, фундаментальное и завершенное. Знания будут добываться всегда. И всегда будет появляться возможность добавить новые знания. Что бы нового мы не открыли.
Роман, Вы слегка искусственно провоцируете дискуссию или действительно Восточная цивилизация не внесла ничего в развитие математики, возможно приведшее к прорыву западной математической мысли 20 в?
Несомненно, что восточная научная мысль дала какие-то отдельные всплески (типа всем известных нуля и арабских цифр для десятичной записи). Но если рассматривать в целом весь массив философии и науки, то вне всякого сомнения колыбелью научного мировоззрения является античный мир и западная цивилизация, как наследующая ему. Восточные культуры более созерцательны, западные — рациональны.
И как возможно создать язык программирования, не имея машины? Хотя, возможно, мы приходим к проблеме курицы - яйца. С другой стороны, есть гравиационные волны Эйнштейна, обнаруженные через 100 лет после их описания.
Тьюринг сделал это. Он построил умозрительную модель (машину Тьюринга), после чего, фактически, описал в математических терминах универсальный язык программирования. Отсюда появился термин — «Тьюринг-полный язык программирования», который обозначает, что на этом языке можно реализовать любую функцию, которую можно вычислить (не все функции можно вычислить). То же самое сделал Алонзо Чёрч — не имея компьютера, он описал математическую нотацию (лямбда-исчисление), которое как раз представляет собой базовый Тьюринг-полный язык программирования. Все современные языки программирования высоких уровней представляют собой всего лишь «синтаксический сахар», обёртывающий математические записи лямбда-исчисления.
...Есть ли что-то более продвинутое для распознавания ИИ, обладающего самосознанием? Или что бы мы ни делали, вопрос этот переходит в разряд философии и является нерешаемым? Да, тест Тюринга плох и не особо работает. Есть ли что-то лучше? Или задача вообще не выполнима и относится к философии: "что же такое разумное существоооо?"?
Да. Потому что против любой процедуры, какую бы кто-либо не предложил, можно привести примеры её провала в двух аспектах. Во-первых, можно привести пример, когда она скажет «разумно» на неразумное. Во-вторых, пример ответа «неразумно» на разумное. Мне кажется, что это следствие так называемой «Сложной проблемы сознания».
Насколько я понял в роевых алгоритмах роль матки отсутствует, хотя в природе матка играет основополагающую роль в том же улье. Если погибает матка, то и погибает улей. Таким образом, если дальше развивать идею суперорганизма, то необходимо вводить роль матки, тогда интеллект системы очень сильно возрастет.
Смотри, пара примеров. Рассмотрим автономные автомобили:
1) Центральная система управления (ЦСУ), которая за каждый автомобиль решает, по какому маршруту ему ехать, чтобы довезти пассажира или груз. Это централизованная система с иерархией.
2) Есть зональные центры, которые могут координировать свои действия на своём уровне, не эскалируя на ЦСУ. И они могут воздействовать на автономные автомобили. При этом последние обладают определённой степенью свободы принятия решений.
3) Автономные автомобили полностью самостоятельно принимают решения и ездят, общаясь друг с другом и элементами инфраструктуры — это децентрализованная схема. Она может быть очень адаптивной, но схемы с ЦСУ обычно более эффективны.

Открыл статью в википедии про "вторую сигнальную систему". Очень сложный язык статьи и отсутствие этой станички на других языках (там только 3 языка бывшего СССР) предостерегает меня что это понятие не очень признано в мире. Что-то из псевдонауки. Это так? Или просто ссылки в википедии не очень хорошо проставлены?
Рита думает что это вообще нельзя категоризировать в науку\псевдонауку, т.к. это просто понятие, введенное для описания каких-то процессов. А иностранцы не знают просто потому что, кроме работ по бехавиоризму, с Павловым особо не знакомы.
Понятия ПСС и ВСС введены Павловым, но потом академической наукой в СССР отодвинуты. Их не использовали здесь, а там их и не знали. Но мне кажется, что эти термины термины хорошо отражают суть процессов.
1) ПСС — мы получаем ощущения через сенсоры и реагируем на них здесь и сейчас или складываем в память, но там они лежат тоже в виде ощущений разных модальностей или даже смешано.
2) ВСС — мы получаем ощущения и обрабатываем их при помощи символов. Абстрактные символы сами по себе становятся предметом внутренних переживаний и осмысленной уже без привязки к непосредственным ощущениям органов чувств.
Пример. Собака видит дм своего хозяина. Её ощущения на сетчатке глаза передаются в головной мозг, где рождают ассоциации типа «безопасно», «тепло», «радость» и т. п. первичные эмоции. Человек видит свой дом. У него не только первичные эмоции, как у собаки, появляются, но и куча опосредованной абстракции символом «дом».
В противоположность этому. Собака видит какой-то чужой дом далеко от своего (например, в другой деревне), не похожий по внешнему виду на дом хозяина совершенно. Ну некая форма на сетчатке не вызывает у неё абсолютно никакого интереса. Человек видит тот же дом и, например, если он давно не был у себя дома, у него в голове рождается такое ощущение, как ностальгия и грусть. Это вторичные эмоции, связанные с абстрактным символом «дом», а не с корректной постройкой, которую он видит здесь и сейчас, и которая у собаки никаких эмоций не вызывает.