26. ИИ и Безопасность
Текст видео

Здравствуйте, уважаемые друзья. У нас двадцать шестая лекция, и мы продолжаем изучать прикладные аспекты использования технологий Искусственного Интеллекта, так что сегодня вслед за государственным управлением мы рассмотрим безопасность. Это курс по основам Искусственного Интеллекта, меня зовут Роман Душкин. Вперёд.

Безопасность является базовой потребностью как отдельного индивидуума, так и общества, поэтому государство, в том числе, является инструментом обеспечения безопасности внутренней и внешней. Функция обеспечения безопасности во многих случаях даже может иметь очень высокий приоритет для государства — как в определённые периоды времени, так и в зависимости от структуры и формы государственного устройства. Обеспечение безопасности направлено на стабилизацию общественных отношений, недопущение нарушения функционирования системообразующих элементов и институтов в самом государстве, выявление и предупреждение рисков и угроз изнутри и снаружи. Однако при выполнении функции обеспечения безопасности важно соблюдать баланс между «закрученными гайками» и возможностью для общества и государства двигаться вперёд, развиваться. Также необходимо отметить, что у безопасности имеется множество различных аспектов — физическая, информационная, экономическая и другие, все вместе объединяемые под термином «комплексная безопасность». Наконец, необходимо отметить, что всё то, что я рассказал касательно государства, может относиться к более простым социотехническим системам — организациям.
Обычно при рассмотрении любого аспекта безопасности в расчёт принимается модель рисков и угроз и модель нарушителя. На основании этих моделей осуществляется стратегическое и оперативное планирование, резервирование сил и средств для предотвращения угроз, обеспечения безопасности и ликвидации последствий. Далее в соответствии с разработанными программами и планами в действие приводятся меры по обеспечению безопасности. Обычно всё вышеперечисленное основано на стандартизации и использовании зарекомендовавших себя методик и принципов. Ведь недаром говорят, что «техника безопасности выстрадана кровью и смертями».

Что ж, мы рассмотрели необходимые понятия из области безопасности, а теперь перейдём к тому, что же здесь могут дать технологии Искусственного Интеллекта. Самое главное — это динамика в части моделей угроз и нарушителя, их постоянная адаптация под меняющиеся условия функционирования. Ведь не секрет, что между «иммунной системой», назовём орган обеспечения безопасности так, и нарушителями постоянно ведётся «гонка вооружений». Этот биологический термин применим к системам любой природы, и не зря же его использовали во время холодной войны для обозначения попыток сверхдержав нарастить потенциал своих атакующих и оборонительных систем так, чтобы получить доминирование над противоположными системами потенциального противника. Другими словами, гонка вооружений — это постоянные попытки со стороны нарушителя преодолеть меры безопасности, а со стороны иммунной системы предугадать и предотвратить такие попытки. Что будет, если система обеспечения безопасности основана на вырубленных в скрижалях правилах и бюрократических процедурах, которые должны неукоснительно исполняться? Правильно! Такую систему будут постоянно «хакать» разными необычными способами. Особенно в связи с развитием технологий. Так вот главной задачей Искусственного Интеллекта в этом случае становится создание механизмов адаптации системы безопасности к новым условиям среды, в которой она функционирует.
Не менее важными способами применения технологий Искусственного Интеллекта являются частные подсистемы и отдельные функции. Например, задача распознавания образов хорошо ложится на системы видеонаблюдения, добавляя в них функцию детекции инцидентов и видеоаналитики. Уже сегодня на рынке существуют готовые решения, которые позволяют методами видеоаналитики определять многочисленные классы событий — от прохождения через периметр контроля до открытого огня. Можно сказать, что детекция инцидентов — это наиболее широко применяемая технология Искусственного Интеллекта, развитая уже сегодня. Но вот, к примеру, анализ больших данных и data mining в эти вопросах практически не применяются, хотя именно эти технологии были бы интересны в связи с развитием адаптационных механизмов, так как позволяют заранее обнаружить скрытые закономерности и использовать их для актуализации моделей безопасности. Ещё одна технология Искусственного Интеллекта — использование деревьев решений для высокоуровневого принятия решений относительно методов реагирования на те или иные события, пришедшие из системы видеоаналитики и детекции инцидентов. Сейчас обычно оператор, которому система сигнализировала о наступлении события, принимает решение, что делать дальше. Но ведь это можно делать автоматически. В том числе и в рамках уже неоднократно упомянутых адаптационных механизмов.

Хорошо. Давайте пару примеров. Первый очень часто применяется на автомобильных дорогах. Представьте себе трассу длиной две тысячи километров. Трасса идёт по безлюдным степям. Каждые 300 метров на трассе располагаются две видеокамеры высокого разрешения, которые постоянно снимают дорогу в две стороны. Всего таких видеокамер получается более тринадцати тысяч. Если один человек может охватить взглядом 16 трансляций видеопотоков в течение двух часов наблюдения, то для непрерывного видеонаблюдения в течение полных суток требуется пятнадцать тысяч человек, работающих в шесть смен один день через три. Это слишком, не правда ли? Но с учётом того, что на трассе обычно ничего такого не происходит, всем этим хозяйством управляются шесть операторов в смену, то есть штат составляет чуть более пятидесяти человек, включая руководителей. А всё дело в автоматической детекции инцидентов от дорожно-транспортного происшествия, движения задним ходом, остановки, выхода на проезжую часть человека или крупного животного и даже выпадения груза и возгорания. И система сигнализирует оператору только в случае, если инцидент распознан и подтверждён. Ошибок второго рода практически нет. Оператору остаётся лишь выслать на место происшествия аварийного комиссара для разбирательства на месте.
Второй пример. Представьте детскую площадку. На ней есть некоторое количество сенсорных устройств, в том числе видеокамеры с аналитикой, тревожная кнопка и датчики на опасном игровом инвентаре. Видеокамеры обозревают не только саму площадку, но и подходы к ней. А сама система не просто распознаёт инциденты и реагирует в реактивном режиме, но действует проактивно, предугадывая то, что может произойти. Например, она может зафиксировать приближение к детской площадке лица, ранее привлекавшегося к уголовной ответственности и вышедшего по УДО, у которого ещё не прошёл испытательный срок. Это может быть выяснено, например, по идентификации телефонного аппарата, который находится у такого лица. После этого система может направить на телефоны людям, находящимся на площадке, тревожные сигналы о необходимости соблюдать повышенную осторожность. Тут используется анализ больших данных, в том числе завязанных на геопозиционирование.

На этом, пожалуй, всё. Мы изучили, что такое безопасность в общем смысле и какие технологии Искусственного Интеллекта применимы в вопросах обеспечения безопасности. Также мы рассмотрели пару примеров, каждый из которых был взят из моей практики по созданию комплексных систем управления. Теперь прошу переходить к выполнению домашнего задания. Не забывайте задавать вопросы. Всем пока.
Интересные вопросы курсантов
(орфография и пунктуация курсантов сохранены)
Например, у нас есть нейроная сеть, которая определяет если ли , например, собачка на загруженной картинке. Т е имеется в виду, когда человек смотрит на картинку, он как бы интуитивно распознает образ собачки и говорит, что она там есть. Т е имеется в виду, что в данном случае ИНФ имитирует мозговую активность человека по определению образа собачки на картинке, верное? т е это не является его накопленным знанием, о котором мы говорим в рамках ЭС?
Давайте рассмотрим пример картинки с собачкой. Как бы ЭС работала с ней? ЭС работает с символьной информацией, когда у нас картинка, скажем, описана символами. Другими словами, чтобы ЭС работала с картинкой, она должна уже получить её символьное описание, что-то типа: «Пейзаж, лето, луг, собачка» и т. д., например, в виде семантической сети или взаимосвязанных фреймов. И тогда ЭС сможет делать заключения по результатам изучения этой символьной информации. Например, «собачка лежит на лугу и грызёт кость» => «собачка голодна».
С другой стороны, ИНС получает на вход матрицу битов, которую мы интерпретируем как двумерное изображение. И вот она может на основании того, что у неё там в весовых коэффициентах, определить наличие собачки на изображении, найти её координаты и выдать символьную информацию: «собачка по координатам (X, Y)».
Образно и полуформально:
1) ЭС работает с формализованной информацией.
2) ИНС работает с raw-data.
сами ЭС мы же тоже можем опредлить как отдельный класс ? т е их взаимосвязь поулчается следующая: каждая СППР является в том или ином виде Эс, но не каждая ЭС является СППР, верно?
СППР включает в себя ЭС, и, фактически, может рассматриваться, как ЭС (но я бы не стал так делать). А вот ЭС точно СППР не является, хотя может выполнять её отдельные функции.
Самостоятельная работа
Задание 1

Прочесть все материалы по ссылкам выше

Задание 2

Сдать проверочный тест
Есть вопросы? Отлично, задавайте!
Предыдущие уроки
Урок № 1: ИИ и две зимы здесь
Урок № 2: ИИ и междисциплинарные исследования здесь
Урок № 3: Две парадигмы здесь
Урок № 4: Интуитивный подход и тест Тьюринга здесь
Урок № 5: Символьный и логический подходы здесь
Урок № 6: Агенты и роевой интеллект здесь
Урок № 7: Гибридный подход здесь
Урок № 8: Гибридный подход здесь
Урок № 9: Некоторые мифы об ИИ — 1 здесь
Урок №10: Некоторые мифы об ИИ - 2 здесь
Урок №11: Некоторые мифы об ИИ — 3 здесь
Урок №12: Правда об ИИ - 1 здесь
Урок №13: Правда об ИИ - 2 здесь
Урок №14: Правда об ИИ - 3 здесь
Урок №15: Несколько успешных примеров ИИ-проектов — 1 здесь
Урок №16: Несколько успешных примеров ИИ-проектов — 2 здесь
Урок №17: Несколько успешных примеров ИИ-проектов — 3 здесь
Урок №18: Философия ИИ здесь
Урок №19: Прикладное 1: ЭС и СППР здесь
Урок №20: Распознавание образов здесь
Урок №21: Чат-боты здесь
Урок №22: Творчество здесь
Урок №23: Автономные автомобили здесь
Урок №24: Роботы и аватары здесь
Урок №25: ИИ и Государственное управление здесь