- •Линейные пространства векторов. Скалярное произведение. Понятие базиса и линейной независимости элементов линейного пространства. Преобразования базиса.
- •Определение матрицы. Операции с матрицами (умножение на скаляр, сложение, умножение матриц, транспонирование матриц). Обратная матрица и методы ее получения. Функции от матриц.
- •Производные. Необходимое и достаточное условие дифференцируемости функции. Частные производные. Полный дифференциал. Производная и дифференциал сложной функции.
- •Градиент функции. Производные по направлению. Необходимые и достаточные условия экстремума функции многих переменных. Условные экстремумы. Метод множителей Лагранжа.
- •Задачи аппроксимации функций (интерполяция, экстраполяция, приближение в среднем). Способы построения интерполяционного полинома. Аппроксимации на основе ортогональных базисов. Понятие сплайна.
- •Численные методы оптимизации: методы Ньютона и секущей, методы покоординатного и градиентного спуска. Улучшение сходимости градиентных методов.
- •Численные методы оптимизации, основанные на случайных числах. Метод Монте-Карло, линейный случайный поиск, метод оптимизации отжигом.
- •Прямые и итерационные методы решения систем линейных алгебраических уравнений. Методы для систем с матрицами специального вида (ленточные, треугольные, положительно-определенные).
- •Линейные пространства функций (примеры). Скалярное произведение и норма. Операторы над линейными пространствами функций. Функционалы. Собственные числа и функции оператора в пространстве l2.
- •Определение вероятности. Вероятностная модель и вероятностное пространство. Вероятность случайного события и методы ее статистического оценивания по выборке.
- •Модель случайной величины. Закон, функция, плотность распределения. Квантили и моменты распределений, методы их статистического оценивания по выборке.
- •Вероятностные и толерантные интервалы: сходства и различия. Понятия точечного и интервального оценивания. Доверительные интервалы. Несмещенные и эффективные оценки.
- •Параметрическое оценивание распределений случайной величины. Метод моментов. Метод наибольшего правдоподобия и его численная реализация. Способы проверки качества параметрического оценивания.
- •Статистические гипотезы и статистические критерии. Односторонние и двусторонние критерии. Критерии согласия. Параметрические критерии. Ошибки первого и второго рода. Мощность критерия.
- •Модель многомерной случайной величины. Совместные и условные распределения. Условные моменты распределений и их оценивание по выборке. Многомерное распределение Гаусса и его свойства.
- •Случайные процессы и временные ряды. Понятие стационарности. Ковариационная (корреляционная функция). Теорема Карунена-Лоэва. Спектральная плотность случайных процессов.
- •Алгоритмы на графах. Алгоритмы обхода (поиска на) графах. Обнаружение кратчайшего пути и минимального цикла в графе. Построение остовного дерева.
- •Основные понятия машинного обучения. Отличие машинного обучения от статистики. Методы на обучении с учителем. Методы на обучении без учителя. Метрики качества алгоритмов машинного обучения.
- •Цикл обучения. Понятия обучающей и тестовой выборки. Отложенная выборка. Кросс-валидация. Понятия недообучения и переобучения. Дилемма смещения и разброса. Размерность Вапника-Червоненкиса.
- •Понятия классификации и кластеризации. Метрические, иерархические, вероятностные методы классификации и кластеризации. Dbscan и kNn. Оценка качества классификации и кластеризации.
- •Понятие искусственной нейронной сети. Типы нейронных сетей. Понятие стохастического градиента для обучения нейронной сети. Многослойный перцептрон. Сверточные нейронные сети.
- •Методы снижения размерности данных. Метод главных компонент. Метод канонических корреляций. Методы факторного анализа. Нелинейные методы снижения размерности.
- •Принцип повышения размерности пространства. Метод опорных векторов. Понятие и свойства ядра. Метод Kernel-Trick.
- •Построение списка решений и дерева решений. Редукция деревьев решений. Понятие бэггинга и бустинга для деревьев решений. Случайный лес и способы его построения.
- •Обучение с подкреплением. Модели агентов и отклика среды. Задачи, решаемые обучением с подкреплением.
- •Ассоциативный анализ и задача о "покупательской корзине". Алгоритмы аprior и fp-Growth.
- •Способы представления знаний. Модели графов знаний. Полнота графов знаний. Методы прямого и обратного вывода по графам знаний. Онтологическая модель и средства ее реализации.
- •Экспертные методы в принятии решений. Принятие решений при многих критериях. Множество Парето. Экспертные системы поддержки принятия решений.
- •Методы машинного обучения для анализа текстовой информации. Понятие эмбеддинга. Методы построения и использования эмбеддингов при работе с текстом.
- •Генеративные методы машинного обучения. Генеративно-состязательные сети. Вариационные автокодировщики. Байесовские сети. Принципы работы, оценка качества.
Экспертные методы в принятии решений. Принятие решений при многих критериях. Множество Парето. Экспертные системы поддержки принятия решений.
Экспертные методы в принятии решений. Эксперты – это люди, обладающие определенными знаниями и опытом в конкретной предметной области. Они могут предоставлять свои оценки в форме числовых значений или отношений между альтернативами. Экспертные методы больше прочих зависят от оценок, выставленных экспертами.
Принятие решений при многих критериях. Принятие решений при многих критериях предполагает, что решение должно учитывать несколько критериев, которые могут быть противоречивыми или взаимозависимыми. Например, при выборе автомобиля можно учитывать такие критерии, как цена, надежность, безопасность, экологичность и т.д. Каждый критерий может иметь различную важность для принятия решения.
Для решения задачи многокритериального принятия решений используются различные методы и модели, такие как анализ иерархий (AHP), анализ сетей (ANP), метод взвешенных сумм (MCDM) и др. Эти методы позволяют структурировать проблему, определить веса критериев, провести сравнение альтернатив и выбрать наилучший вариант.
Основная идея анализа иерархий заключается в том, что проблема принятия решений разбивается на иерархическую структуру, состоящую из уровней и элементов. На верхнем уровне находится цель, на следующем уровне – критерии, а на последующих уровнях – альтернативы. Каждый элемент на нижнем уровне сравнивается с каждым элементом на вышестоящем уровне с использованием шкалы предпочтений.
Процесс анализа иерархий состоит из нескольких шагов:
Составление иерархии, определение цели, критериев и альтернатив. Иерархия представляется в виде дерева, где на верхнем уровне находится цель, на следующем уровне – критерии, а на последующих уровнях – альтернативы.
Выполнение попарных сравнений элементов каждого уровня. Эксперты оценивают относительную важность каждого элемента на вышестоящем уровне по отношению к каждому элементу на нижнем уровне. Оценка может принимать значение 1, 3, 5, 7, 9 – в случае, если это основное суждение и 2, 4, 6, 8 для промежуточных суждений. Эти оценки записываются в матрицу попарных сравнений критериев.
Расчет вектор-столбца приоритетов. На основе матрицы сравнений рассчитываются веса для каждого критерия оценки. Это делается путем расчета геометрического среднего строк матрицы сравнений и нормализации полученных построчных значений относительно их суммы.
Проверка согласованности. Проверяется согласованность оценок (СО) экспертов с использованием индекса согласованности (ИС) и табличных значений случайной согласованности (СС):
где – сумма каждого столбца матрицы сравнений умножается на соответствующий ему элемент в нормализованном векторе приоритетов, полученные произведения суммируются;
– число сравниваемых элементов.
Если СО не превышает заданный порог 0.1, то оценки экспертов согласованы.
Синтез локальных приоритетов. Для альтернатив рассчитывается матрица сравнений относительно каждого критерия сравнения аналогично шагам 2-4.
Из нормализованных вектор-столбцов локальных приоритетов, синтезированных на шаге 5, формируется матрица синтезированных локальных приоритетов и производится расчет глобального приоритета, как точечного произведения вектор-столбца приоритетов матрицы попарного сравнения критериев (см. шаг 3) на строки этой матрицы.
В процессе принятия решений при многих критериях возникают различные проблемы, такие как неоднозначность данных, неопределенность оценок экспертов, конфликты между критериями и т.д. Для решения этих проблем могут применяться методы агрегации, ранжирования, чувствительности и т.д. Например, метод ранжирования используется для упорядочивания альтернатив по степени предпочтительности. Он позволяет определить наилучшую и наихудшую альтернативы на основе их оценок по каждому критерию.
Множество Парето. Множество Паретто, также известное как эффективное множество, является концепцией, используемой в экономике и теории принятия решений. Оно представляет собой набор альтернатив, в котором невозможно улучшить одну альтернативу без ухудшения других.
Экспертные системы поддержки принятия решений. Экспертные системы поддержки принятия решений (ЭСППР) – это компьютерные программы, разработанные для помощи людям в принятии сложных решений. Они основаны на знаниях и опыте экспертов в определенной области и используют логические алгоритмы для анализа и обработки информации.
Структура экспертных систем поддержки принятия решений (ЭСППР) обычно состоит из трех основных компонентов: базы знаний, системы управления и интерфейса пользователя.
База знаний – это центральная часть ЭСППР, которая содержит информацию о правилах, процедурах и эмпирических данных, необходимых для анализа проблемы и принятия решений. База знаний может быть организована в виде логических правил, деревьев принятия решений, нейронных сетей или других структур данных. Она включает в себя экспертные знания, полученные от специалистов в определенной области, а также данные, полученные из источников или опыта.
Система управления: отвечает за выполнение логических операций и вывод рекомендаций на основе информации из базы знаний. Система управления использует алгоритмы логического вывода, такие как правила вывода или методы машинного обучения, для анализа информации и генерации рекомендаций или решений. Она также может управлять процессом обновления базы знаний и адаптации системы к новым условиям или требованиям.
Интерфейс пользователя обеспечивает взаимодействие между пользователем и ЭСППР. Он предоставляет пользователю возможность задавать вопросы, вводить данные, просматривать результаты и получать рекомендации или объяснения от системы. Интерфейс пользователя может быть графическим, текстовым или голосовым, в зависимости от конкретной реализации системы.
Кроме того, ЭСППР может также содержать дополнительные компоненты, такие как модули для обработки нечеткой информации, модули для работы с базами данных или внешними системами, а также модули для мониторинга и анализа процесса принятия решений.
ЭСППР помогают экспертам и неспециалистам принимать обоснованные решения на основе доступной информации. ЭСППР также могут учитывать множество Паретто при анализе альтернативных вариантов и помогать выбрать оптимальное решение, учитывая различные критерии и ограничения.