- •Об авторе
- •Предисловие
- •Для кого эта книга
- •О чем эта книга
- •Что вам потребуется при чтении этой книги
- •Условные обозначения
- •От издательства
- •Глава 1. Обзор алгоритмов
- •Что такое алгоритм
- •Этапы алгоритма
- •Определение логики алгоритма
- •Псевдокод
- •Использование сниппетов
- •Создание плана выполнения
- •Введение в библиотеки Python
- •Библиотеки Python
- •Реализация Python с помощью Jupyter Notebook
- •Методы разработки алгоритмов
- •Параметры данных
- •Параметры вычислений
- •Анализ производительности
- •Анализ пространственной сложности
- •Анализ временной сложности
- •Оценка эффективности
- •Выбор алгоритма
- •«О-большое»
- •Проверка алгоритма
- •Точные, приближенные и рандомизированные алгоритмы
- •Объяснимость алгоритма
- •Резюме
- •Глава 2. Структуры данных, используемые в алгоритмах
- •Структуры данных в Python
- •Список
- •Кортеж
- •Словарь
- •Множество
- •DataFrame
- •Матрица
- •Абстрактные типы данных
- •Вектор
- •Стек
- •Очередь
- •Базовый принцип использования стеков и очередей
- •Дерево
- •Резюме
- •Глава 3. Алгоритмы сортировки и поиска
- •Алгоритмы сортировки
- •Обмен значений переменных в Python
- •Сортировка пузырьком
- •Сортировка вставками
- •Сортировка слиянием
- •Сортировка Шелла
- •Сортировка выбором
- •Алгоритмы поиска
- •Линейный поиск
- •Бинарный поиск
- •Интерполяционный поиск
- •Практическое применение
- •Резюме
- •Глава 4. Разработка алгоритмов
- •Знакомство с основными концепциями разработки алгоритма
- •Вопрос 1. Даст ли разработанный алгоритм ожидаемый результат?
- •Вопрос 2. Является ли данный алгоритм оптимальным способом получения результата?
- •Вопрос 3. Как алгоритм будет работать с большими наборами данных?
- •Понимание алгоритмических стратегий
- •Стратегия «разделяй и властвуй»
- •Стратегия динамического программирования
- •Жадные алгоритмы
- •Практическое применение — решение задачи коммивояжера
- •Использование стратегии полного перебора
- •Использование жадного алгоритма
- •Алгоритм PageRank
- •Постановка задачи
- •Реализация алгоритма PageRank
- •Знакомство с линейным программированием
- •Практическое применение — планирование производства с помощью линейного программирования
- •Резюме
- •Глава 5. Графовые алгоритмы
- •Представление графов
- •Типы графов
- •Особые типы ребер
- •Эгоцентрические сети
- •Анализ социальных сетей
- •Введение в теорию сетевого анализа
- •Кратчайший путь
- •Создание окрестностей
- •Показатели центральности
- •Вычисление показателей центральности с помощью Python
- •Понятие обхода графа
- •BFS — поиск в ширину
- •DFS — поиск в глубину
- •Практический пример — выявление мошенничества
- •Простой анализ мошенничества
- •Анализ мошенничества методом сторожевой башни
- •Резюме
- •Глава 6. Алгоритмы машинного обучения без учителя
- •Обучение без учителя
- •Обучение без учителя в жизненном цикле майнинга данных
- •Современные тенденции исследований в области обучения без учителя
- •Практические примеры
- •Алгоритмы кластеризации
- •Количественная оценка сходства
- •Иерархическая кластеризация
- •Оценка кластеров
- •Применение кластеризации
- •Снижение размерности
- •Метод главных компонент (PCA)
- •Ограничения PCA
- •Поиск ассоциативных правил
- •Примеры использования
- •Анализ рыночной корзины
- •Ассоциативные правила
- •Оценка качества правила
- •Алгоритмы анализа ассоциаций
- •Практический пример — объединение похожих твитов в кластеры
- •Тематическое моделирование
- •Кластеризация
- •Алгоритмы обнаружения выбросов (аномалий)
- •Использование кластеризации
- •Обнаружение аномалий на основе плотности
- •Метод опорных векторов
- •Резюме
- •Глава 7. Традиционные алгоритмы обучения с учителем
- •Машинное обучение с учителем
- •Терминология машинного обучения с учителем
- •Благоприятные условия
- •Различие между классификаторами и регрессорами
- •Алгоритмы классификации
- •Задача классификации
- •Оценка классификаторов
- •Этапы классификации
- •Алгоритм дерева решений
- •Ансамблевые методы
- •Логистическая регрессия
- •Метод опорных векторов (SVM)
- •Наивный байесовский алгоритм
- •Алгоритмы регрессии
- •Задача регрессии
- •Линейная регрессия
- •Алгоритм дерева регрессии
- •Алгоритм градиентного бустинга для регрессии
- •Среди алгоритмов регрессии победителем становится...
- •Практический пример — как предсказать погоду
- •Резюме
- •Глава 8. Алгоритмы нейронных сетей
- •Введение в ИНС
- •Эволюция ИНС
- •Обучение нейронной сети
- •Анатомия нейронной сети
- •Градиентный спуск
- •Функции активации
- •Инструменты и фреймворки
- •Keras
- •Знакомство с TensorFlow
- •Типы нейронных сетей
- •Перенос обучения
- •Практический пример — использование глубокого обучения для выявления мошенничества
- •Методология
- •Резюме
- •Глава 9. Алгоритмы обработки естественного языка
- •Знакомство с NLP
- •Терминология NLP
- •Библиотека NLTK
- •Мешок слов (BoW)
- •Эмбеддинги слов
- •Окружение слова
- •Свойства эмбеддингов слов
- •Рекуррентные нейросети в NLP
- •Использование NLP для анализа эмоциональной окраски текста
- •Практический пример — анализ тональности в отзывах на фильмы
- •Резюме
- •Глава 10. Рекомендательные системы
- •Введение в рекомендательные системы
- •Типы рекомендательных систем
- •Рекомендательные системы на основе контента
- •Рекомендательные системы на основе коллаборативной фильтрации
- •Гибридные рекомендательные системы
- •Ограничения рекомендательных систем
- •Проблема холодного старта
- •Требования к метаданным
- •Проблема разреженности данных
- •Предвзятость из-за социального влияния
- •Ограниченные данные
- •Области практического применения
- •Практический пример — создание рекомендательной системы
- •Резюме
- •Глава 11. Алгоритмы обработки данных
- •Знакомство с алгоритмами обработки данных
- •Классификация данных
- •Алгоритмы хранения данных
- •Стратегии хранения данных
- •Алгоритмы потоковой передачи данных
- •Применение потоковой передачи
- •Алгоритмы сжатия данных
- •Алгоритмы сжатия без потерь
- •Практический пример — анализ тональности твитов в режиме реального времени
- •Резюме
- •Глава 12. Криптография
- •Введение в криптографию
- •Понимание важности самого слабого звена
- •Основная терминология
- •Требования безопасности
- •Базовое устройство шифров
- •Типы криптографических методов
- •Криптографические хеш-функции
- •Симметричное шифрование
- •Асимметричное шифрование
- •Практический пример — проблемы безопасности при развертывании модели МО
- •Атака посредника (MITM)
- •Избежание маскарадинга
- •Шифрование данных и моделей
- •Резюме
- •Глава 13. Крупномасштабные алгоритмы
- •Введение в крупномасштабные алгоритмы
- •Определение эффективного крупномасштабного алгоритма
- •Терминология
- •Разработка параллельных алгоритмов
- •Закон Амдала
- •Гранулярность задачи
- •Балансировка нагрузки
- •Проблема расположения
- •Запуск параллельной обработки на Python
- •Разработка стратегии мультипроцессорной обработки
- •Введение в CUDA
- •Кластерные вычисления
- •Гибридная стратегия
- •Резюме
- •Глава 14. Практические рекомендации
- •Введение в практические рекомендации
- •Печальная история ИИ-бота в Твиттере
- •Объяснимость алгоритма
- •Алгоритмы машинного обучения и объяснимость
- •Этика и алгоритмы
- •Проблемы обучающихся алгоритмов
- •Понимание этических аспектов
- •Снижение предвзятости в моделях
- •Решение NP-трудных задач
- •Упрощение задачи
- •Адаптация известного решения аналогичной задачи
- •Вероятностный метод
- •Когда следует использовать алгоритмы
- •Практический пример — события типа «черный лебедь»
- •Резюме
Типы рекомендательных систем |
279 |
ВВЕДЕНИЕ В РЕКОМЕНДАТЕЛЬНЫЕ СИСТЕМЫ
Рекомендательные системы — это методы, первоначально разработанные ис следователями для прогнозирования товаров, которые, скорее всего, заинтере суют клиента. Способность таких систем давать персонализированные реко мендации по товарам делает их, пожалуй, наиболее важной технологией в мире онлайн-покупок.
В приложениях электронной коммерции используются сложные алгоритмы для повышения качества обслуживания клиентов; эти алгоритмы позволяют по ставщикам товаров и услуг настраивать свои предложения в соответствии
спредпочтениями покупателей.
В2009 году Netflix предложил 1 миллион долларов за алгоритм, спо собный улучшить существующий механизм рекомендаций (Cinematch) более чем на 10 %. Приз получила команда BellKor's Pragmatic Chaos.
ТИПЫ РЕКОМЕНДАТЕЛЬНЫХ СИСТЕМ
Существуют три типа рекомендательных систем:
zz на основе контента;
zz на основе коллаборативной, или совместной, фильтрации (collaborative filtering);
zz гибридные.
Рекомендательные системы на основе контента
Основная идея рекомендательной системы на основе контента (content-based recommendation engine) состоит в том, чтобы предлагать позиции (товары), аналогичные тем, к которым пользователь ранее проявлял интерес. Эффектив ность такого механизма зависит от возможности количественно оценить сходство одного товара с другими.
Давайте посмотрим на следующую диаграмму. Если Пользователь 1 прочитал Документ 1, то мы можем рекомендовать пользователю Документ 2, который аналогичен Документу 1 (рис. 10.1).
Но как определить, какие позиции похожи между собой? Рассмотрим несколь ко методов поиска сходства.
280 |
|
Глава 10. Рекомендательные системы |
|
|
|
|
|
|
Пользователь 1 |
|
|
|
|
||
|
|
|
|
|
|
Документ 1 |
|
|
|
|
|
|
|
Документ 2 |
Рис. 10.1
Поиск сходства между неструктурированными документами
Одним из способов определения сходства между документами является пред варительная обработка входных неструктурированных документов. В резуль тате мы получаем структуру данных, которая называется терм-документной матрицей (TDM). Она показана на следующей диаграмме (рис. 10.2).
algorithm
Документы |
Представление в векторном |
4 4 |
|
||
пространстве |
|
|
|
|
Терм-документная матрица
Рис. 10.2
Типы рекомендательных систем |
281 |
TDM содержит весь глоссарий слов в виде строк и все документы в виде столбцов. С ее помощью можно выявить похожие документы на основе выбранного критерия. Например, Google News предлагает пользователю но вости, базируясь на их сходстве с новостями, к которым он уже проявлял интерес.
Создав TDM, мы получаем два способа количественной оценки сходства между документами:
zz Подсчет частоты употребления. Данный подход подразумевает, что важность слова прямо пропорциональна его частоте. Это самый простой способ рас чета важности.
zz Использование TF-IDF. Этот показатель представляет важность каждого слова в контексте задачи и является произведением двух сомножителей:
yy Частота слова (TF, term frequency). Это количество раз, когда слово или термин появляется в документе. TF напрямую коррелирует с важностью слова.
yy Обратная частота документов (IDF, inverse document frequency). Об ратите внимание: частота документов (DF, document frequency) — это количество документов, содержащих искомое слово. В противоположность DF, IDF отражает меру уникальности слова и соотносит ее с важностью этого слова.
yy TF и IDF оценивают количественно важность слова в контексте задачи, а их комбинация, TF-IDF, служит хорошим показателем важности каж дого слова и является более сложной альтернативой простому подсчету частоты.
Матрица совместной встречаемости
Использование матрицы совместной встречаемости (co-occurrence matrix) основано на предположении, что если в большинстве случаев два определенных товара покупаются одновременно, то они, скорее всего, похожи (либо, по край ней мере, принадлежат к одной и той же категории, товары из которой обычно покупаются вместе).
Например, гель для бритья и бритва почти всегда используются одновременно. Поэтому, если человек покупает бритву, разумно предположить, что он также купит и гель для бритья.
Проанализируем покупательские привычки четырех потребителей (табл. 10.1).
282 |
|
|
Глава 10. Рекомендательные системы |
||
Таблица 10.1 |
|
|
|
|
|
|
|
|
|
|
|
|
Бритва |
Яблоко |
Крем для бри- |
Велосипед |
Хумус |
|
|
|
тья |
|
|
|
|
|
|
|
|
Майк |
1 |
1 |
1 |
0 |
1 |
|
|
|
|
|
|
Тейлор |
1 |
0 |
1 |
1 |
1 |
|
|
|
|
|
|
Елена |
0 |
0 |
0 |
1 |
0 |
|
|
|
|
|
|
Амина |
1 |
0 |
1 |
0 |
0 |
|
|
|
|
|
|
Создадим матрицу совместной встречаемости на основе этих данных (табл. 10.2).
Таблица 10.2
|
Бритва |
Яблоко |
Крем для бри- |
Велосипед |
Хумус |
|
|
|
тья |
|
|
|
|
|
|
|
|
Бритва |
- |
1 |
3 |
1 |
1 |
|
|
|
|
|
|
Яблоко |
1 |
- |
1 |
0 |
1 |
|
|
|
|
|
|
Крем для |
3 |
1 |
- |
1 |
2 |
бритья |
|
|
|
|
|
|
|
|
|
|
|
Велосипед |
1 |
0 |
1 |
- |
1 |
|
|
|
|
|
|
Хумус |
1 |
1 |
2 |
1 |
- |
|
|
|
|
|
|
Матрица совместной встречаемости суммирует вероятность покупки двух то варов вместе. Давайте посмотрим, как ее использовать.
Рекомендательные системы на основе коллаборативной фильтрации
Алгоритм коллаборативной фильтрации (collaborative filtering) основан на анализе покупательского поведения. Базовое предположение состоит в том, что если два пользователя проявляют интерес в основном к одним и тем же товарам, мы можем классифицировать этих покупателей как похожих. Другими словами, можно предположить следующее:
zz Если совпадение в истории покупок двух пользователей превышает порого вое значение, их можно классифицировать как похожих.
Типы рекомендательных систем |
283 |
zz Товары, которые не пересекаются в истории покупок похожих пользователей, становятся предметом будущих рекомендаций на основе коллаборативной фильтрации.
Рассмотрим конкретный пример. У нас есть два пользователя, Майк и Елена (рис. 10.3).
1 |
2 |
|
• |
3
,
!
Рис. 10.3
Обратите внимание:
zz Майк и Елена проявили интерес к одним и тем же позициям, Документу 1
и Документу 2.
zz Основываясь на схожих паттернах покупательского поведения, мы класси фицируем пользователей как похожих.
zz Если Елена в данный момент читает Документ 3, то мы можем предложить
Документ 3 и Майку.
Обратите внимание, что стратегия предложения позиций пользовате лям на основе их истории покупок будет срабатывать не всегда.
Предположим, что Елена и Майк проявили интерес к Документу 1, посвящен ному фотографии (потому что они оба любят фотографировать). Кроме того, Елена и Майк проявили интерес к Документу 2, который посвящен облачным вычислениям, опять же, потому что им обоим интересна эта тема. Основываясь