Задание. Алгоритм кросс-корреляции
Необходимо решить задачу формирования списка рекомендованных
товаров для пользователя интернет-магазина с применением алгоритма кросс-
корреляции (имея множество кортежей объектов, для каждой возможной пары
объектов посчитать число кортежей, где они встречаются вместе).
1. Реализовать два алгоритма на MapReduce:
? Cross Correlation Pairs (Рисунок 45).
Рисунок 45 — Псевдокод алгоритма Cross Correlation Pairs
? Cross Correlation Stripes (Рисунок 46).
Рисунок 46 — Псевдокод алгоритма Cross Correlation Stripes
2. Написать генератор базы данных интернет-заказов (или взять готовую).
Учесть, что заказ состоит из произвольного количества позиций (товаров).
3. Обработать алгоритмом кросс-корреляции базу данных заказов
(подсчитать количество вхождений каждой пары товаров).
4. Реализовать компонент советника, не применяя паттерн MapReduce.
Вводится название товара. Выводятся 10 товаров, которые чаще всего
покупают с заданным товаром. Чтение результатов работы алгоритма
кросс-корреляции из HDFS реализовать вручную (для Java — c помощью
FileSystem API, для Python — с помощью библиотеки pyhdfs).