Разработка метода бинарной классификации
Пояснительная записка 45 с., 29 рис., 1 табл., 7 источников, 2 прил.
Целью данного дипломного проекта является разработка метода бинарной классификации.
В качестве объекта исследования был выбран алгоритм метода опорных векторов.
В дипломном проекте выполнены следующие задачи:
- исследование особенностей существующих аналогов;
- разработаны требования к системе;
- проведен анализ и выбор языков программирования и средств разработки;
- реализованы данные для обучения и распознавания;
- реализовано обучение на данных для обучения;
- проведено тестирование разработанной системы.
Для реализации дипломного проекта было выбранно IDE PyCharm, язык программирования Python.
ВВЕДЕНИЕ.......................................................................................................... 3
1 ПОСТАНОВКА ЗАДАЧИ................................................................................. 5
1.1 Необходимый функционал проекта................................................................ 5
1.2 Системные требования для работы программы............................................. 5
2 ОБОСНОВАНИЕ ЦЕЛЕСООБРАЗНОСТИ РАЗРАБОТКИ АЛГОРИТМОВ БИНАРНОЙ КЛАССИФИКАЦИИ .............................................................................................. 6
2.1 Суть технической проблемы бинарной классификации................................. 6
2.2 Эффективность внедрения бинарной классификации.................................... 6
2.3 Анализ существующих алгоритмов бинарной классификации...................... 9
2.3.1 «Случайный лес»....................................................................................... 10
2.3.2 Градиентный бустинг деревьев решений.................................................. 12
2.3.3 Байесовский классификатор...................................................................... 12
2.3.4 Дискриминантный анализ.......................................................................... 14
2.3.5 Логистическая регрессия........................................................................... 14
2.3.6 Метод опорных векторов........................................................................... 16
3 ОБОСНОВАНИЕ ВЫБОРА СРЕДСТВ РАЗРАБОТКИ СИСТЕМЫ.............. 18
3.1 Анализ и обоснование выбора языка программирования Python................. 18
3.2 Анализ и обоснование выбоа среды разработки PyCharm........................... 19
3.3 Обоснование выбора готовых модулей в Python.......................................... 20
3.3.1 Matplotlib................................................................................................... 20
3.3.2 NumPy........................................................................................................ 21
3.3.3 Pandas......................................................................................................... 21
3.3.4 Sklearn........................................................................................................ 22
4 РАЗРАБОТКА И РЕАЛИЗАЦИЯ МЕТОДА ОПОРНЫХ ВЕКТОРОВ....................... 23
5 ТЕСТИРОВАНИЕ МЕТОДА ОПОРНЫХ ВЕКТОРОВ.................................. 30
ЗАКЛЮЧЕНИЕ.................................................................................................. 36
СПИСОК ИСПОЛЬЗУЕМЫХ ИСТОЧНИКОВ................................................. 37
Приложение А ТЕХНИЧЕСКОЕ ЗАДАНИЕ..................................................... 38
Приложение Г ЛИСТИНГ ПРОГРАММЫ......................................................... 39
1. Журавлёв, Ю.И. Распознавание. Классификация. Прогноз. Математические методы и их применение. / Ю.И. Журавлёв – Вып.2. – М. : Наука, 1989. – 163 с.
2. Колесников, С. Распознавание образов. Общие сведения / С. Колесников // Сайт газеты «Компьютер-Информ» [Электронный ресурс]. – Режим доступа : http://www.ci.ru/inform03_06/p_24.htm
3. Бидюк, П.И. Построение и методы обучения байесовских сетей / П.И. Бидюк, А.Н. Терентьев // Информатика и кибернетика. 2004. № 2. С. 140-154. 2.
4. Breiman, W. “Random Forests”/ Machine Learning. 45(1). 2001. Р. 5-32. 3.
5. Васильев, Н.П. Опыт расчета параметров логистической регрессии методом НьютонаРафсона для оценки зимостойкости растений / Н.П. Васильев, А.А. Егоров // Математическая биология и биоинформатика. 2011. Т. 6, № 2. С. 190-199. 4.
6. Клячкин, В.Н. Сравнительный анализ точности нелинейных моделей при прогнозировании состояния системы на основе марковской цепи / В.Н. Клячкин, Ю.С. Донцова // Известия Самарского научного центра РАН. 2013. Т. 15, № 4(4). С. 924-927.
7. Метод опорных векторов [Электронный ресурс]. – Режим доступа : https://ru.wikipedia.org/wiki/Метод_опорных_векторов
