Линейные модели машинного обучения
Введение
Тема «Линейные модели машинного обучения» очень актуальна в наши дни. Интерес к теме обусловлен тем, что многие технологии, используемые нами в повседневной жизни, используют концепции машинного обучения. Например, распознавание лиц, рекомендательные системы в социальных сетях и музыкальных сервисах, в системах медицинского прогнозирования. В ближайшее десятилетие машинное обучение будет обладать преимуществом не только у топовых компаний, но и у перспективных стартапов. То, что сегодня делается вручную, завтра будут делать машины. Линейные модели являются базовыми, с них стоит начать изучение данной технологии. Цель данной работы – изучить и обобщить материал по теме «Линейные модели машинного обучения» и сделать вывод о том, как они работают, и какие задачи можно решить с их применением.
Оглавление
Введение 4
Глава 1. Машинное обучение 6
1.1 Определение 6
1.2 История 6
1.3 Задачи, решаемые с помощью машинного обучения 7
1.4 Основные подходы в машинном обучении 8
1.5 Обучение с учителем 8
Глава 2. Линейная регрессия 9
2.1 Применение 9
2.2 Математические основы 9
2.2.1 Описание модели 9
2.2.2 Метод наименьших квадратов 10
2.3 Достоинства и недостатки модели 11
Глава 3. Логистическая регрессия 12
3.1 Применение 12
3.2 Математические основы 12
3.2.1 Описание модели 12
3.2.2 Сигмоид-функция 13
3.2.3 Метод максимального правдоподобия 13
3.3 Достоинства и недостатки модели 13
Глава 4. Градиентный спуск 15
4.1 Определение 15
4.2 Алгоритм 15
4.3 Вывод 15
Глава 5. Мини-исследование на тему «Реализация линейных моделей машинного обучения» 17
5.1 Линейная регрессия 17
5.2 Логистическая регрессия 18
Заключение 20
Список используемых источников 22
Приложения 23
Список используемых источников
1. Юрий Кашницкий. Открытый курс машинного обучения. Тема 4. Ли-нейные модели классификации и регрессии // URL: https://habr.com/ru/company/ods/blog/323890/ (дата обращения 22.02.2022)
2. Черкасов Д.Ю., Иванов В.В. Машинное обучение // URL: https://cyberleninka.ru/article/n/mashinnoe-obuchenie/viewer (дата обра-щения 12.02.2022)
3. Полетаев Н.Г. Классификация систем машинного обучения // URL: https://cyberleninka.ru/article/n/klassifikatsiya-sistem-mashinnogo-obucheniya/viewer (дата обращения 12.02.2022)
4. [Электронный ресурс]: https://ml-handbook.ru/chapters/linear_models/intro (дата обращения 22.02.2022)
5. [Электронный ресурс]: https://habr.com/ru/post/514818/ (дата обращения 23.02.2022)
6. [Электронный ресурс]: https://habr.com/ru/company/io/blog/265007/ (дата обращения 6.03.2022)
7. [Электронный ресурс]: https://neurohive.io/ru/osnovy-data-science/gradient-descent/ (дата обращения 7.03.2022)
8. [Электронный ресурс]: https://www.kaggle.com/c/ai-academy-linearreg (дата обращения 20.03.2022)
9. [Электронный ресурс]: https://www.kaggle.com/c/ai-academy-logreg (дата обращения 22.03.2022)
При подходе обучения с учителем имеется обучающая выборка, в которой имеется некоторое множество объектов. У каждого из этих объектов есть набор признаков и целевая переменная, значения которых нам известны. Мы хотим научить нашу модель предсказывать по значениям признаков целевую переменную. Алгоритм должен установить, как получаются по входным признакам данная целевая переменная. Он выявляет закономерности в данных, учится на основе наблюдений и делает прогнозы. Эти прогнозы затем корректиру-ются самим алгоритмом в зависимости от оценки качества ответа по опреде-лённой метрике. Процесс продолжается до тех пор, пока алгоритм не достигнет достаточно высокого уровня точности (необходимого уровня качества по метрике).