Что такое machine learning (машинное обучение) простыми словами

Машинное обучение – обучение компьютера через примеры, а не правила. Объясняем типы ML, где применяется и с чего начать изучение.

P
Редакция Progbasics · 33 мин
0 просмотров
Что такое machine learning (машинное обучение) простыми словами
Если коротко
  • ML – обучение компьютера на примерах, а не через прямые инструкции. ChatGPT – продукт, ML – технология.
  • Три типа: supervised (с учителем), unsupervised (без меток), reinforcement (через награды).
  • Data Scientist и ML Engineer – самые высокооплачиваемые IT-специальности в 2024–2025 годах.
  • Путь с нуля: сначала Python и математика, затем pandas/sklearn, затем реальные проекты на Kaggle.

Machine learning (машинное обучение) – это способ научить компьютер решать задачи через примеры, а не через прямые инструкции. Вместо того чтобы программировать правило «если письмо содержит слово «выиграй миллион» – это спам», вы показываете модели тысячи спам-писем и обычных писем. Модель сама находит закономерности.

Это раздел искусственного интеллекта, но не весь ИИ. ИИ – широкое понятие (любые системы, имитирующие интеллект), машинное обучение – конкретный подход к созданию таких систем на основе данных.

Как работает машинное обучение

Алгоритм ML не получает инструкций. Он получает данные и задачу, а потом сам ищет паттерны. Упрощённо процесс выглядит так:

На практике пайплайн ML-проекта включает несколько последовательных этапов. Сначала собираются данные — от сотен до миллиардов примеров в зависимости от задачи. Каждый пример описывается признаками (features): числовыми характеристиками, которые алгоритм будет анализировать. Для квартиры — площадь, этаж, район; для электронного письма — частота определённых слов, наличие вложений, история отправителя. Качество признаков важнее выбора алгоритма: это называется feature engineering и занимает 40–60% рабочего времени ML-специалиста.

Далее алгоритм ищет математическую функцию, которая наилучшим образом описывает зависимость между признаками и целевой переменной. «Обучение» — итеративный процесс подбора параметров этой функции: модель делает предсказание, сравнивает с правильным ответом, вычисляет ошибку и корректирует параметры в сторону её уменьшения. Этот процесс называется оптимизацией. После сотен тысяч итераций модель начинает делать достаточно точные предсказания на новых данных, которых она не видела при обучении — это и есть главный критерий качества.

  1. Данные: собираются примеры – фотографии кошек и собак, истории транзакций, записи разговоров
  2. Разметка (для обучения с учителем): каждому примеру присваивается правильный ответ – «это кошка», «эта транзакция мошенническая»
  3. Обучение: алгоритм ищет математические закономерности, которые позволяют предсказать ответ по входным данным
  4. Оценка: модель проверяется на новых данных, которых она не видела во время обучения
  5. Применение: готовая модель встраивается в продукт и предсказывает ответы для реальных пользователей

Три типа машинного обучения

Три типа машинного обучения С УЧИТЕЛЕМ (SUPERVISED) Обучающие данные содержат правильные ответы – метки. Модель учится предсказывать результат на новых данных. ИСПОЛЬЗУЕТСЯ В › Спам-фильтры › Прогноз цен на жильё › Распознавание лиц › Кредитный скоринг БЕЗ УЧИТЕЛЯ (UNSUPERVISED) Данные без меток. Модель самостоятельно находит скрытые структуры и паттерны в данных. ИСПОЛЬЗУЕТСЯ В › Сегментация клиентов › Выявление аномалий › Рекомендательные системы › Топик-моделирование С ПОДКРЕПЛЕНИЕМ (RL) Агент получает награды за правильные действия и штрафы за ошибки, учась методом проб. ИСПОЛЬЗУЕТСЯ В › AlphaGo / AlphaZero › Алгоритмическая торговля › Управление роботами › Оптимизация маршрутов В коммерческих продуктах 80% задач – supervised и unsupervised learning
Рисунок 1. Классификация типов машинного обучения
Тип Принцип Примеры задач
Обучение с учителем (supervised) Модель учится на размеченных данных с правильными ответами Спам-фильтры, распознавание изображений, прогноз цен
Обучение без учителя (unsupervised) Модель ищет структуру в данных без меток Сегментация клиентов, поиск аномалий, рекомендации
Обучение с подкреплением (reinforcement) Агент учится через систему наград и штрафов Игровые ИИ, роботика, оптимизация маршрутов

Обучение с учителем (Supervised Learning)

Самый распространённый тип в промышленных приложениях. Алгоритм получает размеченный датасет: каждый пример содержит входные данные и правильный ответ. Задача — выучить функцию отображения из входа в ответ. Если ответ — категория (спам/не спам, болен/здоров), задача называется классификацией. Если ответ — число (цена квартиры, температура завтра), задача — регрессия.

Алгоритмы: линейная и логистическая регрессия, деревья решений, Random Forest, Gradient Boosting (XGBoost, LightGBM), SVM, нейронные сети. На 80% промышленных задач используется именно supervised learning — потому что исторические данные с правильными ответами в бизнесе уже есть: клиенты, которые ушли или остались; транзакции, которые оказались мошенническими или нет.

Обучение без учителя (Unsupervised Learning)

Алгоритм получает данные без меток и самостоятельно ищет скрытую структуру: группы похожих объектов, аномалии, сжатые представления. Задачи: кластеризация (разбить клиентов на сегменты), снижение размерности (сжать 100 признаков в 2 для визуализации), детекция аномалий (найти необычные транзакции).

Алгоритмы: K-means и DBSCAN для кластеризации, PCA и t-SNE для снижения размерности, автоэнкодеры для сжатия. Главная сложность: нет объективной метрики качества — «правильных ответов» нет, поэтому оценить, насколько хорошо алгоритм справился, сложнее.

Обучение с подкреплением (Reinforcement Learning)

Агент взаимодействует со средой, получая награды за хорошие действия и штрафы за плохие. Цель — выучить стратегию, максимизирующую суммарную награду. Обучение происходит через миллионы симуляций. Именно этот подход использовал AlphaGo от DeepMind, который в 2016 году обыграл чемпиона мира по го — игре, считавшейся недоступной для ИИ из-за огромного числа возможных ходов (больше атомов во Вселенной).

Применения в индустрии: управление роботами на производстве, оптимизация дата-центров (Google снизил расход энергии на охлаждение на 40% с RL), торговые алгоритмы, рекомендательные системы. Самый сложный из трёх типов для реализации — требует чёткого определения среды и функции награды.

Где ML используется прямо сейчас

ML перестал быть лабораторной технологией — он работает в фоновом режиме в большинстве цифровых продуктов. Яндекс применяет ML для ранжирования результатов поиска, прогноза пробок в Навигаторе и модерации на Маркете. Сбер обрабатывает ML-моделями десятки тысяч кредитных заявок в день. ВКонтакте анализирует поведение пользователей для персонализации ленты. Netflix сэкономил более 1 млрд долларов в год за счёт рекомендательной системы, снизившей отток подписчиков. По оценкам McKinsey (2024), компании-лидеры по внедрению AI показывают рост операционной прибыли в 1,5 раза выше среднеотраслевого.

  • Рекомендательные системы – YouTube, ВКонтакте, Spotify подбирают контент на основе ваших действий
  • Финансы – банки автоматически детектируют мошеннические транзакции в реальном времени
  • Здравоохранение – в ряде клинических исследований ML-модели распознают опухоли на снимках с точностью не ниже специалиста-радиолога
  • Навигация – Яндекс.Карты предсказывают пробки и строят быстрые маршруты
  • Голосовые ассистенты – Алиса, Siri распознают речь и генерируют ответы
  • Генеративный ИИ – ChatGPT, Midjourney создают тексты и изображения на основе запросов

Чем ML отличается от ИИ, нейросетей и data science

Путаница в терминах — одна из главных причин, по которой начинающие специалисты не понимают, куда двигаться. На самом деле отношения между понятиями иерархические: искусственный интеллект — самая широкая категория, включающая любые системы, имитирующие интеллектуальное поведение (в том числе экспертные системы 1970-х годов, не имевшие ничего общего с обучением на данных). Машинное обучение — подраздел ИИ, где системы учатся на данных без явного программирования правил. Глубокое обучение — подраздел ML, использующий многослойные нейронные сети. Data Science — смежная, но более широкая дисциплина: включает ML, но также анализ данных, статистику, визуализацию и коммуникацию выводов бизнесу.

Практически это означает следующее: Data Scientist может не писать ML-код вообще — только анализировать данные и строить дашборды. ML Engineer фокусируется на обучении и деплое моделей. Deep Learning Engineer работает с нейросетями. Разграничение размыто, и в небольших компаниях один человек закрывает все три роли.

Понятие Что это Отношение к ML
Искусственный интеллект (ИИ) Широкая область: любые системы с «умным» поведением ML – один из подходов внутри ИИ
Machine Learning Обучение на данных без явного программирования правил Подмножество ИИ
Deep Learning ML на основе нейросетей с множеством слоёв Подмножество ML
Нейросеть Математическая модель, вдохновлённая мозгом Инструмент для реализации Deep Learning
Data Science Извлечение знаний из данных (включает статистику, ML и визуализацию) ML – один из инструментов DS

Кто работает в машинном обучении

  • Data Scientist – исследует данные, строит ML-модели, отвечает за точность предсказаний
  • ML Engineer – переводит модели из ноутбука в продакшен: оптимизирует, деплоит, мониторит
  • Data Analyst – анализирует данные и строит отчёты (не всегда работает с ML напрямую)
  • AI/ML Research Engineer – разрабатывает новые алгоритмы и архитектуры (нужна академическая база)

Самая высокооплачиваемая связанная роль – аналитик данных / Data Scientist: разбираем задачи, рынок и зарплаты по этой специализации.

Роль Junior зарплата Senior зарплата
Data Scientist 100 000 – 160 000 руб. 280 000 – 480 000 руб.
ML Engineer 110 000 – 170 000 руб. 300 000 – 600 000+ руб.
Data Analyst 70 000 – 110 000 руб. 150 000 – 280 000 руб.

Данные по зарплатам – диапазоны по hh.ru, октябрь 2026. Подробнее о зарплатах IT-специалистов: сколько зарабатывает программист. Реальные цифры зависят от региона, компании и конкретных навыков.

С чего начать изучение machine learning

Прямой путь: сначала математика и Python, потом ML-библиотеки, потом реальные проекты. Без базы в программировании прыгать сразу в нейросети – распространённая ошибка. Если вы только начинаете с кодом – сначала учитесь программировать с нуля.

  1. Python (2–3 месяца): базовый синтаксис, функции, работа с файлами – ML пишется почти исключительно на Python
  2. Математика (параллельно или после): линейная алгебра, статистика, теория вероятностей – без этого модели будут чёрным ящиком
  3. Pandas + NumPy (1–2 месяца): работа с табличными данными – основа любого ML-проекта
  4. Scikit-learn (1–2 месяца): библиотека с готовыми алгоритмами ML – регрессия, классификация, кластеризация
  5. Kaggle-соревнования: реальные датасеты, обратная связь, портфолио – лучший способ закрепить навыки
  6. Deep Learning (опционально): PyTorch или TensorFlow – для тех, кто идёт в нейросети и LLM

Для ML нужен Python, а не JavaScript – разбираем почему и как их изучать. Когда дойдёте до нейросетей – смотрите подборку курсов по Deep Learning.

Реальные примеры ML-задач: как это работает на практике

Машинное обучение — прикладная дисциплина: алгоритмы важны, но важнее понимать, как именно задача формулируется перед тем, как её решать алгоритмом. Ниже — реальные типы задач, которые ML-специалисты решают в российских компаниях, с описанием данных на входе, метода и результата:

Задача Тип ML Как учится
Распознавание лиц Supervised (классификация) Миллионы фото с метками «это один человек»
Рекомендации в Spotify Unsupervised (коллаборативная фильтрация) Паттерны прослушивания без явных меток
Игра в шахматы / го Reinforcement learning Агент получает +1 за победу, -1 за поражение
Авторегрессия в ChatGPT Supervised (языковое моделирование) Предсказывает следующее слово на 500 млрд токенов
Обнаружение мошенничества Supervised (бинарная классификация) Обучается на исторических размеченных транзакциях

ML в России: рынок и карьера

Российский рынок ML и данных рос в 2022–2025 годах, несмотря на уход зарубежных компаний: государство и крупный бизнес активно инвестировали в ИИ-разработки.

  • Основные работодатели: Яндекс, Сбербанк (SberAI), VK, Тинькофф, Касперский, МТС, а также множество стартапов
  • Зарплаты выше рынка IT – спрос превышает предложение, особенно на Senior ML Engineer
  • Удалённая работа распространена – ML-задачи хорошо выполняются дистанционно
  • Международный рынок доступен – специалисты с портфолио находят работу в зарубежных компаниях удалённо

Этические вопросы ML

Чем больше решений принимают алгоритмы, тем важнее понимать их риски:

  • Bias (предвзятость): модель, обученная на исторических данных может воспроизводить дискриминацию – по полу, расе, возрасту
  • Объяснимость: нейросеть может правильно предсказывать, но не объяснять почему – проблема в медицине и юриспруденции
  • Конфиденциальность: модели обучаются на личных данных – вопрос о праве на удаление данных из модели не решён
  • Безопасность: adversarial attacks – специально созданные входные данные, ломающие модель

Инструменты: с чего реально начинают

Большинство курсов начинают с теории, но практика ML – конкретный набор инструментов. Базовый стек, с которым работают все от джуна до сениора:

Инструмент Зачем нужен Где взять
Jupyter Notebook Интерактивная среда: код + графики + текст в одном файле Бесплатно, pip install jupyter
Google Colab Jupyter в браузере с бесплатным GPU от Google colab.research.google.com
Kaggle Notebooks То же, плюс доступ к датасетам и соревнованиям kaggle.com
Pandas Работа с табличными данными (как Excel, но программно) pip install pandas
Scikit-learn Готовые ML-алгоритмы: регрессия, классификация, кластеризация pip install scikit-learn
Matplotlib / Seaborn Визуализация данных и результатов модели pip install matplotlib seaborn
PyTorch / TensorFlow Нейросети и Deep Learning (нужны позже, не с первого дня) pytorch.org / tensorflow.org

Для старта достаточно Colab + Pandas + Scikit-learn – всё бесплатно и не требует настройки. Именно с этим сочетанием делается 80% учебных проектов на Kaggle.

Как выглядит ML-проект изнутри

Реальная работа ML-специалиста – это не написание кода с нуля. Это последовательность шагов, каждый из которых занимает непропорционально много времени:

  1. Постановка задачи (10%): перевести бизнес-вопрос в ML-задачу. «Снизить отток клиентов» → «предсказать вероятность оттока для каждого клиента в следующие 30 дней»
  2. Сбор и очистка данных (40%): самый долгий этап. Пропуски, дубликаты, выбросы, неправильные типы данных – это реальность любого датасета
  3. Разведочный анализ (EDA, 15%): понять структуру данных: распределения, корреляции, аномалии – через графики
  4. Feature engineering (15%): создать новые признаки из имеющихся данных, которые помогут модели учиться лучше
  5. Обучение и подбор модели (10%): попробовать несколько алгоритмов, подобрать гиперпараметры через кросс-валидацию
  6. Оценка и интерпретация (5%): проверить метрики на тестовой выборке, объяснить заказчику почему модель ошибается
  7. Деплой и мониторинг (5%): упаковать модель в API (FastAPI, Flask), задеплоить, следить за деградацией качества со временем

Заметьте: написание самой модели – это около 10% времени. Остальное – данные и инфраструктура. Это главное разочарование джунов, которые ожидали «писать нейросети».

Где учиться ML в России

Хороших бесплатных ресурсов на русском достаточно для старта без платных курсов:

  • Stepik «Машинное обучение» – курс от ВШЭ и ШАД Яндекса, базовый теоретический фундамент бесплатно
  • ODS.ai (Open Data Science) – крупнейшее русскоязычное сообщество специалистов по данным: форумы, курсы, соревнования
  • Kaggle – англоязычный, но незаменим: реальные датасеты, туториалы, соревнования с призовыми
  • Лекции ВМК МГУ и МФТИ – записи курсов на YouTube, серьёзная математическая база
  • ШАД Яндекса (Школа анализа данных) – бесплатная очная программа для тех, кто в Москве и готов к серьёзному отбору
  • Телеграм-каналы: ODS Community, DataScience_Digest – актуальные новости и обсуждения на русском

MLOps: как ML попадает в продакшен

Большинство статей о ML рассказывают про модели и алгоритмы. Но в реальных компаниях 80% проблем возникает не при обучении модели, а при её запуске и поддержке в продакшене. Этим занимается MLOps.

MLOps (Machine Learning Operations) – практики и инструменты для надёжного запуска и эксплуатации ML-моделей. Типичные проблемы, которые он решает: модель хорошо работает на тестовых данных и плохо – на реальных (data drift); модель теряет точность со временем, потому что реальность меняется (model drift); воспроизвести эксперимент другого учёного невозможно из-за разных версий данных и кода.

Ключевые инструменты MLOps: MLflow – трекинг экспериментов и версионирование моделей; DVC – Git для данных; Airflow – оркестрация пайплайнов данных; BentoML / Seldon – деплой моделей как API-сервисов; Prometheus + Grafana – мониторинг качества модели в проде.

MLOps-инженер – отдельная профессия на стыке ML и DevOps. Зарплата: 270 000–550 000 руб./мес. в Москве. Спрос растёт быстрее предложения – хорошие MLOps-инженеры на рынке в дефиците.

Путь к первой работе в ML: реалистичный план

ML – одна из самых сложных ниш для входа. Рассчитывайте на 18–24 месяца при систематическом подходе. Вот разбивка по этапам:

Месяцы 1–3
основы программирования и математики. Python до уровня «пишу скрипты без подсказок», базовая линейная алгебра (матрицы, векторы), статистика (среднее, дисперсия, корреляция). Не углубляться – просто снять барьер незнания
Месяцы 4–6
Data Science инструменты. Pandas для работы с таблицами, matplotlib/seaborn для визуализации, scikit-learn для базовых моделей. Практика на датасетах с Kaggle – начать с «Getting Started» соревнований
Месяцы 7–10
машинное обучение вглубь. Понять градиентный спуск, регуляризацию, ансамблевые методы. Курс Fast.ai или deeplearning.ai (Coursera) – для нейросетей. Первая Kaggle-медаль или топ-20% в соревновании
Месяцы 11–15
специализация и проекты. Выбрать трек (NLP, Computer Vision, рекомендательные системы) и сделать 2–3 сквозных проекта от сырых данных до API-сервиса с деплоем
Месяцы 16–24
поиск работы. Стажировки (Яндекс, Сбер AI, VK), Junior ML Engineer позиции, участие в хакатонах. Публичный GitHub с проектами – обязательно

Главная ловушка: учить теорию без практики. ML – эмпирическая наука. Модель, которую запустил на реальных данных и получил неожиданный результат, учит больше, чем три лекции о том, как она должна работать в теории.

Что мешает войти в ML: честный разбор барьеров

Математика пугает, но не так сильно, как кажется. Для работы ML-инженером (не исследователем) нужен линейная алгебра и матанализ на уровне первых двух курсов технического вуза – не глубокое доказательство теорем, а понимание что такое матрица весов и почему градиентный спуск работает именно так. На практике 80% времени – это pandas, sklearn, дебаггинг пайплайнов и общение с командой. Математика нужна, чтобы понимать что происходит внутри, а не чтобы выводить формулы на бумаге.

Датасеты важнее алгоритмов. Самая частая ошибка новичков – тратить недели на выбор «лучшего алгоритма», когда проблема в качестве данных. 70% работы реального ML-инженера – это ETL (сбор, чистка, нормализация данных), feature engineering (создание полезных признаков) и мониторинг качества данных в продакшене. Алгоритм – это финальный шаг, а не начало. Это плохая новость для тех, кто ждёт магии, и хорошая – для тех, кто умеет работать с данными.

Разрыв между туториалом и работой реален. На курсах вы учитесь на готовых датасетах с заранее известным ответом. В работе датасет неполный, признаки неочевидные, а метрика успеха определяется не accuracy, а бизнес-результатом. Переход занимает 3–6 месяцев активной практики на реальных задачах. Самый быстрый способ его сократить – найти стажировку или петпроект с реальными грязными данными как можно раньше.

Три типа машинного обучения: сравнительная таблица

Разница между тремя подходами на практике определяет, какой алгоритм нужен для конкретной задачи.

Критерий С учителем (Supervised) Без учителя (Unsupervised) С подкреплением (RL)
Входные данные Размеченный датасет (X + Y) Только признаки X, без меток Среда + функция вознаграждения
Что ищет модель Зависимость X → Y Скрытую структуру в данных Стратегию максимизации награды
Типичные алгоритмы Линейная регрессия, Random Forest, XGBoost K-means, DBSCAN, PCA, автоэнкодеры Q-learning, PPO, A3C
Классические примеры Спам-фильтр, прогноз цен, распознавание лиц Сегментация клиентов, аномалии, рекомендации AlphaGo, торговые боты, управление роботами
Нужна разметка? Да — это главный bottleneck Нет Нет, но нужна симуляция среды
Сложность отладки Средняя (есть метрика качества) Высокая (нет ground truth) Очень высокая (reward shaping)
Когда применять Есть исторические данные с результатом Нет меток, нужна структура Задача оптимизации в динамической среде

Машинное обучение в коде: пример за 12 строк

Ниже — рабочий пример обучения модели классификации на sklearn. Именно с такого кода начинают большинство ML-специалистов:

from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split
from sklearn.ensemble import RandomForestClassifier
from sklearn.metrics import accuracy_score

# Загружаем данные и делим на обучающую/тестовую выборку
X, y = load_iris(return_X_y=True)
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

# Обучаем модель
model = RandomForestClassifier(n_estimators=100, random_state=42)
model.fit(X_train, y_train)

# Оцениваем качество
print(f"Accuracy: {accuracy_score(y_test, model.predict(X_test)):.2%}")
# → Accuracy: 96.67%

Этот код запускается локально после pip install scikit-learn. Результат — 96.7% точности классификации цветов ириса по 4 признакам. Именно из таких экспериментов вырастают продакшен-модели.

Что спрашивают на собеседовании ML-специалиста

Вопросы ниже встречаются на 80% технических интервью — от стажёров до middle. Источник: разборы собеседований на Хабре и LeetCode Discuss.

Чем отличается переобучение от недообучения?

Переобучение (overfitting) — модель выучила обучающую выборку наизусть, но не умеет обобщать: высокое качество на train, низкое на test. Недообучение (underfitting) — модель слишком простая, плохо даже на train. Лечится: переобучение — регуляризацией (L1/L2), дропаутом, увеличением данных; недообучение — усложнением модели или добавлением признаков.

Что такое градиентный спуск и зачем он нужен?

Метод оптимизации, который шаг за шагом движется в сторону минимума функции потерь. На каждом шаге вычисляется градиент (направление наибольшего роста), и параметры модели сдвигаются в противоположном направлении на величину learning rate. Стохастический SGD берёт один пример за раз, mini-batch SGD — пачку.

Как работает метрика ROC-AUC и когда она предпочтительнее accuracy?

ROC-AUC измеряет способность модели ранжировать положительные примеры выше отрицательных. Предпочтительна при дисбалансе классов: если 95% примеров — один класс, accuracy 95% можно получить тупым «всегда говори класс 0», а ROC-AUC такую модель накажет.

Что такое регуляризация L1 и L2?

Оба метода штрафуют за большие веса модели, но по-разному. L2 (Ridge) добавляет к функции потерь сумму квадратов весов — все веса уменьшаются, но не обнуляются. L1 (Lasso) добавляет сумму модулей — умеет обнулять нерелевантные признаки, работает как встроенный feature selection.

Как выбрать между Random Forest и Gradient Boosting?

Random Forest обучает деревья параллельно и независимо — быстрее, менее склонен к переобучению, проще в тюнинге. Gradient Boosting (XGBoost, LightGBM) строит деревья последовательно, исправляя ошибки предыдущих — обычно точнее, но требует тщательного подбора гиперпараметров. На табличных данных GBM чаще выигрывает соревнования Kaggle.

Алгоритмы ML: как работают ключевые подходы

Понимание алгоритмов отличает ML-специалиста, который умеет только запускать скрипты, от того, кто понимает что происходит внутри и умеет выбрать правильный инструмент под задачу. Ниже — алгоритмы, которые встречаются в 90% ML-собеседований и реальных проектов.

Наивный байесовский классификатор

Один из старейших алгоритмов ML, основанный на теореме Байеса: вычисляет вероятность принадлежности примера к классу на основе частоты признаков. «Наивным» называется потому что предполагает независимость признаков — что в реальности почти никогда не выполняется. Несмотря на это допущение, алгоритм удивительно хорошо работает для классификации текстов: именно Naive Bayes лежал в основе спам-фильтров большинства почтовых сервисов до середины 2010-х годов. Главные преимущества: мгновенно обучается даже на малых данных, работает с высокоразмерными признаками (десятки тысяч слов), требует минимума памяти.

Деревья решений и Random Forest

Дерево решений строит последовательность правил «если...то». На каждом узле алгоритм выбирает признак, который лучше всего разделяет примеры по целевой переменной (по критерию Gini impurity или Information Gain). Результат — интерпретируемая модель, которую можно объяснить словами: именно деревья используют в медицине и праве, где нужно обосновать каждое решение.

Проблема одиночных деревьев — склонность к переобучению. Решение — Random Forest: строит 100–1000 случайных деревьев, каждое на случайной подвыборке данных и признаков, затем усредняет результаты (ансамблирование). Random Forest устойчив к выбросам, не требует масштабирования признаков и хорошо работает без тонкой настройки — поэтому его называют «надёжным базовым алгоритмом» для начала любого проекта.

Градиентный бустинг: XGBoost и LightGBM

Самый популярный класс алгоритмов на соревнованиях Kaggle по табличным данным. В отличие от Random Forest, деревья строятся последовательно: каждое следующее исправляет ошибки предыдущего, обучаясь на невязках (residuals). Это делает бустинг очень точным, но чувствительным к гиперпараметрам — требует тщательной настройки.

XGBoost (2016, Тяньци Чэнь, Microsoft Research) выиграл более 100 соревнований Kaggle в первые два года после выхода. LightGBM (Microsoft, 2017) обучается в 10–20 раз быстрее на больших данных за счёт leaf-wise стратегии. CatBoost (Яндекс, 2017) — российская разработка, оптимизированная для категориальных признаков без ручного кодирования.

SVM — метод опорных векторов

SVM находит гиперплоскость в многомерном пространстве признаков, максимально разделяющую классы. Опорными векторами называются точки, ближайшие к этой плоскости — именно они определяют её положение. С помощью «ядрового трюка» (kernel trick) SVM умеет строить нелинейные разделяющие поверхности в исходном пространстве.

SVM хорошо работает с малыми датасетами (сотни–тысячи примеров) и высокоразмерными данными. До 2012 года алгоритм доминировал в задачах классификации текстов и распознавания изображений. После победы AlexNet в 2012 году глубокое обучение вытеснило SVM в большинстве задач с картинками, но алгоритм по-прежнему применяется в биоинформатике и задачах с малыми размеченными данными.

Нейронные сети и глубокое обучение

Нейронные сети моделируют принцип работы мозга: искусственные нейроны организованы в слои, связанные параметрами (весами). Входной слой получает данные, скрытые слои трансформируют представление, выходной даёт предсказание. «Глубокое» обучение означает много скрытых слоёв — современные языковые модели (GPT-4, Claude) имеют сотни слоёв и миллиарды параметров.

Ключевое преимущество нейросетей: умеют автоматически извлекать признаки из сырых данных — изображений, текста, звука. До 2012 года инженерам приходилось вручную придумывать признаки для каждой задачи. После победы AlexNet на ImageNet (ошибка снизилась с 26% до 15% за один год) нейросети стали стандартом для работы с неструктурированными данными. Для старта достаточно изучить PyTorch или TensorFlow — обе библиотеки бесплатны и имеют хорошую документацию.

Плюсы и минусы работы в машинном обучении

✅ Плюсы ❌ Минусы
Одни из самых высоких зарплат в IT – senior ML Engineer от 300 тыс. руб./мес. Высокий порог входа: математика, программирование, работа с данными – одновременно
Работа над задачами, которые раньше были невозможны Разрыв между учебными датасетами и реальными данными велик
AI-бум обеспечивает рост спроса на годы вперёд Результаты непредсказуемы – модель может не работать по неочевидным причинам
Международные компании активно нанимают ML-специалистов из России удалённо Постоянное обучение: поле меняется каждые 6–12 месяцев
Широкий спектр применений: медицина, финансы, транспорт, ритейл Производительность моделей зависит от инфраструктуры, которую вы не контролируете

FAQ

ML и ChatGPT – это одно и то же?

ChatGPT – продукт, построенный с использованием ML, конкретно с помощью больших языковых моделей (LLM) на основе трансформерной архитектуры. Это как спросить: «Автомобиль и двигатель внутреннего сгорания – это одно?» Нет: двигатель – технология, автомобиль – продукт на её основе.

Чем машинное обучение отличается от ИИ и Deep Learning?

Искусственный интеллект (ИИ/AI) – широкое понятие: любая система, имитирующая интеллектуальное поведение. Машинное обучение – один из подходов к созданию ИИ: система не запрограммирована явно, а учится на данных. Deep Learning (глубокое обучение) – подвид ML, который использует многослойные нейронные сети. ChatGPT, Stable Diffusion, Whisper – это Deep Learning. Линейная регрессия для предсказания продаж – это ML, но не Deep Learning. Схема: ИИ ⊃ ML ⊃ Deep Learning – каждый следующий круг уже предыдущего.

Нужна ли высшая математика для работы в ML?

Для работы с готовыми библиотеками – нет. Запустить модель sklearn можно с минимальной математикой. Но для понимания того, почему модель ошибается, как настраивать гиперпараметры и как выбирать алгоритм – линейная алгебра и статистика критически важны. Глубокий ML-исследователь без мат.базы невозможен.

Можно ли войти в ML без программирования?

Есть роли вокруг ML без написания кода: ML-менеджер, data labeler, аналитик на готовых BI-инструментах. Но Data Scientist и ML Engineer – это прежде всего программисты. Python сейчас – базовое требование для любой позиции в ML.

Если интересна профессия, а не только технология, – читайте про Python-разработчика: задачи, стек и зарплаты.

Сколько учиться до уровня Junior ML-инженера?

От 12 до 24 месяцев интенсивного обучения – при условии, что уже есть базовые навыки программирования. С нуля без опыта в IT – ближе к 2 годам. Это одна из самых трудоёмких специализаций для входа, но и одна из самых высокооплачиваемых.

P
Редакция Progbasics

Собираем и сверяем программы онлайн-школ: цены, сроки, документы об окончании.