Практическое руководство по выбору метрик, ориентированных на точность, анализу порогов и разложению матрицы ошибок в scikit-learn для минимизации уровня ложноположительных результатов в задачах бинарной классификации.
binary-classification / precision / false-positive / scikit-learn / threshold-selection / confusion-matrix / det-curve / model-evaluation
Практическое руководство по выбору порога решения с учётом взвешенных стоимостей ложноположительных и ложноотрицательных ошибок, использующее отложенный валидационный набор и матрицы ошибок scikit-learn.
threshold‑tuning / cost‑sensitive / confusion‑matrix / scikit‑learn / model‑validation
Поймите различия между средней абсолютной ошибкой (MAE) и среднеквадратичной ошибкой (RMSE), как выбрать правильную метрику для вашей задачи прогнозирования и влияние больших ошибок на каждую из них.
regression / model evaluation / MAE / RMSE / error metrics / scikit-learn / machine learning
Интервалы предсказания предназначены для содержания будущих отдельных наблюдений, тогда как доверительные интервалы нацелены на среднее или другой параметр, и они не взаимозаменяемы. Эмпирическое покрытие - это доля вынесенных наблюдений внутри интервала, а ширина - расстояние между квантильными пределами; построенный пример из пяти значений дает 80 процентов покрытия и среднюю ширину 1.8.
prediction interval / confidence interval / quantile regression / empirical coverage / interval width / scikit-learn / calibration / held-out evaluation
В статье объясняется, почему группы разного размера дают объединённое среднее 18, а не 15, и приводится короткий пример на Python. Рассматривается важность сохранения знаменателя, работы с процентами, пропущенными данными и ограничений объединения сводных показателей.
math
Сравнивайте обучение и валидацию, помещайте предобработку в pipeline и не используйте итоговый тест для выбора параметров.
Machine Learning / Validation / Overfitting
Постройте опорный прогноз на основе предыдущего сезона, оцените его на последующих наблюдениях и отличайте календарное выравнивание от утечки данных и пропусков.
Time Series / Forecasting / Baseline / Validation
Хронологические выборки и обучение преобразований только на прошлом.
Python / Time series / Validation