Почему алгоритм C4.5 использует сокращение для уменьшения дерева решений и как сокращение влияет на точность предсказания?

Обрезка — это способ уменьшить размер дерева решений. Это снизит точность обучающих данных, но (в целом) повысит точность невидимых данных. Он используется для смягчения переобучения, когда можно добиться идеальной точности обучающих данных, но модель ( то есть дерево решений), которое вы изучаете, настолько специфично, что оно не применимо ни к чему, кроме данных обучения.

В общем случае, если вы увеличите отсечение, точность на тренировочном наборе будет ниже. Однако WEKA предлагает различные возможности для лучшей оценки точности, а именно разделение обучения/тестирования или перекрестную проверку. Например, если вы используете перекрестную проверку, вы обнаружите «золотую середину» коэффициента достоверности сокращения где-то там, где он сокращается достаточно, чтобы сделать изученное дерево решений достаточно точным на тестовых данных, но не жертвует слишком большой точностью на тестовых данных. данные тренировки. Однако, где находится эта золотая середина, будет зависеть от вашей реальной проблемы, и единственный способ надежно определить ее — это попробовать.