Относно ламбда в термина за регулиране - Андрю Нг
Ефект на ламбда стойността
В предишната публикация относно регулирането използвахме термин, наречен „термин за регулиране“, за да предотвратим пренастройването. В тази публикация нека да видим как избираме стойността ламбда в нашия член за регулиране,
Да приемем, че нашият модел използва тази хипотезна функция и линейна регресия за анализ.
Функцията на разходите би била подобна на тази с нашия член за регулиране в края.
Нека видим ефектите от промените на ламбда стойността.
Как да изберем ламбда
Подобен е на нашия метод за избор на модел, който разгледахме преди. Ние променяме нашите ламбда стойности и изчисляваме теглата чрез минимизиране на функцията на разходите. След това изчисляваме грешките, използвайки набора за кръстосано валидиране, избираме параметрите, които имат най-ниска грешка в набора за кръстосано валидиране, след което прилагаме тези параметри към нашия тестов набор, за да видим колко добре се представя.
Как се променя грешката при кръстосано валидиране/грешката на влака поради промените в ламбда
Ако ламбда има малка стойност, функцията на хипотезата ще бъде по-сложна и ще има повече полиномиални членове, така че грешката на влака ще бъде ниска. С нарастването на ламбда функцията на хипотезата ще бъде по-опростена и грешката на влака ще се увеличи.
Грешката при кръстосаното валидиране обаче се променя малко по-различно. Когато ламбда е голяма, това може да причини недостатъчно приспособяване (ситуация на голямо отклонение), така че грешката при кръстосаното валидиране ще бъде голяма. Ако ламбда е малка, това ще доведе до пренастройване и също така води до увеличаване на грешката.
