在我們?cè)賮?lái)看一下用神經(jīng)網(wǎng)絡(luò)的方法解決李宏毅老師提出的訪問(wèn)流量預(yù)測(cè)問(wèn)題，他做實(shí)驗(yàn)的結(jié)果如下。從表中可以看出隨著網(wǎng)絡(luò)層次的增加，在訓(xùn)練集上的誤差是越來(lái)越小的，但是在測(cè)試集上并不是這樣的?？梢钥吹?，4層網(wǎng)絡(luò)時(shí)誤差比3層網(wǎng)絡(luò)的誤差還要大。像這種訓(xùn)練誤差在減小，測(cè)試誤差反而增大的情況，在機(jī)器學(xué)習(xí)中稱為過(guò)擬合。造成過(guò)擬合的原因主要有訓(xùn)練數(shù)據(jù)不足、分布不合理、噪聲很強(qiáng)等，或者模型過(guò)于復(fù)雜等。至