本篇與前面不同，主要內(nèi)容不是算法，而是機(jī)器學(xué)習(xí)的另一部分內(nèi)容——學(xué)習(xí)理論。主要包括偏差/方差(Bias/variance)、經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化(Empirical Risk Minization，ERM)、聯(lián)合界(Union bound)、一致收斂(Uniform Convergence)。

　　Ng對(duì)學(xué)習(xí)理論的重要性很是強(qiáng)調(diào)，他說(shuō)理解了學(xué)習(xí)理論是對(duì)機(jī)器學(xué)習(xí)只懂皮毛的人和真正理解機(jī)器學(xué)習(xí)的人的區(qū)別。學(xué)習(xí)理論的重要性在于通過(guò)它能夠針對(duì)實(shí)際問(wèn)題更好的選擇模型，修改模型。