电子书 Learning Theory from First Principles 《从第一性原理学习学习理论》
www.di.ens.fr/~fbach/ltfp_book.pdf
本书由Francis Bach撰写,系统地介绍了机器学习中学习理论的基础知识、核心概念及最新进展。全书分为三部分:预备知识、学习算法的泛化界限以及特殊主题,帮助读者深入理解机器学习算法的理论基础。
机器学习中的学习理论是一个数学和理论计算机科学的分支,它致力于从数学上理解机器学习的过程。它试图回答一些关于学习的根本性问题,例如:
机器真的能学习吗? 学习的本质是什么?
什么样的任务是可学习的? 有没有一些问题是原则上无法通过有限的数据学习的?
需要多少数据才能学好? 学习效果与数据量有什么关系?
模型的复杂度如何影响学习效果? 简单的模型好还是复杂的模型好?
如何保证模型在未见过的数据上也能表现良好(泛化能力)? 这是学习理论最核心的问题之一。
不同的学习算法在什么条件下表现更好?
AI创造营