【How to learn AI】

       作为刚刚研一的同学,从研0开始就在导师、师兄师姐的帮助下学习机器学习、深度学习和强化学习,也算是有了一些感悟和收获可以与大家分享。如果有不对的地方欢迎批评指正~  我发现很多同学跳过了学习机器学习基础的阶段,一上来就搭建一个数字手写体识别的网络,运行成功之后就感到特别快乐(曾是我哈哈哈~)但是过一会儿就有点怅然若失,why? 这玩意儿怎么运行的?

       网络上那些说零基础学习人工智能或者速成班的,一看就很假好吧。我认为想要学好人工智能,首先要掌握扎实的数学分析、线性代数(含部分矩阵论)、概率论与数理统计的知识,而这些是大一大二的必修课程!!~~

       接下来抛出一些观点和经验:

    (补充:学习学一些Git Linux的使用方法   浙大竺可桢学院 计算机那些没教的知识   不是本人哈,就是碰巧看到了觉得讲得很好~)

  1. 机器学习基础和深度学习要一起学,最好先学机器学习基础再开始深度学习

       nndl · GitHub  复旦团队的这本书非常不错,从机器学习基础—深度学习—深度学习高阶知识,可以说学完这本书的前两个部分,应对机器学习八股文考核就没有什么问题~~ (同时结合面试反向学习的思路,能够更好的拓展自己的知识面)     西瓜书+南瓜书可以非常好的学习机器学习基础的内容~   But  说实话机器学习基础的课程一直没有找到好的,现在在上软件学院龙明盛老师的机器学习课程,感觉是目前讲得最好的!!!

   2. 深度学习不仅要学习搭积木,还要学习基本理论,甚至学习如何调参

       台湾大学 - 李宏毅 - 机器学习深度学习(2021/2022公开教程汇总)_哔哩哔哩_bilibili

       听2021/2022的版本有很不错的收获~   一定要完成其中的作业!!  学习pytorch的使用方法,transformer手写一个之类的~

 3. 强化学习最近非常火,如何用强化学习做控制的内容是非常热门的方向之一

       伯克利CS285的强化学习教程真的太棒了!!! CS285-哔哩哔哩_Bilibili

       当然啦李宏毅老师的强化学习很好入门(但是讲得不是很具体)

      此外我还喜欢蘑菇书EasyRL

初探强化学习     上面这两本书也非常棒,很适合入门呀!!!

      

        但是你要从控制方面更加理论的学习强化学习,那么我很推荐组里的这本书(先学一学上面入门的课程,就可以畅游在我们组里的教材啦~)

Reinforcement Learning for Sequential Decision and Optimal Control | SpringerLink

      下载链接上边~~

   (如果你学校买了Spring库,电子版可以免费下载啦~)

        RL英文教材简介 | RL for Sequential Decision and Optimal Control

 

       全书总共包括11章。第1章介绍强化学习(Reinforcement Learning, RL)概况,包括发展历史、知名学者、典型应用以及主要挑战等。第2章介绍RL的基础知识,包括定义概念、自洽条件、最优性原理与问题架构等。第3章介绍免模型RL的蒙特卡洛法,包括Monte Carlo估计、On-policy/Off-policy、重要性采样等。第4章介绍免模型RL的时序差分法,包括它衍生的Sarsa、Q-learning、Expected Sarsa等算法。第5章介绍带模型RL的动态规划法,包括策略迭代、值迭代、通用迭代架构与收敛性证明等。第6章介绍间接型RL的函数近似法,包括常用近似函数、值函数近似、策略函数近似以及所衍生的Actor-critic架构等。第7章介绍直接型RL的策略梯度法,包括On-policy gradient、Off-policy gradient、它们的代价函数与优化算法等。第8章介绍带模型的近似动态规划(ADP)方法,包括无穷时域的ADP、有限时域的ADP、ADP与MPC的联系与区别等。第9章探讨了状态约束的处理手段,它与求解可行性、策略安全性之间的关系,以及Actor-Critic-Scenery三要素求解架构等。第10章介绍深度强化学习(DRL),即以神经网络为载体的RL,包括神经网络的原理与训练,深度化挑战以及DQN、DDPG、TD3、TRPO、PPO、DSAC等典型深度化算法。第11章介绍RL的各类拾遗,包括鲁棒性、POMDP、多智能体、元学习、逆强化学习、离线强化学习以及训练框架与平台等。