卷到纯数学:除夜佬亲历总结的AI工程师纯数学课程进修之路
作者:Frank Ding
编辑:QQ
【新智元导读】纯数学最随便懂的除夜学悍然课和教程进修线路。
在进门机械人视觉和机械人行动后,最早慢慢干戈到了3D筹算机视觉中的高阶数学定见,包含三维物体到二维图片的变卦(术语称之为射影若干很多若干);三维欧氏空间的物体行动坐标系变卦,分为主动变卦(active)和主动变卦(passive);此内涵更高阶的筹算机衬着中常会用到Mesh和黎曼曲面;此外,若干很多若干深度进修(Geometric Deep Learning)中也触及到群论,李群等。这些迷之定见使得我对本科初级数学课程(多元微积分,线性代数,概率论)后背的纯数学感应欢欣乐乐喜悦爱好。本来不时感应感染纯数学会特别很是难学,可是当我写了良多年代码和不雅不雅不雅不雅鉴赏了多个AI局限的浩瀚论文此后,总有一些本质问题旋绕在心,得不到诠释:
代码笼统的极限在何处?高阶纯函数编程?深度进修多个局限(CV,NLP,RL,GNN)可否有不合视角?如今深度进修的论文汗牛充栋,既有良多近似的pattern,也有每个局限的特点,可否有通用筹划绳尺
第一个问题在局限论(category theory)中普及参议,不过局限论过于艰深,是笼统代数后的一门纯函数编程的幻想根本。第二个问题在若干很多若干深度进修中被参议。不过,这两个问题必定不会被无缺答复。即便没法掉落踪掉落踪最好的诠释和答复,对这些根柢问题标根究的阶段性成功也黑色常居心义的。正如理查德·费曼的名言:
I would rather have questions that can&39;t be questioned
为了让AI从业人员甚至法度圭表类型员能进阶掌控高阶数学的刀兵,我大胆总结一份从我这个非数学系的理工卒业生角度解缆的自学纯数学指南。以下全数课程视频都已搬运到了我的B站频道MyEncyclopedia公号中,此外,视频课程有对应教材的也一并列出。
在进修这些常识时辰,创作创造之间的联络黑色常普及的,这个倒黑色常出乎我料想,也让进修特别很是有下场感。以下总结了若干很多若干贯穿全数局限的次要定见。
群的最一样往罕定见和聚会数学群群论琐细下构建的笼统代数筹划无穷维向量空间的线性映照和基变卦,并且此视角下的矩阵(线性代数)邃晓从基变卦的角度邃晓傅里叶变卦,即傅里叶变卦是函数展示的出格的基。无穷维向量空间上定义了距离(内积空间)后,向量空间有了若干很多若干筹划。从线性映照奉行到多变量线性映照(multilinear map),这是张量(Tensor)的数学意义从聚会数学群论到延续函数映照,构成了微分流形(Differential Manifold)的定见。在此根本前程而展开出了李群,本质是为体味决比如改削矩阵群当然在乘法上封锁(是以构成群)可是在加法上不封锁的问题。一样往常群论扩大年夜大年夜大年夜大年夜出局限论,这是函数式编程的数学事理。
进修按序
下图为我推荐的课程进修按序。
当对张量和李群掌控充分后,绳尺上可以更上一层楼,进修广义绝对论和量子力学。不过我并没有筹算涉足这两个艰深的局限,也就不多言了。
线性映照下的初级线性代数
【Sheldon Axler】线性代数理应多么学
B站链接
https://www.bilibili.com/video/BV1Dm4y1c7Cn
评价
本课程的教员是配套同名教材线性代数理应多么学(Linear Algebra Done Right)这本书的作者。课程和教材都是从线性映照(linear map)角度来对待矩阵。由最根本的向量空间和内积空间定义解缆导出对偶空间(Dual Space),特点值,特点根,对角矩阵,正交基,直到最中心的谱论(Spectral theorem)。此课程撒谎话不契合第一次学线性代数的同窗。同时,不契合数学系的,因为跟高代比照太浅;不契合工程类的,因为太深并且没有跟独霸联络起来。可是,本书却广受赞誉,中文也有翻译本。其最除夜的特点是经由过程空间变卦和矩阵联络起来,从最根本的定义导出矩阵中的最中心定见:特点值,特点根,对角矩阵,正交基等。
配套教材
【Nathaniel Johnston】 Advanced Linear Algebra
B站链接
https://www.bilibili.com/video/BV1uV4y157XE
评价
课程关于线性映照面前的基变卦等陈述的特别很是了然。不过比照Nathaniel Johnston的教材Advanced Linear Algebra and Matrix Algebra来讲,视频课程只触及到教材的一二章的内容,但并没有触及到第三章Tensor的部分,有点吝惜。视频包含良多向量空间和线性映照的例子和证实,可以作为线性代数理应多么学的很好补偿。同时推荐教材第三章Tensor,吻合作为Tensor定见的进门幻想进修。
配套教材
【Matthew Macauley】Advanced Linear Algebra
B站链接
https://www.bilibili.com/video/BV1Me4y1a7Uk
评价
Matthew Macauley传授讲课节拍层次都很赞,示例也斗劲充分,他的多个数学课程都很棒,不凡是上面群论部分的Visual Group Theory最为经典。本课程可以作为上述两门自成琐细的课程很好的补偿,不凡是Tensor作为multilinear map的部分。课程对应教材为Peter Lax的经典老教材线性代数及其独霸。
配套教材
群论,笼统代数
【Matthew Macauley】可视化群论
B站链接
https://www.bilibili.com/video/BV1ka411378X
配套教材
评价
课程基于Nathan Carter负有盛名的Visual Group Theory 这本特别很是特别很是棒的群论进门书。视频课程本身在教材的根本上补偿了良多例子和定理证实,使笼统难以邃晓的群里严重降低了进门难度。我作为同时细心看过视频和教材的读者,感应感染视频课程有以下几个优势:起首是创建定见时一步一步带你walk through,比如最中心的群同态定见,使得定见的创建愈加深切笼统;其次课程补偿了良多代数编制的严格证实,有的时辰,代数编制比视觉编制更展示了问题标本质和联络。凶悍推荐视频和教材,因为群论是现代数学的基石。
【哈佛Benedict Gross】笼统代数
B站链接
https://www.bilibili.com/video/BV1Yt4y1F72S
评价
很老的课程了,对应的教材为经典的 Michael Artin 的代数。学完本视频和配套教材会对笼统代数有结壮深切的邃晓。
配套教材
张量
张量是广义绝对论的描摹对象之一,此外一个是黎曼若干很多若干。张量有其物理意义和数学意义,这里我们存眷其数学意义而非物理意义。
张量是多重线性映照,个中,V是矢量空间,V*是对偶空间。
有了多重空间的线性映照,下一步就是将两个张量构成新的空间,这个空间由张量积掉落踪掉落踪
寄看,张量积后的新空间的维度为本来两个空间的维度乘积,即若上述 U, V 分袂是 m 和 n 维线性空间,则新空间维度为 mn。
eigenchris 系列
B站链接
【eigenchris】 Tensors for Beginners
https://www.bilibili.com/video/BV1zW4y1n7Cy【eigenchris】 Tensor Calculus
https://www.bilibili.com/video/BV1Ae4y167ty
评价
eigenchris 的 tensor 进门系列讲的理应是最好邃晓的,举了良多具体的例子,比如关于次要的定见行向量作为covector。
XylyXylyX
B站链接
【XylyXylyX】 What is a Tensor
https://www.bilibili.com/video/BV1NK411Q7p4
相干教材
并不是上述两个视频课程的配套教材,我找到一些市道上不错的纯 Tensor 类进门书本
李群
如之前所说,李群的本质是为体味决比如改削矩阵群当然在乘法上封锁(是以构成群)可是在加法上不封锁的问题。因为在做优化或其他运算时,改削代表的矩阵必定用到矩阵加法。李群的措置编制是将小量上的映照到李空间上做完运算后映照回李群。不过一样往常李群过于宏壮,进修内容过于重除夜,是以复杂的进门李群本身也斗劲艰苦。
XylyXylyX
B站链接
【XylyXylyX】 Lie Groups and Lie Algebras
https://www.bilibili.com/video/BV1Z14y1j78c
评价
XylyXylyX的李群视频是浩瀚李群进门中斗劲不错的,有良多几回,契合初学。配套 Robert Gilmore的以下教材(教材后脸部分过于宏壮)。
配套教材
Jonathan Evans
B站链接
https://www.bilibili.com/video/BV1FK411D7dv
配套教材
视频有专门一节推荐了浩瀚不错的教材,不过李群这个局限过于艰深,我也只是刚进门。是以在此仅列其一:Springer 的GTM(研究生数学系列)浮幻想际
傅里叶变卦
傅里叶变卦的本质是将函数分化成一组绝对卷积算子的对角化基,是进阶泛函分化的次要定见。
【斯坦福 Brad Osgood】傅里叶变卦和独霸
B站链接
https://www.bilibili.com/video/BV1Gm4y1A7bw
配套教材
可由下方地址下载
https://see.stanford.edu/materials/lsoftaee261/book-fall-07.pdf
微分流形
XylyXylyX
B站链接
https://www.bilibili.com/video/BV1fG411E7Tc
法度圭表类型员的局限论
B站链接
【Bartosz Milewski】 Category Theory for Programmers
https://www.bilibili.com/video/BV1v14y1e7et【Bartosz Milewski】 Category Theory for Programmers II
https://www.bilibili.com/video/BV14P4y1Z7Ci【Bartosz Milewski】 Category Theory for Programmers III
https://www.bilibili.com/video/BV1gB4y1n72g
配套教材
其他
B站链接
【NJ Wildberger】 Famous Math Problems
https://www.bilibili.com/video/BV1De4y1m7uS
参考材料:
https://mp.weixin.qq.com/s/n6yD_TdO517DCF3ZRHwDNw