Datawhale李宏毅机器学习/机器学习介绍

机器学习相关的技术

如果讲的更务实一点的话&＃xff0c;machine learning所做的事情&＃xff0c;你可以想成就是在寻找一个function&＃xff0c;要让机器具有一个能力&＃xff0c;这种能力是根据你提供给他的资料&＃xff0c;它去寻找出我们要寻找的function。还有很多关键问题都可以想成是我们就是需要一个function。

在语音辨识这个问题里面&＃xff0c;我们要找一个function&＃xff0c;它的输入是声音讯号&＃xff0c;他的输出是语音辨识的文字。这个function非常非常的复杂&＃xff0c;有人会想说我来用一些写规则的方式&＃xff0c;读很多语言学文献&＃xff0c;然后写一堆规则&＃xff0c;然后做语音辨识。这件事情&＃xff0c;60年代就有人做&＃xff0c;但到现在都还没有做出来。语音辨识太过复杂&＃xff0c;这个function太过的复杂&＃xff0c;不是人类所可以写出来&＃xff0c;这是可以想象的。所以我们需要凭借的机器的力量&＃xff0c;帮我们把这个function找出来。

假设你要做影像辨识&＃xff0c;那就是找一个function&＃xff0c;输入一张图片&＃xff0c;然后输出图片里面有什么样的东西。 或者是大家都一直在说的Alpha GO&＃xff0c;如果你要做一个可以下围棋machine时&＃xff0c;其实你需要的也就是找一个function。这个function的输入是围棋上十九* 十九的棋盘。告诉机器在十九* 十九的棋盘上&＃xff0c;哪些位置有黑子&＃xff0c;哪些位置有白子。然后机器就会告诉你&＃xff0c;接下来下一步应该落子在哪。或者是你要做一个聊天机器人&＃xff0c;那你需要的是一个function&＃xff0c;这个function的输入就是使用者的input&＃xff0c;它的输出就是机器的回应。

机器可以根据训练资料判断一个function是好的&＃xff0c;还是不好的。举例来说&＃xff1a;在这个例子里面显然f_1f1​&＃xff0c;他比较符合training data的叙述&＃xff0c;比较符合我们的知识。所以f1看起来是比较好的。f_2f2​看起来是一个荒谬的function。我们今天讲的这个task叫做supervised learning。

监督学习

Regression是一种machine learning的task&＃xff0c;当我们说&＃xff1a;我们要做regression时的意思是&＃xff0c;machine找到的function&＃xff0c;它的输出是一个scalar&＃xff0c;这个叫做regression。举例来说&＃xff0c;在作业一里面&＃xff0c;我们会要你做PM2.5的预测&＃xff08;比如说预测明天上午的PM2.5&＃xff09; &＃xff0c;也就是说你要找一个function&＃xff0c;这个function的输出是未来某一个时间PM2.5的一个数值&＃xff0c;这个是一个
regression的问题。
机器要判断function明天上午的PM2.5输出&＃xff0c;你要提供给它一些资讯&＃xff0c;它才能够猜出明天上午的PM2.5。你给他资讯可能是今天上的PM2.5、昨天上午的PM2.5等等。这是一个
function&＃xff0c;它吃我们给它过去PM2.5的资料&＃xff0c;它输出的是预测未来的PM2.5。

若你要训练这种machine&＃xff0c;如同我们在Framework中讲的&＃xff0c;你要准备一些训练资料&＃xff0c;什么样的训练资料&＃xff1f;你就告诉它是今天我们根据过去从政府的open data上搜集下来的资料。九月一号上午的PM2.5是63&＃xff0c;九月二号上午的PM2.5是65&＃xff0c;九月三号上午的PM2.5是100。所以一个好的function输入九月一号、九月二号的PM2.5&＃xff0c;它应该输出九月三号的PM2.5&＃xff1b;若给function九月十二号的PM2.5、九月十三号的PM2.5&＃xff0c;它应该输出九月十四号的PM2.5。若收集更多的data&＃xff0c;那你就可以做一个气象预报的系统。

接下来讲的是Classification&＃xff08;分类&＃xff09;的问题。Regression和Classification的差别就是我们要机器输出的东西的类型是不一样。在Regression中机器输出的是一个数值&＃xff0c;在Classification里面机器输出的是类别。假设Classification问题分成两种&＃xff0c;一种叫做二分类输出的是是或否&＃xff08;Yes or No&＃xff09;&＃xff1b;另一类叫做多分类&＃xff08;Multi-class&＃xff09;&＃xff0c;在Multi-class中是让机器做一个选择题&＃xff0c;等于是给他数个选项&＃xff0c;每个选项都是一个类别&＃xff0c;让他从数个类别里选择正确的类别。

刚才讲的都是让machine去解的任务&＃xff0c;接下来要讲的是在解任务的过程中第一步就是要选择function set&＃xff0c;选不同的function set就是选不同的model。Model有很多种&＃xff0c;最简单的就是线性模型&＃xff0c;但我们会花很多时间在非线性的模型上。在非线性的模型中最耳熟能详的就是Deep learning。

半监督学习

刚才我们讲的都是supervised learning&＃xff08;监督学习&＃xff09;&＃xff0c;监督学习的问题是我们需要大量的training data。training data告诉我们要找的function的input和output之间的关系。如果我们在监督学习下进行学习&＃xff0c;我们需要告诉机器function的input和output是什么。这个output往往没有办法用很自然的方式取得&＃xff0c;需要人工的力量把它标注出来&＃xff0c;这些function的output叫做label。

那有没有办法减少label需要的量呢&＃xff1f;就是半监督学习。

迁移学习

迁移学习的意思是&＃xff1a;假设我们要做猫和狗的分类问题&＃xff0c;我们也一样&＃xff0c;只有少量的有label的data。但是我们现在有大量的data&＃xff0c;这些大量的data中可能有label也可能没有label。但是他跟我们现在要考虑的问题是没有什么特别的关系的&＃xff0c;我们要分辨的是猫和狗的不同&＃xff0c;但是这边有一大堆其他动物的图片还是动画图片&＃xff08;凉宫春日&＃xff0c;御坂美琴&＃xff09;你有这一大堆不相干的图片&＃xff0c;它到底可以带来什么帮助。这个就是迁移学习要讲的问题。

无监督学习

我们举另外一个无监督学习的例子&＃xff1a;假设我们今天带机器去动物园让它看一大堆的动物&＃xff0c;它能不能够在看了一大堆动物以后&＃xff0c;它就学会自己创造一些动物。那这个都是真实例子。仔细看了大量的动物以后&＃xff0c;它就可以自己的画一些狗出来。有眼睛长在身上的狗、还有乳牛狗等等。

监督学习中的结构化学习

在machine要解的任务上我们讲了Regression、classification&＃xff0c;还有一类的问题是structured learning。

structured learning 中让机器输出的是要有结构性的&＃xff0c;举例来说&＃xff1a;在语音辨识里面&＃xff0c;机器输入是声音讯号&＃xff0c;输出是一个句子。句子是要很多词汇拼凑完成。它是一个有结构性的object。或者是说在机器翻译里面你说一句话&＃xff0c;你输入中文希望机器翻成英文&＃xff0c;它的输出也是有结构性的。或者你今天要做的是人脸辨识&＃xff0c;来给机器看张图片&＃xff0c;它会知道说最左边是长门&＃xff0c;中间是凉宫春日&＃xff0c;右边是宝玖瑠。然后机器要把这些东西标出来&＃xff0c;这也是一个structure learning问题。

强化学习

我们若将强化学习和监督学习进行比较时&＃xff0c;在监督学习中我们会告诉机器正确答案是什么。若现在我们要用监督学习的方法来训练一个聊天机器人&＃xff0c;你的训练方式会是&＃xff1a;你就告诉
机器&＃xff0c;现在使用者说了hello&＃xff0c;你就说hi&＃xff0c;现在使用者说了byebye &＃xff0c;你就说good bye。所以机器有一个人当他家教在他旁边手把手的教他每件事情&＃xff0c;这就是监督学习。
reinforcement learning是什么呢&＃xff1f;在reinforcement learning里面&＃xff0c;我们没有告诉机器正确的答案是什么&＃xff0c;机器所拥有的只有一个分数&＃xff0c;就是他做的好还是不好。若我们现在要用reinforcement learning方法来训练一个聊天机器人的话&＃xff0c;他训练的方法会是这样&＃xff1a;你就把机器发到线下&＃xff0c;让他的和面进来的客人对话&＃xff0c;然后想了半天以后呢&＃xff0c;最后仍旧勃然大怒把电话挂掉了。那机器就学到一件事情就是刚才做错了。但是他不知道哪边错了&＃xff0c;它就要回去自己想道理&＃xff0c;是一开始就不应该打招呼吗&＃xff1f;还是中间不应该在骂脏话了之类。它不知道&＃xff0c;也没有人告诉它哪里做的不好&＃xff0c;它要回去反省检讨哪一步做的不好。机器要在reinforcement learning的情况下学习&＃xff0c;机器是非常intelligence的。 reinforcement learning也是比较符合我们人类真正的学习的情景&＃xff0c;这是你在学校里面的学习老师会告诉你答案&＃xff0c;但在真实社会中没人回告诉你正确答案。你只知道你做得好还是做得不好&＃xff0c;如果机器可以做到
reinforcement learning&＃xff0c;那确实是比较intelligence。

若我们用Alpha Go当做例子时&＃xff0c;supervised learning就是告诉机器&＃xff1a;看到这个盘式你就下“5-5”&＃xff0c;看到这个盘式你就下“3-3”
reinforcement learning的意思是&＃xff1a;机器跟对手互下&＃xff0c;机器会不断的下棋&＃xff0c;最后赢了&＃xff0c;机器就会知道下的不错&＃xff0c;但是究竟是哪里可以使它赢&＃xff0c;它其实是不知道的。我们知道Alpha Go其实是用监督学习加上reinforcement learning去学习的。先用棋谱做监督学习&＃xff0c;然后在做reinforcement learning&＃xff0c;但是reinforcement learning需要一个对手&＃xff0c;如果使用人当对手就会
很让费时间&＃xff0c;所以机器的对手是另外一个机器。

原文转载自&＃xff1a;https://datawhalechina.github.io/leeml-notes/#/chapter1/chapter1 感兴趣的小伙伴可以去自学