网络机器人吧社区

机器学习算法工程师必须掌握的七大技能

机器人网 2018-11-19 09:33:24

实话实说,目前大部分人上各种班来学习机器学习,学习大数据,归根到底还是希望能找到一个好的工作,拿到更高的薪水,当然还有一部分原因是自己对这一方面比较感兴趣,希望更深入的了解这个领域。

我个人觉得,第一个原因的因素更大。


首先,我们看看一个机器学习的系统长成什么样子




几乎所有的机器学习系统都是由上述系统图组成,不同的是监督型的系统训练数据可能需要人工干预而非监督型的系统不需要人工干预,简单来说就是给一批训练数据给这个机器学习模型进行学习,得到一个预测模型,然后用这个预测模型对新的未知数据进行预测。


现在网络上机器学习方面的文章,博客到处都是,市面上各种各样的书籍也到处都是,而且目前在线教育最火的领域也是这个,各种各样的机器学习的在线教育的班,学费还挺贵。


但是你发现没有,所有这些谈论的机器学习都是在谈论模型,什么《深入理解XXX模型》,《可能是最好的理解XXX的文章》,《机器学习并不难,XXXX模型详解》之类的文章和书遍地开花。各种介绍逻辑回归,深度学习,神经网络,SVM支持向量机,BP神经网络,卷积神经网络.....等等等等。


所以,我们在谈论机器学习的时候,实际上是在谈论机器学习的模型,也就是各种机器学习算法。而且大家都认为只要学会了模型和算法的理论,那就是机器学习的专家了。我相信大多数人都是这么认为的。


有个小朋友,是搞计算机的,叫小明,看了alphago虐李世石的视频,虽然他完全不懂围棋,但是他还是被震撼到了,决心要好好学习一下这个传说中的机器学习。于是到处在网上找教程,找博客文章,找书籍,好好的学了半年,终于觉得自己入门了。每个机器学习的模型算法都能说出个所以然来了。


不知道大家有多少在这个阶段?


但小明还想更进一步,于是开始研究各种模型的代码和工具了,hadoop和spark那是标配了,又是各种找文章,各种找书,各种在线学习班,还好这些东西一大把一大把的,特别现在的在线学习班,要是没有大数据处理班,没有hadoop班,那就别开了。


一路下来,大半年又过去了,终于小明觉得自己学会了,理论也有了,大数据处理工具也会了,简直无敌了!


又有多少人在这个阶段?并以为自己已经会机器学习了。到这个阶段,如果你学得好,那么你已经可以去开个学习班教别人机器学习了。但如果你以为这样就可以去找个公司做算法工程师了,那么告诉你,图样图森破,乃义五!


小明因为有较强的理论知识,能推导所有公式,又会hadoop,spark,再加上自己的表达能力强,很容易的秒了几个面试官进了一个大公司,是在一个电商做搜索的算法工程师,月薪很高,终于可以一展拳脚了,老板交给他一个任务,用你那牛逼的知识把搜索的点击率给我提升一个百分点吧。


如果你是小明,如果你刚从某个机器学习的学习班下来,你怎么弄?你是不是傻了?


机器学习不仅仅是模型


产生这个问题的原因就是所有人都以为机器学习的模型就是机器学习本身,以为对那些个算法理解了就是机器学习的大牛了,但实际上完全不是这样的。


模型是谁在玩呢?模型是科学家发明出来的, 是各个大公司的各个科学家研究员发明出来的,这个发明出来是会出论文的,是他们用来虐我们的智商的,一般情况下,你发明不了模型吧(如果可以,可以不要往下看了,你可以走学术那条路)?你修改不了模型吧?


所以说,学会了模型,只是刚刚刚刚入门,甚至还算不上入门吧


那各个公司的那么多算法工程师在干嘛呢?我们以一个搜索排序的算法工程师为例,他们在做甚呢?他们在


观察数据--->找特征--->设计算法--->算法验证--->洗数据--->工程化--->上线看效果--->goto 观察数据


而且一个成熟的系统中,一般模型已经大概确定了,如果效果不是特别不好不会换模型,比如一个公司的搜索排序系统用了机器学习的逻辑回归模型,你要改成别的模型一般不太可能,那么只能做一些特征上的补充。


好,我们通过这个流程来看看一个机器学习的算法工程师到底还要什么能力。


1 观察数据


小明每天就在工位上看数据,查数据,看表格,画曲线,发现像销量收藏点击等等这种能想到的特征早就被用了,就这么耗了三个月,没有任何进展,人都崩溃了,来了这么久,机器学习代码毛都没看到呢。


第四个月,他发现一点问题,他发现有些商品,评论什么的都挺好,感觉产品质量也不错,但就是销量上不去,所以老排后面,于是,他把这些评论都是五星,但是销量比较差的商品滤出来了,想看看他们有什么共性。


观察数据阶段,你说要什么能力?呵呵,只能告诉你,需要数据敏感性,其实也就是告诉你需要全面的能力,需要经验,需要产品经理的能力。


除了这些,你还需要能随手编脚本代码的能力,遇到有些数据需要初步处理,可能需要随手编代码处理,而且编的要快,因为这些代码可能就用一两次就不用了,所以需要比较强大的脚本语言能力,那么python至少要熟悉吧,shell要会吧。


2 找特征


数据观察下来发现了问题,现在要找特征了,要找特征,也就是找什么因素导致销量上不去的,首先,需要想象力,然后去验证你的想象力。

小明的想象力爆棚,即便这样,也搞了一个月才发现这些个商品有个共同特征,那就是图片都比较烂,让人一看就不想点。卧槽,要是能把图片质量加入到排序因素里面的话,是不是有奇效呢?图片质量作为特征,这之前可没人做过,终于找到一个特征了。


所以在这一阶段,毕竟大家的想象力都是有限的,更多的是经验值,才能找到符合当前场景的特征。


3 设计算法


特征是找到了,但怎么把这个特征加到排序模型里面去呢?图片好不好,有多好,这些机器怎么理解呢?如果不能把图片质量变成一个数学上的向量,那永远都无法加入到排序模型里面去。


这一阶段是真正考验算法工程师的地方了,那就是将特征向量化,小明观察到越好看的图像往往颜色变化更多,而质量差的图片往往颜色没什么变化,于是他想到一种办法,先把图像数据进行傅里叶变换,变成频域的数据,根据傅里叶变换的性质,高频部分的幅度高表示图像的颜色变化很明显,如果低频部分高,表示颜色变化不明显,这和观察到的图像信息基本能匹配上,这样一副图像的好坏,就可以用傅里叶变换后高频部分的幅度表示了,然后在做一些归一化的变化,就把图像向量化了,向量化以后就可以加入到排序模型去了。


这一步,你可能会用到你学习的机器学习模型,但肯定只占了一小部分,大部分情况需要你根据当前场景自己建立一个数学模型,而不是机器学习模型,你说这一阶段需要什么技能?虽然我这里举的例子比较极端,但是数学抽象能力,数学建模能力和数学工具的熟练使用是必不可少的,并且同样需要较强的编程能力,这已不是上一步的脚本能力,是实打实的计算机算法编程能力了。


4 算法验证


算法是设计好了,还要设计一个算法的离线验证方法来证明给你的老大看说我的算法是有效果的,不然哪那么多机会让你到线上去试啊,这一步也是各种综合能力的组合,关键是在这一步上,你要用一种通俗的语言从理论上说服你的老大,这是一种什么能力?强大的语言表达能力。


除了这个你还需要设计出一个上线以后的AB测试方案,能够很好的测试出你的算法是否真的有效。

5 洗数据

特征找到了,算法也设计得差不多能体现特征了,体力活来了,那就是洗数据,这是算法工程师的必修课,数据不是你想要什么样子他就长得什么样子的,所以要把数据变成你想要的样子,然后去掉无效的数据可是个体力活。


像上面这个例子,首先可能大家的图片大小都不一样,要变成一个尺寸才好进行变换,有些商品有多个图片,可能需要找出质量最好的再处理等等等等。


这一阶段首先也是要脚本语言处理能力,而且还需要掌握一些数据处理工具的使用,关键还要有足够的耐性和信心,当然,必不可少的是优秀的编程能力。


6 工程化


好了,前面的坑你全跨过来了,到了这一步了,呵呵,算法设计完了,数据也准备好了,估计半年过去了,那赶快放到线上去吧,你以为拿着一堆脚本就能上线了啊,得考虑工程化了,如果把你的算法嵌入到原有系统中,如果保证你的算法的效率,别一跑跑一天,代码的健壮性也要考虑啊,如果是在线算法,还得考虑性能,别把内存干没了。


这一步,你才真正的用上了你上面学的机器学习的hadoop,spark工具,看了上面说的,要完成工程化这一步,得有什么能力不用我说了吧,这是一个标准的软件开发工程师的必要技能,还是高级开发工程师哦。


7 上线看效果


所有的都做完了,前前后后10个月了,终于可以上线了,好了,真正的考验来了,看看上线的效果呗,产品经理说,做个AB测试吧,结果呵呵了,点击率降低了,小明啊!这10个月忙活下来点击率还下降了???老板还不把你骂死,所以,你必须有强大的抗打击能力。


呵呵,赶快下线吧,从头看看哪里出了问题,又花了一个月修改了算法,重新上线,恩,这次不错,点击率提高了0.2个百分点,继续努力吧,看看还有没有什么可以挖掘的,于是,你就goto到了看数据的那一步。


别看这0.2,大的数据集合下,提高0.2已经是非常不错的提高了,所以花这么多钱,养算法工程师,要是一年能出几次0.2,那就是真值了。


上面这么多的过程,靠一个人全部完成确实有点困难,我说的有点夸张,中间有些步骤是有人配合的,观察数据的时候有产品经理配合你,洗数据的时候有数据工程师配合你,工程化的时候有系统工程师配合你,但是作为机器学习的算法工程师,整个过程你都得能hold得住啊,所以即便是你一个人应该也要能完成整个流程才行。


这只是一个标准的算法工程师应该具备的能力,当然我这里是以搜索算法举例的,其他的算法工程师也差不太多,总跑不过上面几个过程,当然,你要是牛人,能根据场景修改这个机器学习的模型,甚至自己能想个模型,那就更厉害了。


好,我们把上面的重点标记的部分取出来汇总一下,让我们看看一个算法工程师需要具备哪些技能


数据敏感性,观察力

数学抽象能力,数学建模能力和数学工具的熟练使用的能力

能随手编脚本代码的能力,强大的计算机算法编程能力,高级开发工程师的素质

想象力,耐性和信心,较强的语言表达能力,抗打击能力

然后,还有很关键的一点,你需要很聪明,当然,你如果能做到以上那么几点,基本上也会很聪明了,如果真能做到这样,反而那些机器学习的模型,理论和工具就显得不那么重要了,因为那些也只是知识和工具,随时都可以学嘛。


你说,这些是靠看几篇博客,看几本书,上几次课就能具备的么??

当然,我们这里讨论的是一般情况,如果你一心就是做研究的话,那么需要把上述技能熟练度再提高一个量级。


国内外网站
如果你想搜索比较新颖的机器学习资料或是文章,可以到以下网站中搜索,里面不仅包括了机器学习的内容,还有许多其它相关领域内容,如数据科学和云计算等。
InfoWord: http://www.infoworld.com/reviews/
Kdnuggets:http://www.kdnuggets.com
Datasciencecentral:http://www.datasciencecentral.com/
Datascienceplus:http://datascienceplus.com
   数据分析网: http://www.afenxi.com/


数据科学竞赛
关于 数据分析的竞赛,国内国外都有,下面推荐几个比较火的竞赛网站 :
Kaggle 比赛,网址: https://www.kaggle.com/
DataCastle 比赛,网站:http://www.pkbigdata.com/
阿里大数据竞赛,目前没有消息了,2015 年有个【2015 天池大数据竞赛】

ML 相关算法参考
决策树 - 参考: decision Tree(Python 实现)

http://blog.csdn.net/dream_angel_z/article/details/45965463


SVM 支持向量机 - 参考:pluskid 支持向量机三重境界

http://blog.pluskid.org/?page_id=683


Adaboost - 参考: 组合算法 - Adaboost

http://blog.csdn.net/huruzun/article/details/41323065


Random Forest - 参考: 随机森林算法

http://www.cnblogs.com/wentingtu/archive/2011/12/22/2297405.html


朴素贝叶斯算法 - 参考: Naive Bayes 算法实现

http://blog.csdn.net/dream_angel_z/article/details/46120867


人工神经网络 - 参考: http://www.cnblogs.com/luxiaoxun/archive/2012/12/10/2811309.html


Apriori 算法 - 参考地址: Apriori 关联分析

http://www.csuldw.com/2015/06/04/2015-06-04-Apriori/


K 最近邻算法 - 参考:KNN 从原理到实现

http://blog.csdn.net/dream_angel_z/article/details/45896449


梯度树提升 GTB 算法 - 参考: Gradient Tree Boosting(或 GBRT)

http://blog.csdn.net/dream_angel_z/article/details/48085889


K-means 聚类 - 参考:K-means cluster

http://blog.csdn.net/dream_angel_z/article/details/46343597


组合算法总结 - 参考:Ensemble 算法总结

http://www.csuldw.com/2015/07/22/2015-07-22%20%20ensemble/


EM 期望最大算法 - 参考:EM 算法

http://blog.csdn.net/zouxy09/article/details/8537620


Logistic 回归 - 参考:逻辑回归

http://blog.csdn.net/wangran51/article/details/8892923


HMM 隐马尔可夫模型,参考:HMM

http://blog.csdn.net/likelet/article/details/7056068


条件随机场,参考:CRF

http://www.tanghuangwhu.com/archives/162


随机森林和 GBDT,参考:决策树模型组合之随机森林与 GBDT

http://www.cnblogs.com/LeftNotEasy/archive/2011/03/07/1976562.html


特征选择和特征提取,参考:特征提取与特征选择

http://blog.csdn.net/lanbing510/article/details/40488787


梯度下降法,参考:gradient descent

http://blog.csdn.net/woxincd/article/details/7040944


牛顿法,参考:牛顿法

http://blog.csdn.net/luoleicn/article/details/6527049


线性判别分析,参考:线性判别

http://www.cnblogs.com/jerrylead/archive/2011/04/21/2024384.html


深度学习 -  深度学习概述:从感知机到深度网络

http://www.cnblogs.com/xiaowanyer/p/3701944.html


文章来源:吴YH坚


更多机器人、无人机/、AI技术资料(查看左下角阅读原文)


Copyright © 网络机器人吧社区@2017