andrew ng机器学习中核函数一般形式的维度为什么是(n+d,d)的组合?_吴恩达为什么会抛弃百度?


- #问答
  • 1、 andrew ng机器学习中核函数一般形式的维度为什么是(n+d,d)的组合?

    假设原始特征x和z都是n维的,核函数K(x,z)=(x.T*z+d)^2=sum(xixj)(zizj)+sum(sqrt(2d)*xi)(sqrt(2d)*zi)+d^2对应的映射后特征维度为(n+d,d)。由此我们可以只计算x和z内积的平方加上其他项,就等价于计算映射后特征的内积,时间复杂度大大降低。

  • 2、 吴恩达为什么会抛弃百度?

    百度首席科学家吴恩达(AndrewNg)要离职啦!一时间,整个人工智能、大数据圈都炸锅了。那么,干的好好的,吴恩达为什么要离职呢?是因为大老板李彦宏吗?是因为刚上任的百度二号人物陆奇吗?他接下来又会去哪呢?



    3月22日,吴恩达突然说自己要离职了!嗯,是的,就是那位带着植入“百度大脑”的人工智能机器人“小度”,上过江苏卫视《最强大脑》的百度首席科学家吴恩达(AndrewNg),他在英文自媒体平台Medium、新浪微博、Twitter等个人社交媒体上发布了公开信,宣布自己将从百度离职。一时间,整个人工智能、大数据圈都炸锅了,笔者打开自己的微信朋友圈,同样已被刷屏。



    1976年出生于英国伦敦的吴恩达是华裔美国人,1997年获得了卡内基梅隆大学计算机科学学士学位,之后在1998年又获得了麻省理工学院硕士学位,并于2002年获得加州大学伯克利分校的博士学位,在同一年还担任了斯坦福大学计算机科学系和电子工程系副教授、人工智能实验室主任。

    除此之外,吴恩达还担任过在线教育平台Coursera的联合创始人。在2014年5月入职百度前,吴恩达供职于谷歌开发团队XLab,被誉为“谷歌大脑”之父。曾创建并领导了谷歌深度学习团队,用1000台计算机,16000个芯片组成的“神经网络”,学习了数百万张猫的照片后,让机器学会了识别一只猫,在全球技术圈引起巨大轰动。

    吴恩达可谓是世界最权威的人工智能、机器学习领域的学者型专家之一。

    查看原图

    Google猫脸识别与吴恩达

    如此辉煌的履历对于很多机构来说都是“得之我幸”,百度也非常惜才,被挖来中国后的吴恩达负责百度研究院及BaiduBrain(百度大脑)计划的工作,也是百度人工智能战略首席架构师,并直接汇报工作给百度创始人、董事长兼CEO李彦宏。

    而百度重视技术的口碑人尽皆知,有人统计,光2016年的公开场合,李彦宏就提了513次人工智能,同吴恩达一样也现身《最强大脑》的电视节目现场,为自家的“人工智能技术”站台,重视程度可想而知。

    那为何入职百度不到三年就要离开呢?虽然在吴恩达的离职公开信中,一直盛赞百度公司、同事以及老板李彦宏,可为什么还是要走呢?(吴恩达夸了百度人工智能半天,为什么还离职?)

    李彦宏是好老板吗?

    “创始人是公司最大的发展瓶颈”,百度这家中国互联网巨头或许情况也类似!

    早在2012年,李彦宏就在公司内网上发布了一封以“改变,从你我开始”为标题的公开信,首次提出“狼性文化”,要脱胎换骨,鼓励狼性、淘汰小资。此后,百度就被网民调侃为“狼厂”,而李彦宏也被戏称为“狼厂厂长”。

    但即便是这样,技术出生、不善于社交、腼腆害羞,与“狼性文化”看似截然相反的李厂长还是被部分人士打上“无能”的标签。

    百度至2005年登陆美国纳斯达克资本市场以来,就一直麻烦不断。从最早搜索竞价模式遭质疑、MP3音乐下载业务被诉讼、百度文库盗版问题,一直到近两年的莆田系事件、魏则西事件,似乎BAT中的百度跟其他两大巨头不太一样,一直给人以麻烦缠身的负面印像。

    树大招风,企业大了免不了会遇到各种糟心事情,这都很正常!但这些麻烦事过后的最终处理结果却似乎没有让外界满意,反而不明白“祸首”李彦宏为什么总是能摆出“我也是受害者”的姿态,一副“都是下面高管责任”的样子,好像李彦宏真的换换负责人,组织架构变一变就能解决百度的混乱问题。

    但其实,百度一直以来都是李彦宏的一言堂。

    这样的方式跟姿态让多位百度现任员工觉得“李彦宏的沉默式管理让我感到莫名的紧张、害怕”,百度早期员工,历任总裁助理、市场总监等职务的毕胜(现必要商城CEO)也回忆:“我在百度期间,李彦宏都比较少管我。他是个特别不爱表达的人,什么事儿你自己做主。你做对了他也不说,你做错了他给你记上一笔,攒一段时间爆发一下,这么个人。给他当手下心理压力很大,你做事情只能对不能错”。

    那么,吴恩达害怕了吗?他能适应这样的老板吗?“无能又沉默”的技术男,狼厂厂长李彦宏可是他的直接汇报上级。

    陆奇是挡路者吗?

    2017年1月17日,百度宣布陆奇加盟,任集团总裁、COO、董事及董事会副主席,主要负责产品、技术、销售、市场运营工作,并直接向李彦宏汇报,百度原有的所有业务群组及负责人向陆奇汇报工作,包括之前直接向李彦宏汇报工作的吴恩达。相当于陆奇的到来,让所有百度人降了一级。

    在加入百度前,陆奇担任微软全球执行副总裁,直接向CEO纳德拉汇报,被认为是美国科技行业有史以来真正职位最高的华人。微软前CEO鲍尔默也曾评价陆奇是“集资深专业技术知识、出色领导能力和广泛商业知识于一身的人,在业界是非常罕见的奇才”。

    陆奇的履历同样辉煌,不输吴恩达,在担任微软网络集团总裁期间,执掌过5000人的技术团队,不但负责搜索、网络广告、网络信息等互联网业务,还领导了Office、Office365、Skype、Bing、Yammer等业务的研发工作,拥有很强的技术实力以及管理能力。

    陆奇入职百度后的短短2个月时间里,大刀阔斧地进行改革,成立度秘事业部、合并自动驾驶部门、收购渡鸦科技、投资蔚来汽车等,一系列“火”可谓烧的干净利落,让很多人眼花缭乱,甚至让内部人措不及防。

    如果吴恩达属于学者型学术派人才,那陆奇则就属于管理型实干派强人。

    对于吴恩达这样全球顶级的学院派人才来说,钱没给到位似乎有点说不过去;从上图来看似乎又有些眉目,难道真的是陆奇挡住了吴恩达的晋升之路,一身才华无处施展吗?

    吴恩达要去哪里?

    在吴恩达的公开离职信中并没有透露具体去向,只提到未来还将在人工智能领域开启自己的新篇章。但面对这样有点“公关式”的离职文,不少业内人士仍在猜测他接下来的去向。

    猜测一:找老婆

    吴恩达的妻子罗尔·莱利(CarolReiley)是创立于2015年,坐落在加州山景城的创业公司Drive.ai总裁,之前曾就职于著有“全球最大军火商”之称的洛克希德马丁公司

    Drive.aiCEOSameepTandon来自斯坦福大学人工智能实验室;

    Drive.aiCOOFredRosenzweig曾在硅谷多家初创公司担任CEO,也是EFI公司的总裁之一;

    团队很强的说!

    Drive.ai主要是利用深度学习来研发无人驾驶技术,至成立以来,已经获得了1200万美元融资,投资机构包括InnoSpringSeedFund、NorthernLightVentureCapital、OrizaVentures。

    似乎CTO、首席科学家这样的位置还空缺,“老公,你快来吧”。当然,也不排除吴恩达重返美国的其他知名科技公司。

    猜测二:找朋友

    早在2013年3月吴恩达到访北京的时候,时任百度深度学习研究院(IDL)常务副院长的余凯(李彦宏时任院长)就向吴恩达抛出橄榄枝。随后,在美国加州帕罗奥图市喜来登酒店,余凯回忆称:“在一次早餐加一次晚餐,外加李彦宏的一次午餐助攻下,吴恩达终于答应加盟百度”。可以说,余凯是吴恩达加盟百度的伯乐。

    在吴恩达加入百度后的刚好第二年,也就是2015年5月,余凯宣布从百度离职,随后在7月创立地平线机器人公司并担任CEO一职(数据猿专访地平线机器人创始人兼CEO余凯);

    地平线机器人创始人兼软件副总裁杨铭毕业于清华大学电子工程系,获得工学学士和硕士学位,也获得了美国西北大学电气工程与计算机科学系博士学位,是Facebook人工智能研究院创始成员之一;

    地平线机器人联合创始人兼算法副总裁黄畅毕业于清华大学计算机科学与技术系获博士学位,曾在美国南加州大学和NEC美国研究院担任研究员,2012年加入百度美国研发中心,2013年参与组建百度深度学习研究院(IDL)任高级科学家、主任研发架构师;

    地平线机器人联合创始人&硬件副总裁方懿毕业于电子科技大学电子工程系……

  • 3、 深度学习是什么?

    深度学习(DeepLearning)的本质就是通过数学模型,对真实世界中的特定问题进行建模,用以解决该领域的相似问题的解决过程,换句话说就是当下人们利用大量产生数据喂给计算机,使得计算机可以解决相似场景下问题的过程。

    深度学习就是一个黑盒,在给定输入以后,模型自动给出输出。在各种各样的竞赛中,深度学习的成绩都异常耀眼。当然,深度学习模型也有一定的缺点,就是过于依赖大规模语料以及GPU算力,目前这方面的研究也有很多团队在做,终有一天会克服。

    按照目前的速度来看,深度学习给的工资相对较高,目前腾讯、阿里、京东等等大厂都需要深度学习相关从事人员,方向没错,好好学就行。

  • 4、 深度学习技术具体怎么理解?

    现在深度学习在机器学习领域是一个很热的概念,不过经过各种媒体的转载播报,这个概念也逐渐变得有些神话的感觉:例如,人们可能认为,深度学习是一种能够模拟出人脑的神经结构的机器学习方式,从而能够让计算机具有人一样的智慧;而这样一种技术在将来无疑是前景无限的。那么深度学习本质上又是一种什么样的技术呢?

    深度学习是什么

    深度学习是机器学习领域中对模式(声音、图像等等)进行建模的一种方法,它也是一种基于统计的概率模型。在对各种模式进行建模之后,便可以对各种模式进行识别了,例如待建模的模式是声音的话,那么这种识别便可以理解为语音识别。而类比来理解,如果说将机器学习算法类比为排序算法,那么深度学习算法便是众多排序算法当中的一种(例如冒泡排序),这种算法在某些应用场景中,会具有一定的优势。

    深度学习的“深度”体现在哪里

    论及深度学习中的“深度”一词,人们从感性上可能会认为,深度学习相对于传统的机器学习算法,能够做更多的事情,是一种更为“高深”的算法。而事实可能并非我们想象的那样,因为从算法输入输出的角度考虑,深度学习算法与传统的有监督机器学习算法的输入输出都是类似的,无论是最简单的LogisticRegression,还是到后来的SVM、boosting等算法,它们能够做的事情都是类似的。正如无论使用什么样的排序算法,它们的输入和预期的输出都是类似的,区别在于各种算法在不同环境下的性能不同。

    那么深度学习的“深度”本质上又指的是什么呢?深度学习的学名又叫深层神经网络(DeepNeuralNetworks),是从很久以前的人工神经网络(ArtificialNeuralNetworks)模型发展而来。这种模型一般采用计算机科学中的图模型来直观的表达,而深度学习的“深度”便指的是图模型的层数以及每一层的节点数量,相对于之前的神经网络而言,有了很大程度的提升。

    深度学习也有许多种不同的实现形式,根据解决问题、应用领域甚至论文作者取名创意的不同,它也有不同的名字:例如卷积神经网络(ConvolutionalNeuralNetworks)、深度置信网络(DeepBeliefNetworks)、受限玻尔兹曼机(RestrictedBoltzmannMachines)、深度玻尔兹曼机(DeepBoltzmannMachines)、递归自动编码器(RecursiveAutoencoders)、深度表达(DeepRepresentation)等等。不过究其本质来讲,都是类似的深度神经网络模型。

    既然深度学习这样一种神经网络模型在以前就出现过了,为什么在经历过一次没落之后,到现在又重新进入人们的视线当中了呢?这是因为在十几年前的硬件条件下,对高层次多节点神经网络的建模,时间复杂度(可能以年为单位)几乎是无法接受的。在很多应用当中,实际用到的是一些深度较浅的网络,虽然这种模型在这些应用当中,取得了非常好的效果(甚至是thestateofart),但由于这种时间上的不可接受性,限制了其在实际应用的推广。而到了现在,计算机硬件的水平与之前已经不能同日而语,因此神经网络这样一种模型便又进入了人们的视线当中。

    “2012年6月,《纽约时报》披露了GoogleBrain项目,吸引了公众的广泛关注。这个项目是由著名的斯坦福大学机器学习教授AndrewNg和在大规模计算机系统方面的世界顶尖专家JeffDean共同主导,用16000个CPUCore的并行计算平台训练一种称为“深层神经网络”(DNN,DeepNeuralNetworks)”

    从GoogleBrain这个项目中我们可以看到,神经网络这种模型对于计算量的要求是极其巨大的,为了保证算法实时性,需要使用大量的CPU来进行并行计算。

    当然,深度学习现在备受关注的另外一个原因,当然是因为在某些场景下,这种算法模式识别的精度,超过了绝大多数目前已有的算法。而在最近,深度学习的提出者修改了其实现代码的Bug之后,这种模型识别精度又有了很大的提升。这些因素共同引起了深层神经网络模型,或者说深度学习这样一个概念的新的热潮。

    深度学习的优点

    为了进行某种模式的识别,通常的做法首先是以某种方式,提取这个模式中的特征。这个特征的提取方式有时候是人工设计或指定的,有时候是在给定相对较多数据的前提下,由计算机自己总结出来的。深度学习提出了一种让计算机自动学习出模式特征的方法,并将特征学习融入到了建立模型的过程中,从而减少了人为设计特征造成的不完备性。而目前以深度学习为核心的某些机器学习应用,在满足特定条件的应用场景下,已经达到了超越现有算法的识别或分类性能。

    深度学习的缺点

    深度学习虽然能够自动的学习模式的特征,并可以达到很好的识别精度,但这种算法工作的前提是,使用者能够提供“相当大”量级的数据。也就是说在只能提供有限数据量的应用场景下,深度学习算法便不能够对数据的规律进行无偏差的估计了,因此在识别效果上可能不如一些已有的简单算法。另外,由于深度学习中,图模型的复杂化导致了这个算法的时间复杂度急剧提升,为了保证算法的实时性,需要更高的并行编程技巧以及更好更多的硬件支持。所以,目前也只有一些经济实力比较强大的科研机构或企业,才能够用深度学习算法,来做一些比较前沿而又实用的应用。

  • 5、 首席科学家吴恩达离职,百度高层持续震荡将带来哪些影响?

    我们还是先来看三条新闻吧:

    2017年1月23日,小米公司副总裁雨果·巴拉在社交媒体上宣布,由于健康问题,他决定从小米离职,未来将回到硅谷。此前,2013年8月,雨果·巴拉加盟小米,担任副总裁,负责小米国际化业务。

    2017年3月20日,乐视汽车联合创始人、全球副董事长、中国及亚太区CEO丁磊微博发布声明,由于健康问题,确认离职乐视。此前,2015年9月,贾跃亭宣布原上海通用汽车总经理丁磊正式加盟乐视超级汽车。

    2017年3月22日,百度首席科学家吴恩达(AndrewNg)在微博、Twitter等多个社交平台发布公开信,宣布自己将从百度离职。此前,2014年5月中旬,吴恩达离开谷歌,出任百度首席科学家职务,负责百度深度学习研究院工作,尤其是百度大脑计划。

    2017年1季度互联网行业罕见的出现了三起“超级明星”离职事件,不管是小米的雨果还是乐视的丁磊,乃至百度的吴恩达,这些人早在多年前就已经是行业闻名的顶级大牛,在各自领域都是权威人物。无独有偶,这三位大牛加入这三家公司,所负责的部门都是这几家巨头未来最核心拓展的方向,百度人工智能、小米国际化、乐视超级汽车。

    于是乎,在这几起高管离职事件发生后,业界有人表示这三家企业“不行了”,连高管都离职了,说明了不认可企业发展方向,这些企业未来前景堪忧啊!

    这几天也有很多人和我讨论此事,我的看法完全不同,主要有三:

    ①纵观联想、华为、阿里、腾讯、京东等所有优秀的企业,无一不经历了高管离职等等磨难,一帆风顺就想获得成功的企业几乎没有,除非是两桶油这种垄断型企业。事实上,我们讲人体需要新陈代谢,企业也需要自上而下的新陈代谢,只有不断的更迭,才能永葆生机。

    ②每个人都有选择自己职业去留的权利,高管和一线员工都是如此!在未来成熟的商业社会,企业的高管轮替和进入、离职都会更加的频繁,甚至形成一种机制。我们不应该拿一些高管的身体原因或者职业追求改变,但判断一家企业的未来如何如何。

    ③企业真正害怕的不是高管离职,而是战略、制度等方面出现偏差,和实际能力脱轨。在当下的中国互联网时代,由于现代化的管理和接班机制还没有健全,一般来说竞争力强的企业只要董事长或者一把手不离职或者因为其他原因无法工作,企业都会保持战略节奏的稳步推进。而到了未来,健康的管理机制确定后,CEO和董事长这样的高管去职与否也不会影响到企业的发展。

    写在最后:总之,没必要过分妖魔化互联网行业的高管离职!我们有精力对小米、乐视、百度等企业落井下石,还不如先提升自我,先让自己强大起来。

Related Content: