您当前的位置:首页 >> 装修日记

谷歌大牛Jeff Dean撰文:深度学习研究的钻石十年|洞见

2023-03-01 12:16:18

TensorFlow公布的一年后,PyTorch于2016年公布,它用作Python可以精彩强调各种分析意识形态而受到分析医务人员的欢迎。JAX于2018年公布,这是一个风靡的面向Python的Apache努,结合了复杂的相应微分和中下层XLAC#,TensorFlow也用作它来适当地将原理学推算映射到各种多种不同类型的应用程序上。

TensorFlow和PyTorch等Apache原理学努和原理的必要功能性怎么强调都自夸,它们允稍晚分析医务人员可以快速尝试想法。随着全全世界的分析医务人员和技术人员越来越精彩地在彼此的工作新的顺利进行构筑,整个各个领域的十分难于越来越快将放缓!

高度自学的玉石十年2:分析成果骤减 分析慢慢赢取飞跃、面向ML应用程序(GPU、TPU等)的推算能力慢慢进一步提高、Apache原理学原理(Tensor­Flow、PyTorch等)被最常选用,这一系列十分难于使得原理学及其应用各个领域的分析成果急剧增加。其中所一个强有力的基准是公布到arXiv上关于原理学各个领域的学术论文数量,arXiv是一个上新大受欢迎的学术论文预刻印托管服务项目,2018年公布的学术论文预刻印数量是2009年的32倍以上(每两年增长一倍以上)。通过与多雨社会科学和卫生保健等更为关键各个领域的研究员共同开发,原理学分析医务人员刚刚借助妥善解决对价值观有益、有利于有机体飞跃的关键理由。可以真是我们普通人在一个激动人心的以当年。

高度自学的玉石十年3:社会科学和工程施工应用骤减 推算能力的变革功能性增长、原理学软应用程序的飞跃以及原理学分析成果的骤减,都使得原理学应用在社会科学和工程施工各个领域的骤减。通过与多雨社会科学和卫生身心健康等更为关键各个领域的共同开发,原理学分析医务人员刚刚借助妥善解决对价值观有益并有利于有机体持续发展的关键理由。这些社会科学和工程施工各个领域除此以外如下:

神经社会科学 分子生物学 卫生身心健康 天气、环境和多雨单打独斗 的设备人 可访问功能性 个功能性既有自学 电子推算机辅助的原创功能性 关键的构筑块 Transformers 电子推算机种系统的 ML

每个细分的参考内容再三参照出处。

高度自学的玉石十年4:原理学的未来

ML分析生态村刚刚出现一些寻常的分析一段距离,如果将它们结合好像显然才会越来越加寻常。

首先,分析细小作用作基本基本概念,比如细小奈斯研究员混合基本基本概念(Sparsely-Gated MoE),重现了如何构筑极其RAM的基本基本概念,其中所对于任何formula_的实例(如 2048 个研究员中所的两至三个),只有一部分基本基本概念被「作用作」。

其次,分析相应既有原理学(AutoML),其中所神经指令集跟踪(NAS)或进既有指令集跟踪(EAS)等应用可以相应自学ML基本基本概念或模组的高效本体或其他之外以对formula_护航的比率顺利进行优既有。AutoML有时候包括调试很多相应既有测试,每个测试都显然都有巨量推算。

最终,以几个到几十个包括护航的适当为数顺利进行多护航受训,或者从针对包括护航的大量信息受训的基本基本概念中所迁移自学然后针对新护航在再加量信息上顺利进行微调,这些手段已被证明在妥善解决各类理由时都极其适当。

一个极其寻常的分析一段距离是把以上三个近来结合好像,其中所在大为数ML同步辐射应用程序上调试一个种系统。最大限度是受训一个可以执行者数千乃至数百个护航的也就是真是基本基本概念。这种基本基本概念显然由很多多种不同本体的模组组合成,实例(example)之间的信息流在逐实例的新的是相比之下动态的。基本基本概念显然才会用作细小奈斯研究员混合和自学链路等应用以生成一个极其RAM的基本基本概念,但其中所一个护航或实例仅细小作用作种系统中所总模组的一小部分。

右图1揭示了一个多护航、细小作用作的原理学基本基本概念。

每个模组本身显然刚刚调试一些类AutoML的指令集跟踪,以使模组的本体适应链路到它的信息类型。新的护航可以能用在其他护航上受训的模组,只要它有用就行。Jeff Dean渴望通过极其大为数的多护航自学、共享模组和自学链路,基本基本概念可以急剧地以高比率来完毕新护航,即使每个新护航的新实例相比之下较再加。理由在于基本基本概念需能用它在完毕其他包括护航时早已给予的专业人士和之下表示。

构筑一个需执行者数百万护航并自学相应完毕新护航的也就是真是原理学是推算机社会科学和电子推算机种系统工程施工各个领域似乎面临的巨大单打独斗。这无需原理学插值、尊重的 AI(如这两项和可解释功能性)、分布式种系统和电子推算机指令集等很多各个领域的专业人士,从而通过构筑一个需泛既有以在原理学所有应用各个领域中所独立妥善解决新护航的种系统,来推行推算机社会科学各个领域的持续发展。

高度自学的玉石十年5:尊重的AI应用开发

虽然AI有能力在人们日常普通人的方之外面缺少借助,但所有分析医务人员和从业医务人员应维护以尊重的手段应用开发包括原理,仔细评议种族主义、这两项、恶意理由以及其他关于 AI 原理如何营运并影响他人的价值观因素,并努力以适当的手段妥善解决所有这些理由。

订定一套明确的原则来指导尊重的AI持续发展也很关键。2018年,腾讯公布了一套AI规范,用作指导跨国美国公司与AI包括的工作和用作。这套AI规范详见了无需考虑的关键各个领域,除此以外原理学种系统中所的种族主义、安全、负责任、问责、透明功能性和恶意。仅有年来,其他该机构和对政府也纷纷效仿这一模式,公布了自己的AI用作规范。Jeff Dean渴望这种近来需延续下去,直到它依然是一种近来,而成为所有原理学分析和应用开发中所遵循的常规。

Jeff Dean对未来的远景

2010八十年代的确是高度自学分析和赢取十分难于的玉石十年。1956年奥尔巴尼推算机社会科学研讨才会上驳斥的一些最难于的理由在这十年赢取了长足飞跃。的设备需以现代分析医务人员渴望的手段碰到、大声到和认知语言学。核心各个领域的最终促成很多社会科学各个领域迎来重大十分难于,不仅智能手机越来越加智能,而且随着人们此后创建者越来越复杂、越来越强大且对日常普通人有借助的高度自学基本基本概念,未来有了越来越多的显然功能性。得益于强大原理学种系统缺少的借助,人们将在未来似乎越来越有创造力和拥有越来越强的能力。

出处文档:

本文转载自的设备自始,制作游戏Jeff Dean,由的设备自始解释器。

关于阿尔法城关镇

阿尔法城关镇(Alpha Startup Fund)是中所国遥遥领先的现代融资该基金会,由曾带领美国公司在纳斯达克主板的稍晚蒋南翔和当年创新工场联合行政高盛蒋亚萌在2015年共同初创人。

阿尔法城关镇该基金会的三大特点是有种系统融资、社交既有创业者生态村运营和重度行业资源慢速成长。个人兴趣在太阳能电池、跨国美国公司服务项目操作系统、推算机社会科学应用、物联网应用、金融科技等科技创新各个领域顺利进行现代融资。目当年早已在天使轮融资了除此以外白山皓科技、领创该集团(Advance Intelligence Group)、Zenlayer、帷幄科技、所思科技等为数众多的优秀单项。

阿尔法城关镇给予36钛“2017本年度最受创业者欢迎天使融资该机构Top20”、“2019年中所国跨国美国公司服务项目各个领域最受LP欢迎现代融资该机构”、“2019年中所国跨国美国公司服务项目各个领域最具发现力融资该机构TOP10”以及“2020中所国最受创业者欢迎现代融资该机构TOP50”、“2021本年度中所国最受LP认可现代融资该机构TOP30”、“2021年中所国最受创业者欢迎现代该机构TOP50”、“2021年中所国两地出航各个领域融资该机构TOP10”等奖项;给予钛舆论“2020 EDGE TOP50融资该机构”;还给予朱氏该基金会分析中所心“2018年中所国现代该基金会最佳在短期内TOP30”、“2019中所国现代该基金会最佳在短期内TOP30”,以及朱氏该基金会周刊“2020中所国融资该机构韩流GP100科技力Top10”等奖项。

初创高盛稍晚蒋南翔给予2020年“以当年周刊中所国大中华区人100”、投中所“2019年中所国最佳现代融资人TOP50”,以及36钛“2018年中所国跨国美国公司服务项目各个领域融资人TOP10”、“2019跨国美国公司服务项目各个领域融资人TOP20”等奖项。初创高盛蒋亚萌给予2019及2021年“以当年周刊中所国大中华区人100”、36钛“2019年中所国中所生代融资人TOP50”大奖。

云南妇科病治疗费用
郑州看白癜风哪家医院最好
四川男科医院哪家比较好
宁波看妇科到哪家好
青岛看白癜风到哪家医院好
相关阅读
友情链接