本月累计签到次数:

今天获取 积分

迁移学习

迁移学习

322 浏览

迁移学习的特别之处在哪?

IT软件类 上海明日之星科技有限公司 2017-04-26 13:41 发表了文章 来自相关话题

迁移学习的特别之处在哪?
当前,业界对机器学习的应用呈现二元化:

一方面,近年来我们获得了训练更多、更精确模型的能力。现在所处的是一个全新阶段:对于许多任务,最先进的模型的性能,已达到了一个此前梦寐以求的水平:如果把这些模型不计代价地推向市场,消费者将不会抱怨其核心能力。

尖端模型的性能已强到什么程度呢?

最新的残差网络(residual networks)已经能在 ImageNet 上取得超人类的水平;谷歌 Smart Reply 能自动处理 10% 的手机回复;语音识别错误率一直在降低,精确率已超过打字员;机器对皮肤癌的识别率以达到皮肤科医生的水平;谷歌 NMT 系统已经应用于谷歌翻译的产品端;百度 DeepVoice 已实现实时语音生成……

这个列表可以搞得很长。我要表达的意思是:这个水平的成熟度,已经让面向数百万用户的大规模模型部署变得可能。

但在另一方面,这些成功的模型对数据极度饥渴,需要海量标记数据来达到这样的效果。在某些任务领域,这样的数据资源是存在的——背后是多年的艰辛数据收集。而在个别情况下,数据是公共的,比如 ImageNet。但是大量的标记数据一般是专有的、有知识产权,亦或是收集起来极度昂贵,比如医疗、语音、MT 数据集。

同时,当机器学习模型被应用于现实情形,它会遇到无数的、此前未遭遇过的情况;也不知道该如何应付。每个客户、用户都有他们的偏好,会产生异于训练集的数据。模型需要处理许多与此前训练的任务目标相近、但不完全一样的任务。当今的尖端模型虽然在训练过的任务上有相当于人类或超人类的能力,但在这些情况下,性能会大打折扣甚至完全崩溃。

迁移学习是对付这些特殊情况的杀手锏。许多产品级的机器学习应用,需要进入标记数据稀缺的任务领域,对于这类商业应用,迁移学习无疑是必需的。 查看全部
迁移学习的特别之处在哪?
当前,业界对机器学习的应用呈现二元化:

一方面,近年来我们获得了训练更多、更精确模型的能力。现在所处的是一个全新阶段:对于许多任务,最先进的模型的性能,已达到了一个此前梦寐以求的水平:如果把这些模型不计代价地推向市场,消费者将不会抱怨其核心能力。

尖端模型的性能已强到什么程度呢?

最新的残差网络(residual networks)已经能在 ImageNet 上取得超人类的水平;谷歌 Smart Reply 能自动处理 10% 的手机回复;语音识别错误率一直在降低,精确率已超过打字员;机器对皮肤癌的识别率以达到皮肤科医生的水平;谷歌 NMT 系统已经应用于谷歌翻译的产品端;百度 DeepVoice 已实现实时语音生成……

这个列表可以搞得很长。我要表达的意思是:这个水平的成熟度,已经让面向数百万用户的大规模模型部署变得可能。

但在另一方面,这些成功的模型对数据极度饥渴,需要海量标记数据来达到这样的效果。在某些任务领域,这样的数据资源是存在的——背后是多年的艰辛数据收集。而在个别情况下,数据是公共的,比如 ImageNet。但是大量的标记数据一般是专有的、有知识产权,亦或是收集起来极度昂贵,比如医疗、语音、MT 数据集。

同时,当机器学习模型被应用于现实情形,它会遇到无数的、此前未遭遇过的情况;也不知道该如何应付。每个客户、用户都有他们的偏好,会产生异于训练集的数据。模型需要处理许多与此前训练的任务目标相近、但不完全一样的任务。当今的尖端模型虽然在训练过的任务上有相当于人类或超人类的能力,但在这些情况下,性能会大打折扣甚至完全崩溃。

迁移学习是对付这些特殊情况的杀手锏。许多产品级的机器学习应用,需要进入标记数据稀缺的任务领域,对于这类商业应用,迁移学习无疑是必需的。
431 浏览

斯坦福CS231n深度学习与计算机视觉课时16-迁移学习之物体定位与检测(上)

机械自动化类 密泰传动系统 2016-12-19 13:34 发表了文章 来自相关话题

◆ ◆ ◆

视频概览


在大数据文摘后台回复“斯坦福”,下载本期及过去五期课程完整版ppt。


















◆ ◆ ◆

原版PPT(部分)

大数据文摘后台回复“斯坦福”下载完整版PPT



































 

来源:大数据文摘
智造家

  查看全部
1.1_.jpg




◆ ◆ ◆

视频概览


在大数据文摘后台回复“斯坦福”,下载本期及过去五期课程完整版ppt。

1.3_.jpg


1.4_.jpg


1.5_.jpg




◆ ◆ ◆

原版PPT(部分)

大数据文摘后台回复“斯坦福”下载完整版PPT


1.6_.jpg


1.7_.jpg


1.8_.jpg


1.9_.jpg


1.10_.jpg


1.11_.jpg





 

来源:大数据文摘
智造家

 
322 浏览

迁移学习的特别之处在哪?

IT软件类 上海明日之星科技有限公司 2017-04-26 13:41 发表了文章 来自相关话题

迁移学习的特别之处在哪?
当前,业界对机器学习的应用呈现二元化:

一方面,近年来我们获得了训练更多、更精确模型的能力。现在所处的是一个全新阶段:对于许多任务,最先进的模型的性能,已达到了一个此前梦寐以求的水平:如果把这些模型不计代价地推向市场,消费者将不会抱怨其核心能力。

尖端模型的性能已强到什么程度呢?

最新的残差网络(residual networks)已经能在 ImageNet 上取得超人类的水平;谷歌 Smart Reply 能自动处理 10% 的手机回复;语音识别错误率一直在降低,精确率已超过打字员;机器对皮肤癌的识别率以达到皮肤科医生的水平;谷歌 NMT 系统已经应用于谷歌翻译的产品端;百度 DeepVoice 已实现实时语音生成……

这个列表可以搞得很长。我要表达的意思是:这个水平的成熟度,已经让面向数百万用户的大规模模型部署变得可能。

但在另一方面,这些成功的模型对数据极度饥渴,需要海量标记数据来达到这样的效果。在某些任务领域,这样的数据资源是存在的——背后是多年的艰辛数据收集。而在个别情况下,数据是公共的,比如 ImageNet。但是大量的标记数据一般是专有的、有知识产权,亦或是收集起来极度昂贵,比如医疗、语音、MT 数据集。

同时,当机器学习模型被应用于现实情形,它会遇到无数的、此前未遭遇过的情况;也不知道该如何应付。每个客户、用户都有他们的偏好,会产生异于训练集的数据。模型需要处理许多与此前训练的任务目标相近、但不完全一样的任务。当今的尖端模型虽然在训练过的任务上有相当于人类或超人类的能力,但在这些情况下,性能会大打折扣甚至完全崩溃。

迁移学习是对付这些特殊情况的杀手锏。许多产品级的机器学习应用,需要进入标记数据稀缺的任务领域,对于这类商业应用,迁移学习无疑是必需的。 查看全部
迁移学习的特别之处在哪?
当前,业界对机器学习的应用呈现二元化:

一方面,近年来我们获得了训练更多、更精确模型的能力。现在所处的是一个全新阶段:对于许多任务,最先进的模型的性能,已达到了一个此前梦寐以求的水平:如果把这些模型不计代价地推向市场,消费者将不会抱怨其核心能力。

尖端模型的性能已强到什么程度呢?

最新的残差网络(residual networks)已经能在 ImageNet 上取得超人类的水平;谷歌 Smart Reply 能自动处理 10% 的手机回复;语音识别错误率一直在降低,精确率已超过打字员;机器对皮肤癌的识别率以达到皮肤科医生的水平;谷歌 NMT 系统已经应用于谷歌翻译的产品端;百度 DeepVoice 已实现实时语音生成……

这个列表可以搞得很长。我要表达的意思是:这个水平的成熟度,已经让面向数百万用户的大规模模型部署变得可能。

但在另一方面,这些成功的模型对数据极度饥渴,需要海量标记数据来达到这样的效果。在某些任务领域,这样的数据资源是存在的——背后是多年的艰辛数据收集。而在个别情况下,数据是公共的,比如 ImageNet。但是大量的标记数据一般是专有的、有知识产权,亦或是收集起来极度昂贵,比如医疗、语音、MT 数据集。

同时,当机器学习模型被应用于现实情形,它会遇到无数的、此前未遭遇过的情况;也不知道该如何应付。每个客户、用户都有他们的偏好,会产生异于训练集的数据。模型需要处理许多与此前训练的任务目标相近、但不完全一样的任务。当今的尖端模型虽然在训练过的任务上有相当于人类或超人类的能力,但在这些情况下,性能会大打折扣甚至完全崩溃。

迁移学习是对付这些特殊情况的杀手锏。许多产品级的机器学习应用,需要进入标记数据稀缺的任务领域,对于这类商业应用,迁移学习无疑是必需的。
431 浏览

斯坦福CS231n深度学习与计算机视觉课时16-迁移学习之物体定位与检测(上)

机械自动化类 密泰传动系统 2016-12-19 13:34 发表了文章 来自相关话题

◆ ◆ ◆

视频概览


在大数据文摘后台回复“斯坦福”,下载本期及过去五期课程完整版ppt。


















◆ ◆ ◆

原版PPT(部分)

大数据文摘后台回复“斯坦福”下载完整版PPT



































 

来源:大数据文摘
智造家

  查看全部
1.1_.jpg




◆ ◆ ◆

视频概览


在大数据文摘后台回复“斯坦福”,下载本期及过去五期课程完整版ppt。

1.3_.jpg


1.4_.jpg


1.5_.jpg




◆ ◆ ◆

原版PPT(部分)

大数据文摘后台回复“斯坦福”下载完整版PPT


1.6_.jpg


1.7_.jpg


1.8_.jpg


1.9_.jpg


1.10_.jpg


1.11_.jpg





 

来源:大数据文摘
智造家