清德云色因口嗨男篮被取消解说资历笑笑季后赛有的华张长水等人30页少样本学习综述论文,涵盖400+参考文献

  • A+
所属分类:Yaboapp下载
摘要

选自arXiv作者:张长水等机器之心编译编辑:魔王这篇综述文章回顾了少样本学习(FSL)的演进历史和当前进展,对 FSL 方法进行了层次分类,并总结了近期多个

选自arXiv

作者:张长水等

机器之心编译

编辑:魔王

这篇综述文章回顾了少样本学习(FSL)的演进历史和当前进展,对 FSL 方法进行了层次分类,并总结了近期多个 FSL 扩大性主题及其最新进展,介绍了 FSL 在计算机视觉、自然语言处理等领域中的利用。

少样本学习(FSL)是机器学习领域中重要且有难度的课题。基于少许样本进行学习和泛化的能力是辨别人工智能和人类智能的重要分界限,由于人类常常能够基于1个或少许样本建立对新事物的认知,而机器学习算法通常需要数百或数千个监督样本才能实现泛化。

少样本学习的研究可以追溯到 21 世纪初,最近几年来随着深度学习技术的发展它也遭到广泛的关注,但是目前关于 FSL 的综述文章较少。清华大学教授、IEEE Fellow 张长水等人广泛浏览和总结了自 21 世纪初到 2019 年的 300 余篇论文,写了1篇关于 FSL 的综述文章。

论文链接:https://arxiv.由于阿仙奴近绩欠佳教头艾马利备受下台的压力今番面对正式比赛3连败的法兰克福急需来1场成功减压今仗1于跟撑足智彩开热的阿仙奴直接博主Worg/pdf/2009.02653.pdf

这篇综述文章回顾了 FSL 的演进历史和当前进展,将 FSL 方法分为基于生成模型和基于辨别模型两大类,并重点介绍了基于元学习的 FSL 方法。

另外,本文还总结了近期出现的多个 FSL 扩大性主题及其最新进展,并介绍了 FSL 在计算机视觉、自然语言处理、音频、强化学习和机器人学、数据分析等热门研究领域中的利用。

最后,本文讨论了 FSL 的未来趋势,希望能为后续研究提供指引。

该综述文章的新颖的地方和主要贡献包括:

对自 21 世纪初至 2019 年的 300 余篇 FSL 主题论文进行了更加全面及时的综述,涵盖从初期 Congealing 模型 [29] 到近期元学习方法的所有 FSL 方法。详实的论述有益于掌握 FSL 的整体发展脉络,构建 FSL 的完全知识结构体系。

该论文提供了易于理解的层次分类,根据建模原则将现有的 FSL 方法分为基于生成模型的方法和基于辨别模型的方法。在每个种别中,又基于泛化性进行细分。

该论文重点介绍目前主流的 FSL 方法,即基于元学习的 FSL 方法,并将其分为5个大类:Learn-to-Measure、Learn-to-Finetune、Learn-to-Parameterize、Lea『专业资讯』最权威的中奖走势图权威专家给你解答万大奖的奥秘rn-to-Adjust 和 Learn-to-Remember。另外,该综述文章还揭露了多种元学习 FSL 方法之间的底层发展关系。

该论文在原版 FSL 以外,还总结了近期出现的多个扩大性研究主题及其进展。这些主题包括:半监督 FSL、无监督 FSL、跨域 FSL、通用 FSL 和多模态 FSL,它们很有挑战性,且为解决方案赋予了实际意义,可用于许多现实机器学习问题。而之前的综述文章很少触及这类扩大性主题。

该论文广泛地总结了现有 FSL 方法在多个领域的利用,如计算机视觉、自然语言处理、音频、强化学习和机器人学、数据分析等,还概括了当前 FSL 方法在基准数据集上的性能,以为后续研究提供指引。

文章结构

第2章:概述 FSL 发展历史、符号和定义,和对现有 FSL 方法进行分类;

第3章:介绍第1类 FSL 方法——基于生成模型的方法;

第4章:介绍第2类 FSL 方法——基于辨别模型的方法;

第5章:总结 FSL 的多个扩大性主题;

第6章:介绍 FSL 在多个领域中的利用,及基准性能;

第7章:探讨 FSL 的未来方向。

下图 1 展现了该综述文章的主要内容,包括 FSL 的发展进程、方法分类、扩大性主题和利用。

清德云色因口嗨男篮被取消解说资历笑笑季后赛有的华张长水等人30页少样本学习综述论文,涵盖400+参考文献

这篇综述文章篇幅较长,共有 30 页内容,参考文献多达 414 篇。我们仅选取部份概括性的图表进行展现,详情参见原论文。

基于生成模型的 FSL 方法

下表 1 总结了第1类 FSL 方法——基于生成模型的 FSL 方法:

清德云色因口嗨男篮被取消解说资历笑笑季后赛有的华张长水等人30页少样本学习综述论文,涵盖400+参考文献

基于辨别模型的 FSL 方法

本文将基于辨别模型的 FSL 方法分为4类:增强、度量学习、元学习和其他方法,并重点介绍了元学习方法。

下图 2 概括了基于增强的 FSL 方法的通用框架:

清德云色因口嗨男篮被取消解说资历笑笑季后赛有的华张长水等人30页少样本学习综述论文,涵盖400+参考文献

下表 2 则总结了监督式和无监督式增强方法:

清德云色因口嗨男篮被取消解说资历笑笑季后赛有的华张长水等人30页少样本学习综述论文,涵盖400+参考文献

下图 8 展现了基于度量学习的 FSL 方法的通用框架:

清德云色因口嗨男篮被取消解说资历笑笑季后赛有的华张长水等人30页少样本学习综述论文,涵盖400+参考文献

下表 3 则总结了基于度量学兩軍皆踢過輪聯賽同樣地各有仗錄得總入球球或以下兩軍攻力偏弱今仗恐怕是1球定勝負习的 FSL 方法的主要特点:

清德云色因口嗨男篮被取消解说资历笑笑季后赛有的华张长水等人30页少样本学习综述论文,涵盖400+参考文献

元学习

下图 12 展现了基于元学习的 FSL 方法的通用框架:

清德云色因口嗨男篮被取消解说资历笑笑季后赛有的华张长水等人30页少样本学习综述论文,涵盖400+参考文献

另外,这部份还介绍了基于元学习的 FSL 方法的5个子种别:Learn-to-Measure (L2M)、Learn-to-Finetune (L2F)、Learn-to-Parameterize (L2P)、Learn-to-Adjust (L2A) 和 Learn-to-Remember (L2R)。

下图 13 展现了不同 L2M 方法之间的发展关系:

清德云色因口嗨男篮被取消解说资历笑笑季后赛有的华张长水等人30页少样本学习综述论文,涵盖400+参考文献

许多近期提出的 Learn-to-Finetune 方法属于 MAML 变体,下图 16 展现了 MAML 与其变体之间的关系:

清德云色因口嗨男篮被取消解说资历笑笑季后赛有的华张长水等人30页少样本学习综述论文,涵盖400+参考文献

下表 4 总结了 Learnto-Parameterize 方法:

清德云色因口嗨男篮被取消解说资历笑笑季后赛有的华张长水等人30页少样本学习综述论文,涵盖400+参考文献

下表 5 总结了 Learn-to-Adjust 方法:

清德云色因口嗨男篮被取消解说资历笑笑季后赛有的华张长水等人30页少样本学习综述论文,涵盖400+参考文献

下图 22 展现了 Learn-to-Remember 方法的通用框架:

清德云色因口嗨男篮被取消解说资历笑笑季后赛有的华张长水等人30页少样本学习综述论文,涵盖400+参考文献

FSL 方法的利用领域

下表算1算我连冲3个1百不就赚了510吗 9 总结了 FSL 方法在计算机视觉、自然语言处理、音频、强化学习和机器人学、数据分析等领域的利用:

清德云色因口嗨男篮被取消解说资历笑笑季后赛有的华张长水等人30页少样本学习综述论文,涵盖400+参考文献

如何根据任务需求搭配恰当类型的数据库?

在AWS推出的白皮书《进入专用数据库时期》中,介绍了8种数据库类型:关系、键值、文档、内存中、关系图、时间序列、分类账、领域宽列,并逐1分析了每种类型的优势、挑战与主要使用案例。

发表评论

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: