注册花火通行证，没有账号
智能硬件分类
&>&&>& > 正文
分享文章到微信
关注花火网微信公众号
　　(原标题：深度：机器如何模仿人类的学习方式?)
　　深度学习机器如何模仿人类的学习方式？ 原因解析。古有算盘，今有计算机，人工智能(Artificial
Intelligence，AI)始终是人类永恒又美好的梦想。然而，漫漫的历史长河中人类前仆后继，虽然计算机技术已经取得了长足的进步，然而仍然没有一台机器产生真正的&自我&意识。谷歌大脑认出猫和狗，阿法狗打败了李世石，智能车拉着我们去兜风&&尽管深度学习(Deep
Learning)让AI在近期取得了诸多突破，但人工智能始终还是离不开&人工+智能&，离不开大量的人工标定数据去指导智能系统的学习。
　　ImageNet，COCO，Places，我们为了智能而不断人工，为了一劳永逸而不断地标定数据。然而，这并不是人类的最终梦想&&不劳而获。直到Science封面文章Bayesian
Program Learning(BPL，《Human-level concept learning tdivough probabilistic
program induction》)，像人类一样学习的人工智能又引爆了人类曾经的梦想，Google DeepMind的新成果Memory-Augmented
Neuaral Networks(MANN,《One-shot Learning with MemoryAugmented Neuaral
Networks》)让梦想又朝现实迈进了一步。
　　懒惰是人类社会进步的原动力，单点学习(One-Shot
learning)的目标是不劳而获。不同于传统机器学习方法需要大量数据去学习和反复的训练，One-Shot通过单一的训练样本去学习并做出准确的预测。然而，One-Shot
learning是一个永恒的挑战。由于现有的机器学习模型参数量庞大，小样本下很难在巨大的搜索空间中找到刻画本质属性的最优解。
　　因此当遇到新的任务(Task)时，传统学习算法只能通过新任务的大量样本低效率地去调整(finetuning)原有模型，以保证在杜绝错误干扰(Catastrophic
Interference)的情况下将新信息充分涵括。BPL从认知科学的角度，基于贝叶斯过程模拟人类学习思路;MANN从神经科学的角度，基于记忆神经网络构造仿生学习模型。相比于贝叶斯过程学习(BPL)，记忆增强神经网络(MANN)将One-shot
Learning从应用驱动型推向数据驱动型，从已有数据出发去主动挖掘One-shot
Learning的方法。通过关注存储内容的外部记忆机制快速吸收新知识，并且仅利用少数几个例子就可以从数据中做出准确预测。
　　一、人的学习&记忆与学习(Memory & Learning)
　　从神经科学的角度来说，学习(Learning)定义为将经验(Experience)编码进记忆(Memory)的过程。鱼的记忆只有7秒，没有记忆的学习不是智能，鱼永远是只能在水里游的鱼。学习形成了不同类型的记忆：形象记忆(以感知过的事物形象为内容)，情绪记忆(以过去体验过的情感为内容)，逻辑记忆(是以概念命题为内容)，动作记忆(以操作性行为为内容)&&记忆指导学习，学习增强记忆。人类从刀耕火种，婴儿从呱呱落地，&学习&
记忆&学习&贯穿着社会与个体。对于社会，古书典籍让经验得到记忆;对于个体，大脑皮层让知识得到记忆。
　　人的学习过程中(如下图)，大脑对外部环境进行感知，注意机制对感兴趣的信息保持关注;在工作记忆中，新知识在旧知识的基础上通过检索被快速建立起来;而后经过神经元的加工整理，形成难被遗忘的长时记忆。由此，人不断地从生活经验中建立并整合知识，从而学会处理日益复杂的任务。在持续不断的学习过程中，对以往知识检索利用，使得人们只需要少量的训练就能快速地学会新的任务。综上，一个真正的智能系统应具备以下两方面的作用:
　　(1)在长时记忆系统中建立一个可检索的知识库;
　　(2)在交互过程中持续不断的整合更新知识库。
　　二、MANN&&学会学习(Learning to Learn)
　　埃德加?福尔在《学会生存》中指出：&未来的文盲不再是不认识字的人，而是没有学会怎样学习的人 。 &学会学习(Learning to
Learn)不仅仅是教育界面临的问题，也是机器学习中面临的问题：未来的智能不再是能干活的机器，而是学会怎样学习的机器。&学会学习&
中的&学习&即为元学习(Meta-learning)。行为学意义上认为元学习是学习行为本身的改变;信息学意义上认为元学习是关于获取知识和经验的学习。人工智能意义上的元学习一般指的是一种迁移学习(Transfer
Learning)方案，通过已有的知识辅助新知识的学习，照着葫芦画瓢，照着猫画老虎。可规模化的元学习方案应满足以下两个要求：
　　(1)知识必须以稳定且可寻址的方式存储;
　　(2)存储容量不与参数规模相关。
　　长短时模型(Long Short Term Model，LSTM)通过隐性的共享记忆结构，不完全地实现知识的存储。直到了神经图灵机(Neuaral
Machine，NTM)的出现，NTM引入带记忆的神经网络去模拟大脑皮质的长时记忆功能，实现用极少量新任务的观测数据进行快速学习。不同于传统神经网络，NTM(如下图)通过控制器(Controller)对输入输出(Input/Output)向量进行选择性地读写(Read&Write
Heads)操作，实现与外部记忆矩阵(Memory)进行交互。基于强泛化能力的深度神经网络架构，并综合长时观测的记忆模型与新观测的匹配信息对存储内容进行有效地更新。
　　相比于神经网络图灵机，记忆增强神经网络(MANN)提出了一种新读写更新策略&&LRUA(Least Recently Used
Access)。有别于NTM由信息内容和存储位置共同决定存储器读写，
MANN的每次读写操作只选择空闲或最近利用的存储位置，因此读写策略完全由信息内容所决定。这种更为灵活的读写策略更适用于时序无关的分类回归问题。MANN结合了更灵活的存储能力和强泛化的深度架构，实现知识的更为高效的归纳转移(Inductive
transfer)&&新知识被灵活的存储访问，基于新知识和长期经验对数据做出精确的推断。
　　三、终极理想&&终身学习(Life-long Learning)
　　活到老学到老，人的一生是学习的一生。终身学习(Life-long
Learning)是一种能够存储学习过的任务知识，并能利用旧知识快速学习新任务的完整系统方案。相较于传统机器学习方法，终身学习凭借任务间的知识共享和知识库的知识积累，突破了学习过程在样本集和时间上的限制，为实现高效及高度智能化的系统提供可能。
　　一个终身学习系统包含以下基本组成部分，各模块间的相互作用共同实现&活到老学到老&。
　　(1)知识仓库(Memory)
　　记忆是智能的基础，终身学习系统期望充分利用已学过的知识辅助学习。知识仓库用于存储学习过程中需要长期存储的知识。其中可分为基础知识和抽象知识两类，分别支持知识从简单到复杂的纵向迁移，以及相关任务之间知识的横向迁移。
　　(2)任务队列(Controller)
　　任务队列考虑知识的学习顺序对系统的泛化能力与学习代价的影响。学习顺序设置对学习有着重要的影响，因此终身学习系统期望合理设置学习顺序以越快越好地进行学习，循序渐进，抛砖引玉。此外，高效的任务队列也为终身学习系统提供主动学习的可能，系统可以主动优先学习对关键任务。
　　(3)知识迁移(Read)
　　知识迁移是终身学习系统的基础。知识迁移从知识仓库中选择对新知识(目标领域，Target Domain)有帮助的旧知识(源领域，Source
Domain)进行迁移。因此要求终身学习系统应具备有效度量并创造正迁移条件的能力，充分利用已经学到的任务知识，尽可能高效地学习新任务&&迁移什么?如何迁移?何时迁移?
　　(4)知识整合(Write)
　　知识整合是终身学习系统中至关重要的环节，以保证知识仓库能得到及时的更新。取其精华，去其糟粕，知识在整合过程中，系统应对知识进行相应的筛选，在兼顾不损害原有知识的前提下，尽可能整合有利于迁移的新知识。
　　学海无涯，活到老学到老。人工智能之路漫漫，吾将上下而求索。
　　本文转载自网易科技。
加载更多新闻
Copyright @ 2015-, All Rights Reserved. 版权所有 花火网在图像和语音识别等领域，深度学习技术所取得的突破引起了很大关注。但是在金融领域，深度学习技术的应用，距离大规模采用似乎仍然遥远。
那么，人们在将深度学习技术应用于金融交易中到底做了哪些研究，各自又取得了什么样的进展？以下几个案例将带你了解这个领域的前沿。
1、预测股票有效挂单报价
伦敦帝国学院数学系的Justin A. Sirignano在其5月16日的论文中称，利用年纳斯达克市场的489只股票的交易情况，他从中提取了高达50TB的数据。
为了处理如此多的数据，他的测试的硬件包括50块GPU的集群。在对他所建立的“空间神经网络”进行训练和测试后发现，能够提前1秒钟预测到买卖双方的报价情况。
查看论文原文，请点击。
2、金融资产价格变动预测
美国伊利诺伊斯理工大学的Matthew Francis Dixon利用深度学习神经网络，来试图预测43种大宗商品和外汇期货在未来5分钟的价格变动。
他们的信息接收端包含9896个神经元，用于处理不同合约之间的价格差异和协同效应。在信息输出端有135个神经元。
在不考虑交易成本以及报价区间限制的情况下，他们测试结果的总体准确率达到42%。
查看论文原文，请点击。
3、预测标普500指数波动性
斯坦福大学的Ruoxuan Xiong等人试图通过集成了谷歌趋势和市场数据的LSTM（Long Short-Term Memory）区块来预测标普500指数的波动性。
在数据输入上，他们利用了每日的标普500指数收益率和波动率，还包括25条谷歌趋势，从而将经济的各个主要领域包含进来。
他们最后总结称，这项研究显示了在存在大量噪音的情况下深度学习金融时间序列的潜力。研究中所用的方法能够直接应用于其他的金融变量。
查看论文原文，请点击。
4、优化投资组合
Bartlit Beck Herman Palenchar公司的J. B. Heaton等人试图打造出表现超过美国IBB生物医药指数的投资组合。他们的研究工具包括五个神经元，利用年间IBB成分股票的每周收益数据进行分析。
查看论文原文，请点击。
原文地址：/node/246516
&&相关文章推荐
* 以上用户言论只代表其个人观点，不代表CSDN网站的观点或立场
访问：158022次
积分：3620
积分：3620
排名：第8580名
原创：129篇
转载：530篇
评论：15条
(45)(30)(36)(119)(38)(4)(68)(101)(67)(58)(64)(37)未来10年机器人三大发展趋势分析
机器视觉、深度学习让机器人更智能 人工智能首先应用于工业机器人领域，主要就是机器视觉和深度学习。 机器视觉是现有的机器人从自动化设备转变为智能机器的一个关键因素。最初是作为机器人的辅助工具，提高柔性和对工作环境的反馈，主要应用于引导和定位、和识别等，随着工业和深度学习的发展，未来将使机器视觉成为智能生产系统的主导，做出决策和预判断。 2014年全球机器视觉规模持续走高，达到36.7亿美元。主要分布在北美、德国、英国、日本、中国等地区和国家，其中中国占到8.1%；预计到2018年全球市场规模将达到50亿美元。 年全球机器视觉市场规模
2014机器视觉地区占比
深度学习推动机器人摆脱预编程序的束缚，真正走向智能化。深度学习使机器人可以像人一样通过学习掌握新的技能，适应未知的工作环境。深度学习在工业机器人的应用分为三个层次，一、机器人通过试错学会新技能；二、多台共享经验提高学习效率；三、机器人可以预防并且自行修复故障。目前已经到了第二个阶段。 2016年是深度学习元年，深度学习走向商业化和开源。FANUC和人工智能初创企业Preferred Networks合作推出了深度学习机器人，无需工程师调试可自己学会挑选工件。ABB、丰田都在开发基于深度学习的工业产品，国际巨头谷歌、facebook、特斯拉都宣布开源其深度学习服务。 深度学习走向商业化和开源
机器视觉和深度学习使初创企业或者小企业也有机会跟大型企业平等对话，对机器人行业潜在的影响是颠覆性的。 随着机器人的智能化和普及化，无论采用哪种方式，传感器都会变得越来越重要，机器人对传感器的需求未来3-5年内有望爆发。
【版权提示】中商情报网倡导尊重与保护知识产权。如发现本站文章存在版权问题，烦请联系、4，我们将及时沟通与处理。
【数据平台合作】我们的数据自媒体平台“”、数据交易所“”正式上线了！欢迎各位数据自媒体们合作入驻。免费入驻类型：各行业数据自媒体、数据企业。咨询QQ ：
中商情报网扫一扫、与您一起发现数据的价值
中商产业研究院扫一扫、每天阅读免费高价值报告
中商情报网始终聚焦科技、互联网+、创业、财经、产经大数据等，目前在全国财经网站中排名居前，旗下中商产业研究院专注产业经济细分市场研究，中商可以为用您提供一手的市场数据和高价值的商业资讯，欢迎沟通交流合作！
广告、内容合作请点这里：
askci Corporation, All Rights Reserved
中商情报网版权所有
增值电信业务经营许可证：粤B2-