各年只标示了夺冠的深度神经网络

2018-07-09 13:05  点击数:    来源:马渡机械设备科技有限公司
 
  前沿深度神经网络的迭代。深度神经网络的参数量呈现指数式增长。Y轴为对数坐标。图1:前沿深度神经网络的迭代。深度神经网络的参数量呈现指数式增长。Y轴为对数坐标。
 
  来自美国圣母大学、加州大学洛杉矶分校和中国华中科技大学的研究团队考察了深度神经网络的精度和规模方面的数据,以及不同硬件平台的运算性能。他们指出,深度神经网络应用于设备端推断(在嵌入式平台端执行的推断)的迭代速度和CMOS技术的迭代速度存在差距——而且这个差距在增大。当深度神经网络变得更加精确,它们的尺度(层数、参数量、运算量)显著扩大。ImageNet图像分类竞赛中明星深度神经网络的前5大误判比率。前5大误判的比率随时间呈指数式下降。Y轴为对数坐标。  图2:ImageNet图像分类竞赛中明星深度神经网络的前5大误判比率。前5大误判的比率随时间呈指数式下降。Y轴为对数坐标。
 
  但是,正如史弋宇及其同事所述,典型的硬件平台——图形处理单元(GPU)、现场可编程门阵列(FPGA)以及专用集成电路(ASIC)——其计算性能的提升跟不上前沿深度神经网络的设计需求。类似的,承载这些网络的硬件平台的存储器功耗也跟不上网络尺度的增长。运算量与性能密度之间的差距。a, 运算量对比ImageNet图像分类竞赛中领先的深度神经网络的前5大误判比率。b, 领先的GPU、ASIC和FPGA硬件平台性能密度。为匹配所需运算量,简单增加芯片面积并不可行。各年只标示了夺冠的深度神经网络。Y轴为对数坐标。  图3:运算量与性能密度之间的差距。a, 运算量对比ImageNet图像分类竞赛中领先的深度神经网络的前5大误判比率。b, 领先的GPU、ASIC和FPGA硬件平台性能密度。为匹配所需运算量,简单增加芯片面积并不可行。各年只标示了夺冠的深度神经网络。Y轴为对数坐标。
 
  深度神经网络涉及多层由数字化的‘神经突触’连接的‘神经元’。利用大量数据以及目标任务的正确答案进行训练后,神经元之间连接的强度或者说权重得到不断调整,直到最上层网络给出正确的结果。完成训练的网络配以训练中得到的连接权重再被应用到全新数据中——这一步被称为推断。
 
  深度神经网络近期的成功既得益于算法和网络架构的进步,也得益于获取巨量数据变得日趋容易,以及高性能计算机持续发展。当前,具备一流运算精度的深度神经网络的运算量相当大。史弋宇及其同事在《自然-电子学》上发表了一篇Perspective文章(https://go.nature.com/2lWHPww),他们在文中指出,这代表了深度神经网络面临的新挑战,特别是当它们被应用于空间和电池容量有限的手机以及诸如智能传感器、穿戴设备等嵌入式产品时。
 
  
 

  • 友情连接:
  • 百度
  • 皇冠最新网址 新2 新2备用网址 皇冠体育 皇冠足球比分 皇冠赌场 百家乐网址 澳门娱乐城 澳门百家乐 真人娱乐 澳门百家乐 足球投注网 足球投注网 外围投注 365体育投注 新2网址 皇冠体育 百家乐游戏 澳门百家乐 澳门百家乐 网上百家乐 百家乐代理 网页百家乐 现金网论坛 现金开户 现金开户 现金网 皇冠比分网 皇冠比分网 皇冠比分网 皇冠投注网址 新2网址 足球开户网 新2最新网址 皇冠新2 皇冠代理 新2网址 皇冠开户网 现金开户 皇冠代理网 皇冠现金代理 皇冠新2 皇冠比分 皇冠代理网址 皇冠体育网 皇冠现金 皇冠娱乐网址 体育投注 皇冠投注网址 香港挂牌 开奖记录 红财神 六合开奖结果 六合图库大全 六合彩图库 六合网址大全 六合走势图 六合开奖现场 六合开奖 高手论坛 六合直播 香港六合 118图库 香港挂牌 红财神 六合开奖结果 六合图库大全 创富论坛 香港马会开奖结果 六合彩资料 118图库 地下六合彩 六合彩图 六合彩资料 六合彩开奖结果 白小姐中特网 白小姐中特玄机 六合开奖 香港马会资料 香港王中王中特网 管家婆中特网 白小姐中特网 香港马会正版挂牌 六合彩开奖结果 香港马会资料 香港六合彩公司
  • 澳门银河
  • 澳门银河网址

  • Copyright © 2015-2016 马渡机械设备科技有限公司 版权所有 Power by 【网站地图