888奇闻网

未解之谜与世界之最,猎奇文章

首页 > 科学探索 > 异构计算将会为AI应用带来强大支持

异构计算将会为AI应用带来强大支持

时间:2018-12-04 20:54:48 作者: 来源:888奇闻网 手机阅读

除了算法和数据,异构计算将为人工智能应用提供更强大的支持,异构计算,尤其是加速器的开发和创新,将为行业、终端用户和初创企业带来更多无限的商机。  

在一个由灶神主持的餐厅吃饭。慢慢发球。一定要等待。因为只有一个灶神。但是在竞争激烈的市场中,人工智能技术的应用不能等待,否则它可能会被市场颠覆和淘汰。  

人工智能(AI)的研究已经持续了60多年,最近,人工智能已经呈现出一种爆炸性的趋势,不仅因为算法的改进和大数据的积累,而且由于计算能力的巨大改进和变化,企业和Inte。RNETGrand有自己的算法和数据,但它们在计算能力的获取上总是有一个很高的门槛。今天我们关注的是AI时代的计算能力。  

近年来,随着硅片物理极限的逼近和经济成本的增加,摩尔定律已经失效,传统的通用处理器方法已经不能满足人造int各种应用的爆炸性和高计算要求。因此,具有GPU、ASIC、FPGA或其他加速器(Accelerator)等高并行、密集计算能力的异构计算将继续成为热点,异构计算将成为支持更高级、更复杂的人工智能应用的必然选择。未来。  

异构计算(HeterogeneousComputing,HeterogeneousComputing)是由具有不同指令集和体系结构的计算单元组成的计算系统,它是一种平衡性能、成本和功耗的技术。它还允许最合适的专用硬件做最合适的事情,如密集计算或外围管理,从而实现性能和成本的优化。  

CPU(CentralProcessingUnit)作为一种通用处理器,我们熟悉的CPU(CentralProcessingUnit)更注重对控制流数据的支持,CPU的每个物理核中的大部分硬件资源都做成控制电路和缓存,以提高指令的兼容性和效率。真正用于计算的逻辑运算单元(ALU)只占CPU的一小部分。在没有AI或其他高计算能力要求的情况下,CPU可以应付更多的工作。在人工智能或计算能力要求较高的情况下,从计算任务执行效率的角度来看,虽然CPU可以与大量指令兼容,但实际计算效率不高。异构系统中核心功能的协调与控制。  

blob.png

打个比方,CPU可以看作是厨师,每个烹饪系的大厨都像手掌一样,可以做出各种不同口味的菜肴,以满足各种人的需要。但是因为厨师负责厨房的各个方面,他不能应付lar。葛数特种复合处理,如1000名客人食用各种马铃薯丝,如酸辣马铃薯丝、青椒马铃薯丝、油炸马铃薯丝,需要助手在短时间内切出大量相同长度和厚度的马铃薯丝。需要找到一个帮手(GPU,FPGA或ASIC)来帮助。这个助手可以同时处理许多土豆(并行处理),而且非常快(低延迟)。最后,通过与厨师的合理分工,可以满足顾客对菜肴的需求。  

也许有人会说,雇用另一个厨师来组成一个同质的厨房(均质计算)不好当然,这是多CPU以前所做的,但是基于目前基于AI应用的计算密集型负载,这种同构厨房具有明显的缺点。首先,厨师很贵,而且他们不擅长某些特定的应用,比如快速切土豆丝。其次,厨师是健忘的,需要经常查看菜谱(访问记忆)。因此,一个高效的厨房需要厨师和一群擅长各种任务的厨师之间的有效沟通和协作。  

我们知道,在异构计算厨房中,除了主厨CPU之外,还有很多辅助设备,如GPU、ASIC、FPGA、DSP等,那么这些计算单元的优势是什么  

GPU是图形处理单元的缩写。顾名思义,它是一种专门处理个人计算机、工作站、游戏机以及一些移动设备(如平板电脑、智能手机等)的图像的微处理器。其主要原因是它适合GPU的多核结构,用于大规模多任务的简单操作,如神经网络。这就像成千上万的客人同时点了酸辣的马铃薯丝,他们需要很多帮助才能快速地切出数万盘马铃薯丝。  

然而,尽管GPU能快速而好地切土豆,但是如果你想告诉他切多少土豆,切多少土豆,再加入多少青椒,那么你就到冰箱里去买些猪肉,做一道复杂的菜,这超出了你的能力。复杂的控制过程会产生大量的分支,而GPU中的控制单元负责多个计算单元,因此,如果要使用GPU,就必须有简单的指令,尤其是控制分支越少,效果越好。  

此外,GPU还有CPU厨师的问题:健忘(需要从内存中读取指令)。这带来了一系列的问题,如存储墙、高功耗、基于指令系统、解码等。  

专用集成电路(ASIC)的全称是应用专用集成电路(ApplicationSpecificIntegrationCir.),它是定制的,这意味着不需要纠缠于CPU和GPU如何分配控制资源和计算资源,以及如何分配这些资源。  

编程语言越接近底层硬件,其运行速度就越快。所有的ASIC设计都直接建立在物理硬件(门电路)上。同时,由于具有高度定制性,可以设计用于PPA优化的芯片(PPA是性能、功耗和面积的缩写)。  

这样,ASIC就像一个全自动定制马铃薯切碎机。你只要把土豆扔进粉碎机,土豆丝就会很快被切掉,形状一致性好,能耗低,节省空间。  

可以看出,这种定制的机器是厨房工件,它已经赢得了CPU和GPU。但是定制的机器也有它的缺点。如果顾客想改变口味,吃土豆和烤鸡,他们需要把土豆切成块。这样,切割机就没用了,市场上也没有现成的切割机,需要重新定制。  

现场可编程门阵列,或称现场可编程门阵列,是在PAL、GAL、CPLD等可编程器件的基础上进一步发展的产物。关键字是可编程的,这意味着灵活性。E可用于布线资源。当顾客需要土豆丝时,他们可以定制为碎纸机。当他们需要马铃薯片时,他们就会变成碎纸机。而且,正是由于FPGA中大量的可编程逻辑使得它可以真正并行实现。不同的处理操作不需要竞争相同的资源。每个独立的处理任务都配备有专用电路,可以独立操作,不受其他逻辑块的影响,因此,当增加更多的处理任务时,不会影响其他应用程序的性能。  

当然,在FPGA的开发中也存在着不足之处,主要问题在于开发上,大多数异构算法的开发人员都是软件人员,对FPGA和数字电路的结构缺乏了解,编程语言也不统一(CPUenD是C、C++;FPGA端是VHDL、Verilog等底层硬件描述语言。目前对该问题的解决方案是OpenCL和HLS(高级综合)技术,支持C和C++代码直接编译成Verilog。目前,这些技术的成熟还需要一段时间,转换效果还有待提高。  

总之,一个有效的人工智能计算能力(厨房)系统对每个人都是必要的。这个厨房需要有经验的厨师(CPU)和熟练的厨师(加速器)。在厨师的协调指导下,在各自展会实力的帮助下,进行有效的合作,从而做到饱满。充分满足顾客不断变化的美味菜肴需求。  

CPU和加速器之间协作的一个好例子是使用IBMPOWER9处理器的新一代服务器。POWER9是为当前和未来计算密集型AI工作负载而设计的。它是嵌入PCI-Express4.0、新一代NVIDIANVLink2.0(GPU和CPU之间的无缝连接)和OpenCAPI25Gbps(PCIe3.0的3倍吞吐量)中的第一个通道,这是支持异构的最现实的着陆实体。计算。  

当然,除了支持异构计算之外,POWER9服务器还优化了AI负载,例如大大提高了诸如Chainer、TensorFlow和Caffe等主要AI框架的性能,以及加速了诸如Kinetica之类的数据库。速度更快,包括深入学习洞察力、实时欺诈检测和信用风险分析。POWER9也是美国能源部首脑会议和塞拉利昂超级计算机的核心,它们已成为世界上最强大、最智能的超级计算机之一。此外,谷歌还采用了基于POWER9处理器的异构计算平台,用于各种复杂的人工智能负载。  

除了算法和数据,异构计算将为人工智能应用提供更强大的支持,异构计算,尤其是加速器的开发和创新,将为行业、终端用户和初创企业带来更多无限的商机。  


相关文章

  • 凝聚航天人智慧和汗水的“祥云”
    凝聚航天人智慧和汗水的“祥云”
    2018年8月8日是北京奥运会成功举办10周年。在过去的10年里,北京2008年奥运会对中国经济和人民生活的巨大影响一直持续。从2018年1月开始,有关奥运十叶的系列报道冬季奥运会将...
  • 如何科学减肥,你关注过“体脂率”吗?
    如何科学减肥,你关注过“体脂率”吗?
    在当今以瘦为美的美学思潮中,大多数人为了追求美感和好身材而努力减肥。他们选择饮食疗法通过严格控制每天的卡路里摄入量来减肥。30岁成年人的平均每日基本代谢能力是1700卡...
  • 国有计量检测机构体制改革广播电视计量学
    国有计量检测机构体制改革广播电视计量学
    为了进一步了解测量和测试机构在高质量发展中的支持作用,并探索无线电和电视手段如何发展的秘密。rement可以达到完美的反击,《中国质量检验报告》,由市场监管总局主办,中国质量...
  • 植物雌激素有望成为预防和治疗牙周炎的辅助手段
    植物雌激素有望成为预防和治疗牙周炎的辅助手段
    牙周炎是口腔常见的慢性传染病之一。牙槽骨吸收是一个重要的临床特征。研究表明,雌激素代谢紊乱与牙周炎有着密切的关系。牙周炎的患病率随着年龄的增长而增加。当女性达到...
  • 世界首例免疫艾滋病的基因编辑婴儿诞生
    世界首例免疫艾滋病的基因编辑婴儿诞生
    昨天,在第二届国际人类基因组编辑峰会前一天,中国科学家何建奎宣布在中国出生一对基因编辑双胞胎女孩。这是世界上第一个HIV免疫基因编辑婴儿,这一消息一旦发布就引起了巨大的...
  • 探索瞬态新奇分子物种,证实+Ⅸ氧化价态
    探索瞬态新奇分子物种,证实+Ⅸ氧化价态
    1月8日,在人民大会堂隆重举行了2018年国家科学技术奖大会,复旦大学化学系周明飞教授主持了新型瞬态分子的光谱学、键合与反应项目,获国家自然科学二等奖。 本项目重点研究在...
  • “声波攻击”引发美古外交风波
    “声波攻击”引发美古外交风波
    据《卫报》报道,美国驻古巴大使馆的外交官们在2017年听到穿透性噪音后,开始报告头痛、恶心和其他疾病。 这起事件引发了美国政府甚至声称其驻古巴大使馆工作人员受到声波袭击...
  • 宝马5系插混电驱无忧、充电便利
    宝马5系插混电驱无忧、充电便利
    道路还很漫长,为了进一步发展新能源汽车,有必要与燃油汽车展开正面战争。作为新能源汽车,插电式混合动力汽车是燃油汽车的唯一功能替代品。燃油车主如何理解这一点 近日,《中...
  • 珠海新形势、新要求、新动向,搭建大中心+大网格+大数据。
    珠海新形势、新要求、新动向,搭建大中心+大网格+大数据。
    珠海市适应了当前社会治理的新形势、新要求、新趋势,在实践中不断探索,取得了许多创新性突破。图为中国第一家社会创新综合体——金湾区社会创新谷的甜点。 清洁环境,和谐邻里...
  • 想象一下,医疗美容+美食咖啡两者结合
    想象一下,医疗美容+美食咖啡两者结合
    想象一下,如果你是一个面对着数十亿美元市场、信息不透明、价格高昂的企业家,你会怎么做 医疗美容业是一个前景广阔,但又十分混乱的产业。为了解决这一问题,医疗咖啡集团的创始...
.

科学探索

热门文章

今日最新