奇妙奇闻

探索世界奇闻,未解之谜

首页 > 科学探索 > 异构计算将会为AI应用带来强大支持

异构计算将会为AI应用带来强大支持

时间:2019-01-25 11:40:24 作者:迷迷 来源:奇妙奇闻 手机阅读

除了算法和数据,异构计算将为人工智能应用提供更强大的支持,异构计算,尤其是加速器的开发和创新,将为行业、终端用户和初创企业带来更多无限的商机。  

在一个由灶神主持的餐厅吃饭。慢慢发球。一定要等待。因为只有一个灶神。但是在竞争激烈的市场中,人工智能技术的应用不能等待,否则它可能会被市场颠覆和淘汰。  

人工智能(AI)的研究已经持续了60多年,最近,人工智能已经呈现出一种爆炸性的趋势,不仅因为算法的改进和大数据的积累,而且由于计算能力的巨大改进和变化,企业和Inte。RNETGrand有自己的算法和数据,但它们在计算能力的获取上总是有一个很高的门槛。今天我们关注的是AI时代的计算能力。  

近年来,随着硅片物理极限的逼近和经济成本的增加,摩尔定律已经失效,传统的通用处理器方法已经不能满足人造int各种应用的爆炸性和高计算要求。因此,具有GPU、ASIC、FPGA或其他加速器(Accelerator)等高并行、密集计算能力的异构计算将继续成为热点,异构计算将成为支持更高级、更复杂的人工智能应用的必然选择。未来。  

异构计算(HeterogeneousComputing,HeterogeneousComputing)是由具有不同指令集和体系结构的计算单元组成的计算系统,它是一种平衡性能、成本和功耗的技术。它还允许最合适的专用硬件做最合适的事情,如密集计算或外围管理,从而实现性能和成本的优化。  

CPU(CentralProcessingUnit)作为一种通用处理器,我们熟悉的CPU(CentralProcessingUnit)更注重对控制流数据的支持,CPU的每个物理核中的大部分硬件资源都做成控制电路和缓存,以提高指令的兼容性和效率。真正用于计算的逻辑运算单元(ALU)只占CPU的一小部分。在没有AI或其他高计算能力要求的情况下,CPU可以应付更多的工作。在人工智能或计算能力要求较高的情况下,从计算任务执行效率的角度来看,虽然CPU可以与大量指令兼容,但实际计算效率不高。异构系统中核心功能的协调与控制。  

blob.png

打个比方,CPU可以看作是厨师,每个烹饪系的大厨都像手掌一样,可以做出各种不同口味的菜肴,以满足各种人的需要。但是因为厨师负责厨房的各个方面,他不能应付lar。葛数特种复合处理,如1000名客人食用各种马铃薯丝,如酸辣马铃薯丝、青椒马铃薯丝、油炸马铃薯丝,需要助手在短时间内切出大量相同长度和厚度的马铃薯丝。需要找到一个帮手(GPU,FPGA或ASIC)来帮助。这个助手可以同时处理许多土豆(并行处理),而且非常快(低延迟)。最后,通过与厨师的合理分工,可以满足顾客对菜肴的需求。  

也许有人会说,雇用另一个厨师来组成一个同质的厨房(均质计算)不好当然,这是多CPU以前所做的,但是基于目前基于AI应用的计算密集型负载,这种同构厨房具有明显的缺点。首先,厨师很贵,而且他们不擅长某些特定的应用,比如快速切土豆丝。其次,厨师是健忘的,需要经常查看菜谱(访问记忆)。因此,一个高效的厨房需要厨师和一群擅长各种任务的厨师之间的有效沟通和协作。  

我们知道,在异构计算厨房中,除了主厨CPU之外,还有很多辅助设备,如GPU、ASIC、FPGA、DSP等,那么这些计算单元的优势是什么  

GPU是图形处理单元的缩写。顾名思义,它是一种专门处理个人计算机、工作站、游戏机以及一些移动设备(如平板电脑、智能手机等)的图像的微处理器。其主要原因是它适合GPU的多核结构,用于大规模多任务的简单操作,如神经网络。这就像成千上万的客人同时点了酸辣的马铃薯丝,他们需要很多帮助才能快速地切出数万盘马铃薯丝。  

然而,尽管GPU能快速而好地切土豆,但是如果你想告诉他切多少土豆,切多少土豆,再加入多少青椒,那么你就到冰箱里去买些猪肉,做一道复杂的菜,这超出了你的能力。复杂的控制过程会产生大量的分支,而GPU中的控制单元负责多个计算单元,因此,如果要使用GPU,就必须有简单的指令,尤其是控制分支越少,效果越好。  

此外,GPU还有CPU厨师的问题:健忘(需要从内存中读取指令)。这带来了一系列的问题,如存储墙、高功耗、基于指令系统、解码等。  

专用集成电路(ASIC)的全称是应用专用集成电路(ApplicationSpecificIntegrationCir.),它是定制的,这意味着不需要纠缠于CPU和GPU如何分配控制资源和计算资源,以及如何分配这些资源。  

编程语言越接近底层硬件,其运行速度就越快。所有的ASIC设计都直接建立在物理硬件(门电路)上。同时,由于具有高度定制性,可以设计用于PPA优化的芯片(PPA是性能、功耗和面积的缩写)。  

这样,ASIC就像一个全自动定制马铃薯切碎机。你只要把土豆扔进粉碎机,土豆丝就会很快被切掉,形状一致性好,能耗低,节省空间。  

可以看出,这种定制的机器是厨房工件,它已经赢得了CPU和GPU。但是定制的机器也有它的缺点。如果顾客想改变口味,吃土豆和烤鸡,他们需要把土豆切成块。这样,切割机就没用了,市场上也没有现成的切割机,需要重新定制。  

现场可编程门阵列,或称现场可编程门阵列,是在PAL、GAL、CPLD等可编程器件的基础上进一步发展的产物。关键字是可编程的,这意味着灵活性。E可用于布线资源。当顾客需要土豆丝时,他们可以定制为碎纸机。当他们需要马铃薯片时,他们就会变成碎纸机。而且,正是由于FPGA中大量的可编程逻辑使得它可以真正并行实现。不同的处理操作不需要竞争相同的资源。每个独立的处理任务都配备有专用电路,可以独立操作,不受其他逻辑块的影响,因此,当增加更多的处理任务时,不会影响其他应用程序的性能。  

当然,在FPGA的开发中也存在着不足之处,主要问题在于开发上,大多数异构算法的开发人员都是软件人员,对FPGA和数字电路的结构缺乏了解,编程语言也不统一(CPUenD是C、C++;FPGA端是VHDL、Verilog等底层硬件描述语言。目前对该问题的解决方案是OpenCL和HLS(高级综合)技术,支持C和C++代码直接编译成Verilog。目前,这些技术的成熟还需要一段时间,转换效果还有待提高。  

总之,一个有效的人工智能计算能力(厨房)系统对每个人都是必要的。这个厨房需要有经验的厨师(CPU)和熟练的厨师(加速器)。在厨师的协调指导下,在各自展会实力的帮助下,进行有效的合作,从而做到饱满。充分满足顾客不断变化的美味菜肴需求。  

CPU和加速器之间协作的一个好例子是使用IBMPOWER9处理器的新一代服务器。POWER9是为当前和未来计算密集型AI工作负载而设计的。它是嵌入PCI-Express4.0、新一代NVIDIANVLink2.0(GPU和CPU之间的无缝连接)和OpenCAPI25Gbps(PCIe3.0的3倍吞吐量)中的第一个通道,这是支持异构的最现实的着陆实体。计算。  

当然,除了支持异构计算之外,POWER9服务器还优化了AI负载,例如大大提高了诸如Chainer、TensorFlow和Caffe等主要AI框架的性能,以及加速了诸如Kinetica之类的数据库。速度更快,包括深入学习洞察力、实时欺诈检测和信用风险分析。POWER9也是美国能源部首脑会议和塞拉利昂超级计算机的核心,它们已成为世界上最强大、最智能的超级计算机之一。此外,谷歌还采用了基于POWER9处理器的异构计算平台,用于各种复杂的人工智能负载。  

除了算法和数据,异构计算将为人工智能应用提供更强大的支持,异构计算,尤其是加速器的开发和创新,将为行业、终端用户和初创企业带来更多无限的商机。  


相关文章

  • 世界第一颗人造卫星:斯普特尼克一号(1957年苏联发射)
    世界第一颗人造卫星:斯普特尼克一号(1957年苏联发射)
    我们都知道中国第一颗人造卫星是东方红一号卫星,那么大家知道世界第一颗人造卫星叫什么吗?它是哪个国家发射成功的呢?接下来大家就跟着小编一起去看看吧。 世界第一颗人造卫星 世界第一颗人造卫星是斯普特尼克一号,1957年10月4日在苏联成功发射。 研发背景...
  • 中国第一颗人造卫星:东方红一号卫星(1970年4.24发射)
    中国第一颗人造卫星:东方红一号卫星(1970年4.24发射)
    之前小编给大家讲解了神舟十三号什么时候发射的情况,那么大家知道中国第一颗人造卫星是什么吗?接下来大家就跟着小编一起去看看吧。 中国第一颗人造卫星 中国第一颗人造卫星是东方红一号卫星,在1970年4月24日成功发射。 研发背景 1957年10月4日,苏联发射了...
  • 白暨豚:古老的孑遗生物,有“水中大熊猫”之称
    白暨豚:古老的孑遗生物,有“水中大熊猫”之称
    白暨豚是中国特有的一种小型淡水鲸,非常珍稀,甚至有水中大熊猫这样的称呼,这足以见到它的珍贵,不仅如此,它还是我国古老的孑遗生物,不过由于现代人类各方面迅速发展,导致了一系列的环境变化,现在我们已经很少能见到它们了,那么,就让我们一起来了解...
  • 汶川大地震是几级地震:里氏震级8.0级,矩震级8.3级
    汶川大地震是几级地震:里氏震级8.0级,矩震级8.3级
    由于我国是一个地震多发国,因此,每年都有着大大小小的地震发生,给那些地方造成很大的经济损失,就比如发生于2008年的地震,相关损失十分惨重,那么,汶川大地震的地震级别到底是几级呢?让我们一切来了解一下吧! 汶川大地震是几级地震 汶川大地震的震级是...
  • 蒙托克飞马火星计划,能穿越时空前往未来火星基地
    蒙托克飞马火星计划,能穿越时空前往未来火星基地
    在上个世纪八九十年代,美国有过许多的秘密实验,而蒙托克计划便是美国在探索时空穿越所执行的计划,据说这个实验不仅能够穿梭到过去,还能够穿越到未来,据说前美国总统奥巴马也参与过蒙托克飞马火星计划,曾两次穿越到美国未来的火星基地。 美国的时空穿梭...
  • 天狼星是否比太阳大?天狼星的质量是太阳多少倍
    天狼星是否比太阳大?天狼星的质量是太阳多少倍
    导语:大家都知道宇宙是非常辽阔的,星系什么的都很多。地球也好太阳也好都是其中微小的组成部分。天狼星是除了太阳之外天空中最亮的恒星,那么天狼星和地球相比哪一个更大呢?和就爱奇闻小编一起了解一下吧。 天狼星是否比太阳大 天狼星确实比太阳更大,虽然天...
  • 火星有生物存在过吗?气候极度寒冷空气稀薄(暂未发现)
    火星有生物存在过吗?气候极度寒冷空气稀薄(暂未发现)
    火星环境和早期地球比较类似,人们认为它在过去可能和地球一样存在生命,但是经历了某些变革之后生命毁灭了。不过根据目前的研究来看,火星的环境相当恶劣,似乎没有生命存在的痕迹。...
  • 冥王星为什么不是行星,冥王星降级原因/太瘦是关键
    冥王星为什么不是行星,冥王星降级原因/太瘦是关键
    对于冥王星,大家肯定不陌生,因为它是目前为止第一个降级的存在,在2006年被科学家从太阳系九大行星中除名。对此,许多新科谜很好奇:冥王星为什么不是行星?接下来小编将为大家解惑,并顺带告诉大家冥王星的卫星、冥王星温度等方面的知识,一起去看看吧!...
  • 气态行星是什么意思,气态行星有陆地吗/由氢气氦气组成
    气态行星是什么意思,气态行星有陆地吗/由氢气氦气组成
    在太阳系中,行星有很多种,出名的有八大行星,而在这里面,有一种存在令许多人好奇,那就是气态行星!很多朋友听到后,都好奇:气态行星是什么意思?气态行星有陆地吗?是不是整个行星都是气态?对此,就由小编为大家解惑。 一、气态行星是什么意思 说到气...
  • 土星有多少卫星,土星卫星比地球大吗/60多颗都比地球小
    土星有多少卫星,土星卫星比地球大吗/60多颗都比地球小
    在科学界,对于土星的探索一直都未停止,目前为止已发现很多颗土星卫星,通过对这些卫星的探测,科学家认为其中有适合人居住的星球!接下来,通过对土星有多少卫星、土星卫星比地球大吗等问题,我们一起去详细了解一下土星卫星。 一、土星有多少卫星,60多颗...

科学探索

热门文章

今日最新