位置:有考网 > 计算机类 > 人工智能 > 人工智能技术的发展前景怎么样?  正文

人工智能技术的发展前景怎么样?

发布时间:2021-08-26 15:18:35来源:转载

人工智能技术的发展前景怎么样?世界较大芯片制造商大脑系统公司(Cebralas Systems)揭开了新架构的面纱,该架构能够支持比人脑更大的人工智能模型。目前较大的人工智能模型(如谷歌的Switch Transformer)是建立在大约1万亿个参数上的,大脑建议可以将其与大脑中的突触进行粗略的比较,大脑中的突触有100万亿个。通过综合利用各种技术(并在世界上较大的芯片晶圆级引擎2(WSE-2)的帮助下),大脑现在已经创建了一个能够支持超过120万亿参数的人工智能模型的单一系统。

脑尺度人工智能

目前,较大的AI模型由GPU集群提供动力,虽然GPU集群非常适合AI工作负载,但主要是为视频游戏的需求而设计的。大脑选择了一种不同的方法,开发专门为人工智能设计的大规模个人芯片。

一块WSE-2芯片只有晶圆大小,21厘米宽,由2.6万亿个晶体管和85万个AI优化核心组成。相比之下,较大的GPU直径不到3厘米,只有540亿个晶体管,核数减少了123倍。

通过使用公司较新的互连技术将许多CS-2系统(由WSE-2提供动力的机器)连接在一起,大脑可以支持更大的人工智能网络,其规模是大脑的许多倍。

“今天,塞伯拉斯通过将较大网络的规模增加100倍,推动了行业的发展,”塞伯拉斯首席执行官安德鲁·费尔德曼(Andrew Feldman)说该行业正在超越1万亿个参数模型,我们正在将这一界限扩大两个数量级,使大脑规模的神经网络具有120万亿个参数。”

Argonne国家实验室副主任Rick Stevens进一步阐述了性能和参数体积之间的关系,以及新的大脑系统可能开启的机会。

他说:“过去几年向我们表明,对于自然语言处理(NLP)模型,洞察与参数直接相关——参数越多,结果越好。”。

“大脑”的发明将使参数容量增加100倍,可能有可能改变该行业。这是我们第一次能够探索大脑大小的模型,为研究和洞察开辟了广阔的新途径。”

新技术

尽管WSE-2发挥着重要作用,但如果没有一些新的补充技术,新的CS-2集群系统是不可能实现的:权重流、内存X、SwarmX和可选稀疏性。

权重流被描述为一种软件执行架构,通过分解内存和计算,有效地提高了WSE-2芯片的潜在处理能力。它提供了在片外存储参数的能力,释放了WSE-2的容量,而不会产生通常困扰群集系统的延迟和带宽问题。

这些参数存储在外部MemoryX机柜中,该机柜将40GB片上SRAM内存扩展为高达2.4PB的额外内存,由于采用了新的SwarmX互连结构,该内存的性能与片上内存类似。

据赛伯拉斯称,SwarmX允许CS-2集群实现几乎线性的性能扩展(即,一组10台机器将提供比单个CS-2高10倍的性能),并可用于连接多达192个系统,使多达1.63亿AI优化核心的集群成为可能。

谜题的较后一个部分是可选择稀疏性,这是一种新型算法,据说可以通过减少求解所需的计算工作量来帮助CS-2更快地生成回答。

“这种技术组合将允许用户解锁大脑规模的神经网络,并轻松地将工作分配到大量人工智能优化核心集群上。有了这一点,大脑在模型大小、计算集群马力和编程简单性方面树立了一个新的基准。”Stevens说。

虽然目前能够利用大脑级人工智能系统的组织数量有限,但大脑已经为人工智能模型的范围和潜力的巨大飞跃奠定了基础,这些模型可以释放超出当前想象领域的机会。

唐山哪里有人工智能培训课程?
人工智能培训机构应该怎么选?
人工智能会对社会造成什么样的影响?
人工智能常见的误解有哪些?
人工智能属于IT吗?两者有什么区别?
西安新城有名的人工智能培训机构

相关内容: 人工智能 人工智能技术 人工智能发展前景

同类文章