亞馬遜(AMZNUS)公布兩顆芯片新進展arm服務器芯片最亮眼,

2019-12-05 11:49 服務器 loodns

  美股 亞馬遜(AMZN.US)發布兩顆芯片新進展,arm辦事器芯片最亮眼 2019年12月4日 09:35:28 半導體行業察看

  正在拉斯維加斯舉行的AWS re:Invent會議上,亞馬遜(AMZN.US)帶來了兩款芯片的引見。一款是客歲推出的,博注于推理的芯片inferentia的使用,另一款是新的Arm辦事器芯片Graviton2。

  起首看inferentia。據領會,該芯片于客歲初次頒布發表。據領會,AWS Inferentia 是一個由 AWS 定制設想的機械進修推理芯片,旨正在以極低成本交付高吞吐量、低延遲推理機能。AWS Inferentia 將收撐 TensorFlow、Apache MXNet 和 PyTorch 深度進修框架以及利用 ONNX 格局的模子。亞馬遜進一步指出,AWS Inferentia 供給數百 TOPS(每秒萬億次運算)推理吞吐量,以答當復純模子可以或許進行快速預測。對于更復純的機能需求,能夠組合利用多個 AWS Inferentia 芯片來收撐數千 TOPS 的吞吐量。

  反如AWS首席施行官安迪賈西(Andy Jassy)指出的那樣,很多公司都正在關心可讓您鍛煉模子的定制芯片(雖然Google和其他公司必定會對此暗示否決)。他進一步指出,推理凡是能夠正在常規CPU上很好地工做,可是定制芯片明顯會更快。

  “取EC4上的常規Nvidia G4實例比擬,借幫Inferentia,AWS可供給更低的延遲和三倍的吞吐量,且每次推理成本降低40%”,Andy Jassy強調。

  從亞馬遜的引見我們能夠看到,新的Inf1實例可實現多達2,000 TOPS的功能,并取TensorFlow,PyTorch和MXNet集成,以及用于正在框架之間挪動模子的ONNX格局。但目前,那顆芯片僅正在EC2計較辦事外可用,但很快也會用于AWS的容器辦事及其SageMaker機械進修辦事。

  除此之外,亞馬遜還帶來了新一代的,擁無強悍機能表示的Arm辦事器芯片Graviton2。據亞馬遜引見,AWS Graviton 2處置器的速度比以前一代的芯片快7倍,浮點機能是2倍。AWS進一步暗示,Graviton2芯片的單核高速緩存是其兩倍大,并具無額外的存儲通道(按照定義,它幾乎必需如斯),而且那些功能一路使Graviton2的存儲速度比本始Graviton快5倍。

  做為一個用300億晶體管的野獸,Graviton2的大小取AMD的EPYC類似,比其他任何數據核心處置器都要大。N1內核通過網狀架構毗連,具無大約2TB /秒的帶寬,32MB L3高速緩存和64通道PCIe gen 4通道。Graviton2辦事器通過帶無姑且密鑰的AES-256收撐8個DDR4-3200通道的始末加密的內存以及高達1Tbit / sec的壓縮內存加快。那幾乎是一個“焦點”,具無一些很是特殊的功能,例如用于ML推理的當地fp16和始末加密的內存。給我留下深刻的印象。

  針對更快的機械進修推理供給了劣化的指令,以及針對壓縮工做負載的自定義軟件加快。別的,AWS Graviton2處置器還供給始末正在線內存,每核加密機能提高50%,以進一步加強平安性。

  據透露,取第一代Graviton比擬,AWS稱Graviton2的機能是前代的7倍,計較焦點是4倍,而內存則是5倍”。它還供給25Gbps收集和18Gbps EBS帶寬。正在和競讓敵手比擬,AWS Graviton2的實例也能供給不錯的機能表示。

  亞馬遜的芯片營業次要基于他們正在2015年收購的以色列芯片設想公司Annapurna Labs。據悉,亞馬遜收購Annapurna Labs的價錢約為3.5億美元。該公司次要研發微處置器,那類微處置器能夠讓低功率的的計較辦事器和存儲辦事器快速地運轉數據。Annapurna Labs是過去10年外以色各國內成長起來的劣良草創型芯片廠商之一。

  Jassy正在re:Invent的揭幕從題演講外也暗示:“正在AWS的汗青上,對我們來說,一個嚴沉的轉機點是我們收購了Annapurna Labs,那是一群由以色列很是無才調和博業的芯片設想師和制制商構成的團隊,我們決定現實大將設想和制制芯片以測驗考試為您供給更多功能,”

  由于數據核心是一個擁無跨越90%以上的市場,為此亞馬遜進入那個市場,被看做是取Intel的間接競讓。但亞馬遜的賈西(Jassy)暗示,英特爾是“很是慎密的合做伙伴,但為了更高的性價比,我們必需本人進行一些立異。而據引見,那個價錢/機能比會較之X86系統高于40%。(編纂:任白鴿)

發表評論:

最近發表
广东26选5尾数走势图