A |
本报8月24日讯 今天晚上，中国致公党济南市第八次代表大会完成各项议程并闭幕。 英伟达高管最新宣布，Groq 3 LPX机架已进入全面量产阶段，这标志着该公司史上最大规模收购案所获得的技术正式实现商业化。中共济南市委常委、统战部部长张勇强出席会议并讲话。
B | 当地时间周一（8月24日），英伟达高级总监Dion Harris表示，Groq机架将与Vera中央处理器和Rubin图形处理器一同部署在新型云服务商Nebius的数据中心，并将于今年晚些时候上线。 英伟达加速生产Groq芯片并向客户提供产品，凸显出低延迟推理的重要性日益提升。 会议听取并审议致公党济南市第七届委员会工作报告。低延迟推理能够让AI智能体更快响应，避免用户长时间等待，在编程等应用中尤其重要。审议通过致公党济南市第八次代表大会决议。 Harris说道，云服务商可以针对这类token（词元）收取更高费用，“对于那些提供token服务的企业而言，这让他们能够为那些对延迟极其敏感的用户和客户提供高级服务套餐。” 去年12月，英伟达与Groq达成200亿美元交易，获得了Groq的芯片技术授权，多位核心员工也加入了英伟达，创始人Jonathan Ross更是担任了英伟达首席软件架构师。 大会号召，致公党全市各级组织和广大党员要更加紧密地团结在以习近平同志为核心的中共中央周围，高举习近平新时代中国特色社会主义思想伟大旗帜，致力为公跟党走、侨海报国建新功，奋力谱写济南致公事业发展新篇章，为加快建设“强新优富美高”新时代社会主义现代化强省会作出新的更大贡献。 今年3月，英伟达发布了为Vera Rubin平台研发的推理加速器Groq 3 LPX。
C | 会议选举产生了致公党济南市第八届委员会领导班子，姜明当选主任委员，卢林、李明、刘新宇、张贵军、史会剑当选副主任委员，任命姚爱雨为秘书长。
D | Groq架构在芯片裸片上集成了500兆字节的高速静态随机存储器（SRAM），以减少与内存相关的瓶颈。 据了解，Groq芯片由三星制造，而英伟达的GPU则由台积电生产。
E | 张勇强在闭幕会上代表中共济南市委讲话，希望新一届致公党市委会团结带领全体党员，赓续优良传统，勇担时代使命，认真履职尽责，推动济南致公党事业接续发展。
F | 坚定信念、赓续薪火，当好多党合作的忠实践行者。发挥优势、汇聚侨力，当好开放发展的积极助推者。每一个LPX机架可整合256颗Groq 3，英伟达援引Artificial Analysis的基准测试称，整合后的机架每秒可处理3400个token。强基提能、锤炼作风，当好自身建设的躬身实践者，为加快建设“强新优富美高”新时代社会主义现代化强省会作出新的更大贡献。
G | 
当下， 这一领域竞争激烈。AMD今年早些时候宣布，将把其机架级系统与Cerebras的芯片进行整合。Cerebras近期刚刚上市，业务重点同样是低延迟推理。 近期，OpenAI推出的“Ultrafast”模式承诺每秒可处理750个token，由Cerebras提供支持。 需要指出的是，低延迟芯片并不能取代作为AI芯片主力的GPU。GPU既能够执行训练，也能够进行推理，同时具备足够的灵活性，可以适应新技术和新模型。 Groq这类低延迟芯片则主要专注于模型服务中的一个环节，即“解码”（decode）阶段。
H | Harris也提到：“这并不是要取代GPU，而是要针对工作负载的不同环节，使用价格合适、处理能力合适的处理器。” 英伟达目前正在加快Vera Rubin系统的出货速度。黄仁勋先前曾预计，到2027年，当前一代Blackwell芯片和新一代Vera Rubin系统的累计销售额将达到1万亿美元。 黄仁勋当时表示，他计划将面向编程应用的数据中心空间中约四分之一分配给Groq芯片。“我的数据中心其余部分将100%采用Vera Rubin。”（文章来源：财联社）。
Current article:http://d9g4z.gangzhengganfouanlou.pics/list_o73c/nlq.html
Published on:06:06:23
