资讯
雷递网 乐天 8月15日英伟达竞争对手、新锐AI企业、Groq日前宣布完成6.4亿美元D轮融资,估值达到28亿美元。此轮融资由贝莱德私募股权合伙人管理的 ...
目前Groq的技术已部署于美国、加拿大和沙特的数据中心。 这一布局凸显出,在全球AI算力竞赛中,专业化推理芯片正成为打破传统巨头垄断的新赛道。
Groq制造芯片所需的晶圆成本相对较低,可能不超过每晶圆6000美元。 相比之下,英伟达的H100芯片采用TSMC定制的5nm工艺生产,每晶圆成本约为16000美元。
人工智能半导体初创公司 Groq 周一宣布,已在欧洲建立了其首个数据中心,以加快其国际扩张步伐。Groq 公司获得了三星和思科 (CSCO.US)的投资部门的 ...
通信世界网消息 (CWW) 人工智能半导体初创公司Groq周一宣布,它已在欧洲建立了首个数据中心,正在加快国际扩张步伐。Groq由三星和思科的投资部门支持表示,该数据中心将位于芬兰赫尔辛基,并与Equinix合作。继其他美国公司加大对欧洲的投资之后,Groq也希望利用欧洲对人工智能服务日益增长的 ...
Groq芯片能在速度上取胜的核心技术是LPU 根据其模型的首次公开基准测试结果,Groq云服务搭载的Llama2或Mistreal模型在计算和响应速度上远超ChatGPT。
Groq LPU在LLMPerf排行榜上超越了基于GPU的云服务提供商(如英伟达)。由Groq LPU驱动的Meta Llama 2模型推理性能是顶级云计算供应商的18倍,在大语言模型任务上,LPU比英伟达的GPU性能快10倍,但价格和耗电量都仅为后者的十分之一。
Groq的响应时间也是最少的,接收100个token后输出只有0.8秒。 另外,Groq已经运行了几个内部基准,可以达到每秒300个token,再次设定了全新的速度标准。
Groq是一家开发芯片以比传统处理器更快地运行生成式 AI 模型的初创公司,该公司周一表示,已在由 Blackrock 领投的新一轮融资中筹集了 6.4 亿美元 ...
由于Groq对外提供100万个token的免费试用,看了Groq相关新闻后,锌产业最近也在Groq官网上试用了它的服务,响应速度确实没话说,几乎就是整段、整 ...
一夜之间,初创公司Groq爆火,其在同名模型启动器上运行的大模型,能够每秒输出近500个token,输出速度比Gemini快10倍,比GPT-4快18倍。
Groq表示,基于其LPU芯片的云服务器在Llama2或Mistreal模型在计算和响应速度上远超基于NVIDIA AI GPU的ChatGPT,其每秒可以生成高达500个 token。
当前正在显示可能无法访问的结果。
隐藏无法访问的结果