负载已经融合,打破硅片却没有。异构这是芯片系列Imagination Technologies(以下简称“Imagination”)对当下边缘计算产业核心矛盾的判断,也是核心其GPU-First战略的出发点之一。为了更好地帮助产业克服这一挑战,重塑日前Imagination公布了其E系列GPU IP的边缘首批性能数据与演示结果,并推出全新的Neural Super Resolution(NSR,神经超分辨率)AI加速超分辨率解决方案。
Imagination CEO Markus Mosen表示:“计算的重心正在往GPU转移,通过将图形、计算和AI功能整合到一个可编程架构中,我们为芯片设计厂商提供了一款适合长期构建和演进的平台型处理器。归根到底就是两个字——效率,既是客户开发的效率,也是产品运行的效率。” Imagination CEO Markus Mosen
最后是本地大模型能力,理解E系列的LLM性能,需要区分LLM的两个阶段: Prefill(预填充)阶段,即“问”——处理输入提示词,为每个上下文token执行海量矩阵计算,决定首token生成时间(TTFT,Time to First Token); Decode(解码)阶段,即“答”——逐token生成回答,每个token都需要搬运数据、重载权重,吞吐量(tokens/s)高度依赖SoC的系统内存带宽。