为什么GPU正在改变分析型工作负载?多年来,人工智能一直依赖GPU来加速复杂的工作负载。如今,同样的技术开始改变分析领域。随着团队处理更多数据并支持更多的AI工作负载,基于传统CPU的分析扩展成本越来越高。GPU加速引入了一种新方法,让CPU和GPU更好地协同工作。
在本视频中,我们将探讨分析型工作负载的成本与性能为何发生变化、GPU如何融入现代分析体系,以及这预示着数据处理未来更广泛的转变。现代分析型工作负载正在发生根本性变化。团队在同一平台上处理数十亿条记录、支持数千名用户,并为AI应用准备数据。然而,所有使用大型数据集的人都会发现:随着数据量的增长,查询执行速度会变慢。
因此,业界开始重新思考如何执行分析型工作负载。GPU加速提供了一种新方法,在不改变用户编写SQL或数据分析方式的前提下,同时提升性能和基础设施效率。
GPU加速分析并非取代CPU;根据数据的大小和形态,CPU可能仍然更快(如本图所示)。或者采用一种称为异构计算的方法,让CPU和GPU协同工作。主机在CPU上运行,处理传入的查询并返回结果。根据工作负载的性质,它可能使用CPU或GPU来执行查询。
CPU继续协调查询执行并管理整体工作流程,而GPU则加速分析型工作负载中受益于并行计算的高度并行部分。关键问题是:为什么GPU突然在分析领域变得重要?答案归结为并行性。许多分析工作负载对海量数据执行相同的操作,而这正是GPU被设计用来解决的问题。让我们看看三个原因:
第一,GPU和CPU在设计上具有不同的优势。CPU极其强大,依靠少量核心运行。它们执行复杂指令、管理应用程序并协调工作负载的能力非常出色。GPU则不同,它包含数千个较小的处理单元,擅长并行处理事物。
与取代CPU相比,GPU是对它们的补充(如本概览图所示)。总体而言,GPU能提供更高的计算密度,从而在单位计算成本下提供更好的性能(当然,这取决于工作负载的性质)。
第二个原因是分析型工作负载具有高度并行性。许多SQL操作在数百万或数十亿行数据上重复相同的计算。您可能在进行过滤、分组或聚合。假设您正在选择数据,从多个表中选取,并包含诸如WHERE过滤之类的条件;中间可能还有ON或连接等额外操作;最后可能对数据进行分组或排序。
根据您的SQL引擎,这些操作可以并行执行而非逐一进行,这使得它们非常适合GPU加速。第三个原因是更好的性能改变了经济模型。真正的益处不仅仅是让查询执行得更快,还要确保成本保持低位。因为查询执行时间越长,成本就越高。
它改变了计算效率和执行特性:当查询更快完成时,基础设施运行时间更短,更多用户可以共享相同的计算资源,每次执行的计算成本随之降低。因为洞察结果更快到达,性能与成本同步提升。这是计算执行模型的一种架构转变。
GPU加速并非旨在取代现有的分析平台,而是演进分析引擎的工作负载执行方式。工作负载将继续增长,但计算能力和成本约束不会以相同的速度增长。这就是为什么分析的未来不能仅依赖CPU。相反,我们将拥有协同工作的CPU和GPU,让团队能够交付得更快。