Unitat de processament de dades
Una unitat de processament de dades (DPU) és un processador informàtic programable que integra estretament una CPU d'ús general amb el maquinari d'interfície de xarxa.[1] De vegades s'anomenen "IPU" (per a "unitat de processament d'infraestructura") o "SmartNIC".[2] Es poden utilitzar en lloc de les NIC tradicionals per alleujar la CPU principal de responsabilitats de xarxa complexes i altres tasques "infraestructurals"; tot i que les seves característiques varien, es poden utilitzar per realitzar xifratge/desxifratge, servir com a tallafocs, gestionar TCP/IP, processar sol·licituds HTTP o fins i tot funcionar com a hipervisor o controlador d'emmagatzematge.[1] Aquests dispositius poden ser atractius per als proveïdors de computació en núvol els servidors dels quals podrien gastar una quantitat significativa de temps de CPU en aquestes tasques, reduint els cicles que poden proporcionar als convidats.[1]
Els centres de dades d'IA a gran escala són un cas d'ús emergent per a les DPU. En aquests entorns, s'han de moure ràpidament grans quantitats de dades entre CPU, GPU i sistemes d'emmagatzematge per gestionar càrregues de treball complexes d'IA. En descarregar tasques com el processament de paquets, el xifratge i la gestió del trànsit, les DPU ajuden a reduir la latència i a millorar l'eficiència energètica, permetent que aquests centres de dades mantinguin l'alt rendiment i l'escalabilitat necessaris per a les operacions avançades d'aprenentatge automàtic.
A més del seu paper en l'acceleració de les funcions de xarxa i emmagatzematge, alguns proveïdors i proveïdors de núvol descriuen les DPU com un "tercer pilar de la informàtica", reflectint el seu paper creixent en les arquitectures modernes de centres de dades. A diferència dels processadors tradicionals, una DPU normalment resideix en una targeta d'interfície de xarxa, cosa que permet que les dades es processin a la velocitat de línia de la xarxa abans que arribin a la CPU. Aquest enfocament descarrega tasques crítiques però de nivell inferior del sistema, com ara la seguretat, l'equilibri de càrrega i l'encaminament de dades, del processador central, alliberant així les CPU i les GPU per centrar-se en la lògica de les aplicacions i els càlculs específics de la IA.
Terminologia
[modifica]El terme DPU va ser encunyat per primera vegada per Nvidia després d'anunciar el llançament de la BlueField-2 DPU, la successora de la Mellanox BlueField SmartNIC després de la seva adquisició[3] per part de Nvidia.
Exemples de DPU
[modifica]DPU d'Azure Boost
[modifica]El 2024, Microsoft va presentar l'Azure Boost DPU, una unitat de processament de dades dissenyada a mida per optimitzar l'eficiència de la xarxa i la infraestructura a la seva plataforma de núvol Azure. Aquesta DPU descarrega les tasques relacionades amb la xarxa, com ara el processament de paquets, l'aplicació de la seguretat i la gestió del trànsit, de les CPU centrals, cosa que permet un millor rendiment per a les càrregues de treball de les aplicacions.[4][5]
Característiques principals
[modifica]- Optimització de xarxa: la DPU Azure Boost millora el rendiment de la xarxa i redueix la latència processant paquets de dades i descarregant aquestes tasques de les CPU tradicionals.[6]
- Capacitats de seguretat: Integra tècniques d'aïllament avançades per assegurar entorns multiinquilí, protegint càrregues de treball sensibles.[7]
- Adaptabilitat a hiperescala: Dissenyada per a centres de dades a gran escala, la DPU és compatible amb la infraestructura a hiperescala d'Azure, garantint l'escalabilitat per a les aplicacions de núvol modernes.[8]
Context de la indústria
[modifica]La DPU Azure Boost s'alinea amb la tendència del desenvolupament de silici personalitzat en entorns de núvol a hiperescala. De manera similar a les DPU Nitro System d'AWS i BlueField d'NVIDIA, la DPU de Microsoft se centra en millorar l'eficiència del núvol alhora que aborda les creixents demandes d'energia i seguretat.[9]
Impacte en la computació al núvol
[modifica]La introducció de les DPU reflecteix un canvi més ampli en la indústria de la computació en núvol cap a la descàrrega de funcions específiques dels processadors d'ús general al maquinari especialitzat.[10][11]
Referències
[modifica]- 1 2 3 Davie «SmartNICs, IPUs, DPUs de-hyped: Why and how cloud giants are offloading work from server CPUs». , 24-11-2021.
- ↑ Sharwood «Google Cloud upgrades with next-gen accelerator that embiggens its VMs». , 23-05-2023.
- ↑ «APKWS Laser-Guided Rocket» (en anglès).
- ↑ «Enhancing Infrastructure Efficiency with Azure Boost DPU» (en anglès). Microsoft Tech Community, 19-11-2024. [Consulta: 19 novembre 2024].
- ↑ «Microsoft debuts custom chips to boost data center security and power efficiency» (en anglès). VentureBeat, 19-11-2024. [Consulta: 19 novembre 2024].
- ↑ «New in-house chips round out Microsoft's portfolio» (en anglès). TechCrunch, 19-11-2024. [Consulta: 19 novembre 2024].
- ↑ «Microsoft debuts custom chips to boost data center security and power efficiency» (en anglès). VentureBeat, 19-11-2024. [Consulta: 19 novembre 2024].
- ↑ «Enhancing Infrastructure Efficiency with Azure Boost DPU» (en anglès). Microsoft Tech Community, 19-11-2024. [Consulta: 19 novembre 2024].
- ↑ «Microsoft debuts custom chips to boost data center security and power efficiency» (en anglès). VentureBeat, 19-11-2024. [Consulta: 19 novembre 2024].
- ↑ «Enhancing Infrastructure Efficiency with Azure Boost DPU» (en anglès). Microsoft Tech Community, 19-11-2024. [Consulta: 19 novembre 2024].
- ↑ «Microsoft debuts custom chips to boost data center security and power efficiency» (en anglès). VentureBeat, 19-11-2024. [Consulta: 19 novembre 2024].