개요
새로운 데이터 수요
엔터프라이즈를 혁신하기 위해 AI 에이전트는 데이터에 지속적으로 액세스해야 하며, 이는 에이전틱 추론 루프를 위해 설계되지 않은 데이터 인프라에 부담을 가하고 있습니다.
NVIDIA cuDF 및 NVIDIA cuVS를 통해 비정형 및 정형화 데이터 처리를 가속화함으로써, 기업은 수년간 투자한 데이터 인프라를 활용하는 동시에 AI로 인한 새로운 볼륨과 속도 데이터 요구 사항을 충족할 수 있습니다.
세계에서 가장 인기 있는 데이터 엔진은 가속 컴퓨팅 플랫폼에서 실행되며, 에이전트는 테이블에 있는 정형화된 데이터와 엔터프라이즈 전반에 걸쳐 PDF, 이메일, 이미지 및 영상으로 존재하는 비정형화된 데이터에 액세스할 수 있도록 지원합니다.
장점
AI를 위한 데이터 혁신
대규모 성능 향상
이 가속 컴퓨팅 플랫폼은 데이터 처리 속도를 최대 20배까지 향상시켜 기업이 새로운 사용 사례에 대해 더 빠르게 조치를 취할 수 있도록 지원합니다.
대폭 비용 절감
NVIDIA 최적화 스택에서 실행함으로써 조직은 비용을 80% 이상 절감했으며, 데이터 인프라가 더 적은 비용으로 더 많은 것을 수행할 수 있도록 지원합니다.
쉬운 도입
아파치 스파크, OpenSearch 등을 포함한 세계에서 가장 인기 있는 분석 및 벡터 데이터 엔진에는 도입을 간단하게 할 수 있도록 드롭인 가속기가 있습니다.
AI 준비 데이터
NVIDIA cuVS를 통해 PDF, 메시지 및 이메일에 저장된 엔터프라이즈 데이터의 90%에 대한 컨텍스트와 NVIDIA cuDF를 통해 몇 분 만에 처리되는 테라바이트급 정형 데이터의 그라운드 트루스를 통해 데이터는 에이전틱 AI를 사용할 준비가 되었습니다.
제품군
데이터 처리를 위한 CUDA-X
cuDF 및 cuVS는 데이터 처리 에코시스템을 가속화하기 위해 고도로 최적화된 CUDA® 프리미티브를 기반으로 구축된 CUDA-X™ 툴킷입니다.
채택 업체
데이터 처리 에코시스템
분석 SQL 쿼리부터 벡터 검색에 이르기까지, 조직들은 AI 지원 파이프라인을 가속화하기 위해 NVIDIA의 가속 컴퓨팅 플랫폼을 기존 데이터 플랫폼에 도입하고 있습니다.
NVIDIA Vera의 데이터 처리
에이전틱 AI 워크로드를 대규모로 실행하는 기업의 경우 AI 에이전트는 구조화된 엔터프라이즈 데이터에 대한 동시 지속적인 소규모 쿼리를 크게 증가시킵니다. NVIDIA Vera는 1.2 TB/s의 메모리 대역폭과 고속 온칩 패브릭을 갖추고 있으며, 로드 하에서도 코어당 성능, 높은 처리량 및 예측 가능성을 제공하여 쿼리 볼륨과 속도의 증가를 지원합니다. Starburst 분석 엔진의 경우 NVIDIA Vera는 x86 대비 3배 더 빠르게 쿼리를 처리하여 쿼리 실행을 분 단위에서 초 단위로 단축했으며, Redpanda 스트리밍 엔진은 x86 대비 p99에서 6배의 성능 향상을 보여 데이터 엔진의 신뢰성을 높였습니다.
공개 예정.
리소스
데이터 처리의 최신 소식
-
블로그
-
세션
-
비디오
