한계를 밀어붙이는 힘:
가속화된 GPU
• 트렌드 기사
2023년부터 마켓에 출시되는 제품의 경우, 로고와 로고 위치 변경이 예정되어 있습니다. 이에 실제 제품은 사진 및 영상 속 이미지와 다를 수 있습니다.
공유 장소
생산성과 혁신의 물결을 일으킬 차세대 GPU 및 GPU 가속 소프트웨어
많은 조직이 데이터의 규모와 속도 처리라는 힘겨운 전투에서 고군분투하고 있습니다.
머신러닝(ML) 모델을 교육하든 대량의 데이터를 처리하든 일선의 분석가와 데이터 사이언티스트는 컴퓨팅 성능의 한계로 효율성이 저하되기 때문에 종종 좌절감을 경험합니다.
불행하게도 이러한 문제들은 점점 더 첨예해지고 있습니다. 한편으로는 연결된 기기와 빅데이터에서 실시간 가치를 추출해야 한다는 압박이 거세지고 있고, 다른 한편으로는 생성되는 데이터의 양이 급증하고 있습니다. IDC에 따르면 전 세계적으로 생성되는 데이터는 2025년까지 175제타바이트로 증가할 것이며 이는 2017년에 생성된 것보다 10배 증가한 수치입니다.1
또한 데이터 사이언티스트가 인사이트를 포착하기 위해 ML 모델을 점점 더 많이 사용함에 따라 많은 데이터 작업이 점점 더 복잡해지고 있어 교육 및 배포가 더 어려워지고 있습니다. 이는 CPU(중앙처리장치)가 주도하는 기존 분석 방식에 부담을 주고 혁신의 속도보다 앞서갈 하드웨어에 대한 수요를 부추기고 있습니다.
800억
2024년경 초과할 것으로 예상되는 GPU 시장 가치, Global Market Insights2
요컨대 데이터 사이언티스트는 더 큰 컴퓨팅 파워가 필요합니다. 이는 새로운 세대의 초강력 GPU(그래픽 처리 장치)와 GPU 가속 소프트웨어의 출현으로 정의될 새로운 가속 하드웨어 시대로의 전환을 이끌고 있습니다. 이러한 움직임은 생산성을 극대화하고 워크플로우를 가속화하며 ML의 잠재력을 최대한 활용하여 분석을 가속화함으로써 데이터 사이언티스트에게 새로운 가능성의 영역을 열어줍니다.
이 새로운 시대로의 전환은 이미 순조롭게 진행되고 있습니다. 최근 Global Market Insights 보고서에 따르면 GPU 시장만 해도 2024년까지 800억 달러 이상의 매출을 달성할 것으로 예상되며(2018년보다 31% 이상 증가) 이때까지 전 세계 GPU 업계의 출하량은 121,000대에 이를 것으로 예상됩니다.2 채택 비율이 증가함에 따라 달성할 수 있는 것에서도 큰 진전이 있을 것입니다.
Google은 CPU에서 GPU로 전환하여 AI 이미지 인식 교육 속도를 빠르게 추적할 수 있었습니다.
빠른 데이터 추적 워크플로우
이러한 추세의 대부분은 AI(인공지능)의 채택, 의료 및 자동차와 같은 부문의 ML 혁신, 사물 인터넷(IoT)의 부상이 크게 주도하고 있습니다. GPU 가속 분석이 빅데이터와 관련된 데이터의 양과 속도를 처리하는 방법을 제공하여 데이터 사이언티스트가 중요한 인사이트를 더 빠르게 파악할 수 있기 때문입니다.
Booz Allen Hamilton의 수석 데이터 사이언티스트 겸 상임고문인 Kirk Borne은 이렇게 말했습니다. "이 혁명 초기에 사람들은 비즈니스 속도에 맞춰 데이터를 관리하는 것에 대해 이야기했습니다. 이제 그 표현을 뒤집어야 할 것 같습니다. 데이터 속도에 맞춰 비즈니스를 수행해야 합니다.”
16,000
NVIDIA가 Google의 이미지 인식 시스템에 사용할 때 GPU 48개와 동일한 성능을 발휘하기 위해 필요했던 CPU 개수4
GPU가 이 문제의 답입니다. 게임에서 CPU의 그래픽 처리 부담을 덜어주기 위한 가속기로 시작한 GPU 아키텍처는 데이터 사이언스 워크로드를 가속화하는 데에도 똑같이 효과적임이 입증되었습니다.
상대적으로 단순한 코어를 가지고 있어 부동소수점 처리량에 최적화되어 있습니다. 그러나 수천 개의 하이엔드 칩이 있으므로 병렬로 동일한 계산을 대량으로 처리할 수 있습니다.3 대조적으로 CPU는 범용이며 애플리케이션 로직의 순차 처리에 최적화된 몇 개의 복잡한 코어만 가지고 있습니다. 이는 GPU가 모든 데이터에 대해 동일한 계산을 수행해야 하는 대용량 데이터세트를 분석할 때 분명한 이점이 있음을 의미합니다.
예를 들어 구글이 이미지 인식을 위해 AI 시스템을 개선하기 시작했을 때, 16,000개의 CPU를 사용하여 AI가 고양이 사진을 인식하도록 훈련했습니다. 그러나 GPU 제조사 NVIDIA와 협업했을 때는 GPU 48개로 거의 같은 성능을 구현했습니다.4
"데이터 사이언티스트뿐만 아니라 조직 전체의 생산성과 이익이 엄청날 것입니다.”
Todd Mostak
OmniSci의 CEO 및 공동 설립자
GPU로 전환하는 가장 큰 이유는 데이터 사이언티스트의 요구 사항과 이들이 처리하는 데이터 유형의 변화 때문입니다. 이로 인해 CPU에 특별한 과제가 부과됩니다. 예를 들어 소프트웨어 회사인 OmniSci에 따르면 오늘날 생성되는 데이터의 약 80%가 시간과 공간(시공간) 데이터를 포함하고 있는데, 여기에는 세분화된 수준의 신속한 분석이 필요하기 때문에 컴퓨팅 집약적입니다. 기존의 인덱싱 및 사전 집계 기술로는 달성하기 어렵기 때문에 CPU가 주도하는 대부분의 주류 비즈니스 인텔리전스 및 분석 시스템은 소량을 조금 넘어서는 분량의 시공간 데이터세트를 처리하는 것만으로도 어려움을 겪습니다.
또한 대용량 데이터를 처리할 때 기존 CPU 아키텍처는 하드웨어 설치 공간이 크고 데이터 '랭글링'에 상당한 리소스와 시간을 소비합니다. 이와 대조적으로 GPU 가속 데이터 분석은 전체 데이터세트를 '빨아들이는' 방식으로 다운샘플링, 인덱싱, 큐브화와 같이 가치가 낮은 작업을 방지합니다. GPU에서 제공하는 병렬 처리는 사전 컴퓨팅에 의존하지 않고 쿼리를 실시간으로 평가할 수 있음을 의미합니다.
OmniSci의 CEO이자 공동 설립자인 Todd Mostak에 따르면 이는 데이터 사이언티스트가 "호기심의 속도로" 작업할 수 있음을 의미합니다.
"민첩성과 반복 가능성에 가장 관심이 갑니다. 아이디어가 떠오르면 IT 부서에 가서 롤업된 데이터 버전을 얻기 위해 2주를 기다릴 필요가 없습니다. GPU를 사용하여 데이터를 쿼리하고, 레코드를 휘젓고, 풀백하고, 대화식으로 시각화하고 원하는 것(양호한 데이터, 불량 데이터)을 찾아 ML 파이프라인에 피드할 수 있습니다. 몇 시간 또는 며칠이 아니라 몇 분 안에 돌아옵니다. "데이터 사이언티스트뿐만 아니라 조직 전체의 생산성과 이익이 엄청날 것입니다.”
물류 회사인 UPS는 배송 효율성을 개선하기 위해 GPU 가속 분석을 사용하고 있습니다.
혁신 가속화
실시간 분석을 가능하게 하고 데이터 사이언티스트들이 고부가가치 작업에 더 많은 시간을 할애할 수 있도록 함으로써 GPU 기술의 발전도 혁신의 촉매제가 될 것으로 예상됩니다.
Domo의 엔터프라이즈 계정 책임자인 Jake Gardner는 "고급 데이터 사이언스에 GPU를 사용함으로써 큰 진전을 보게 될 것입니다."라고 언급했습니다. "신경망과 같은 고급 유형의 애플리케이션을 더 많이 수행하는 데 필요한 하드웨어에 점점 더 많은 사람들이 액세스할 수 있습니다.”
이미 초반에 많은 성공 사례가 있습니다. 예를 들어 물류에서 UPS와 같은 회사는 GPU 가속 분석을 사용하여 고객과 운전자, 그리고 여러 차량이 제공하는 빅데이터에서 가치를 추출합니다. 이 회사는 고급 알고리즘을 사용하여 기상 조건 및 사고에 대응하여 실시간으로 배달 트럭의 최적 경로를 찾는 자체 도구를 만들었습니다. 그 결과 수억 달러가 절약되고 고객 경험이 향상되었습니다.
1000배
NVIDIA가 예상하는 2025년경 GPU 성능 향상11
많은 부문이 변화할 때가 되었습니다. 금융 분야에서 자본시장 거래 회사는 시장 위험 보고와 관련하여 여러 문제에 직면해 있으며 FRTB(Fundamental Review of the Trading Book) 보고와 같은 새로운 규제 동인으로 인해 환경이 더욱 악화되고 있습니다. GPU 가속 데이터베이스 기술은 대화형 데이터 및 빅데이터 문제의 처리 시간을 크게 향상시킬 수 있습니다. CitiHub Consulting이 티어 1 투자은행과 함께 실시한 시험 결과 GPU는 단순한 쿼리의 경우 2.5배, 복잡한 쿼리의 경우 400배 이상까지 CPU 구성보다 뛰어난 성능을 보여주었습니다.5
마찬가지로 보험 분야에서는 현재 기업들이 CPU를 사용하여 보험 계리 의사 결정을 모델링하는 데 연간 수억 달러를 지출하고 있습니다. GPU 주도 접근 방식으로 전환하면 쉽게 혜택을 볼 수 있습니다. 이 부문의 다른 곳에서는 Ravin AI와 같은 신생 기업이 이미 시간이 많이 걸리는 차량 검사 프로세스를 자동화했습니다. 그 덕분에 자동차 보험사, 딜러, 렌탈 대행사는 GPU 기반 알고리즘을 통해 운전자의 휴대폰 이미지를 사용하여 실시간으로 손상을 평가합니다.
기상 데이터에서 미래 조건을 모델링하는 데에는 엄청난 양의 처리 능력이 필요하기 때문에 일기 예보는 어려운 영역으로 악명이 높습니다. GPU 가속은 처리력 향상에 중요한 역할을 하여 더 정확한 예측을 제공할 수 있습니다. 그리하여 전력 회사는 다양한 지역의 전력 수요를 더 정확하게 예측할 수 있고 농부들은 급격한 날씨 변화에 더 잘 대비할 수 있습니다.6
의료 분야에서도 데이터 사이언스의 GPU 가속이 이익을 가져다주는 영역이 많습니다. 생물학 정보와 의약품의 효과 사이의 숨겨진 패턴과 상관관계를 밝히려는 분석가들은 기존의 의학 분석 소프트웨어를 넘어서는 더 강력한 도구를 찾고 있습니다.7
석유 및 가스 탐사에서 기존의 지구물리학 분석 소프트웨어로는 시추공 성공 가능성을 결정하는 데 필요한 대량의 데이터를 분석하고 시각화하기가 어렵습니다. GPU 가속 분석은 풍부한 실시간 석유 물리 데이터를 사용해 시각화 기능을 개선하여 새로운 시추 기회를 알릴 수 있습니다.8
데이터 사이언스 프로세스 자체를 방해하는 방법도 있습니다. KDnuggets의 설립자이자 사장 겸 데이터 사이언티스트인 Gregory Piatetsky-Shapiro에 따르면, GPU 가속 분석을 통해 데이터 사이언티스트는 엄청난 양의 데이터를 처리하고 훨씬 더 정교한 AI를 구현하여 결국에는 많은 데이터 사이언스 프로세스를 완전히 자동화할 수 있습니다.9
전문가 시각
GPU로 비즈니스 의사 결정 가속화
Darren Seymour-Russell
Mudano 데이터 사이언스 책임자
“컴퓨팅 능력은 인사이트를 이끌어내는 핵심이며 경쟁자가 이용할 수 없는 이점입니다. 따라서 금융 서비스 분석 관점에서 GPU 가속 딥러닝 플랫폼에 대한 수요가 그 어느 때보다 증가하고 있습니다.”
Todd Mostak
OmniSci의 CEO 및 공동 설립자
"실제로 사람들이 실시간으로 대화식 처리가 될 것으로 기대할 것이기 때문에 GPU는 데이터 사이언스 분야를 극적으로 변화시킬 것이라고 생각합니다. 게다가 데이터 사이언티스트가 인간적인 휴식을 취하는 동안 기다릴 필요 없이 머신러닝 피드백 루프의 다음 단계로 자동으로 넘어가기 때문에 훨씬 더 빠르게 발전할 것입니다.”
AI에 맞게 최적화
특히 NVIDIA가 GPU 가속의 혁신을 주도하고 있습니다. 이 회사는 데이터 사이언스 워크로드에 필요한 수백만 개의 미세한 계산을 GPU가 처리할 수 있도록 하는 소프트웨어 개발을 통해 현재의 붐을 10년 이상 효과적으로 선점했습니다. 또한 딥 뉴럴 네트워크가 더 빠르고 에너지 효율적으로 학습 및 추론할 수 있는 기능을 추가하며 딥러닝에 사용할 GPU를 최적화하고 있습니다.
NVIDIA는 GPU 기술의 장점을 활용하기 위해 NVIDIA RAPIDS를 통해 데이터 사이언스 소프트웨어 생태계를 주도하고 있습니다. NVIDIA RAPIDS란 딥러닝, 머신러닝, 데이터 분석을 포함한 엔드 투 엔드 데이터 사이언스를 가속화하기 위한 NVIDIA GPU 가속 오픈소스 라이브러리 및 API 모음입니다. 소프트웨어 생태계는 GPU의 성능을 발휘하는 데 매우 중요합니다.
데이터세트와 ML 모델은 시간이 지남에 따라 점점 더 커지고 복잡해질 것이기 때문에 GPU는 계속해서 더 빠르고 강력해져야 합니다.
Wave Computing의 공동 설립자이자 최고기술책임자(CTO)인 Chris Nicol은 "차세대 AI 하드웨어 솔루션은 엣지 애플리케이션에서 점점 더 많이 사용되고 있는 정교한 교육 모델의 요구를 충족시키기 위해 더욱 강력하고 동시에 경제적이어야 합니다."라고 말합니다.10
NVIDIA는 GPU의 커다란 진보를 목도하고 있습니다. 그래픽과 AI를 위한 새로운 GPU 아키텍처는 컴퓨팅 파워가 계속 상승해 2025년에는 1,000배 이상의 성능을 기대할 수 있을 것으로 전망했습니다.11
"차세대 AI 하드웨어 솔루션은 엣지 애플리케이션에서 사용되는 모델을 위해 더욱 강력하고 동시에 경제적이어야 합니다.”
Chris Nicol
Wave Computing의 공동 설립자 겸 최고기술책임자
하드웨어 균형 맞추기
GPU와 같은 AI 및 ML 가속기가 CPU를 대체하는 것이 아니라는 점도 알아야 합니다. 대부분의 경우 CPU는 여전히 애플리케이션 로직을 처리하는 데 필요한 반면 GPU는 필요한 곳에서 고부하 작업을 제공합니다. 이러한 이유로 CPU와 GPU의 조합은 시스템 성능과 가격, 전력 면에서 최고의 가치를 제공할 것입니다.
Inseego Corp의 AI 및 ML 책임자인 Amit Marathe는 "CPU 코어와 GPU 코어의 조합이 이상적"이라며, "제가 아는 거의 모든 팀은 데이터 사이언스와 머신러닝을 병렬로 수행합니다. 두 가지를 결합하고 CPU와 GPU 가속기를 하나의 시스템에 넣어 모든 팀이 사용할 수 있도록 하이브리드 솔루션으로 제공하는 것이 좋습니다.”라고 말합니다.
Mostak 역시 GPU 또는 CPU 어느 한쪽을 선택하는 것으로 여겨서는 안 된다고 합니다. 그는 "일부 워크로드는 GPU에서 실행되고 일부는 CPU에서 실행되는 하이브리드 컴퓨팅 시나리오를 수용하는 사람들이 점점 더 많아지는 컴퓨팅 컨버전스를 보게 될 것"이라고 말했습니다.
NVIDIA는 새로운 차원의 전문 워크스테이션인 데이터 사이언스 워크스테이션을 도입했습니다. 이 플랫폼은 현재 AI 워크로드를 가속화하기 위한 Tensor 코어를 포함하는 최신 Quadro GPU와 완전한 GPU 가속 소프트웨어 스택을 결합하여 데이터 사이언스를 위한 통합 하드웨어 및 소프트웨어 솔루션을 제공합니다. 데이터 사이언스 워크스테이션은 데이터 사이언스 프로젝트를 신속하게 시작하고 실행하며, 데이터 사이언스 워크플로우에 필요한 다중 애플리케이션 및 다중 라이브러리 소프트웨어 설치를 구축하고 유지 관리하는 시간 소모적인 작업을 제거합니다.12
NVIDIA의 글로벌 비즈니스 개발 책임자 Geoffrey Levene에 따르면 데이터 작업을 위한 이러한 '개인용 샌드박스'가 있으면 데이터 사이언티스트에게 큰 도움이 됩니다. "그들은 GPU 가속 워크플로우를 사용하여 하루 만에 일주일치 작업을 수행할 수 있음을 알게 되었습니다.”
미래의 동력
가까운 미래에는 차세대 GPU가 지배적인 가속기가 될 것으로 보입니다. 향후 몇 년 안에 특정 시장에 최적화된 모델로 다변화된 GPU 시장을 보게 될 것입니다. Z by HP의 AI 및 데이터 사이언스 책임자 Jared Dame은 "미래에는 실제로 AI 기술의 전문화를 위해 다양한 부문과 업종에서 간소화된 특수 하드웨어 및 소프트웨어가 증가할 것"이라고 말했습니다. “금융은 특정 워크플로우를 간소화하는 자체 하드웨어/소프트웨어 조합을 갖게 될 것이며 생명공학은 여기서 조금 다른 조합, 그 외 다른 부문도 다들 조금씩 다른 조합을 갖게 될 것입니다.
“GPU를 예로 들어 보겠습니다. 지금은 일반적으로 모든 작업을 수행하는 데 적합하기 때문에 GPU는 진화할 것입니다. 그리고 5년 후 여전히 그 기술의 일부를 볼 수 있겠지만 실제로는 업그레이드된 버전 10개로 확장될 것입니다. 하나는 금융을 위한 디자인이고 다른 하나는 생명공학 연구를 위한 디자인입니다. 보안, 시각적 이미지 인식, 자연어 처리 등을 위한 각각의 디자인이 생길 것입니다.”
기업들이 데이터 사이언티스트와 분석가를 유입하고 유지하기 위해 경쟁하는 만큼 인재에게 최고의 하드웨어를 제공해야 할 필요성은 그 어느 때보다 명확해졌습니다. 분석 기능이 지속적으로 향상됨에 따라 올바른 인사이트를 신속하게 얻기 위한 경쟁도 더욱 심화될 것입니다..
기업은 GPU를 사용함으로써 계산 비용에서 수백만 달러를 절약하고 더 정확한 결과를 얻을 수 있습니다. 가속기 혁신의 속도를 계속 유지하면 훨씬 더 큰 진전으로 이어질 것입니다.
지금은 일반적으로 모든 작업을 수행하는 데 적합하기 때문에 GPU는 진화할 것입니다. 5년 후에는 금융이나 생명공학 등 각 분야를 위한 디자인이 생길 것입니다.
Jared Dame
Z by HP의 AI 및 데이터 사이언스 책임자
전망
GPU 기술은 더 나은 문제 해결책을 찾기 위해 ML 모델을 개발하려는 데이터 사이언티스트에게 이미 강력한 추진력을 제공하고 있습니다. 경쟁업체보다 앞서 나가려는 기업에게는 올바른 결정을 내릴 수 있도록 올바른 하드웨어를 보유한 팀이 필요합니다.
주요 내용
GPU는 ML 워크로드에 사용되는 계산 유형에 최적화되어 있습니다.
GPU의 발전은 향후 5년간 성능 향상을 주도할 것입니다.
기업은 의사결정을 추진하는 데 적합한 하드웨어를 보유하고 있는지 확인해야 합니다.
충분히 강력한 하드웨어를 보유하면 유능한 데이터 사이언티스트를 유지하는 데 도움이 됩니다.
관련 글
• 트렌드 기사
데이터 분석: 클라우드에서 네트워크 엣지로
새롭게 부상하는 기술과 강력한 새 분석 모델의 세상에서 속도는 정확성 못지않게 중요하며, 이는 엣지와 클라우드를 포함하는 하이브리드 전략으로 이어집니다.
• 트렌드 기사
Z by HP 데이터 사이언스 워크스테이션 및 소프트웨어
HP의 고성능 워크스테이션에는 데이터 사이언스 워크플로우를 가속화하는 업계 최고의 하드웨어 및 소프트웨어가 포함되어 있습니다.
제품 살펴보기
탁월한 성능을 발휘하는
인텔® 제온®
및 인텔® 코어™ i9 프로세서
질문이 있으신가요?
세일즈 서포트에 문의하세요.
소셜 미디어에서 Z by HP 팔로우
제품 선택에 도움이 필요하신가요?
제품에 대한 지원이 필요하신가요?
면책 고지
- https://www.seagate.com/files/www-content/our-story/trends/files/idc-seagate-dataage-whitepaper.pdf
- https://www.globenewswire.com/news-release/2019/01/29/1706699/0/en/Graphic-Processing-Unit-GPU-Market-to-cross-80bnby-2024-Global-Market-Insights-Inc.html
- https://www.datascience.com/blog/cpu-gpu-machine-learning
- https://www.wired.co.uk/article/nvidia-artificial-intelligence-gpu
- https://www.youtube.com/watch?v=0L9KxV5WfQo
- https://www.hpcwire.com/2019/01/09/ibm-global-weather-forecasting-system-gpus/
- https://www.omnisci.com/solutions/use-case/clinical-trial-analysis
- https://www.omnisci.com/solutions/use-case/well-logging-formation-evaluation
- https://blogs.thomsonreuters.com/answerson/future-of-data-science
- https://emerj.com/partner-content/artificial-intelligence-hardware-adopt-first/
- https://www.nextbigfuture.com/2017/06/moore-law-is-dead-but-gpu-will-get-1000x-faster-by-2025.html
- https://www.digitalengineering247.com/article/the-rise-of-data-science-workstations
4AA7-7927ENW, 2020년 7월
- https://www.seagate.com/files/www-content/our-story/trends/files/idc-seagate-dataage-whitepaper.pdf
제품은 표시된 이미지와 다를 수 있습니다.
제품 이미지는 단지 설명을 위한 것으로 나라별로 제품 가용성과 색상이 다를 수 있습니다.
여기에 포함된 정보는 사전 통지 없이 변경될 수 있습니다.HP 제품 및 서비스에 대한 유일한 보증 사항은 해당 제품 및 서비스와 함께 제공되는 보증서에 명시되어 있습니다.여기에 설명된 내용 중 어느 것도 추가적인 보증을 제공하지 않습니다. HP는 여기에 포함된 기술적, 편집상 오류나 누락에 대해 책임을 지지 않습니다.
인텔, 인텔 로고, 코어, 제온은 미국 및 기타 국가에서 Intel Corporation 또는 그 자회사의 상표 또는 등록 상표입니다. Microsoft 및 Windows는 미국 및/또는 기타 국가에서 Microsoft Corporation의 상표 또는 등록 상표입니다. NVIDIA, NVIDIA 로고, NVIDIA NGC, NVIDIA Omniverse, NVIDIA RAPIDS, NVIDIA RTX는 미국 및 기타 국가에서 NVIDIA Corporation의 상표 및/또는 등록 상표입니다. Linux®는 미국 및 기타 국가에서 Linus Torvalds의 등록 상표입니다.AMD는 Advanced Micro Devices, Inc.의 상표입니다.