Cloudflare, NVIDIA 가속 컴퓨팅으로 하이퍼 로컬 AI 추론을 지원

샌프란시스코, 2023년 9월 27일 – 클라우드 연결성을 선도하는 회사 Cloudflare, Inc. (NYSE: NET)는 오늘 자사의 글로벌 네트워크에 엔비디아 이더넷 스위치를 통합하고 엣지에 엔비디아 GPU를 배치하여 전 세계 사용자들에게 AI 추론 컴퓨팅 파워를 제공할 것이라고 발표했습니다. NVIDIA의 전체 스택 추론 소프트웨어도 NVIDIA TensorRT-LLM 및 NVIDIA Triton Inference 서버까지 포함하여 제공하고, 이를 통해 대규모 언어 모델을 포함한 AI 응용 프로그램의 성능은 더욱 가속화합니다.

오늘부터 모든 Cloudflare 고객은 인프라를 사용하여 더 빠르고 규정을 준수하는 AI 응용 프로그램과 서비스를 제공하기 위해 로컬 컴퓨팅 파워에 액세스할 수 있습니다. 이번 발표로 조직은 Cloudflare를 통해 처음으로 대규모 AI 워크로드를 실행하고 필요할 때 컴퓨팅 성능 비용을 지불할 수 있게 되었습니다.

AI 추론의 개념은 최종 사용자가 AI를 경험하는 방식을 의미하며, 이는 AI 워크로드의 주축이 될 것입니다. 현재 조직의 GPU 수요는 막대합니다. 전 세계 300개 이상의 데이터 센터를 보유한 Cloudflare는 글로벌 규정을 준수하면서 사용자에게 신속한 경험을 제공할 수 있습니다.

Cloudflare는 전 세계 모든 조직이 관리 또는 확장, 최적화, 안전한 배포를 걱정하지 않고 NVIDIA GPU와 네트워킹, 추론 소프트웨어의 지원 속에 AI 모델 배포에 착수할 수 있도록 할 것입니다.

"네트워크상의 AI 추론은 수많은 기업에 중요한 기회가 될 것입니다. 개인 데이터는 물리적 위치와 관계없이 사용자와 밀접한 관계를 유지하므로 운영 비용을 매우 효율적으로 절감할 수 있습니다."라고 Cloudflare의 CEO 겸 공동 창립자 Matthew Prince는 이야기했습니다. “당사의 전역 네트워크에 통합된 NVIDIA의 최첨단 GPU 기술 덕분에 당사는 과거에는 많은 고객이 이용할 수 없었던 AI 추론을 전 세계에서 합리적인 가격으로 이용할 수 있게 되었습니다.”

“NVIDIA의 추론 플랫폼은 차세대 생성형 AI 응용 프로그램을 구동하는 핵심입니다.”라고 NVIDIA의 하이퍼스케일 및 HPC 담당 부사장 Ian Buck는 설명합니다. “Cloudflare에서 사용할 수 있는 NVIDIA GPU 및 NVIDIA AI 소프트웨어로, 기업은 반응형 새로운 고객 경험을 만들고 모든 산업에서 혁신을 이끌 수 있게 됩니다.”

• 오늘 Cloudflare는 선불 비용 없이 전 세계에서 생성형 AI 추론에 접근 가능하도록 지원합니다. NVIDIA GPU를 글로벌 에지 네트워크에 배포함으로써 이제 Cloudflare는 다음을 제공합니다.
• 2023년 말까지 100개 이상의 도시에서 추론 작업에 NVIDIA GPU를 사용할 수 있게 되어 모든 최종 사용자에게 대기 시간이 짧은 생성형 AI 경험을 제공할 것입니다. 또한 2024년 말까지 전 세계 거의 모든 곳으로 Cloudflare의 네트워크를 확장할 예정입니다.
• 고객 데이터가 있는 곳이면 어디에서든 가까이에서 컴퓨팅 파워에 액세스할 수 있도록 하여 고객이 직면할 수 있는 잠재적인 규정 준수 및 규정 요건을 예측할 수 있습니다.
• 이제 모든 기업은 비용 효율적인 종량제 컴퓨팅 파워를 통해 사용하지 않을 GPU에 대한 막대한 선불 요금 부담 없이 최신 AI 혁신을 이용할 수 있습니다.

더 알아보려면, 다음 자료를 확인하세요:

• Workers AI에 대한 액세스를 예약하기 위해 등록하세요
• 블로그: Workers AI: Cloudflare 네트워크의 GPU에서 실행되는 추론 클라우드
• 블로그: 지역 내 최고의 위치: 추론을 위한 기반
• AI.cloudflare.com에서 Cloudflare로 전체 스택 AI 애플리케이션을 구축하는 방법을 알아보세요

Cloudflare 정보

Cloudflare, Inc. (NYSE: NET)는 주요 클라우드 연결성 회사입니다. Cloudflare의 지원을 통해 조직은 직원, 애플리케이션, 네트워크를 어디서나 더 빠르게 운영하고 더 안전하게 보호할 수 있습니다. Cloudflare의 클라우드 연결성은 클라우드 네이티브 제품과 개발자 도구 기능을 포함하는 통합 플랫폼을 제공하여 모든 조직이 비즈니스를 수행, 개발, 가속화할 수 있는 제어 기능을 확보할 수 있도록 합니다.

가장 상호 연결성이 좋은 세계 최대의 네트워크를 기반으로 Cloudflare에서는 고객을 위해 매일 수십 억 건의 온라인 위협을 차단합니다. 가장 규모가 큰 브랜드, 기업가, 중소기업, 비영리단체, 인권 그룹, 전 세계의 정부 등 수 많은 조직에서 이 회사를 신뢰합니다.
Cloudflare의 클라우드 연결성에 대한 자세한 정보를 확인하려면 cloudflare.com/connectivity-cloud를 참조하세요. 최신 인터넷 동향과 인사이트에 대한 자세한 정보를 확인하려면 https://radar.cloudflare.com를 참조하세요.

당사 팔로우하기: Blog | X | LinkedIn | Facebook | Instagram

미래지향적 진술

본 언론 발표에는 1933년 증권법 개정본의 섹션 27A와 1934년 증권거래소법 개정본의 섹션 21E에 정의된 상당한 위험 및 불확실성을 포함하고 있는 진술인 미래지향적 진술이 포함되어 있습니다. '할 수 있음', '할 것임', '할 가능성이 있음', '할 것으로 예측됨', '살펴볼 예정임', '계획하고 있음', '기대하고 있음', '가능성이 있음', '하려 함', '목표로 함', '예상함', '고려함', '믿음', '추정함', '예측함', '가능성', 또는 '계속해서' 등의 단어, 해당 단어의 부정형 또는 Cloudflare의 예측, 전략, 계획 또는 의도와 관련된 유사한 단어 또는 표현을 통해 미래지향적 진술이 확인되는 경우가 있습니다. 하지만, 모든 미래지향적 진술에 이와 같이 확인할 수 있는 단어가 포함되지는 않습니다. 이 보도 자료에 표시되거나 암시된 미래지향적 진술에는 Cloudflare 제품과 기술의 역량 및 효율성에 대한 진술, Cloudflare 제품과 기술이 고객에게 주는 이점, 현재 및 잠재적인 모든 Cloudflare 고객이 Cloudflare 제품과 기술 기능을 보편적으로 이용할 수 있는 시점, Cloudflare의 기술 개발, 향후 운영, 성장, 이니셔티브나 전략, Cloudflare CEO 및 기타 인원의 발언 등이 포함되지만, 이에 국한되지는 않습니다. Cloudflare에서 2023년 8월 3일 양식 10-Q에 작성해서 제출한 Cloudflare의 분기 보고서 및 기타 SEC에 주기적으로 제출할 제출물 등을 포함하는 증권거래위원회(SEC) 제출물에 명시된 위험이 포함되나 이에 국한되지 않는 여러 이유 때문에, 실제로 나오게 될 결과는 미래지향적 진술에서 표현되거나 암시된 결과와 크게 다를 수 있습니다.

본 언론 발표에서 이루어진 미래지향적 진술은 진술이 이루어진 날짜 이전에 발생한 사건에만 관계됩니다. 법적으로 요구되는 경우를 제외하고, Cloudflare는 본 언론 발표에서 사용한 미래지향적 진술을 언론 발표 시점 이후 발생한 사건 및 현황, 새로운 정보 또는 예측 불가능했던 사건의 발생 등을 반영해 갱신할 의무를 지니지 않습니다. Cloudflare는 자사의 미래지향적 서술문에서 공개한 계획, 의도 또는 예측을 달성하지 못할 가능성이 있으며, Cloudflare의 미래지향적 진술을 과도하게 신뢰해서는 안 됩니다.

© 2023 Cloudflare Inc. 판권 소유. Cloudflare, Cloudflare 로고 및 기타 Cloudflare 마크는 미국 및 기타 관할 지역에서 Cloudflare, Inc.의 상표 혹은 등록 상표입니다. 본 문서에 언급된 모든 기타 마크 및 이름은 각 소유주의 상표일 수 있습니다.