Clouderaは、NVIDIAのCUDA-Xライブラリ「cuDF」を活用し、Apache Spark 4.1のネイティブGPUアクセラレーションに対応しました。
Cloudera Data Engineeringで、既存のPySparkやSQLコードを変更せずにSparkワークロードをGPUで高速化できます。
データ準備やETL処理の時間を短縮し、AI・分析向けパイプラインの高速化とクラウドインフラコストの削減を支援します。
記事の概要
Clouderaは2026年8月20日、Cloudera Data EngineeringでApache Spark 4.1のネイティブGPUアクセラレーションに対応したと発表しました。
NVIDIAのCUDA-Xライブラリ「cuDF」をSparkワークロードに活用し、NVIDIA GPU上でCPUベースのインフラと比べて最大4倍の処理性能を実現します。
利用企業は、既存のPySparkやSQLコードを書き換えずに、Apache Sparkのデータ処理をGPUで高速化できます。
高速化の対象は、分析やAIに必要なETL処理やデータ準備です。
処理時間を短縮することで、クラウドインフラコストの削減を支援します。
ドライバーを手動設定せずに導入でき、Cloudera Unified Data Fabricによるセキュリティとガバナンスも維持できます。
パブリッククラウド、プライベートクラウド、ソブリンクラウド、オンプレミスに対応し、ハイブリッド環境全体で利用できます。
この機能はCloudera Anywhere Cloudの一環として提供され、Apache Spark向けNVIDIA cuDFプラグインは同サービスに対応する予定です。
記事のポイント
- コード変更なしで高速化: 既存のPySparkやSQLコード、運用ワークフローを変更せずに、Spark処理をNVIDIA GPUで高速化できます。
- 最大4倍の処理性能: NVIDIA cuDFを活用し、CPUベースのインフラと比べて最大4倍の処理性能を実現します。
- ハイブリッド環境に対応: クラウドやオンプレミスなど環境を問わず、セキュリティとガバナンスを保って利用できます。
このニュースがもたらす影響
- 導入検討企業: GPU利用がコード改修や運用変更の負担で止まっていた企業では、既存Spark処理のどこを対象にすれば時間短縮とコスト抑制を両立できるか、環境別に検証する必要がありそうです。
- データ基盤担当者: AIや分析の担当者はモデル開発だけでなくETL・データ準備も改善対象と捉え、処理時間の短縮が各チームの着手速度やクラウド費用にどう波及するかを測ることが求められそうです。
- 同業サービス提供者: GPU対応の価値を演算性能だけでなく、既存コードとの互換性や導入時の設定、ハイブリッド環境でのガバナンスまで含めて示せなければ、導入候補企業との比較で不利になる可能性があります。
このニュースの背景
企業でAI活用が広がる一方、大量のデータをAIや分析に利用できる状態へ迅速に整えることが課題になっています。
大規模なSparkワークロードではデータ処理に数時間を要するケースがあり、分析やAIアプリケーションの実行遅延に加えて、クラウドコンピューティングコストの増加にもつながっています。
Clouderaの調査では、回答者の84%がAIワークロードの増加に伴ってインフラコストが上昇したと回答しており、データ準備の高速化とコスト抑制を同時に進める必要性が高まっています。
関連するニュース
- Clouderaがマルチクラウドとオンプレミスに対応するAI基盤を発表しました。
- IBMとTogether AIが2億4,000万米ドルの複数年契約を結び、IBM Cloudに大規模なオープンソースAI推論基盤を構築します。
- Snowflakeは、タスクごとのモデル選択とAI利用量・支出管理をCortex AI Gatewayに追加します。
詳しい記事の内容はこちらから(引用元)
Cloudera株式会社のプレスリリース(2026年8月20日 18時10分)Cloudera、NVIDIAとの連携によ…
https://prtimes.jp/main/html/rd/p/000000061.000124537.html