Cognitiv、エッジ環境にAI推論を導入 | エクイニクス customer story
10ミリ秒未満
レイテンシの時間100万件以上
1秒あたりのリクエスト数CognitivがエッジでAIを活用して瞬時の広告判断を可能に
アドテックプロバイダのCognitiv(Cognitiv.ai)は、エクイニクスのデータセンターでディープラーニングを活用した広告配信プラットフォームを運用しており、エッジでのAI推論を最適化するために必要なハードウェアを超低レイテンシで完全に制御しています。リアルタイム入札のようなレイテンシの影響を受けやすいAIアプリケーションでは、わずかな遅延であっても結果に大きな影響を与える可能性があるため、超低レイテンシは戦略的な要件となります。
その結果、同等のパブリッククラウド環境よりも大幅に低コストで毎秒数百万件のトランザクションを処理できるようになります。エッジ展開とインフラストラクチャへのハイブリッドアプローチを組み合わせることで、Cognitivは純粋なクラウドベースモデルよりもパフォーマンス、制御、コストの最適なバランスを実現しています。
エクイニクスのハイパフォーマンスデータセンターを採用したのは当然の選択でした。これにより、完全な制御が可能になるだけでなく、レイテンシも最小限に抑えることができるからです。
Michael Goncalves氏 Cognitiv、Engineering Operations、Director
アドテックの世界では、1ミリ秒単位の差が勝負を分ける
ディープラーニングを活用した大手アドテック企業のCognitivは、10年以上にわたり、ディープラーニングとAIを利用してデジタル広告の配信を最適化してきました。Cognitiv社エンジニアリング オペレーション担当ディレクタのMichael Goncalves氏は、「AIが時流に乗り始めた時点で、弊社はAIに乗り換えただけではありませんでした」と、述べています。
デジタル広告では、入札リクエストがミリ秒単位で評価され、処理されるため、意思決定をリアルタイムで行う必要があり、レイテンシはパフォーマンスを左右する重要な要素となります。同社の独自開発による次世代ディープラーニング広告プラットフォーム(DLAP)が効果的に機能するためには、きわめて低いネットワークレイテンシに加え、1ミリ秒未満の計算に対応できる専用のハードウェアが必要となります。このプラットフォームは、膨大な量の入札リクエストを評価し、ディープラーニングモデルをリアルタイムで適用して、最適な広告配信を決定できます。
AI向けインフラストラクチャの最適化
「パブリッククラウドや従来のオンプレミスインフラストラクチャでは、これらの要件を満たすことは実質的に不可能です」とGoncalves氏は述べています。その理由として、こうした環境ではネットワークのレイテンシが高く、ハードウェアに対する制御が限られていることを挙げています。
パブリッククラウド環境では、予測不可能なレイテンシが発生する可能性があり、特定のAIワークロード向けにハードウェアのパフォーマンスを微調整する機能が制限されることがあります。
Equinixとの提携により、Cognitiv社は複雑で画期的なAIモデルの推進に必要な低レイテンシと完全なハードウェア制御を実現しました。
Cognitivは、ユーザーやデータソースに近い場所に推論インフラストラクチャを導入することで、レイテンシを最小限に抑え、リアルタイムの応答性を実現しています。
Equinix AI対応データセンターを利用して、Cognitiv社は世界の複数の地域でAI推論ワークロードを実行しています。このハイブリッドなアプローチにより、Cognitivはクラウドの拡張性とプライベートインフラストラクチャのパフォーマンスおよび制御を両立できます。顧客と同じ施設にコロケーションすることで、1秒あたり数百万件の入札申請をリアルタイムで評価し、エンドツーエンドのレイテンシを1桁と低いレベルに維持することができます。
AI規模での運用
エクイニクスのデータセンターは、Cognitiv(Cognitiv.ai)のディープラーニングプラットフォームのパフォーマンスを飛躍的に向上させるだけでなく、同社の事業規模の拡大や顧客基盤の拡大にも貢献しています。グローバルに分散されたインフラストラクチャにより、Cognitivはプラットフォームをパートナーや顧客に近づけることができ、世界中で一貫したパフォーマンスを確保しています。Cognitiv(Cognitiv.ai)は、クライアントやパートナーが利用しているのと同じデータセンターにワークロードを配置することで、自社サービスのアドオンとして、レイテンシを最小限に抑えたソリューションを提供できます。
メリット
最小限のレイテンシ
エンドツーエンドに1桁台の低レイテンシ率を達成。ユーザーの近くに推論インフラストラクチャを導入することで、時間的制約のあるAIワークロードの意思決定をほぼ瞬時に行うことができます。
コスト最適化
ハードウェア全体で、主要なクラウドに比べて総ライフタイム コストを大幅に低減。ハイブリッドインフラストラクチャモデルは、高価なパブリッククラウドリソースへの依存度を低減しつつ、長期的な運用コストを最適化します。
ハードウェア性能の向上
サービスのキャッシング要件に最適に調整されたNoSQLデータベースおよびメモリに対する高いストレージパフォーマンス。ハードウェアを完全に制御できるため、Cognitivは特定のAI推論ワークロードに合わせてインフラストラクチャを微調整できます。
リアルタイムのAI応答性
エッジベースの推論により、プラットフォームはレイテンシのボトルネックなしで毎秒数百万件のイベントを処理して対応できます。