地面覆盖,代理型AI追踪增强…谷歌Vertex AI原生支持

robot
概要作成中

アプリケーション可観測性スタートアップのGroundcoverは、「AI可観測性」機能を大幅に拡張しました。今回のアップデートでは、エージェント型AIシステムの追跡能力を強化し、Google CloudがホスティングするAIプラットフォーム「Google Vertex AI」と完全に互換性のあるネイティブサポートを新たに追加しました。

この拡張の焦点は、大規模言語モデル(LLM)を実運用環境に迅速に導入する過程で企業が直面する「可視性の空白」を埋めることにあります。既存の可観測性ツールは、多くの場合、従来のルールに従って動作するソフトウェアを前提として設計されており、プロンプトや応答がリアルタイムで変化するAIシステムに対しては明らかな制約があります。そのため、開発チームやプラットフォーム運用チームは、どの入力がどの結果を引き起こしたのか、応答の変化の理由、コストの発生場所や金額を把握しづらい状況です。

これらの課題を解決するために、Groundcoverは機能を強化し、LLMとのインタラクションの全体的なコンテキストをキャプチャし、複雑化する多段階AIシステムにおける結果生成の過程を追跡できるようにしました。同社は特に、運用環境内で追加の検出作業を行うことなく、迅速に可観測性を適用できる点を強調しています。

Groundcoverのプロダクト副社長のOr Benjaminは次のように述べています。「顧客からは、LLM呼び出しが運用可観測性チームの視野外にあるとの声が多く寄せられています。彼らは、プロンプト、応答、コストを理解する体系的な方法を望んでいます。既存の可観測性のニーズを超えた大規模で重要なビジネスAIの監視ニーズに対応するために、私たちはAI可観測性を開発しました。」と説明しています。

エージェント追跡可視性

今回のアップデートで最も注目される変更は、「エージェント追跡可視性」です。この機能により、モデル呼び出しごとに加え、ツールの実行過程、パラメータ、結果、そして推論の経路も同時に確認できるようになりました。複数のステップを含むエージェント型AIワークフローを運用する企業にとっては、問題の原因究明やパフォーマンス向上がより容易になります。

コスト管理機能の強化

コスト管理機能も拡充されました。新たに追加された正確なコスト帰属機能は、プロンプトのキャッシュを考慮し、トークンコストを詳細な実行単位レベルで追跡することを目的としています。この機能は、通常の入力トークン、キャッシュ作成トークン、キャッシュ読み取りトークンを区別し、最新のLLM APIの複雑な課金構造をより正確に反映します。これにより、チームは特定のエージェント実行やセッションで実際に発生したコストをより明確に把握できるようになります。

Google Vertex AIのサポート

さらに、Google Vertex AIのサポートも新たに追加されました。これにより、Google Cloud上でAIサービスを構築する企業は、追加の検出作業なしに関連する可観測性データを自動的に収集できるようになりました。同社は、すべての可観測性データが顧客自身の環境内に保持されるよう設計されており、安全性とデータのコントロール性を両立させていると述べています。

GroundcoverのAI可観測性機能は、現在、すべての顧客に対して一般的に自動展開されています。同社は、4月22日から24日にかけて開催された「Google Cloud Next」イベントでこれらの新機能をデモンストレーションしたとしています。

AIサービスが実験段階を超え、実運用環境に進む中、「AI可観測性」は単なる監視の枠を超え、品質、コスト、信頼性管理の中核領域へと成長しています。この機能拡張は、企業がエージェント型AIをより安定的に運用するための基盤を拡充する施策と見なされています。

TP AI注意事項 本文はTokenPost.aiの言語モデルを用いて要約されたものです。本文の主要内容は省略されている場合や実際と異なる場合があります。

このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし
  • ピン