For AI agents: the complete documentation index is available at https://docs.dataplatform.ovh.net/ja/llms.txt, the full documentation bundle is available at https://docs.dataplatform.ovh.net/ja/llms-full.txt, and this page is available as Markdown at https://docs.dataplatform.ovh.net/ja/connectors-consumers-openlineage.md.
  • 🇯🇵 日本語
  • OpenLineageを使用して外部ツールにラインナンスイベントを転送する

    OpenLineageコンシューマーを使用すると、Data Platformプロジェクトで生成されたデータラインナンスイベントを選択した外部ラインナンスソリューションに転送できます

    目的

    OpenLineageコンシューマーを使用すると、Data Platformプロジェクトで生成されたデータラインナンスイベントを選択した外部ラインナンスソリューションに転送できます。接続後、プラットフォームは継続的にOpenLineage-準拠イベントをラインナンスバックエンドにストリーミングし、そこでデータラインナンスグラフを可視化および探索できます。

    Open lineage consumer
    Info

    Data Platformには組み込みのラインナンスビューアも含まれています。詳細は、Lakehouse ManagerのLineageを参照してください。OpenLineageコンシューマーは、同じイベントを独自のラインナンスソリューションに取り込みたいチーム向けです。詳細は、下記の互換性のあるツールを参照してください。

    Warning

    互換性の注意: 現在、Marquezのみが、Data PlatformのOpenLineageイベントと信頼性の高く動作することが検証されたラインナンスソリューションです。他のOpenLineage互換ツールはイベントを受信できますが、劣化した体験を提供する可能性があります。最適な結果を得るために、Marquezを使用することをお勧めします。

    互換性のあるラインナンスソリューション

    次のラインナンスソリューションは、Data Platformと動作することが検証されています:

    ツール説明
    MarquezOpenLineageにネイティブに構築されたオープンソースメタデータサービス

    OpenLineage HTTP APIエンドポイントを公開するツールは技術的には使用できますが、現在、Marquezのみが公式にサポートされています。

    OpenLineageコンシューマーの設定

    まだ行っていない場合は、Connectorsで新しいOpenLineageコンシューマーを追加します。そうでない場合は、編集します。

    次の値を提供する必要があります:

    フィールド必須説明
    エンドポイントURLはいラインナンスソリューションのOpenLineage APIのHTTP(S) URL (例: https://marquez.example.com/api/v1/lineage)
    認証トークンいいえラインナンスバックエンドへのリクエストを認証するために使用されるベアラートークン。認証が必要ない場合は空白のままにします
    イベントを保持するいいえtrueの場合、イベントは送信後に履歴のためにバケットに保存されます。そうでない場合は削除されます。 (デフォルト: false)
    Trinoイベントを無効にするいいえtrueの場合、Trinoクエリ (Explorer、Analytics Manager) で生成されたラインナンスイベントはラインナンスバックエンドに転送されません。DPEアクション (Load、Aggregate、Custom) からのイベントのみが送信されます。バッチラインナンスのみを気にする場合は、このオプションを使用してノイズを減らします。 (デフォルト: false)
    Configure the OpenLineage consumer — Open lineage consumer configure

    ラインナンスコンシューマーを設定すると、すべてのラインナンスイベントはLakehouse Managerバケット DWHの下にopenlineage/events/queuedに保存されます。イベントは、Send OpenLineage Events DPEアクションが実行されるたびにラインナンスソリューションに転送されます。

    DPEからラインナンスイベントを送信する

    ラインナンスイベントは、Data Processing EngineのSend OpenLineage Eventsアクションによって転送されます。これを実行するように設定できます:

    • クロンジョブとして: 固定スケジュールで (例: 毎時、毎夜)
    • 常時実行アクションとして: 近実時間でラインナンスソリューションを同期させるために継続的に

    設定の詳細については、Send OpenLineage Eventsドキュメントを参照してください。

    Info

    カスタムアクションの場合、ラインナンスの追跡はオプションです。独自のPythonコードからラインナンスイベントを発行する方法については、Customアクションでデータラインナンスを追跡するを参照してください。

    さらに詳しく

    トレーニングや技術的なサポートが必要な場合は、営業担当者にお問い合わせください、またはProfessional Servicesページをご覧ください。見積もりをリクエストして、専門家がプロジェクトを分析するようにしてください。

    Data Platformを構築するチームと直接質問し、フィードバックを共有し、交流するには、専用のDiscordチャネルをご利用ください。

    OVHcloudサービスについてサポートが必要な場合は、Help Centreでリクエストを作成してください。

    コミュニティに参加してください。