OpenLineageを使用して外部ツールにラインナンスイベントを転送する
OpenLineageコンシューマーを使用すると、Data Platformプロジェクトで生成されたデータラインナンスイベントを選択した外部ラインナンスソリューションに転送できます
目的
OpenLineageコンシューマーを使用すると、Data Platformプロジェクトで生成されたデータラインナンスイベントを選択した外部ラインナンスソリューションに転送できます。接続後、プラットフォームは継続的にOpenLineage-準拠イベントをラインナンスバックエンドにストリーミングし、そこでデータラインナンスグラフを可視化および探索できます。
互換性の注意: 現在、Marquezのみが、Data PlatformのOpenLineageイベントと信頼性の高く動作することが検証されたラインナンスソリューションです。他のOpenLineage互換ツールはイベントを受信できますが、劣化した体験を提供する可能性があります。最適な結果を得るために、Marquezを使用することをお勧めします。
互換性のあるラインナンスソリューション
次のラインナンスソリューションは、Data Platformと動作することが検証されています:
OpenLineage HTTP APIエンドポイントを公開するツールは技術的には使用できますが、現在、Marquezのみが公式にサポートされています。
OpenLineageコンシューマーの設定
まだ行っていない場合は、Connectorsで新しいOpenLineageコンシューマーを追加します。そうでない場合は、編集します。
次の値を提供する必要があります:
ラインナンスコンシューマーを設定すると、すべてのラインナンスイベントはLakehouse Managerバケット DWHの下にopenlineage/events/queuedに保存されます。イベントは、Send OpenLineage Events DPEアクションが実行されるたびにラインナンスソリューションに転送されます。
DPEからラインナンスイベントを送信する
ラインナンスイベントは、Data Processing EngineのSend OpenLineage Eventsアクションによって転送されます。これを実行するように設定できます:
- クロンジョブとして: 固定スケジュールで (例: 毎時、毎夜)
- 常時実行アクションとして: 近実時間でラインナンスソリューションを同期させるために継続的に
設定の詳細については、Send OpenLineage Eventsドキュメントを参照してください。
カスタムアクションの場合、ラインナンスの追跡はオプションです。独自のPythonコードからラインナンスイベントを発行する方法については、Customアクションでデータラインナンスを追跡するを参照してください。
さらに詳しく
トレーニングや技術的なサポートが必要な場合は、営業担当者にお問い合わせください、またはProfessional Servicesページをご覧ください。見積もりをリクエストして、専門家がプロジェクトを分析するようにしてください。
Data Platformを構築するチームと直接質問し、フィードバックを共有し、交流するには、専用のDiscordチャネルをご利用ください。
OVHcloudサービスについてサポートが必要な場合は、Help Centreでリクエストを作成してください。
コミュニティに参加してください。

