プロジェクト内のデータフローをLineageで追跡する
Lineageは、LoadおよびAggregateアクション(PythonおよびPySpark)に対して自動的に記録され、SDKを通じてCustomアクションおよびノートブックに対してオプションで利用可能です
目的
Lineage は、プロジェクト内のデータフローを視覚的にマッピングする組み込みツールです。どのジョブが各テーブルにデータを供給し、そのジョブがどのテーブルを生成するか、そしてソースから目的地までのすべての接続を示します。このグラフは、ジョブが実行される際にプロジェクトが記録するOpenLineageイベントから構築され、インストールや設定は必要ありません。
Lineageは、自動的に LoadおよびAggregateアクション(PythonおよびPySpark)に記録され、オプションで SDKを通じてCustomアクションおよびノートブックに記録されます。Trinoクエリ(Explorer、Analytics Manager)のLineageは、間もなく利用可能になります。下記のLineageイベントを生成する要素を参照してください。
Lineageビューを開く
テーブルのLineageにアクセスする方法は2つあります:
- Lakehouse ManagerのLineageセクションから:ページは検索バーで開き、プロジェクト内のすべてのテーブルを検索できます。Lineageを確認したいテーブルの名前を入力して選択し、そのグラフを表示します。
- テーブルの詳細ビューから:そのテーブルが既に表示されているLineageページに移動するために、Lineageボタンをクリックします。
グラフを探索する
グラフは、選択したテーブルから始まります:中央ノードは青いアウトラインでマークされ、グラフの開始位置を常に把握できます。その周囲には、テーブルとジョブが表示されます:アップストリームのジョブとテーブル(そのテーブルを構築するために使用されるジョブとテーブル)と、ダウンストリームのすべて(そのテーブルから構築されるもの)。
グラフは2種類のノードで構成されます:テーブルノードはその列をリスト表示し、ジョブノードはテーブルを読み書きすることでテーブルを相互に接続する実行です。
グラフは空になることはありません:Lineageのないテーブルは単に接続なしで表示されます。Lineageはジョブ実行が完了するとすぐに表示されるため、新しい実行はすぐに表示されます。
テーブルノード
テーブルノードをクリックして、テーブルの詳細を表示します:データセット、列、生成ジョブ(書き込み)、消費ジョブ(読み込み)です。
他のテーブルノードをクリックすると、その詳細が表示されますが、グラフは再中央に配置されません:異なるテーブルから始めるには、Lineage検索バーから選択してください。
ジョブノード
ジョブノードをクリックして、接続の背後にある実行を表示します:
DPEおよびLakehouseジョブについては、詳細の下部にある直接リンクでジョブ自体を開くことができます。SDKジョブにはリンクがありません。これは、SDKヘルパーを通じて自分で発行したLineageであるためです。
グラフコントロール
右上のコントロールは、グラフに表示する内容を調整します:
- フルグラフトグル:表示されている生産者と消費者に加えて、兄弟テーブルも表示します。
- コンパクトノードトグル:列なしのノードの最小限のビュー。
- 拡大、縮小、および画面に合わせる。
- 深さ:グラフが表示するアップストリームとダウンストリームのレベル数、1から10(デフォルト:2);フローをさらに追跡するには増やしてください。
列レベルのLineage
テーブル間のフローに加えて、Lineageは列がテーブル間でどのように接続されるかも追跡します:特定の列について、どのアップストリーム列から計算されるか、そしてどのダウンストリーム列がその列から計算されるかです。
グラフ内のテーブルノードの列またはテーブル詳細の列をクリックして、列のLineageに切り替えます。Lineageが利用可能な場合、グラフは列をテーブル間で接続して、その関係を示します。独自のLineageを持たない列は独立して表示され、青いアウトラインでソロであることを示します。
コンパクトノードが有効な場合、列レベルのLineageは利用できません:列をクリックするには、トグルをオフにしてください。
Lineageイベントを生成する要素
独自のLineageツールを使用する
同じOpenLineageイベントをMarquezのような外部Lineageソリューションに転送できます。OpenLineageコンサマーを設定し、OpenLineageイベントを送信アクションをスケジュールして、それらをバックエンドにストリーミングします。
さらに深く掘り下げる
トレーニングや技術的なサポートが必要な場合は、営業担当者にお問い合わせください、またはこのリンクをクリックして見積もりを依頼し、プロフェッショナルサービスの専門家にプロジェクトのカスタム分析を依頼してください。
質問をする、フィードバックを提供し、Data Platformを構築するチームと直接交流するには、専用のDiscordチャネルにアクセスしてください。
OVHcloudサービスについてサポートが必要な場合は、ヘルプセンターでリクエストを作成してください。
ユーザーコミュニティに参加してください。

