For AI agents: the complete documentation index is available at https://docs.dataplatform.ovh.net/ja/llms.txt, the full documentation bundle is available at https://docs.dataplatform.ovh.net/ja/llms-full.txt, and this page is available as Markdown at https://docs.dataplatform.ovh.net/ja/lakehouse-manager-lineage.md.
  • 🇯🇵 日本語
  • プロジェクト内のデータフローをLineageで追跡する

    Lineageは、LoadおよびAggregateアクション(PythonおよびPySpark)に対して自動的に記録され、SDKを通じてCustomアクションおよびノートブックに対してオプションで利用可能です

    目的

    Lineage は、プロジェクト内のデータフローを視覚的にマッピングする組み込みツールです。どのジョブが各テーブルにデータを供給し、そのジョブがどのテーブルを生成するか、そしてソースから目的地までのすべての接続を示します。このグラフは、ジョブが実行される際にプロジェクトが記録するOpenLineageイベントから構築され、インストールや設定は必要ありません。

    Lineageは、自動的に LoadおよびAggregateアクション(PythonおよびPySpark)に記録され、オプションで SDKを通じてCustomアクションおよびノートブックに記録されます。Trinoクエリ(Explorer、Analytics Manager)のLineageは、間もなく利用可能になります。下記のLineageイベントを生成する要素を参照してください。

    Lineage概要

    Lineageビューを開く

    テーブルのLineageにアクセスする方法は2つあります:

    • Lakehouse ManagerLineageセクションから:ページは検索バーで開き、プロジェクト内のすべてのテーブルを検索できます。Lineageを確認したいテーブルの名前を入力して選択し、そのグラフを表示します。
    • テーブルの詳細ビューから:そのテーブルが既に表示されているLineageページに移動するために、Lineageボタンをクリックします。
    Lineageビューを開く — Lineage検索

    グラフを探索する

    グラフは、選択したテーブルから始まります:中央ノードは青いアウトラインでマークされ、グラフの開始位置を常に把握できます。その周囲には、テーブルとジョブが表示されます:アップストリームのジョブとテーブル(そのテーブルを構築するために使用されるジョブとテーブル)と、ダウンストリームのすべて(そのテーブルから構築されるもの)。

    グラフは2種類のノードで構成されます:テーブルノードはその列をリスト表示し、ジョブノードはテーブルを読み書きすることでテーブルを相互に接続する実行です。

    Info

    グラフは空になることはありません:Lineageのないテーブルは単に接続なしで表示されます。Lineageはジョブ実行が完了するとすぐに表示されるため、新しい実行はすぐに表示されます。

    グラフを探索する — Lineage概要

    テーブルノード

    テーブルノードをクリックして、テーブルの詳細を表示します:データセット生成ジョブ(書き込み)消費ジョブ(読み込み)です。

    他のテーブルノードをクリックすると、その詳細が表示されますが、グラフは再中央に配置されません:異なるテーブルから始めるには、Lineage検索バーから選択してください。

    テーブルノード — Lineageテーブルノード

    ジョブノード

    ジョブノードをクリックして、接続の背後にある実行を表示します:

    詳細意味
    ジョブ名Lineageイベントを生成したジョブの名前
    種類DPE(アクション実行)、Lakehouse(テーブルが構築される際の自動読み込み)、またはSDK(独自のコードから発行されたカスタム追跡)
    アクションタイプLoadAggregate、またはCustom
    最終実行ステータスジョブが最後に実行された時刻と終了方法
    入力テーブル出力テーブルジョブが読み込んだものと書き込んだもの

    DPEおよびLakehouseジョブについては、詳細の下部にある直接リンクでジョブ自体を開くことができます。SDKジョブにはリンクがありません。これは、SDKヘルパーを通じて自分で発行したLineageであるためです。

    ジョブノード — Lineageジョブノード

    グラフコントロール

    右上のコントロールは、グラフに表示する内容を調整します:

    • フルグラフトグル:表示されている生産者と消費者に加えて、兄弟テーブルも表示します。
    • コンパクトノードトグル:列なしのノードの最小限のビュー。
    • 拡大縮小、および画面に合わせる
    • 深さ:グラフが表示するアップストリームとダウンストリームのレベル数、1から10(デフォルト:2);フローをさらに追跡するには増やしてください。

    列レベルのLineage

    テーブル間のフローに加えて、Lineageはがテーブル間でどのように接続されるかも追跡します:特定の列について、どのアップストリーム列から計算されるか、そしてどのダウンストリーム列がその列から計算されるかです。

    グラフ内のテーブルノードの列またはテーブル詳細の列をクリックして、列のLineageに切り替えます。Lineageが利用可能な場合、グラフは列をテーブル間で接続して、その関係を示します。独自のLineageを持たない列は独立して表示され、青いアウトラインでソロであることを示します。

    列レベルのLineage — Lineage列
    Info

    コンパクトノードが有効な場合、列レベルのLineageは利用できません:列をクリックするには、トグルをオフにしてください。

    Lineageイベントを生成する要素

    ソースLineage
    LoadおよびAggregateアクション(PythonおよびPySpark)自動的、列レベルの詳細付き
    Customアクション(PythonおよびPySpark)オプション:SDK Lineageヘルパーを使用してコードからイベントを発行
    ノートブック(PythonおよびPySpark)オプション、同じSDK Lineageヘルパーを使用
    Trinoクエリ(Explorer、Analytics Manager間もなく利用可能

    独自のLineageツールを使用する

    同じOpenLineageイベントをMarquezのような外部Lineageソリューションに転送できます。OpenLineageコンサマーを設定し、OpenLineageイベントを送信アクションをスケジュールして、それらをバックエンドにストリーミングします。

    さらに深く掘り下げる

    トレーニングや技術的なサポートが必要な場合は、営業担当者にお問い合わせください、またはこのリンクをクリックして見積もりを依頼し、プロフェッショナルサービスの専門家にプロジェクトのカスタム分析を依頼してください。

    質問をする、フィードバックを提供し、Data Platformを構築するチームと直接交流するには、専用のDiscordチャネルにアクセスしてください。

    OVHcloudサービスについてサポートが必要な場合は、ヘルプセンターでリクエストを作成してください。

    ユーザーコミュニティに参加してください。