データパイプラインとは?

データパイプライン」という言葉を聞くと、文字どおりデータが中を流れるパイプを想像するかもしれません。基本的には、そのとおりのものです。データ統合は、現代の企業が戦略的意思決定を改善し、競争力を高めるために不可欠です。データパイプライン内で発生する重要なアクションは、そのための手段です。

データパイプラインに対するニーズの高まり。

データがすさまじい速度で増加し続ける中、企業はデータの力を迅速に解き放ち、要求に迅速に対応するため、データパイプラインを使用しています。

The Definitive Guide to Data Integrationをダウンロードする
今すぐダウンロード

IDCによると、2025年までに、世界のデータの88~97%が保存されなくなります。これは、わずか数年後には、データの収集、処理、分析がメモリ内で、そしてリアルタイムで実行されるようになることを意味します。スケーラブルなデータパイプラインに対してニーズが高まっていますが、この予測はその背後にある多くの理由の1つにすぎません。

  • データ処理の高速化:データを処理する時間は確保しにくく、また経営者にとってデータ品質は最大の関心事です。欠陥データがあふれており、多くの場合に不完全、期限切れ、または不正確です。このデータ駆動の世界では、Excelなどのツールを使用してデータを修正するのに何時間も費やすことは、もはや選択肢にはなり得ません。
  • データエンジニアの不足:適格なデータサイエンティストが不足している状況であっても、企業は生産性の要求の流れを止めることができず、データ活用のための直感的なデータパイプラインのニーズが高まります。
  • 革新に追いつくのが難しい:多くの企業では、硬直的なレガシーのインフラストラクチャと、それに結び付いたスキルセットやプロセスが「足かせ」になっています。データの成長と進化に伴い、企業は絶えず変化する要件に容易に適応できるスケーラブルなデータパイプラインを求めています。

パイプラインのデータ。

一般的に、企業には何万ものアプリケーション、データベース、Excelスプレッドシートや通話ログなどのその他の情報ソースがあり、これらのデータソース間ですべての情報を共有する必要があります。ステークホルダーの期待が高まり続けるのに伴い、新しいクラウドやビッグデータのテクノロジーの急増もデータの複雑さを高めています。データパイプラインには、任意のソースからすべての生データを取り込み、知見にすぐに対応できるデータに迅速に変換することから始まる一連のアクションが含まれます。

再生 Getting Started With Data Integration in the Cloud をダウンロードする
今すぐ見る

データパイプラインの旅。

データパイプラインには、企業内のデータの「旅」全体が含まれます。データがパイプラインを通過するときに発生する4つの主要アクションは次のとおりです。

 

 

  1. 生データのセットの収集または抽出:データセットはデータの集合であり、任意の数のソースから取得できます。データは、データベースのテーブル、ファイル名、トピック(Kafka)、キュー(JMS)、ファイルパス(HDFS)など、幅広いフォーマットで提供されます。この段階では、データの構造や分類はありません。まさに「データダンプ」であり、このフォーマットでは意味を成しません。
  2. データの管理:データが収集されると、データを大規模に整理するための規律を設定する必要があります。この規律は、データガバナンスと呼ばれます。まず、生データをビジネスのコンテキストにリンクして意味を成すものにし、データの品質とセキュリティを制御し、大量消費のために完全に整理します。
  3. データの変換:データ変換では、データセットをクレンジングし、正しいレポートフォーマットに変換します。不要なデータや無効なデータは削除し、残りのデータは、データに対するビジネスのニーズによって決定される一連のルールと規制に従って強化されます。この段階でデータ品質とアクセシビリティを保証する標準には、次のものが含まれます。
    • 標準化:意味のあるデータと、そのデータのフォーマットおよび保存方法を定義します。
    • 重複排除:データスチュワードに重複が報告され、冗長データが除外/廃棄されます。
    • 検証:自動チェックを実行して、トランザクション時間やアクセスレコードなどの類似情報を比較します。検証では、使用できないデータがさらに除去され、システム、アプリケーション、またはデータの異常もマーク付け可能です。
    • ソート:ローデータ、オーディオ、マルチメディアなどのオブジェクトをグループ化してカテゴリーに分類することで、効率を最大限に高めます。変換ルールによって、各データがどのように分類され、どこに格納されるのかが決まります。これらの変換ステップは、かつては使用できなかった大量の素材を、適格なデータに切り詰めます。
    • データの共有:これで、変換された信頼できるデータを共有する準備が整いました。データは、多くの場合にクラウドデータウェアハウスまたはエンドポイントアプリケーションに出力され、使用されます。

データパイプラインとは?をダウンロードする
詳細

データ処理と統合に関して言えば、企業にとって時間はもはや贅沢品であり、それをまかなう余裕はなくなっています。すべてのデータパイプラインの目標は、データを統合して、できるだけリアルタイムに近い実用的なデータを利用者に提供することです。データパイプラインは、バッチジョブまたはストリーミングジョブを処理でき、現在および将来的に選択するクラウド/ビッグデータプラットフォームと互換性のある、反復可能なプロセスを使用して構築する必要があります。

詳細情報:

Talend Cloud Integration Platformは、データクオリティツールを提供し、これらのプロセスを自動化/簡素化して、迅速かつ簡単なデータ統合を実現します。任意のフォーマット、任意のソースでの使用が可能です。Talend Cloud Integrationには、高度なセキュリティ機能、900以上のコネクター、多数のデータ管理ツールが含まれ、統合が最初から最後までスムーズに実行されるように保証します。無償試用版を今すぐダウンロードして、データ品質の管理の負担から解放されましょう。

Talendが最近買収したStitchは、組織内のより多くの人々がより多くのデータを収集できるようにする補完的なソリューションを提供します。さらに、Talendを使用した管理、変換、共有が可能であり、あらゆるユーザーに迅速で優れた知見を提供します。

| 最終更新日時: October 25th, 2019