Create Custom Steps Without Writing Code with Pipes コミュニティで開発中のPipesとは
Posted by Eric Poilvet on 02 September 2021 03:57 PM |
|
Are you someone who’s more comfortable working in Graphical User Interface (GUI) than writing code? Do you want to have a visual representation of your data transformation pipelines? What if there was a way to empower users to visually enrich content and drive data pipelines without writing code? みなさんはコードを書くよりグラフィカル・ユーザ・インタフェース(GUI)を使用する方が快適に感じるでしょうか? データ変換のパイプライン処理状況をビジュアルで表示させたくないですか? With the community tool Pipes for MarkLogic Data Hub, you can. Pipes allows you to create a custom step for your Data Hub without writing code – instead, you simply connect blocks. Pipes provides a low-code solution to designing and running logic within a MarkLogic Data Hub. MarkLogic Data Hubのコミュニティ・ツールであるPipesを使えばそれができます。Pipesで単純にブロックを接続すれば、Data Hubのカスタムステップをコーディングしなくても作成することができるのです。 What is Pipes? Pipesとは?Pipes is a tool for the MarkLogic Data Hub that produces code for a custom step using a GUI. There may be a case when you need to extend out-of-the-box Data Hub functionality with a custom step – with Pipes, you create Data Hub 5.x custom steps without coding. PipesはGUIでカスタムステップを作成するツールです。カスタムステップですぐに使えるData Hubの機能が必要な場合があるかもしれません。Pipesを使えばData Hub 5.x のカスタムステップをコーディングしなくても作成できるのです。 Note: Pipes for MarkLogic Data Hub is a community tool. As such, it is not supported by MarkLogic Corporation and is only updated and corrected based on a best-effort approach. Any contribution or feedback is welcomed to make the tool better. Pipes is designed to run on MarkLogic 10.0-2 with DHF 5.1.0 installed. 注:Pipes for MarkLogic Data Hubはコミュニティツールです。つまりMarkLogic Corporationとしては正式にサポートしておらず、ベスト・エフォート・アプローチを基本としてアップデート、修正されます。 Who is Pipes for? Pipesは誰のためのもの?Pipes is targeted towards data analysts and Data Hub developers. For data analysts, Pipes allows users to drive logic inside the Data Hub using a GUI, and build and tweak flows on their own. Instead of writing code for your custom step, you can define your complex data transformations with mouse clicks, much like drawing a diagram on a whiteboard. Pipesはデータアナリスト、Data Hub開発者の方を対象としたツールです。データアナリストの方はGUIを用いて自身でロジックをドライブし、ビルドや、微調整などもできるようになります。コードを記述してカスタムステップを作成する代わりに、ホワイトボードにダイアグラムを書くようなイメージで、複雑なデータ移行をマウスクリックで定義できるのです。 For developers, Pipes gives you a starting point to accomplish tasks very quickly using building blocks so you don’t have to start from scratch. In addition, using building blocks in a GUI allows you to better communicate custom step functionality to business users, ensuring everyone is on the same page. 開発者の方はPipesでブロックをビルドすることでタスクを迅速に達成することができるようになります。もうゼロから開始する必要はありません。GUIでブロックを作ればビジネスユーザもカスタムステップの機能が使いやすくなり、プロジェクト関係者皆が同時に状況を把握できるようになります。
How Does it Work? どのように機能する?Simply put, Pipes converts visual blocks in a GUI into JavaScript for a custom step. The GUI uses LiteGraph, an open-source, node-based programming framework, which provides a UI and engine used to design and execute a visual graph in JavaScript. The graph is composed of building blocks, each associated with code executed in MarkLogic shared libraries. You design your step using these blocks, then, in the current version, the LiteGraph engine executes the graph inside MarkLogic. In the upcoming version Pipes will directly produce plain JavaScript code to be executed in MarkLogic. 簡単に言うと、PipesはカスタムステップのためのJavaScriptに変換するGUIの中のビジュアルブロックです。GUIはLiteGraphを使用する、オープンソースのノードベースのプログラミングフレームワークです。JapaScriptの中でビジュアルグラフをデザイン、実行するUIとエンジンを提供します。このグラフはビルディングブロックで構成され Pipes can be used to build out complex scenarios, such as: Pipesは次のような複雑なシナリオを設計するのに使用できます。
In addition, Pipes has a Live-Preview Function where you can preview exactly what your custom step will output, either from a random doc in the source collection, or using a specific URI. さらに、Pipesはライブのプレビュー機能があり、ソースコレクションのドキュメントをランダムに選ぶか、特定のURIを使用する場合のいずれでも、作成したカスタムステップがどのようなアウトプットになるかプレビューで確認することができます。 Create Your Own Blocksブロックを作成する You can extend Pipes by creating your own blocks, which adds features and functionality. If you need a specific computation or transformation that you plan to re-use in multiple places, you can create a custom block for it. Considering that a block can implement any logic and have its own settings, it’s also possible to provide high-level features such as: 機能や仕様を追加するブロックを作成することで、Pipesを拡張することができます。もしリユースする予定がある特定の計算や変換が必要な場合、カスタムブロックを作成することもできます。あるブロックがどんなロジックでどのようなセッティングが可能だとすると、次のようなハイレベルな機能を持たせることができます。
Use Cases for PipesWhile working on the Pipes, I have come across some situations where the tool has been handy to speed up development that include:
Future PlansPipes currently uses the LiteGraph engine to execute the graph. We are currently preparing a new engine which generates Javascript code within MarkLogic so that Pipes will generate the code directly for better performance. The new engine is currently in beta and will soon be able to manage all existing Pipes blocks. Get StartedPlay around with the tool and let us know your thoughts and feedback so we can improve the tool. We like to hear your input for further improvements, and want to understand how your projects benefit from it. Or just pinpoint what’s missing (and add it yourself). Get started today with this GitHub Wiki guide for Pipes. Related ResourcesPipes GitHub Wiki Documentation — Get started with your first Pipes project. Pipes GitHub Repository — Clone or download the tool today. Explore documentation and videos. Submit issues or tickets using GitHub issues. Pipes Technical Resources — Explore the technical resources related to Pipes. Find documentation, blogs, demos, and more. The post Create Custom Steps Without Writing Code with Pipes コミュニティで開発中のPipesとは appeared first on MarkLogic. | |