ModelMapper - すべてのファイルタイプに対応するインポートエンジン

ModelMapperは、カスタムファイル形式用の柔軟でルールベースのデータインポーターを開発するために使用されます。生成された測定データは、さまざまなファイル形式、データストリーム、または他のデータベースから提供されます。計測データには、1分、1時間、1日、あるいは1ヶ月以上のデータが含まれることもあります。当社のツールは、ODSでデータを標準化するという課題を解決します。

 

当社は、データインポートのすべてのバリエーションではないにしても、ほとんどをカバーするためにいくつかのオプションを用意しています。データインポートエンジン "ModelMapper "は、標準化されたODSアプリケーションモデルのセマンティクスでカスタムファイル形式を記述するインポーターソフトウェアの開発のためのツールです。これは、設定可能な "ルール" に基づいて、ODS環境と異なるアプリケーションモデル間の情報の分析、変換、コピーをサポートします。ModelMapperの使用には、ソースのすべての入力情報をターゲット(要素、属性、...)にマッピングするルールのライブラリが必要です。ModelMapperの特徴は以下の通りです:

  • アプリケーションモデルのあらゆるインスタンスに対応(書き込みアクセス)
  • インスタンスと属性のマップ情報
  • ファイルの圧縮と解凍
  • ソースフォルダーからデータベースにファイルを移動

インポーターのジョブが完了すると、Avalonはユーザーにデータに関する通知を送信したり、プロセスを開始するトリガーを送信したりすることができます。これで作業を開始することができます!

製品シート ModelMapper バージョン 2.0 ステータス リリース 日付 2020年12月 ODSバージョン ASAM ODS 5.3.1
IIOP Gateway
ファイルサポート .MDF4,
.TDM,
ATFx
を含むすべてのファイル
Java Oracle JDK 8 または 11
AdoptOpenJDK 8 または 11
ハイライト 柔軟なルールエンジン
XMLによるカスタマイズ

プロセス

ユースケースの説明

理想的なワークフローでは、テストベンチのセンサーが測定値をASAM ODSサーバーに、またはセンサーからのメッセージを変換してASAM ODS APIコールに変換できる何らかのゲートウェイに送信できます。つまり、テスト実行後、すべての測定値が関連するメタデータとともにサーバーに保存され、このデータを技術担当者が使用できるようになります。そうでない場合は、インポーターソフトウェアが必要です。

 

しかし、典型的なワークフローでは、テストベンチのセンサーはODSサーバーと通信するほど高機能ではありません。そのため、センサーのメーカーは、ビジネスアプリケーションモデルがどのようなものかを知ることができません。また、センサーに接続されているコンピュータもそのような機能を持っていない可能性が高いです。実際には、測定値は何らかの物理的な通信プロトコル(シリアル、USBなど)を通じて読み取られ、測定値はバイナリまたはテキストファイルとして取り出されます。テスト終了後、チャンネル測定値と、実行されたテストに関する情報(開始時間、テストされた機器、テストを再現するためのパラメータなど)を追加するメタデータを含むファイルのコレクションが作成されます。

 

ASAM ODSデータベースは、入力ファイルのコレクションを読み取り、構造化された方法でデータを格納するためのサーバーAPI(CORBAまたはHTTP)を呼び出すプログラムを記述することによって、テストデータ/メタデータを入力することができます。このソリューションは問題なく機能しますが、このカスタムインポーターを実装するための初期投資(開発者/時間)が必要になります。複数のアプリケーションモデルが必要な場合、異なるモデルに使用できる汎用インポートユーティリティは有益です。どこかの時点で、測定データのインポート処理を支援する独自のツールセットを作成する必要があります。

HighQSoftでの最も一般的なタスクの1つは、アプリケーションモデルにカスタムファイルをインポートすることでお客様を支援することです。このため、ModelMapperフレームワーク (MoMaとも呼ばれます)は、カスタムインポーターの開発を容易にするために開発されました。このフレームワークは、主な繰り返しタスク(すなわち、アプリケーションモデルに依存しないタスク)を処理し、対象となるアプリケーションモデルに合わせたインポーターの部分には、可能な限り最小限の作業を残します。

 

MoMaフレームワークは、インポートプロセスを構成するスクリプトを読み込み、入力ファイルからデータをどのように読み込み、データをどのように変換してデータベースに書き込むかを定義する一連のルールを呼び出します。インポートスクリプトによって設定されたMoMaランタイムは、以下の処理を行います:

  • ASAM ODSサーバーへのセッションを確立し、インポート処理中にこの接続を管理する。
  • アプリケーション要素にインスタンスを書き込み、構造化された方法でリンクする。
  • トランザクションを処理する(トランザクションの開始、コミット、中止など)。
  • ZIPファイルの解凍、一時フォルダの削除、サーバーへのファイルのアップロード、AoFileインスタンスへリンクする。
  • CSV、XLSX、MDMなどの一般的なファイル拡張子を解析する。

時折、新しくユニークなファイル形式を扱う必要があります。このような場合、この特定のファイル形式を解析できる既存のルールはありません。この問題の解決策は、MoMaフレームワークのパブリックAPIを使用して新しいルールを実装することです。新しいルールはプラグインとして追加でき、エンジン自体を変更する必要はありません。さらに、新しいルールはカスタムルールのライブラリに保存しておくことができるので、将来、同じ特定のファイル形式を処理しなければならなくなったときに利用できます。

特徴

データソース

ModelMapperは、ファイル(形式は問わない)、フォルダ、データベースからデータをインポートすることができます。インポーターの典型的な入力は、CSV(カンマ区切り値)やMDF(測定データ形式)ファイル、またはSantorinサーバー(ハードウェアで実装されたASAM ODSサーバー)などの他のASAM ODSサーバーです。



ランディングゾーン

データパッケージには通常、1つまたは複数の生成されたテストデータファイルが含まれ、ソースか ら直接取得するか、定義されたランディングゾーン(定義されたフォルダや構造など)から取得します。
解析が終わると、データは次のステップのために準備されます。

データマッピングとエンリッチメント

通常、テストデータには、そのテストがどこから来たのか、誰がテストしたのか、テストの目的は何だったのかを記述するための広範なメタデータは付属していません。この情報は、インポート・プロセスによって強化することができます。追加情報 は、追加ファイルや接続情報を含む API を介して提供されるか、クライアント・アプリケーションによって後から追加することができます。

テストデータの検証

情報の読み取りと解析の次に、データインポートの重要なステップの1つはデータの検証です。インポーターは、ビジネスモデルの正式な制限に対してデータを検証したり、カタログに対して属性を検証したり、あるいは単一の属性範囲に対して検証したりすることができます。特定の値が定義された範囲内にあるかどうかや、記録されたチャンネルが有効な値を提供したかどうかの検証などが良い例です。

構造の検証

組み込みの検証機能により、ModelMapperはデータベースへのゲートキーパーの役割を果たします。データベースにデータを書き込むとき、データはすでに検証され、インポートするのに十分な品質です。最終的なチェックは、すべての情報が利用可能で、対応するエントリが書き込めるかどうかです。

オリジナルフォーマットの維持

通常、データは混在したモードのストレージに保存されます。その場合、記述データ(メタデータ)はデータベースに保存され、チャンネルデータ(マスデータ)は保護された場所に移動されます。要件に応じて、バイナリファイル(例えばMDF4)を保持するか、新しい内部バイナリフォーマットを使用することができます。テキスト形式のファイルは使用されません。
ジョブが完了すると、Avalon は、データまたはプロセスを開始するトリガーについてユーザーに知らせるために通知を送信できます。

対応フォーマット

テストデータ管理の成功は、検証済みのテストデータに基づいている場合に最も効率的です。Avalon ODS Serverは、複数のソースやロケーションからテストデータを取り込み、どのような形式を継承していても整理します。最も一般的なファイル形式を以下に示します。しかし、データの項目分けは当社の得意分野です。私たちは、ほとんどすべてのデータタイプをインポートすることができます。

ASAM ATFx

当社のAvalon ODS Serverは、ASAM ATFxファイル形式と互換性があります。ATFxファイルは、インポート、データ交換、およびエクスポートに使用されます。当社のManatee Webは、標準エクスポートとしてATFxを使用しています。

AVRO

当社のODS Serverは、入力としてAvroファイルフォーマットに対応しています。CSVファイルからのインポートも可能ですが、チャンネルデータはサーバーサイドのバイナリに保存されます。

ASAM ODS 6.1仕様に基づき、サーバーからAvroファイルをエクスポートできます。

CSV

当社のAvalon ODS ServerはCSVファイル形式と互換性があります。CSVファイルからのインポートが可能ですが、チャンネルデータはサーバーサイドのバイナリに保存されます。CSVはManatee Webの標準エクスポートフォーマットです。

HTML

当社のODS Serverは入力として HTML ファイル形式と互換性があります。HTMLファイルからのインポートが可能ですが、チャンネルデータはサーバーサイドのバイナリに保存されます。

ISO MME

当社のAvalon ODS Serverは、ISO MMEデータフォーマットと互換性があります。このフォーマットは簡単にインポートできます。

JSON

当社のODS Serverは、入力としてJSONファイル形式に対応しています。CSVファイルからのインポートも可能ですが、チャンネルデータはサーバーサイドのバイナリに保存されます。

ASAM ODS 6.1仕様に基づき、データベースからJSONファイルをエクスポートできます。

ASAM MDF 4.2

当社のAvalon ODSサーバーは、ASAM MDF 4.2データ形式と互換性があります。ASAM MDFは、Avalonで簡単に管理できるコンテナファイルとして広く利用されています。バージョン4.2では、フォーマットも読み取り用に最適化されています。

Parquet

当社のODS Serverは、入力としてParquetファイルフォーマットに対応しています。Parquetファイルからインポートすることができますが、サーバー側でバイナリでリソースを節約する方法でチャンネルデータを格納します。

ASAM ODS 6.1仕様に基づき、データベースからParquetファイルをエクスポートできます。

National Instruments TDMS

当社のAvalon ODS Serverは、DIAdem TDMSデータファイル形式と互換性があります。多くの場合、DIAdemをデータインポートツールとして使用しています。特に多くのソースからインポートする場合、DIAdemはModelMapperインポーターのデータを検証し、統合するために不可欠なツールです。データをインポートする前に、計算チャンネルなどの複雑なアルゴリズムを追加することができます。

テキスト

当社のODS Serverは、入力としてTXTファイル形式と互換性があります。TXTファイルからのインポートが可能ですが、チャンネルデータはサーバーサイドのバイナリに保存されます。

xlsx

当社のODS Serverは、入力としてXLSファイルフォーマットに対応しています。XLSファイルからのインポートも可能ですが、チャンネルデータはサーバーサイドのバイナリに保存されます。

xml

当社のODS Serverは、入力としてXMLファイル形式と互換性があります。XMLファイルからのインポートが可能ですが、チャンネルデータはサーバーサイドのバイナリに保存されます。

any

テストデータ管理ソリューションにインポートしたいフォーマットが見つかりませんか?当社にお任せください。ほとんどのフォーマットに対応しています。

HighQSoft GmbH

Black-und-Decker-Straße 17b
D-65510 Idstein