記事
Tomohiro Iwamoto · 2022年7月3日 18m read

IRISリリース2022.1のご紹介(補足解説)

IRISリリース2022.1のご紹介

本稿は、「InterSystems IRIS、IRIS for Health、HealthShare Health Connect 2022.1がリリースされました!」でご案内している内容を、補足解説する内容となります。

紹介ビデオ

米国本社プロダクトマネージャーによる本リリースのハイライトのご紹介ビデオ(英語)です。
https://www.intersystems.com/resources/whats-new-in-intersystems-iris-20...

リリース内容

年一度のEMリリースです。
- メンテナンスアップデート提供:リリース日から2年間
- セキュリティアップデート提供:リリース日から4年間

  • InterSystems IRIS, InterSystems IRIS for Health

  • 同時期にリリースされるモジュール

    ICM, IKO, InterSyetms Reports, InterSystems Studio

  • 独立してリリースされるモジュール

    IAM, SAM, 各種ドライバ類, VS Code ObjectScript 拡張

プラットフォーム

O/S
Microsoft Windows Server 2012, Server 2016, Server 2019, Server 2022, 10, 11 for x86-64
Oracle Linux 7, 8 for x86–64
Red Hat Enterprise Linux 7.9 for x86-64
Red Hat Enterprise Linux 8.1–8.5 for x86-64 or ARM64
SUSE Linux Enterprise Server 15 SP3 for x86-64
Ubuntu 18.04, 20.04 LTS for x86-64 or ARM64
IBM AIX® 7.2, 7.3 for Power System-64
開発環境用O/S
CentOS-7 x86-64
Apple macOS 10.15 for x86-64 AND M1

以下、2021.2,2022.1で追加された機能についてご紹介しています。

開発者向け

Kafkaメッセージのサポート

Apache Kafka用のインバウンド・アウトバウンドアダプター、ビジネスサービス、ビジネスオペレーションおよび、低レベルなAPIを提供します。

これらを使用して、プロダクション環境、非プロダクション環境を問わず、kafkaの持つ、高速なデータパイプライン、ストリームに対する分析、データ投入などの機能を容易に利用できるようになります。

プロダクション用途

インバウンドアダプタは、Kafkaのコンシューマ機能を提供します。

アウトバウンドアダプタは、Kafkaのプロデューサ機能を提供します。

低レベルなAPI

Kafkaのコンシューマ、プロデューサ機能を持つ、低レベルAPIを提供します。

Set settings = ##class(%External.Messaging.KafkaSettings).%New()
Set settings.username = "amandasmith"
Set settings.password = "234sdsge"
Set settings.servers = "100.0.70.179:9092, 100.0.70.089:7070"
Set settings.clientId = "BazcoApp"
Set client = ##class(%External.Messaging.Client).CreateClient(settings, .tSC)

Set topic = "quickstart-events"
Set value = "MyMessage", key = "OptionalTag"
Set msg = ##class(%External.Messaging.KafkaMessage).%New()
Set msg.topic = topic
Set msg.value = value
Set msg.key = key

Set tSC = client.SendMessage(msg)

Kafkaとの接続に関して、開発者コミュニティに多数の寄稿がありますが、それらとは別にKafkaとの接続性を製品として提供するものになります。

Python関連の強化

埋め込みPython

言語としてObjectScriptが使用できるあらゆる場面でPythonを使用可能になります。

使用例) ePy.Test.cls

実行環境としてのIRISとPythonは類似点が多く(インタプリタ、c言語実装、オブジェクトモデル)、同一プロセス空間で動作させるなど、他言語に比べて踏み込んだ統合を行っています。

Python Gateway(PEX)やPython SDKを置き換えるものではありません。

埋め込みPythonについては、開発者コミュニティに多数の寄稿がありますので、参照ください。

【はじめてのInterSystems IRIS】Embedded Python セルフラーニングビデオシリーズ公開!

6/28 (火)に開催した「Embedded Pythonの新設トレーニングコースのご紹介ウェビナ」のオンデマンド配信もあります。

Python SDK

既存のpyODBC,IRIS Native, Python Gwatewayに加えてDB-APIを追加。

SQLAlchemy(PythonのORマッパー)を使用できるようにするための機能追加の一環です。

プロダクション環境でのPython使用

プロダクションで多様なプログラム言語を使用可能にする機能であるPEXにPythonが追加されました。

これで、サポートされる言語はPython, Java, .NET, ObjectScriptになりました。

IRIS-Python間のAPIはIRIS Nativeを使用しています。埋め込みPythonではありません。

PEXとは、下記のようにJavaや.NETをプロダクションで使用するための機能です。これらが持つ多彩な外部接続ライブラリの使用に加え、ビジネスロジック(ビジネスプロセス)そのものをこれらの言語で記述することも可能です。

image

Pythonの機能を利用して、アダプタの作成、分析や演算を実施、永続メッセージの作成、長時間実行されるビジネスプロセスへの参加が可能となります。

Visual Studio Code ObjectScript 拡張

ドキュメントとの統合

該当箇所にマウスをかざすだけでドキュメントを表示。クラス階層のブラウジング。ユーザ作成のクラスドキュメントのプレビュー表示が可能になりました。

シンタックスに埋め込みPythonサポート

埋め込みPythonのシンタックスカラーリングを正しく行います。

Studioライクな使用方法の拡充

CSPファイルの編集・コンパイルが可能になりました。

サーバ側での検索が可能になりました。

現在サーバサイドの検索機能は、VSCODEのProposed APIを使用しているため、それらAPIが正式リリースになるまではこちらの手順でプレビュー機能を有効化する必要があります。

デバッグ機能

オブジェクトのプロパティ値を参照可能になりました。安定性をより向上しました。

SQLクエリ実行のローコード化

外部データソースに対してSQLを実行するための、汎用のビジネスサービス、ビジネスオペレーションを用意しました。

今まではSQLアダプタを使用するビジネスサービス、ビジネスオペレーションを作成する必要がありました。

受信したレコードの内容を保持するためのメッセージを個別に作成する必要はありません。レコードの内容はJSON形式でEns.StreamContainerに格納されます。

詳細はこちらをご覧ください。

.NET 5

ADO.NET, Native API, Gateway(PEX)において、.NET5をサポートします。

.NET6は時期リリースでの対応に向けて準備中です。

実行速度、スケーラビリティ、セキュリティ関連

アダプティブなSQLオプティマイザ

テーブルの統計情報をより軽量に取得する手段を実現することにより、高精度なランタイム時のクエリプランの選択が可能となりクエリパフォーマンスが向上しました。

下記は、パートナ様の実データと実際に使用されているクエリを使用したベンチマーク測定の結果です。2021.1-2022.1間で、I/O量が25%減、実行時間が半分に改善されている事がわかります。

image

スマートサンプリング & テーブル統計の自動化

ブロックレベルでサンプリングを行うことで、今まで行単位で行っていたサンプリング(もしくはフルスキャン)による統計処理のコストを大幅に短縮しました。

クエリ初回実行時に統計情報が存在しない場合は、自動的に統計取得を行い、より良いクエリプランの選択を試みます。

今までは、統計処理の実行を忘れてしまったり、テーブルサイズが大きいため、プロダクション環境での実行をためらったりという事態が発生し、その結果、あまり効率的ではないクエリプランが使用され続ける可能性がありました。

従来のメカニズムと新しいメカニズムとの実行時間の比較は下記のようになります。

tune

グラフ横軸は、テーブルサイズ0.000008GB(8KB)から22GBまでの自然対数ln(x)の値です。つまり
ln(0.000008)=-11.736069016284 ~ ln(22)=3.0910424533583

デフォルトのストレージマッピングの使用が前提になります。

こちらに解説記事があります。

高度なテーブル統計

テーブル統計情報としてヒストグラムを取得するようになりました。これにより、レンジを指定するクエリに対しても選択性を計算できるようになりました。この結果をRTPCが使用することで、クエリの性能が向上する事が期待できます。

例えば、下記のようなクエリにおいて、LocationCountryに対してはRTPCの外れ値検知のメカニズムを使用可能ですが、EventDateに対しては個別の値の選択性はあまり役に立ちません。ヒストグラムを使用することで、レンジに対して、どの程度の選択性を持ちうるかを導出することが可能になりました。

SELECT * FROM Aviation.Event WHERE EventDate < '2004-05-01' AND LocationCountry = 'California'

histgram

こちらに解説記事があります。

ランタイム時のクエリプランの選択

ランタイム時のクエリプランの選択(RTPC, Run-Time Plan Choice)をデフォルトで有効にしました。これにより、下記のようなクエリが高速化する可能性があります。

  • 外れ値
....FROM log WHERE level='INFO'

特定の値がレコードの大半を占めるようなケース。

  • 範囲指定
....FROM Aviation.Event WHERE EventDate < '2004-05-01'

条件で指定した値(この場合は日付)が、Eventテーブル内で初期のものか、終盤のものかによって、対象レコード数が変動するケース。

  • 常に真、偽になる条件
....FROM log WHERE (1=0 AND ...)

クエリツール、BIツールでよく見られるパターン。

こちらに解説記事があります。

ストレージ使用量の削減

ストリームおよびジャーナルを圧縮することにより、必要なストレージ使用量を大幅に削減しました。

高価なストレージ容量削減(特にクラウドでは重要な要素)のメリットは、圧縮・伸張にかかるCPUコスト上昇というデメリットを上回るとの価値判断が根底にあります。

ストリームの圧縮について

グローバルベースのストリームを使用する際、デフォルトでその内容を圧縮します。既存の未圧縮状態のストリームは、次回の書き込み時に圧縮を行います。アプリケーションの修正は必要ありません。

弊社で計測したところ、モダンなH/W環境において、CPU消費は3%程度の上昇で抑えられていました。

実際の顧客データを使用した計測では、小~中サイズのテキストについては30~50%、XML/JSON形式のデータについては60~80%程度の削減効果が観測されました。

image

ジャーナルの圧縮について

今までは、オプトインの機能でしたが、デフォルトで有効になりました(無効化することもできます)。
ジャーナルが切り替わった際に、非アクティブなジャーナルファイルを圧縮します。ロールバック、ロールフォワードは、圧縮済みのジャーナルファイルを使用します。

irisowner@637fa733ef04:/usr/irissys/mgr/journal$ ll -h
total 359M
drwxrwxr-x 1 irisowner irisowner 4.0K Jun 17 01:09 ./
drwx------ 1 irisowner irisowner 4.0K Jun 17 01:03 ../
-rw-rw---- 1 irisowner irisowner 7.0M Jun 17 01:08 20220617.001z
-rw-rw---- 1 irisowner irisowner 6.8M Jun 17 01:09 20220617.002z
-rw-rw---- 1 irisowner irisowner 6.8M Jun 17 01:09 20220617.003z
-rw-rw---- 1 irisowner irisowner 338M Jun 17 01:09 20220617.004
-rw-rw---- 1 irisowner irisowner   35 Jun 17 01:09 iris.lck

ミラージャーナルファイルもプライマリ、バックアップ共に同様に圧縮されます。

-rw-rw---- 1 irisowner irisowner 216K Jun 17 01:07 20220617.001z
-rw-rw---- 1 irisowner irisowner 1.3M Jun 17 01:16 MIRROR-MIRRORSET-20220617.001z
-rw-rw---- 1 irisowner irisowner  80K Jun 17 01:16 MIRROR-MIRRORSET-20220617.002z
-rw-rw---- 1 irisowner irisowner 1.0M Jun 17 01:19 MIRROR-MIRRORSET-20220617.003

実際の顧客のケースでは、ジャーナルサイズが85%縮小され、信頼性を損なうことなく、EBSストレージ代金を2,000 USドル/月削減出来ました。
image

ジャーナルファイルを(AWS S3のような)安価なストレージにアーカイブする機能は今後のリリースで提供予定です。

オンラインでのShardのリバランス

Shardのリバランスをオンライン状態(ユーザがクエリ実行やデータの追加を継続)で実行できるように強化しました。その結果、Shardクラスタのデータノード追加をオンラインのまま実施出来るようになりました。今までは、一時的にクエリ、データ追加を保留する必要がありました。

データノードの削除のオンライン化は今後のリリースにて対応予定です。

TLS 1.3 Support

TLS1.3(OpenSSL 1.1.1)をサポートします。

TLS1.3は、接続確立時のハンドシェークのやり取りを減らせるなど、より高速であることが知られています。

分析と機械学習関連

SQLローダ

SQLテーブルへの新しいデータローディングの仕組みを提供するために、SQLにLOADコマンドを追加しました。

データソースとしてCSVもしくはJDBCを選択できます。
INSERT文によく似た構文でソースカラム、ターゲットカラムの調整を、IntegrgatedMLのUsingとよく似た構文で、動作の調整(デリミタの指定など)を行うことが出来ます。

LOAD DATA FROM FILE 'C://mydata/countries.csv'
COLUMNS (
    src_name VARCHAR(50),
    src_continent VARCHAR(30),
    src_region VARCHAR(30),
    src_surface_area INTEGER)
INTO Sample.Countries (Name,SurfaceArea,Region)
VALUES (src_name,src_surface_area,src_region)
USING {"from":{"file":{"columnseparator":";"}}}
LOAD DATA FROM JDBC CONNECTION MyJDBCConnection
TABLE countries
INTO Sample.Countries

紹介記事がありますのでご覧ください。

アダプティブアナリティクス

アダプティブアナリティクス(IRIS+AtScale)に以下の機能が追加されました。

  1. アダプティブアナリティクスのクライアントとして、InterSystems Reportsが使用できるようになりました。これにより、PowerBIやTableauと同じデータモデルを使用してInterSystems Reportsを使用できるようになります。

  2. InterSystems BI(DeepSee)のデータモデルを、アダプティブアナリティクスの定義としてインポートできるようになりました。

キューブ間のRelationshipsやデータコネクタのような移行できない機能があります

InterSystems Reportsとは帳票作成エンジンであるZEN Report(既にオブソリート)の後継製品です。下記の紹介記事をご覧ください。

クラウド、運用関連

クラウドコネクタ

クラウド上でのIRISの管理を容易にするために、新たに下記のコネクタ(アダプタ)を提供いたします。

オブジェクトストレージ

プロダクション用途

S3,Azure Blob, Google Cloud Storageの読み書きのためにインバウンド、アウトバウンドアダプタを提供します。

インバウンドアダプタは、指定したパターンに合致するオブジェクト(群)を取得し、ビジネスサービスのコールバック関数に、その内容をストリームとして提供します。
アウトバウンドアダプタはUpload, Deleteを実行可能です。

アダプタはJava PEXを使用して実装されています。

低レベルなAPI

同等な機能を持つ、低レベルAPIを提供します。

Set bucketName = "my-bucket"
Set blobName = "test.txt"
// Cloud Storage Client作成 (クラウドプロバイダの種類は第3引数の内容で判断。この場合はAWS S3用)
Set myClient = ##class(%Net.Cloud.Storage.Client).CreateClient(,0,"C:\Users\irisowner\.aws\config", "ap-northeast-1", .tSC)

If myClient.BucketExists(bucketName){
    // S3にファイルをアップロード   
    Do myClient.UploadBlobFromFile(bucketName, blobName, "c:\temp\test.txt")

    // 指定バケット内のオブジェクトを列挙
    Set blobs=myClient.ListBlobs(bucketName)
    For i=1:1:blobs.Size {
        Set blob=blobs.GetAt(i)
        w blob.name," ",blob.size," ",blob.updateTime,!
    }
}

// clientをclose
Do myClient.Close()

詳細はこちらをご覧ください。

Cloudwatch

Cloudwatchへの出力のための、アウトバウンドアダプタおよびビジネスオペレーションを提供します。下記のaws cliコマンドに相当します。

>aws cloudwatch put-metric-data --namespace MyNameSpace --metric-name TestMetric \ 
 --dimensions TestKey=TestValue --value 100

CloudwatchアウトバウンドアダプタEnsLib.AmazonCloudWatch.OutboundAdapterはCloudwatchが公開しているPutMetricData APIを呼び出すために、下記のメソッドを提供しています。

Method PutMetricData(namespace As %String, metricName As %String,
                    metricValue As %Numeric, metricUnit As %String,
                    dims As %String = "") As %Status

ビジネスオペレーションはEnsLib.AmazonCloudWatch.MetricDataOperationです。

詳細はこちらをご覧ください。

2022.1ドキュメントより「現在使用できるのはPutMetricDataのみです。PutMetricAlarmは将来インターフェースが変更される可能性があります。」

SNS(Amazon Simple Notification Service)

SNSへの出力(publish)のための、アウトバウンドアダプタおよびビジネスオペレーションを提供します。下記のaws cliコマンドに相当します。

aws sns publish --topic-arn arn:aws:sns:ap-northeast-1:[AWSアカウントID]:my_topic \
 --subject "Test mail" --message "Hello World"

SNSアウトバウンドアダプタEnsLib.AmazonSNS.OutboundAdapterはSNSが公開しているpublish APIを呼び出すために、下記のメソッドを提供しています

Set tSC = ..Adapter.Publish(..ARNTopic, request.Message, ..Subject)

ビジネスオペレーションはEnsLib.AmazonSNS.BusinessOperationです。

詳細はこちらをご覧ください。

IKO (InterSystems Kubernetes Operator)

IRISのKubernetesへのデプロイを容易にするために、新たに下記の機能を提供します。

IKOについてはこちらをご覧ください。

SAMおよびIAM

SAM(InterSystems System Alert and Monitoring)およびIAM(InterSystems API Manager)をデプロイ、管理できます。IRISクラスタをスケールさせる(そしてそれらの監視を行う)ことが用意になります。

SAMに関しては、こちらの記事を、IAMに関しては、こちらの記事をごらんください。

ロックダウンバージョンのIRISおよびWeb Gateway

ロックダウンバージョンのIRISおよびWeb Gatewayをデプロイできます。Web GatewayはNginxもしくはApache版を選択可能です。

ロックダウンバージョンのIRISは、通常版のirisコンテナと下記の点で異なります。

  • インストール時のセキュリティレベルでロックダウンを選択してあります
  • 組み込みのApacheサーバを起動しません

ロックダウン、通常版を問わず、2021.2以降のirisコンテナは、安全性強化のために下記変更を行っています。
インストールユーザ: root → irisowner
所有、実行ユーザ: root, irisowner, irisuser → irisowner

非永続ボリュームおよび永続ボリューム

非永続ボリューム、永続ボリュームいずれへのデプロイが可能です。

その他

新しくなったTRACEユーティリティを提供します。

実行時のパフォーマンス分析ツールであるMONLBLやPERFMONは、データ取得時に出力(利用)目的を決めておく必要がありました。
TRACEは、ジェネリックなフォーマットでデータを蓄積することで、トレースしたイベントのナビゲーションやサマライズ等の分析操作を、より対話的に行えるようになりました。

サポートされるイベントタイプには、グローバルのSET/KILL、物理書き込み、ネットワーク超えの要求、キャッシュ、ジャーナルイベントなどが含まれます。

イベントの収集ツールです。収集・蓄積にはオーバヘッドがかかります。蓄積されたデータをExcelなどで加工する必要があります。内容の解釈には専門知識と(公開されていない)ソースコードへのアクセスが必要になる事があるため、弊社のサポートの指導の元ご利用ください。

Reading TRACE file C:\InterSystems\IRIS20221\trace\iristrace_16816.txt
0.000000:      START
               STACK [ 0] X - @ +0
0.000185:      MemAlloc
0.000189:      CALL
               ARG [ 0] STR:app
0.000204:        MemAlloc
0.000225:        GloRef, ^rOBJ("app")
0.000243:        GloRef, ^rOBJ("app")
0.000260:        DirBlkBuf, ^rOBJ("app")
0.000273:        BpntBlkBuf, ^rOBJ("app")
0.000280:        DataBlkBuf, ^rOBJ("app")
0.001557:        RtnFetch
0.001569:        MemAlloc at ^app
0.001571:        RtnLoad ^app
0.001576:        RtnLine at +2^app
                 src:  Kill ^a
0.001582:        GloRef at +2^app, ^a

APIを使用して独自出力を作成することも可能です。

2
0 31
ディスカッション (0)1
続けるにはログインするか新規登録を行ってください