Custom LLVM Passes

JuliaにはいくつかのカスタムLLVMパスがあります。大まかに言えば、これらはJuliaのセマンティクスを維持するために実行する必要があるパスと、Juliaのセマンティクスを利用してLLVM IRを最適化するパスに分類できます。

Semantic Passes

これらのパスは、LLVM IRをCPU上で実行可能なコードに変換するために使用されます。彼らの主な目的は、コード生成によってより単純なIRを出力できるようにし、それによって他のLLVMパスが一般的なパターンを最適化できるようにすることです。

CPUFeatures

• ファイル名: llvm-cpufeatures.cpp
• クラス名: CPUFeaturesPass
• Opt Name: module(CPUFeatures)

このパスは、julia.cpu.have_fma.(f32|f64) の内部関数を、ターゲットアーキテクチャと関数に存在するターゲット機能に応じて、真または偽に低下させます。この内部関数は、迅速な fused multiply-add 操作に依存するアルゴリズムを使用する方が、そうした命令に依存しない標準アルゴリズムを使用するよりも良いかどうかを判断するためにしばしば使用されます。

DemoteFloat16

• ファイル名: llvm-demote-float16.cpp
• クラス名: DemoteFloat16Pass
• Opt Name function(DemoteFloat16)

このパスは、float16 操作を、float16 操作をネイティブにサポートしないアーキテクチャ上で float32 操作に置き換えます。これは、任意の float16 操作の周りに fpext および fptrunc 命令を挿入することによって行われます。ネイティブ float16 操作をサポートするアーキテクチャでは、このパスはノーオプです。

LateGCLowering

• ファイル名: llvm-late-gc-lowering.cpp
• クラス名: LateLowerGCPass
• Opt Name: function(LateLowerGCFrame)

このパスは、GCセーフポイント間のポインタを追跡するために必要なほとんどのGCルーティング作業を実行します。また、いくつかのインストリンシックを対応する命令変換に低下させ、以前に確立された非整数不変を破ることが許可されています（pointer_from_objrefはここでptrtoint命令に低下されます）。このパスは、任意のセーフポイントで生存しているオブジェクトの数を最小限に抑えるためのデータフローアルゴリズムのため、すべてのカスタムJuliaパスの中で最も多くの時間を占めることが一般的です。

FinalGCLowering

• ファイル名: llvm-final-gc-lowering.cpp
• クラス名: FinalLowerGCPass
• オプション名: module(FinalLowerGC)

このパスは、libjuliaライブラリ内の関数を対象とした最後のいくつかの内在関数を最終形に変換します。これをLateGCLoweringから分離することで、他のバックエンド（GPUコンパイル）がこれらの内在関数に対して独自のカスタムローワリングを提供できるようになり、Juliaパイプラインをそれらのバックエンドでも使用できるようにします。

LowerHandlers

• ファイル名: llvm-lower-handlers.cpp
• クラス名: LowerExcHandlersPass
• Opt Name: function(LowerExcHandlers)

このパスは、例外処理のインストリンシックを、実際に例外を処理する際に呼び出されるランタイム関数への呼び出しに変換します。

RemoveNI

• ファイル名: llvm-remove-ni.cpp
• クラス名: RemoveNIPass
• Opt Name: module(RemoveNI)

このパスは、モジュールのデータレイアウト文字列から非整数アドレス空間を削除します。これにより、バックエンドはJuliaのカスタムアドレス空間を直接機械コードに変換でき、アドレス空間0へのポインタ操作のすべてをコストのかかる書き換えを行うことなく実行できます。

SIMDLoop

• ファイル名: llvm-simdloop.cpp
• クラス名: LowerSIMDLoopPass
• Opt Name: ループ(LowerSIMDLoop)

このパスは @simd アノテーションの主要なドライバーとして機能します。コード生成はループのバックブランチに !llvm.loopid マーカーを挿入し、このパスはそれを使用して元々 @simd でマークされていたループを特定します。次に、このパスはリデュースを形成する浮動小数点演算のチェーンを探し、再結合を許可するために contract および reassoc のファストマスフラグを追加します。このパスはループ情報や推論の正確性を保持しないため、驚くべき方法でJuliaのセマンティクスに違反する可能性があります。ループが ivdep でもアノテーションされていた場合、このパスはループにループキャリード依存性がないとマークします（ユーザーのアノテーションが不正確であったり、誤ったループに適用された場合、結果の動作は未定義になります）。

LowerPTLS

• ファイル名: llvm-ptls.cpp
• クラス名: LowerPTLSPass
• Opt Name: module(LowerPTLSPass)

このパスは、スレッドローカルのJuliaの内部関数をアセンブリ命令に変換します。Juliaは、ガーベジコレクションやマルチスレッドタスクスケジューリングのためにスレッドローカルストレージに依存しています。システムイメージやパッケージイメージのためにコードをコンパイルする際、このパスは内部関数への呼び出しを、ロード時に初期化されるグローバル変数からのロードに置き換えます。

コード生成が swiftself 引数と呼び出し規約を持つ関数を生成する場合、このパスは swiftself 引数が pgcstack であると仮定し、その引数で内部関数を置き換えます。これにより、スレッドローカルストレージアクセスが遅いアーキテクチャでの速度向上が提供されます。

RemoveAddrspaces

• ファイル名: llvm-remove-addrspaces.cpp
• クラス名: RemoveAddrspacesPass
• Opt Name: module(アドレス空間を削除)

このパスは、1つのアドレス空間のポインタを別のアドレス空間に名前変更します。これは、LLVM IRからJulia特有のアドレス空間を削除するために使用されます。

RemoveJuliaAddrspaces

• ファイル名: llvm-remove-addrspaces.cpp
• クラス名: RemoveJuliaAddrspacesPass
• Opt Name: module(RemoveJuliaAddrspaces)

このパスは、LLVM IRからJulia特有のアドレス空間を削除します。主に、LLVM IRをより整理された形式で表示するために使用されます。内部的には、RemoveAddrspacesパスを基に実装されています。

Multiversioning

• ファイル名: llvm-multiversioning.cpp
• クラス名: MultiVersioningPass
• Opt Name: module(JuliaMultiVersioning)

このパスは、異なるアーキテクチャでの実行に最適化された関数を作成するためにモジュールに変更を加えます（詳細については sysimg.md と pkgimg.md を参照してください）。実装の観点からは、関数をクローンし、それらに異なるターゲット固有の属性を適用して、オプティマイザがそのプラットフォームのベクトル化や命令スケジューリングなどの高度な機能を使用できるようにします。また、Julia イメージローダーが、ローダーが実行されているアーキテクチャに基づいて呼び出すべき関数の適切なバージョンを選択できるようにするためのインフラストラクチャも作成します。ターゲット固有の属性は、コンパイル中に JULIA_CPU_TARGET 環境変数から派生する julia.mv.specs モジュールフラグによって制御されます。このパスは、値が 1 の julia.mv.enable モジュールフラグを提供することによっても有効にする必要があります。

GCInvariantVerifier

• ファイル名: llvm-gc-invariant-verifier.cpp
• クラス名: GCInvariantVerifierPass
• Opt Name: module(GCInvariantVerifier)

このパスは、LLVM IRに関するJuliaの不変条件を検証するために使用されます。これには、Juliaのnon-integral address spaces ^[nislides]におけるptrtointの非存在や、祝福されたaddrspacecast命令のみの存在（Tracked -> Derived、0 -> Trackedなど）が含まれます。IRに対して変換は行いません。

Optimization Passes

これらのパスは、LLVMが自ら実行しない変換をLLVM IRに対して行うために使用されます。例えば、高速数学フラグの伝播、エスケープ解析、Julia特有の内部関数に対する最適化などです。これらは、これらの最適化を実行するためにJuliaの意味論に関する知識を利用します。

CombineMulAdd

• ファイル名: llvm-muladd.cpp
• クラス名: CombineMulAddPass
• Opt Name: function(CombineMulAdd)

このパスは、通常の fmul と高速な fadd の特定の組み合わせを、契約 fmul と高速な fadd に最適化するためのものです。これは後にバックエンドによって fused multiply-add 命令に最適化され、より高速な操作を提供することができますが、その代償としてより多くの unpredictable semantics が必要になります。

AllocOpt

• ファイル名: llvm-alloc-opt.cpp
• クラス名: AllocOptPass
• オプション名: function(AllocOpt)

Juliaには、可変オブジェクトを割り当てるためのプログラムスタックの概念はありません。しかし、スタック上にオブジェクトを割り当てることはGCの圧力を軽減し、GPUコンパイルにとって重要です。したがって、AllocOptは、現在の関数をescapeしないことを証明できるオブジェクトのヒープからスタックへの変換を行います。また、使用されない割り当ての削除、新しく割り当てられたオブジェクトへのtypeof呼び出しの最適化、すぐに上書きされる割り当てへのストアの削除など、割り当てに関する他の多くの最適化も行います。エスケープ分析の実装はllvm-alloc-helpers.cppにあります。現在、このパスはEscapeAnalysis.jlからの情報を使用していませんが、将来的には変更される可能性があります。

PropagateJuliaAddrspaces

• ファイル名: llvm-propagate-addrspaces.cpp
• クラス名: PropagateJuliaAddrspacesPass
• Opt Name: function(PropagateJuliaAddrspaces)

このパスは、ポインタ上の操作を通じてJulia特有のアドレス空間を伝播させるために使用されます。LLVMは最適化によってaddrspacecast命令を導入したり削除したりすることは許可されていないため、このパスは操作をJuliaのアドレス空間における同等のものに置き換えることで冗長なaddrspaceキャストを排除する役割を果たします。Juliaのアドレス空間に関する詳細については、（TODO llvm.mdへのリンク）を参照してください。

JuliaLICM

• ファイル名: llvm-julia-licm.cpp
• クラス名: JuliaLICMPass
• Opt Name: ループ(JuliaLICM)

このパスは、ループからJulia特有の内部関数を引き上げるために使用されます。具体的には、次の変換を行います：

1. ループ内で保存されたオブジェクトがループ不変である場合、gc_preserve_beginを持ち上げ、gc_preserve_endをループの外に移動させます。

   1. ループ内で保持されるオブジェクトはループの期間中保持される可能性が高いため、この変換はIR内のgc_preserve_begin/gc_preserve_endペアの数を減らすことができます。これにより、LateLowerGCPassが特定のオブジェクトがどこで保持されているかを特定しやすくなります。

2. 不変オブジェクトでのホイスト書き込みバリア

   1. ここでは、オブジェクトが属することができる世代が2つだけであると仮定します。それを考慮すると、同じオブジェクトのペアに対して書き込みバリアは1回だけ実行される必要があります。したがって、書き込み対象のオブジェクトがループ不変である場合、ループの外に書き込みバリアを持ち上げることができます。

3. ループからエスケープしない場合は、割り当てをループの外に持ち上げます。

   1. ここでは、AllocOptPassで使用されるのと同じ、非常に保守的なエスケープの定義を使用します。この変換は、割り当てが関数全体からエスケープする場合でも、IR内の割り当ての数を減らすことができます。