【UE4.25 新機能】ロードの高速化機能「IOStore」について

1. IOStore Epic Games Japan Software Engineer, Developer Relations Ken Kuwano

2. #UE4 | @UNREALENGINE はじめに ● IOStoreはまだ実験的な機能のため、構成や詳細な内容は今後変わる可能性があります ● 内容は UE4.25.4 をベースとした内容となります

3. #UE4 | @UNREALENGINE 目次 ● IOStoreの概要 ● IOStoreとNewLoader ● ロードと負荷対策

4. #UE4 | @UNREALENGINE IOStoreとは ● UE4.25から実装された新しいロードシステムの一部 ● IOの情報をストア（保管）する機能 ● IOのパフォーマンスを改善してロードを高速化 ● IOStoreの機能を有効にしたパッケージアプリで有効

5. #UE4 | @UNREALENGINE ロードシステムのロードマップ AsyncLoader 従来のローダー AsyncLoader2 新しいローダー Editor動作 Not IoStoreビルド IoStoreビルド UE4.25 Experimental UE4.26 Beta

6. #UE4 | @UNREALENGINE AsyncLoader2とは？フォーラム：Unreal Engine 4.26 Previewより抜粋

7. #UE4 | @UNREALENGINE Build  Cook  Stage  Package  IOStoreの作用 Archive  .uasset .uasset .uasset .uasset .pak 暗号化や圧縮のために 1つのファイルにまとめるパッケージ作成フロー (IOStore=OFF)

8. #UE4 | @UNREALENGINE Build  Cook  Stage  Package  IOStoreの作用 Archive  .uasset .uasset .uasset .uasset .pak .utoc .ucas アセット＋高速化用のファイルパッケージ作成フロー (IOStore=ON)

9. #UE4 | @UNREALENGINE IOStoreの適用 IOStoreを有効にしたアプリケーションパッケージを作成 [手順] 1. IOStoreを有効にする 2. パッケージを作成する

10. #UE4 | @UNREALENGINE IOStoreの有効化以下のいずれかの方法でIOStoreを有効にしたパッケージを作成できる ● Project設定でUsePakFile, UseIoStoreを有効にする ● Project LauncherではUnrealPakとI/OStoreを有効にする ● UATの”BuildCookRun”実行時は”-iostore”, “-pak”の両方を指定

11. #UE4 | @UNREALENGINE IoStore=OFF IoStore=ON パッケージ作成後のアセット配置の違い

12. #UE4 | @UNREALENGINE .pakファイル以外に.ucas, .utocファイルが追加 IOStore有効時のファイル構成 .pak : パックファイル .ucas : コンテナファイル .utoc : 目次ファイル

13. #UE4 | @UNREALENGINE .pak：パックファイル ● IOStore=OFF時は全てのアセットファイルを格納 ● IOStore=ON時はアクセス頻度が低いファイルを格納 ● .ini, .ushaderbytecode, .uproject などが保存される ● 今まで保存されていたアセットファイルは.ucasに移行

14. #UE4 | @UNREALENGINE アセットファイル (.uasset, .umap, .ubulk, .uptnl, uexp)を格納 ● 16Byteアライメントオーダーによるパフォーマンス向上 ● アセットデータの効率的な配置によるファイルアクセスの高速化 .ucas：コンテナファイルアセット1 00 00 0 15 アセット2 アセット2 00 00 00 00 アセット3 00 00 00 00 00 00 アセット3 アセット情報 (FIoBuﬀer)

15. #UE4 | @UNREALENGINE 目次（TOC：Table Of Contents）情報を格納 ● .ucasとパッケージを紐づけるため目次情報 .utoc：目次ファイル ChunkId OﬀsetAndLength ヘッダー情報 (FIoStoreTocHeader) アセット別情報 (FIoStoreTocEntry) Magic Header Size Entry Count Entry Size Padding 1001 0 320 1002 320 160 1003 480 32000

16. #UE4 | @UNREALENGINE プロジェクトとは別にグローバル.ucas/.utocファイルが追加 IOStore有効時のファイル構成

17. #UE4 | @UNREALENGINE global.ucas：グローバルコンテナファイルコンテナからパッケージをロードするために必要な情報が格納 IoChunkType 内容 LoaderGlobalMeta グローバルメタ情報テーブルパッケージのロードに関するストア情報 LoaderInitialLoadMeta 初回ロードメタ情報テーブルパッケージとバンドルを紐づける情報 LoaderGlobalNames グローバルネームテーブルロード時にバンドルとオブジェクト名を紐づけるネームテーブル LoaderGlobalNameHashes グローバルネームハッシュロード時にバンドルとオブジェクト名を紐づけるハッシュテーブル

18. #UE4 | @UNREALENGINE global.utoc：グローバル目次ファイルこちらは空のヘッダー情報のみで未使用

19. #UE4 | @UNREALENGINE IOStoreの効果検証条件 ● サンプルでスタートアップレベルのロード時間を計測 ● Win64/Testビルドのパッケージ, Unreal Insightsを使用 ※KiteDemoはWorldComposition無効で計測

20. #UE4 | @UNREALENGINE サンプルでの検証結果 IOStoreの有効化はロード時間を改善 28%↓ 28%↓ 5%↓

22. #UE4 | @UNREALENGINE Game アセットロード時の非同期ロードってこんなイメージだっけ？ Async Loading Load Other Work アセット Data Request Read 「非同期ロードはGameに影響しない」ではない。（正しくは次ページ以降で）

23. #UE4 | @UNREALENGINE GameThread AsyncLoaderによるロードの概念図 AsyncLoading Thread PoolThread Load Work/Wait Work/Wait Complete Complete Seek/Read Read .pak Data ゲームのメイン処理バックグラウンドのロードを制御ファイルの読み込み制御 Load Request

24. #UE4 | @UNREALENGINE LoadPackage AsyncArchivePoolThread Seek/Read GameThread AsyncLoading Thread Event Queue AsyncLoaderによるロードとファイルアクセス AsyncPackage CreateLinker Start QueuePackage AsyncPackage AsyncPackage AsyncPackage スレッド

25. #UE4 | @UNREALENGINE AsyncLoaderによるロードとファイルアクセス AsyncArchivePoolThread ⑤ Seek/Read GameThread AsyncLoading Thread Event Queue AsyncPackage ③ CreateLinker ④ Start ② QueuePackage AsyncPackage AsyncPackage AsyncPackage ① LoadPackage スレッド

26. #UE4 | @UNREALENGINE AsyncLoader ● Async Loading Thread ● Game Threadのバックグラウンドでアセットをロード ● Pool Thread ● FileIOのAPIを実行して.pakファイルからアセットを読み込み

27. #UE4 | @UNREALENGINE Game Thread AsyncLoader2によるロードの概念図 Async Loading Thread2 IoService Load Work/Wait Work/Wait Complete Complete Seek/Read Read .ucas Data ゲームのメイン処理バックグラウンドのロードを制御ファイルの読み込み制御 Load Request

28. #UE4 | @UNREALENGINE AsyncLoader2によるロードとファイルアクセス LoadPackage IoDispatcherIoService Seek/Read GameThread AsyncLoading Thread2 Event Queue AsyncPackage2 ReadWithCallback ReadFrom BlockFile QueuePackage AsyncPackage2 AsyncPackage2 AsyncPackage2 スレッド

29. #UE4 | @UNREALENGINE AsyncLoader2によるロードとファイルアクセス ① LoadPackage IoDispatcherIoService ⑤ Seek/Read GameThread AsyncLoading Thread2 Event Queue AsyncPackage2 ③ ReadWithCallback ④ ReadFrom BlockFile ② QueuePackage AsyncPackage2 AsyncPackage2 AsyncPackage2 スレッド

30. #UE4 | @UNREALENGINE AsyncLoader2 ● Async Loading Thread2 ● 新しい非同期ロード用スレッド ● IOStoreを利用するための変更 ● CPUオーバーヘッドを減らし効率的な方法でIOをリクエスト ● IoDispatcher ● Async Loading ThreadとIoServiceを中継 ● IoService ● FileIOのAPIを実行して.ucasファイルからアセットを読み込み

32. #UE4 | @UNREALENGINE https://www.slideshare.net/EpicGamesJapan/ue4loadinggcproﬁling このスライドを見れば分かりますが、

33. #UE4 | @UNREALENGINE Unreal Insightsでロードの解析と改善策の検討もできます

34. #UE4 | @UNREALENGINE スレッドの処理やアセット毎の処理時間を視覚化 (Asset Loading Insights)

35. #UE4 | @UNREALENGINE

37. #UE4 | @UNREALENGINE 有効にする

38. #UE4 | @UNREALENGINE プロファイルをキャプチャ以下の起動引数を追加してアプリケーションを起動 -trace=cpu,ﬁle,loadtime -statnamedevents -AsyncLoadingThread

39. #UE4 | @UNREALENGINE ロードの検証ポイントどこで処理に時間が掛かっているか (バーが長い？) ● IO ● Async Loading Thread ● Game Thread

40. #UE4 | @UNREALENGINE アセットロード時のタイムライン (フロー)

42. #UE4 | @UNREALENGINE アセットロード時のタイムライン (フロー)

43. #UE4 | @UNREALENGINE アセットロード時のタイムライン (フロー) ① ② ③ ④ ⑥ ⑤

44. #UE4 | @UNREALENGINE アセットロード時のタイムライン (ポイント) IO AsyncLoading Game

45. #UE4 | @UNREALENGINE アセットロード時のタイムライン (IO) IO

46. #UE4 | @UNREALENGINE 負荷要因と対策 (IO) 負荷 ● ファイルの読み込み時のシークとリード対策 ● アセットのデータサイズ削減 ● アセットの読み込みタイミング変更 (常駐化、先読み、後読み)

47. #UE4 | @UNREALENGINE アセットロード時のタイムライン (AsyncLoading) AsyncLoading

48. #UE4 | @UNREALENGINE 負荷要因と対策 (AsyncLoading) 負荷 ● パッケージのリファレンス ● ネイティブクラスのコンストラクタ ● シリアライズ処理（テクスチャ, マテリアル, スタティックメッシュなど...）対策 ● リファレンス(ハード/ソフト)の管理 ● コンストラクタ処理の最適化 ● テクスチャ(Shadowmap, Cubemap, Lightmap)の解像度、Mip設定の見直し ● シェーダーが参照するリソース数の削減 ● スタティックメッシュのLOD設定の削減

49. #UE4 | @UNREALENGINE アセットロード時のタイムライン (Game) Game

50. #UE4 | @UNREALENGINE 負荷要因と対策 (Game) 負荷 ● レベルストリーミング ● アクター、コンポーネントの追加 ● アニメーション処理、物理ボディのセットアップ処理 ● マテリアルのポストロード処理対策 ● レベルストリーミングのタイミング調整 ● 余剰なアクター、コンポーネントの整理 ● アニメーションの制御、Collision設定, 物理ボディ数の調整 ● 不要なマテリアルのロードチェック

51. #UE4 | @UNREALENGINE ロードの検証ポイントどこで処理に時間が掛かっているか (バーが長い？) ● IO ● Async Loading Thread ● Game Thread

52. #UE4 | @UNREALENGINE まとめ ● IOStoreを利用することでロード時間の短縮 ● 4.25ではExperimental, 4.26ではBetaとして利用可能 ● IOのパフォーマンスとCPUのオーバーヘッドを抑制 ● ロード時間は積極的に改善 ● Unreal Insightsは解析の役に立ちます ● 実装の時点から注意しておきましょう

53. #UE4 | @UNREALENGINE

【UE4.25 新機能】ロードの高速化機能「IOStore」について

エピック・ゲームズ・ジャパン Epic Games Japan

【UE4.25 新機能】ロードの高速化機能「IOStore」について