区間再利用／事前実行

区間再利用を統合した投機的マルチスレッディング機構

プログラムを構成する命令区間を多入力多出力の複合命令と捉え， 動的に検出した複数の複合命令を並列実行し， 主スレッドの実行結果も含む複数の実行結果を out-of-orderに再利用することにより， 主スレッドが実行する命令を大幅に削減する実行モデルを提案した． 既存研究との違いは，区間再利用と投機的マルチスレッディング(SpMT)を 1つの実行モデルに統合した点にある．

区間再利用とは，実行時に命令区間における入出力セットを再利用表に 記憶しておき，再び同じ入力により命令区間を実行する場合に， 記憶しておいた出力を利用して命令区間の実行を省略する高速化手法である．

• 再利用表の容量を増やすこと自体には意味がある．
• ただし，低速大容量よりも高速小規模が効果が高い．
• 二次キャッシュミスの低減効果を兼ね備える．
• 数百から数千命令規模の命令区間が高速化に寄与する．
• 多重命令区間の投機実行が有効である．
• 入出力レコード数は高々30である．
• 再利用コスト評価機構が有効である．
• 投機実行結果の保存が有効である．
• 検索削減機構が有効である．

一方，評価に要する膨大なシミュレーション時間を短縮するため，汎用CAMを 搭載したハードウェアアクセラレータGP600Mの設計を行った． ソフトウェアシミュレータに対し最大約70倍の高速化を達成し， 多くのプログラムの挙動を調査することが可能となった．

再利用表の構造を可視化するソフトウェアの開発

本SpMT機構における再利用状況をリアルタイムに把握するため， 再利用表における木構造をRadial Layoutにより可視化するソフトウェアを開発した． これにより，従来わからなかった現象を観察できるようになり， 再利用の効果が命令区間により大きく変わる原因の解明などに役立った．

マルチメディア命令と区間再利用による音声認識の高速化

大語彙連続音声認識システムJuliusにおいて，入力音声データの特徴量と候補となる 音素の音響モデルを比較して各音素の出力確率を求める出力確立計算が 処理時間全体の4割を消費しており，マルチメディア命令や区間再利用を 適用することにより高速化を図った．

一方，マルチメディア命令(SSE)を用いて単精度浮動小数点数演算を 並列処理することにより，対象とした命令区間では38%，全体で5%の高速化が実現できた． さらに元のプログラムが高速化のために厳密な計算を行っていない部分について， あえて厳密に計算するよう変更した場合，対象区間はSSE化により30%， 全体で15%高速化できた．