ソースを参照

gallivm: Increase lp_build_rsqrt() precision.

Add an iteration step, which makes rqsqrt precision go from 12bits to
24, and fixes RSQ/NRM test case of PSPrecision/VSPrevision DCTs.

There are no uses of this function outside shader translation.
tags/mesa-8.0-rc1
José Fonseca 14年前
コミット
47d6d44a23
1個のファイルの変更1行の追加1行の削除
  1. 1
    1
      src/gallium/auxiliary/gallivm/lp_bld_arit.c

+ 1
- 1
src/gallium/auxiliary/gallivm/lp_bld_arit.c ファイルの表示

@@ -1645,7 +1645,7 @@ lp_build_rsqrt(struct lp_build_context *bld,
assert(type.floating);

if (util_cpu_caps.has_sse && type.width == 32 && type.length == 4) {
const unsigned num_iterations = 0;
const unsigned num_iterations = 1;
LLVMValueRef res;
unsigned i;


読み込み中…
キャンセル
保存