GTR1 distribution

Average Error: 0.5 → 0.4

Time: 9.0s

Precision: binary32

\[\left(0 \leq cosTheta \land cosTheta \leq 1\right) \land \left(0.0001 \leq \alpha \land \alpha \leq 1\right)\]

Math

\[\frac{\alpha \cdot \alpha - 1}{\left(\pi \cdot \log \left(\alpha \cdot \alpha\right)\right) \cdot \left(1 + \left(\left(\alpha \cdot \alpha - 1\right) \cdot cosTheta\right) \cdot cosTheta\right)} \]

↓

\[\begin{array}{l} t_0 := \log \left(\alpha \cdot \alpha\right)\\ t_1 := \alpha \cdot \alpha - 1\\ t_2 := 1 + cosTheta \cdot \left(t_1 \cdot cosTheta\right)\\ \sqrt[3]{\frac{\mathsf{fma}\left(\alpha \cdot \alpha, \mathsf{fma}\left(\alpha, \alpha, -2\right), 1\right) \cdot t_1}{\left(\left(\pi \cdot \left(\pi \cdot \pi\right)\right) \cdot \left(t_0 \cdot \left(t_0 \cdot t_0\right)\right)\right) \cdot \left(t_2 \cdot \left(t_2 \cdot t_2\right)\right)}} \end{array} \]

FPCore

(FPCore (cosTheta alpha)
 :precision binary32
 (/
  (- (* alpha alpha) 1.0)
  (*
   (* PI (log (* alpha alpha)))
   (+ 1.0 (* (* (- (* alpha alpha) 1.0) cosTheta) cosTheta)))))

↓

(FPCore (cosTheta alpha)
 :precision binary32
 (let* ((t_0 (log (* alpha alpha)))
        (t_1 (- (* alpha alpha) 1.0))
        (t_2 (+ 1.0 (* cosTheta (* t_1 cosTheta)))))
   (cbrt
    (/
     (* (fma (* alpha alpha) (fma alpha alpha -2.0) 1.0) t_1)
     (* (* (* PI (* PI PI)) (* t_0 (* t_0 t_0))) (* t_2 (* t_2 t_2)))))))

C

float code(float cosTheta, float alpha) {
	return ((alpha * alpha) - 1.0f) / ((((float) M_PI) * logf((alpha * alpha))) * (1.0f + ((((alpha * alpha) - 1.0f) * cosTheta) * cosTheta)));
}

↓

float code(float cosTheta, float alpha) {
	float t_0 = logf((alpha * alpha));
	float t_1 = (alpha * alpha) - 1.0f;
	float t_2 = 1.0f + (cosTheta * (t_1 * cosTheta));
	return cbrtf(((fmaf((alpha * alpha), fmaf(alpha, alpha, -2.0f), 1.0f) * t_1) / (((((float) M_PI) * (((float) M_PI) * ((float) M_PI))) * (t_0 * (t_0 * t_0))) * (t_2 * (t_2 * t_2)))));
}

Julia

function code(cosTheta, alpha)
	return Float32(Float32(Float32(alpha * alpha) - Float32(1.0)) / Float32(Float32(Float32(pi) * log(Float32(alpha * alpha))) * Float32(Float32(1.0) + Float32(Float32(Float32(Float32(alpha * alpha) - Float32(1.0)) * cosTheta) * cosTheta))))
end

↓

function code(cosTheta, alpha)
	t_0 = log(Float32(alpha * alpha))
	t_1 = Float32(Float32(alpha * alpha) - Float32(1.0))
	t_2 = Float32(Float32(1.0) + Float32(cosTheta * Float32(t_1 * cosTheta)))
	return cbrt(Float32(Float32(fma(Float32(alpha * alpha), fma(alpha, alpha, Float32(-2.0)), Float32(1.0)) * t_1) / Float32(Float32(Float32(Float32(pi) * Float32(Float32(pi) * Float32(pi))) * Float32(t_0 * Float32(t_0 * t_0))) * Float32(t_2 * Float32(t_2 * t_2)))))
end

Error

Bits error versus cosTheta

Bits error versus alpha

Derivation

1. Initial program 0.5

   \[\frac{\alpha \cdot \alpha - 1}{\left(\pi \cdot \log \left(\alpha \cdot \alpha\right)\right) \cdot \left(1 + \left(\left(\alpha \cdot \alpha - 1\right) \cdot cosTheta\right) \cdot cosTheta\right)} \]

2. Applied add-cbrt-cube_binary32 0.5

   \[\leadsto \frac{\alpha \cdot \alpha - 1}{\left(\pi \cdot \log \left(\alpha \cdot \alpha\right)\right) \cdot \color{blue}{\sqrt[3]{\left(\left(1 + \left(\left(\alpha \cdot \alpha - 1\right) \cdot cosTheta\right) \cdot cosTheta\right) \cdot \left(1 + \left(\left(\alpha \cdot \alpha - 1\right) \cdot cosTheta\right) \cdot cosTheta\right)\right) \cdot \left(1 + \left(\left(\alpha \cdot \alpha - 1\right) \cdot cosTheta\right) \cdot cosTheta\right)}}} \]

3. Applied add-cbrt-cube_binary32 0.5

   \[\leadsto \frac{\alpha \cdot \alpha - 1}{\left(\pi \cdot \color{blue}{\sqrt[3]{\left(\log \left(\alpha \cdot \alpha\right) \cdot \log \left(\alpha \cdot \alpha\right)\right) \cdot \log \left(\alpha \cdot \alpha\right)}}\right) \cdot \sqrt[3]{\left(\left(1 + \left(\left(\alpha \cdot \alpha - 1\right) \cdot cosTheta\right) \cdot cosTheta\right) \cdot \left(1 + \left(\left(\alpha \cdot \alpha - 1\right) \cdot cosTheta\right) \cdot cosTheta\right)\right) \cdot \left(1 + \left(\left(\alpha \cdot \alpha - 1\right) \cdot cosTheta\right) \cdot cosTheta\right)}} \]

4. Applied add-cbrt-cube_binary32 0.5

   \[\leadsto \frac{\alpha \cdot \alpha - 1}{\left(\color{blue}{\sqrt[3]{\left(\pi \cdot \pi\right) \cdot \pi}} \cdot \sqrt[3]{\left(\log \left(\alpha \cdot \alpha\right) \cdot \log \left(\alpha \cdot \alpha\right)\right) \cdot \log \left(\alpha \cdot \alpha\right)}\right) \cdot \sqrt[3]{\left(\left(1 + \left(\left(\alpha \cdot \alpha - 1\right) \cdot cosTheta\right) \cdot cosTheta\right) \cdot \left(1 + \left(\left(\alpha \cdot \alpha - 1\right) \cdot cosTheta\right) \cdot cosTheta\right)\right) \cdot \left(1 + \left(\left(\alpha \cdot \alpha - 1\right) \cdot cosTheta\right) \cdot cosTheta\right)}} \]

5. Applied cbrt-unprod_binary32 0.5

   \[\leadsto \frac{\alpha \cdot \alpha - 1}{\color{blue}{\sqrt[3]{\left(\left(\pi \cdot \pi\right) \cdot \pi\right) \cdot \left(\left(\log \left(\alpha \cdot \alpha\right) \cdot \log \left(\alpha \cdot \alpha\right)\right) \cdot \log \left(\alpha \cdot \alpha\right)\right)}} \cdot \sqrt[3]{\left(\left(1 + \left(\left(\alpha \cdot \alpha - 1\right) \cdot cosTheta\right) \cdot cosTheta\right) \cdot \left(1 + \left(\left(\alpha \cdot \alpha - 1\right) \cdot cosTheta\right) \cdot cosTheta\right)\right) \cdot \left(1 + \left(\left(\alpha \cdot \alpha - 1\right) \cdot cosTheta\right) \cdot cosTheta\right)}} \]

6. Applied cbrt-unprod_binary32 0.5

   \[\leadsto \frac{\alpha \cdot \alpha - 1}{\color{blue}{\sqrt[3]{\left(\left(\left(\pi \cdot \pi\right) \cdot \pi\right) \cdot \left(\left(\log \left(\alpha \cdot \alpha\right) \cdot \log \left(\alpha \cdot \alpha\right)\right) \cdot \log \left(\alpha \cdot \alpha\right)\right)\right) \cdot \left(\left(\left(1 + \left(\left(\alpha \cdot \alpha - 1\right) \cdot cosTheta\right) \cdot cosTheta\right) \cdot \left(1 + \left(\left(\alpha \cdot \alpha - 1\right) \cdot cosTheta\right) \cdot cosTheta\right)\right) \cdot \left(1 + \left(\left(\alpha \cdot \alpha - 1\right) \cdot cosTheta\right) \cdot cosTheta\right)\right)}}} \]

7. Applied add-cbrt-cube_binary32 0.5

   \[\leadsto \frac{\color{blue}{\sqrt[3]{\left(\left(\alpha \cdot \alpha - 1\right) \cdot \left(\alpha \cdot \alpha - 1\right)\right) \cdot \left(\alpha \cdot \alpha - 1\right)}}}{\sqrt[3]{\left(\left(\left(\pi \cdot \pi\right) \cdot \pi\right) \cdot \left(\left(\log \left(\alpha \cdot \alpha\right) \cdot \log \left(\alpha \cdot \alpha\right)\right) \cdot \log \left(\alpha \cdot \alpha\right)\right)\right) \cdot \left(\left(\left(1 + \left(\left(\alpha \cdot \alpha - 1\right) \cdot cosTheta\right) \cdot cosTheta\right) \cdot \left(1 + \left(\left(\alpha \cdot \alpha - 1\right) \cdot cosTheta\right) \cdot cosTheta\right)\right) \cdot \left(1 + \left(\left(\alpha \cdot \alpha - 1\right) \cdot cosTheta\right) \cdot cosTheta\right)\right)}} \]

8. Applied cbrt-undiv_binary32 0.4

   \[\leadsto \color{blue}{\sqrt[3]{\frac{\left(\left(\alpha \cdot \alpha - 1\right) \cdot \left(\alpha \cdot \alpha - 1\right)\right) \cdot \left(\alpha \cdot \alpha - 1\right)}{\left(\left(\left(\pi \cdot \pi\right) \cdot \pi\right) \cdot \left(\left(\log \left(\alpha \cdot \alpha\right) \cdot \log \left(\alpha \cdot \alpha\right)\right) \cdot \log \left(\alpha \cdot \alpha\right)\right)\right) \cdot \left(\left(\left(1 + \left(\left(\alpha \cdot \alpha - 1\right) \cdot cosTheta\right) \cdot cosTheta\right) \cdot \left(1 + \left(\left(\alpha \cdot \alpha - 1\right) \cdot cosTheta\right) \cdot cosTheta\right)\right) \cdot \left(1 + \left(\left(\alpha \cdot \alpha - 1\right) \cdot cosTheta\right) \cdot cosTheta\right)\right)}}} \]

9. Taylor expanded in alpha around 0 0.5

   \[\leadsto \sqrt[3]{\frac{\color{blue}{\left(\left(1 + {\alpha}^{4}\right) - 2 \cdot {\alpha}^{2}\right)} \cdot \left(\alpha \cdot \alpha - 1\right)}{\left(\left(\left(\pi \cdot \pi\right) \cdot \pi\right) \cdot \left(\left(\log \left(\alpha \cdot \alpha\right) \cdot \log \left(\alpha \cdot \alpha\right)\right) \cdot \log \left(\alpha \cdot \alpha\right)\right)\right) \cdot \left(\left(\left(1 + \left(\left(\alpha \cdot \alpha - 1\right) \cdot cosTheta\right) \cdot cosTheta\right) \cdot \left(1 + \left(\left(\alpha \cdot \alpha - 1\right) \cdot cosTheta\right) \cdot cosTheta\right)\right) \cdot \left(1 + \left(\left(\alpha \cdot \alpha - 1\right) \cdot cosTheta\right) \cdot cosTheta\right)\right)}} \]

10. Simplified 0.4

    \[\leadsto \sqrt[3]{\frac{\color{blue}{\mathsf{fma}\left(\alpha \cdot \alpha, \mathsf{fma}\left(\alpha, \alpha, -2\right), 1\right)} \cdot \left(\alpha \cdot \alpha - 1\right)}{\left(\left(\left(\pi \cdot \pi\right) \cdot \pi\right) \cdot \left(\left(\log \left(\alpha \cdot \alpha\right) \cdot \log \left(\alpha \cdot \alpha\right)\right) \cdot \log \left(\alpha \cdot \alpha\right)\right)\right) \cdot \left(\left(\left(1 + \left(\left(\alpha \cdot \alpha - 1\right) \cdot cosTheta\right) \cdot cosTheta\right) \cdot \left(1 + \left(\left(\alpha \cdot \alpha - 1\right) \cdot cosTheta\right) \cdot cosTheta\right)\right) \cdot \left(1 + \left(\left(\alpha \cdot \alpha - 1\right) \cdot cosTheta\right) \cdot cosTheta\right)\right)}} \]

11. Final simplification 0.4

    \[\leadsto \sqrt[3]{\frac{\mathsf{fma}\left(\alpha \cdot \alpha, \mathsf{fma}\left(\alpha, \alpha, -2\right), 1\right) \cdot \left(\alpha \cdot \alpha - 1\right)}{\left(\left(\pi \cdot \left(\pi \cdot \pi\right)\right) \cdot \left(\log \left(\alpha \cdot \alpha\right) \cdot \left(\log \left(\alpha \cdot \alpha\right) \cdot \log \left(\alpha \cdot \alpha\right)\right)\right)\right) \cdot \left(\left(1 + cosTheta \cdot \left(\left(\alpha \cdot \alpha - 1\right) \cdot cosTheta\right)\right) \cdot \left(\left(1 + cosTheta \cdot \left(\left(\alpha \cdot \alpha - 1\right) \cdot cosTheta\right)\right) \cdot \left(1 + cosTheta \cdot \left(\left(\alpha \cdot \alpha - 1\right) \cdot cosTheta\right)\right)\right)\right)}} \]

Reproduce

herbie shell --seed 2022131 
(FPCore (cosTheta alpha)
  :name "GTR1 distribution"
  :precision binary32
  :pre (and (and (<= 0.0 cosTheta) (<= cosTheta 1.0)) (and (<= 0.0001 alpha) (<= alpha 1.0)))
  (/ (- (* alpha alpha) 1.0) (* (* PI (log (* alpha alpha))) (+ 1.0 (* (* (- (* alpha alpha) 1.0) cosTheta) cosTheta)))))