\cos \left(\left(uy \cdot 2\right) \cdot \pi\right) \cdot \sqrt{1 - \left(\left(1 - ux\right) + ux \cdot maxCos\right) \cdot \left(\left(1 - ux\right) + ux \cdot maxCos\right)}\cos \left(\left(uy \cdot 2\right) \cdot \pi\right) \cdot \sqrt{2 \cdot \left(maxCos \cdot \left(ux \cdot ux\right)\right) + \left(ux \cdot \left(2 - ux\right) - \left(maxCos \cdot ux\right) \cdot \left(2 + maxCos \cdot ux\right)\right)}(FPCore (ux uy maxCos) :precision binary32 (* (cos (* (* uy 2.0) PI)) (sqrt (- 1.0 (* (+ (- 1.0 ux) (* ux maxCos)) (+ (- 1.0 ux) (* ux maxCos)))))))
(FPCore (ux uy maxCos)
:precision binary32
(*
(cos (* (* uy 2.0) PI))
(sqrt
(+
(* 2.0 (* maxCos (* ux ux)))
(- (* ux (- 2.0 ux)) (* (* maxCos ux) (+ 2.0 (* maxCos ux))))))))float code(float ux, float uy, float maxCos) {
return cosf((uy * 2.0f) * ((float) M_PI)) * sqrtf(1.0f - (((1.0f - ux) + (ux * maxCos)) * ((1.0f - ux) + (ux * maxCos))));
}
float code(float ux, float uy, float maxCos) {
return cosf((uy * 2.0f) * ((float) M_PI)) * sqrtf((2.0f * (maxCos * (ux * ux))) + ((ux * (2.0f - ux)) - ((maxCos * ux) * (2.0f + (maxCos * ux)))));
}



Bits error versus ux



Bits error versus uy



Bits error versus maxCos
Results
Initial program 13.6
Simplified0.4
Taylor expanded around 0 0.3
Simplified0.3
Final simplification0.3
herbie shell --seed 2021174
(FPCore (ux uy maxCos)
:name "UniformSampleCone, x"
:precision binary32
:pre (and (<= 2.328306437e-10 ux 1.0) (<= 2.328306437e-10 uy 1.0) (<= 0.0 maxCos 1.0))
(* (cos (* (* uy 2.0) PI)) (sqrt (- 1.0 (* (+ (- 1.0 ux) (* ux maxCos)) (+ (- 1.0 ux) (* ux maxCos)))))))