FastMath test3

Percentage Accurate: 97.7% → 100.0%
Time: 2.0min
Alternatives: 7
Speedup: 1.8×

Specification

?
\[\begin{array}{l} \\ \left(d1 \cdot 3 + d1 \cdot d2\right) + d1 \cdot d3 \end{array} \]
(FPCore (d1 d2 d3) :precision binary64 (+ (+ (* d1 3.0) (* d1 d2)) (* d1 d3)))
double code(double d1, double d2, double d3) {
	return ((d1 * 3.0) + (d1 * d2)) + (d1 * d3);
}
real(8) function code(d1, d2, d3)
    real(8), intent (in) :: d1
    real(8), intent (in) :: d2
    real(8), intent (in) :: d3
    code = ((d1 * 3.0d0) + (d1 * d2)) + (d1 * d3)
end function
public static double code(double d1, double d2, double d3) {
	return ((d1 * 3.0) + (d1 * d2)) + (d1 * d3);
}
def code(d1, d2, d3):
	return ((d1 * 3.0) + (d1 * d2)) + (d1 * d3)
function code(d1, d2, d3)
	return Float64(Float64(Float64(d1 * 3.0) + Float64(d1 * d2)) + Float64(d1 * d3))
end
function tmp = code(d1, d2, d3)
	tmp = ((d1 * 3.0) + (d1 * d2)) + (d1 * d3);
end
code[d1_, d2_, d3_] := N[(N[(N[(d1 * 3.0), $MachinePrecision] + N[(d1 * d2), $MachinePrecision]), $MachinePrecision] + N[(d1 * d3), $MachinePrecision]), $MachinePrecision]
\begin{array}{l}

\\
\left(d1 \cdot 3 + d1 \cdot d2\right) + d1 \cdot d3
\end{array}

Sampling outcomes in binary64 precision:

Local Percentage Accuracy vs ?

The average percentage accuracy by input value. Horizontal axis shows value of an input variable; the variable is choosen in the title. Vertical axis is accuracy; higher is better. Red represent the original program, while blue represents Herbie's suggestion. These can be toggled with buttons below the plot. The line is an average while dots represent individual samples.

Accuracy vs Speed?

Herbie found 7 alternatives:

AlternativeAccuracySpeedup
The accuracy (vertical axis) and speed (horizontal axis) of each alternatives. Up and to the right is better. The red square shows the initial program, and each blue circle shows an alternative.The line shows the best available speed-accuracy tradeoffs.

Initial Program: 97.7% accurate, 1.0× speedup?

\[\begin{array}{l} \\ \left(d1 \cdot 3 + d1 \cdot d2\right) + d1 \cdot d3 \end{array} \]
(FPCore (d1 d2 d3) :precision binary64 (+ (+ (* d1 3.0) (* d1 d2)) (* d1 d3)))
double code(double d1, double d2, double d3) {
	return ((d1 * 3.0) + (d1 * d2)) + (d1 * d3);
}
real(8) function code(d1, d2, d3)
    real(8), intent (in) :: d1
    real(8), intent (in) :: d2
    real(8), intent (in) :: d3
    code = ((d1 * 3.0d0) + (d1 * d2)) + (d1 * d3)
end function
public static double code(double d1, double d2, double d3) {
	return ((d1 * 3.0) + (d1 * d2)) + (d1 * d3);
}
def code(d1, d2, d3):
	return ((d1 * 3.0) + (d1 * d2)) + (d1 * d3)
function code(d1, d2, d3)
	return Float64(Float64(Float64(d1 * 3.0) + Float64(d1 * d2)) + Float64(d1 * d3))
end
function tmp = code(d1, d2, d3)
	tmp = ((d1 * 3.0) + (d1 * d2)) + (d1 * d3);
end
code[d1_, d2_, d3_] := N[(N[(N[(d1 * 3.0), $MachinePrecision] + N[(d1 * d2), $MachinePrecision]), $MachinePrecision] + N[(d1 * d3), $MachinePrecision]), $MachinePrecision]
\begin{array}{l}

\\
\left(d1 \cdot 3 + d1 \cdot d2\right) + d1 \cdot d3
\end{array}

Alternative 1: 100.0% accurate, 1.5× speedup?

\[\begin{array}{l} \\ \mathsf{fma}\left(d1, 3, d1 \cdot \left(d2 + d3\right)\right) \end{array} \]
(FPCore (d1 d2 d3) :precision binary64 (fma d1 3.0 (* d1 (+ d2 d3))))
double code(double d1, double d2, double d3) {
	return fma(d1, 3.0, (d1 * (d2 + d3)));
}
function code(d1, d2, d3)
	return fma(d1, 3.0, Float64(d1 * Float64(d2 + d3)))
end
code[d1_, d2_, d3_] := N[(d1 * 3.0 + N[(d1 * N[(d2 + d3), $MachinePrecision]), $MachinePrecision]), $MachinePrecision]
\begin{array}{l}

\\
\mathsf{fma}\left(d1, 3, d1 \cdot \left(d2 + d3\right)\right)
\end{array}
Derivation
  1. Initial program 98.3%

    \[\left(d1 \cdot 3 + d1 \cdot d2\right) + d1 \cdot d3 \]
  2. Add Preprocessing
  3. Step-by-step derivation
    1. lift-*.f64N/A

      \[\leadsto \left(\color{blue}{d1 \cdot 3} + d1 \cdot d2\right) + d1 \cdot d3 \]
    2. lift-*.f64N/A

      \[\leadsto \left(d1 \cdot 3 + \color{blue}{d1 \cdot d2}\right) + d1 \cdot d3 \]
    3. lift-*.f64N/A

      \[\leadsto \left(d1 \cdot 3 + d1 \cdot d2\right) + \color{blue}{d1 \cdot d3} \]
    4. associate-+l+N/A

      \[\leadsto \color{blue}{d1 \cdot 3 + \left(d1 \cdot d2 + d1 \cdot d3\right)} \]
    5. lift-*.f64N/A

      \[\leadsto \color{blue}{d1 \cdot 3} + \left(d1 \cdot d2 + d1 \cdot d3\right) \]
    6. lower-fma.f64N/A

      \[\leadsto \color{blue}{\mathsf{fma}\left(d1, 3, d1 \cdot d2 + d1 \cdot d3\right)} \]
    7. lift-*.f64N/A

      \[\leadsto \mathsf{fma}\left(d1, 3, \color{blue}{d1 \cdot d2} + d1 \cdot d3\right) \]
    8. lift-*.f64N/A

      \[\leadsto \mathsf{fma}\left(d1, 3, d1 \cdot d2 + \color{blue}{d1 \cdot d3}\right) \]
    9. distribute-lft-outN/A

      \[\leadsto \mathsf{fma}\left(d1, 3, \color{blue}{d1 \cdot \left(d2 + d3\right)}\right) \]
    10. lower-*.f64N/A

      \[\leadsto \mathsf{fma}\left(d1, 3, \color{blue}{d1 \cdot \left(d2 + d3\right)}\right) \]
    11. lower-+.f64100.0

      \[\leadsto \mathsf{fma}\left(d1, 3, d1 \cdot \color{blue}{\left(d2 + d3\right)}\right) \]
  4. Applied egg-rr100.0%

    \[\leadsto \color{blue}{\mathsf{fma}\left(d1, 3, d1 \cdot \left(d2 + d3\right)\right)} \]
  5. Add Preprocessing

Alternative 2: 41.6% accurate, 0.4× speedup?

\[\begin{array}{l} \\ \begin{array}{l} t_0 := \left(d1 \cdot 3 + d1 \cdot d2\right) + d1 \cdot d3\\ \mathbf{if}\;t\_0 \leq -1 \cdot 10^{-262}:\\ \;\;\;\;d1 \cdot d2\\ \mathbf{elif}\;t\_0 \leq 4 \cdot 10^{+124}:\\ \;\;\;\;d1 \cdot 3\\ \mathbf{else}:\\ \;\;\;\;d1 \cdot d3\\ \end{array} \end{array} \]
(FPCore (d1 d2 d3)
 :precision binary64
 (let* ((t_0 (+ (+ (* d1 3.0) (* d1 d2)) (* d1 d3))))
   (if (<= t_0 -1e-262) (* d1 d2) (if (<= t_0 4e+124) (* d1 3.0) (* d1 d3)))))
double code(double d1, double d2, double d3) {
	double t_0 = ((d1 * 3.0) + (d1 * d2)) + (d1 * d3);
	double tmp;
	if (t_0 <= -1e-262) {
		tmp = d1 * d2;
	} else if (t_0 <= 4e+124) {
		tmp = d1 * 3.0;
	} else {
		tmp = d1 * d3;
	}
	return tmp;
}
real(8) function code(d1, d2, d3)
    real(8), intent (in) :: d1
    real(8), intent (in) :: d2
    real(8), intent (in) :: d3
    real(8) :: t_0
    real(8) :: tmp
    t_0 = ((d1 * 3.0d0) + (d1 * d2)) + (d1 * d3)
    if (t_0 <= (-1d-262)) then
        tmp = d1 * d2
    else if (t_0 <= 4d+124) then
        tmp = d1 * 3.0d0
    else
        tmp = d1 * d3
    end if
    code = tmp
end function
public static double code(double d1, double d2, double d3) {
	double t_0 = ((d1 * 3.0) + (d1 * d2)) + (d1 * d3);
	double tmp;
	if (t_0 <= -1e-262) {
		tmp = d1 * d2;
	} else if (t_0 <= 4e+124) {
		tmp = d1 * 3.0;
	} else {
		tmp = d1 * d3;
	}
	return tmp;
}
def code(d1, d2, d3):
	t_0 = ((d1 * 3.0) + (d1 * d2)) + (d1 * d3)
	tmp = 0
	if t_0 <= -1e-262:
		tmp = d1 * d2
	elif t_0 <= 4e+124:
		tmp = d1 * 3.0
	else:
		tmp = d1 * d3
	return tmp
function code(d1, d2, d3)
	t_0 = Float64(Float64(Float64(d1 * 3.0) + Float64(d1 * d2)) + Float64(d1 * d3))
	tmp = 0.0
	if (t_0 <= -1e-262)
		tmp = Float64(d1 * d2);
	elseif (t_0 <= 4e+124)
		tmp = Float64(d1 * 3.0);
	else
		tmp = Float64(d1 * d3);
	end
	return tmp
end
function tmp_2 = code(d1, d2, d3)
	t_0 = ((d1 * 3.0) + (d1 * d2)) + (d1 * d3);
	tmp = 0.0;
	if (t_0 <= -1e-262)
		tmp = d1 * d2;
	elseif (t_0 <= 4e+124)
		tmp = d1 * 3.0;
	else
		tmp = d1 * d3;
	end
	tmp_2 = tmp;
end
code[d1_, d2_, d3_] := Block[{t$95$0 = N[(N[(N[(d1 * 3.0), $MachinePrecision] + N[(d1 * d2), $MachinePrecision]), $MachinePrecision] + N[(d1 * d3), $MachinePrecision]), $MachinePrecision]}, If[LessEqual[t$95$0, -1e-262], N[(d1 * d2), $MachinePrecision], If[LessEqual[t$95$0, 4e+124], N[(d1 * 3.0), $MachinePrecision], N[(d1 * d3), $MachinePrecision]]]]
\begin{array}{l}

\\
\begin{array}{l}
t_0 := \left(d1 \cdot 3 + d1 \cdot d2\right) + d1 \cdot d3\\
\mathbf{if}\;t\_0 \leq -1 \cdot 10^{-262}:\\
\;\;\;\;d1 \cdot d2\\

\mathbf{elif}\;t\_0 \leq 4 \cdot 10^{+124}:\\
\;\;\;\;d1 \cdot 3\\

\mathbf{else}:\\
\;\;\;\;d1 \cdot d3\\


\end{array}
\end{array}
Derivation
  1. Split input into 3 regimes
  2. if (+.f64 (+.f64 (*.f64 d1 #s(literal 3 binary64)) (*.f64 d1 d2)) (*.f64 d1 d3)) < -1.00000000000000001e-262

    1. Initial program 99.9%

      \[\left(d1 \cdot 3 + d1 \cdot d2\right) + d1 \cdot d3 \]
    2. Add Preprocessing
    3. Taylor expanded in d2 around inf

      \[\leadsto \color{blue}{d1 \cdot d2} \]
    4. Step-by-step derivation
      1. lower-*.f6440.5

        \[\leadsto \color{blue}{d1 \cdot d2} \]
    5. Simplified40.5%

      \[\leadsto \color{blue}{d1 \cdot d2} \]

    if -1.00000000000000001e-262 < (+.f64 (+.f64 (*.f64 d1 #s(literal 3 binary64)) (*.f64 d1 d2)) (*.f64 d1 d3)) < 3.99999999999999979e124

    1. Initial program 99.9%

      \[\left(d1 \cdot 3 + d1 \cdot d2\right) + d1 \cdot d3 \]
    2. Add Preprocessing
    3. Taylor expanded in d3 around 0

      \[\leadsto \color{blue}{3 \cdot d1 + d1 \cdot d2} \]
    4. Step-by-step derivation
      1. *-commutativeN/A

        \[\leadsto \color{blue}{d1 \cdot 3} + d1 \cdot d2 \]
      2. distribute-lft-inN/A

        \[\leadsto \color{blue}{d1 \cdot \left(3 + d2\right)} \]
      3. lower-*.f64N/A

        \[\leadsto \color{blue}{d1 \cdot \left(3 + d2\right)} \]
      4. lower-+.f6469.8

        \[\leadsto d1 \cdot \color{blue}{\left(3 + d2\right)} \]
    5. Simplified69.8%

      \[\leadsto \color{blue}{d1 \cdot \left(3 + d2\right)} \]
    6. Taylor expanded in d2 around 0

      \[\leadsto \color{blue}{3 \cdot d1} \]
    7. Step-by-step derivation
      1. *-commutativeN/A

        \[\leadsto \color{blue}{d1 \cdot 3} \]
      2. lower-*.f6438.9

        \[\leadsto \color{blue}{d1 \cdot 3} \]
    8. Simplified38.9%

      \[\leadsto \color{blue}{d1 \cdot 3} \]

    if 3.99999999999999979e124 < (+.f64 (+.f64 (*.f64 d1 #s(literal 3 binary64)) (*.f64 d1 d2)) (*.f64 d1 d3))

    1. Initial program 91.5%

      \[\left(d1 \cdot 3 + d1 \cdot d2\right) + d1 \cdot d3 \]
    2. Add Preprocessing
    3. Taylor expanded in d3 around inf

      \[\leadsto \color{blue}{d1 \cdot d3} \]
    4. Step-by-step derivation
      1. lower-*.f6446.3

        \[\leadsto \color{blue}{d1 \cdot d3} \]
    5. Simplified46.3%

      \[\leadsto \color{blue}{d1 \cdot d3} \]
  3. Recombined 3 regimes into one program.
  4. Add Preprocessing

Developer Target 1: 99.9% accurate, 1.8× speedup?

\[\begin{array}{l} \\ d1 \cdot \left(\left(3 + d2\right) + d3\right) \end{array} \]
(FPCore (d1 d2 d3) :precision binary64 (* d1 (+ (+ 3.0 d2) d3)))
double code(double d1, double d2, double d3) {
	return d1 * ((3.0 + d2) + d3);
}
real(8) function code(d1, d2, d3)
    real(8), intent (in) :: d1
    real(8), intent (in) :: d2
    real(8), intent (in) :: d3
    code = d1 * ((3.0d0 + d2) + d3)
end function
public static double code(double d1, double d2, double d3) {
	return d1 * ((3.0 + d2) + d3);
}
def code(d1, d2, d3):
	return d1 * ((3.0 + d2) + d3)
function code(d1, d2, d3)
	return Float64(d1 * Float64(Float64(3.0 + d2) + d3))
end
function tmp = code(d1, d2, d3)
	tmp = d1 * ((3.0 + d2) + d3);
end
code[d1_, d2_, d3_] := N[(d1 * N[(N[(3.0 + d2), $MachinePrecision] + d3), $MachinePrecision]), $MachinePrecision]
\begin{array}{l}

\\
d1 \cdot \left(\left(3 + d2\right) + d3\right)
\end{array}

Reproduce

?
herbie shell --seed 2024218 
(FPCore (d1 d2 d3)
  :name "FastMath test3"
  :precision binary64

  :alt
  (! :herbie-platform default (* d1 (+ 3 d2 d3)))

  (+ (+ (* d1 3.0) (* d1 d2)) (* d1 d3)))