]> CyberLeo.Net >> Repos - FreeBSD/FreeBSD.git/commit
Fix spurious and extra underflows and resulting inaccuracies for some cases
authorbde <bde@FreeBSD.org>
Thu, 19 Jul 2018 15:04:10 +0000 (15:04 +0000)
committerbde <bde@FreeBSD.org>
Thu, 19 Jul 2018 15:04:10 +0000 (15:04 +0000)
commit0911b193ad036724133e675fc6b4a1395fcdb38b
tree3a57b0a88831e0b4d00fd963df15268a57d65b48
parentba129d5dd19ebb87b05760095c8c0b88deca6c24
Fix spurious and extra underflows and resulting inaccuracies for some cases
with 1 huge component and 1 tiny (but nowhere near denormal) component.
Rescale earlier so that a scale factor of 2 can be combined with a non-
scale divisor of 2, so that the division doesn't shift out a bit.  In the
usual case where the scale factor is just 1, the division may shift out a
bit, but then the underflow is not spurious and the inaccuracies are harder
to fix.
lib/msun/src/s_csqrt.c
lib/msun/src/s_csqrtl.c