]> CyberLeo.Net >> Repos - FreeBSD/FreeBSD.git/commit
Fix spurious and extra underflows and resulting inaccuracies for some cases
authorBruce Evans <bde@FreeBSD.org>
Thu, 19 Jul 2018 15:04:10 +0000 (15:04 +0000)
committerBruce Evans <bde@FreeBSD.org>
Thu, 19 Jul 2018 15:04:10 +0000 (15:04 +0000)
commitb7092eef4d0fbf133fccca0e5b863e4a9d7881a2
tree3a57b0a88831e0b4d00fd963df15268a57d65b48
parent50c8bd4e537903cb8ebfdda99fa0f030ec3698cd
Fix spurious and extra underflows and resulting inaccuracies for some cases
with 1 huge component and 1 tiny (but nowhere near denormal) component.
Rescale earlier so that a scale factor of 2 can be combined with a non-
scale divisor of 2, so that the division doesn't shift out a bit.  In the
usual case where the scale factor is just 1, the division may shift out a
bit, but then the underflow is not spurious and the inaccuracies are harder
to fix.
lib/msun/src/s_csqrt.c
lib/msun/src/s_csqrtl.c