contrib/compiler-rt/lib/truncdfsf2.c

   1 //===-- lib/truncdfsf2.c - double -> single conversion ------------*- C -*-===//
   2 //
   3 //                     The LLVM Compiler Infrastructure
   4 //
   5 // This file is dual licensed under the MIT and the University of Illinois Open
   6 // Source Licenses. See LICENSE.TXT for details.
   7 //
   8 //===----------------------------------------------------------------------===//
   9 //
  10 // This file implements a fairly generic conversion from a wider to a narrower
  11 // IEEE-754 floating-point type in the default (round to nearest, ties to even)
  12 // rounding mode.  The constants and types defined following the includes below
  13 // parameterize the conversion.
  14 //
  15 // This routine can be trivially adapted to support conversions to
  16 // half-precision or from quad-precision. It does not support types that don't
  17 // use the usual IEEE-754 interchange formats; specifically, some work would be
  18 // needed to adapt it to (for example) the Intel 80-bit format or PowerPC
  19 // double-double format.
  20 //
  21 // Note please, however, that this implementation is only intended to support
  22 // *narrowing* operations; if you need to convert to a *wider* floating-point
  23 // type (e.g. float -> double), then this routine will not do what you want it
  24 // to.
  25 //
  26 // It also requires that integer types at least as large as both formats
  27 // are available on the target platform; this may pose a problem when trying
  28 // to add support for quad on some 32-bit systems, for example.
  29 //
  30 // Finally, the following assumptions are made:
  31 //
  32 // 1. floating-point types and integer types have the same endianness on the
  33 //    target platform
  34 //
  35 // 2. quiet NaNs, if supported, are indicated by the leading bit of the
  36 //    significand field being set
  37 //
  38 //===----------------------------------------------------------------------===//
  39
  40 #include <stdint.h>
  41 #include <limits.h>
  42 #include <stdbool.h>
  43
  44 #include "abi.h"
  45
  46 typedef double src_t;
  47 typedef uint64_t src_rep_t;
  48 #define SRC_REP_C UINT64_C
  49 static const int srcSigBits = 52;
  50
  51 typedef float dst_t;
  52 typedef uint32_t dst_rep_t;
  53 #define DST_REP_C UINT32_C
  54 static const int dstSigBits = 23;
  55
  56 // End of specialization parameters.  Two helper routines for conversion to and
  57 // from the representation of floating-point data as integer values follow.
  58
  59 static inline src_rep_t srcToRep(src_t x) {
  60     const union { src_t f; src_rep_t i; } rep = {.f = x};
  61     return rep.i;
  62 }
  63
  64 static inline dst_t dstFromRep(dst_rep_t x) {
  65     const union { dst_t f; dst_rep_t i; } rep = {.i = x};
  66     return rep.f;
  67 }
  68
  69 // End helper routines.  Conversion implementation follows.
  70
  71 ARM_EABI_FNALIAS(d2f, truncdfsf2);
  72
  73 COMPILER_RT_ABI dst_t
  74 __truncdfsf2(src_t a) {
  75
  76     // Various constants whose values follow from the type parameters.
  77     // Any reasonable optimizer will fold and propagate all of these.
  78     const int srcBits = sizeof(src_t)*CHAR_BIT;
  79     const int srcExpBits = srcBits - srcSigBits - 1;
  80     const int srcInfExp = (1 << srcExpBits) - 1;
  81     const int srcExpBias = srcInfExp >> 1;
  82
  83     const src_rep_t srcMinNormal = SRC_REP_C(1) << srcSigBits;
  84     const src_rep_t significandMask = srcMinNormal - 1;
  85     const src_rep_t srcInfinity = (src_rep_t)srcInfExp << srcSigBits;
  86     const src_rep_t srcSignMask = SRC_REP_C(1) << (srcSigBits + srcExpBits);
  87     const src_rep_t srcAbsMask = srcSignMask - 1;
  88     const src_rep_t roundMask = (SRC_REP_C(1) << (srcSigBits - dstSigBits)) - 1;
  89     const src_rep_t halfway = SRC_REP_C(1) << (srcSigBits - dstSigBits - 1);
  90
  91     const int dstBits = sizeof(dst_t)*CHAR_BIT;
  92     const int dstExpBits = dstBits - dstSigBits - 1;
  93     const int dstInfExp = (1 << dstExpBits) - 1;
  94     const int dstExpBias = dstInfExp >> 1;
  95
  96     const int underflowExponent = srcExpBias + 1 - dstExpBias;
  97     const int overflowExponent = srcExpBias + dstInfExp - dstExpBias;
  98     const src_rep_t underflow = (src_rep_t)underflowExponent << srcSigBits;
  99     const src_rep_t overflow = (src_rep_t)overflowExponent << srcSigBits;
 100
 101     const dst_rep_t dstQNaN = DST_REP_C(1) << (dstSigBits - 1);
 102     const dst_rep_t dstNaNCode = dstQNaN - 1;
 103
 104     // Break a into a sign and representation of the absolute value
 105     const src_rep_t aRep = srcToRep(a);
 106     const src_rep_t aAbs = aRep & srcAbsMask;
 107     const src_rep_t sign = aRep & srcSignMask;
 108     dst_rep_t absResult;
 109
 110     if (aAbs - underflow < aAbs - overflow) {
 111         // The exponent of a is within the range of normal numbers in the
 112         // destination format.  We can convert by simply right-shifting with
 113         // rounding and adjusting the exponent.
 114         absResult = aAbs >> (srcSigBits - dstSigBits);
 115         absResult -= (dst_rep_t)(srcExpBias - dstExpBias) << dstSigBits;
 116
 117         const src_rep_t roundBits = aAbs & roundMask;
 118
 119         // Round to nearest
 120         if (roundBits > halfway)
 121             absResult++;
 122
 123         // Ties to even
 124         else if (roundBits == halfway)
 125             absResult += absResult & 1;
 126     }
 127
 128     else if (aAbs > srcInfinity) {
 129         // a is NaN.
 130         // Conjure the result by beginning with infinity, setting the qNaN
 131         // bit and inserting the (truncated) trailing NaN field.
 132         absResult = (dst_rep_t)dstInfExp << dstSigBits;
 133         absResult |= dstQNaN;
 134         absResult |= aAbs & dstNaNCode;
 135     }
 136
 137     else if (aAbs > overflow) {
 138         // a overflows to infinity.
 139         absResult = (dst_rep_t)dstInfExp << dstSigBits;
 140     }
 141
 142     else {
 143         // a underflows on conversion to the destination type or is an exact
 144         // zero.  The result may be a denormal or zero.  Extract the exponent
 145         // to get the shift amount for the denormalization.
 146         const int aExp = aAbs >> srcSigBits;
 147         const int shift = srcExpBias - dstExpBias - aExp + 1;
 148
 149         const src_rep_t significand = (aRep & significandMask) | srcMinNormal;
 150
 151         // Right shift by the denormalization amount with sticky.
 152         if (shift > srcSigBits) {
 153             absResult = 0;
 154         } else {
 155             const bool sticky = significand << (srcBits - shift);
 156             src_rep_t denormalizedSignificand = significand >> shift | sticky;
 157             absResult = denormalizedSignificand >> (srcSigBits - dstSigBits);
 158             const src_rep_t roundBits = denormalizedSignificand & roundMask;
 159             // Round to nearest
 160             if (roundBits > halfway)
 161                 absResult++;
 162             // Ties to even
 163             else if (roundBits == halfway)
 164                 absResult += absResult & 1;
 165         }
 166     }
 167
 168     // Apply the signbit to (dst_t)abs(a).
 169     const dst_rep_t result = absResult | sign >> (srcBits - dstBits);
 170     return dstFromRep(result);
 171
 172 }