serde_json/lexical/

cached_float80.rs

// Adapted from https://github.com/Alexhuszagh/rust-lexical.

//! Cached exponents for basen values with 80-bit extended floats.
//!
//! Exact versions of base**n as an extended-precision float, with both
//! large and small powers. Use the large powers to minimize the amount
//! of compounded error.
//!
//! These values were calculated using Python, using the arbitrary-precision
//! integer to calculate exact extended-representation of each value.
//! These values are all normalized.

use super::cached::{ExtendedFloatArray, ModeratePathPowers};

// LOW-LEVEL
// ---------

// BASE10

const BASE10_SMALL_MANTISSA: [u64; 10] = [
    9223372036854775808,  // 10^0
    11529215046068469760, // 10^1
    14411518807585587200, // 10^2
    18014398509481984000, // 10^3
    11258999068426240000, // 10^4
    14073748835532800000, // 10^5
    17592186044416000000, // 10^6
    10995116277760000000, // 10^7
    13743895347200000000, // 10^8
    17179869184000000000, // 10^9
];
const BASE10_SMALL_EXPONENT: [i32; 10] = [
    -63, // 10^0
    -60, // 10^1
    -57, // 10^2
    -54, // 10^3
    -50, // 10^4
    -47, // 10^5
    -44, // 10^6
    -40, // 10^7
    -37, // 10^8
    -34, // 10^9
];
const BASE10_LARGE_MANTISSA: [u64; 66] = [
    11555125961253852697, // 10^-350
    13451937075301367670, // 10^-340
    15660115838168849784, // 10^-330
    18230774251475056848, // 10^-320
    10611707258198326947, // 10^-310
    12353653155963782858, // 10^-300
    14381545078898527261, // 10^-290
    16742321987285426889, // 10^-280
    9745314011399999080,  // 10^-270
    11345038669416679861, // 10^-260
    13207363278391631158, // 10^-250
    15375394465392026070, // 10^-240
    17899314949046850752, // 10^-230
    10418772551374772303, // 10^-220
    12129047596099288555, // 10^-210
    14120069793541087484, // 10^-200
    16437924692338667210, // 10^-190
    9568131466127621947,  // 10^-180
    11138771039116687545, // 10^-170
    12967236152753102995, // 10^-160
    15095849699286165408, // 10^-150
    17573882009934360870, // 10^-140
    10229345649675443343, // 10^-130
    11908525658859223294, // 10^-120
    13863348470604074297, // 10^-110
    16139061738043178685, // 10^-100
    9394170331095332911,  // 10^-90
    10936253623915059621, // 10^-80
    12731474852090538039, // 10^-70
    14821387422376473014, // 10^-60
    17254365866976409468, // 10^-50
    10043362776618689222, // 10^-40
    11692013098647223345, // 10^-30
    13611294676837538538, // 10^-20
    15845632502852867518, // 10^-10
    9223372036854775808,  // 10^0
    10737418240000000000, // 10^10
    12500000000000000000, // 10^20
    14551915228366851806, // 10^30
    16940658945086006781, // 10^40
    9860761315262647567,  // 10^50
    11479437019748901445, // 10^60
    13363823550460978230, // 10^70
    15557538194652854267, // 10^80
    18111358157653424735, // 10^90
    10542197943230523224, // 10^100
    12272733663244316382, // 10^110
    14287342391028437277, // 10^120
    16632655625031838749, // 10^130
    9681479787123295682,  // 10^140
    11270725851789228247, // 10^150
    13120851772591970218, // 10^160
    15274681817498023410, // 10^170
    17782069995880619867, // 10^180
    10350527006597618960, // 10^190
    12049599325514420588, // 10^200
    14027579833653779454, // 10^210
    16330252207878254650, // 10^220
    9505457831475799117,  // 10^230
    11065809325636130661, // 10^240
    12882297539194266616, // 10^250
    14996968138956309548, // 10^260
    17458768723248864463, // 10^270
    10162340898095201970, // 10^280
    11830521861667747109, // 10^290
    13772540099066387756, // 10^300
];
const BASE10_LARGE_EXPONENT: [i32; 66] = [
    -1226, // 10^-350
    -1193, // 10^-340
    -1160, // 10^-330
    -1127, // 10^-320
    -1093, // 10^-310
    -1060, // 10^-300
    -1027, // 10^-290
    -994,  // 10^-280
    -960,  // 10^-270
    -927,  // 10^-260
    -894,  // 10^-250
    -861,  // 10^-240
    -828,  // 10^-230
    -794,  // 10^-220
    -761,  // 10^-210
    -728,  // 10^-200
    -695,  // 10^-190
    -661,  // 10^-180
    -628,  // 10^-170
    -595,  // 10^-160
    -562,  // 10^-150
    -529,  // 10^-140
    -495,  // 10^-130
    -462,  // 10^-120
    -429,  // 10^-110
    -396,  // 10^-100
    -362,  // 10^-90
    -329,  // 10^-80
    -296,  // 10^-70
    -263,  // 10^-60
    -230,  // 10^-50
    -196,  // 10^-40
    -163,  // 10^-30
    -130,  // 10^-20
    -97,   // 10^-10
    -63,   // 10^0
    -30,   // 10^10
    3,     // 10^20
    36,    // 10^30
    69,    // 10^40
    103,   // 10^50
    136,   // 10^60
    169,   // 10^70
    202,   // 10^80
    235,   // 10^90
    269,   // 10^100
    302,   // 10^110
    335,   // 10^120
    368,   // 10^130
    402,   // 10^140
    435,   // 10^150
    468,   // 10^160
    501,   // 10^170
    534,   // 10^180
    568,   // 10^190
    601,   // 10^200
    634,   // 10^210
    667,   // 10^220
    701,   // 10^230
    734,   // 10^240
    767,   // 10^250
    800,   // 10^260
    833,   // 10^270
    867,   // 10^280
    900,   // 10^290
    933,   // 10^300
];
const BASE10_SMALL_INT_POWERS: [u64; 10] = [
    1, 10, 100, 1000, 10000, 100000, 1000000, 10000000, 100000000, 1000000000,
];
const BASE10_STEP: i32 = 10;
const BASE10_BIAS: i32 = 350;

// HIGH LEVEL
// ----------

const BASE10_POWERS: ModeratePathPowers = ModeratePathPowers {
    small: ExtendedFloatArray {
        mant: &BASE10_SMALL_MANTISSA,
        exp: &BASE10_SMALL_EXPONENT,
    },
    large: ExtendedFloatArray {
        mant: &BASE10_LARGE_MANTISSA,
        exp: &BASE10_LARGE_EXPONENT,
    },
    small_int: &BASE10_SMALL_INT_POWERS,
    step: BASE10_STEP,
    bias: BASE10_BIAS,
};

/// Get powers from base.
pub(crate) fn get_powers() -> &'static ModeratePathPowers {
    &BASE10_POWERS
}