inria-00068731, version 2
Worst Cases for the Exponential Function in the IEEE 754r decimal64 Format
Vincent Lefèvre
a, 1Damien Stehlé 1Paul Zimmermann 2
Reliable Implementation of Real Number Algorithms: Theory and Practice 5045 (2006) 114-126
Résumé : We show how one can search for the worst cases for correct rounding of the exponential function in the IEEE 754r 64-bit decimal format, and give such bad cases that have been found so far. This work can be extended to other elementary functions in the decimal64 format, and allows the design of reasonably fast routines that will evaluate these functions with correct rounding, at least in some domains.
- a – INRIA
- 1 : ARENAIRE (Inria Grenoble Rhône-Alpes / LIP Laboratoire de l'Informatique du Parallélisme)
- INRIA – CNRS : UMR5668 – Université Claude Bernard - Lyon I – École Normale Supérieure - Lyon
- 2 : CACAO (Courbes, Algèbre, Calculs, Arithmétique des Ordinateurs) (INRIA Lorraine - LORIA)
- CNRS : UMR7503 – INRIA – Université Henri Poincaré - Nancy I – Université Nancy II – Institut National Polytechnique de Lorraine
- Domaine : Informatique/Algorithme et structure de données
Informatique/Analyse numérique - Mots-clés : floating-point arithmetic – decimal arithmetic – table maker's dilemma – correct rounding – elementary functions
- Commentaire : The original publication is available at http://www.springerlink.com/content/d4v8617747552472/
- Versions disponibles : v1 (13-05-2006) v2 (03-09-2008)
- inria-00068731, version 2
- http://hal.inria.fr/inria-00068731
- oai:hal.inria.fr:inria-00068731
- Contributeur : Vincent Lefèvre
- Soumis le : Mercredi 3 Septembre 2008, 13:07:06
- Dernière modification le : Lundi 15 Septembre 2008, 10:01:38
Documents associés
Exporter