34311 articles – 26875 Notices  [english version]

ensl-00737881, version 1

Comparison between binary64 and decimal64 floating-point numbers

Nicolas Brisebarre () 12, Marc Mezzarobba () 12, Jean-Michel Muller (, http://perso.ens-lyon.fr/jean-michel.muller/) 12, Christoph Lauter () 3

21st IEEE Symposium on Computer Arithmetic (2013) 8

Résumé : We introduce an algorithm that allows one to quickly compare a binary64 floating-point (FP) number and a decimal64 FP number, assuming the "binary encoding" of the decimal formats specified by the IEEE 754-2008 standard for FP arithmetic is used. It is a two-step algorithm: a first pass, based on the exponents only, makes it possible to quickly eliminate most cases, then when the first pass does not suffice, a more accurate second pass is required. We provide an implementation of several variants of our algorithm, and compare them.

  • 1 :  ARIC (Inria Grenoble Rhône-Alpes / LIP Laboratoire de l'Informatique du Parallélisme)
  • INRIA – CNRS : UMR5668 – Université Claude Bernard - Lyon I (UCBL) – École Normale Supérieure (ENS) - Lyon
  • 2 :  Laboratoire de l'Informatique du Parallélisme (LIP)
  • PRES Université de Lyon – CNRS : UMR5668 – INRIA – École Normale Supérieure (ENS) - Lyon – Université Claude Bernard - Lyon I (UCBL)
  • 3 :  Laboratoire d'Informatique de Paris 6 (LIP6)
  • CNRS : UMR7606 – Université Pierre et Marie Curie (UPMC) - Paris VI
 
  • ensl-00737881, version 1
  • oai:hal-ens-lyon.archives-ouvertes.fr:ensl-00737881
  • Contributeur : 
  • Soumis le : Mercredi 3 Octobre 2012, 10:00:19
  • Dernière modification le : Lundi 10 Décembre 2012, 11:03:25