Further remarks on Kahan summation with decreasing ordering - Inria - Institut national de recherche en sciences et technologies du numérique Accéder directement au contenu
Pré-Publication, Document De Travail Année : 2021

Further remarks on Kahan summation with decreasing ordering

Résumé

We consider Kahan's compensated summation of $n$ floating-point numbers ordered as $|x_1| \ge \cdots \ge |x_n|$, and show that in IEEE arithmetic a large relative error can occur for a dimension as small as $n=4$. This answers a question raised in particular by Priest and Higham.
Fichier principal
Vignette du fichier
compensated-summation.pdf (206.69 Ko) Télécharger le fichier
Origine : Fichiers produits par l'(les) auteur(s)

Dates et versions

hal-03475741 , version 1 (11-12-2021)

Identifiants

  • HAL Id : hal-03475741 , version 1

Citer

Claude-Pierre Jeannerod. Further remarks on Kahan summation with decreasing ordering. 2021. ⟨hal-03475741⟩
142 Consultations
170 Téléchargements

Partager

Gmail Facebook X LinkedIn More