An Algorithm that Computes a Lower Bound on the Distance Between a Segment and $Z^2$ - LARA - Libre accès aux rapports scientifiques et techniques Accéder directement au contenu
Rapport (Rapport De Recherche) Année : 1997

An Algorithm that Computes a Lower Bound on the Distance Between a Segment and $Z^2$

Résumé

We give a fast algorithm for computing a lower bound on the distance between a straight line and the points of a regular grid. This algorithm is used to find worst cases when trying to round the elementary functions correctly in floating-point arithmetic, which consists in returning the machine number that is the closest (there are other rounding modes) to the exact result.
Nous donnons un algorithme rapide permettant de calculer une minoration de la distance entre un segment de droite et les points d'une grille régulière. Cet algorithme est utilisé pour trouver les pires cas lorsque l'on arrondit exactement les fonctions élémentaires en arithmétique à virgule flottante, ce qui consiste à renvoyer le nombre machine le plus proche (il existe d'autres modes d'arrondi) du résultat exact.
Fichier principal
Vignette du fichier
RR1997-18.pdf (238.02 Ko) Télécharger le fichier
Origine : Fichiers produits par l'(les) auteur(s)
Loading...

Dates et versions

hal-02101812 , version 1 (17-04-2019)

Identifiants

  • HAL Id : hal-02101812 , version 1

Citer

Vincent Lefevre. An Algorithm that Computes a Lower Bound on the Distance Between a Segment and $Z^2$. [Research Report] LIP RR-1997-18, Laboratoire de l'informatique du parallélisme. 1997, 2+9p. ⟨hal-02101812⟩
16 Consultations
39 Téléchargements

Partager

Gmail Facebook X LinkedIn More