Forum - Beitrag anzeigen

CF-Basics - Re: Zahlen vergleichen...

Icon Pfeil Startseite Icon Pfeil Kategorie Icon Pfeil Suche

Icon Forum Beitrag vom 28.03.2011 17:53 (903 Aufrufe)
Name: cfsandy
Titel: Re: Zahlen vergleichen...
Inhalt: Du bist in ein Problem mit der Fließkomma Genauigkeit geraten

Bei 19.9 * 100 ist das interne Ergebnis wahrscheinlich irgendeine schräge Zahl (jede menge Nullen nach dem Komma und irgendwann einmal ein Einser oder viele Neunen und irgendwann einmal eine Acht).

Das kannst Du überprüfen, indem Du die Ausgabe mit einer Maske formatierst:

<cfset wert1 = NumberFormat(wert1, "99.999999999999999")>

dann siehts Du, dass das Ergebnis nicht 1990 ist.

Beheben kannst Du das Problem z.B.: durch Runden der Zahlen.

<cfset wert1 = round(wert1 * 100)>

Es kommt aber ganz auf Deine Anforderungen an die Genauigkeit an. Du musst prüfen ob das Ergebnis auch dem entspricht, was Du erwartest und was für die Aufgabenstellung korrekt ist.

Andreas Schuldhaus
ATGInfotech
http://www.atginfotech.com
E-Mail: cfmlde [at] atginfotech [dot] com
Twitter: @cfexpert

Antworten
Icon Forum Zahlen vergleichen... (Martin, 28.03.2011 09:11)
   Icon Forum Re: Zahlen vergleichen... (cfsandy, 28.03.2011 17:53)

Bitte melden Sie sich kostenlos an, um eine Antwort auf diesen Beitrag zu erstellen.


Das deutsche ColdFusion-Forum cfml.de ist das Portal für Einsteiger und Experten zum Thema ColdFusion und der ColdFusion Markup Language (CFML).

© 2017 Webdesign & Hosting: CHC ONLINE Kassel | SOLVA Content-Management-System CMS
Urlaub-Angebote.de - Urlaub mit Bestpreis-Garantie buchen