Piccolo calcolo, enorme problema

stewa — Tue, 09 Feb 2010 17:10:34 GMT

Ciao a tutti,
sto impazzendo con una cosa di cui non riesco a capacitarmi (e che, se qualcuno non mi fornisce una spiegazione plausibile, mi sembra decisamente grave).
Ho incontrato il problema nello sviluppo di un'applicazione più grande, ma sono riuscito a riprodurlo anche con un semplicissimo progetto WPF.
Lo scopo del pezzo di codice è di eliminare i decimali non significativi da un numero (nell'esempio tengo solo il primo decimale).
Per riprodurre il problema ho creato una ...

Continua a leggere Piccolo calcolo, enorme problema.

RE: Piccolo calcolo, enorme problema

m.casati — Tue, 09 Feb 2010 22:54:59 GMT

Ciao! Non sono riuscito a riprodurre il problema che segnali: a me sia l'exe in release che quello in debug danno il risultato corretto... B)

Continua a leggere RE: Piccolo calcolo, enorme problema.

RE: Piccolo calcolo, enorme problema

stewa — Wed, 10 Feb 2010 07:25:36 GMT

Grazie lo stesso, la cosa incredibile è che l'ho appena riprodotto (è una cosa talmente strana che sto tentando e ritentando, per essere sicuro di non sbagliare qualcosa, ma il codice è talmente semplice, e succede sempre!).
Ciao

Continua a leggere RE: Piccolo calcolo, enorme problema.

RE: Piccolo calcolo, enorme problema

stewa — Wed, 10 Feb 2010 08:13:30 GMT

Per m.casati: ho appena provato su una macchina a 64 bit con XP 64 e il codice funziona (la mia è a 64 ma con XP 32)! Il tup SO è a 32 bit o 64 bit? Giusto per capire la casistica.
Grazie mille
Ciao

Continua a leggere RE: Piccolo calcolo, enorme problema.

RE: Piccolo calcolo, enorme problema

m.casati — Wed, 10 Feb 2010 08:16:22 GMT

Hardware a 64 bit con Windows 7 64 bit

Continua a leggere RE: Piccolo calcolo, enorme problema.

RE: Piccolo calcolo, enorme problema

Cradle — Wed, 10 Feb 2010 09:55:27 GMT

Comunque, a parte la curiosità di capire l'origine del problema, che IMHO ci sta tutta, due consigli:
1) Evita di usare Single o Double per questi scopi: sono tipi floating point che possono dare origine a problemi di arrotondamenti. Il tipo Decimal, che è basato su logaritmi in base 10, è molto più "stabile" in questo senso
2) Per arrotondare a n decimali, usa i metodi Math.Round, Math.Floor o Math.Ceiling

Ciao ;)

Continua a leggere RE: Piccolo calcolo, enorme problema.

RE: Piccolo calcolo, enorme problema

stewa — Thu, 11 Feb 2010 09:01:26 GMT

Riporto dal forum MSDN, così può essere utile per tutti:

[quote]
Yes, this is reproducible on x86 (even WOW64) and by design.
Read this article "What every computer scientist should know about floating-point arithmetic". In nutshell, floating-point operations have errors in precision by design.
The difference between debug and release builds here is that JIT will do different 80-bit -> 32-bit floating-point conversions which change the epsilon error and can cause this.

Here's ...

Continua a leggere RE: Piccolo calcolo, enorme problema.

RE: Piccolo calcolo, enorme problema

Cradle — Thu, 11 Feb 2010 13:40:09 GMT

Interessante!! Comunque Single e Double sono tipi soggetti a queste sfighe e infatti IMHO andrebbero utilizzati per altri scopi (es. risolvere un'equazione, determinare i punti in un grafico, ecc.ecc.). Altrimenti, quando un dato approssimato non è accettabile, usa Decimal e vivi felice ;)

Ciao,
m.

Continua a leggere RE: Piccolo calcolo, enorme problema.

RE: Piccolo calcolo, enorme problema

stewa — Thu, 11 Feb 2010 14:44:25 GMT

Grazie per il suggerimento, ma il problema è che io, tipicamente, leggo dati registrati da centraline. I dati salvati dal firmware sono rappresentati come interi a 2 byte (il numero di decimali viene salvato a parte, in modo da ricostrutire i numeri con la virgola correttamente), e la dimensione classica di un file è 60MB (quasi tutti dati). Se utilizzassi Decimal, che sono a 16 byte, mi troverei a maneggiare qualcosa come 480MB di dati al colpo (8) ... peccato, perchè sembravano proprio adatti ...

Continua a leggere RE: Piccolo calcolo, enorme problema.

RE: Piccolo calcolo, enorme problema

Revan1985 — Thu, 04 Mar 2010 11:55:08 GMT

non ti andrebbe bene usare interi?
il firmware usa dati a 2 byte...
usa un Uint16 per la parte intera e Uin16 per la decimale...
quasti problemi non li riscontri più [in c++ in banca fan cosi...]

ciao

Continua a leggere RE: Piccolo calcolo, enorme problema.