golang 比較浮點數的大小方式
Golang浮點數比較和運算會出現誤差。
浮點數儲存至內存中時,2的-1、-2……-n次方不能精確的表示小數部分,所以再把這個數從地址中取出來進行計算就出現瞭偏差。
package main import ( "errors" "fmt" "github.com/shopspring/decimal" ) func FloatCompare(f1, f2 interface{}) (n int, err error) { var f1Dec, f2Dec decimal.Decimal switch f1.(type) { case float64: f1Dec = decimal.NewFromFloat(f1.(float64)) switch f2.(type) { case float64: f2Dec = decimal.NewFromFloat(f2.(float64)) case string: f2Dec, err = decimal.NewFromString(f2.(string)) if err != nil { return 2, err } default: return 2, errors.New("FloatCompare() expecting to receive float64 or string") } case string: f1Dec, err = decimal.NewFromString(f1.(string)) if err != nil { return 2, err } switch f2.(type) { case float64: f2Dec = decimal.NewFromFloat(f2.(float64)) case string: f2Dec, err = decimal.NewFromString(f2.(string)) if err != nil { return 2, err } default: return 2, errors.New("FloatCompare() expecting to receive float64 or string") } default: return 2, errors.New("FloatCompare() expecting to receive float64 or string") } return f1Dec.Cmp(f2Dec), nil } func main() { a:=4.0 b:="4" fmt.Println(FloatCompare(a,b)) }
補充:golang 判斷2個浮點型數字是否相同
判斷2個浮點型數字是否相同的方法(假定整數部分+小數點後3位相同,則視為相同)
首先將2個浮點型數字轉換為string數據
將float類型的數據轉換成string
func Decimal(value float32) string { value1 := fmt.Sprintf("%.6f", value) return value1 }
比較兩個由float型數據轉化成string的數據是否相同是否相同
func Compare(val1,val2 string) bool { indexf :=strings.Index(val1,".") + 4 indexs :=strings.Index(val2,".") + 4 if indexs != indexf { return false }else { if val1[0:indexf] == val2[0:indexs]{ return true }else { return false } } }
補充:golang 浮點數操作
數據庫中金額元存儲的數據結構使用的是decimal(15,2),golang中使用float64保存變量內容。通過轉換將 float64 -> int64
最簡單的方式:int64(float64 * 100),但是由於浮點數在計算機內的表示方式問題導致有一部分數據會出現問題,
例如:
var v = 67.6 fmt.Println(int64(v *100)) 輸出結果為:6759
解決方法:
使用”github.com/shopspring/decimal”包,將對浮點數進行精確計算,例如:
f1 := decimal.NewFromFloat(v) f2 := decimal.NewFromFloat(100) fmt.Println(f1.Mul(f2).IntPart()) 輸出結果為6760
以上為個人經驗,希望能給大傢一個參考,也希望大傢多多支持WalkonNet。如有錯誤或未考慮完全的地方,望不吝賜教。
推薦閱讀:
- Golang科學計數法轉換string數字輸出的實現
- golang的強制類型轉換實現
- 淺析golang開發Error的使用詳解
- Golang的func參數及返回值操作
- Go語言學習之Switch語句的使用