主頁 > 知識庫 > golang 比較浮點數(shù)的大小方式

golang 比較浮點數(shù)的大小方式

熱門標簽:外呼系統(tǒng)用什么卡 電話機器人軟件免費 百度地圖標注后傳給手機 外呼系統(tǒng)顯本地手機號 壽光微信地圖標注 excel地圖標注分布數(shù)據(jù) 涿州代理外呼系統(tǒng) 阿克蘇地圖標注 評價高的400電話辦理

Golang浮點數(shù)比較和運算會出現(xiàn)誤差。

浮點數(shù)儲存至內(nèi)存中時,2的-1、-2……-n次方不能精確的表示小數(shù)部分,所以再把這個數(shù)從地址中取出來進行計算就出現(xiàn)了偏差。

package main
import (
	"errors"
	"fmt"
	"github.com/shopspring/decimal"
)
func FloatCompare(f1, f2 interface{}) (n int, err error) {
	var f1Dec, f2Dec decimal.Decimal
	switch f1.(type) {
	case float64:
		f1Dec = decimal.NewFromFloat(f1.(float64))
		switch f2.(type) {
		case float64:
			f2Dec = decimal.NewFromFloat(f2.(float64))
		case string:
			f2Dec, err = decimal.NewFromString(f2.(string))
			if err != nil {
				return 2, err
			}
		default:
			return 2, errors.New("FloatCompare() expecting to receive float64 or string")
		}
	case string:
		f1Dec, err = decimal.NewFromString(f1.(string))
		if err != nil {
			return 2, err
		}
		switch f2.(type) {
		case float64:
			f2Dec = decimal.NewFromFloat(f2.(float64))
		case string:
			f2Dec, err = decimal.NewFromString(f2.(string))
			if err != nil {
				return 2, err
			}
		default:
			return 2, errors.New("FloatCompare() expecting to receive float64 or string")
		}
	default:
		return 2, errors.New("FloatCompare() expecting to receive float64 or string")
	}
	return f1Dec.Cmp(f2Dec), nil
}
func main() {
	a:=4.0
	b:="4"
	fmt.Println(FloatCompare(a,b))
}

補充:golang 判斷2個浮點型數(shù)字是否相同

判斷2個浮點型數(shù)字是否相同的方法(假定整數(shù)部分+小數(shù)點后3位相同,則視為相同)

首先將2個浮點型數(shù)字轉(zhuǎn)換為string數(shù)據(jù)

將float類型的數(shù)據(jù)轉(zhuǎn)換成string

func Decimal(value float32) string {
   value1 := fmt.Sprintf("%.6f", value)
   return value1
}

比較兩個由float型數(shù)據(jù)轉(zhuǎn)化成string的數(shù)據(jù)是否相同是否相同

func Compare(val1,val2 string) bool {
   indexf :=strings.Index(val1,".") + 4
   indexs :=strings.Index(val2,".") + 4
   if indexs != indexf {
      return false
   }else {
      if val1[0:indexf] == val2[0:indexs]{
         return true
      }else {
         return false
      }
   }
}

補充:golang 浮點數(shù)操作

數(shù)據(jù)庫中金額元存儲的數(shù)據(jù)結(jié)構(gòu)使用的是decimal(15,2),golang中使用float64保存變量內(nèi)容。通過轉(zhuǎn)換將 float64 -> int64

最簡單的方式:int64(float64 * 100),但是由于浮點數(shù)在計算機內(nèi)的表示方式問題導致有一部分數(shù)據(jù)會出現(xiàn)問題,

例如:

var v = 67.6  
fmt.Println(int64(v *100)) 輸出結(jié)果為:6759
 

解決方法:

使用"github.com/shopspring/decimal"包,將對浮點數(shù)進行精確計算,例如:

f1 := decimal.NewFromFloat(v)
f2 := decimal.NewFromFloat(100)
fmt.Println(f1.Mul(f2).IntPart()) 輸出結(jié)果為6760

以上為個人經(jīng)驗,希望能給大家一個參考,也希望大家多多支持腳本之家。如有錯誤或未考慮完全的地方,望不吝賜教。

您可能感興趣的文章:
  • golang實現(xiàn)對docker容器心跳監(jiān)控功能
  • 淺談golang 中time.After釋放的問題
  • golang 定時任務方面time.Sleep和time.Tick的優(yōu)劣對比分析
  • golang日志包logger的用法詳解
  • golang elasticsearch Client的使用詳解
  • Golang的func參數(shù)及返回值操作
  • golang協(xié)程池模擬實現(xiàn)群發(fā)郵件功能
  • Golang: 內(nèi)建容器的用法

標簽:欽州 蘭州 汕頭 雞西 重慶 吐魯番 梅河口 銅川

巨人網(wǎng)絡通訊聲明:本文標題《golang 比較浮點數(shù)的大小方式》,本文關(guān)鍵詞  golang,比較,浮,點數(shù),的,大小,;如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問題,煩請?zhí)峁┫嚓P(guān)信息告之我們,我們將及時溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡,涉及言論、版權(quán)與本站無關(guān)。
  • 相關(guān)文章
  • 下面列出與本文章《golang 比較浮點數(shù)的大小方式》相關(guān)的同類信息!
  • 本頁收集關(guān)于golang 比較浮點數(shù)的大小方式的相關(guān)信息資訊供網(wǎng)民參考!
  • 企业400电话

    智能AI客服机器人
    15000

    在线订购

    合计11份范本:公司章程+合伙协议+出资协议+合作协议+股权转让协议+增资扩股协议+股权激励+股东会决议+董事会决议

    推薦文章