Articles of फ्लोटिंग सटीकता

आर में फ्लोटिंग पॉइंट इश्यू?

संभव डुप्लिकेट: ये संख्याएं समान क्यों नहीं हैं? निम्न अभिव्यक्ति, जो 0.1 के मुकाबले मूल्यांकन करता है, 0.1 से बड़ा माना जाता है। > round(1740/600,0) – 1740/600 [1] 0.1 > (round(1740/600,0) – 1740/600) <= 0.1 [1] FALSE //???!!??? > (round(1740/600,0) – 1740/600) <= 0.1000000000000000000000000000000000000001 [1] TRUE यह सोचते हुए कि मुद्दे को गोलाई के कारण […]

(.1f + .2f ==। 3f)! = (.1f + .2f)। एक्लॉज (.3f) क्यों?

मेरा प्रश्न अस्थायी सटीक के बारे में नहीं है यही कारण है कि क्यों Equals() == से अलग है मुझे समझ में क्यों .1f + .2f == .3f false (जबकि .1m + .2m == .3m true )। मुझे लगता है कि == संदर्भ है और .Equals() मूल्य तुलना है ( संपादित करें : मुझे पता […]

फ़्लोटिंग बिंदु समानता और सहनशीलता

a_float == b_float जैसे दो फ्लोटिंग प्वाइंट नंबर की तुलना मुसीबत की तलाश में है क्योंकि a_float / 3.0 * 3.0 गोल की त्रुटि के कारण a_float के बराबर नहीं हो सकता। आम तौर पर जो कुछ करता है वह fabs(a_float – b_float) < tol के समान है एक को कैसे गणना करता है? आदर्श […]

प्रतिनिधित्व में फ़्लोटिंग प्वाइंट एरर?

जब मैं यह गुणा करता हूँ 0.94 * 8700 उत्पादन है ८१७७.९९९९९९९९९९९९ लेकिन यह होना चाहिए था 8178 मैं जावा का उपयोग कर रहा हूँ, लेकिन मुझे नहीं लगता कि यह त्रुटि एक विशेष प्रोग्रामिंग भाषा से संबंधित है, अब मेरा सवाल है … ऐसा क्यों हुआ ?? और अन्य संख्याएं (एक उदाहरण के रूप […]

कैसे ठीक से और मानक रूप से तुलना फ्लोट्स?

हर बार जब मैं एक नई परियोजना शुरू करता हूं और जब मुझे कुछ फ़्लोट या डबल वैरिएबल की तुलना करने की आवश्यकता होती है तो मैं इस तरह से कोड लिखता हूं: if (fabs(prev.min[i] – cur->min[i]) < 0.000001 && fabs(prev.max[i] – cur->max[i]) < 0.000001) { continue; } फिर मैं इन जादू चर 0.000001 (और […]

जावास्क्रिप्ट में दांतेदार दशमलव संख्याएं (गोल नहीं)

मैं दशमलव स्थानों को दशमलव संख्याओं को छोटा करने की कोशिश कर रहा हूं। कुछ इस तरह: 5.467 -> 5.46 985.943 -> 985.94 toFixed(2) सिर्फ सही चीज़ के बारे में है, लेकिन यह मूल्य को बंद करता है मुझे मूल्य गोल की आवश्यकता नहीं है I उम्मीद है कि जावास्क्रिप्ट में यह संभव है।

जावा में फ्लोटिंग पॉइंट की तुलना करना और तुलना करना

जावा में चल बिन्दु अंकगणित ठीक प्रतिनिधित्व नहीं करता है। उदाहरण के लिए यह जावा कोड: float a = 1.2; float b= 3.0; float c = a * b; if(c == 3.6){ System.out.println("c is 3.6"); } else { System.out.println("c is not 3.6"); } प्रिंट "सी 3.6 नहीं है" मुझे 3 दशकों से अधिक परिशुद्धता में […]

पायथन फ़्लोटिंग प्वाइंट अनियमित परिशुद्धता उपलब्ध है?

बस मस्ती के लिए और क्योंकि यह वास्तव में आसान था, मैंने ग्राफ्टिंग नंबर बनाने के लिए एक छोटा कार्यक्रम लिखा है, लेकिन फ़्लोटिंग प्वाइंट सटीक मुद्दों के कारण यह कुछ बड़े उदाहरणों को नहीं खोज रहा है। def isGrafting(a): for i in xrange(1, int(ceil(log10(a))) + 2): if a == floor((sqrt(a) * 10**(i-1)) % 10**int(ceil(log10(a)))): […]

पायथन फ्लोट – स्ट्रॉफ फ्लोट विचित्रता

>>> float(str(0.65000000000000002)) 0.65000000000000002 >>> float(str(0.47000000000000003)) 0.46999999999999997 ??? यहाँ क्या हो रहा है? मैं स्ट्रिंग के लिए 0.47000000000000003 को कैसे 0.47000000000000003 और परिणामस्वरूप वापस फ्लोट करने के लिए मान? मैं विंडोज पर पायथन 2.5.4 का इस्तेमाल कर रहा हूँ।

अस्थायी-बिंदु संख्याओं में सटीकता की समस्याओं से निपटना

मैं सोच रहा था कि क्या सटीकता की समस्या पर काबू पाने का एक तरीका है जो मेरे मशीन के अस्थायी बिंदु संख्याओं के आंतरिक प्रतिनिधित्व का परिणाम लगता है: स्पष्टता की खातिर समस्या को संक्षेपित किया गया है: // str is "4.600"; atof( str ) is 4.5999999999999996 double mw = atof( str ) // […]

दिलचस्प पोस्ट
Src = "डेटा: image / jpeg; base64 … से छवि का ब्राउज़र / एचटीएमएल फोर्स डाउनलोड" … कार्टेशियन अंतरिक्ष और एक विश्व फ़ाइल से उत्पन्न अक्षांश और देशांतर का उपयोग करके बहुभुज क्षेत्र गणना आंशिक अद्यतनों के साथ इकाई फ़्रेमवर्क सत्यापन Android साझा वरीयताएँ उदाहरण जेएस क्लाइंट-साइड Exif ओरिएंटेशन: घुमाएँ और मिरर जेपीईजी छवियाँ मुद्रा का प्रतिनिधित्व करने के लिए डबल या फ्लोट का उपयोग क्यों नहीं करें? एंड्रॉइड के लिए ब्लूटूथ और वाईफ़ाई प्रिंटिंग Winforms- मैं कैसे मैसेन्बबॉक्स मेनफॉर्म पर केन्द्रित कर सकता हूं? आरओआर में एक उपलब्धि प्रणाली को कैसे लागू किया जाए रनटाइम पर जावा एनोटेशन को स्कैन करना जावा और सी / सी ++ के बीच अंतर प्रक्रिया संचार के लिए सबसे तेज (कम विलंबता) विधि WPF TextBlock तत्व और लेबल नियंत्रण के बीच अंतर क्या है? सी / सी ++: स्ट्रिंग स्थिरांक के लिए पॉइंटर्स का अनुकूलन आप C ++ में एक अंतरफलक कैसे घोषित करते हैं? जेनकिंस को जेनकिंस के बाहर से बुलाते हैं?