hack のためのネタ帳, etc,,,

タグ検索でround2件見つかりました。

丸め処理

* 参考になるページ等 - Wikipedia / [[端数処理>http://ja.wikipedia.org/wiki/%E7%AB%AF%E6%95%B0%E5%87%A6%E7%90%86]] - hnwの日記 / 2011-10-29: [[浮動小数点数の丸め処理を見比べてみる>http://d.hatena.ne.jp/hnw/20111029]] * 関連 - [[20190131: Cygwin - Rounding Mode]] - [[20190224: Ruby - 四…

https://seesaawiki.jp/w/kou1okada/d/%b4%dd%a4%e1%b... - 2019年03月01日更新

20190224: Ruby - 四捨五入

* 状況 "%f" と .round() で境界値における結果が異なる。 =|| $ ruby -e 'puts "%.1f" % 1.25' 1.2 ||= =|| $ ruby -e 'puts (1.25).round(1)' 1.3 ||= あうち、orz 一瞬、ひょっとすると "%f" は偶数への丸めなのでは!? とも思ったのだが、完全に気のせいだった。 =|| $ ruby -e 'puts "%.1f" % 1.35' 1.4 ||= =|| $ ruby -e 'puts "%.1f" …

https://seesaawiki.jp/w/kou1okada/d/20190224%3a%20... - 2019年03月01日更新

ai(22) android(29) bash(40) c++(52) cxx(54) cygwin(128) debian(39) deeplearning(32) diary(765) excel(21) font(30) free-book(47) git(21) github(28) gnu-r(77) google(26) hdd(22) html(25) java(26) javascript(118) latex(57) lcd(22) library(24) linux(97) machinelearning(31) memo(462) microsoft(42) oss(25) pdf(38) powershell(65) programming(32) proxy(23) python(100) r-lang(47) ruby(86) security(72) ssh(34) tex(37) tips(397) troubleshooting(443) ubuntu(114) unicode(22) usb(21) virtualization(24) vscode(28) windows(126) windows10(50) wsl(26) zfs(32) 数式(21)

管理人/副管理人のみ編集できます