hack のためのネタ帳, etc,,,

MATLAB, GNU Octave 等のスクリプトファイル

Tips

整数化の端数処理

single, double から、u?int(8|16|32|64) で型変換する際の小数点以下の数値の扱いが四捨五入扱いになっている。また、値域を外れた値(オーバーフロー,アンダーフロー)も最大値と最小値が取られる。
C 言語等との間で移植する際には注意が必要。
タグ

コメントをかく


「http://」を含む投稿は禁止されています。

利用規約をご確認のうえご記入下さい

Wiki内検索

フリーエリア

管理人/副管理人のみ編集できます