hack のためのネタ帳, etc,,,

ネタ元:




Memo

JavaScript で int32 超えた場合 float64 扱いされるため 52bit しかない IEEE754 の倍精度浮動小数点数の仮数部使い切るとそれ以上の値を表現できなくなる問題らしい。

Firefox の console
>> 2**53
<- 9007199254740992 
>> 9007199254740992
<- 9007199254740992
>> 9007199254740992+1
<- 9007199254740992
>> 9007199254740992+2
<- 9007199254740994
>> 9007199254740993
<- 9007199254740992

コメントをかく


「http://」を含む投稿は禁止されています。

利用規約をご確認のうえご記入下さい

Wiki内検索

フリーエリア

管理人/副管理人のみ編集できます