NEW  |  HOME  |  OLD

累乗計算

3/11
23:08 (Momizi) おうふ
23:09 (Momizi) mugenの累乗計算は2**9からおかしくなる事忘れてた
23:09 (YANMAR) あったなーw
23:09 (vesper) それもfloat値にしようw
23:09 (Momizi) Ceil(2.0**9)でいいんだっけか
23:09 (N-Fox) そんな膨大な値は使わないから知らなかった(
23:10 (N-Fox) いや、膨大でもないのか・・・
23:10 (vesper) ビット演算で使うかなぁ
23:10 (Momizi) 2**9でも512だよw
23:10 (Momizi) そっそ、bit演算でちょっと色々してた
23:10 (N-Fox) ですねー そんな値でおかしくなるのか(困惑)
23:10 (Momizi) 2**8=256なのに2**9で4096返してきたからびびったw
23:10 (vesper) 1/2=0ですし、おすし
23:11 (vesper) 2**5あたりもおかしかったような?
23:11 (vesper) そういや一昨日のこの話の頃には普通の狐さんは落ちてたっけ?
23:12 (Momizi) 2**5はちゃんと64返したぞよ
23:12 (N-Fox) まあ、普段から日が変わるくらいには落ちるのでそんな変わらない気もしますが(
23:12 (vesper) あってたかぁ
23:12 (Momizi) int型とfloat型めんどすぎるw
23:13 (Momizi) まさかエメルちゃんのあれが伏線だったとは・・・うごごごご
23:13 (vesper) 一応言っておくと、MUGENでは「1/2は0.5になると思いがちだけど、int同士の割り算なので0になる」という話。
23:14 (vesper) これも1.0/2とか1/2.0にすればいい。 あとは1*0.5も。
23:14 (N-Fox) 整数同士の割り算から小数の答えが出る、という処理にならないってことですかぬ
23:14 (Momizi) せやね
23:14 (vesper) ですね
23:14 (Momizi) 小数の答えが欲しければ問題も小数で出せってね

参考:豆知識 > 冪乗(累乗)の計算[MUGENの便覧]
リンク:累乗計算[MUGENの便覧]

NEW  |  HOME  |  OLD

Comment

コメントの投稿


管理者にだけ表示を許可する

Trackback

http://kyoakumugenirc.blog61.fc2.com/tb.php/2979-cbdc66c0

NEW  |  HOME  |  OLD

 検索フォーム


 全記事表示リンク

 全記事表示(500件ずつ)


 プロフィール

vesper

Author:vesper

IRCチャンネルの
#凶悪MUGEN
#凶悪MUGEN_雑談
のログからMUGENに関するものを編集・公開しています。
修正した方が良い箇所があった場合は知らせてもらえると助かります。
MUGEN界隈からはリンクフリーです。
その他からのリンクはご遠慮ください。
このブログをリンクに追加

IRCへの入り方などは
IRCに関する記事
をご覧ください。

簡易凶悪MUGEN IRC情報
・ホスト名
 [irc.friend-chat.jp]
・ポート番号
 [6664]
・チャンネル名
 [#凶悪MUGEN]
 [#凶悪MUGEN_雑談]
 (以下はお好みで)
 [#凶悪MUGEN_艦これ]
 [#凶悪MUGEN_スマブラ]
 [#凶悪MUGEN_麻雀]
 [#凶悪MUGEN_緋想天]
 [#凶悪MUGEN_アカツキ]
 [#凶悪MUGEN_小説]
 [#凶悪MUGEN_絵チャ]

・推奨IRCクライアント
 LimeChat2


 カテゴリ

記述の子カテゴリは目安程度に考えてください。

 最新コメント


 最新記事


 カウンター

累計の閲覧者数:

現在の閲覧者数:

 RSSリンクの表示


他ブログ更新情報(最新70件)

仕様上、下記のリンク一覧でサイトリンクにあるサイトはこの一覧に出ません。

Twitter


基礎リンク集


リンク

サイトに断り書きがない限りリンクさせてもらっています。
リンクしてほしくない場合はお気軽におっしゃってください。