日本語 での 浮動小数点演算 の使用例とその 英語 への翻訳
{-}
-
Colloquial
-
Ecclesiastic
-
Computer
-
Programming
これは、毎秒兆浮動小数点演算として表すことができます。
C++浮動小数点演算。
ビット浮動小数点演算器の開発。
すべての計算機科学者が浮動小数点演算について知っておくべきこと。
Java浮動小数点演算。
Combinations with other parts of speech
名詞での使用
すべての計算機科学者が浮動小数点演算について知っておくべきこと。
Whetstoneベンチマークは浮動小数点演算性能を主に計測する。
Fp-model、fp説明浮動小数点演算のセマンティクスを制御します。
リスト21浮動小数点演算関数の一部。
浮動小数点演算のIEEE標準が存在しなかった。
メディア処理を高める浮動小数点演算ユニット搭載のデュアルコアCPU。
Whetstoneは浮動小数点演算ベンチマークです。
内部64bit浮動小数点演算。
デフォルトでは、浮動小数点演算の結果はこの内部精度で維持され、不特定のポイントでプログラムの精度に丸められます。
数学演算(Mathematics)Cの浮動小数点演算(RVCTBコンパイラ付属の標準数学関数)が使えます。
前記の論文に示されたいくつかの例は、浮動小数点演算の丸めに関する知識を前提にしています。
このため、BREWでは、ANSIC標準ライブラリや浮動小数点演算用の関数を移植したヘルパー関数が提供されます。
浮動小数点演算についてあらゆるコンピュータ科学者が知っておくべきこと」、DavidGoldberg、XeroxPARC(編集済みの転載)。
浮動小数点演算とデータタイプは、だいぶ前に標準化(IEEE754)され、今では遍在している。
Outtype="double"の時,評価は浮動小数点演算(%tは1,%fは0で置換)により行われます。
浮動小数点演算ではオーバーフロー、アンダーフロー、0除算などの例外は発生しません。
ペタフロップそして、コンピュータの速度の理論的な尺度は、毎秒数千兆浮動小数点演算として表すことができます。
FTZをオンにすると、浮動小数点演算からデノーマル結果は、値0にセットされます。
このネットワークの精度はSqueezeNetv1.0と同様ですが、予測あたりに必要な浮動小数点演算回数は少なくなります[3]。
浮動小数点演算が有効でない場合、操作の結果はNaNです。
一部の例外を除き、flush-to-zeroモードを使用すると、浮動小数点演算に以下のような影響があります。
浮動小数点演算や三角関数や指数関数などの数学関数が使えます。数学演算。
コレクション浮動小数点演算や三角関数や指数関数などの数学関数が使えます。
DSP命令と浮動小数点演算ユニットにより、対応可能なアプリケーション範囲を拡大しました。