情報電子工学演習 Ⅰ 　工学基礎演習 (2)

情報電子工学演習Ⅰ　工学基礎演習(2) 「計算誤差と有効数字」 Ⅰ. スケジュールの確認 5/28 概要説明 6/4 演　習　　　　　　　　 [計算機実習室] 6/11 14:40-15:05 助言ルーム[助言ｸﾞﾙｰﾌﾟ別] 15:10～考　察　　[S2-11] 6/18 レポートチェック　　　 [ﾁｪｯｸｸﾞﾙｰﾌﾟ別]

Ⅱ．概要説明 １．目的　コンピュータにおける数の表現方法と計算による誤差の発生について学ぶ。

Ⅱ．概要説明 １．目的　コンピュータにおける数の表現方法と計算による誤差の発生について学ぶ。・コンピュータによる数値計算と数学の違い　 ⇒コンピュータは有限の数を使い、　　数学は無限の数を使っている 1/3 →0.33333 333333333……. 小数点以下5桁まで 0.33333×3 = 0.99999 ≠ 1

まずは電卓で… ソニー製 SOBAX ICC-500W 1967年発売 (出典：電卓博物館 http://www.dentaku-museum.com/)

カシオ製 Casio Mini 1972年発売 価格：12,800円　10ケ月で100万台，3年で600万台の売上を記録 (出典：電卓博物館 http://www.dentaku-museum.com/)

２．電卓ソフトの利用 <特徴> ・７桁までの計算・メモリーキー・平方根計算・HSPで開発「Dentakun ２号」

＜メモリーキー＞ MC(メモリークリア) ：メモリー計算結果を消去 MR(メモリーリコール)：メモリー計算結果を呼び出し M-(メモリープラス) ：計算結果をメモリーに足す M+(メモリーマイナス)：計算結果をメモリーから引く例１）100×2＋50×5の計算

例２）

例２） ＝0.064283

例２） ー 0.064283

例２） 小数点以下6位までの７桁の数字ー 0.064283 小数点以下6位までの５桁の数字

例２） 小数点以下6位までの７桁の数字ー 0.064283 小数点以下6位までの５桁の数字有効数字－測定値や計算値を表すのに信頼できる　　　　　意味のある数字　(先頭の0や1を除く)

例２） 小数点以下6位までの７桁の数字ー 0.064283 小数点以下6位までの５桁の数字有効数字－測定値や計算値を表すのに信頼できる　　　　　意味のある数字　(先頭の0や1を除く) 計算によって有効数字の桁が少なくなった　　　　　→「桁落ち」の発生

※注意(誤解しやすい点) 7.745966 と 0.064283 は、共に表示桁が7桁で小数点以下6桁 (0.000001精度)で表された数字である。しかし、 7.745966　は有効数字7桁 0.064283　は有効数字5桁の数字です。有効数字－測定値や計算値を表すのに信頼できる　　　　　意味のある数字　(先頭の0や1を除く)

※有効数字に関する補足 0.14 と 0.140 の有効数字は、何桁？ 0.14 は１桁、0.140 は２桁 0.14 は、0.137や0.142が小数点以下3桁目で四捨五入され、0.14となった可能性がある。 0.140 は、小数点以下3桁目が0であることを明示している。

情報電子工学演習 Ⅰ 工学基礎演習 (2)