EXCEL のおかしな例 と 64bit 整数型における 加減乗除の別の目線を紹介

1. @curekoshimizu

2. うー！がおー！！

3. 君たちは

4. 数学が大好きなフレンズ
なんだね！

5. すっごーい！

6. よく見ると

7. どのフレンズも
計算機をもっているよ！

8. ここにはCPUが！

9. ここにはCPUが！

10. Excel も
計算機！

11. 共通していることは

12. 2進数で動いている！

13. ここは𝟐進数ちほー

14. 𝟏𝟔進数ちほー
𝟑進数ちほー

15. 𝟏𝟔進数ちほー
𝟑進数ちほー
例. SETUN
例. IBM System/370

16. 昔はいろんなものが
あったけど
ここは 2進数ちほー

17. 2進数 ちほー
のルール
知っていますか？

18. 例えば「15」が

19. 00000000000000000000000000001111
𝟏𝟓 = 𝟐 𝟑
+ 𝟐 𝟐
+ 𝟐 𝟏
+ 𝟐 𝟎
2進数ちほー にある
コンピューターの 15 の一般的表現
64桁

20. これはみんな
なんとなく知っている。

21. だけどフレンズたちは

22. EXCELとなると
途端にわからない！
（はず)

23. 𝟐 𝟓𝟎
のこと

31. 2進数ちほー の計算は
ツールなどによっても
実は奥深い世界

32. 計算結果を信頼するには
2進数ちほー について
勉強が必要！
今日の教訓
@curekoshimizu

33. 2進数ちほー を勉強すると
ロマンティックなところも
みえてくる！
(残り時間でざっくり紹介)

34. 00000000000000000000000000001111
𝟏𝟓 = 𝟐 𝟑
+ 𝟐 𝟐
+ 𝟐 𝟏
+ 𝟐 𝟎
2進数ちほー での
一般的な 15 の表現
64桁

35. 11111111111111111111111111110001
00000000000000000000000000001111
15
11111111111111111111111111110000
BIT 反転 ( 0 <-> 1)
+1
負の数の作り方

36. -15 に相当する数字
ができた！

37. 11111111111111111111111111110001
00000000000000000000000000001111
+
1 00000000000000000000000000000000
2進数ちほー では見なかった
ことにする
足して 0 になってい
るので -15 の役割
15
-15

38. BIT反転+1 でつくった負の数
は乗算とかできるの？

39. 11111111111111111111111111110001×
11111111111111111111111111110001
-15
-15

40. 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 0 0 0 1
× 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 0 0 0 1
1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 0 0 0 1
0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0
1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 0 0 0 1
1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 0 0 0 1
1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 0 0 0 1
1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 0 0 0 1
1 1 1 1 1 1 1 1 0 0 0 1
1 1 1 1 1 1 1 0 0 0 1
1 1 1 1 1 1 0 0 0 1
1 1 1 1 1 0 0 0 1
1 1 1 1 0 0 0 1
1 1 1 0 0 0 1
1 1 0 0 0 1
1 0 0 0 1
0 0 0 1
0 0 1
0 1
1
0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1 1 1 0 0 0 0 1
・・・・・・・・
2進数ちほー では見なかった
ことにする
-15
-15
225

41. 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 0 0 0 1
× 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 0 0 0 1
1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 0 0 0 1
0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0
1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 0 0 0 1
1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 0 0 0 1
1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 0 0 0 1
1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 0 0 0 1
1 1 1 1 1 1 1 1 0 0 0 1
1 1 1 1 1 1 1 0 0 0 1
1 1 1 1 1 1 0 0 0 1
1 1 1 1 1 0 0 0 1
1 1 1 1 0 0 0 1
1 1 1 0 0 0 1
1 1 0 0 0 1
1 0 0 0 1
0 0 0 1
0 0 1
0 1
1
0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1 1 1 0 0 0 0 1
・・・・・・・・
2進数ちほー では見なかった
ことにする
-15
-15
225
もとの正の数に
戻してから計算する必要もない
ことがわかる！
(負の数) x (負の数) = (正の数)
という性質もわかる！

42. BIT反転+1 でつくった負の数
は除算とかできるの？

43. 𝟏
𝟏 − 𝒙
= 𝟏 + 𝒙 + 𝒙 𝟐
+ 𝒙 𝟑
+ ・・・ ( 𝒙 < 𝟏 )
幾何級数

44. 𝟏
𝟏 − 𝒙
= 𝟏 + 𝒙 + 𝒙 𝟐
+ 𝒙 𝟑
+ ・・・ ( 𝒙 < 𝟏 )
ここに x = 16 をいれてしまう
幾何級数
条件無視

45. −
𝟏
𝟏𝟓
= 𝟏 + 𝟏𝟔 + 𝟏𝟔 𝟐
+ 𝟏𝟔 𝟑
+ ・・・ + 𝟏𝟔 𝟏𝟓
+ 𝟏𝟔 𝟏𝟔
+ ・・・
x = 16 をいれたやんちゃな式

46. −
𝟏
𝟏𝟓
= 𝟏 + 𝟏𝟔 + 𝟏𝟔 𝟐
+ 𝟏𝟔 𝟑
+ ・・・ + 𝟏𝟔 𝟏𝟓
+ 𝟏𝟔 𝟏𝟔
+ ・・・
2進数ちほー では見なかった
ことにするエリア (𝟐 𝟔𝟒の倍数)
00010001000100010001000100010001
-1/15 に相
当する数？

47. ×
11111111111111111111111111110001
-1/15
-15
00010001000100010001000100010001

48. 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 0 0 0 1
0 0 0 1 0 0 0 1 0 0 0 1 0 0 0 1 0 0 0 1 0 0 0 1 0 0 0 1 0 0 0 1
1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 0 0 0 1
0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0
1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 0 0 0 1
0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0
1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 0 0 0 1
0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0
1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 0 0 0 1
0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0
1 1 1 1 1 1 1 1 1 1 1 1 0 0 0 1
0 0 0 0 0 0 0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0 0 0 0 0
1 1 1 1 1 1 1 1 0 0 0 1
0 0 0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0
1 1 1 1 0 0 0 1
0 0 0 0 0 0 0
0 0 0 0 0 0
0 0 0 0 0
0 0 0 1
0 0 0
0 0
0
0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1
×
-15
1
-1/15
ちゃんと 1 になる！

49. 2進数ちほー は
なんだか面白い性質を
含んだ世界！
@curekoshimizu
今日の最後の教訓

50. 1. 2進数の世界を勉強しないと結果を信頼して
いいかわからない時がある
2. 勉強するとロマンティックなところが見える
@curekoshimizu
まとめ