Reprezentace čísel v počítači Tomáš Racek Demotivační příklad I A JO >-4^ s Demotivační příklad II - výpočet výpočet r n v ft ~~7 J0 V = ---- »i K-1 / s 4 -15Vy* ■ ''-"■j- Demotivační příklad III - počítač 0,~ 4-1 -ti-"A.) 1 J = {} 2 J[0] = 1 - 1 / math.e 3 J[0] 0.6321205588285577 1 for n in range(l, 31): 2 J[n] = 1 - n * J[n - 1] 1 J[30] 3296762455608386.5 7 Jednoduchá porovnání 1 1 + 1 == 2 True 1 1.5 + 0.5 == 2 True 1 0.1 + 0.2 == 0.3 ^ f, False Reprezentace čísel v počítači Hodnoty je potřeba uložit v paměti. Dvojková soustava I Ví0 -^aW*} /' Dvojková soustava II O A 2 3 -5 2V^ O aoo aoa AOOO 003 A avto COA4 Oaoo I i Reprezentace přirozených čísel I 11 L> 2 32 Reprezentace přirozených čísel II - limity + 3 4294967290 4294967291 4294967292 4294967293 4294967294 4294967295 0 1 2 3 :5: RuntimeWarning: overflow encountered in uintscalars value += step ^ mho v&nArt Reprezentace reálných čísel I .-i Reprezentace reálných čísel II Vědecká notace „ rl) a n->\j PrT\ Reprezentace reálných čísel -—7-^ Reprezentace reálných čísel III - důsledky Porovnavani realnych cisel , , » ^» . 1 |x = 0.1 + 0.2 —V O _ i 2 y - 8.3 pO, 1^ 3 eps = 10 ** (-6) V • v— >; = 0. 1 + 0.2 2 y = 0.3 3 eps = 10 ** (-6) abs(x - y) < eps True 1 x == y False Demotivační příklad IV - analýza Ol* 4" Soi • J, 30; i • -(o 71 ■v v Demotivační příklad V - reseni 0 U -1 ' in 0^- 4-Jir i j = {> J[35] = 0 3 for n in reversed(range(30, 36)) J[n - 1] = (1 - J[n]) / n 1 J[30] 0.03127967462644882 0.0 0.2 0.4 0.6 08 LQ Počet platných číslic ^_ ^V£UCX| vmaw v cca ^ uw<*>\ 1 1234567890 + 0 000001 1234567890.000001 1 1234567890 + 0 0000001 1234567890.0 Asociativita sčítání ^ ->> 40A Asociativita sčítání II Obecně neplatí: a + (b + c) = (a + b) +c 1 a = 0.1 2 b - 0.2 3 c = 0.3 1 a + b + c, (a + b) + c, a + (b + c) (0.6000000000000001, 0.6000000000000001, 0.6) Gaussova eliminace I -10 A AO V,* Xi* 1 ^ -10 y sue 0 -/fo h /to"10 4 L o i AO O \ O 4 n 4 O O 1 Gaussova eliminace II - výběr oivota Run 1 b 1 /I0 A-*-* 3y /U 4^2 O A A [AO O i 17 1 Zaver Počítač pro mnohé úlohy nutný Konečná paměť Ur*/Pl Pe?B&mMCG Doporučenú tMU&ffT „ ^ 'I