"Byl vyvinut nový druh insulinu a zkoumá se závislost snížení hladiny cukru v krvi pacienta na množství nového insulinu určitou dobu před měřením. Náhodně vybraným 8 pacientům byla naočkována různá množství insulinu a po určité době bylo těmto pacientům změřeno snížení cukru v krvi. Výsledky měření: " prokažte silnou korelaci a otestujte významnost úseku regresní přímky. množství insulinu (ug) 150 200 250 300 350 400 450 500 snížení hladiny cukru (%) 8 12 30 20 55 58 44 65 ##### Sheet/List 2 ##### "Byl vyvinut nový druh insulinu a zkoumá se závislost snížení hladiny cukru v krvi pacienta na množství nového insulinu určitou dobu před měřením. Náhodně vybraným 8 pacientům byla naočkována různá množství insulinu a po určité době bylo těmto pacientům změřeno snížení cukru v krvi. Výsledky měření: " prokažte silnou korelaci a otestujte významnost úseku regresní přímky. linregrese() klíč: r(krit.6)= 0.7067 0.161428571 -15.96428571 1.427213702 a b 0.032459638 11.18563092 sa sb množství insulinu (ug) 150 200 250 300 350 400 450 500 0.8971 0.804768908 10.51812495 R2 syx snížení hladiny cukru (%) 8 12 30 20 55 58 44 65 24.73280964 6 2.446911846 F stupvol 2736.214286 663.7857143 ssreg ssres 0.117736842 0 úsek je nevýznamný 0.011563062 #N/A Analýza dat:regrese 0.936752439 11.2702783 množství insulinu (ug) snížení hladiny cukru (%) 103.6762048 7 150 8 13168.86579 889.1342105 200 12 250 30 VÝSLEDEK 300 20 350 55 Regresní statistika 400 58 Násobné R 0.967859721 =R 450 44 Hodnota spolehlivosti R 0.936752439 =R2 500 65 Nastavená hodnota spolehlivosti R 0.793895296 Chyba stř. hodnoty 11.2702783 =s(xy) Pozorování 8 =N ANOVA Rozdíl SS MS F Významnost F Regrese 1 13168.86579 13168.86579 103.6762048 5.22497E-05 Rezidua 7 889.1342105 127.0191729 Celkem 8 14058 Koeficienty Chyba stř. hodnoty t Stat Hodnota P Dolní 95% Horní 95% Dolní 95.0% Horní 95.0% Hranice 0 #N/A #N/A #N/A #N/A #N/A #N/A #N/A množství insulinu (ug) 0.117736842 0.011563062 10.18215129 1.89916E-05 0.090394546 0.145079138 0.090394546 0.145079138 REZIDUA Pozorování Očekávané snížení hladiny cukru (%) Rezidua 1 17.66052632 -9.660526316 2 23.54736842 -11.54736842 3 29.43421053 0.565789474 4 35.32105263 -15.32105263 5 41.20789474 13.79210526 6 47.09473684 10.90526316 7 52.98157895 -8.981578947 8 58.86842105 6.131578947 ##### Sheet/List 3 ##### c(mg/L) signál (mV) počet bodů je důležitý 150.0 22.0 21.0 19.5 200.0 30.5 31.0 28.0 250.0 35.0 35.5 30.0 300.0 40.0 41.0 37.5 350.0 51.0 49.0 48.0 400.0 55.0 53.0 54.0 450.0 64.0 66.5 66.0 500.0 70.5 71.0 69.0 ##### Sheet/List 4 ##### c(mg/L) signál (mV) průměr počet bodů je důležitý 150.0 22.0 21.0 19.5 20.8 200.0 30.5 31.0 28.0 29.8 250.0 35.0 35.5 30.0 33.5 0.141666667 -0.708333333 300.0 40.0 41.0 37.5 39.5 0.005877572 2.025418556 350.0 51.0 49.0 48.0 49.3 0.989777679 1.90455108 400.0 55.0 53.0 54.0 54.0 580.9508615 6 450.0 64.0 66.5 66.0 65.5 2107.291667 21.76388889 500.0 70.5 71.0 69.0 70.2 150.0 21.0 200.0 31.0 250.0 35.5 300.0 41.0 350.0 49.0 400.0 53.0 450.0 66.5 500.0 71.0 150.0 19.5 200.0 28.0 250.0 30.0 300.0 37.5 0.13972807 0 0.141666667 -0.708333333 0.513697587 350.0 48.0 0.001308829 #N/A 0.004001413 1.37889169 400.0 54.0 0.997986042 2.209556855 0.98275125 2.245787302 450.0 66.0 11397.2958 23 1253.45475 22 1.717144335 500.0 69.0 55643.21075 112.2892544 6321.875 110.9583333 ##### Sheet/List 5 ##### Example 1 The following data was obtained in the analysis of copper using flame atomic absorption spectroscopy. Následující data byla získána při analýze mědi pomocí atomové absorpční spektrofotometrie. "Pomocí lineární regrese najděte kalibrační funkci (uveďte a, b, R na čtyři desetinná místa)." Vypočítejte koncentraci mědi pro neznámý vzorek s transmitancí 35.6%. "conc, ppm" % transmittance 5.1 78.1 17 43.2 25.5 31.4 34 18.8 42.5 14.5 51 8.7 Example 2 "In the potentiometric determination of Pb2+ in solution, the following calibration data was collected." "Pb2+, ppm" "Emeas, mV" 15 -338.5 35 -329.8 89 -316.5 150 -312.2 230 -303.7 400 -296.4 500 -295.5 650 -292.5 ##### Sheet/List 6 ##### Example 1 https://facultystaff.richmond.edu/~cstevens/301/Calibration3.html toto řešení je jen ln-transformace bez znalosti Lambert Beerova zákona: úsek je nevýznamný 35.6 =T(x) 35.6 =T(x) The following data were obtained in the analysis of copper using flame atomic absorption spectroscopy. 0.020388148 0.004987629 0.217734184 0.02052192 0 21.9 =c(x) 0.046945445 -4.593685747 21.8 =c(x) 0.000694442 0.022906961 0.000291238 #N/A 0.001599012 0.052745228 0.99538081 0.026154837 0.99899401 0.02353182 0.9995 =R 0.99538081 0.060223737 861.9526542 4 2.776445105 4965.226119 5 861.9526542 4 0.589640685 0.002736302 2.749476817 0.002768733 3.126214833 0.014507594 "conc, ppm" % transmittance A ln 5.1 78.1 0.107348966 -4.357990057 17 43.2 0.364516253 -3.765840495 25.5 31.4 0.503070352 -3.446807893 34 18.8 0.725842151 -2.93385687 42.5 14.5 0.838631998 -2.674148649 51 8.7 1.060480747 -2.163323026 loglinregrese -log 2-log 0.954139449 98.85812553 0.020388148 0.004987629 0.001599012 0.052745228 0.99538081 0.060223737 Example 2 861.9526542 4 3.126214833 0.014507594 "In the potentiometric determination of Pb2+ in solution, the following calibration data were collected." "Pb2+, ppm" "Emeas, mV" log c 15 -338.5 1.1761 35 -329.8 1.5441 89 -316.5 1.9494 150 -312.2 2.1761 230 -303.7 2.3617 400 -296.4 2.6021 500 -295.5 2.6990 650 -292.5 2.8129 ##### Sheet/List 8 ##### správná h.= 1.09 1.09 1.09 1.09 1.09 1.09 1.09 1.09 1.09 1.09 naměřené h.= 1.10 1.08 1.09 1.08 1.10 1.08 1.10 1.09 1.11 1.08 N= 10 0.01 -0.01 0.00 -0.01 0.01 -0.01 0.01 0.00 0.02 -0.01 abs 0.01 0.01 0.01 0.01 0.01 0.01 0.02 0.01 N= 8 rank 1 1 #N/A 1 1 1 1 #N/A 8 1 pořadí 4 4 4 8 20 4 4 4 4 16 > 3 příklad na vylučování nulových rozdílů: ##### Sheet/List 10 ##### Mann-Whitney U-test pořadí R N U stimulátor 51 6 67 1 56 3 63 2 12 4 22 bez 45 9 54 4 48 8 44 10 53 5 50 7 43 6 2 = 2 ##### Sheet/List 12 ##### párový t-test Wilcoxonův párový test metoda1 metoda2 rozdíly abs() pořadí 11.68 11.23 0.45 0.45 6 23.91 23.77 0.14 0.14 1.5 32.27 33.04 -0.77 0.77 8 38.29 38.43 -0.14 0.14 1.5 47.04 46.79 0.25 0.25 3 51.34 50.96 0.38 0.38 4 68.23 67.85 0.38 0.38 5 79.24 78.55 0.69 0.69 7 prům.= 44.00 43.83 26.5 9.5 > 3 s= 22.39405278 22.20934472 s2= 501.4936 493.2549929 0.014470431 2.144786681 ověření normality v Gnumeric ##### Sheet/List 14 ##### vzorek č. 1 14.2 16.8 19.1 15.5 16 15.9 2 15.4 20 18 15.4 16.1 17.7 3 18.3 20.1 17.7 17.9 19.3 16.9 rank pořadí 14.2 18 18 16.8 11 11 H= 4.974 < 5.801 19.1 4 4 15.5 15 15 16 13 13 15.9 14 14 75 937.5 15.4 16 16.5 20 2 2 18 6 6 15.4 16 16.5 16.1 12 12 17.7 8 8.5 61.5 630.375 18.3 5 5 20.1 1 1 17.7 8 8.5 17.9 7 7 19.3 3 3 16.9 10 10 34.5 198.375 N= 18 ##### Sheet/List 15 ##### příklad massart "Wilcoxon, str. 344, Tabulka 12.2" Dvěma analytickými metodami byly získány údaje o množství pesticidu v 1 l vody (ug) metoda1 metoda2 d(i) znaménko abs(di) pořadí znam.pořadí 114 116 -2 -1 2 1 -1 49 42 7 + 7 7.5 7.5 100 95 5 + 5 4 4 20 10 10 + 10 9.5 9.5 90 94 -4 - 4 2.5 -2.5 106 100 6 + 6 5.5 5.5 100 96 4 + 4 2.5 2.5 95 102 -7 - 7 7.5 -7.5 160 150 10 + 10 9.5 9.5 110 104 6 + 6 5.5 5.5 44 krit.(>25)= -1.264911064 11 >8 H0 platí stejně jako massart p= 0.344 >0.05 ##### Sheet/List 16 ##### "Table 12.4., p.346" alpha=0.05 n one-tailed double-tailed 6 2 0 7 3 2 8 5 3 9 8 5 10 10 8 11 13 10 12 17 13 13 21 17 14 25 21 15 30 25 16 35 30 17 41 35 18 47 40 19 53 46 20 60 52 21 67 59 22 75 66 23 83 73 24 91 81 25 100 89 ##### Sheet/List 17 ##### TABLE 12.3 p.345 "The sign test. The table gives the probability that out of n positive and negative signs, the smaller number of like" signs is equal to or smaller than r. The values are for a one-sided test. They should be doubled for a two-sided test. n/r 0 1 2 3 4 5 6 7 8 9 10 4 0.063 0.313 0.688 5 0.031 0.188 0.5 6 0.016 0.109 0.344 0.656 7 0.008 0.062 0.227 0.5 8 0.004 0.035 0.145 0.363 0.637 9 0.002 0.02 0.09 0.254 0.5 10 0.001 0.011 0.055 0.172 0.377 0.623 11 0.006 0.033 0.113 0.274 0.5 12 0.003 0.019 0.073 0.194 0.387 0.613 13 0.002 0.011 0.046 0.133 0.291 0.5 14 0.001 0.006 0.029 0.09 0.212 0.395 0.605 15 0.004 0.018 0.059 0.151 0.304 0.5 16 0.002 0.011 0.038 0.105 0.227 0.402 0.598 17 0.001 0.006 0.025 0.072 0.166 0.315 0.5 18 0.001 0.004 0.015 0.048 0.119 0.24 0.407 0.593 19 0.002 0.01 0.032 0.084 0.18 0.324 0.5 20 0.001 0.006 0.021 0.058 0.132 0.252 0.412 0.588 two-sided n/r 0 1 2 3 4 5 6 7 8 9 10 4 0.126 0.626 1.376 5 0.062 0.376 1.000 6 0.032 0.218 0.688 1.312 7 0.016 0.124 0.454 1.000 8 0.008 0.070 0.290 0.726 1.274 9 0.004 0.040 0.180 0.508 1.000 10 0.002 0.022 0.110 0.344 0.754 1.246 11 0.012 0.066 0.226 0.548 1.000 12 0.006 0.038 0.146 0.388 0.774 1.226 13 0.004 0.022 0.092 0.266 0.582 1.000 14 0.002 0.012 0.058 0.180 0.424 0.790 1.210 15 0.008 0.036 0.118 0.302 0.608 1.000 16 0.004 0.022 0.076 0.210 0.454 0.804 1.196 17 0.002 0.012 0.050 0.144 0.332 0.630 1.000 18 0.002 0.008 0.030 0.096 0.238 0.480 0.814 1.186 19 0.004 0.020 0.064 0.168 0.360 0.648 1.000 20 0.002 0.012 0.042 0.116 0.264 0.504 0.824 1.176 ##### Sheet/List 18 ##### testování úseku c mAU 0.12 133.5 0.23 254.6 0.36 404.4 0.51 560.7 0.62 689.1 ##### Sheet/List 19 ##### testování úseku c mAU linregrese 0.12 133.5 1106.614317 1.225931337 0.291767617 "h0 platí, úsek je 0" 0.23 254.6 10.24266116 4.201738863 0.36 404.4 0.999743054 4.151501059 0.51 560.7 11672.58264 3 3.182446305 0.62 689.1 201176.5071 51.70488313 1109.295222 0 3.974756437 #N/A 0.999948647 3.645958955 77888.48246 4 1035372.898 53.17206679 ##### Sheet/List 20 ##### Calibration data http://terpconnect.umd.edu/~toh/models/CalibrationCurve.html "Concentration of the standards" "Instrument readings" i.s.(x) pás dx 1.00 95 97.3 0.1555 90.10 -3.50 2.00 201 198.6 0.1474 193.47 -2.50 3.00 305 299.9 0.1418 296.83 -1.50 4.00 399 401.2 0.1389 400.19 -0.50 5.00 495 502.5 0.1389 501.51 0.50 6.00 610 603.9 0.1418 600.79 1.50 7.00 700 705.2 0.1474 700.07 2.50 8.00 810 806.5 0.1555 799.35 3.50 4.50 451.88 42.00 101.3214 -4.0714 0.8346 4.2146 0.9996 5.4089 14737.9697 6.0000 431173.3393 175.5357 2.446911846 Calibration data "Concentration of the standards" "Instrument readings" 0 0 2.5 5.23 5 10.31 7.5 15.04 10 19.55 ##### Sheet/List 21 ##### výpočet intervalu spolehlivosti 1.01 95 93 99 2.02 201 190 198 3.03 305 295 297 4.04 399 400 404 5.05 495 510 503 6.06 610 605 600 7.07 700 695 698 8.08 810 803 808 6.601 650 666 654 656.6666667 =vzorek "Concentration of the standards" "Instrument readings" dx i.s.(x) 1.01 95 96.1 -3.54 0.1063 2.02 201 197.4 -2.53 0.1041 3.03 305 298.7 -1.52 0.1026 4.04 399 399.9 -0.51 0.1018 5.05 495 501.2 0.51 0.1018 6.06 610 602.4 1.52 0.1026 7.07 700 703.7 2.53 0.1041 8.08 810 804.9 3.54 0.1063 1.01 93 96.1 -3.54 0.1063 2.02 190 197.4 -2.53 0.1041 3.03 295 298.7 -1.52 0.1026 4.04 400 399.9 -0.51 0.1018 5.05 510 501.2 0.51 0.1018 6.06 605 602.4 1.52 0.1026 7.07 695 703.7 2.53 0.1041 8.08 803 804.9 3.54 0.1063 1.01 99 96.1 -3.54 0.1063 2.02 198 197.4 -2.53 0.1041 3.03 297 298.7 -1.52 0.1026 4.04 404 399.9 -0.51 0.1018 5.05 503 501.2 0.51 0.1018 6.06 600 602.4 1.52 0.1026 7.07 698 703.7 2.53 0.1041 8.08 808 804.9 3.54 0.1063 4.55 450.54 128.53 6.601 0.0636 dolní hranice i.s.= 6.5 horní hranice i.s.= 6.7 6.6 +/- 0.1 100.2554 -5.1190 2.362031856 "h0 se zamítá, úsek je významný" 0.4249 2.1672 0.9996 4.8175 55666.2 22 2.073873058 1291899.4 510.58 ##### Sheet/List 22 ##### "example 2, p.185" 0 0 VÝSLEDEK 1 0.98 1 0.90 Regresní statistika 2 2.10 Násobné R 0.983486454 2 2.20 Hodnota spolehlivosti R 0.967245606 3 3.16 Nastavená hodnota spolehlivosti R 0.963606228 3 3.22 Chyba stř. hodnoty 0.276389679 4 3.68 Pozorování 11 4 3.72 5 4.15 ANOVA 5 4.27 Rozdíl SS MS F Významnost F Regrese 1 20.30 20.30 265.7722909 5.46255E-08 0 0 Rezidua 9 0.688 0.08 1 0.98 0.90 Celkem 10 20.99 2 2.10 2.20 3 3.16 3.22 Koeficienty Chyba stř. hodnoty t Stat Hodnota P Dolní 95% Horní 95% Dolní 95.0% Horní 95.0% 4 3.68 3.72 Hranice 0.26516129 0.164640743 1.610544789 0.141739028 -0.107281944 0.637604525 -0.107281944 0.637604525 5 4.15 4.27 Soubor X 1 0.848774194 0.052063974 16.30252407 5.46255E-08 0.730997301 0.966551086 0.730997301 0.966551086 "example 1, p.175" x (ng/ml) 0 10 20 30 40 50 y (a.u.) 4 21.2 44.6 61.8 78 105.2 x (ng/ml) y (a.u.) lin.reg. dx i.s. VÝSLEDEK 0 4 2.92 -25.00 5.17 10 21.2 22.74 -15.00 4.77 Regresní statistika 20 44.6 42.56 -5.00 4.55 Násobné R 0.997406433 30 61.8 62.38 5.00 4.55 Hodnota spolehlivosti R 0.994819592 40 78 82.19 15.00 4.77 Nastavená hodnota spolehlivosti R 0.99352449 50 105.2 102.01 25.00 5.17 Chyba stř. hodnoty 2.991161584 25.00 52.47 1750.00 Pozorování 6 43.9 90.0 4.9 2.776445105 ANOVA 1.981714286 2.923809524 Rozdíl SS MS F Významnost F 0.071502438 2.164843817 Regrese 1 6872.585143 6872.585143 768.1399983 1.00812E-05 0.994819592 2.991161584 8.947047619 Rezidua 4 35.78819048 8.947047619 768.1399983 4 Celkem 5 6908.373333 6872.585143 35.78819048 Koeficienty Chyba stř. hodnoty t Stat Hodnota P Dolní 95% Horní 95% Dolní 95.0% Horní 95.0% Hranice 2.923809524 2.164843817 1.350586819 0.248178877 -3.086760496 8.934379543 -3.086760496 8.934379543 x (ng/ml) 1.981714286 0.071502438 27.71533868 1.00812E-05 1.783191692 2.18023688 1.783191692 2.18023688 ##### Sheet/List 23 ##### "In the potentiometric determination of Pb2+ in solution, the following calibration data was collected." "Pb2+, ppm" "Emeas, mV" y*=x/y y=1/(b+a/x) 15 -338.5 -0.044313146 -503.9877869 35 -329.8 0.064902023 -327.4227857 -0.106124924 -355.4534321 89 -316.5 0.012863818 4.35585817 -0.281200632 -313.4196781 150 -312.2 0.809252586 7.952460607 -0.480461243 -303.9458702 230 -303.7 25.45521011 6 -0.757326309 -299.3538323 400 -296.4 1609.828972 379.4497782 -1.349527665 -295.7927101 500 -295.5 -1.692047377 b a -294.8436303 650 -292.5 -2.222222222 -0.0034352 0.0217647 3.640032026 -293.9729464 0.0000177 0.0059793 0.9998415 0.0109163 37844.648 6 2.446911846 "Another solution, whose concentration of Pb2+ was not known, yielded a measured potential of -300.8 mV" 4.510 0.001 Report the concentration of lead in the solution in the form of a confidence interval. y*= x/300.8 -0.65368494 -1.060467802 log(x) y dx x= 196.63 mg/l 1.176091259 -338.5 -0.99 1.544068044 -329.8 -0.62 1.949390007 -316.5 -0.22 b a 2.176091259 -312.2 0.01 29.05248161 -373.5408864 2.361727836 -303.7 0.20 0.85162171 1.900667854 2.602059991 -296.4 0.44 0.994870855 1.304051266 2.698970004 -295.5 0.53 1163.785713 6 2.446911846 2.812913357 -292.5 0.65 1979.075452 10.20329823 pro i.s.= 2.17 -310.64 2.34 2.503775319 -300.8 319.0 is= 0.116513268 L1 2.4 244 251.1886432 L2 2.6 417 398.1071706 319.0 ln(x) y dx 2.708050201 -338.5 -2.28 3.555348061 -329.8 -1.43 4.48863637 -316.5 -0.50 b a 5.010635294 -312.2 0.03 12.61733245 -373.5408864 5.438079309 -303.7 0.45 0.369854609 1.900667854 5.991464547 -296.4 1.01 0.994870855 1.304051266 6.214608098 -295.5 1.23 1163.785713 6 2.446911846 6.476972363 -292.5 1.49 1979.075452 10.20329823 pro i.s.= 4.99 -310.64 12.43 5.765155726 -300.8 319.0