IV130 Přínosy a rizika inteligentních systémů

Fakulta informatiky
jaro 2024
Rozsah
2/0/0. 2 kr. (plus ukončení). Ukončení: zk.
Vyučující
prof. RNDr. Jiří Zlatuška, CSc. (přednášející)
Garance
prof. RNDr. Jiří Zlatuška, CSc.
Dodavatelské pracoviště: Fakulta informatiky
Rozvrh
Pá 10:00–11:50 A318
Předpoklady
Formální předpoklady: žádné
Omezení zápisu do předmětu
Předmět je nabízen i studentům mimo mateřské obory.
Mateřské obory/plány
Cíle předmětu
Jedná se o předmět s motivačně-metodicko-paradigmatickým posláním otevřít uvažování studentů směrem k nadcházející éře masivního využívání umělé inteligence (AI) ve všech ohledech. Jedná se o vazbu inteligence v obecném smyslu a konstrukci obecně užitelných strojů zpracovávajících informace (počítačů) s dopady týkajícími se náhrady lidských kognitivních činností inteligentně jednajícími stroji jak v poloze spolupracující s člověkem, tak jako jeho protivníky, včetně dopadů na kyberbezpečnost doposud nasazovaných systémů (v obou zmíněných polohách), ale bezpečných systémů stavějících na AI a vyhýbajících se konfliktu cílů sledovaných strojem a zájmů odpovídajících člověku. Do to těchto okruhů patří i zásadní etické otázky včetně dopadu do do bezpečnostních politik (od lokálních po geopolitiky). Rozšiřuje technicko-operativní pohled informatika–bezpečnostního experta, ve schopnostech vnímat pohled dopředu a být si vědom hrozeb i příležitostí, které s AI přicházejí do světa kyberbezpečnosti. Ambicí předmětu není nutně učit bezprostředně používané techniky, jako spíše poskytnout mentální průpravu na svět, kde se teprve rodí možnosti, vidět tyto techniky v kontextu jejich vývoje, stavu, potenciálu, a s nimi i vymezení role AI s širokými dopady, které z těchto technik, resp. technik, které je doplní/přesáhnou, vzejdou..
Výstupy z učení
Po úspěšném ukončení bude student/ka: • Znát a umět popsat základní pojmy jako jsou kognitivní procesy, fungování paměti, mentální a strojové procesy při rozhodování, roli emocí • Vědět a rozumět principům Bayesovské pravděpodobnosti, Markovovských procesů • Schopen/na identifikovat a popsat hlavní vlivy AI na kyberbezpečnostní hrozby a naopak na metody ochrany • Umí aplikovat techniky využívající Bayesovské sítě k popisu a řešení jednoduchých problémů relevantních ke kyberbezpečnosti • Umět popsat a vysvětlit pojmy užitek, etické aspekty AI • Umět popsat hlavní kyberbezpečnostní aspekty systémů postavených na AI • Orientovat se v hlavních problémech vztahu budoucí „skutečné“ (silné) umělé inteligence a lidí • Znát rámec zákonné regulativy dnešní a očekávané budoucí regulující oblast AI • Umět popsat známé velké výzvy spojené s umělou inteligencí
Osnova
  • • Inteligence v lidech a strojích, inteligence, paměť, výpočty, učení • Možnosti a limity strojů, biologie a evoluce • Aktéři, prostředí, záměry, tvorba a uskutečňování plánů • Určitost prostředí, nejistota, pravděpodobnost, teorie her • Vyvozování, logické systémy, pravděpodobnostní jazyky, Bayesovské sítě • Vývoj inteligentních systémů, metody učení, učení s učitelem, zpětnovazební systémy, hluboké učení, učení na základě vysvětlování • Výhled superinteligence, dopady, fikce, nebo nebezpečí • Rizika AI, průlomy, chyby vs. robustní systémy, dohled, duševní bezpečnost, autonomní zbraně, substituce lidské práce, ekonomické dopady • Dopady superinteligentní AI, problém gorily a problém krále Midase, inteligenční exploze, problém ovládání • Koexistence inteligentních systémů a člověka, princip prospěšných strojů, přátelská AI • Matematické principy formulace prospěšných strojů, asistenční hry, problém vypnutí stroje • Preference a hodnoty, jejich neurčitost, zjišťování a přizpůsobování, psychologie a technologie • Důsledky pro budoucí vývoj, politiky velkých dat, ochrana soukromí, bezpečný vývoj inteligentních aplikací
Literatura
  • Max Tegmark, Život 3.0, Člověkem v éře umělé inteligence. Argo/Dokořán, 2020.
  • RUSSELL, Stuart J. a Peter NORVIG. Artificial intelligence : a modern approach. Edited by Ming-Wei Chang - Jacob Devlin - Anca Dragan - David Forsyth - Ian Good. Fourth edition, global editi. Harlow: Pearson, 2022, 1166 stran. ISBN 9781292401133. info
  • RUSSELL, Stuart J. Jako člověk : umělá inteligence a problém jejího ovládání. Translated by Jiří Zlatuška. První vydání v českém j. Praha: Argo, 2021, 271 stran. ISBN 9788025736418. info
  • RUSSELL, Stuart J. Human compatible : artificial intelligence and the problem of control. [Spojené státy americké]: Viking, 2019, xii, 336. ISBN 9780525558613. info
  • TEGMARK, Max. Life 3.0 : being human in the age of artificial intelligence. First edition. New York: Alfred A. Knopf, 2017, xii, 364. ISBN 9781101946596. info
  • BOSTROM, Nick. Superinteligence : až budou stroje chytřejší než lidé. Translated by Jan Petříček. V českém jazyce vydání p. Praha: Prostor, 2017, 509 stran. ISBN 9788072603534. info
  • BOSTROM, Nick. Superintelligence : paths, dangers, strategies. First published in paperback. Oxford: Oxford University Press, 2016, xvi, 415. ISBN 9780198739838. info
  • BRYNJOLFSSON, Erik a Andrew MCAFEE. Druhý věk strojů : práce, pokrok a prosperita v éře špičkových technologií. Vydání první. Brno: Jan Melvil, 2015, 295 stran. ISBN 9788087270714. info
  • BRYNJOLFSSON, Erik a Andrew MCAFEE. The second machine age : work, progress, and prosperity in a time of brilliant technologies. 1st ed. London: W.W. Norton & Company, 2014, 306 s. ISBN 9780393239355. info
Výukové metody
Předmět je vyučován každotýdenně formou přednášek.
Metody hodnocení
Studenti jsou hodnoceni za průběžnou samostatnou práci na esejích na zadaná témata.
Další komentáře
Studijní materiály
Předmět je zařazen také v obdobích jaro 2022, jaro 2023, jaro 2025.