Digitální svět: Technologie, potenciál i
rizika
Luděk Matyska
Ústav výpočetní techniky, MU
23. září 2024
CORE20 – Úvod
LM
Společnost a IT
Již od konce 20. století mluvíme o Informační společnosti
Počítače (správněji "informační a komunikační technologie", IT resp. ICT) jsou „všude“
ICT se stává součástí kritických procesů a interakcí ve společnosti
IT revoluce
LM ·CORE20 – Úvod ·23. září 2024 2 / 23
CORE20 – Úvod
LM
IT revoluce
Extrémně rychlý inovační cyklus v rámci informačních a komunikačních technologií
Konvergence v nejrůznějších oblastech
výpočetní a telekomunikační technika
text, zvuk, obraz (statický i pohyblivý)
multifunkční zařízení: „chytrý telefon“
Liberalizace a deregulace trhů
Zásadní vliv na výrobu, distribuci i spotřebu (využití) zboží i služeb
Zásadní vliv na mezilidskou interakci a chování
Trvá již dlouho a stále zrychluje
Velké jazykové modely a AI představují nový „revoluční cyklus”
LM ·CORE20 – Úvod ·23. září 2024 3 / 23
CORE20 – Úvod
LM
IT a společnost
„Revoluce“ vždy mění společnost
Zde ale dochází ke stále se zrychlujícím změnám
Společnost (morálka, etika, právo, ...) stále více zaostává za technologickými změnami
Únava lidí z IT pokroku
vystřízlivění až negativní reakce
hledání rovnovány versus „svezení se na vlně“
„Už jste cloudy, AI, ... ve firmě nasadili?”
IT může přinést významnou kompetitivní výhodu
ale ne vždy morálně akceptovatelným způsobem
(ovšem i pojetí morálky se mění)
např. diskuse o potřebě regulace AI
LM ·CORE20 – Úvod ·23. září 2024 4 / 23
CORE20 – Úvod
LM
Role IT
Ovlivňuje (prakticky) vše
A zasahuje tedy do (prakticky) všech oblastí lidského konání
Přirozeně s pozitivním i negativním dopadem
Role v jednotlivých oblastech
Významné zrychlení vlivem umělé inteligence (AI)
LM ·CORE20 – Úvod ·23. září 2024 5 / 23
CORE20 – Úvod
LM
Obecná role AI
Přináší schopnost interpretace a predikce i bez znalosti základních principů
Základem je schopnost zpracovat velké objemy dat a nalézat v nich „vzory“
Bezprostřední komunikace v přirozeném jazyce
Dialog, digitální asistent
Schopnost generovat „nový“ obsah
Optimalizace, „expertní“ schopnosti
Nová rizika při využití AI
Obnažuje naše vlastní nedostatky, předsudky (bias) v datech
Ochrana soukromí, zdroje dat pro AI analýzu
Etika v rozhodování (příliš automatizovaná rozhodnutí)
LM ·CORE20 – Úvod ·23. září 2024 6 / 23
CORE20 – Úvod
LM
Role IT v průmyslu
Průmysl 4.0
Změna výrobních procesů
Automatizace a robotizace
Plánování, logistika a „just in time delivery“
Procesy a jejich řízení
Nasazování umělé inteligence
V podstatě ve všech oblastech, analýzou sbíraných dat ovlivňuje vlastní proces
LM ·CORE20 – Úvod ·23. září 2024 7 / 23
CORE20 – Úvod
LM
Role IT ve finančním sektoru
Zrychlení procesů
Odstranění prostředníků (internetové bankovnictví, investice, ...)
Vedení záznamů výhradně v digitální podobě
„Zcivilnění“ finančního sektoru
Ochrana proti zneužití
FinTech
Využití nástrojů umělé inteligence
Jak ve vnitřních procesech, tak i v interakci se zákazníky
LM ·CORE20 – Úvod ·23. září 2024 8 / 23
CORE20 – Úvod
LM
Role IT v obchodě
Zrychlení obchodních transakcí
Zkrácení „vzdáleností“ a odstranění prostředníků (kamenné obchody versus e-shopy)
Nové způsoby doručení zboží
Role a cena informací
Sdílená ekonomika
Obchod a reklama
profilování (potenciálních) zákazníků
cílená reklama podle on-line aktivit
LM ·CORE20 – Úvod ·23. září 2024 9 / 23
CORE20 – Úvod
LM
Role IT v péči o zdraví
Digitální záznamy o pacientech
Zcela nové vyšetřovací metody
Komplexní zpracování výsledků
Personalizované lékařství
cílený (personalizovaný) výběr nejvhodnějších léčebných postupů a preparátů
„Chytré“ přístroje v péči o zdraví
Telemedicína
LM ·CORE20 – Úvod ·23. září 2024 10 / 23
CORE20 – Úvod
LM
Role IT v domácnosti
Zvýšení efektivity (vytápění, osvětlení, spotřeba vody i elektřiny, ...)
„Chytré“ domácnosti
Internet of Things (IoT)
Širší využití
Sociální sítě
Prolínání soukromého a pracovního života (profilování, ...)
Ovlivňování politických názorů a preferencí
LM ·CORE20 – Úvod ·23. září 2024 11 / 23
CORE20 – Úvod
LM
Role IT v zábavě
Počítačové hry
Digitální přenos (TV, rádio, „po Internetu“, ...)
VoD
Streamovací služby
Obousměrná interakce (včetně sociálních sítí)
3D prostředí (TV, VR, hry, ...)
Virtuální realita
LM ·CORE20 – Úvod ·23. září 2024 12 / 23
CORE20 – Úvod
LM
Role IT v právních oblastech
Kyberbezpečnost jako samostatná disciplína
Nové nástroje pro odhalování zločinu
forenzní metody
automatizované procesy
vyhledávání v rozsáhlých datech
Ovlivnění právního systému
modifikované a zcela nové právní otázky a normy
Ochrana osobních údajů (GDPR v EU)
včetně práva na odstranění informací
LM ·CORE20 – Úvod ·23. září 2024 13 / 23
CORE20 – Úvod
LM
Role IT v mezilidské komunikaci
Usnadnění a zrychlení mezilidských kontaktů
Sociální sítě
Fenomény „stále na příjmu“, „neztratit kontakt“, „být vidět/slyšet“, ...
Sociální bubliny, klesající schopnost porozumnění a ochoty se domluvit (najít
kompromis)
Ztráta kontroly nad osobními údaji
Co se jednou na Internetu objeví, ...
Kyberšikana
Morálka
LM ·CORE20 – Úvod ·23. září 2024 14 / 23
CORE20 – Úvod
LM
Role IT ve výuce
Digitální učební materiály
včetně interaktivních
MOOC
On-line výuka, výuka na dálku
snazší konzultace
Personalizace výuky
přizpůsobení se vlastnímu tempu
dynamická nabídka dalších výukových materiálů
Vzájemná spolupráce studentů, snazší „svépomoc“
Aktuálně i role AI a (generativních) velkých jazykových modelů (ChatGPT, LLaMA,
PaLM, ...)
příprava studijních materiálů
studentské práce
interaktivní výuka
· · ·
LM ·CORE20 – Úvod ·23. září 2024 15 / 23
CORE20 – Úvod
LM
Role IT ve vědě
Simulace, spekulativní („what if“) studie, umělá inteligence
Experimenty „in silico“
„Přímé“ studie fenoménů, které exprimentálně nemůžeme udělat
Od srážek černých děr až po sociologické simulace chování populace
Role „otevřených dat“
Podpora spolupráce, vytváření distribuovaných výzkumných týmů
Informatika jako třetí metodologie vědy (vedle indukce a dedukce)
Role AI
„Intuitivní” postupy (Alphafold)
Kombinace postupů, výběry optimálních postupů
· · ·
LM ·CORE20 – Úvod ·23. září 2024 16 / 23
CORE20 – Úvod
LM
Internet
Síť sítí
Základní komunikační „dálnice“ současného světa
Co si představit pod pojmem „Najdete to na Internetu?“
Pojem „Internet“ je dnes silně přetížený
počítačová síť
systémem webových serverů a dalších služeb
V principu vše, k čemu se dostanu prostřednictvím zařízení, připojeného k počítačové
síti
zpravidla rozhraní webového prohlížeče
přidává se schopnost AI pracovat i se sémantikou
Deep Internet
Paywall
Dark Internet (darknet)
LM ·CORE20 – Úvod ·23. září 2024 17 / 23
CORE20 – Úvod
LM
Rizika
Společnost nestačí tempu vývoje
Piráti a dokonalé kopie
Etické, morální i právní prostředí se mění mnohem pomaleji
učíme se „za běhu“ vypořádat s důsledky vývoje IT
některé dopady nemají v předchozí historii analogii
„digital village“ a sociální bubliny
Obrovské množství digitálního materiálu
dostupného „na klik“
bez kontroly „kvality“
„demokratizace“ informací, post-racionální doba
Překotné využití AI přináší další rizika
předsudky v datech, nedostatek transparentnosti rozhodování
deepfakes
autonomní nejen auta, ale i zbraně
LM ·CORE20 – Úvod ·23. září 2024 18 / 23
CORE20 – Úvod
LM
Co s tím?
Vzdělávání
nebrat ICT jako „černou skříňku“
seznámit se alespoň se základy fungování
a pochopit související rizika
ICT není „zlé“ ani „dobré“, ale je složité
a se složitostí přichází nepochopení
Cílem tohoto kurzu je Vám v tomto směru alespoň trošku pomoci
LM ·CORE20 – Úvod ·23. září 2024 19 / 23
CORE20 – Úvod
LM
Základní oblasti předmětu
Základní technologie, co se za nimi skrývá, jaké mají limity a kde naopak excelují
Digitální data a podrobnosti práce s nimi
Umělá inteligence a velké jazykové modely
Sociální sítě a počítačové hry, jejich fantastický business model i jeho důsledky
proč firma, která nabízí své služby zdarma, je jednou z nejbohatších na světě
co všechno o nás provozovatelé vědí, ačkoliv jsme jim nic neřekli
Právo ve světě informační společnosti
Co je kyberbezpečnost a jak nám pomůže se v digitálním světě pohybovat bezpečně
LM ·CORE20 – Úvod ·23. září 2024 20 / 23
CORE20 – Úvod
LM
A co v něm nenajdete
Kurz programování
Kurz použití počítačů či služeb
Kurz umělé inteligence
LM ·CORE20 – Úvod ·23. září 2024 21 / 23
CORE20 – Úvod
LM
Podrobnější struktura předmětu
Sítě a multimédia
Technologické zázemí
Simulace ve vědě
Dlouhodobé uložení dat a otevřená věda
Umělá inteligence, jazykové modely, a co s tím
Sociální sítě
On-line hry
Právní a společenské aspekty
Kyberbezpečnost – Kyberhygiena
Kyberbezpečnost – kybernetické útoky
Shrnutí
LM ·CORE20 – Úvod ·23. září 2024 22 / 23
CORE20 – Úvod
LM
Děkuji za pozornost
Nějaké otázky?
LM ·CORE20 – Úvod ·23. září 2024 23 / 23