Etická hlediska generativní umělé inteligence ve vzdělávání Mgr. Tomáš Foltýnek, Ph.D. foltynek@fi.muni.cz Osnova přednášky ̶ Principy generativní umělé inteligence ̶ Užitečné aplikace AI ̶ Etická hlediska využití AI ve vzdělávání ̶ Detekce textu generovaného umělou inteligencí ̶ Etická hlediska využití AI ve vědě ̶ Sdílení zkušeností Generativní AI a univerzity ̶ Pokroky v generativní AI bez většího zájmu ̶ Listopad 2022: ChatGPT ̶ Zděšení, obavy, výzvy, naděje, příležitost… ̶ Reakce a postoje univerzit různé ̶ Žádná ̶ Zákaz ̶ Deklaratorní dokumenty ̶ Změny ve vnitřních předpisech ̶ Metodická podpora Co je AI? Artificial Intelligence refers to systems that appear to have “intelligent behaviour by analysing their environment and taking actions – with some degree of autonomy – to achieve specific goals” (EU, 2018) Generativní AI: specific goals = generování obsahu Principy generativní AI V této sekci využity materiály z workshopu Generativní AI v univerzitním vzdělávání, jejichž autorem je Filip Lux Co je strojové učení? Definice úlohy strojového učení Předpověď počasí Předpověď počasí Předpověď počasí Předpověď počasí Předpověď počasí Kontext dotazu - Kdy model odpovídající na BUDE DNES PRŠET? selže? Kontext dotazu - Kdy model odpovídající na BUDE DNES PRŠET? selže? Obecný dotaz & specifický model vs. Specifický dotaz & obecný model Generativní modely Generování textu - na základě textového dotazu vygeneruje odpověď - ChatGPT Generování obrazu - za základě textového dotazu vygeneruje ilustraci - Midjourney, Stable Diffusion Generátor textu - Jazykový model odpovídá na dotaz: DOPLŇ DO TEXTU NÁSLEDUJÍCÍ SLOVO Generátor textu Generátor textu Generátor textu Generátor textu Generátor textu Generátor obrazu - odpovídá na otázku: ODŠUM ZAŠUMĚNÝ OBRÁZEK Generátor obrazu Generátor obrazu Generátor obrazu Generátor obrazu Latentní prostor - Obrazy i text jsou reprezentovány latentními vektory - Poloha zachycuje významové vztahy mezi objekty např. King - Man + Woman = Queen - Velké jazykové modely (LLM) - mnohadimenzionální latentní prostory Shrnutí - Model strojového učení odpovídá právě na jednu úlohu, pro kterou byl natrénován. - Chování modelu závisí na datech, pomocí kterých byl vytvořen. - Dotaz by měl obsahovat kontext, který není zřejmý ze zadání úlohy. - Neurální síť je obecným typem učitelného modelu. - Znalosti modelu jsou uspořádány v latentním prostoru. Užitečné nástroje umělé inteligence MidJourney /imagine artificial intelligence Kde hledat? ThereIsAnAIForThat.com AI pro vyhledávání AI aplikací 9862 aplikací (stav k 22. 11. 2023) Chat GPT ̶ Chatovací robot postavený na GPT ̶ GPT = Generative Pre-trained Transformer ̶ Jazykový model natrénovaný na předpovídání (generování) dalšího slova na základě kontextu ̶ Generuje nejpravděpodobnější slovo bez ohledu na faktickou správnost ̶ Chat GPT je virtuální asistent natrénovaný na odpovídání na otázky a generování obsahu, který vypadá jako od člověka ̶ Filtry na nelegální, urážlivý nebo jinak závadný obsah AI na čtení webových stránek ̶ Rozšíření do Chromu ̶ SciSpace Copilot, Wiseone, Merlin (a jistě mnoho dalších) ̶ Dokáže „přečíst“ obsah stránky (článku) ̶ Následně reaguje na dotazy a požadavky ̶ Sumarizace obsahu ̶ Vysvětlení účelu stránky ̶ Vysvětlení konkrétní pasáže ̶ Konkrétní dotazy na obsah článku ̶ SciSpace copilot „rozumí“ i českému textu, odpovídá anglicky Literture Review pomocí Consensus ̶ Jazykový model propojený s databází vědeckých článků ̶ https://consensus.app/search/ ̶ Po zadání klíčového slova, sousloví nebo otázky ̶ Najde nejrelevantnější vědecké články ̶ Extrahuje z nich klíčové poznatky ̶ Vytvoří z nich krátké shrnutí ̶ U otázek ano/ne udělá „meta analýzu“ Vyhledávací nástroje ̶ Elicit.org ̶ Najde a shrne nejrelevantnější zdroje ̶ Získávání dat z PDF ̶ Seznam konceptů ̶ Perplexity.ai ̶ Odpovídání na otázky ̶ Tyto nástroje poskytují odkazy na zdroje ̶ …jsou však tyto zdroje spolehlivé? Generování obrázků ̶ Midjourney ̶ Komunikace před Discord ̶ Promptem může být text i obrázek ̶ Př. obrázek vpravo vznikl z portrétu TGM a textu „Future university, Artificial intelligence ̶ Stable diffusion ̶ Online aplikace ̶ Možnost pozitivního a negativního promptu ̶ Obě aplikace vygenerují 4 návrhy ̶ Další rozpracování nebo zvětšení Prompt Engineering ̶ Prompt by měl obsahovat co nejvíce relevantních informací ̶ I am an assistant professor at the Department of Machine Learning of a high-profile university. I am preparing the introductory course on Python for a new study program Data Analytics. Please give me… ̶ Prompt by měl být jasný, stručný a přímočarý ̶ V jedné otázce se ptát jen na jednu věc ̶ Je možné specifikovat cílovou skupinu ̶ Rewrite it in a way that a college student can understand ̶ Doptávejte se, chtějte více ̶ Obvykle jsou potřeba aspoň 4 prompty Prompt Engineering ̶ Nakonec, Chat GPT ví nejlépe, jak se jej máme ptát ☺ ̶ Následující obsah byl připraven podle Chat GPT ̶ TF: Připravuji workshop pro vysokoškolské učitele o umělé inteligenci ve vzdělávání. Prosím, navrhni mi pět nejlepších strategií pro psaní dobrých promptů pro Chat GPT. ̶ Chat GPT: Při psaní promptů pro Chat GPT je důležité je navrhnout tak, aby vyvolaly přesné a informativní odpovědi. Zde je pět strategií pro tvorbu dobrých promptů pro váš workshop o umělé inteligenci ve vzdělávání: 1. Buďte jasní a konkrétní: Poskytněte jasný kontext a specifikujte, na co se chcete model zaměřit. Nejasné nebo nekonkrétní otázky mohou vést k irelevantním nebo zavádějícím odpovědím. Ujistěte se, že prompt jasně definuje úkol nebo otázku, na kterou chcete model reagovat. Příklad: "Diskutujte o vlivu umělé inteligence na vzdělávání a zdůrazněte tři konkrétní oblasti, ve kterých umělá inteligence výrazně pokročila." 2. Nastavte jasné omezení Chat GPT může generovat odpovědi, které jsou příliš dlouhé, nebo se nemusí řídit požadovanými pravidly. Nastavením omezení můžete ovlivnit délku, formát nebo jiné konkrétní aspekty odpovědi. Příklad: "V maximálně 200 slovech vysvětlete, jak lze umělou inteligenci integrovat do výuky tak, aby se zvýšilo zapojení studentů a vylepšily výsledky jejich učení." 3. Poskytněte kontext Při položení otázky nebo žádosti o názor je užitečné poskytnout relevantní podkladové informace, které napomohou ke správné odpovědi. To může pomoci předejít možným nedorozuměním a zlepšit kvalitu generované odpovědi. Příklad: "Při narůstajícím používání umělé inteligence v automatizovaných systémech hodnocení zkoušek diskutujte o výhodách a nevýhodách přijetí takové technologie ve vysokém školství." 4. Podporujte kritické myšlení a analýzu ̶ Namísto požadování jednoduchých faktických informací navrhujte prompty, které vyžadují vyšší úroveň myšlení a podporují model v analýze, hodnocení a poskytování rozumných odpovědí. ̶ Příklad: ̶ "Srovnávejte tradiční metody výuky s personalizovanými přístupy podporovanými umělou inteligencí. Posuďte výhody a potenciální výzvy každého přístupu z hlediska zapojení studentů a dosažených výsledků." 5. Experimentujte Podpořte kreativní odpovědi tím, že navrhnete prompty, které vyzývají model k generování originálních a spekulativních odpovědí. To může vést k diskusím o potenciálních budoucích aplikacích umělé inteligence ve vzdělávání. Příklad: "Představte si scénář, kde umělá inteligence pokročila natolik, že dokáže vytvořit plně personalizované a adaptivní virtuální učitele. Popište potenciální výhody a etické obavy spojené s takovými virtuálními učiteli na univerzitě." Etická hlediska využívání AI Midjourney /imagine artificial intelligence on the shoulders of a giant, asking a question ENAI Recommendations on the Ethical Use of AI in Education ̶ European Network for Academic Integrity ̶ Sdružení vysokých škol a dalších institucí ̶ Podpora a sdílení zkušeností v oblasti akademické integrity ̶ Široká dostupnost generativní AI posiluje existující hrozby pro akademickou integritu ̶ práce a články psané na zakázku, fabrikace a falšování dat,… ̶ ENAI vydalo obecné doporučení ̶ Publikováno v International Journal for Educational Integrity Hranice eticky přijatelného využití AI ̶ Vždy záleží na smyslu úkolu ̶ Smysl úkolu by měl být studujícím jasně komunikován ̶ Dovolené a přiznané využití AI je v pořádku ̶ Nedovolené nebo nepřiznané využití AI splňuje definici Unauthorised content generation ̶ Production of academic work, in whole or part, for academic credit, progression or award, whether or not a payment or other favour is involved, using unapproved or undeclared human or technological assistance. Jaké využití AI je třeba přiznat? ̶ Jakékoliv využití jiných osob, zdrojů a nástrojů, které ovlivnilo myšlenky nebo vytvářelo obsah, by mělo být řádně přiznáno ̶ Tedy i využití AI, pokud ovlivňuje myšlenky nebo obsah, musí být řádně přiznáno ̶ Konkrétní podoba se může lišit ̶ Pokud je to možné, měl by být uveden i prompt ̶ Využití služeb, zdrojů a nástrojů, které ovlivňují pouze formu, je v pořádku ̶ jazyková a stylistická korektura, slovník synonym,… Jak citovat generativní AI ̶ Doporučení Ústavu českého jazyka FF MU, APA, MLA ̶ Doporučení k využití nástrojů umělé inteligence při plnění studijních povinností ̶ https://kvalita.muni.cz/kvalita-vyuky/doporuceni-k-vyuzivani-umele-inteligence-ve-vyuce ̶ Využití neovlivňující myšlenky práce stačí v Poděkování (Acknowledgement), příp. vůbec ̶ jazyková a stylistická korektura, přeformulování textu ̶ Využití pro inspiraci, prvotní seznámení s tématem, návrh struktury atd. uvést do Poděkování (Acknowledgement), Úvodu nebo Metodiky ̶ Převzetí ucelených pasáží textu citovat jako jakýkoliv jiný zdroj ̶ V souladu s uvedenými doporučeními ̶ Tam, kde je to vhodné, uvést i prompt(y) Jak citovat generativní AI (doporučení MU) ̶ Aplikace na kontrolu pravopisu, stylistiky a gramatiky (Grammarly) ̶ Netřeba deklarovat ̶ Aplikace sloužící k tvorbě odkazů, k organizaci zdrojových dokumentů, k poskytnutí přehledu existujících publikací apod. (Google Scholar) ̶ Netřeba deklarovat ̶ Pokud chceme přiznat, pak do Úvodu nebo Metodiky ̶ Nástroje pro strojový překlad (např. DeepL, Google Translate) ̶ Odkaz na zdroj původního textu dle citační normy + poznámka „Přeloženo nástrojem [NÁZEV]“ Jak citovat generativní AI (doporučení MU) ̶ Nástroje generativní AI ̶ textové generátory aplikace pro extrakci informací ̶ chatboty ̶ aplikace k sumarizaci obsahu ̶ aplikace k sumarizaci a vyhledávání vědeckých zdrojů ̶ např. ChatGPT, Bing AI, Google Bard, Perplexity, Copilot, Consensus, Elicit, apod. ̶ Podklady a podněty ke struktuře a obsahu textu ̶ Prohlášení např. “Při přípravě této práce autor/-ka použil/-a [NÁZEV APLIKACE; WEBOVÁ ADRESA APLIKACE] za účelem [DŮVOD]. Po použití tohoto nástroje autor/-ka provedl/-a kontrolu obsahu a přebírá za něj plnou zodpovědnost.” ̶ Přímé využití výstupů aplikací ̶ Citovat podle normy, analogie osobní komunikace Detekce textu generovaného umělou inteligencí Midjourney /imagine man with magnifying glass in darkness, small spotlight with traces of artificial intelligence ENAI: Testing of AI Detection Tools ̶ 12 volně dostupných a 2 komerční nástroje ̶ 54 dokumentů v 6 kategoriích 01-Hum: human-written 02-MT: human-written + machine translation to English 03-AI: AI-generated text 04-AI: AI-generated text 05-ManEd: AI-generated text + manual edits 06-Para: AI-generated text + machine paraphrase ̶ Weber-Wulff et al. Testing of Detection Tools for AI-Generated Text ̶ https://arxiv.org/abs/2306.15666 Fungují nástroje na detekci textu vytvořeného umělou inteligenci? ̶ Nefungují J ̶ Zkreslení směrem k “napsáno člověkem” ̶ I tak produkují falešně pozitivní výsledky ̶ Neposkytují důkaz ̶ Nelze prokázat discipliární přestupek ̶ Nemožnost obrany ̶ Text vytvořený AI a parafrázovaný AI je většinou klasifikován jako napsaný člověkem Etická hlediska AI ve vědě Midjourney /imagine ethical considerations of artificial intelligence in science and research Rizika GAI ve vědeckých publikacích ̶ Nepřesný, nerelevantní a nepravdivý obsah ̶ “any section of a manuscript written by an NLP system should be checked by a domain expert for accuracy, bias, relevance, and reasoning” ̶ “If a section of a manuscript written by an NLP system contains errors or biases, coauthors need to be held accountable for its accuracy, cogency, and integrity” ̶ Vědecká integrita ̶ “researchers should not use NLP systems to fabricate empirical data or falsify existing data” Hosseini, M., Rasmussen, L. M., & Resnik, D. B. (Jan 2023). Using AI to write scholarly publications. Accountability in Research. https://doi.org/10.1080/08989621.2023.2168535 Zodpovědnost ̶ Výstupy generativní AI mohou být zkreslené, nepřesné nebo nesprávné. ̶ Ani nástroj, ani jeho poskytovatel nenese zodpovědnost za vygenerovaný obsah ̶ Zodpovědnost je vždy na uživateli! ̶ Nástroj AI nemůže být uveden jako (spolu)autor publikace ̶ Viz kritéria autorství ICMJE/COPE Kritéria (spolu)autorství podle COPE ̶ COPE (Comittee for Publication Ethics) převzalo kritéria od ICMJE (International Committee of Medical Journal Editors) ̶ (Spolu)autorem se osoba stává právě tehdy, když splní každé z následujících kritérií: ̶ Významný přínos k myšlence a návrhu díla, nebo sběr, analýza nebo interpretace dat ̶ Vytváření díla nebo kritické zhodnocení jeho myšlenek ̶ Souhlas s výslednou podobou díla k publikování ̶ Přijetí (spolu)odpovědnosti za dílo jako celek Co přinese budoucnost? ̶ AI může přijít s novými objevy ̶ kritéria autorství? ̶ duševní vlastnictví? ̶ recenzní řízení? ̶ Výstupy budou stále více výsledkem spolupráce člověka a AI ̶ rozlišování člověk vs. AI pozbyde smysl ̶ Otázky ohledně smyslu práce ̶ Co je smyslem semestrální / bakalářské / diplomové práce? ̶ Co je smyslem vědeckého článku? ̶ Co má být předmětem hodnocení? Text? Sdílení zkušeností Midjourney /imagine A group of university teachers sharing experience, artificial intelligence in background Sdílení zkušeností ̶ Kdy a jak vám AI pomohla? ̶ Kdy a jak vám AI přidělala práci? Děkuji za pozornost foltynek@fi.muni.cz