Rozvoj nástrojů využívajících prvků umělé inteligence staví před uživatele zásadní otázky o tom, jak je aplikovat efektivně, bezpečně, prozíravě.
Britské ministerstvo školství vydalo v březnu dokument definující základní rizika a příležitosti využívání generativní umělé inteligence, jako je ChatGPT, ve vzdělávání. Pro zajímavost a inspiraci vám přinášíme níže překlad tohoto textu do českého jazyka. V originále si jej můžete přečíst zde.
Tento materiál obsahuje stanovisko ministerstva školství k využívání generativní umělé inteligence (AI), včetně velkých jazykových modelů (LLM), jako je ChatGPT nebo Google Bard, v oblasti vzdělávání. Toto vyjádření vychází z vládní Bílé knihy o proinovačním přístupu k regulaci umělé inteligence a navazuje na nedávné oznámení vlády o vytvoření pracovní skupiny Foundation Model, která se bude zabývat domácími možnostmi Spojeného království v oblasti této důležité technologie. Pojem generativní umělá inteligence označuje technologii, kterou lze použít k vytváření nového obsahu na základě velkých objemů dat, na nichž byly vycvičeny modely umělé inteligence. Může jít o zvuk, kód, obrázky, text, simulace a videa.
Spuštěním aplikace ChatGPT organizací OpenAI v listopadu 2022 se zvýšilo povědomí a zájem o generativní umělou inteligenci (AI) postavenou na velkých jazykových modelech (LLM), jako jsou ChatGPT či Google Bard. Tyto nástroje dokážou odpovídat na otázky, plnit písemné úkoly a reagovat na pokyny podobně jako člověk. Další formy generativní umělé inteligence mohou vytvářet zvuk, kód, obrázky, video a simulace. Tato technologie není nová a lze se s ní již setkat v každodenních situacích, jako je filtrování nevyžádané pošty, systémy doporučování médií, navigační aplikace a online chatboty. Generativní nástroje umělé inteligence umějí rychle analyzovat, strukturovat a psát text nebo převádět textová zadání (prompty – prompts) na zvuk, video a obrázky. Obsah, který vytvářejí, však není vždy přesný ani vhodný, neboť AI se pravdivostí zabývá jen omezeně a může produkovat zkreslené informace. Přístup ke generativní umělé inteligenci nenahrazuje znalosti v dlouhodobé paměti, a to i proto, že bez znalostí, z nichž můžeme čerpat, nemůžeme generativní umělou inteligenci využít naplno. Naučit se psát dobré pokyny lze pouze tehdy, umíme-li psát srozumitelně a rozumíme-li oblasti, na niž se ptáme. Výsledky pak můžeme smysluplně kontrolovat pouze tehdy, máme-li znalosti či zkušenosti, s nimiž je můžeme porovnávat. Generativní nástroje umělé inteligence tak mohou urychlit a usnadnit některé písemné úlohy, ale nemohou nahradit úsudek a hluboké znalosti lidského odborníka v daném oboru. Více než kdy jindy je tedy důležité, aby náš vzdělávací systém zajistil, že žáci získají znalosti, vědomosti a intelektuální schopnosti. Školství by mělo co nejlépe využít možností nabízených technologiemi a tyto technologie efektivně, bezpečně a vhodně využívat k poskytování vynikajícího vzdělání, které žáky a studenty připraví na to být přínosem pro společnost i pro své budoucí povolání.
Při vhodném použití mají technologie potenciál snížit pracovní zátěž a učitelům šetřit čas. Jsme si vědomi, že pracovní zátěž pedagogů je důležitým problémem. Snažíme se jim pomoci, aby trávili méně času činnostmi, při nichž s žáky či studenty nepracují přímo, a to mimo jiné také využitím generativní umělé inteligence. Ministerstvo shromažďuje odborníky, kteří budou ve spolupráci se vzdělávacími institucemi sdílet a identifikovat osvědčené postupy a příležitosti za účelem zlepšení vzdělávání a snížení pracovní zátěže s využitím generativní umělé inteligence. Při využívání generativních nástrojů umělé inteligence je třeba mít na paměti ochranu osobních údajů. Osobní a citlivé údaje je třeba chránit, a proto je nelze zadávat do generativních nástrojů umělé inteligence. Generativní nástroje umělé inteligence mohou produkovat nespolehlivé informace, takže každý vytvořený obsah vyžaduje odbornou kontrolu, která ověří jeho vhodnost a přesnost. Generativní umělá inteligence poskytuje výsledky na základě souboru dat, na němž byla vycvičena. V mnoha případech není daný nástroj vycvičen na anglických učebních osnovách. Proto je důležité nepředpokládat, že výstupy umělé inteligence budou nutně srovnatelné se zdrojem, který byl navržen lidmi a jenž byl vyvinut v kontextu našich osnov. Ať již při tvorbě administrativních plánů, politik nebo dokumentů použijeme jakékoli nástroje či zdroje, za kvalitu a obsah výsledného dokumentu nese odbornou odpovědnost osoba, která jej vytváří, a organizace, do níž tato osoba patří. S ohledem na dostupnost generativní umělé inteligence by školy včetně těch vysokých měly patrně revidovat zásady týkající se domácích úkolů a dle potřeby promyslet přístup k domácím úkolům a dalším formám studia bez dohledu.
Nejlepším způsobem, jak se připravit na nejistou budoucnost, je vytvořit si pevný základ znalostí, které se nejvíce osvědčily při budování dnešního světa. Aby žáci a studenti potenciál generativní umělé inteligence mohli využít, bude nezbytné, aby získávali a prohlubovali své znalosti a rozvíjeli své intelektuální schopnosti. Solidní základní znalosti zajistí, že si žáci a studenti osvojí správné dílčí dovednosti, které jim umožní využít generativní umělou inteligenci nejlepším možným způsobem. Z tohoto důvodu budou i nadále rozhodující úlohu hrát precizní učební osnovy, jež budou bohaté na znalosti a které žáky a studenty připraví na budoucnost. Školy musejí žáky a studenty připravit na měnící se pracovní prostředí a mimo jiné je naučit vhodně a bezpečně používat nové technologie, mezi něž generativní umělá inteligence patří. To může v různých fázích vzdělávání znamenat naučit je chápat omezení, spolehlivost a možnou předpojatost generativní umělé inteligence, způsob uspořádání a řazení informací na internetu a bezpečnost na internetu, to vše s cílem ochránit je před škodlivým nebo zavádějícím obsahem. Úřad pro umělou inteligenci (útvar v rámci ministerstva pro vědu, inovace a technologie) aktuálně provádí výzkum v oblasti dovedností, které budou do budoucna nutné za účelem vzdělávání pracovních sil. Vzdělávací systém by měl podporovat jak studenty, tak zejména mladší žáky, aby dokázali najít a využívat vhodné zdroje na podporu svého průběžného vzdělávání. Do této oblasti patří i podpora efektivního využívání zdrojů přiměřených věku (což v některých případech může znamenat také generativní umělou inteligenci) a snaha předcházet přílišnému spoléhání na omezený počet nástrojů či zdrojů. Ministerstvo bude i nadále spolupracovat s odborníky s cílem analyzovat důsledky využívání generativní umělé inteligence a dalších nových technologií a na tyto důsledky reagovat, a to včetně podpory základních a středních škol za účelem prohloubení výuky v oblasti informatiky u dětí do 16 let.
Školy, vysoké školy a univerzity, jakož i organizace pro uznávání kvalifikací, musejí i nadále v příslušných případech přijímat přiměřená opatření s cílem předcházet nekalé praxi, a to včetně nekalé praxe při využívání generativní umělé inteligence. Již nyní existují přísná pravidla, která stanovují zkušební komise a jejichž smyslem je zajistit, aby žáci a studenti prezentovali svou vlastní práci. Ačkoli generativní technologie umělé inteligence mohou v reakci na zadání uživatele vytvářet plynulé a přesvědčivé odpovědi, vytvořený obsah může být věcně nepřesný. Žáci a studenti potřebují základní znalosti a dovednosti, aby dokázali rozeznat a posoudit přesnost a vhodnost informací, což učební osnovy bohaté na znalosti činí o to důležitějšími. Je naprosto zásadní, aby náš systém hodnocení dokázal spravedlivě a spolehlivě posoudit dovednosti a znalosti zkoušených osob. Společná rada pro kvalifikace zveřejnila pokyny pro učitele a zkušební centra týkající se zajištění důvěryhodnosti kvalifikací v souvislosti s využíváním generativní umělé inteligence. Tyto pokyny obsahují informace o tom, co je považováno za zneužití umělé inteligence, stejně jako požadavky na učitele a zkušební centra, které mají pomoci předcházet a odhalovat nekalé praktiky.
Generativní umělá inteligence ukládá zadaná data a učí se z nich. Z důvodu zajištění soukromí jednotlivců by se do nástrojů generativní umělé inteligence neměly vkládat osobní a citlivé údaje. Veškeré zadané údaje by nemělo být možné identifikovat a měly by být považovány za zveřejněné na internetu. Všichni zaměstnanci v oblasti vzdělávání by si měli být vědomi faktu, že generativní umělá inteligence dokáže vytvářet věrohodný obsah všeho druhu. Sem patří například důvěryhodnější podvodné e-maily s žádostí o platbu. Ačkoli se nijak zásadně neliší od obsahu, který lze najít online, je třeba mít na paměti, že lidé s generativní umělou inteligencí jednají jinak, a že obsah produkovaný generativní umělou inteligencí může působit autoritativnějším a věrohodnějším dojmem. Více než kdy jindy je proto důležité, aby vzdělávací instituce měly informace a aby při efektivním řízení kybernetických rizik uplatňovaly svůj úsudek v souladu s kybernetickými standardy vydanými ministerstvem. Vzdělávací instituce musejí zajistit, aby děti a mládež ke škodlivému nebo nevhodnému obsahu neměly přístup ani jej nevytvářely, a to ani prostřednictvím generativní umělé inteligence. Zákonné pokyny ministerstva k ochraně dětí s názvem Zajišťování bezpečnosti dětí při vzdělávání již školám a vysokým školám poskytují informace o tom, co dělat, aby své žáky a studenty na internetu chránily, a to včetně maximální snahy omezit rizika vyplývající z přístupu dětí ke školnímu IT systému. Školy a vysoké školy by se měly řídit standardem v oblasti filtrování a monitorování s cílem zajistit zavedení vhodných systémů.
