Článek
Už jsou to čtyři roky, kdy technologická společnost Open AI vypustila do světa svého prvního chatbota ChatGPT-3. Otřáslo to průmyslem, médii, medicínou, ale také školstvím. To se do dnešního dne nedokázalo rychlému tempu nových technologií umělé inteligence přizpůsobit.
Kromě ChatGPT je v současné době také k dispozici mnoho dalších chatbotů – například Gemini (Google), Copilot (Microsoft), Claude nebo Perplexity. Všechny z nich dokážou vytvořit ucházející písemnou práci během několika sekund na základě pár kritérií.
Podle webu The Guardian jsou pro studenty tyto nástroje velmi užitečné. Především když se blíží termín odevzdání eseje nebo nějakého jiného úkolu. Pro pedagogy jsou ovšem noční můrou.
Jak ChatGPT mění svět
Student nepodváděl, AI tvrdila opak
Vzdělávací instituce nevědí, jak s těmito nástroji efektivně naložit a používat je. To v konečném důsledku vede k tomu, že s pomocí AI softwaru pro detekci umělé inteligence (například Turnitin) nebo i jiných studentů či pedagogů mohou obvinit nevinného člověka. Snaživí studenti se tak mohou ocitnout v pasti.
Novinář Will Coldwell mluvil s devatenáctiletým Albertem, kterého univerzita obvinila z použití umělé inteligence při vypracování hodnocené práce. Problém byl v tom, že nepodváděl.
„Možná to nebyla moje nejlepší práce, ale na eseji jsem tvrdě pracoval. Rozhodně jsem k jejímu napsání nepoužíval umělou inteligenci. A být z toho obviněn kvůli slovům, jako jsou kromě a v kontrastu, mi připadalo velmi ponižující,“ vypověděl Albert.
„Připadalo mi to jako facka mé tvrdé práci za celý modul kvůli jedné špatně napsané eseji. Hodně jsem se učil a obecně jsem byl jedničkář. Jedna špatná esej najednou znamenala, že jsem použil umělou inteligenci,“ dodal.
Devatenáctiletý student nakonec absolvoval slyšení, ve kterém před třemi zaměstnanci katedry musel obhájit svou práci a dokázat, že nepodváděl pomocí AI. Nebylo to nic příjemného, a dokonce jim přiznal, že podle něj práce není moc dobrá.
Po dvouměsíčním čekání zjistil, že práce prošla. I přesto se kvůli křivdě a špatnému pocitu rozhodl z univerzity odejít do jiné instituce.
Detektory AI jsou nespolehlivé
Albert ale není jediný, kdo byl neprávem obviněn z používání umělé inteligence.
Novináři se svěřil další student, kterého univerzita osočila z podvádění. Důvodem mělo být použití bodů strukturovaných v seznamu, který mají chatboti tendenci dělat.
„Nakonec jsem byl očištěn, ale tato zkušenost se odrazila na mém duševním zdraví a zničilo mi to sebevědomí,“ řekl novináři student. „Ani jsem nepoužíval kontrolu pravopisu, abych si svou práci upravil, protože jsem se tak bál,“ dodal.
Zdá se tedy, že mnoho akademiků věří, že díky speciálním AI nástrojům, jako například Turnitin, vždy poznáte, zda úkol napsala umělá inteligence či nikoliv. Vypadá to ale, že opak je pravdou.
Ačkoliv právě oblíbený Turnitin od svého vydání zpracoval 130 milionů dokumentů a zjistil, že 3,5 milionu z nich bylo z 80 % napsáno umělou inteligencí, bylo hlášeno hned několik případů falešně pozitivních výsledků a některé univerzity se rozhodly odhlásit.
„Software pro detekci umělé inteligence má významná omezení. Všechny výzkumy znovu a znovu říkají, že tyto nástroje jsou nespolehlivé. A dají se velmi snadno oklamat,“ komentuje generativní výzkumník umělé inteligence na Britské univerzitě ve Vietnamu Dr. Mike Perkins.
Jeho vlastní šetření zjistilo, že detektory umělé inteligence dokážou odhalit text s AI s přesností 39,5 %. Po použití jednoduchých technik obcházení – například drobné manipulace s textem – klesla přesnost na pouhých 22,1 %.
Jak Perkins upozorňuje, studenti, kteří se rozhodnou podvádět, text z chatbotů upraví a přidají ho do vlastního díla. Navíc existují tzv. zlidštovače umělé inteligence – například CopyGenius nebo StealthGPT. Ty se chlubí nezjistitelným AI obsahem.
„Jediní studenti, kteří to nedělají, se opravdu snaží nebo nejsou ochotni či schopni zaplatit za nejpokročilejší nástroje umělé inteligence,“ řekl Perkins.
„A koho nakonec chytíte, jsou studenti, kteří třeba nic neudělali a u kterých hrozí, že jejich akademická kariéra bude poškozena,“ uzavřel výzkumník.