OpenAI, tvůrci aplikace ChatGPT, začali slýchat kritiku svého AI chatbota. Hlavně od pedagogů, kteří vyjádřili obavy ohledně studentů, kteří používají ChatGPT k tomu, aby za ně dělal domácí úkoly nebo psal seminární práce. Společnost OpenAI tedy vydala nový nástroj pro klasifikaci AI zaměřený na přímé řešení těchto problémů. Bezplatný webový nástroj vytvořila s cílem pomoci uživatelům určit, zda text napsal člověk nebo počítač.
Nástroj se používá snadno. Jednoduše navštivte klasifikátor AI, přihlaste se, zkopírujte a vložte blok textu, který chcete zkontrolovat. Klasifikátor pak seřadí text na stupnici buď jako pravděpodobně generovaný AI, možná, nejasné, nepravděpodobné nebo velmi nepravděpodobné.
I když to zní neuvěřitelně užitečně při řešení některých obav o psaný text, OpenAI jasně ukazuje, že existují výhrady k jeho spolehlivosti, které potvrzují sami autoři nového nástroje.
„V našich hodnoceních na souboru testovacích anglických textů náš klasifikátor správně identifikuje 26 % textu napsaného umělou inteligencí jako „pravděpodobně napsaný umělou inteligencí“, zatímco text napsaný člověkem nesprávně označuje jako text napsaný umělou inteligencí z 9 %,“ uvedla společnost v příspěvku na blogu.
Existují i další omezení klasifikátoru, o kterých se v OpenAI zmiňují. Klasifikátor například funguje podstatně hůře s textem, který má méně než 1000 slov. Někdy může falešně identifikovat obsah psaný člověkem jako text vytvořený počítačem. A opravdu dobře funguje pouze s textem v angličtině.
OpenAI nejsou první, kdo vydal nástroj, který pomáhá detekovat, kdy je text generován počítačem. Ve skutečnosti to není ani první klasifikační nástroj, který sama společnost vydala. Podle OpenAI je však „výrazně spolehlivější“ než jejich předchozí nástroj.
Je vlastně velmi pozoruhodné, že na takovém nástroji pracuje jeden z lídrů v oblasti umělé inteligence. Přesto existuje ještě kus cesty, než se učitelé budou moci s jistotou spolehnout na jakýkoli nástroj detekce umělé inteligence, aby se vyhnuli podvádění ve škole.
