OpenAI má identifikátor textů psaných umělou inteligencí
Technologie
Foto: Shutterstock

OpenAI má identifikátor textů psaných umělou inteligencí

Nový nástroj prý vznikl hlavně kvůli obavám, aby studenti nepodváděli ve škole.

14.02.23

OpenAI, tvůrci aplikace ChatGPT, začali slýchat kritiku svého AI chatbota. Hlavně od pedagogů, kteří vyjádřili obavy ohledně studentů, kteří používají ChatGPT k tomu, aby za ně dělal domácí úkoly nebo psal seminární práce. Společnost OpenAI tedy vydala nový nástroj pro klasifikaci AI zaměřený na přímé řešení těchto problémů. Bezplatný webový nástroj vytvořila s cílem pomoci uživatelům určit, zda text napsal člověk nebo počítač.

Nástroj se používá snadno. Jednoduše navštivte klasifikátor AI, přihlaste se, zkopírujte a vložte blok textu, který chcete zkontrolovat. Klasifikátor pak seřadí text na stupnici buď jako pravděpodobně generovaný AI, možná, nejasné, nepravděpodobné nebo velmi nepravděpodobné.

I když to zní neuvěřitelně užitečně při řešení některých obav o psaný text, OpenAI jasně ukazuje, že existují výhrady k jeho spolehlivosti, které potvrzují sami autoři nového nástroje.

„V našich hodnoceních na souboru testovacích anglických textů náš klasifikátor správně identifikuje 26 % textu napsaného umělou inteligencí jako „pravděpodobně napsaný umělou inteligencí“, zatímco text napsaný člověkem nesprávně označuje jako text napsaný umělou inteligencí z 9 %,“ uvedla společnost v příspěvku na blogu.

Existují i další omezení klasifikátoru, o kterých se v OpenAI zmiňují. Klasifikátor například funguje podstatně hůře s textem, který má méně než 1000 slov. Někdy může falešně identifikovat obsah psaný člověkem jako text vytvořený počítačem. A opravdu dobře funguje pouze s textem v angličtině.

OpenAI nejsou první, kdo vydal nástroj, který pomáhá detekovat, kdy je text generován počítačem. Ve skutečnosti to není ani první klasifikační nástroj, který sama společnost vydala. Podle OpenAI je však „výrazně spolehlivější“ než jejich předchozí nástroj.

Je vlastně velmi pozoruhodné, že na takovém nástroji pracuje jeden z lídrů v oblasti umělé inteligence. Přesto existuje ještě kus cesty, než se učitelé budou moci s jistotou spolehnout na jakýkoli nástroj detekce umělé inteligence, aby se vyhnuli podvádění ve škole.

 

ZDROJ

Související

Chcete zabránit nevěře partnera? Pořiďte mu virtuální realitu

Výzkum izraelské Reichmanovy univerzity publikovaný v časopise Current Research in Ecological and Social Psychology, se opírá o jednoduchou otázku: Pomůže flirtování se svůdným virtuálním agentem, v tomto případě VR barmanem, nebo bude naopak bránit monogamním vztahům v reálném životě. Sociologové...


Filmy by mohla dabovat umělá inteligence. Dokáže klonovat i hlas celebrit

ElevenLabs se zabývá hlasovou technologií s umělou inteligencí. Startup založili polští inženýři Mati Staniszewski a Piotr Dabkowski. Vyvinuli model pro syntézu řeči založený na hlubokém učení. Technologie tak dokáže převádět text na řeč s jakýmkoliv hlasem a jakoukoliv emocí. „Existuje OpenAI a...


Václav Havel bude učit v českých školách – jako umělá inteligence

„DigiHavel je moderní deduktivní nástroj pro učitele občanské výchovy. Je to vlastně aplikace založená na umělé inteligenci. Můžete si ji představit jako digitálního člověka, jehož myšlenkami se inspiroval první český prezident Václav Havel. Je to vlastně poprvé, kdy bude digitální člověk jako...