Jan Handl, 26. 05. 20
Standardní praxí při trénování algoritmu postaveném na strojovém učení je poskytnout mu všechna data a podrobnosti najednou. Řekněme, že budujete systém klasifikace obrázků pro rozpoznávání různých druhů zvířat. Ukážete jim příklady každého druhu a podle toho je označíte, například německý ovčák a pudl.
Ale když rodič učí dítě, přístup je zcela odlišný. Začíná zeširoka a bez podrobností, jakýkoliv pes je pro dítě prostě prozatím jednoduše jen pes. Teprve poté, co se dítě naučí rozlišovat tyto základní kategorie, rozdělí rodiče každou z nich do více specifik. Inspirováni tímto přístupem vědci z Carnegie Mellon University vytvořili novou techniku, která učí neuronovou síť rozdělovat věci fázově. V každé fázi má síť k dispozici stejná data. Štítky označující kategorie jsou nejprve velmi jednoduché a v průběhu času se stanou konkrétnějšími.
Aby vědci nastavili postupně zvyšující se obtížnost, nejprve „ukázali“ neuronové síti tréninková data s konečnými podrobnými štítky. Poté vytvořili matici, která poukazuje na kategorie, které model rozeznával nejobtížněji. Vědci použili tento postup k určení fází výcviku umělé inteligence, seskupili nejhůře rozlišitelné kategorie do jednoho štítku v raných stádiích testu a dělili je na podrobnější kategorie v dalším průběhu experimentu. V testech s několika pro podobný účel často používanými databázemi obrázků vedl tento přístup téměř vždy ke konečnému modelu strojového učení, který překonal model trénovaný konvenční metodou. V nejlepším případě zvýšila přesnost klasifikace o 7 %.
Zatímco tento postup vývoje algoritmů je nový, myšlenka, která za ním stojí, rozhodně mezi horké objevy nepatří. Praxe trénování neuronové sítě na zvyšujících se stupních obtížnosti je známá jako „osnovová výuka“ a existuje od 90. let minulého století. Avšak předchozí snahy o učení se zaměřily na v každé fázi jinou podskupinu dat, než na stejná data s různými štítky či kategoriemi.
Drtivá většina výzkumů takzvaného hlubokého učení (deep-learning) dnes zdůrazňuje vysoký počet prvků v modelu. Pokud má systém klasifikace obrázků potíže s rozlišováním různých objektů, znamená to, že nebyl vyškolen na dostatečném množství příkladů. Výzkumníci si ale vypůjčili metodu, kterou se učí člověk, a dokázali dosáhnout lepších výsledků se stejnými tréninkovými daty.
