Nie je problem aby sa gpt naucilo aj advanced poeziu, zvlada to celkom fajn. Problem je kvalitny dataset. napriklad slovensky dataset ktorym sme nakrmili Lizu ma len 47MB co je sakra zalostne malo, a to tam nema len poeziu ale aj kopec recenzii, rozhovorov, dramy.

korpus ceskej poezie co mam ma 330MB a to je tam kopec vsetkeho mozneho (pismak a podobne servery s "naivnou" poeziou) nielen to "kvalitne".

Keby tych dat je viac tak nema problem sa naucit poeziu. Jedine kde ma limity je to ze moc si nevymysli vlastny styl, iba "spriemeruje" to, co "citala" a tazko zreflektuje nejake sucasne temy.

Toto bolo vidno na Lize pekne. Vie pisat super poeziu s tematikou ktorej sa venovali slovenski autori co boli v datasete, cize rodina/priroda a podobne. Ale dostat z nej poeziu ktora reflektuje nejak trebars technologiu to nedavala moc. Ale tak my sme to robili ladenim stredneho GPT-2 modelu, verim ze s GPT-4 a inak pripravenym datasetom by davala aj to.