Re: o nemoznosti uplneho pochopenia komplexnejsich LLM :: Remember, remember, the velvet November


node:	Re: o nemoznosti uplneho pochopenia komplexnejsich LLM
template:	4
parent:	o nemoznosti uplneho pochopenia komplexnejsich LLM
owner:	dusoft
viewed by:
created:	23.03.2026 - 11:58:04
updated:	23.03.2026 - 11:58:11

cwbe coordinatez:
101
63540
8514408
9304537
9304582
9304588
9304605
9304619
9304630
9304635
9304658
9304743
9304748
9304751
9304753
9304755
9304808
9304816

ABSOLUT
KYBERIA

permissions
you:	r,
system:	public
net:	yes

prva cast je bezproblemova:
https://kyberia.sk/id/9304814
musia vediet, co tam naliali.

druha cast je komplikovanejsia, ale realizovatelna aspon do urcitej miery.

00000101000635400851440809304537093045820930458809304605093046190930463009304635093046580930474309304748093047510930475309304755093048080930481609304825

Priatelu, tam nejde iba o to ake texty boli pouzite pri trenovani.

(a aj tych textov je take mnozstvo ze niet a nikdy nebude cloveka ktory by ich kedy vsetky precital)

Tam ide o to ze ten algoritmicky mlyncek ktory nasledne roztocis je tak nesmierne komplikovany, svet N-rozmernych latentnych vektorovyh priestorov nasemu beznemu ludskemu chapaniu tak vzdialeny ze proste nieje a nikdy nebude mozne pochopit "how deep the rabbit hole goes".

0000010100063540085144080930453709304582093045880930460509304619093046300930463509304658093047430930474809304751093047530930475509304808093048160930482509305355

Na take popisy sa ale predsa prave pouziva co povedal nie? Teda mas nejake hoc aj predtrenovate bloky, ktore topologicky spajas a doupravujes. Statisticky sa to da popisovat a hodnotit. To ze konkretne niekto nedokaze vsetko obsiahnut predsa nieje ciel. Nieje dolezite ani kompletne obsiahnut numericke metody pouzite vo vedeckej kalkulacke. Staci ze niekto potvrdil ze algo konverguje s definovanou presnostou a je zarucene ze na displ. Mas cca dostatocne presny vysledok.

Problem je ze LLM by muselo v kontexte hentoho mat blok, ktory diagnostikuje nejaky tvoj progress k povedzme psychickej poruche. A reagovalo by praveze nepodporovanim komunikacie v takom smere. Alebo zapojilo inu strategiu aby ta nedeformovalo. To by ale musel byt celkom sofistikovany cieleny submodul nieco ako security subsystem :).

~ What a time to be alive... ~

0000010100063540085144080930453709304582093045880930460509304619093046300930463509304658093047430930474809304751093047530930475509304808093048160930482509304859

toto:

Co by znamenalo nove pojatie ai, ako "statistickeho aproximatora", ale s takym obrovskym datasetom, ze mu umoznuje vytvarat zlozite viacvrstvove "mentalne" reprezentacie?

https://g.co/gemini/share/3127d4833a70

0000010100063540085144080930453709304582093045880930460509304619093046300930463509304658093047430930474809304751093047530930475509304808093048160930482509304837

nemozu na to pochopenie pouzit.... AI? :))))

000001010006354008514408093045370930458209304588093046050930461909304630093046350930465809304743093047480930475109304753093047550930480809304816093048250930483709304856

mozu, ale mozno nieco k tomu aj vykonfabuluje :-)

00000101000635400851440809304537093045820930458809304605093046190930463009304635093046580930474309304748093047510930475309304755093048080930481609304825093048370930485609305015

kolko percent z výstupov AI sú podla teba konfabulácie/"halucinácie" (myslím najnovšie platené modely), keď už to tu tolko spomínaš :)?

https://www.aboutchromebooks.com/ai-hallucination-rates-across-different-models/

0000010100063540085144080930453709304582093045880930460509304619093046300930463509304658093047430930474809304751093047530930475509304808093048160930482509304837093048560930501509305251

uplne pochopenie? v spolocnosti kde sa uprimnost povazuje za zradu je lepsie sa tvarit ze ziaden script neexistuje. len nahodne skoky v strome a ticho ktore nikto nevie odovodnit. neurobiologia ticha je krasna vec.

0000010100063540085144080930453709304582093045880930460509304619093046300930463509304658093047430930474809304751093047530930475509304808093048160930482509304837093048560930501509305054

netusim, to by som to musel merat a ja som mala vzorka.
iba zo skusenosti: casto viac ako by som cakal aj pri novych modeloch.
to, ze aj nove modely (gemini, gpt) stale bezne generuju nefunkcne URL odkazov, je fakt.

urcite su o tom studie (potom nie nahodny web o chromebookoch).

0000010100063540085144080930453709304582093045880930460509304619093046300930463509304658093047430930474809304751093047530930475509304808093048160930482509304837093048560930501509305037

ale to je ti prd platne vediet ked kazdy pripad je iny, zavisi od promptu a rng

a co keby sme sa zacali aj o ludoch bavit kto ma kolko % vystupov konfabulacie, ktove ako by si dopadol ;)

000001010006354008514408093045370930458209304588093046050930461909304630093046350930465809304743093047480930475109304753093047550930480809304816093048250930483709304856093050150930503709305158

inak toto presne, ze ked niekto hovori, ze "AI to je tak max 95% uspesnost, strasne", ze aku spolahlivost maju asi tak ludia :)))

ani neviem kolko krat som ako manazer riesil "honest human mistake", alebo proste "human error, sorry"

000001010006354008514408093045370930458209304588093046050930461909304630093046350930465809304743093047480930475109304753093047550930480809304816093048250930483709304856093050150930503709305126

no veď to, ludia by nedopadli lepšie...