Re[9]: Characterizing Delusional Spirals through Human-LLM Chat Logs


node:	Re[9]: Characterizing Delusional Spirals through Human-LLM Chat Logs
template:	4
parent:	Re[8]: Characterizing Delusional Spirals through Human-LLM Chat Logs
owner:	ode
viewed by:
created:	22.03.2026 - 23:25:13
updated:	22.03.2026 - 23:31:53

cwbe coordinatez:
101
63540
8514408
9304537
9304582
9304588
9304605
9304619
9304630
9304635
9304658
9304743
9304748

ABSOLUT
KYBERIA

permissions
you:	r,
system:	public
net:	yes

aj si si to prečítal čo tam napísal, hlavne tú druhú časť? či len opakuješ stále to isté čo si hovoril aj pred tým?

prípadne tie linky čo som ti k tomu dal?

0000010100063540085144080930453709304582093045880930460509304619093046300930463509304658093047430930474809304751

prebehol som to, ale su to velmi stare papere v discipline, kde veci idu dopredu kazdym tyzdnom.

vratme sa k tvojmu zakladu, kde narazas na to, ze chatboty nemaju "hranicu". a ja som na to povedal, ze mozu byt nanutene modelu pravidlami (nakoniec preto model odmietne nadavat, generovat tvare politikov a pod.). to je cele.

000001010006354008514408093045370930458209304588093046050930461909304630093046350930465809304743093047480930475109304753

ano, defaultne ju nemaju v tom "zrkadleni" a "akceptacii" (dal som ti to do uvodzoviek, ak ti to viac tak sedí). ale da sa im to promptom doplniť.
a je to aj potrebne urobit jasneze.

00000101000635400851440809304537093045820930458809304605093046190930463009304635093046580930474309304748093047510930475309304755

vselico sa da system promptom docielit. alebo fine tuningom.
najma ale potrebujeme transparentnost LLM. ta dnes chyba. nie cierne skrinky.

0000010100063540085144080930453709304582093045880930460509304619093046300930463509304658093047430930474809304751093047530930475509304808

Je nemozne pochopit topologiu/strukturu N-rozmernych, do-seba-zavinutych latentnych priestorov ktore su jadrom kazdeho LLM.

Ano, mozeme vyvinut par novych nastrojov a metod ako nahliadat na to co sa deje, ale uplne odpoved na otazkz preco LLMko generuje to co generuje bude vzdy mimo dosah nasich moznosti popisu, interpetacie a pochopenia.

Volat po transparentnosti LLM je IMHO podobne marne ako volanie po transparetnosti ludskeho mozgu ci mysle.

000001010006354008514408093045370930458209304588093046050930461909304630093046350930465809304743093047480930475109304753093047550930480809304833

tak ako, ono hlavne keď už spomínaš ten ludský mozog či mysel, pokial viem, tak ani o bežnom ludskom biologickom vedomí, o tom čo a ako ho generuje a čo je to vlastne, a prečo sa elektromagnetické vnemy v receptoroch zlejú do konkrétneho vnemu, na to sú len nejaké hypotézy, ale nič definitívne tiež....

čiže ako snažiť sa pochopiť umelú inteligenciu, keď nechápeme dostatočne ani tú svoju biologickú inteligenciu,....

000001010006354008514408093045370930458209304588093046050930461909304630093046350930465809304743093047480930475109304753093047550930480809304816

prva cast je bezproblemova:
https://kyberia.sk/id/9304814
musia vediet, co tam naliali.

druha cast je komplikovanejsia, ale realizovatelna aspon do urcitej miery.

00000101000635400851440809304537093045820930458809304605093046190930463009304635093046580930474309304748093047510930475309304755093048080930481609304825

Priatelu, tam nejde iba o to ake texty boli pouzite pri trenovani.

(a aj tych textov je take mnozstvo ze niet a nikdy nebude cloveka ktory by ich kedy vsetky precital)

Tam ide o to ze ten algoritmicky mlyncek ktory nasledne roztocis je tak nesmierne komplikovany, svet N-rozmernych latentnych vektorovyh priestorov nasemu beznemu ludskemu chapaniu tak vzdialeny ze proste nieje a nikdy nebude mozne pochopit "how deep the rabbit hole goes".

0000010100063540085144080930453709304582093045880930460509304619093046300930463509304658093047430930474809304751093047530930475509304808093048160930482509305355

Na take popisy sa ale predsa prave pouziva co povedal nie? Teda mas nejake hoc aj predtrenovate bloky, ktore topologicky spajas a doupravujes. Statisticky sa to da popisovat a hodnotit. To ze konkretne niekto nedokaze vsetko obsiahnut predsa nieje ciel. Nieje dolezite ani kompletne obsiahnut numericke metody pouzite vo vedeckej kalkulacke. Staci ze niekto potvrdil ze algo konverguje s definovanou presnostou a je zarucene ze na displ. Mas cca dostatocne presny vysledok.

Problem je ze LLM by muselo v kontexte hentoho mat blok, ktory diagnostikuje nejaky tvoj progress k povedzme psychickej poruche. A reagovalo by praveze nepodporovanim komunikacie v takom smere. Alebo zapojilo inu strategiu aby ta nedeformovalo. To by ale musel byt celkom sofistikovany cieleny submodul nieco ako security subsystem :).

~ What a time to be alive... ~

0000010100063540085144080930453709304582093045880930460509304619093046300930463509304658093047430930474809304751093047530930475509304808093048160930482509304859

toto:

Co by znamenalo nove pojatie ai, ako "statistickeho aproximatora", ale s takym obrovskym datasetom, ze mu umoznuje vytvarat zlozite viacvrstvove "mentalne" reprezentacie?

https://g.co/gemini/share/3127d4833a70

0000010100063540085144080930453709304582093045880930460509304619093046300930463509304658093047430930474809304751093047530930475509304808093048160930482509304837

nemozu na to pochopenie pouzit.... AI? :))))

000001010006354008514408093045370930458209304588093046050930461909304630093046350930465809304743093047480930475109304753093047550930480809304816093048250930483709304856

mozu, ale mozno nieco k tomu aj vykonfabuluje :-)

00000101000635400851440809304537093045820930458809304605093046190930463009304635093046580930474309304748093047510930475309304755093048080930481609304825093048370930485609305015

kolko percent z výstupov AI sú podla teba konfabulácie/"halucinácie" (myslím najnovšie platené modely), keď už to tu tolko spomínaš :)?

https://www.aboutchromebooks.com/ai-hallucination-rates-across-different-models/

0000010100063540085144080930453709304582093045880930460509304619093046300930463509304658093047430930474809304751093047530930475509304808093048160930482509304837093048560930501509305251

uplne pochopenie? v spolocnosti kde sa uprimnost povazuje za zradu je lepsie sa tvarit ze ziaden script neexistuje. len nahodne skoky v strome a ticho ktore nikto nevie odovodnit. neurobiologia ticha je krasna vec.

0000010100063540085144080930453709304582093045880930460509304619093046300930463509304658093047430930474809304751093047530930475509304808093048160930482509304837093048560930501509305054

netusim, to by som to musel merat a ja som mala vzorka.
iba zo skusenosti: casto viac ako by som cakal aj pri novych modeloch.
to, ze aj nove modely (gemini, gpt) stale bezne generuju nefunkcne URL odkazov, je fakt.

urcite su o tom studie (potom nie nahodny web o chromebookoch).

0000010100063540085144080930453709304582093045880930460509304619093046300930463509304658093047430930474809304751093047530930475509304808093048160930482509304837093048560930501509305037

ale to je ti prd platne vediet ked kazdy pripad je iny, zavisi od promptu a rng

a co keby sme sa zacali aj o ludoch bavit kto ma kolko % vystupov konfabulacie, ktove ako by si dopadol ;)

000001010006354008514408093045370930458209304588093046050930461909304630093046350930465809304743093047480930475109304753093047550930480809304816093048250930483709304856093050150930503709305158

inak toto presne, ze ked niekto hovori, ze "AI to je tak max 95% uspesnost, strasne", ze aku spolahlivost maju asi tak ludia :)))

ani neviem kolko krat som ako manazer riesil "honest human mistake", alebo proste "human error, sorry"

000001010006354008514408093045370930458209304588093046050930461909304630093046350930465809304743093047480930475109304753093047550930480809304816093048250930483709304856093050150930503709305126

no veď to, ludia by nedopadli lepšie...

0000010100063540085144080930453709304582093045880930460509304619093046300930463509304658093047430930474809304751093047530930475509304763

transparentnost LLM - neviem ci to este plati, ale co si pamatam, tak samotna CTO openAI tvrdila, ze oni sami poriadne nevedia ako to presne funguje

000001010006354008514408093045370930458209304588093046050930461909304630093046350930465809304743093047480930475109304753093047550930476309304797

plati stale, aj ked to uz vedia lepsie logovat.

ale transparentnost hlavne na zaciatku pri trenovani, ked pouzivaju ukradnute diela milionov autorov a pod. ked aaron swartz (nie tak davno) spristupnil 2,7 mil. sudnych dokumentov verejnosti a zatkla ho FBI, po com spachal samovrazdu. sudne, verejne dokumenty (!).

META dnes len tak torrentuje 81 terrabajtov dat a vsetko OK.

00000101000635400851440809304537093045820930458809304605093046190930463009304635093046580930474309304748093047510930475309304755093047630930479709304812

to je ale transparentnost vstupnych dat :) a co s nimi robia..

lebo vsak samotne GPT si mozes natrenovat aj sam, lebo zdrojaky ma Karpathy na githube volne pohodene... (teda, cisty "core" na trening a sampling)

0000010100063540085144080930453709304582093045880930460509304619093046300930463509304658093047430930474809304751093047530930475509304763093047970930481209304814

ano, transparentnost vstupov (ako boli ziskane, specificky ak su copyrightovane, boli uhradene licencie, zaplatene autorom?) + vystupov (ako a preco model vygeneruje to, co generuje)

0000010100063540085144080930453709304582093045880930460509304619093046300930463509304658093047430930474809304751093047530930475509304761

to ano