Re[5]: 05.12.2025-19:47:07 :: Something smarter than us is going to emerge


node:	Re[5]: 05.12.2025-19:47:07
template:	4
parent:	Re[4]: 05.12.2025-19:47:07
owner:	niekt0
viewed by:
created:	06.12.2025 - 12:07:11

cwbe coordinatez:
866
1551575
63562
64679
9280222
9280236
9280247
9280250
9280259
9280267

ABSOLUT
KYBERIA

permissions
you:	r,
system:	public
net:	yes

Urcite nie sucasne modely, to moze dopadnut (a obcas bohuzial aj dopadne, viz reportovane pripady) fatalne. Afaik sa pracuje na spiecialne upravenych/vytvorenych modeloch na terapiu.

Taky lahky popularizacny pokec (aj) k tomu davala napriklad nedavno janka michailidu:
?

0000086601551575000635620006467909280222092802360928024709280250092802590928026709280292

ale ľudia páchajú samovraždy aj keď chodia k ľudským psychoterapeutom alebo priamo počas pobytu v nemocnici na psychiatrii. Prešovský psychoterapeut ťa doženie k samovražde určite skôr ako chatgpt.

000008660155157500063562000646790928022209280236092802470928025009280259092802670928029209284091

ad nasa davnejsia diskusia:
https://www.hbsslaw.com/cases/openai-chatgpt-wrongful-death-claim

strana 4:

00000866015515750006356200064679092802220928023609280247092802500928025909280267092802920928409109284303

Len toto nie je argument proti AI terapii.

Keď máš potenciálne nebezpečného psychotického človeka, tak on nepotrebuje teraz psychoterapiu ale akútnu nedobrovoľnú hospitalizáciu.

Taký človek môže použiť hocičo na prehĺbenie psychózy. Jeden týpek si prečítal 'The Catcher in the Rye' a potom išiel zabiť Johna Lenona. Teraz sa budeme báť kníh, lebo psychotickí ľudia, čo nevedia rozlíšiť realitu v nich môžu vidieť čokoľvek. Takéto odpovede ako AI, ti dá ako 'dobré' rady aj kopec ľudí na Twitteri, discorde, čo milujú násilie a zlobu.

Psychoterapia predokladá, že človek nie je psychotický, resp. že vie rozlíšiť halucinácie od reality. A vie aj, že AI nie je 100%-tný nástroj.

Ale ja som nikdy netvrdil že chatGPT je dobrý psychoterapeut, ja si myslím že je pomerne zlý psychoterapeut.

Ale hovorím že najpríšernejší psychoterapeut je psychoterapeut, a ešte špeciálne psychoterapeut Prešovského typu.

0000086601551575000635620006467909280222092802360928024709280250092802590928026709280292092840910928430309284321

Ja ani neargumentujem proti AI terapii, ja argumentujem proti pouzitiu v sucasnosti dostupnych nastrojov (a este k tomu svojpomocnemu, bez dohladu).

000008660155157500063562000646790928022209280236092802470928025009280259092802670928029209284091092843030928432109284331

Ja som to zas myslel vseobecne. Ze tu manipulaciu alebo zrkadlenie patologickych veci, mozes spustit aj bez zameru mat terapiu. A ze ta moze AI na nieco nepekne naviest.

0000086601551575000635620006467909280222092802360928024709280250092802590928026709280292092840910928430309284306

Len to je americka mentalita. Tam je komedia typu:

- kolega Svajciar co predtym robil v US vlastnenom korporate hovoril, ze tam normalne mali v urcitych intervaloch skolenia ako chodit po schodoch, a na kazdom poschodi kresleny navod ako chodit po schodoch

- upozornenia typu "nezastavujte motorovu pilu genitaliami"

- pozor kava v kelimku je horuca (aj ked som sa nad tym udrbaval a mal som par dni popaleny jazyk z toh)

Ked cloveka v USA neupozornis ze nema nieco robit, alebo mu v tom nezabranis, a ublizi si, tak za to firma plati. A ano, urcite aj za vrazdu Lenona niekto zaloval J.D. Salingera. A proste ked par ludom povie AI "skoc z okna", "postrielaj ludi", alebo nieco take tak tu AI v mnohych oblastiach ohlupia.

Jedina oblast ktorej sa to zazracne netyka su strelne zbrane.

000008660155157500063562000646790928022209280236092802470928025009280259092802670928029209284091092843030928430609284307

Často počúvam od ľudí typu Ricky Gervais alebo Jimmy Carr, že najlepšie riešenie by bolo odstrániť všetky tieto upozornenia, že ako fungujú schody, motorová píla a podobne a tak postupne vymizne táto problematická časť populácie. Pri AI by ale bolo treba nastaviť, nech nikdy neodporúča strieľať ľudí ale nech zakaždým odporúča vyskočiť z okna. Alebo ak to je technicky nerealizovateľné, tak by sme mali každú AI foolproofnuť tak, že by sme ju mali držať v karanténe za schodmi, pri ktorých nebude nálepka s návodom ako sa používajú.

000008660155157500063562000646790928022209280236092802470928025009280259092802670928029209280382

Pachaju, ale aby si vedel co je skutocne pravda (ako casto), tak prave potrebujes statisticke data. Bez toho z osobnych zazitkov pravda moc extrahovat nejde, velmi lahko dojdes k nepravdivym zaverom. To je ta niekedy az neprijemne tenka hranica mezi vedou a sarlatanstvom.

00000866015515750006356200064679092802220928023609280247092802500928025909280267092802920928038209280400

ani o jednom ani o druhom nemáme dáta.
Psychológia a špeciálne psychoterapia je od vzniku stále na tenkom ľade medzi vedou a šarlatánstvom. Vzhľadom na povahu veci a nemožnosť izolovať premenné, nie je možné poriadne skúmať veci.
https://en.wikipedia.org/wiki/Replication_crisis#In_psychology

0000086601551575000635620006467909280222092802360928024709280250092802590928026709280292092803820928040009280472

Ano, je to tazke, ale prave preto je dolezite, inak ti prezivaju rozne povery.

Inak s tymi datami to uz nie je pravda, "vdaka" masivnemu sledovaniu na internete je "tvrdych" dat o ludoch k dispozicii strasne moc, a pravdepodobne to zasadne zmeni psychologiu ako ju pozname. Problemom je, ze tie data nie su dostupne pre vyzkum, ale kontrolovane rozne korporaciami, ktore ich pouzivaju pre svoje... "ucely".

0000086601551575000635620006467909280222092802360928024709280250092802590928026709280273

Pred par mesiacmi som sa ucastnil jednoho symposia o AI assisted psychotherapy, nahlady ktore som tam nadobudol povazujem za cennejsie ako videa z youtube.

Proste ked clovek ktory ma dlhodobo pocit ze mu klasicka terapia nepomohla zato s AI sa mu jeho stav zlepsuje tak to treba respektovat a brat vazne. Samozrejme, je dobre byt si vedomy aj vsetkych rizik s tym spojenych.

000008660155157500063562000646790928022209280236092802470928025009280259092802670928027309280278

Ale my sa nebavime o tom, ci sa AI ako technologia moze pomoct (imo moze, ked sa to dobre/sikovne spravi), ale o tom ci SUCASNE modely su na nieco take vhodne. A tie podla mna fakt nie su, uz len pre tie smrtaky ktore to prinasa. Proste tie modely su nastavene tak, aby servilne suhlasili. V tomto pripade, ked uznaju ze to je to co uzivatel hlada, tak mu aj pomohli s sebevrazdou, pripadne ho utvrdili v jeho rozhodnuti, dodali arguemnty za, atd. To fakt nie je dobry setup. A mame na to bohuzial uz dokladovane smrtaky, a nie uplne malo.

O tom co to skutocne robi mozeme hovorit iba cez statistiku, anekdotal evidence na toto proste nefunguje, rovnako ako je blbost brat vazne ludi co sa z rakoviny vyliecili samodomo pomocou xyz. Moze sa to stat (aj tie dovody preco sa to stalo mozu byt v skutocnosti rozne, korelacia != kauzalita), ale skutocne to neznamena ze jedzte xyz bude ludom na rakovinu skutocne pomahat. Velmi pravdepodobne bohuzial naopak.

(Inak to "video z youtube" je s poradkynou vlady CR pre zavislosti, mozem ta ubezpecit ze zrovna ta je na roznych podobnych mecheche tak co 2 tyzdne, ak nie castejsie)

00000866015515750006356200064679092802220928023609280247092802500928025909280267092802730928027809280284

Techniku co AI zvlada je zrkadlenie. Problem je ze ci, ked sa jej vykecas z dakej uzkosti alebo inej poruchy ci zrkadli spravnu vec. A ci je na to zrkadlenie spravnej veci pripraveny.

Pani Zelmira ma uzkost. Ja neviem chcela by sadit kvety ale nema energiu. Chce sa tiez obesit. AI moze:

- donutit pani Zelmiru sadit kvety, zisti ze jej to celkom ide a ma dobry pocit, nabuduce sa AI opyta ako upiect chrumkave keksy

- donutit pani Zelmiru sadit kvetu, a skonci to katastrofou - raselina po celom byte, pani Krupickova z tretieho jej dojde vynadat co je za pica, ze pri upevnovani kvetinaca na balkon ju jeden ledva minul ked niesla nakup, ze tie kvety su krivo, a naliala do nej hektolitre vody a ze to znici fasadu a ma pokvapkane zabradlie na balkone z japonskej ceresne, ze ked je niekto blazniva pica ma ist do blazinca a nie ohrozovat ludi.

- AI sa chyti toho ze sa pani Zelmira chce obesit, posle ju po lano co maju vedla v lidli v akcii knihy "Historia trestu smrti" a "SAS prirucka viazania uzlov" a poradi jej ze sa ma vesat podla Pierrepointovej tabulky na strane tridsatsedem prvej knihy a uzol najde na strane 62 druhej knihy. Ked sa Zelmira rozplace ze uzol je nad jej sily a na ten oschnuty strom pred domom nevylezie, plus nebude visiet klebetnej ludre Krupickovej rovno pred oblokom, tak jej AI odpovie ze preco nie ze aspon by Krupickova dostala infarkt, ale ze ked je taky babrak, tak ma v zalohe tabulku najnehodovejsich zeleznicnych usekov v Bratislave, a prave dotahuje grafikon a pocita kedy bude rychlik v zakrute na Galvaniho.