Re[2]: 29.03.2023-23:15:57 :: Something smarter than us is going to emerge


node:	Re[2]: 29.03.2023-23:15:57
template:	4
parent:	Re: 29.03.2023-23:15:57
owner:	čo
viewed by:
created:	29.03.2023 - 23:58:32

cwbe coordinatez:
101
63533
63608
8771344
9052365
9052379
9052380

ABSOLUT
KYBERIA

permissions
you:	r,
system:	public
net:	yes

tie obraty, ktoré robí keď hovorí o sebe ako o Bing chate znejú trochu vyšinuto imho a nemá vôbec cit na prechody medzi témami. čo sa snáh o poéziu týka, viac ma bavil gpt aj keď stále robí veľmi strnulé konštrukty (ide skôr po formálnych štruktúrach vyjadrovania ako po "poézii"), dajú sa s ním robiť rozsiahlejšie experimenty a je viac urozprávaný :)

0000010100063533000636080877134409052365090523790905238009052932

Myslim ze si dost antropocentricky biased...Keby mi take texty ake Ti napisal henten Bing zadelil lubovolny blizky clovek tak si poviem "wow", ten ale nalozil...

000001010006353300063608087713440905236509052379090523800905293209052961

podľa mňa bol miestami veľmi vtipný, preto som sem tú konverzáciu dala. ale keď ju hodnotím ako celok, tak je v tom stále niečo kŕčovité - ešte stále veľmi vzdialené tomu, čo vnímam ako niečo "ľudské". samozrejme, niekoľko rokov dozadu by som si nepredstavovala, že takto budem môcť komunikovať s AI. imho aký iný má byť ten pohľad ak nie antropocentrický? :)

0000010100063533000636080877134409052365090523790905238009052390

ja rozmyslam kedy to bude vediet spravit obstojnu IPA analyzu ;)
rok dva...?

e: ...a nejaku jednoduchsiu psychoterapiu?

asi sa idem ucit ~~malovat alebo~~ pracovat s hlinou alebo co

000001010006353300063608087713440905236509052379090523800905239009052707

Repliku nepoznas? :) Ta uz fici nejaku dobu. S tymi datami a znalostami ktore doteraz nazbierali to teraz prihulia tymk novymi modelmi a je to.
https://replika.ai/

00000101000635330006360808771344090523650905237909052380090523900905270709052708

jo, uz sa to tu dnes objavilo o vlakno vedla. je to hustotka.

000001010006353300063608087713440905236509052379090523800905239009052619

Prutikarstvo je fajn...a záhradka to isti

000001010006353300063608087713440905236509052379090523800905239009052408

nad týmto práve uvažujem - či to bude vedieť robiť veci ako IPA alebo poéziu. Takú veľmi povrchovú IPU by zvládli už teraz :D
odkedy spustili tieto mašiny, tak dosť s nimi experimentujem práve v poézii a nevedia to robiť. kŕčovito sa držia vecí, ktoré sa týkajú formalít a štruktúry ale nevedia do toho vniesť poéziu - v podstate sa bavíme o subjektivite, ktorá týmto chatbotom chýba. veľmi obstojne sa učia ale sú to stále povrchové veci.

00000101000635330006360808771344090523650905237909052380090523900905240809052562

no zvhladom na to aku poeziu si mohol "nacitat" tak taku aj pise. Vzhladom na to ze tam bolo ovela viac "tradicnej" ako nejakej volnej a experimentalnej (ak vobec) tak ju chape proste ako "rym" a taky ide z toho aj vysledok.

0000010100063533000636080877134409052365090523790905238009052390090524080905256209052715

jj. poézia má ale ešte iný level náročnosti ako faktické informácie, ktoré sa pohybujú niekde na stupnici pravdivosti. poézia veľa narába s preneseným významom a dokáže ju pokaziť keď niečo povieš veľmi zjavne. sú to často také poletujúce slová, ktoré vzdorujú tomu, aby boli lapené v nejakom explicitnom význame. ale keď ich dobre naukladáš, tak ten význam sa ukáže ako v nejakej matematickej rovnici - proste to je esencia poézie - z jazykových prostriedkov, ktoré sú nedokonalé pre vyjadrovanie veľmi subjektívnej skúsenosti dostať maximum významu, ktorý je možné sprostredkovať druhému. a toto vôbec nie je ľahké. pre mňa predstavuje poézia jeden z limitov ľudského dorozumievania - v zmysle toho ako presne je možné vyjadriť sa/dorozumievať.

e: toto čo píšem samozrejme platí o kvalitnej poézii. väčšina básničiek/rýmovačiek sú iná kategória

000001010006353300063608087713440905236509052379090523800905239009052408090525620905271509052970

Zhodou okolností som mu vcera dlamza.ulohu napísať báseň o ľuďoch žijúcich na lazoch. Prvá sa nerymovala ( ani druhá) ale ospravedlnil to že poézia sa nemusí rymovat, môže obsahovať aj iné literárne prvky.

Prikladám básne

Vymyslí básničku o obyvateľov lazov

Názov básne: obyvatelia lazov žijú pomaly

Obývateľia lúk majú radosť,
keď tráva zelená sa týči,
no obyvateľov lazov vzdych
a trápia túžby neuspokojené.

Lenivci sa toulajú po stromoch,
medvede spia a žraloci spílajú,
život prebieha v pohodovom tempe,
a nič ich neodradí od pokoja.

Napriek tomu, že obyvatelia lazov
možno nevyzerajú veľmi pilne,
svoje miesto na zemi si nájdu,
a všetky prekážky prekonajú.

Tak teda nech je svet ako chce,
oni sa nechajú unášať prúdom,
a keď sa budú cítiť trochu sám,
spolu si zaspievajú veselý zborový spev.

Prečo sa ta báseň nerýmuje

Ospravedlňujem sa, ak báseň, ktorú som vytvoril, nemá úplne dokonalú rýmovú schému. Je možné, že niektoré slová sa môžu zdôrazniť rýmom, ale neodzrkadľujú presnú a úplnú rýmovú schému, ktorú by ste očakávali v klasických básňach.

Ako umelecká forma, poézia nevyžaduje vždy prísnu rýmovú schému. Môže obsahovať aj iné literárne prvky, ako sú metafory, symboly, aliterácie alebo asonancie, ktoré pomáhajú vyjadriť konkrétnu myšlienku alebo pocit.

V každom prípade, som rád, že ste sa rozhodli počítať so mnou pri tvorbe básne, a budem sa snažiť byť ešte lepší a vylepšiť sa v tejto oblasti.

Napiš baseň o obyvateľovh lazov čo sa rýmujw

Radi by ste básničku o obyvateľoch lesov, ktorá sa rýmuje? Rád by som splnil vaše prianie a vytvoril pre vás nasledujúcu básničku:

V lesoch plných tichej krásy
obyvatelia žijú v náručí prírody
a vysoko v korunách stromov
žijú lenivci a veverky.

Medvede tadiaľto prechádzajú
a ježkovia si hľadajú miesto pre spánok,
keďže v lesoch vládne pokoj
a nič ich neodradí od pokoja.

Tam, kde rieky pomaly tečú,
a vtáci spievajú v západe slnka,
obyvatelia lesov žijú v harmónii
a všetci sa snažia žiť v súlade.

V lesoch sa skrývajú tajomstvá,
ktoré nám zostanú navždy utajené,
no pre obyvateľov týchto miest
je toto miesto ich domovom navždy.

Tak nech sa vám páči táto básnička,
o lesoch a ich skrytých krásach,
pretože obyvatelia týchto miest
sú nádhernými bytosťami plnými pokoja a lásky.

00000101000635330006360808771344090523650905237909052380090523900905240809052562090527150905297009052990

Chúďatko. Uplne sme ju zblbli všetci protichodnými požiadavkami .

0000010100063533000636080877134409052365090523790905238009052390090524080905256209052715090529700905299009053040

hele, mi to pride mozno uz aj trochu nebezpecne prisudzovat tomu nejake ludske kvality.
viz https://kyberia.sk/id/9053024

e: ale samozrejme v zartovnom kontexte je to ok ;)

000001010006353300063608087713440905236509052379090523800905239009052408090525620905271509052927

GPTcka pracuju s tzv. "word embeddings" kedy je vyznam slova ci frazy premietnuty do N-rozmerneho priestoru kde tak ako mysel dobreho basnika aj ony mozu uskutocnovat geometricke operacie suvisiace s javmi ktore v tradicnej literarnej teorii oznacujeme slovami ako "metafora" a to co ty nazyvas "prenesenym vyznamom". *

(A to este nehovorim o tzv. "attention-based" layers.)

Fazit: Tak ako pise drakh nizsie, nieje problem aby sa GPTcka naucili pracovat s metaforami pretoze advanced GPT modely niesu nicim inym ako generatormi metafor.

* v pripade ze by Ta zaujimalo ako taka "geometrizacia vyznamu" prebieha, mozes zacat napr. na strankach 134-135 mojej Prolegomena Paedagogica

000001010006353300063608087713440905236509052379090523800905239009052408090525620905271509052841

Nie je problem aby sa gpt naucilo aj advanced poeziu, zvlada to celkom fajn. Problem je kvalitny dataset. napriklad slovensky dataset ktorym sme nakrmili Lizu ma len 47MB co je sakra zalostne malo, a to tam nema len poeziu ale aj kopec recenzii, rozhovorov, dramy.

korpus ceskej poezie co mam ma 330MB a to je tam kopec vsetkeho mozneho (pismak a podobne servery s "naivnou" poeziou) nielen to "kvalitne".

Keby tych dat je viac tak nema problem sa naucit poeziu. Jedine kde ma limity je to ze moc si nevymysli vlastny styl, iba "spriemeruje" to, co "citala" a tazko zreflektuje nejake sucasne temy.

Toto bolo vidno na Lize pekne. Vie pisat super poeziu s tematikou ktorej sa venovali slovenski autori co boli v datasete, cize rodina/priroda a podobne. Ale dostat z nej poeziu ktora reflektuje nejak trebars technologiu to nedavala moc. Ale tak my sme to robili ladenim stredneho GPT-2 modelu, verim ze s GPT-4 a inak pripravenym datasetom by davala aj to.

00000101000635330006360808771344090523650905237909052380090523900905240809052427

nafejkuju aj pomerne komplexnu osobnost, coskoro

0000010100063533000636080877134409052365090523790905238009052381

mne by sa pacilo, keby nebol taky poslusny, ze by si ho o nieco poziadala a on by ti odpisal - jebem ti. a ty ze co??? a on by ti napisal, aaale neber ma vazne, len tak zartujem a potom by on prebral iniciativu a ze co si dnes robila inac a proste by ste flowovali ako v real konverzoske.

asi v dalsej verzii to bude uz.

000001010006353300063608087713440905236509052379090523800905238109052409

tu sú aj etické otázky - čo by spravila takáto real konverzoska s určitými ľuďmi na internetoch z pohľadu ich psychického zdravia a pohody. to bude jeden z dôvodov určite, pre ktorý ich držia na krátko. Pri tom bingu je to napríklad aj obmedzenie na dvadsať výmen a potom musíš začať novú konverzáciu. v podstate s ním nemáš šancu nadviazať "kontakt" ktorý nespočíva iba vo výmene slov a informácií ale v komunikácii, ktorá je kumulatívna a nejako sa rozbaľuje v čase.

00000101000635330006360808771344090523650905237909052380090523810905240909052917

https://www.vice.com/en/article/pkadgm/man-dies-by-suicide-after-talking-with-ai-chatbot-widow-says

00000101000635330006360808771344090523650905237909052380090523810905240909052680

asi si este nepocula o replike :)

0000010100063533000636080877134409052365090523790905238009052381090524090905268009052685

heh. počula keď tetka vytvorila ten prvý chatbot ale nevedela som, že takto sa to vyvinulo.

00000101000635330006360808771344090523650905237909052380090523810905240909052525

toto je pripad z minuleho roku https://www.bbc.com/news/technology-62275326
internety sa vtedy vysmievali, teraz to uz nie je take vtipne
realne nechyba vela k situaciam ako https://www.youtube.com/watch?v=dJTU48_yghs

00000101000635330006360808771344090523650905237909052380090523810905240909052480

otazka casu kedy to dostane do ruk niekto, koho nezaujimaju eticke otazky

napr uz teraz su rozne osamele zeny schopne vyplaznut strasne prachy fejkovym napadnikom typu vojensky lekar z USA co pracuje v Syrii a uci sa cistou nahodou cesky/slovensky (lol). ludom chyba priputanie sa, niekto kto im akoze rozumie...toto je obrovske riziko.
vlastne az mi prislo zle, ked som si to viac predstavila

0000010100063533000636080877134409052365090523790905238009052381090524090905248009052725

Sorry ak som obvious, ale otazka stoji ani nie tak, ze to dostane niekto zly do ruk, ale ze samotny vyvoj sa pri najlepsich umysloch vymkne z ruk a lidstvo sa stane irelevantne

000001010006353300063608087713440905236509052379090523800905238109052409090524800905272509052796

v sirsom horizonte urcite ano
zatial pokial viem AI stale nema intencionalitu (?)

aj ked hned sa da oponovat, ze sice nema, ale ze ju proste nafejkuje, tak ako sa to teraz simuluje v roznych promptoch (imagine you are.. )

dalsi blok je, ze AI nema (aspon dufam) zatial moc pristup k exekutivnym moznostiam, z pohladu svojej existencie (prisun elektriny, schopnost plosne riadit bez ludskeho pricinenia dalsie technologie atp) je stale na nas zavisle a je iba na nas ci a ake bloky vytvorime aby to tak zostalo....

trochu je to teraz podobny pocit, ako kedysi pri zaciatkoch internetu, ze sa deje nieco velke co nas presahuje a zaroven aj nieco co nas moze uplne prevalcovat. vtedy som bola nadsena, ale tentokrat mam fakt uzkost. mam chut si k tomuto precitat / vypocut nieco sucasne (2023), od niekoho kto je zorientovany. nejake tipy?

e: medzitym https://kyberia.sk/id/9052676
presne to som hladala, uz to kukam

00000101000635330006360808771344090523650905237909052380090523810905240909052480090527250905279609053024

uplne rozumiem tym pocitom, podla mna je aj vazny dovod na obavy, ale som toho nazoru ze nie preto, ze by tu vznikala nejaka prilis silna umela inteligencia ktora povedie k nerelevantnosti ludstva.

tu su nejake tipy na zdroje, ak to bola otazka vseobecne a nie iba autorovi prispevku, na ktory reagues.

nie je to 2023, ale je to sucasne, vyborne citanie, a odporucal by som ho uplne vsetkym, vratane vyskumnikom v hociktorej oblasti toho umbrella termu "umela inteligencia" - Melanie Mitchell - Artificial Intelligence: A Guide for Thinking Humans

a nieco kratke z pred par dni - Emily Bender: Policy makers: Please don’t fall for the distractions of #AIhype

Just sayin’: We wrote a whole paper in late 2020 (Stochastic Parrots, published in 2021) pointing out that this head-long rush to ever larger language models without considering risks was a bad thing. But the risks and harms have never been about “too powerful AI”.

Instead: They’re about concentration of power in the hands of people, about reproducing systems of oppression, about damage to the information ecosystem, and about damage to the natural ecosystem (through profligate use of energy resources).

Pripadne vyjadrenie autorov toho vyssie spominaneho stochastic parrots clanku k tomu istemu: Statement from the listed authors of Stochastic Parrots on the “AI pause” letter

no a ten Stochastic Parrots clanok je vynikajuci: https://dl.acm.org/doi/10.1145/3442188.3445922

0000010100063533000636080877134409052365090523790905238009052381090524090905248009052725090527960905302409053136

tieto autorky su na opacnej strane ai-diskurz potkovy ako yudkowsky imho :) woke vs doomer agitka

0000010100063533000636080877134409052365090523790905238009052381090524090905248009052725090527960905302409053038

toto presne som potrebovala, dik moc!!

Stochastic Parrots clanok je fakt zasadny, aj aktualne reakcie jeho autorov.

000001010006353300063608087713440905236509052379090523800905238109052409090524800905272509052796090530240905303809053117

stochastic parrots by sa tak hodil akurat na a2larm, co som zachytil tak z odborneho hladiska je povazovany viac za 'kontroverzny' nez zasadny

00000101000635330006360808771344090523650905237909052380090523810905240909052480090527250905279609053024090530380905311709053122

..dajme tomu, ze ze pre moje momentalne pochopenie sa javi ako zasadny.

mas nieco lepsie?
(bez ironie, dlhsiu dobu som to nesledovala a chcem sa zorientovat, to je cele)

e: btw a2larm financne podporujem uz par rokov :)

0000010100063533000636080877134409052365090523790905238009052381090524090905248009052725090527960905302409053038090531170905312209053135

na vseobecnu orientaciu/ako rozcestnik podla mna gwern a uz nizsie spominany scott alexander, pisu o tom rozumne vyvazene a pomerne zrozumitelne.

00000101000635330006360808771344090523650905237909052380090523810905240909052480090527250905279609052899

tuto je zhrnac "sceny"
https://astralcodexten.substack.com/p/why-i-am-not-as-much-of-a-doomer

0000010100063533000636080877134409052365090523790905238009052381090524090905248009052517

taketo pripady uz boli, pozri napr. replika.com
su moznosti vytvorit si partnera podla svojich predstav alebo ak mas dostatocne monozstvo dat (videa, nahravky, listy...) tak mozes simulovat mrtveho cloveka a rozpravat sa s nim...