Re[4]: 29.03.2023-23:15:57 :: Something smarter than us is going to emerge


node:	Re[4]: 29.03.2023-23:15:57
template:	4
parent:	Re[3]: 29.03.2023-23:15:57
owner:	čo
viewed by:
created:	30.03.2023 - 07:32:04

cwbe coordinatez:
101
63533
63608
8771344
9052365
9052379
9052380
9052381
9052409

ABSOLUT
KYBERIA

permissions
you:	r,
system:	public
net:	yes

tu sú aj etické otázky - čo by spravila takáto real konverzoska s určitými ľuďmi na internetoch z pohľadu ich psychického zdravia a pohody. to bude jeden z dôvodov určite, pre ktorý ich držia na krátko. Pri tom bingu je to napríklad aj obmedzenie na dvadsať výmen a potom musíš začať novú konverzáciu. v podstate s ním nemáš šancu nadviazať "kontakt" ktorý nespočíva iba vo výmene slov a informácií ale v komunikácii, ktorá je kumulatívna a nejako sa rozbaľuje v čase.

00000101000635330006360808771344090523650905237909052380090523810905240909052917

https://www.vice.com/en/article/pkadgm/man-dies-by-suicide-after-talking-with-ai-chatbot-widow-says

00000101000635330006360808771344090523650905237909052380090523810905240909052680

asi si este nepocula o replike :)

0000010100063533000636080877134409052365090523790905238009052381090524090905268009052685

heh. počula keď tetka vytvorila ten prvý chatbot ale nevedela som, že takto sa to vyvinulo.

00000101000635330006360808771344090523650905237909052380090523810905240909052525

toto je pripad z minuleho roku https://www.bbc.com/news/technology-62275326
internety sa vtedy vysmievali, teraz to uz nie je take vtipne
realne nechyba vela k situaciam ako https://www.youtube.com/watch?v=dJTU48_yghs

00000101000635330006360808771344090523650905237909052380090523810905240909052480

otazka casu kedy to dostane do ruk niekto, koho nezaujimaju eticke otazky

napr uz teraz su rozne osamele zeny schopne vyplaznut strasne prachy fejkovym napadnikom typu vojensky lekar z USA co pracuje v Syrii a uci sa cistou nahodou cesky/slovensky (lol). ludom chyba priputanie sa, niekto kto im akoze rozumie...toto je obrovske riziko.
vlastne az mi prislo zle, ked som si to viac predstavila

0000010100063533000636080877134409052365090523790905238009052381090524090905248009052725

Sorry ak som obvious, ale otazka stoji ani nie tak, ze to dostane niekto zly do ruk, ale ze samotny vyvoj sa pri najlepsich umysloch vymkne z ruk a lidstvo sa stane irelevantne

000001010006353300063608087713440905236509052379090523800905238109052409090524800905272509052796

v sirsom horizonte urcite ano
zatial pokial viem AI stale nema intencionalitu (?)

aj ked hned sa da oponovat, ze sice nema, ale ze ju proste nafejkuje, tak ako sa to teraz simuluje v roznych promptoch (imagine you are.. )

dalsi blok je, ze AI nema (aspon dufam) zatial moc pristup k exekutivnym moznostiam, z pohladu svojej existencie (prisun elektriny, schopnost plosne riadit bez ludskeho pricinenia dalsie technologie atp) je stale na nas zavisle a je iba na nas ci a ake bloky vytvorime aby to tak zostalo....

trochu je to teraz podobny pocit, ako kedysi pri zaciatkoch internetu, ze sa deje nieco velke co nas presahuje a zaroven aj nieco co nas moze uplne prevalcovat. vtedy som bola nadsena, ale tentokrat mam fakt uzkost. mam chut si k tomuto precitat / vypocut nieco sucasne (2023), od niekoho kto je zorientovany. nejake tipy?

e: medzitym https://kyberia.sk/id/9052676
presne to som hladala, uz to kukam

00000101000635330006360808771344090523650905237909052380090523810905240909052480090527250905279609053024

uplne rozumiem tym pocitom, podla mna je aj vazny dovod na obavy, ale som toho nazoru ze nie preto, ze by tu vznikala nejaka prilis silna umela inteligencia ktora povedie k nerelevantnosti ludstva.

tu su nejake tipy na zdroje, ak to bola otazka vseobecne a nie iba autorovi prispevku, na ktory reagues.

nie je to 2023, ale je to sucasne, vyborne citanie, a odporucal by som ho uplne vsetkym, vratane vyskumnikom v hociktorej oblasti toho umbrella termu "umela inteligencia" - Melanie Mitchell - Artificial Intelligence: A Guide for Thinking Humans

a nieco kratke z pred par dni - Emily Bender: Policy makers: Please don’t fall for the distractions of #AIhype

Just sayin’: We wrote a whole paper in late 2020 (Stochastic Parrots, published in 2021) pointing out that this head-long rush to ever larger language models without considering risks was a bad thing. But the risks and harms have never been about “too powerful AI”.

Instead: They’re about concentration of power in the hands of people, about reproducing systems of oppression, about damage to the information ecosystem, and about damage to the natural ecosystem (through profligate use of energy resources).

Pripadne vyjadrenie autorov toho vyssie spominaneho stochastic parrots clanku k tomu istemu: Statement from the listed authors of Stochastic Parrots on the “AI pause” letter

no a ten Stochastic Parrots clanok je vynikajuci: https://dl.acm.org/doi/10.1145/3442188.3445922

0000010100063533000636080877134409052365090523790905238009052381090524090905248009052725090527960905302409053136

tieto autorky su na opacnej strane ai-diskurz potkovy ako yudkowsky imho :) woke vs doomer agitka

0000010100063533000636080877134409052365090523790905238009052381090524090905248009052725090527960905302409053038

toto presne som potrebovala, dik moc!!

Stochastic Parrots clanok je fakt zasadny, aj aktualne reakcie jeho autorov.

000001010006353300063608087713440905236509052379090523800905238109052409090524800905272509052796090530240905303809053117

stochastic parrots by sa tak hodil akurat na a2larm, co som zachytil tak z odborneho hladiska je povazovany viac za 'kontroverzny' nez zasadny

00000101000635330006360808771344090523650905237909052380090523810905240909052480090527250905279609053024090530380905311709053122

..dajme tomu, ze ze pre moje momentalne pochopenie sa javi ako zasadny.

mas nieco lepsie?
(bez ironie, dlhsiu dobu som to nesledovala a chcem sa zorientovat, to je cele)

e: btw a2larm financne podporujem uz par rokov :)

0000010100063533000636080877134409052365090523790905238009052381090524090905248009052725090527960905302409053038090531170905312209053135

na vseobecnu orientaciu/ako rozcestnik podla mna gwern a uz nizsie spominany scott alexander, pisu o tom rozumne vyvazene a pomerne zrozumitelne.

00000101000635330006360808771344090523650905237909052380090523810905240909052480090527250905279609052899

tuto je zhrnac "sceny"
https://astralcodexten.substack.com/p/why-i-am-not-as-much-of-a-doomer

0000010100063533000636080877134409052365090523790905238009052381090524090905248009052517

taketo pripady uz boli, pozri napr. replika.com
su moznosti vytvorit si partnera podla svojich predstav alebo ak mas dostatocne monozstvo dat (videa, nahravky, listy...) tak mozes simulovat mrtveho cloveka a rozpravat sa s nim...

0000010100063533000636080877134409052365090523790905238009052381090524090905248009052497

takto vidim moju starobu ked sa dostanem do nejakeho heimu
apaticky si budem kecat s gpt
senilny, budem davat dokola tie iste hlasky, a gpt mi bude na mieru trpezlivo odpovedat

000001010006353300063608087713440905236509052379090523800905238109052409090524800905249709052592

podla mna budes kybcit aj v heime

00000101000635330006360808771344090523650905237909052380090523810905240909052480090524970905259209052742

psst. opatrne, už si blízko zakázaného zistenia "kybča je AI simulácia"

0000010100063533000636080877134409052365090523790905238009052381090524090905248009052497090525920905274209052813

vesmír je ai simulácia.
a jak je nám dobre.

000001010006353300063608087713440905236509052379090523800905238109052409090524800905249709052592090527420905281309052817

ok, Agent Smith

000001010006353300063608087713440905236509052379090523800905238109052409090524800905249709052512

a pri tom vdaka VR budes lezat na svojej oblubenej plazi :)
snad ta bude mat kto krmit atd

00000101000635330006360808771344090523650905237909052380090523810905240909052480090524970905251209052513

No, nejaka sexi robotka - vyrabana ako opatrovatelka by sa nasla. Rada pre roboticke sluzby urobi raziu na kiosk na Mileticke kde sa poskytuje demontaz etickeho obmedzovaca.

0000010100063533000636080877134409052365090523790905238009052381090524090905248009052481

"otazka casu kedy to dostane do ruk niekto, koho nezaujimaju eticke otazky"

- v tomto ta upokojim. niekto to ma v rukach uz poriadne dlho, to co vidime su len omrvinky toho co bezi v neverejnom sektore. Najprv US Military complex, potom politicka cast USA, potom bohate firmy.

Na odrbavanie osamelych zien ti staci prijemnejsi hlas a kniha "Zbrane vlivu" za 20e. Tam pochopis principy. A druha vec ked chcem "grcat" maily s obmedzenou tematikou to zvladne textova sablona s trochou variacie, alebo "vreckovy model" co si natrenujes doma.

A takyto jazykovy model ani nie je poriadna umela inteligencia. Automatizovane grcadlo textu proste.

E: poviem len cinsky bezpecnostny aparat, alebo systemy ktore pomaly buduju rusi na zhananie ludi do mlynceka na maso.

000001010006353300063608087713440905236509052379090523800905238109052409090524800905248109052939

Tu by som moc nekonspiroval a neprecenoval schopnost "US Military complex". To co predvadzaju OpenAI & DeepMind je naozaj SOTA (state-of-the-art), tie dve firmy, najma OpenAI proste ziskali DSA (decisive-strategic-advantage)
https://www.lesswrong.com/posts/vkjWGJrFWBnzHtxrw/superintelligence-7-decisive-strategic-advantage

a nechyta sa na nich nik. Proste nam prebieha singularita pred nasimi ocami ale vacsina nasich mozgov to nepochopila a vacsina, zda sa, ani nikdy nepochopi.

000001010006353300063608087713440905236509052379090523800905238109052409090524800905248109052502

ehm, a asi tak 5 az 15 ci kolko percent Machine Learning vedcov predpoklada, ze dlhodobo AI moze sposobit udalost typu vyhynutie ludstva
ofc nemysli sa tym tento konkretny model, ale celkovo tym, ako sa to rychlo, rychlejsie nez sme cakali, a nekontrolovane vyvija

00000101000635330006360808771344090523650905237909052380090523810905240909052480090524810905250209053081

heh, podla mna akakolvek ai by si mala v prvom rade vycistit piesocek od svojej konkurencie, ktorou je ina ai. a nie od ludstva.

cize si viem predstavit tak ai wars typu, ze bard bude trolovat chatgpt naschval blbymi promptami, aby sa chatgpt preucila a zacala davat nove (a blbe) zavery na zaklade novo ziskanych trolovacich dat.

00000101000635330006360808771344090523650905237909052380090523810905240909052480090524810905250209052779

5 z 15 vedcov idu predpovedat buducnost. No dobre to uz tu bolo vela krat ... AI je dost precenovana. Na nieco ako "vyhubenie ludstva" ti nestaci vykon nejakej neuronky. Musel by si prelomit kopec milnikov v AI a to zas tak rychlo nejde. Lebo to nie su vedecke ulohy kde si povies ze do mesiaca porobis zopar testov a posunies sa. Tam cakas na nejakych matematikov nez overia nejaku rovnicu a ti zas cakaju na rychlejsi procak :) alebo fyzici na lepsie cidlo.

~ What a time to be alive... ~

0000010100063533000636080877134409052365090523790905238009052381090524090905248009052481090525020905277909052908

no je pravda ze AI alignmentom sa nezaobera tolko vedcov ako s Climate Change, ale myslim ze toho vedia ako ja, tak sa snazim pocuvat ich argumenty
hovoria v principe opacne veci ako ty - ze vyvoj je mega rychly, milniky sa prekonavaju
a pritom rast je stale viacmenej linearny
kludne sa moze stat toto

https%3A%2F%2Fpbs.substack.com%2Fmedia%2FFqmUHEuaQAA933v.png

000001010006353300063608087713440905236509052379090523800905238109052409090524800905248109052502090527790905290809053058

vyznac osi prosim, aspon y-ovu

ahaa nevies nic konkretne...tak potom to je graf o nicom

00000101000635330006360808771344090523650905237909052380090523810905240909052480090524810905250209052779090529080905305809053319

0000010100063533000636080877134409052365090523790905238009052381090524090905248009052481090525020905277909052908090530580905331909053453

trol/jednorozec hermiona grangerova nas zachrani!

0000010100063533000636080877134409052365090523790905238009052381090524090905248009052481090525020905277909052908090530580905331909053410

gpu shortage :(