04.12.2024-13:32:38 :: Something smarter than us is going to emerge


node:	04.12.2024-13:32:38
template:	4
parent:	DžePeTo aneb GPT-3, GPT-4 & GPT-5 node
owner:	kyberbubus
viewed by:
created:	04.12.2024 - 13:32:38

cwbe coordinatez:
101
63533
63608
8771344
9200517

ABSOLUT
KYBERIA

permissions
you:	r,
system:	public
net:	yes

tldr: chatgpt je ako zdroj informácií / náhrada search engines veľmi vysoko chybový a veľmi často poskytuje nesprávne informácie, avšak zároveň komunikuje veľmi sebaisto a podáva všetky svoje výmysly ako fakty - v podstate taký digitálny dunning-krueger

https://www.cjr.org/tow_center/how-chatgpt-misrepresents-publisher-content.php

×÷ßßß$ˇ~[☼◙ş→☻ü84ó♀ÇüŮń§►♫☺♀♂ć☺<\ˇ

000001010006353300063608087713440920051709200525

toto je v podstate podobna namietka ako voci 7 prstom z diffusion modelov. staci pockat rok. ale ani ked bude 100% presny sa nebude dat povazovat za zdroj.

00000101000635330006360808771344092005170920052509200539

to nie je podobná námietka - nepoznám nikoho, kto by zadával prompty do obrázkového diffusion modelu, aby sa tak dopátral k pravdivým informáciám
ľudia, ktorí reálne pracujú s textami tak, že si overujú zdroje, obvykle vedia, že žiaden zdroj nie je 100% presný anyway - toto sa asi bude týkať skôr bežných používateľov, ktorí tieto koncepty vôbec neovládajú

×÷ßßß$ˇ~[☼◙ş→☻ü84ó♀ÇüŮń§►♫☺♀♂ć☺<\ˇ

0000010100063533000636080877134409200517092005250920053909200554

je to podobne v tom, ze je to slaby a casovo obmedzeny protiargument. da sa ocakavat, ze sa jednak zlepsi presnost a po druhe sa prisposobi diskurz, ako napr ohladom doverihodnosti wikipedie pred 15-20 rokmi.

000001010006353300063608087713440920051709200525092005390920055409200557

odpoveď na issues s dôveryhodnosťou wikipédie je jednoduchá: úplne odignoruješ samotný wiki článok, a začneš sa prehrabávať iba zoznamom použitých zdrojov
tiež by som samozrejme rád mal technológiu, do ktorej, čojaviem, zadám nejaké kľúčové slová/frázy, a táto technológia mi vyhodí zoznam zdrojov relevantných k téme. kedysi som za týmito účelmi používal google, ale tá presnosť sa mu rok čo rok zhoršuje. napriek proklamovanému pokroku je proste čoraz ťažšie z internetu vyhrabať konkrétne informácie, ku ktorým sa snažím dostať, a zhoršuje sa to. takže nejaké prísľuby, že sa to v budúcnosti možno raz zlepší (a vlastne si to aj tak nutne nebudem vedieť podložiť zdrojmi), ma príliš neupokojujú.

×÷ßßß$ˇ~[☼◙ş→☻ü84ó♀ÇüŮń§►♫☺♀♂ć☺<ˇ

00000101000635330006360808771344092005170920052509200539092005540920055709200910

Skus pouzit na vyhladavanie duckduckgo.com

A co sa mi v poslednej dobe celkom osvedcilo pri praci (sw vyvoj) na ozdrojovany reaserch je perplexity.ai

0000010100063533000636080877134409200517092005250920053909200554092005570920091009200936

duckduckgo striedavo používam s googlom, prídu mi zhruba napodobne. ešte som skúšal kagi search, ktorý bol o niečo lepší, ale má iba obmedzené množstvo free vyhľadávaní. ja hľadám väčšinou dosť niche veci, často v sk/cz kontexte, a tam mi hľadanie cez generatívne modely príde už viac hit and miss, verím že v sw vývoji si to bude viesť lepšie

×÷ßßß$ˇ~[☼◙ş→☻ü84ó♀ÇüŮń§►♫☺♀♂ć☺<\ˇ

00000101000635330006360808771344092005170920052509200539092005540920055709200588

'zoznam pouzitych zdrojov co povyberali random neznami ludia z internetu/trollovia? namiesto toho ze by clovek isiel priamo do kniznice, ako sa patri??'
ani to nebolo vzdy take jasne, v 2000kach bola okolo toho velka debata, len nateraz sa uz wikipedia cca spravne nacenila ako ne/zdroj rozcestnik.

0000010100063533000636080877134409200517092005250920053909200554092005570920058809200609

zoznam použitej literatúry bol v akademickej praxi normálne zaužívaná a vyžadovaná vec dávno pred wikipédiou, takže jednak tá otázka znie ako nonsens z princípu, jednak sa teraz bavíme naopak o stave, kedy sa človek už nedostane ani len k tomu zoznamu použitej literatúry

×÷ßßß$ˇ~[☼◙ş→☻ü84ó♀ÇüŮń§►♫☺♀♂ć☺<\ˇ

000001010006353300063608087713440920051709200525092005390920055409200557092005880920060909200625

no ja sa dost pamatam, ze nedovera voci wikipedii na zaciatku siahala az k vyberu zdrojov, kedze bola anonymne editovatelna. mozes mat formalne vsetko v poriadku s odkazmi na x zdrojov, ale ked su referencovane picoviny alebo je to motivovany vyber, tak je to stale na nic. tj podobny problem ako teraz s ai komoditnym textom bez autora, len s inymi biasmi. nejak sa s tym spolocnost tiez naucila zit.

00000101000635330006360808771344092005170920052509200539092005540920055709200588092006090920062509200641

Presne kvôli tejto nedôvere potrebuješ referencovať zdroje v akademickej praxi: pozrieš si zoznam zdrojov pod textom, a môžeš sám usúdiť, či sú tie zdroje hlúposť, alebo nie. To, že niekto uvedie ako zdroje úplné hlúposti, sa môže stať rovnako v univerzite a vedeckom žurnáli tak isto ako na wikipédii.
Teraz sa ovšem bavíme o mechanizme, kde neexistujú vôbec žiadne referencované zdroje, ergo bavíme sa o stave, kde zdrojom môže narovnako byť hŕba totálnych pičovín, ale ty si to nemáš ani len ako overiť. Čiže toto vôbec nie je "podobný problém" tomu v predošlom odstavci, pretože stav z predošlého odstavca nie je sám o sebe problém - je to zavedená prax.

×÷ßßß$ˇ~[☼◙ş→☻ü84ó♀ÇüŮń§►♫☺♀♂ć☺<\ˇ

0000010100063533000636080877134409200517092005250920053909200554092005570920058809200609092006250920064109200665

'o mechanizme, kde neexistujú vôbec žiadne referencované zdroje'
toto ale nie je uplne pravda a netvrdi to ani ten povodny clanok. zdroje uz vie uviest, len niekedy su confidently wrong alebo misattributed. llm sa myli trochu inak ako anonymni editori, treba to brat v ohlad ale inak rovnako plati co pises v prvom odstavci (aj s problemom vyhodnotenia zdrojov).

a tiez to zavisi od modelu/finetunovania/temperature/prepromptu, vid napriklad perplexity alebo 4o-preview, co su na tom podla vsetkeho o kus lepsie so zdrojovanim ako v clanku pouzite 4o.
zda sa mi to ako povrchna kritika vyvojoveho stadia, co bude o 2 roky pase.

000001010006353300063608087713440920051709200525092005390920055409200557092005880920060909200625092006410920066509200683

ešte raz: nachádzame vo vývojovom štádiu, kde má používateľ internetu problém dohľadať relevantné informácie k téme, ktorú hľadá - problém väčší, než bol napríklad 5-10 rokov dozadu. a internet v čoraz väčšom množstve tvorí spam od chatbota, ktorý často poskytuje irelevantné informácie. ten hypotetický prísľub, že výpočtovo náročnejšie boty budú o dva roky odrazu dostupné všetkým používateľom internetu for free, mi nepríde podložený - najprv by niekto musel vysvetliť, prečo do pár rokov podľa neho spadne dole cena takéhoto computingu.

×÷ßßß$ˇ~[☼◙ş→☻ü84ó♀ÇüŮń§►♫☺♀♂ć☺<\ˇ

00000101000635330006360808771344092005170920052509200539092005540920055709200573

v podstate by bolo dobré aby AI vždy do odpovede zahrnulo aj zdroje z ktorých vo svojom datasete/prípadne z netu čerpá, to áno