Slo-Tech - Organizacija Future of Life Institute je objavila javno pismo, v katerem več vidnih osebnosti s področja strojnega učenja in informacijskih tehnologij poziva k šestmesečnemu moratoriju na razvoj in lansiranje novih produktov s področja strojnega učenja.
Izjemno nagel razvoj rešitev s področja strojnega učenja v zadnjem letu, posebno veliki jezikovni modeli in generatorji podob, vzbuja strah, da pravna in akademska stroka ter zakonodajna telesa izgubljajo bitko za uspešno razumevanje in nadzorovanje takšne napredne tehnologije. Investicijska banka Goldman Sachs je na začetku tedna objavila poročilo, v katerem ugotavlja, da naj bi generativna strojna pamet v naslednjem desetletju v razvitih državah ob službo spravila okoli 300 milijonov ljudi, v zameno za od 7- do 10-odstotni dvig bruto družbenega proizvoda. Najnovejši modeli, kot je nedavno lansirani GPT-4, s skokovitim tempom izboljšujejo svojo učinkovitost in se na nekaterih testih jezikovnega znanja že odrežejo skoraj tako dobro kot človek.
Zato ni presenečenje, da se je oglasila organizacija Future of Life Institute, ki je bila pred devetimi leti ustanovljena z namenom opozarjanja pred nevarnostmi vplivov modernih tehnologij, kot so jedrsko orožje, biotehnologija, povzročitelji klimatskih sprememb in - umetna inteligenca, oziroma strojno učenje. V najnovejšem javnem pismu opozarja, da se napredek na področju generativnih strojnih modelov odvija prehitro in zato terja šestmesečni moratorij na razvoj takšnih tehnologij, med katerim naj pristojne institucije in družba doženejo, kako dalje. Med podpisniki je več vidnih strokovnjakov s področja, kot so Yoshua Bengio, Stuart Russell, Gary Marcus in Emad Mostaque, pa javne osebnosti, kot so Elon Musk, Steve Wozniak, Andrew Yang in Yuval Noah Harari. A ker je dodajanje podpisov odprto, je potrebno biti previden, ker so hudomušneži pod besedilo že postavili vrsto lažnih podpisov, denimo Billa Gatesa in Sama Altmana.
Gre za odmevno javno manifestacijo, ki pa bržda ne bo imela večjega stvarnega učinka, iz mnogih razlogov. Prvič; besedilo je precej nedorečeno in obenem senzacionalistično usmerjeno, saj povzema mnoge slabo definirane nevarnosti, kot je strah, da nas bodo roboti vse nadomestili in bomo izgubili nadzor nad lastno civilizacijo. Več strokovnjakov za strojno etiko, kot sta Timnit Gebru in Emily Bender, se je pridušalo, da imajo strojni modeli že sedaj zvrhano mero stvarnih in dobro znanih težav, kot je jačanje nepoštenosti in diskriminacije v družbi, zato ne potrebujemo dodatnega pobezljanega norenja, ki da v bistvu s povzročanjem dodatne pozornosti velike akterje na področju še krepi. Tudi ni preveč verjetno, da bi se v kratkem zganile države, ki ne na tej ne na oni strani Atlantika še ne nameravajo omejevati tehnologije kot take - se pa pripravljajo specifične bitke, na primer glede spoštovanja intelektualne lastnine. Cinični jeziki tudi izpostavljajo, da so glas v pismu povečini dvignili tekmeci naveze Microsoft-OpenAI, ki si je z odločnim lansiranjem izdelkov na mah priborila prednost na trgu.
Sam Altman je sicer v objavi pred dobrim mesecem sam izrazil stališče, da bi bilo smiselno uvesti tesnejši zunanji nadzor nad velikimi modeli, kot je GPT-4, in nemara postaviti meje strojne porabe učenja takšnih sistemov. Javno pismo organizacije Future of Life pa je že povzročilo ukrepanje nekaterih drugih združenj; etična skupina The Center for AI and Digital Policy je tako ameriški urad FTC pozvala, naj ustavi lansiranje naslednikov GTP-4, dokler se ne razrešijo njihovi "zavajajoči elementi, ki so nevarnost za javno dobro".
Problem je predvsem za tiste, ki bi zdaj radi Microsoft ujeli v tega pol leta
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).
Nekaj časa nazaj sem odprl temo o AI aligmentu in bil popluvan.
V takih trenutkih me preseneča ignoranca in neumnost človeka. Saj si konec koncev zaslužimo izumret, če nismo sposobni enega osnovnega razmisleka, da je razvoj AGI ultimativna in praktično edina realistična grožnja obstoju človeštva. Vse ostalo (jedrske vojne, segrevanje) nas lahko samo zreducira
Itak, da je veliko predvsem hype in bombastične fraze - in še bolj bodo, ker veliki igralci so šele sedaj vložili notri dosti denarja in bodo sedaj molzli to famo, da se vložek nekako vrne (ok razen Muska, ki bo spet kaj spičkil).
Izrazi niso važni - "AI" je bil vedno bulšit izraz namenjen zavajanju. Marsikateri izi cekin ali doktoratek je vedno znal pasti na to foro, tudi pri nas.
Vseeno - ne glede na to jaz ne bi tako brezskrbno skakljal okrog.
Ne gre samo za to, da bo kakšen avtist ali celo kreativec ostal brez šihta - huje je, da se bo to izkoristilo za grožnje ostalim z Robotom, če ne bodo pridni in šljakali za džabe.
Ravno tako bo Robot vedno bolj ustrahoval ostale prebivalce planetarne Ograde z vedno učinkovitejšim nadzorom komunikacije in "napačnega razmišljanja" - to se do neke mere seveda itak že dela, samo količina je bistvena.
Nakar je tu nekaj čemur jaz pravim "splošno onesnaževanje družbe" z AI, kjer bo na koncu to neskončno četbot brbljanje in AI "vsebine" jebeno PO-V-SOD. Na vsaki strani, v vsaki "novici", člankih, govornih vsebinah, grafični operemi, glasbi, dizajnu, arhitekturi, filmih, tv serijah servisih, odzivnikih podjetij in javnih služb ... Šum. Šum ubija.
(in ja ja, to se že zdaj uporablja, vem - ne biti pametni, avtisti, da ne pokličem Robota!)
Da ne govorimo kake foto filtre bodo zdaj imele bajse na netu - na zmenku te bo pa nadrla z nekimi "body positivity" floskulami, ker bo že čisto oprana od prejšnje točke. Šum ubija.
Po drugi strani, Robot bo verjetno boljši doktor kot večina družinskih zdravnikov, tako da saj to - bo recimo pomagalo pri krizi v zdravstvu. Mogoče bo cel predpiše kako evtanazijco in reši še kaj.
Samo jokice hočejo ustavit tole, ker ne morejo služit ker so zadaj...
Go go OpenAI in ostali, razturajte!
Če sem pomagal, se priporočam za uporabo linka!
KUCOIN EXCHANGE link: https://www.kucoin.com/#/?r=E3I9Ij
BINANCE EXCHANGE link: https://www.binance.com/?ref=10161115
Sam Altman je bil nedolgo nazaj pri Lexu in ima dokaj OK pristop do te tematike. OpenAI poskuša biti čim bolj odprt, transparenten; skrbi ga pa da ni nujno, da bodo tudi vsi ostali, ki se bodo s tem "igrali", pozorni na ta aspekt te tehnologije.
Ojej, ponovno ludisti. Namesto, da visjo produktivnost izkoristimo za razbremenitev ljudi, se jambra o izginotju nesmiselnih sluzb. Pa nej se kdo rece, da ne zivimo v disfunkcionalni druzbi.
Sam Altman je bil nedolgo nazaj pri Lexu in ima dokaj OK pristop do te tematike. OpenAI poskuša biti čim bolj odprt, transparenten; skrbi ga pa da ni nujno, da bodo tudi vsi ostali, ki se bodo s tem "igrali", pozorni na ta aspekt te tehnologije.
Na žalost njegov pristop izgublja težo. Odkar je OpenAI postal for-profit organizacija so pač začeli prevladovati drugi interesi. Ni to kritika OpenAI, postali so pač še eden izmed player-jev, ki se na takšne in drugačne načine borijo za trg.
Kar pa se konkretno današnjega "AI"ja tiče, je pa tako primitiven, da o njem ni vredno izgubljati besed. Razen tega, da kuri šest velikostnih razredov več energije kot naravni vzorniki, ki jih želi posnemati, na kar sem ciljal s svojim komentarjem.
Strokovnjaki so seveda iz javnega sektorja. Zato to tudi pozivajo. Ker bo ravno z njihovimi delovnimi mesti pometlo. Pa seveda nebroj it-jevcev bo odletel kot knof od gat. Jasno je, da gre za delovna mesta tistih, ki zdaj iz pisarne ali od doma ne delajo nič. Ali se delajo, da nekaj delajo.
Za zamenjavo ljudi, ki dejansko nekaj delajo, so pa druge zadeve aktualne. Ne da jih ni, trenutno so še predrage.
v IT bodo "code monkey" odpadli, v znanstvenem svetu bo zanimivo, ko bo "AI" pisala nove članke na osnovi prejšnjih objav (ali se bo zaciklalo s citiranjem?!), razni "umetniki in pisci" bodo imeli tudi manj dela, kako bo v zdravstvu, ko bi na osnovi laboratorijskih izvidov in vpisa simptomov "AI" bolje diagnosticirala, kot zdravniki, . . . Fizično naporna in ponavljajoča dela bodo zamenjali roboti,... Ostane samo kreativno delo s preveč nepredvidljivimi spremenljivkami.
Učite se iz preteklosti, živite v sedanjosti in razmišljajte o prihodnosti.
V znanstvenem svetu imamo navado, da za svoje trditve predobčimo dokaze ali citiramo delo, kjer so bile dokazane. Na ta način dosežemo vsaj neko stopnjo kredibilnosti. V tem primeru pa gre zgolj za razmišljanje tega gospoda, ki je zgolj in samo to: razmišljanje.
Če jaz prav razumem, bi oni radi v teh pol leta dorekli pravila po katerih naj deluje AI. Itak je vse prostovoljno, ne more tega nihče enforcat, ampak morda malo premislit in se potem (prostovoljno) držat nekih pravil morda ne bi bila najslabša stvar.
Kar pa se konkretno današnjega "AI"ja tiče, je pa tako primitiven, da o njem ni vredno izgubljati besed. Razen tega, da kuri šest velikostnih razredov več energije kot naravni vzorniki, ki jih želi posnemati, na kar sem ciljal s svojim komentarjem.
Se popolnoma strinjam glede stopnje razvoja "AI". Ima pa uporabno vrednsot v dolocenih primerih.
Plut poudarja spremembe, s kateremi se tudi sam strinjam. Sam visje cene najbilj udarijo tiste, ki ze tako najmanj prispevajo k problemu in ne resijo ekscevov najbolj egocentricnih in potrosnih elementov druzbe.
Ojej, ponovno ludisti. Namesto, da visjo produktivnost izkoristimo za razbremenitev ljudi, se jambra o izginotju nesmiselnih sluzb. Pa nej se kdo rece, da ne zivimo v disfunkcionalni druzbi.
v IT bodo "code monkey" odpadli, v znanstvenem svetu bo zanimivo, ko bo "AI" pisala nove članke na osnovi prejšnjih objav (ali se bo zaciklalo s citiranjem?!), razni "umetniki in pisci" bodo imeli tudi manj dela, kako bo v zdravstvu, ko bi na osnovi laboratorijskih izvidov in vpisa simptomov "AI" bolje diagnosticirala, kot zdravniki, . . . Fizično naporna in ponavljajoča dela bodo zamenjali roboti,... Ostane samo kreativno delo s preveč nepredvidljivimi spremenljivkami.
Ter zmanjšanje populacije na famoznih 500 milijonov?
v IT bodo "code monkey" odpadli, v znanstvenem svetu bo zanimivo, ko bo "AI" pisala nove članke na osnovi prejšnjih objav (ali se bo zaciklalo s citiranjem?!), razni "umetniki in pisci" bodo imeli tudi manj dela, kako bo v zdravstvu, ko bi na osnovi laboratorijskih izvidov in vpisa simptomov "AI" bolje diagnosticirala, kot zdravniki, . . . Fizično naporna in ponavljajoča dela bodo zamenjali roboti,... Ostane samo kreativno delo s preveč nepredvidljivimi spremenljivkami.
Sure, isto kakor sta IT & nato internet omogočila avtomatizacijo in manj dela. /s
V resnici pa je dela še več, ker prvič že samo po sebi je IT ogromna industrija in drugič je pospešilo informacijske tokove (in s tem dvignilo produktivnost). Včasih je bila komunikacija omejena na telefon po žici in sestanke v živo.
Skratka, nič ne bo, razen več dela in morda še več prelaganja odgovornosti na mašino.
Tisti, ki pravi da je AI primitivna, očitno ne ve, kaj AI sploh je in kaj je njen namen.
FYI, sem pogledal, trenutno pri nas teče 12 training jobov, 4 classifier jobi in gotovo še kak, ki se ne imenuje lepo prepoznavno. Ja, vsi ti jobi so v namen odpravljanja bullshit ročnega dela, jaz bi jim rekel aplikativna statistika, ker do AI je še zelo daleč.
Nič ni daleč. Še včeraj je bila to (razni čati) znanstvena fantastika, res dobesedno včeraj, danes je v množični uporabi. Kaj je že narejeno za tem, pa lahko zgolj ugibamo. Mogoče avtor ve kaj več in zato poziva k bremzanju.
. . . Fizično naporna in ponavljajoča dela bodo zamenjali roboti,...
... komaj čakam, da mi pride očistiti zidove in prepleskat stene, ali pa popraviti vodovodne cevi ... nič, zgleda da bo še kar nekaj časa ogromno dela za določene "klasične" delavce
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).
A ni zadnjič v novici pisalo ravno obratno...vsaj 50% znanstvenikov bi lahko AI nadomestila, ker v resnici ne prispevajo ničesar, samo pišejo povzetke povzetkov. Raziskovalni novinarji...AI vržeš podatke in ti potegne ven povezave, zgodbe, itd., to lahko dela 100 novinarjev 5 let pa ne bojo vsega razvozlali. Stene podrla ti pa AI ne bo še zaenkrat.
Da, vse dokler ponudniki ne dobijo računa za elektriko. Če me spomin ne vara, so googlovci že zračunali, da se jim zadeva ekonomsko ne izzide. Rabimo najmanj tri velikostne razrede bolj učinkovit hardver. Glej v smeri neuromorphic computing in povratek analognih sistemov.
. . . Fizično naporna in ponavljajoča dela bodo zamenjali roboti,...
... komaj čakam, da mi pride očistiti zidove in prepleskat stene, ali pa popraviti vodovodne cevi ... nič, zgleda da bo še kar nekaj časa ogromno dela za določene "klasične" delavce
Kaj od teh tvojih naštetih del je "Fizično naporna in ponavljajoča dela"???
Učite se iz preteklosti, živite v sedanjosti in razmišljajte o prihodnosti.
Kako to misliš, če nekdo stalno dela vsak dan eno in isto fizično delo? Da ni naporno in ponavljajoče?!?
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).
Pleskanje stene je fizično naporno delo? Kaže da po tvojem tudi popravljanje vodovodnih cevi in še ponavlja se vsak dan?!
PS dela v industriji npr za tekočim trakom so dela s ponavljajočimi se gibi, fizično naporno npr. ročno prekladanje predmetov, kjer se zgodi, da v 8-ih urah prestaviš nekaj ton, . . .
Učite se iz preteklosti, živite v sedanjosti in razmišljajte o prihodnosti.
Tudi pleskanje sten je fizično naporno, če se tega ne lotiš kot slovenski birokrat obrazcev. In to delaš 7 ur v enem dnevu. Jaz bi veliko raje premetal par ton kot pa cel dan belil. Pa sem jih tudi po 8 v 8 urah, kot študent.
Zato se pa težjih del ne dela na polno. In laikom izgleda, kot da delavci, bolj ali manj, počivajo. Če polagaš cegle 1 dan, si lahko 8 ur moker od garanja. Če jih 40 let, ne smeš biti niti en dan moker od tega. Ker jih ne boš dolgo.
Če je pleskanje naporno, si snežinkica ali pa jaz picikl.
Tole feryzovo pa drži kot pribito:"Če polagaš cegle 1 dan, si lahko 8 ur moker od garanja. Če jih 40 let, ne smeš biti niti en dan moker od tega. Ker jih ne boš dolgo. "
Učite se iz preteklosti, živite v sedanjosti in razmišljajte o prihodnosti.
Ne da enkrat na deset let pri tebi doma prebeliš stene, ampak da je to tvoj dnevni šiht. To je naporno!
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).
Če je pleskanje naporno, si snežinkica ali pa jaz picikl.
Tole feryzovo pa drži kot pribito:"Če polagaš cegle 1 dan, si lahko 8 ur moker od garanja. Če jih 40 let, ne smeš biti niti en dan moker od tega. Ker jih ne boš dolgo. "
V enem stavku praviš, da pleskanje ni naporno, v drugem, da pri delu ne smeš zašvicat. Če beliš kot snežinkica potem morda res ne zašvicaš. Bi te pa rad vidu belit 7 ur v komadu ne da se zmatraš. Pa da prebeliš kaj več kot eno garsonjerico, pa tudi da oblepiš vsa okna, vrata, tla, potem pospraviš, itd.
