» »

Vrsta strokovnjakov poziva k polletni ustavitvi razvoja strojnega učenja

Vrsta strokovnjakov poziva k polletni ustavitvi razvoja strojnega učenja

Slo-Tech - Organizacija Future of Life Institute je objavila javno pismo, v katerem več vidnih osebnosti s področja strojnega učenja in informacijskih tehnologij poziva k šestmesečnemu moratoriju na razvoj in lansiranje novih produktov s področja strojnega učenja.

Izjemno nagel razvoj rešitev s področja strojnega učenja v zadnjem letu, posebno veliki jezikovni modeli in generatorji podob, vzbuja strah, da pravna in akademska stroka ter zakonodajna telesa izgubljajo bitko za uspešno razumevanje in nadzorovanje takšne napredne tehnologije. Investicijska banka Goldman Sachs je na začetku tedna objavila poročilo, v katerem ugotavlja, da naj bi generativna strojna pamet v naslednjem desetletju v razvitih državah ob službo spravila okoli 300 milijonov ljudi, v zameno za od 7- do 10-odstotni dvig bruto družbenega proizvoda. Najnovejši modeli, kot je nedavno lansirani GPT-4, s skokovitim tempom izboljšujejo svojo učinkovitost in se na nekaterih testih jezikovnega znanja že odrežejo skoraj tako dobro kot človek.

Zato ni presenečenje, da se je oglasila organizacija Future of Life Institute, ki je bila pred devetimi leti ustanovljena z namenom opozarjanja pred nevarnostmi vplivov modernih tehnologij, kot so jedrsko orožje, biotehnologija, povzročitelji klimatskih sprememb in - umetna inteligenca, oziroma strojno učenje. V najnovejšem javnem pismu opozarja, da se napredek na področju generativnih strojnih modelov odvija prehitro in zato terja šestmesečni moratorij na razvoj takšnih tehnologij, med katerim naj pristojne institucije in družba doženejo, kako dalje. Med podpisniki je več vidnih strokovnjakov s področja, kot so Yoshua Bengio, Stuart Russell, Gary Marcus in Emad Mostaque, pa javne osebnosti, kot so Elon Musk, Steve Wozniak, Andrew Yang in Yuval Noah Harari. A ker je dodajanje podpisov odprto, je potrebno biti previden, ker so hudomušneži pod besedilo že postavili vrsto lažnih podpisov, denimo Billa Gatesa in Sama Altmana.

Gre za odmevno javno manifestacijo, ki pa bržda ne bo imela večjega stvarnega učinka, iz mnogih razlogov. Prvič; besedilo je precej nedorečeno in obenem senzacionalistično usmerjeno, saj povzema mnoge slabo definirane nevarnosti, kot je strah, da nas bodo roboti vse nadomestili in bomo izgubili nadzor nad lastno civilizacijo. Več strokovnjakov za strojno etiko, kot sta Timnit Gebru in Emily Bender, se je pridušalo, da imajo strojni modeli že sedaj zvrhano mero stvarnih in dobro znanih težav, kot je jačanje nepoštenosti in diskriminacije v družbi, zato ne potrebujemo dodatnega pobezljanega norenja, ki da v bistvu s povzročanjem dodatne pozornosti velike akterje na področju še krepi. Tudi ni preveč verjetno, da bi se v kratkem zganile države, ki ne na tej ne na oni strani Atlantika še ne nameravajo omejevati tehnologije kot take - se pa pripravljajo specifične bitke, na primer glede spoštovanja intelektualne lastnine. Cinični jeziki tudi izpostavljajo, da so glas v pismu povečini dvignili tekmeci naveze Microsoft-OpenAI, ki si je z odločnim lansiranjem izdelkov na mah priborila prednost na trgu.

Sam Altman je sicer v objavi pred dobrim mesecem sam izrazil stališče, da bi bilo smiselno uvesti tesnejši zunanji nadzor nad velikimi modeli, kot je GPT-4, in nemara postaviti meje strojne porabe učenja takšnih sistemov. Javno pismo organizacije Future of Life pa je že povzročilo ukrepanje nekaterih drugih združenj; etična skupina The Center for AI and Digital Policy je tako ameriški urad FTC pozvala, naj ustavi lansiranje naslednikov GTP-4, dokler se ne razrešijo njihovi "zavajajoči elementi, ki so nevarnost za javno dobro".

67 komentarjev

«
1
2

mrTwelveTrees ::

Je že konec.... tega se ne da več ustaviti.

pegasus ::

Rešitev je enostavna. Namig: trenutno je elektrika hudo prepoceni.

starfotr ::

Omejiti je treba statistično izračunavanje najbolj verjetnega zaporedja besed?

Navijmo kable, ugasnimo internet.

twom ::

Najprej se pojavi nova tehnologija, potem se pojavijo pravila. Ali je bilo že kdaj kaj drugače?

Sicer pa ne razumem zakaj se statističnim modelom reče AI. No ja, da se prodaja...

Zgodovina sprememb…

  • spremenil: twom ()

Gregor P ::

Problem je predvsem za tiste, ki bi zdaj radi Microsoft ujeli v tega pol leta8-)
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).

Fiv3er ::

Nekaj časa nazaj sem odprl temo o AI aligmentu in bil popluvan.

V takih trenutkih me preseneča ignoranca in neumnost človeka. Saj si konec koncev zaslužimo izumret, če nismo sposobni enega osnovnega razmisleka, da je razvoj AGI ultimativna in praktično edina realistična grožnja obstoju človeštva. Vse ostalo (jedrske vojne, segrevanje) nas lahko samo zreducira

Zgodovina sprememb…

  • spremenilo: Fiv3er ()

driver_x ::

pegasus je izjavil:

Rešitev je enostavna. Namig: trenutno je elektrika hudo prepoceni.


Namig: ne komentiraj zadev, če jih ne poznaš.

pegasus ::

driver_x je izjavil:

Namig: ne komentiraj zadev, če jih ne poznaš.
Hehehe ...

Miki N ::

Itak, da je veliko predvsem hype in bombastične fraze - in še bolj bodo, ker veliki igralci so šele sedaj vložili notri dosti denarja in bodo sedaj molzli to famo, da se vložek nekako vrne (ok razen Muska, ki bo spet kaj spičkil).

Izrazi niso važni - "AI" je bil vedno bulšit izraz namenjen zavajanju. Marsikateri izi cekin ali doktoratek je vedno znal pasti na to foro, tudi pri nas.

Vseeno - ne glede na to jaz ne bi tako brezskrbno skakljal okrog.

Ne gre samo za to, da bo kakšen avtist ali celo kreativec ostal brez šihta - huje je, da se bo to izkoristilo za grožnje ostalim z Robotom, če ne bodo pridni in šljakali za džabe.

Ravno tako bo Robot vedno bolj ustrahoval ostale prebivalce planetarne Ograde z vedno učinkovitejšim nadzorom komunikacije in "napačnega razmišljanja" - to se do neke mere seveda itak že dela, samo količina je bistvena.

Nakar je tu nekaj čemur jaz pravim "splošno onesnaževanje družbe" z AI, kjer bo na koncu to neskončno četbot brbljanje in AI "vsebine" jebeno PO-V-SOD. Na vsaki strani, v vsaki "novici", člankih, govornih vsebinah, grafični operemi, glasbi, dizajnu, arhitekturi, filmih, tv serijah servisih, odzivnikih podjetij in javnih služb ... Šum. Šum ubija.

(in ja ja, to se že zdaj uporablja, vem - ne biti pametni, avtisti, da ne pokličem Robota!)

Da ne govorimo kake foto filtre bodo zdaj imele bajse na netu - na zmenku te bo pa nadrla z nekimi "body positivity" floskulami, ker bo že čisto oprana od prejšnje točke. Šum ubija.

Po drugi strani, Robot bo verjetno boljši doktor kot večina družinskih zdravnikov, tako da saj to - bo recimo pomagalo pri krizi v zdravstvu. Mogoče bo cel predpiše kako evtanazijco in reši še kaj. ;)

Zgodovina sprememb…

  • spremenilo: Miki N ()

Mato989 ::

Samo jokice hočejo ustavit tole, ker ne morejo služit ker so zadaj...

Go go OpenAI in ostali, razturajte!
Če sem pomagal, se priporočam za uporabo linka!
KUCOIN EXCHANGE link: https://www.kucoin.com/#/?r=E3I9Ij
BINANCE EXCHANGE link: https://www.binance.com/?ref=10161115

DamijanD ::

Sam Altman je bil nedolgo nazaj pri Lexu in ima dokaj OK pristop do te tematike. OpenAI poskuša biti čim bolj odprt, transparenten; skrbi ga pa da ni nujno, da bodo tudi vsi ostali, ki se bodo s tem "igrali", pozorni na ta aspekt te tehnologije.

tikitoki ::

Ojej, ponovno ludisti. Namesto, da visjo produktivnost izkoristimo za razbremenitev ljudi, se jambra o izginotju nesmiselnih sluzb. Pa nej se kdo rece, da ne zivimo v disfunkcionalni druzbi.

pegasus je izjavil:

Rešitev je enostavna. Namig: trenutno je elektrika hudo prepoceni.


Imas ti kaksno resitev, ki ni clovekomrzna?

Zgodovina sprememb…

  • spremenilo: tikitoki ()

Zigerion ::

DamijanD je izjavil:

Sam Altman je bil nedolgo nazaj pri Lexu in ima dokaj OK pristop do te tematike. OpenAI poskuša biti čim bolj odprt, transparenten; skrbi ga pa da ni nujno, da bodo tudi vsi ostali, ki se bodo s tem "igrali", pozorni na ta aspekt te tehnologije.

Na žalost njegov pristop izgublja težo. Odkar je OpenAI postal for-profit organizacija so pač začeli prevladovati drugi interesi. Ni to kritika OpenAI, postali so pač še eden izmed player-jev, ki se na takšne in drugačne načine borijo za trg.

pegasus ::

tikitoki je izjavil:

Imas ti kaksno resitev, ki ni clovekomrzna?
Da ... recimo danes smo izvedeli za eno "novo": https://www.rtvslo.si/okolje/zeleni-pet...

Kar pa se konkretno današnjega "AI"ja tiče, je pa tako primitiven, da o njem ni vredno izgubljati besed. Razen tega, da kuri šest velikostnih razredov več energije kot naravni vzorniki, ki jih želi posnemati, na kar sem ciljal s svojim komentarjem.

feryz ::

Strokovnjaki so seveda iz javnega sektorja. Zato to tudi pozivajo. Ker bo ravno z njihovimi delovnimi mesti pometlo.
Pa seveda nebroj it-jevcev bo odletel kot knof od gat.
Jasno je, da gre za delovna mesta tistih, ki zdaj iz pisarne ali od doma ne delajo nič. Ali se delajo, da nekaj delajo.

Za zamenjavo ljudi, ki dejansko nekaj delajo, so pa druge zadeve aktualne. Ne da jih ni, trenutno so še predrage.

fikus_ ::

v IT bodo "code monkey" odpadli, v znanstvenem svetu bo zanimivo, ko bo "AI" pisala nove članke na osnovi prejšnjih objav (ali se bo zaciklalo s citiranjem?!), razni "umetniki in pisci" bodo imeli tudi manj dela, kako bo v zdravstvu, ko bi na osnovi laboratorijskih izvidov in vpisa simptomov "AI" bolje diagnosticirala, kot zdravniki, . . . Fizično naporna in ponavljajoča dela bodo zamenjali roboti,...
Ostane samo kreativno delo s preveč nepredvidljivimi spremenljivkami.
Učite se iz preteklosti, živite v sedanjosti in razmišljajte o prihodnosti.

pegasus ::

Ne še tako kmalu. Vprašaj IBM, kako jim gre z dr. watsonom.

driver_x ::

pegasus je izjavil:

https://www.rtvslo.si/okolje/zeleni-pet...


V znanstvenem svetu imamo navado, da za svoje trditve predobčimo dokaze ali citiramo delo, kjer so bile dokazane. Na ta način dosežemo vsaj neko stopnjo kredibilnosti. V tem primeru pa gre zgolj za razmišljanje tega gospoda, ki je zgolj in samo to: razmišljanje.

Utk ::

Če jaz prav razumem, bi oni radi v teh pol leta dorekli pravila po katerih naj deluje AI. Itak je vse prostovoljno, ne more tega nihče enforcat, ampak morda malo premislit in se potem (prostovoljno) držat nekih pravil morda ne bi bila najslabša stvar.

driver_x ::

Saj že imamo tri zakone robotike. Le na AI jih moramo aplicirati.

Utk ::

Morda tisti 3 zakoni niso čisto dovolj specifični.
Recimo z AI postanejo vsi video dokazi brezpredmetni, če vsak lahko zgenerira kar hoče.

Zgodovina sprememb…

  • spremenil: Utk ()

tikitoki ::

pegasus je izjavil:

tikitoki je izjavil:

Imas ti kaksno resitev, ki ni clovekomrzna?
Da ... recimo danes smo izvedeli za eno "novo": https://www.rtvslo.si/okolje/zeleni-pet...

Kar pa se konkretno današnjega "AI"ja tiče, je pa tako primitiven, da o njem ni vredno izgubljati besed. Razen tega, da kuri šest velikostnih razredov več energije kot naravni vzorniki, ki jih želi posnemati, na kar sem ciljal s svojim komentarjem.


Se popolnoma strinjam glede stopnje razvoja "AI". Ima pa uporabno vrednsot v dolocenih primerih.

Plut poudarja spremembe, s kateremi se tudi sam strinjam. Sam visje cene najbilj udarijo tiste, ki ze tako najmanj prispevajo k problemu in ne resijo ekscevov najbolj egocentricnih in potrosnih elementov druzbe.

driver_x ::

Tisti, ki pravi da je AI primitivna, očitno ne ve, kaj AI sploh je in kaj je njen namen.

Glede navijanje cen pa samo tole: ljudem, ki se borijo za golo preživetje, je varovanje okolja zadnja skrb.

sbawe64 ::

tikitoki je izjavil:

Ojej, ponovno ludisti. Namesto, da visjo produktivnost izkoristimo za razbremenitev ljudi, se jambra o izginotju nesmiselnih sluzb. Pa nej se kdo rece, da ne zivimo v disfunkcionalni druzbi.

pegasus je izjavil:

Rešitev je enostavna. Namig: trenutno je elektrika hudo prepoceni.


Imas ti kaksno resitev, ki ni clovekomrzna?

Ne potrebuješ ai, da odpraviš bullshit jobs:
https://www.goodreads.com/book/show/344...


fikus_ je izjavil:

v IT bodo "code monkey" odpadli, v znanstvenem svetu bo zanimivo, ko bo "AI" pisala nove članke na osnovi prejšnjih objav (ali se bo zaciklalo s citiranjem?!), razni "umetniki in pisci" bodo imeli tudi manj dela, kako bo v zdravstvu, ko bi na osnovi laboratorijskih izvidov in vpisa simptomov "AI" bolje diagnosticirala, kot zdravniki, . . . Fizično naporna in ponavljajoča dela bodo zamenjali roboti,...
Ostane samo kreativno delo s preveč nepredvidljivimi spremenljivkami.

Ter zmanjšanje populacije na famoznih 500 milijonov?
2020 is new 1984
Corona World order

Zgodovina sprememb…

  • spremenilo: sbawe64 ()

ginekk ::

fikus_ je izjavil:

v IT bodo "code monkey" odpadli, v znanstvenem svetu bo zanimivo, ko bo "AI" pisala nove članke na osnovi prejšnjih objav (ali se bo zaciklalo s citiranjem?!), razni "umetniki in pisci" bodo imeli tudi manj dela, kako bo v zdravstvu, ko bi na osnovi laboratorijskih izvidov in vpisa simptomov "AI" bolje diagnosticirala, kot zdravniki, . . . Fizično naporna in ponavljajoča dela bodo zamenjali roboti,...
Ostane samo kreativno delo s preveč nepredvidljivimi spremenljivkami.


Sure, isto kakor sta IT & nato internet omogočila avtomatizacijo in manj dela. /s

V resnici pa je dela še več, ker prvič že samo po sebi je IT ogromna industrija in drugič je pospešilo informacijske tokove (in s tem dvignilo produktivnost). Včasih je bila komunikacija omejena na telefon po žici in sestanke v živo.

Skratka, nič ne bo, razen več dela in morda še več prelaganja odgovornosti na mašino.

pegasus ::

driver_x je izjavil:

Tisti, ki pravi da je AI primitivna, očitno ne ve, kaj AI sploh je in kaj je njen namen.
FYI, sem pogledal, trenutno pri nas teče 12 training jobov, 4 classifier jobi in gotovo še kak, ki se ne imenuje lepo prepoznavno. Ja, vsi ti jobi so v namen odpravljanja bullshit ročnega dela, jaz bi jim rekel aplikativna statistika, ker do AI je še zelo daleč.

feryz ::

Nič ni daleč. Še včeraj je bila to (razni čati) znanstvena fantastika, res dobesedno včeraj, danes je v množični uporabi.
Kaj je že narejeno za tem, pa lahko zgolj ugibamo.
Mogoče avtor ve kaj več in zato poziva k bremzanju.

Gregor P ::

fikus_ je izjavil:

. . . Fizično naporna in ponavljajoča dela bodo zamenjali roboti,...
... komaj čakam, da mi pride očistiti zidove in prepleskat stene, ali pa popraviti vodovodne cevi ... nič, zgleda da bo še kar nekaj časa ogromno dela za določene "klasične" delavce8-)
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).

Utk ::

A ni zadnjič v novici pisalo ravno obratno...vsaj 50% znanstvenikov bi lahko AI nadomestila, ker v resnici ne prispevajo ničesar, samo pišejo povzetke povzetkov.
Raziskovalni novinarji...AI vržeš podatke in ti potegne ven povezave, zgodbe, itd., to lahko dela 100 novinarjev 5 let pa ne bojo vsega razvozlali.
Stene podrla ti pa AI ne bo še zaenkrat.

pegasus ::

feryz je izjavil:

danes je v množični uporabi.
Da, vse dokler ponudniki ne dobijo računa za elektriko. Če me spomin ne vara, so googlovci že zračunali, da se jim zadeva ekonomsko ne izzide. Rabimo najmanj tri velikostne razrede bolj učinkovit hardver. Glej v smeri neuromorphic computing in povratek analognih sistemov.

fikus_ ::

Gregor P je izjavil:

fikus_ je izjavil:

. . . Fizično naporna in ponavljajoča dela bodo zamenjali roboti,...
... komaj čakam, da mi pride očistiti zidove in prepleskat stene, ali pa popraviti vodovodne cevi ... nič, zgleda da bo še kar nekaj časa ogromno dela za določene "klasične" delavce8-)


Kaj od teh tvojih naštetih del je "Fizično naporna in ponavljajoča dela"???
Učite se iz preteklosti, živite v sedanjosti in razmišljajte o prihodnosti.

Gregor P ::

Kako to misliš, če nekdo stalno dela vsak dan eno in isto fizično delo? Da ni naporno in ponavljajoče?!?8-O
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).

fikus_ ::

Pleskanje stene je fizično naporno delo? Kaže da po tvojem tudi popravljanje vodovodnih cevi in še ponavlja se vsak dan?!

PS dela v industriji npr za tekočim trakom so dela s ponavljajočimi se gibi, fizično naporno npr. ročno prekladanje predmetov, kjer se zgodi, da v 8-ih urah prestaviš nekaj ton, . . .
Učite se iz preteklosti, živite v sedanjosti in razmišljajte o prihodnosti.

Utk ::

Tudi pleskanje sten je fizično naporno, če se tega ne lotiš kot slovenski birokrat obrazcev. In to delaš 7 ur v enem dnevu. Jaz bi veliko raje premetal par ton kot pa cel dan belil. Pa sem jih tudi po 8 v 8 urah, kot študent.

driver_x ::

Premetavanje nekaj ton na izmeno pomeni veliko obremenitev za telo. Pa ne primerjaj občasnega študentskega dela z dolgoletnim rednim delom.

feryz ::

Zato se pa težjih del ne dela na polno. In laikom izgleda, kot da delavci, bolj ali manj, počivajo.
Če polagaš cegle 1 dan, si lahko 8 ur moker od garanja. Če jih 40 let, ne smeš biti niti en dan moker od tega. Ker jih ne boš dolgo.

fikus_ ::

Če je pleskanje naporno, si snežinkica ali pa jaz picikl. :D

Tole feryzovo pa drži kot pribito:"Če polagaš cegle 1 dan, si lahko 8 ur moker od garanja. Če jih 40 let, ne smeš biti niti en dan moker od tega. Ker jih ne boš dolgo. "
Učite se iz preteklosti, živite v sedanjosti in razmišljajte o prihodnosti.

Gregor P ::

Ne da enkrat na deset let pri tebi doma prebeliš stene, ampak da je to tvoj dnevni šiht. To je naporno!
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).

Utk ::

fikus_ je izjavil:

Če je pleskanje naporno, si snežinkica ali pa jaz picikl. :D

Tole feryzovo pa drži kot pribito:"Če polagaš cegle 1 dan, si lahko 8 ur moker od garanja. Če jih 40 let, ne smeš biti niti en dan moker od tega. Ker jih ne boš dolgo. "

V enem stavku praviš, da pleskanje ni naporno, v drugem, da pri delu ne smeš zašvicat. Če beliš kot snežinkica potem morda res ne zašvicaš. Bi te pa rad vidu belit 7 ur v komadu ne da se zmatraš. Pa da prebeliš kaj več kot eno garsonjerico, pa tudi da oblepiš vsa okna, vrata, tla, potem pospraviš, itd.

fikus_ ::

Ti švicaš, ko goniš valjček, oblepiš robove, . . . ?! OK, potem pač nimaš kondicije.
Učite se iz preteklosti, živite v sedanjosti in razmišljajte o prihodnosti.

Miki N ::

Italjani so pa Četa kar prepovedali.
https://www.independent.co.uk/tech/chat...

Utk ::

fikus_ je izjavil:

Ti švicaš, ko goniš valjček, oblepiš robove, . . . ?! OK, potem pač nimaš kondicije.

Jaz tega ne delam v slow motionu.

fikus_ ::

Aaaa.... salotejpaš tudi v turbo načinu?

https://external-content.duckduckgo.com...
Učite se iz preteklosti, živite v sedanjosti in razmišljajte o prihodnosti.

Zgodovina sprememb…

  • spremenilo: fikus_ ()

Utk ::

Pustimo to, lenoba nekaterih bi zaslužila svojo temo.

Irbis ::

fikus_ je izjavil:

Pleskanje stene je fizično naporno delo? Kaže da po tvojem tudi popravljanje vodovodnih cevi in še ponavlja se vsak dan?!

Ko sem zadnjič imel vodovodarja zaradi odtokov v kleti, je porabil nekajkrat več časa, da je razkopal do stare cevi, kot potem za same cevi.

Sakin ::

Konjska vprega, avtomobil
Bullshit jobs, AI
Na Nach Nachma Nachman Meuman!

Zgodovina sprememb…

  • spremenil: Sakin ()

c3p0 ::

Ludizem spirit lives on.

nejc_nejc ::

ja "gradevinarstvo i poljoprivreda daleko" od AI

dexterboy ::

Glede na globalni IQ, ki je v upadanju, je mogoče bolje, če ustavimo tole za ... "nedoločen čas"? ;)
Ko ne gre več, ko se ustavi, RESET Vas spet v ritem spravi.
«
1
2


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

OpenAI naznanil GPT-4

Oddelek: Novice / Znanost in tehnologija
2710529 (6208) Miki N
»

[Windows 12] Debate, vprašanja in težave

Oddelek: Operacijski sistemi
71435 (956) strom_15
»

Tudi OpenAIjev pogovorni bot trpi za podobnimi hibami kot tekmeci

Oddelek: Novice / Ostala programska oprema
76477 (5316) damjanster
»

Računalnik zna iz navodil generirati video

Oddelek: Novice / Znanost in tehnologija
86075 (5064) lemur233
»

Android 12 s prenovljeno obliko

Oddelek: Novice / Ostale najave
148951 (3911) MrStein

Več podobnih tem