Slo-Tech - Po velikanskem uspehu ChatGPT, ki je novembra 2022 v splošno javnost prinesel zavedanje o sposobnostih umetne inteligence, in hitrem razvoju velikih jezikovnih modelov, ki je sledil, si je marsikdo postavil vprašanje, kam to vodi. Ali je razvoj umetne inteligence - ali pa vsaj njegovo hitrost - možno napovedati ali pa gre za nenadejane skoke? Raziskovalci s Stanforda so preverjali predpostavke, da aktualni veliki jezikovni modeli izkazujejo pojavne lastnosti (emergent properties). Ugotovili so, da to ne drži.
Kot povsod je tudi pri merjenju sposobnosti umetne inteligence vsaj enako pomembno, kako merimo. Če so metode in metrike okorne, se lahko zdi, da s povečevanjem modelov dosežemo točko prevoja, kjer se pojavijo pojavne lastnosti. To deluje, kakor da modeli po neki kritični velikosti pridobijo kvalitativno drugačne lastnosti, ki jih v manjši inačici nimajo. A raziskovalci v najnovejši študiji to imenujejo privid. Resnica je dolgočasnejša, do umetne splošne inteligence (AGI) pa še daleč.
Ko so primerjali GPT-3 v štirih različnih variantah, ki se razlikujejo v velikosti, je natančnost pri seštevanju nenadoma poskočila z 0 na 100 odstotkov. A če so uporabili bolj fino merilo, denimo število pravilno napovedanih cifer ali pa preprosto več vprašanj, je bil napredek precej bolj zložen. Podobno so odkrili tudi pri Googlovem modelu LaMDA, ki je pri prevajanju pregovorov ali odgovorih na izbirna vprašanja, nenadoma poskočil. Ko pa so preverili verjetnosti, ki jih je model dal posameznemu odgovoru, je bil napredek spet zvezen. Tudi v tretji analizi, kjer so proučevali računalniški vid, je bil izid podoben.
Eden izmed avtorjev študije Sanmi Koyejo pojasnjuje, da zamisel o pojavnih lastnostih ni nič presenetljivega, saj številni sistemi izkazujejo fazne prehode, kjer se hitro in korenito spremenijo njihove lastnosti. A aktualna študija, čeprav jih ne more dokončno izključiti, ne dokazuje obstoja emergentnega vedenja v trenutno dostopnih modelih. To kaže, da je večina lastnosti modelov predvidljivih, s tem pa tudi njihova prihodnost - vsaj do neke mere.
Novice » Znanost in tehnologija » Raziskava: aktualni veliki jezikovni modeli nimajo pojavnih lastnosti
Gregor P ::
To se sliši oz. bere logično in je pričakovano oz. le kako bi lahko bilo drugače, glede na tehnologijo, ki jo uporabljajo?
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).
Karamelo ::
ja celo leto že poslušam, kako se z več in več podatki pojavljajo nove in nove lastnosti modelov, zdaj pa ta streznitev
Izi ::
Se pravi, ugotovili so da v tej "umetni inteligenci" ni prav nobene inteligence. So čisto navadni programi, več podatkov vneseš v program, več možnih odgovorov ima ta program na voljo.
A je res kdo, razen novinarjev in politikov, verjel da je tukaj vmes kakšna inteligenca?
A je res kdo, razen novinarjev in politikov, verjel da je tukaj vmes kakšna inteligenca?
kow ::
Odvisno od definicije inteligence...
Drugace clanek govori o 'emerging properties'. V soli bi ti povedali, da si funkcionalno nepismen.
Drugace clanek govori o 'emerging properties'. V soli bi ti povedali, da si funkcionalno nepismen.
Zgodovina sprememb…
- spremenil: kow ()
MrStein ::
Ta članek v bistvu dokaže, da there is no such thing as emerging properties
Motiti se je človeško.
Motiti se pogosto je neumno.
Vztrajati pri zmoti je... oh, pozdravljen!
Motiti se pogosto je neumno.
Vztrajati pri zmoti je... oh, pozdravljen!
Lonsarg ::
V bistvu se izkaže da je jezikovni model (ChatGPT) zgolj nek osnovni gradnik splošne inteligence. Torej splošna inteligenca, ko bo, bo tak jezikovni model zgolj uporabila kot gradnik. Podobno kot mi uporabimo v svojih možganih spominski in jezikovni center, ampak imamo zraven še polno drugega.
Zgodovina sprememb…
- spremenil: Lonsarg ()
pegasus ::
Invictus ::
No, počasi bo folku jasno, da umetna inteligenca ne pogrunta nič novega, ampak samo na podlagi učenja zmiksa neko zadevo...
"Life is hard; it's even harder when you're stupid."
http://goo.gl/2YuS2x
http://goo.gl/2YuS2x
Zgodovina sprememb…
- spremenil: Invictus ()
FrRoSt ::
Zmiksa čisto neke nove koktaile.
Noben človek ni otok, popolnoma sam zase; smrt slehernega človeka vzame
del mene, ker pripadam človeški vrsti; in zato nikdar ne pošiljaj poizvedovat,
komu zvoni; zvoni tebi.
del mene, ker pripadam človeški vrsti; in zato nikdar ne pošiljaj poizvedovat,
komu zvoni; zvoni tebi.
Karamelo ::
drugače pa 99.99% ljudi ne pogrunta nič novega, ampak samo miksajo kar so že slišali, tako da se mi zdi, da so današnji llm-ji že daleč nad mentalnimi sposobnostmi 99% ljudi
PacificBlue ::
Se pravi, ugotovili so da v tej "umetni inteligenci" ni prav nobene inteligence. So čisto navadni programi, več podatkov vneseš v program, več možnih odgovorov ima ta program na voljo.
A je res kdo, razen novinarjev in politikov, verjel da je tukaj vmes kakšna inteligenca?
Jaz si tako predstavljam, da bos recimo en primer, lahko v prihodnosti napisal okvirno napisal scenarij nekega filma, po svojih željah in bo Ai zgeneriral ta film in ga bos lahk gledal ali pa nekdo drug.
Pa podobna realizacija bi se se lahk odvila kje drugje.
I’m out.
:3
:3
Unilseptij ::
Prevod je napačen... emerging property ni pojavna lastnost (kaj je sploh to pojavna lastnost - to je dal ChatGPT predvidevam ??) ampak je prevod kvečjemu lahko "porojena lastnost" ali z lepo slovensko besedo lahko tudi "samonikla lastnost".
c23po ::
Unilseptij, hvala za napor. Če vstavimo "dodana vrednost", naenkrat članek postane razumljiv tudi nam, laikom.
Računalniki nimajo spominov.
kuall ::
Se pravi, ugotovili so da v tej "umetni inteligenci" ni prav nobene inteligence. So čisto navadni programi, več podatkov vneseš v program, več možnih odgovorov ima ta program na voljo.
A je res kdo, razen novinarjev in politikov, verjel da je tukaj vmes kakšna inteligenca?
wrong. v človeku ni nobene inteligence, če tako gledaš na stvar, ste kot robotki, predvidljivi, dolgočasni. in vedno delate iste stvari, se ponavljatze v nedolged s svojimi nebulozami, predsodki, neumnimi ponavljajočimi nalogami in floskulami, če pa kdo pove kaj izvirnega ga ne razumete in ga zato ne marate.
sicer pa je tu keyword emerging, ki v angleščini pomeni, da se nekaj pojavi iznenada iz obzorja recimo in nas preseneti. npr to emerge suddenly as a victor.
beseda pojav sploh nima istega pomena v slovenščini zato je prevod seveda butast.
je pa že en tak članek bil na tem forumu. teh dobrih botov je bilo že veliko, tudi google translate je že dolgo in delo zelo dobro, samo zdej so vsi navalili na ta chatgpt, pač ljudje radi delajo nekaj, kar je moderno. tak da jaz napovedujem novo ai zimo dokaj kmalu, ko ne bo chatgpt več tako zelo modern. bo pa šel razvoj počasi naprej v ai, to pa že ves čas trdim, ne bo presenečenj za ai stručnjake. iz tega vidika se tudi ni za bati, da se bo iznenada pojavil terminator in nas postrelil. ga bomo lahko že od daleč predvideli. tak da to nabijanje muska, kako je ai nevaren je zelo mim. večja je verjetnost, da bomo izumrli zato, ker ai ne bomo izumili pravočasno, da bi nas rešil npr putlerja, ki pomeče atomske bombe.
Karamelo ::
Se pravi, ugotovili so da v tej "umetni inteligenci" ni prav nobene inteligence. So čisto navadni programi, več podatkov vneseš v program, več možnih odgovorov ima ta program na voljo.
A je res kdo, razen novinarjev in politikov, verjel da je tukaj vmes kakšna inteligenca?
wrong. v človeku ni nobene inteligence, če tako gledaš na stvar, ste kot robotki, predvidljivi, dolgočasni. in vedno delate iste stvari, se ponavljatze v nedolged s svojimi nebulozami, predsodki, neumnimi ponavljajočimi nalogami in floskulami, če pa kdo pove kaj izvirnega ga ne razumete in ga zato ne marate.
sicer pa je tu keyword emerging, ki v angleščini pomeni, da se nekaj pojavi iznenada iz obzorja recimo in nas preseneti. npr to emerge suddenly as a victor.
beseda pojav sploh nima istega pomena v slovenščini zato je prevod seveda butast.
je pa že en tak članek bil na tem forumu. teh dobrih botov je bilo že veliko, tudi google translate je že dolgo in delo zelo dobro, samo zdej so vsi navalili na ta chatgpt, pač ljudje radi delajo nekaj, kar je moderno. tak da jaz napovedujem novo ai zimo dokaj kmalu, ko ne bo chatgpt več tako zelo modern. bo pa šel razvoj počasi naprej v ai, to pa že ves čas trdim, ne bo presenečenj za ai stručnjake. iz tega vidika se tudi ni za bati, da se bo iznenada pojavil terminator in nas postrelil. ga bomo lahko že od daleč predvideli. tak da to nabijanje muska, kako je ai nevaren je zelo mim. večja je verjetnost, da bomo izumrli zato, ker ai ne bomo izumili pravočasno, da bi nas rešil npr putlerja, ki pomeče atomske bombe.
heh..kako naivno.
ja terminator se bo pojavil iznenada..tesla je v začetku 2023 dala ven humanoidnega robota, ki je komaj kal naredil, konec leta je gen 2 že neverjetno dober, kaj bo šele letos ali v roku nekaj let
chatgpt je včeraj namesto mene v pol dneva naredil neko stvar v 20 minutah
glede filmov se strinjam..prihodnost je taka, da si bo lahko vsak naredil film zase, pravtako boš imel svojega učitelja in zdravnika..v letu 2024 pričakujem prve serije v slabi kvaliteti tipa southpark, ki jih bo naredil nekdo iz množice in ne več nek studio in tega bo čedalje več, v boljši in boljši kvaliteti
nič od tega ni znanstvena fantastika in ni daleč, edino kjer vidim daljšo spremembo, je sprememba šolskega sistema, kar se zdi trd oreh
Tako da AI bo prinesla to, da bodo vse storitve delane za eno osebo oz bodo prilagojene izključno za to osebo. To do sedaj ni bilo mogoče poceni izvesti, zdaj pa bo.
c23po ::
...prihodnost je taka, da si bo lahko vsak naredil film zase...
Heh, kako naivno...
Svoje filme lahko snemamo še iz časa normal-8 in super-8. Kako je to vplivalo na filmsko industrijo?
Ravno tako bo z "UI" vsak naredil film zase. Najprej bo kup filmčkov (kar bo OpenAI mastno zaračunal), nato pa bodo filme delali isti, ki jih že sedaj znajo delati. In prodajali nam, ki smo to imeli priložnost delati s super-8, pa smo posneli točno nič. Ali tiktokom, ... kakorkoli.
Sedaj pa vstavimo namesto "film" besedo "diagnoza" (beri: "Naravna zdravila", "Domača lekarna", "Sam svoj zdravnik"...) in dokončajmo krog, da bodo zdravniki lahko uporabljali svoje novo orodje.
Članek pravi, da dodane vrednosti ni. V "UI", da se razumemo, ne pri uporabnikih.
Računalniki nimajo spominov.
Zgodovina sprememb…
- spremenil: c23po ()
Phantomeye ::
No, počasi bo folku jasno, da umetna inteligenca ne pogrunta nič novega, ampak samo na podlagi učenja zmiksa neko zadevo...
Vsaka nova stvar, ki jo ljudje pogruntamo, razvijemo, sprogramiramo, narišemo, napišemo itd., temelji na miksanju obstoječih informacij, znanj, izkušnj itd.
Tudi, če AI ne pogrunta nič novega, mi omogoča, da jaz lažje pogruntam nekaj novega.
c23po ::
Drži. Recimo pojem števila v matematiki. Ali pa teorija strun. Čisti miks obstoječih informacij.
Računalniki nimajo spominov.
Karamelo ::
...prihodnost je taka, da si bo lahko vsak naredil film zase...
Heh, kako naivno...
Svoje filme lahko snemamo še iz časa normal-8 in super-8. Kako je to vplivalo na filmsko industrijo?
Ravno tako bo z "UI" vsak naredil film zase. Najprej bo kup filmčkov (kar bo OpenAI mastno zaračunal), nato pa bodo filme delali isti, ki jih že sedaj znajo delati. In prodajali nam, ki smo to imeli priložnost delati s super-8, pa smo posneli točno nič. Ali tiktokom, ... kakorkoli.
Sedaj pa vstavimo namesto "film" besedo "diagnoza" (beri: "Naravna zdravila", "Domača lekarna", "Sam svoj zdravnik"...) in dokončajmo krog, da bodo zdravniki lahko uporabljali svoje novo orodje.
Članek pravi, da dodane vrednosti ni. V "UI", da se razumemo, ne pri uporabnikih.
sorry ampak do sedaj nisi mogel posneti svojega filma z promptom v 3 minutah, čez nekaj časa pa boš brez težav...dal boš splošna navodila botu o stilu, glavnih igralcih, tematiki in dolžini, in ti bo pljunil ven film po tvojem okusu, vsakič drugačnega
PacificBlue ::
Pa da imas ze sedaj tudi generatorje promptov, ki ti delo se olajsajo
I’m out.
:3
:3
Gregor P ::
Le da je cel hec gledanja filmov v tem, da vidiš, kako to drugi naredijo, kako oni razmišljajo, da si malo razširiš obzorja - če ne gledaš vsak dan ravno mehiških nadaljevank; te bi pa res lahko sam generiral s pomočjo UI
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).
Zgodovina sprememb…
- spremenil: Gregor P ()
c23po ::
...
sorry ampak do sedaj nisi mogel posneti svojega filma z promptom v 3 minutah, čez nekaj časa pa boš brez težav...dal boš splošna navodila botu o stilu, glavnih igralcih, tematiki in dolžini, in ti bo pljunil ven film po tvojem okusu, vsakič drugačnega
Amsterdam, okoli leta 1860: sorry ampak do sedaj nisi mogel namalati slike brez čopiča v eni minuti, čez nekaj časa pa boš brez težav...dal boš stekleno ploščo namazano z srebrovim nitratom v camero obscuro, oblekel in postavil portretirance, in bo vsak bedak naredil portret, vsakič drugačnega...
Točno to se je zgodilo. Slikanje (fotografiranje) je postalo dostopno masi. Nihče si ne beli glave zaradi nepregledne gomile nesmiselnih selfijev, ki so v 99,9% primerov ponarejeni. To vsi vedo, svet se vrti naprej.
Slikarji niso propadli zaradi umetniških fotografov. Slednji tudi dodajo "pojavno lastnost" prav tako kot jo slikarji. Za to uporabljajo tehnologijo, fotoaparate ali prompte. Vseeno je.
"UI" samodejno zaenkrat ne ustvarja umetnosti. Le povprečno malarijo. O dejanski inteligenci bomo govorili, ko bo ta ustvarjala umetnost, ki jo bo nekdo želel kupiti.
E: typo
Računalniki nimajo spominov.
Zgodovina sprememb…
- spremenil: c23po ()
WhiteAngel ::
Ne razumem čisto poante članka. Tisti GPT pomeni generative pre-trained transformer. Nihče ne govori o inteligenci. Že dejstvo, da trenirnaje modela ChatGPT4.0 za podatke do leta 2021 stane reda $100M (decembrska Frekvenca X, interviju z Dietterichom), pove, da učenje ni trivalna reč in je stroga ločnica med tem, kar je pre-trained in kar je trenuten kontekst. V bistvu Dietterich izpostavi težek problem, da UI ne ve, kdaj nima pojma in začenja halucinirati, kdaj je pa sklepanje pravilno. In to tepe tako ChatGPT kot avtonomna vozila.
Zgodovina sprememb…
- spremenil: WhiteAngel ()
Karamelo ::
kako pa veš, da naši možgani podobno kot chatgpt ne predvidevajo besed v naprej ampak dejansko mislijo oz. so inteligentni? kako sploh dokažeš razliko med inteligenco človeka ter AI predvidevanji besed?
Karamelo ::
DamijanD ::
Ne moreš - ampak dejansko nisem razmišljal o besedah ampak o konceptih/oblikah. Torej nekaj kar ti je recimo skoraj lažje skicirati kot poimenovati.
Me je pa to spomnilo na en dogodek iz otroštva: Razmišljal sem (nimam pojma zakaj) kako bi izboljšal hlajenje disk zavor in sem prišel do ideje, da bi imel "votli disk", kjer imamo notri kanale za zajem zraka. Itak, da sem potem ugotovil, da to že obstaja Sem pa prepričan, da sem se to sam spomnil. Čeprav realno gledano sem 100% to že mogoče prej videl a se ne spomnim, da sem. Se pa nekako še spomnim "miselnega razvoja" tega hlajenja...
Me je pa to spomnilo na en dogodek iz otroštva: Razmišljal sem (nimam pojma zakaj) kako bi izboljšal hlajenje disk zavor in sem prišel do ideje, da bi imel "votli disk", kjer imamo notri kanale za zajem zraka. Itak, da sem potem ugotovil, da to že obstaja Sem pa prepričan, da sem se to sam spomnil. Čeprav realno gledano sem 100% to že mogoče prej videl a se ne spomnim, da sem. Se pa nekako še spomnim "miselnega razvoja" tega hlajenja...
Gregor P ::
Jaz sem doma staršem zaigral neko skladbo na klavirju, češ kako dobro sem se spomnil - no izkazalo se je, da šlo za nek popularni komad, ki sem ga verjetno enkrat slišal nekje v ozadju na radiu. Razočaranje je bilo kar veliko
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).
kuall ::
Slej ko prej bodo v ai zacel vgrAjevat zavest. Kontroliranje zblojenih misli. Cist neodvisni mozgani, ki kontrolirajo sanjaski divji del.
Gregor P ::
Zato ker pišem po resnici :-)
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).
c23po ::
ker dejansko se lahko nekaj spomniš izmisliš in nimaš besede za to.
kako veš da si si nekaj spomnil in da nisi samo predvideval nekih besed, ki si jih nekje že slišal?
Naši možgani so evolucijsko pogojeni na delovanje: vidim medveda - bežim - povem: "medved me preganja". Če bi bilo obratno, bi kot vrsta ne obstajali.
Računalniki nimajo spominov.
Vredno ogleda ...
Tema | Ogledi | Zadnje sporočilo | |
---|---|---|---|
Tema | Ogledi | Zadnje sporočilo | |
» | Raziskava: aktualni veliki jezikovni modeli nimajo pojavnih lastnostiOddelek: Novice / Znanost in tehnologija | 7442 (2241) | c23po |
» | Umetna inteligenca iz 60. let bolj človeška od lanskega GPT-3.5Oddelek: Novice / Znanost in tehnologija | 5779 (3894) | asdf1223 |
» | Elon Musk je predstavil GrokOddelek: Novice / Znanost in tehnologija | 8143 (3858) | Poldi112 |
» | Še eno v vrsti javnih opozoril na nevarnosti umetne inteligence (strani: 1 2 )Oddelek: Novice / NWO | 12152 (8031) | darkolord |
» | OpenAI naznanil GPT-4Oddelek: Novice / Znanost in tehnologija | 10940 (6619) | Miki N |