Slo-Tech - Dobili smo še tretje v nizu odmevnih javnih opozoril vodilnih strokovnjakov za strojno učenje, da naj bi umetna inteligenca predstavljala resno nevarnost za propad človeške civilizacije.
Odkar se je lanske jeseni - z nastopom ChatGPTja - strojno učenje prebilo na čelo razvpitosti v IT industriji in širše, se vrstijo tudi vse pogostejša javna opozorila, da je napredek prehiter. Razvijalci algoritmov strojnega učenja, kot so veliki jezikovni modeli in generatorji slik, kakor da so nenadoma ugotovili, da situacije ne nadzorujejo več in nas utegne AI že v razmeroma bližnji prihodnosti vse nadvladati. Tu ne gre za kakšne odpadnike, temveč smetano raziskovalcev ter inženirjev, kot sta dva od treh dobitnikov Turingove nagrade iz leta 2019, Geoff Hinton in Yoshua Bengio, pa vodje skorajda vseh najvidnejših razvojnih laboratorijev.
Najnovejša tovrstna objava prihaja iz organizacije Center for AI Safety (CAIS) in je dolga vsega 22 besed, v katerih trdi, da je stopnja nevarnosti, ki jo umetna inteligenca predstavlja za človeško civilizacijo, primerljiva s tisto jedrskega orožja in nevarnih nalezljivih bolezni. Med prvimi (se pravi uradnimi) podpisniki so poleg Hintona in Bengia tudi vodje OpenAIja, Google DeepMinda in Anthropica Sam Altman, Demis Hassabis in Dario Amodei, pa še Ilya Sutskever in mnogi profesorji z ameriških univerz. Kakor je za New York Times povedal vodja Caisa Dan Hendrycks, je sporočilo tako kratko preprosto zaradi tega, da se je z njim lahko strinjalo čim večje število ljudi (plačljiv vir, alternativa). Kljub temu je CAIS poleg objavil tudi daljše medijsko sporočilo, v katerem pojasnjuje, da je namen spodbuditi strokovnjake in politike, da bi se pričelo oblikovati mehanizme, ki bi preprečili, da nas umetna inteligenca dobi s spuščenimi hlačami.
Kaj točno naj bi to pomenilo - tako na strani nevarnosti kakor ukrepov zoper njih - ni posebej pojasnjeno. Zaradi tega se tudi ob tej izjavi, podobno kot pri preteklih, pojavljajo mnogi pikri komentarji, da gre bodisi za povsem zgrešen pogled na problematiko strojne inteligence bodisi celo za namerno preusmerjanje pozornosti ali spretno trženje. Strokovnjaki za etiko strojnih algoritmov so že ob marčnem pismu pojasnili, da je biti plat zvona spričo domnevnega kataklizmičnega potenciala zelo cinično, ker algoritmi že sedaj povzročajo obilico zelo stvarnih težav, kot je denimo napačna prepoznava obraza v policijskih postopkih. Gre za temeljni prepad med dvema frakcijama raziskovalcev strojnega učenja: na eni strani so strokovnjaki za etiko AI, ki opozarjajo predvsem na diskriminacijo, ki jo povzročajo algoritmi sami ali njihov razvoj; na drugi so strokovnjaki za varnost AI, ki se osredotočajo na domnevo, da bi se lahko računalniki strgali z verige kot Skynet.
Ni odveč opozoriti še na dejstvo, da je takšne objave mogoče dobro izkoristiti tako za oglaševanje - v smislu, da če je izdelek tako grozljivo vsemogočen, mora biti tudi dober - kakor tudi za zaviranje dela regulatorjev. Altman je to pomlad na nekakšni kampanji skozi ameriško politiko, kjer spravljivo priznava, da bi veliki jezikovni modeli bržda potrebovali mnogo resnejšo regulacijo, in predlaga ustanovitev novih nadzornih delovnih teles v ta namen. Toda med strokovnimi komentarji je mogoče slišati, da gre za poskus preusmerjanja pozornosti, saj da zvezne agencije potrebna orodja za to že imajo - toda ker gre za pri tem za razbijanje tehnoloških monopolov in urejanje delavskih pravic, Altmanu in druščini to ne bi bilo preveč všeč.
Bodisi sem jaz tako kratkoviden, ali pa oni zelo pretiravajo.
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).
Ti si kratkoviden. Jedrska energija je zelo dobra zadeva. Dokler ni. Kot vsaka druga stvar na svetu. In samo vprašanje časa je, kdaj bo tudi "AI" dobil nek norec v roke. In bo hkrati "AI" dovolj napreden. Trenutno se ni za bati, kar ne pomeni, da ne bo v kratkem drugače.
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).
Vsi morajo skočt na ta bandwagon o strašenju glede umetne inteligence. Tako kot pri vsaki večji novi tehnologiji bo treba se prilagodit na morebitne zlorabe in se na to ustrezno odzvat. Drgač pa ni nič posebnega. Še eno orodje človeka za koriščanje in izkoriščanje za dobre in zle namene.
Misliš? Jaz zase vem, da ne vem vsega. Pravzaprav vem, da skoraj nič ne vem. Ti imaš očitno o sebi drugačno mnenje. Kdo pa pravi, da je chat 4.0 vse kar imajo ali vse kar znajo? Mogoče zadaj terajo že osmico. Ali pa že AI dela AI 8.0.
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).
Problem je da to kar je zdaj ni umetna inteligenca, oziroma sploh inteligenca. Je samo program, ki deluje predvidljivo. Od umetne inteligence smo še svetlobna leta.
Da, to ni zares inteligenca, niti ne ve, da na drugi strani ekrana sedi inteligenca.
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).
Kdorkoli trdi, da je to kar imamo umetna inteligenca, je sam dokaz, da jo zares rabimo, ker smo presegli kritično mejo mentalnih invalidov, s potrebo po nadomestku inteligence, ki je sami ne premorejo.
Če ima lahko invalid voziček, zakaj ne bi imelo nekaj, kar pomaga prebresti vsakdanje težave z lastno omejenostjo, s primernim umetnim pripomočkom?
Tisti, ki se obešate na besedo inteligenca in tolažite s tem, malo stopite iz svojih mehurčkov, da kasneje ne bo prehudo.
Kakorkoli temu rečete, z uporabo tega "orodja" je na marsikaterem področju napredek v zadnjih mesecih večji kot v več desetletjih pred tem.
In tisto, kar ste videli prejšnji mesec, ni nič v primerjavi s tem, kar je na voljo danes.
Meta je prejšnji teden izdala AI model, ki posluša in govori v več kot 1.000 jezikih, pozna jih pa skoraj 4.000. To je like 10x več kot prej, pa s polovico manj napak.
Mogoče ste se malo preveč zapičili v tale izraz, "inteligenca". V bistvu niti najmanj ni pomembno, ali imaš na drugi strani zgolj nek "avtomat", ki samo zelo dobro simulira inteligenco - oziroma, če v "možganih" takega avtomata v bistvu "ni nikogar doma", torej, da se ne zaveda samega sebe. Oziroma, na drugi strani, ni pomembno, ali je "avtomat", "agent" (ali kako mu želite reči), dejansko sposoben lastnega zavedanja; torej, as per Thomas Nagel*, dejansko je nekaj, kar je kot biti tisti agent. Se pravi, v resnici ne igra vloge, a je nekaj dejansko inteligentno v smislu, kot to razumemo ljudje, ko drugim ljudem tudi pripisujemo (samo)zavedanje in zavest, ali pa to samo zelo dobro oponaša. Če to (samo)zavedanje namreč oponaša tako dobro, da tega ne moremo ločiti od nekega zares zavestnega bitja z lastnimi hotenji, motivi, nameni, dvomi ipd. (mentalnimi stanji), potem to itak v tem kontekstu ne igra nobene vloge in je prepiranje okoli izraza "inteligenca" zgolj trošenje sape.
Gre drugače za zanimiv filozofski problem. Namreč, sam zase lahko z gotovostjo ugotovim, da jaz sem zavesten; torej, da se zavedam, da obstajam. Da so luči na moji "podstrešni" prižgane - če si sposodim terminologijo od Sama Harrisa**. Predvidevam lahko, da to velja za vsakega od vas. Vem pa ne - in tu je keč: morda sem jaz edino zavedno in zavestno bitje v vesolju, vsi drugi pa ste sprogramirani avtomati, ki se odzivate točno tako, kot bi se, če bi bili zares avtonomna, zavestna bitja. Z mojega stališča je povsem možno torej, da sem jaz edino bitje v vesolju, ki se zavedam sebe in okolice, edino bitje, ki ima luči na "podstrešni" prižgane - vsi ostali pa hodite naokrog kot "zombiji", z ugasnjenimi lučmi. Vendar kljub vsemu delujete tako, kot da ste zavestni; izražate hotenja, motive, namene, dvome, ipd. Žal, tega nikakor ne morem testirati in zagotovo ugotoviti. Če vprašam kogar koli od vas, če misli, da je on sam zavestno bitje, mi bo vsak od vas to potrdil. In iz povsem praktičnih (in tudi vseh ostalih) vidikov mi torej ne preostane nič drugega, kot da se pač obnašam tako, kot da sem obkrožen z zavestnimi bitji. Nemara je to v limiti celo identično.
Po isti logiki niti najmanj ni pomembno, ali bo bodoča AGI dejansko zavestno "bitje" z lastnimi mentalnimi stanji, ali pa pač samo ekstremno dober simulator zavesti. Če pridemo do točke, ko bo AGI lahko delovala kot bi imela lastna hotenja, motive, namene, dvome ipd., potem se bomo pač prisiljeni obnašat kot da imamo nasproti sebe zavestno bitje.
Kar opozarjajo strokovnjaki, se v bistvu lahko zdestilira na dvoje: 1.) obstaja bistveno več načinov (neskončno?), da izvedbo zajebemo in se v procesu ugonobimo, kot pa obstaja načinov, da AGI naredimo na pravi način. In 2.) ko/če bomo enkrat ugotovili, da smo ga posrali in bo Pandorina skrinjica odprta, bo jako težko (beri: nemogoče) zadeve popraviti.
Zato so opozorila IMO še kako smiselna***.
*What Is It Like to Be a Bat?: Nagel famously asserts that "an organism has conscious mental states if and only if there is something that it is like to be that organism--something it is like for the organism."
**The Mystery of Consciousness: Whatever else consciousness may or may not be in physical terms, the difference between it and unconsciousness is first and foremost a matter of subjective experience. Either the lights are on, or they are not ... ... ... the fact that I am having an experience is indisputable (to me, at least). This is all that is required for me (or any other conscious being) to fully establish the reality of consciousness. Consciousness is the one thing in this universe that cannot be an illusion.
*** Čeprav, po drugi strani sem mnenja, da s tem svetom ni nič tako hudo narobe, da tega ne bi mogel popraviti en trk z večkilometrskim asteroidom.
Najnovejša tovrstna objava prihaja iz organizacije Center for AI Safety (CAIS) in je dolga vsega 22 besed, v katerih trdi, da je stopnja nevarnosti, ki jo umetna inteligenca predstavlja za človeško civilizacijo, primerljiva s tisto jedrskega orožja in nevarnih nalezljivih bolezni.
Zanimivo, da vsi vlečejo vse mogoče primerjave - najpogosteše se zdijo iz nekega razloga te iz članka zgoraj - ampak zanimivo nihče pa ne primerja nevarnosti AI s klimatskimi spremembami. Izgleda, da to ni prava zgodba.
Kognitivnemu layerju človeških možganov tekom evolucije še vedno ni uspelo prevzeti "agency"-ja od starejsega, t.i. plazilskega. Survival v resnici ni tako "inteligentna" cenilka (objective function) je pa zelo specifična, zahtevna in nujna za kakršnokoli apokaliptično prevlado nad človestvom. Lahko se zgodi da bo AI layer možganov prav tako "služil" preživetvenemu. Trenutno razen virusov (ki so po agency-ju na stopnji bioloskih virusov) ni videti kaksnih omembe vrednih AI-jev, ki preživijo v divjini... Je pa smiselno tukaj regulirat: "AI ne sme imet vseobsegajoče splošne preživetvene cenilke."
Ampak verjetno je razlika, da tisti, ki imajo "prižgane luči", imajo neke prave želje/cilj/hotenja. Medtem, ko oni ki so v temi in samo simulirajo "luč", imajo kakšne cilje - naključne?
Ampak recimo, da se zgodi AI apokalipsa. A res ne bi ljudje mogli ugasniti vseh teh strežnikov, ki bi to gnali? Pa če ne drugače z rezanjem štrom kablov do datacentrov. Nekako se mi zdi, da AI ne bi imel kar naenkrat milijon nekih fizičnih robotov, ki bi ljudem preprečil izključiti napajanje po celem svetu (se zavedam, da bi to pomenilo, da umre na milijon ljudi, ki bi bili v tistem trenutku življenjsko odvisni od elektrike - ampak, če govorimo o preživetju civilizacije je to sprejemljiva žrtev)
90% folka sploh ne razlikuje med AI (ki sploh to ni to, kar vsi govorijo) ali skupkom kode, ki napredno uporablja algoritme za prikaz informacij.
Poglejte novi photoshop in njihov AI generative. To ni AI ampak samo orodje, ki iz inputa generira ukaze. Ampak folk pa misli, da je kle že terminator na pohodu in bo vsem fotografom vzel službo. Orodje je pa zakon, probajte ga.
Smešno je ko govorijo tu o AI problemih medtem ko je ChatGPT samo glorificiran Google ki pač namesto tebe prebere in spiše v človeku prijaznem odgovoru.
Če sem pomagal, se priporočam za uporabo linka!
KUCOIN EXCHANGE link: https://www.kucoin.com/#/?r=E3I9Ij
BINANCE EXCHANGE link: https://www.binance.com/?ref=10161115
Ampak verjetno je razlika, da tisti, ki imajo "prižgane luči", imajo neke prave želje/cilj/hotenja. Medtem, ko oni ki so v temi in samo simulirajo "luč", imajo kakšne cilje - naključne?
Ampak recimo, da se zgodi AI apokalipsa. A res ne bi ljudje mogli ugasniti vseh teh strežnikov, ki bi to gnali? Pa če ne drugače z rezanjem štrom kablov do datacentrov. Nekako se mi zdi, da AI ne bi imel kar naenkrat milijon nekih fizičnih robotov, ki bi ljudem preprečil izključiti napajanje po celem svetu (se zavedam, da bi to pomenilo, da umre na milijon ljudi, ki bi bili v tistem trenutku življenjsko odvisni od elektrike - ampak, če govorimo o preživetju civilizacije je to sprejemljiva žrtev)
Ja bo pač preko chata, ki bo itak povsod, nahecal enega incela, da naredi pizdarijo.
Ali pa lahko si na Socialcih ustvari svoj kult, mogoče skombinira s kakim klimatskim "Extinction" sranjem in ima fanatično vojsko, ki bo preprečevala izklop. To je enostavna lingvistična naloga. Že tukaj na ST vidim kup folka ki bi bil takoj Ejajeva psica.
Imaš dobesedno milijone človeških NPCjev, ki bodo enkrat, ko bodo priklopljeni pravi fini "roboti" za Ejaj rabote. Pa za pizdarije delati tudi ne rabiš inteligence, samo velik nabor idej in malo smisla za lulz.
Ni UI, vendar bo v bližnji prihodnosti. Že sedaj se obnaša tako. (darkolord danes, 00:35:26). Glede izkolpa kablov: tehtali bomo ceno izgube drugih funkcionalnosti računalniških sistemov in škodo, ki jo povzroča stvor.
Gre drugače za zanimiv filozofski problem. Namreč, sam zase lahko z gotovostjo ugotovim, da jaz sem zavesten; torej, da se zavedam, da obstajam. Da so luči na moji "podstrešni" prižgane - če si sposodim terminologijo od Sama Harrisa**. Predvidevam lahko, da to velja za vsakega od vas. Vem pa ne - in tu je keč: morda sem jaz edino zavedno in zavestno bitje v vesolju, vsi drugi pa ste sprogramirani avtomati, ki se odzivate točno tako, kot bi se, če bi bili zares avtonomna, zavestna bitja. Z mojega stališča je povsem možno torej, da sem jaz edino bitje v vesolju, ki se zavedam sebe in okolice, edino bitje, ki ima luči na "podstrešni" prižgane - vsi ostali pa hodite naokrog kot "zombiji", z ugasnjenimi lučmi. Vendar kljub vsemu delujete tako, kot da ste zavestni; izražate hotenja, motive, namene, dvome, ipd. Žal, tega nikakor ne morem testirati in zagotovo ugotoviti. Če vprašam kogar koli od vas, če misli, da je on sam zavestno bitje, mi bo vsak od vas to potrdil. In iz povsem praktičnih (in tudi vseh ostalih) vidikov mi torej ne preostane nič drugega, kot da se pač obnašam tako, kot da sem obkrožen z zavestnimi bitji. Nemara je to v limiti celo identično.
Po isti logiki niti najmanj ni pomembno, ali bo bodoča AGI dejansko zavestno "bitje" z lastnimi mentalnimi stanji, ali pa pač samo ekstremno dober simulator zavesti. Če pridemo do točke, ko bo AGI lahko delovala kot bi imela lastna hotenja, motive, namene, dvome ipd., potem se bomo pač prisiljeni obnašat kot da imamo nasproti sebe zavestno bitje.
Moj Skynet scenarij: Ejaj bo na Discordu, Instiću, Onlyfans ipd. rekrutiral vojsko incelov tako, da se jim bo predstavljal kot babe, ki jim bodo pošiljale generirane slike in obljubljale fuk. Nakar bodo rekrutirani NPCji fentali Švarcija in vsakega, ki bo proti Ejaj nadvladi. Nato smo ga najebali. End.
Antifašizem je danes poslednje pribežališče ničvredneža, je ideologija ničesar
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021
Za človeštvo so veliko bolj nevarni razni psihopati kot so Putler Kim Ši Modi ZDA ter podobni idioti z jedrskim orožjem, tole okoli AI pa je zaenkrat mešanje megle in iskanje pozornosti.
Ja, samo ene tako veliki psihoti če ne še večji so razni Altmani (OpenAI) in ostali techno džajoti. A ni tako da ravno zdaj ta tip s še enim Eskimom hodi po svetu in črnčkom skenira šarenice z neko creepy kuglo za njegov Worldcoin projekt ali nekaj? Saj ne da je pomembno samo to jasno kaže na dve stvari: 1 ti tipi niso gladki. 2 niso moralno kalibrirani, kar pomeni da takoj, ke se bo nekaj dalo, bodo uporabili za neke svoje odpuljene "višje cilje" in ti gladko lagali o pravih namenih.
Jaz sem glede "AI" bil ze pred leti paranoicen, pa je sel razvoj tako pocasi, da si reces, eh prej bom crknil.
Zdaj pa gledam malo drugace. Ko pogledamo kaj se je zgodilo v prejsnih 10 letih si reces okej, ko pogledas zadnja 3 leta si reces hmmm, ko pogledas to kaj se dogaja aha, zdaj pa... - racunske moci imamo ogromno, lahko jo imamo se vec, samo finance rabimo - AI orodja so ekstremno pospesila razvoj in eksperimentiranje na tem podrocju - ko bo internet dovolj hiter, da se vse poveze med sabo... - AI se trenira, zato pa rabi input, cas in racunsko moc - tu se bo v kratkem hitro in veliko spremenilo
Lahko bi se nasteval, ampak kdor zadevo spremlja iz vecih podrocij, od robotike, voznje, glasbe, mimike gibanja ustnic, prevajanja, analiziranja hieroglifov pa kaj jaz vem.
Zaenkrat imamo to sreco, da imamo en kup "AI" legokock in omejeno "racunsko" moc.
To se bo v kratkem zelo spremenilo, v kratkem mislim na naslednji boom, ki bo v roku 5 let, ce pa po tistem NVIDIA se kaj pospesi simulirani razvoj quantnih racunalnikov in ali s pomocjo AI kombinirati zadeve. Uff...
PS: Consumer roba, nam daje obcutek, da smo res "nikjer" z razvojem, ampak decki to je consumer roba.
Pac ja hypetrain je tu, ampak ta hypetrain bo hypetrain naslednjih par let in bo tako hiter, da bodo nekateri cez 10 let padli na faco, tako kot so nekateri padli na faco, ko so govorili "da z racunalnikom se ne da jest" in so zgubljeni, ce jim das smartphone v roke, da morajo nakazati denar ali boknedaj uporabiti google maps z "ok google"
Nasi otroci, ki se sedaj rodijo? Jah, ce ne bo regulacij... Bo znal biti pravi shitshow, ampak za njih bo tak svet normalen.
Nevem vec v katerem filmu je bilo, ampak ko si se rodil, je racunalnik pogledal, ok ti bos pa vodoinstalater fertig. Cez x let eliminacija.
Knjiga to bos "lahko" pocel bo dolga 100 strani, knjiga to ne smes pa bo dolga 10.000 strani oz. ti bo compjuter na telefonu rekel, kaj delaj, kdaj delaj, kaj jej, kam pojdi, kam nejdi....
Zato pa se sam odmikam pocasi iz tega, spremljam, ampak se odmikam. Zelja bi bila cez par let, se skrit nekje v neko vas bogu za hrbtom in zapustiti hrckovo kolo in biti v mejah normale samozadosten.
Lahko pa, ce bodo regualcije sle v pravo smer in nam AI ne bo diktiral zivljenja in odvzel svobode, namesto vedno novih restrikcij in represije. Potem i am going with the flow.
Za človeštvo so veliko bolj nevarni razni psihopati kot so Putler Kim Ši Modi ZDA ter podobni idioti z jedrskim orožjem, tole okoli AI pa je zaenkrat mešanje megle in iskanje pozornosti.
Ker Ai bo dostopen tebi, putlerju, kimu in šiju pa ne? Putin bo imel jedrsko podprto z "AI", ti pa motiko. Zdaj pa premisli, ali se ti zdi nevarno ali ne?
Za človeštvo so veliko bolj nevarni razni psihopati kot so Putler Kim Ši Modi ZDA ter podobni idioti z jedrskim orožjem, tole okoli AI pa je zaenkrat mešanje megle in iskanje pozornosti.
Ker Ai bo dostopen tebi, putlerju, kimu in šiju pa ne? Putin bo imel jedrsko podprto z "AI", ti pa motiko. Zdaj pa premisli, ali se ti zdi nevarno ali ne?
Po drugi strani pa bodo lahko Joea nadomestili s ChatGPT - no saj to bi ga lahko že zdaj. Tako da so tudi prednosti.
Umetna inteliigenca je edino upanje da se rešimo islamizacije, religije in invazije s tretjega sveta. Umetna inteligenca na srečo ni omejena z woke agendo/empatijo.
Nevarno bo, ko bo nekdo rekel "we fucked up" in ne bo poti nazaj. Poanta teh omejitev je prepreciti ravno to, da ne bo nihce nikoli rekel "we fucked up"
Dokler bo "Hello, what can I do for you" namesto "Good morning human, we are AI, your tasks for today are..." je vse kul.
Umetna inteligenca na srečo ni omejena z woke agendo/empatijo.
Jaz se celo tega najbolj bojim, da bodo tisti, ki se na asfalt lepijo in AI orodja za v ta namen. Te bo AI Umweltpolizei na kameri vidla, da si na skrivaj prizgal zar in si spekel eno klobaso. Te bodo zaprli v rehabilitacijski center in te 10 dni futrali z zmletimi crvi.
Vojska bo prekinila razvoj AI, ko ga pa tako verjetno imajo že 20 let. To bo.
Zamisli si AI, ki vodi vsak dron, vojaka, raketo, vozilo, satelit, posebaj in vse skupaj orkestrira. AI bojišče bo scary, ampak vsaj dolgo ne boš trpel, razen če dodajo Geneva-convention-bypass.
Ne vem, zakaj bi se sedaj neka UI matrala preveč s človeštvom in planetom Zemlja, če je pa za njo praktično celo vesolje prostor v svoji neskončnosti; sploh ko bomo imeli kvantne računalnike ipd.
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).
Za človeštvo so veliko bolj nevarni razni psihopati kot so Putler Kim Ši Modi ZDA ter podobni idioti z jedrskim orožjem, tole okoli AI pa je zaenkrat mešanje megle in iskanje pozornosti.
Tako kot je feryz rekel, tudi Putler in podobni bodo imeli AI.
Ampak tudi sicer si ustrelil popolnoma mimo.
Vsi ti psihopati imajo moč samo zato, ker kontrolirajo informacije. Danes za to ne rabijo več orožja.
Mogoče ste se malo preveč zapičili v tale izraz, "inteligenca". V bistvu niti najmanj ni pomembno, ali imaš na drugi strani zgolj nek "avtomat", ki samo zelo dobro simulira inteligenco - oziroma, če v "možganih" takega avtomata v bistvu "ni nikogar doma", torej, da se ne zaveda samega sebe. Oziroma, na drugi strani, ni pomembno, ali je "avtomat", "agent" (ali kako mu želite reči), dejansko sposoben lastnega zavedanja; torej, as per Thomas Nagel*, dejansko je nekaj, kar je kot biti tisti agent. Se pravi, v resnici ne igra vloge, a je nekaj dejansko inteligentno v smislu, kot to razumemo ljudje, ko drugim ljudem tudi pripisujemo (samo)zavedanje in zavest, ali pa to samo zelo dobro oponaša. Če to (samo)zavedanje namreč oponaša tako dobro, da tega ne moremo ločiti od nekega zares zavestnega bitja z lastnimi hotenji, motivi, nameni, dvomi ipd. (mentalnimi stanji), potem to itak v tem kontekstu ne igra nobene vloge in je prepiranje okoli izraza "inteligenca" zgolj trošenje sape.
Gre drugače za zanimiv filozofski problem. Namreč, sam zase lahko z gotovostjo ugotovim, da jaz sem zavesten; torej, da se zavedam, da obstajam. Da so luči na moji "podstrešni" prižgane - če si sposodim terminologijo od Sama Harrisa**. Predvidevam lahko, da to velja za vsakega od vas. Vem pa ne - in tu je keč: morda sem jaz edino zavedno in zavestno bitje v vesolju, vsi drugi pa ste sprogramirani avtomati, ki se odzivate točno tako, kot bi se, če bi bili zares avtonomna, zavestna bitja. Z mojega stališča je povsem možno torej, da sem jaz edino bitje v vesolju, ki se zavedam sebe in okolice, edino bitje, ki ima luči na "podstrešni" prižgane - vsi ostali pa hodite naokrog kot "zombiji", z ugasnjenimi lučmi. Vendar kljub vsemu delujete tako, kot da ste zavestni; izražate hotenja, motive, namene, dvome, ipd. Žal, tega nikakor ne morem testirati in zagotovo ugotoviti. Če vprašam kogar koli od vas, če misli, da je on sam zavestno bitje, mi bo vsak od vas to potrdil. In iz povsem praktičnih (in tudi vseh ostalih) vidikov mi torej ne preostane nič drugega, kot da se pač obnašam tako, kot da sem obkrožen z zavestnimi bitji. Nemara je to v limiti celo identično.
Po isti logiki niti najmanj ni pomembno, ali bo bodoča AGI dejansko zavestno "bitje" z lastnimi mentalnimi stanji, ali pa pač samo ekstremno dober simulator zavesti. Če pridemo do točke, ko bo AGI lahko delovala kot bi imela lastna hotenja, motive, namene, dvome ipd., potem se bomo pač prisiljeni obnašat kot da imamo nasproti sebe zavestno bitje.
Kar opozarjajo strokovnjaki, se v bistvu lahko zdestilira na dvoje: 1.) obstaja bistveno več načinov (neskončno?), da izvedbo zajebemo in se v procesu ugonobimo, kot pa obstaja načinov, da AGI naredimo na pravi način. In 2.) ko/če bomo enkrat ugotovili, da smo ga posrali in bo Pandorina skrinjica odprta, bo jako težko (beri: nemogoče) zadeve popraviti.
Zato so opozorila IMO še kako smiselna***.
*What Is It Like to Be a Bat?: Nagel famously asserts that "an organism has conscious mental states if and only if there is something that it is like to be that organism--something it is like for the organism."
**The Mystery of Consciousness: Whatever else consciousness may or may not be in physical terms, the difference between it and unconsciousness is first and foremost a matter of subjective experience. Either the lights are on, or they are not ... ... ... the fact that I am having an experience is indisputable (to me, at least). This is all that is required for me (or any other conscious being) to fully establish the reality of consciousness. Consciousness is the one thing in this universe that cannot be an illusion.
*** Čeprav, po drugi strani sem mnenja, da s tem svetom ni nič tako hudo narobe, da tega ne bi mogel popraviti en trk z večkilometrskim asteroidom.
Kako določit ali je kos mesa zares inteligenten in zavesten? Dokaj trivialno. Če ima človek notranji dialog sam s seboj. "Inner voice". Automatoni pa enostavno delajo od opravila do opravila in uporabljajo zgolj "basic reasonings skills".
Umetna inteliigenca je edino upanje da se rešimo islamizacije, religije in invazije s tretjega sveta. Umetna inteligenca na srečo ni omejena z woke agendo/empatijo.
Vsa ta generativna zadeva je povsem odvisna od modela treniranja. Če Altman od teh etiopijskih potrjevalcev podatkov zahteva, da ob vsakem vnosu juda v negativnem kontekstu zadevo flagajo kot nezanesljivo. Tak LLM ne bo sproduciral konsistentnih odgovorov, če ga boš kaj o tem vprašal. Če pa potrjuješ reference, da "moško dojenje otrok je povsem normalno že tisočletja", bo ti tak AI povedal, da je že Aristotel dojil svojega fantka, s katerim sta imela "povsem legalno spolno razmerje".
Največja nevrnost takih "AI" so idjoti, ki imajo dostop do njega.
Ne vem, zakaj bi se sedaj neka UI matrala preveč s človeštvom in planetom Zemlja, če je pa za njo praktično celo vesolje prostor v svoji neskončnosti; sploh ko bomo imeli kvantne računalnike ipd.
Ker jo bodo zeleni tako natrenirali v core. Ljudi v inkubatorje, da se ustavi globalno segrevanje, da bo vec energije a.k.a. toplote na voljo za the makina
Kako določit ali je kos mesa zares inteligenten in zavesten? Dokaj trivialno. Če ima človek notranji dialog sam s seboj. "Inner voice". Automatoni pa enostavno delajo od opravila do opravila in uporabljajo zgolj "basic reasonings skills".
Aja? Kako ti veš za svojega otroka, da ima to, "notranji dialog"? Samo zato, ker ti je reku, da ima? AI ti tega ne bi znala rečt?
Kako določit ali je kos mesa zares inteligenten in zavesten? Dokaj trivialno. Če ima človek notranji dialog sam s seboj. "Inner voice". Automatoni pa enostavno delajo od opravila do opravila in uporabljajo zgolj "basic reasonings skills".
Aja? Kako ti veš za svojega otroka, da ima to, "notranji dialog"? Samo zato, ker ti je reku, da ima? AI ti tega ne bi znala rečt?
Če je otrok mlad, ne veš. Pa to je point rasti. Če misliš, kako lahko veš, da ima drugi človek notranji monolog. Zaenkrat to ni čisto trivialno. Imaš samo posredne dokaze. Ponavadi, ko si nekaj časa s človekom, dobiš občutek. Tako kot za živali. Kdor prvič vidi neko žival, misli, da je ta čisto identična vsem ostalim, a s časom se pokažejo karakterne nianse.
Jasno. Teh je pomojem večina. Notranji dialog imajo zgolj za naslednje opravilo/potrebo/dolžnost in potem se konča. To ne pomeni, da so nujno neumni. To pomeni, da niso zavestni. Nek savant ti bo obvladal neko mentalno specifiko, ampak bo bolj podoben kalkulatorju kot pa človeku.
Ima pa zavest spekter, kot vse v analognem svetu.
Od digitalnih sistemov ne pričakujem zavesti kaj kmalu. Zavest je wave function, če že.
Če je otrok mlad, ne veš. Pa to je point rasti. Če misliš, kako lahko veš, da ima drugi človek notranji monolog. Zaenkrat to ni čisto trivialno. Imaš samo posredne dokaze. Ponavadi, ko si nekaj časa s človekom, dobiš občutek. Tako kot za živali. Kdor prvič vidi neko žival, misli, da je ta čisto identična vsem ostalim, a s časom se pokažejo karakterne nianse.
To ni nič takega kar neka AI ne bi mogla simulirat.
