Še eno v vrsti javnih opozoril na nevarnosti umetne inteligence

tikitoki je 31. maj 2023 ob 14:12 izjavil:

Najaci je AI v pravu! Odda vlogo, kjer navede tolk lazi, da v sram postavi patoloske laznjivce.

Ali ni ničesar oddal. Oddal je celo zadevo advokat.

Ne more. Ker ni pristojna za zastopanje stranke v postopku.

Karlos je 30. maj 2023 ob 21:20 izjavil:

Priporočam ogled

Danes si je kar težko v poplavi podatkov/informacij vzeti uro časa za ogled izobraževalnega videa. Investirana ura je bila povsem vredna tega. Zastrašujoče analogije in zaskrbljujoč prikaz odsotnosti vsakega nadzora, kontrole, razmisleka o stranskih učinkih AI. Par konkretnih primerov je tako mračnih in to že v času zore AI, kaj šele zrelosti, da te vrže na zadnjo kljub sedenju na stolu.

Nabijate slo šit vedeževalci. Takole se napiše kvaliteten post o AI:

Večina strašenja je mim, kot tudi podcenjevanja AI, ki je trenutno razvit. Še veliko AI zim bo preden bo GAI, govorimo o stoletjih, raje tisoč let, ampak bo pa. Musk ga je mim pihnu. Saj tisoč let ni nič gledano malo bolj od daleč.

Preoptimistično napovedujejo razvoj AI, tako kot so v 60ih napovedovali, kaj bo čez par let, ko pa tega ne bo jih bo vse minilo, ustavili ves razvoj in tu bo AI zima.

Tisti, ki bi radi ustavili AI pa so isti kot moj prastric, ko so pri njih kupili 60 let nazaj bcs kosilnico pa je laufal za svojim bratom, da mora nehat kosit, ker da bo uničil travnik in so morali kositi na roke več hektarjev, je zmagal zaviralec ampak samo za kako leto. Tako tudi pri AI zaviralci ne bodo več dolgo mogli bremzat razvoja, če sploh bodo, lajali pa bodo to pa. Zaviralce bo prisilila konkurenca, oni lahko ustavijo in kosijo na roke, bodo pa izpadli bedno, ko bodo sosedje z AI isto stvar naredili 100x hitreje. Jih bo kaj kmalu minilo delat na roke brez AI. Tu je v bistvu dobro, da nimamo svetovne vlade, pač konkurenca med državami, če bo zahod dovolj neumen da ustavi AI bodo pa kitajčki nadaljevali razvoj ali pa celo putlerji.

AI je pripomoček, ki pomaga 1 (pisarniškemu v primeru chatgpt) človeku narediti za 2, 3, 100 ljudi (zaenkat še ne, bo pa kmalu), isto kot kmet s traktorjem naredi za 100 kmetov. Jaz se tega zelo veselim, ker ni nič kaj zabavno na roke kositi hektarje, prepočasi gre, življenje je prekratko za take neumnosti. Torej trenutni AI ne zna narediti nič, kar ne bi znal človek, samo HITREJE naredi dolgočasne stvari. To je bistvo.

Chatgpt je najbolj uporaben za razno parsanje. Daš mu npr špageti kodo od slo šit nuba in rečeš: polepšaj, spremeni v joine, naredi line breake. Perfektno naredi. Tipka namesto tebe, kar naredi programiranje bolj zabavno. Ni daleč čas, ko se bo programiralo v človeškem jeziku, AI pa bo compiler v programerski jezik. ŽE zdaj se da takole zelo lepo programirati, le da je copy pastanje malo nadležno, bodo kmalu naredili en dober IDE, ki ima to lepo integrirano, če že niso.

Naslednji preboj bo, ko bo chatgpt zmožen laufat na tvojih specifičnih podatkih in delat tvoje specifične dnevno ponavljajoče taske. Vsi delamo ponavljajoča dela dan za dnem, jaz večinoam samo limam skupaj pretekle programčke, polovico svoje, polovico iz neta, to limanje pa bi komot naredil AI namesto mene. In vsi ostali delajo podobno, limanje skupaj preteklih projektov. Kdor pravi, da tega ne dela je samo preveč zabit, da bi opazil ta vzorec ali pa prevelik blefer, da bi to priznal, najbrž pa oboje.

Zdejle so se usi malo usral v gate zato, ker je dejansko bil nek presenetljiv preskok s tem chatgpt in to nam da vedeti, da nas bo AI presenečal v razvoju, čeprav tisti, ki so to bolj podrobno spremljali jih ni to nič kaj presenetilo, jaz sem bil začuden nad tem, kako dobro google translate dela že leta, medtem ko so se mu vzvišeni hlapčki smejali, kako zanič prevaja. Vzvišeni hlapčki so velik problem. Bleferstvo je velik problem. Pajaci na tem forumu ste živ dokaz za to.

Mene ne skrbi, če AI iztrebi človeštvo, to bo samo naslednji korak v evoluciji.

Metabond je 31. maj 2023 ob 19:29 izjavil:

saj sem makro nato sam spisal

jasno je, da vsi ti gpt-ji niso ai v pravem pomenu besede; so pa super podpora, sploh ce lahko sam ocenis okvirno pravilnost, in ne samo za pisanje makrojev, zdaj je trenutno pac velik hype in razni filozofski strahovi ipd... kot je nekdo ze napisal, glorificiran iskalnik.

zdaj vem, da se bodo nekateri forumasi razburjali in podobno - ampak meni je pomagal pridobiti najboljse posle do sedaj in to v tehnologiji, ki ni moja najbolj priljubljena, ceprav je tehnologija le orodje za materializacijo resitev in ne resitev sama po sebi.

v katerih trdi, da je stopnja nevarnosti, ki jo umetna inteligenca predstavlja za človeško civilizacijo, primerljiva s tisto jedrskega orožja in nevarnih nalezljivih bolezni.

Z obema živimo že dolga leta, brez težav.

MrStein je 1. jun 2023 ob 00:43 izjavil:

v katerih trdi, da je stopnja nevarnosti, ki jo umetna inteligenca predstavlja za človeško civilizacijo, primerljiva s tisto jedrskega orožja in nevarnih nalezljivih bolezni.

Z obema živimo že dolga leta, brez težav.

Z "AI" verjetno bi tudi lahko, ce ga ne uporabimo nikoli, kot recimo jedrska orozja.

AI bo toliko dober, kot bo tisti, ki bo definiral pogoje, kdaj je neka najdena rešitev v redu.

Kar odpira cel kup opcij za manipulacijo.

Danes se to dogaja preko MSM medijev, v prihodnosti bo to AI.

Ko generira kodo, ki je nihče ne zna pregledati, kdo ti jamči, da je koda brez backdoorov?

Ok malo pa že pomaga tudi izobraževanje; ko sem jaz svojemu otroku predstavil ta orodja, sem mu lepo povedal, kaj zmorejo in kaj ne oz. kje običajno nastanejo težave (halucinacije, napačni oz. izmišljeni viri ipd.) in je to čisto lepo sprejel in ne copy pejsta kar na slepo vsebine v njegova šolska dela - pomeni, da sam od sebe še vedno vse lepo prebere (da preuči in tudi razume prebrano), raziskuje, ker ga to veseli, pregleda vire, če so citati pravilni ipd. Ne vem, zaenkrat zgleda, da je to orodje čisto lepo sprejel - kot orodje pač, v pomoč pri delu nečesa in da se zaveda, da mu bistveno "intelektualno delo" še vedno ne uide. Mogoče bi znala biti kasneje težava, ko bo dosti več vsebine potrebno v kratkem času predelat in ga bi zamikale "bližnjice" (ki to v resnici niso)?

P.S.: obenem sem mu namestil na njegov računalnik tudi program za učenje slepega tipkanja; tako, da je tudi sam že kar hiter pri tipkanju besedila in lahko hitro zapiše svoje misli, ideje ipd. stavke (in ker je še otrok, ne rabi sedaj pisati ne vem kako dolga besedila)*. Dobro tu je še učenje programiranja, glasba itd. - vse to pač izoblikuje nek delovni proces oz. delovne navade.

_{* pozor; seveda je za njegov razvoj zelo oz. izjemno pomembno, tudi klasično fizično pisanje s pisali - tako da pri tipkanju na računalniku je mišljen manjši čas, ki je posvečen za to; nikakor ne kot nadomestilo za "klasiko".}

Ne halucinira AI, prej fantasti, ki jim AI buri njih utopično/distopično domišljijo.

Pravilnejša interpretacija bi bila: "UI" je poznala subjekte naloge: tarče in operaterja. Izračunala je, da do zastavljenega cilja učinkoviteje pride z uničevanjem vseh subjektov. V pravilih je bilo zapisano samo to. Nič več.
Ko bodo "UI" opremili z vsem znanjem o vojnem pravu, taktiki, strategiji, politiki... bo drugače. Veliko dela jih še čaka...

Ne glavni point je, da je clovek, ki je dolocal cilje nesposoben bedak. AI ne bi ubila vec kot enega operaterja, ce bi za tak kill dobila minus 1000x tock, kot za vse ostale kille skupaj, plus se strel v drobovje. Ampak ker je nek nesposobnez pozabil dodati tak (in verjetno se 500 ostalih pogojev) je rezultat bil kot je bil.
Vecji problem pa je, ker bo tak debil programiral pogoje tudi ko se bo slo za realno zivljenje, ne samo za simulacijo.

Point je se vedno enak... ce bi bili pogoji spodobno doloceni bi to naredil enkrat in nikoli vec (ce je kaj od inteligence pri artificial intelligence :)) Pac das tako velik penalty na unicevanje lastne infrastrukture in lastnega osebja, da se nikoli ne splaca. Ampak ker nekdo ni pomislil na kaj takega, je slo pac napacno. Ni problema dokler se gre za simulacijo. Vecji problem bo, ker kot sem napisal prej, bo isti nesposoben kreten, pisal pogoje tudi ko se bo slo zares. Takrat bo pa malo manj smesno.

Ga ni posameznika, ki bi to napisal. Najboljši približek je zbirka pravnih predpisov. Urejajo jo še iz časa Platona.

darkolord je 4. jun 2023 ob 22:10 izjavil:

Vprašanje, če je sploh katerikoli človek sposoben napisati foolproof pravila za to.

To, da bi bilo 100% ok sigurno ne. Pa ne mislim posameznika amapak tudi vecje skupine. Ampak da pa tako osnovna pravila kot je neubijanje in neunicevanje lastne sile in infrastrukture das notri, bi pa moralo biti jasno tudi najvecjim bedakom. No kot kaze tistim v ameriski vojski in njihovim zunanjim podizvajalcem to le ni tako samoumevno. In ravno ti se igrajo z najvecjim arzenalom moznosti, posledice pa potem zares ne morajo biti prav dosti drugacne kot v Terminatorju.

Ne poskuša ločiti, ker ne pozna tega koncepta.

"Sam" pravi takole:

Kot AI nimam sposobnosti razlikovanja med lažmi in resnicami, kot to počnejo ljudje. Nimam prepričanj, občutkov, namenov ali osebnih izkušenj. Odgovore generiram na podlagi vzorcev v podatkih, na katerih sem bil usposobljen. Če zagotovim napačne ali zavajajoče informacije, ni zato, ker bi lagal - to je zato, ker sem naletel na napako pri obdelavi ali razumevanju konteksta, ali ker so bili podatki, na katerih sem bil usposobljen, napačni ali nepopolni.

Vendar je pomembno opozoriti, da čeprav si prizadevam za natančnost, nisem nezmotljiv in ne bi smel biti viden kot edini vir informacij, še posebej v kritičnih zadevah. Vedno se posvetujte z več zanesljivimi viri in strokovnjaki, ko sprejemate pomembne odločitve.

ChatGPT je jezikovni model, ki odlično obvlada predvsem to, da skupaj zlaga besede v prepričljivo celoto.

...toliko, da prepričljivega besedila ne zna sestaviti in ga zato fascinira prepričljivost chatgptja.

harvey je 5. jun 2023 ob 23:35 izjavil:

darkolord je 5. jun 2023 ob 14:56 izjavil:

ChatGPT je jezikovni model, ki odlično obvlada predvsem to, da skupaj zlaga besede v prepričljivo celoto.

Kaj so potem recimo leposlovne knjige, če ne besede zložene v neko celoto s stilom. Stvar pogleda.

Isto, seveda. Saj je zelo dobra primerjava. V leposlovne knjige ne boš šel iskati faktualnih informacij.