Mednarodna delavnica in okrogla miza: "Soobstoj z umetno inteligenco"

kuall je 10. nov 2019 ob 19:27 izjavil:

Cruz je 10. nov 2019 ob 17:46 izjavil:

Recimo, da je nekdo odvisen od heroina. En dan se odloči, da bo prenehal z uživanjem substance. Telo mu govori drugače, "on" pa se ne da in gre nasproti nagonom. Zakaj to ni primer svobodne volje?

Zato, ker je to samo primer tega, da so naši možgani razdvojeni na razumski in nagonski del in nič drugega. Poteka bitka med tema deloma. Če zmaga razum to še ne pomeni, da obstaja svobodna volja. V bistvu zamenjuješ razum za svobodno voljo. Tudi razum ima svoje predeterminirane vzroke.

To že, ampak kvantna mehanika je malce zajebala in utežila idejo trdega determinizma. Jaz se nagibam proti soft determinizmu.

nevone je 11. nov 2019 ob 09:33 izjavil:

Povsem svobodne volje res ni, a če ljudje ne morejo racionalizirati tega jim ni dobro jemati te iluzije. Nenazadnje se ljudje odločamo med opcijami in kadar imamo več opcij in se odločimo za eno, je tu vsaj delno prisotna svobodna volja, čeprav ni čisto svobodna. Tudi tisti, ki pravimo, da je to iluzija, se je pogosto poslužujemo.

o+ nevone

Povsem svobodne volje gotovo ni, ker takšen koncept sploh nima smisla. Ta "delno prisotna svobodna volja", to je vprašanje.

Itak moraš delovati, kot če bi imel svobodo, drugače hitro padeš v brezno.

Po mojem mnenju je zelo poučna zgodba o visokofrekvenčnem borznem trgovanju. Ki seveda poteka povsem avtomatizirano, algoritemsko. Saj ljudje preprosto nismo sposobni tako hitrih odzivnih časov.

Zadeva je na nek način nora. Povprečni čas držanja delnice je nekaj deset sekund, vsako sekundo pa se izvede na milijone algoritemskih transakcij, na uspeh pa vpliva tudi latenca (zato borzne hiše investirajo ogromne vsote denarja v zmanjševanje latence). Skratka, gre za visoko avtonomen sistem, ki ga ljudje preprosto nismo sposobni resno kontrolirati.

Leta 2011 so v nekem takem algoritmu (podjetja Axa Group) odkrili napako, zaradi katere je algoritem napravil 217 milijonov dolarjev škode. Leta 2012 pa je napaka v algoritmu podjetju Knight Capital v eni uri povzročila skoraj pol milijarde dolarjev škode in ga pognala na rob bankrota.

Visokofrekvenčno trgovanje naj bi tudi povzročilo bilijonski zlom ameriški borze leta 2010 (Flash Crash), saj so v nasprotju z običajnimi tržnimi igralci algoritmi ohranili enake zaloge tudi kadar so se na trgu pojavila likvidnostna neravnovesja. S tem so povzročili nelikvidnost celotnega trga ter posledično njegov padec. (Vir.) Zanimiv je tudi fenomen botnega nakupovanja.

Skratka, v uporabi so sistemi umetne inteligence, ki so kompleksni in jih ljudje nismo sposobni v celoti razumeti in včasih imajo tudi povsem nepredvidene učinke. Včasih povzročijo resno škodo, zaradi njih propadejo podjetja, ljudje ostanejo brez služb, skratka, imajo velik vpliv na naša življenja. Hkrati pa jih mi nismo sposobni povsem razumeti in predvideti vseh učinkov njihove uporabe.

Kot če bi imeli zdravilo, ki bi sicer odlično delovalo, samo vsake toliko časa bi se pojavil kakšen čuden zaplet in bi par ljudi umrlo - nam pa ne bi bilo niti približno jasno ob kakšnih pogojih se to zgodi.

Kar je zanimivo, je pa naslednje vprašanje. Če je ta tehnologija tako problematična, zakaj je ne prenehamo uporabljati?

V praksi se izkaže, da to ni mogoče. Tako kot v praksi ni mogoče prenehati uporabljati elektriko. Saj teoretično lahko odklopiš hišo iz štroma... ampak v praksi se to ne dogaja preveč pogosto. Prav tako kot se tu pa tam kakšen jype sicer vozi s kolesom, pa malo pridiga o ekologiji, ampak večina ljudi se bo pa še vedno vsak dan vozila z avtomobilom v službo.

Skratka, v uporabi imamo sistem, ki ga ne razumemo povsem, ki ga ne znamo povsem kontrolirati, ki ga ne zmoremo prenehati uporabljati - pa so naše službe, ekonomija in življenja zelo odvisni od njega. Kar je pravzaprav definicija Skyneta.

Z eno razliko - obstoječi sistem nima zavesti. Vprašanje je - ali je sploh "potrebno", da jo ima? (Se pravi - ali nas sistem lahko "zasužnji", pa čeprav nima zavesti?)

poweroff je 11. nov 2019 ob 22:16 izjavil:

V praksi se izkaže, da to ni mogoče

Ne nakladaj. Visokofrekvenčno trgovanje je možno izključno zato, ker so regulatorji plačani s strani tistih, ki se take neumnosti igrajo. Ko bo to prepovedano, tudi visokofrekvenčnega trgovanja ne bo več.

Eden od pogledov na AI:

https://www.goodreads.com/series/81189-...

poweroff je 12. nov 2019 ob 08:48 izjavil:

Poanta: ne-uporabe algoritmov si nismo sposobni privoščiti.

Sposobni smo si privoščiti postavljati pravila.

poweroff je 12. nov 2019 ob 08:48 izjavil:

Pa znani so primeri, ko se algoritmi uporabljajo za odločanje o pogojnih izpustih. Itd.

V takih primerih bodo zelo dobrodošle informacije o tem, kako vplivati na te algoritme. Podobno kot postopki, kako se pozicionirati visoko v Googlovih iskalnih algoritmih.

Namesto politikov glasovanje o tem kateri comiti se approvajo za AI algoritem ki vodi državo. Perfect rešitev.

Zakaj tako mislis?

[Michael] je 13. nov 2019 ob 10:21 izjavil:

Zakaj tako mislis?

Poglej samo to temo!

Da, kot bo tudi prenos v živo na FB strani zavoda.

jype je 21. nov 2019 ob 02:14 izjavil:

gruntfürmich je 13. nov 2019 ob 09:41 izjavil:

v prihodnosti bodo prvi proti AI današnji najgorečnejši zagovorniki (levaki)

Desničarji se AI bojite, ker bo vaše laži takoj z rdečo podčrtala.

Mah model ki bo debunkal leve oslarije bo bistveno bol enostaven, zato bo prej na sceni. Tvoji posti bojo rdeči kot vaši poskusi urejati svet po vaše.

Bože mili. Takšne debate potekajo že 40 let, hkrati pa nismo niti blizu kakršnikoli inteligenci. (no seveda, za mnoge je že kalkulator inteligenca).