Novice » Varnost » Kako pretentati samovozeče avtomobile z zlonamernimi prometnimi znaki
kuall ::
Ti moram bolje razložit, o čem govorim, ko pravim, da je jedro inteligence sposobnost razpoznave podobnosti med stvarmi. V bistvu se gre tu za tisto famozno prepoznavo vzorcev, tudi dekriptiranje neznanih tekstov spada sem noter, tudi učenje jezika pri otrocih spada sem.
Najbolje, da ti dam en primer.
Predstavljaj si, da analiziraš velike količine tekstov dveh jezikov. Zaradi enostavnosti predvidevajmo, da imata jezika isti vrstni red besed v stavkih in nimata sklonov.
Taki stavki, ki bi imeli tole strukturo niso tako pogosti:
Človek lovi leva.
Lev lovi človeka.
Pretvorimo to v tole strukturo
1 2 3
3 2 1
Potem v drugem jeziku imaš pa isto, samo druge številke:
10 11 12
12 11 10
Ker je takih besed, kjer se lahko vrstni red popolnoma obrne in bo stavek še vedno smiseln precej malo lahko na enostaven način zožimo izbor besed, ki lahko pomenijo isto stvar v dveh različnih jezikih. Tu je treba pognat program za pepoznavo analogij, analogije pa bodo posebno pomembne v primerih, kjer jeziki nimajo enakega vrstnega reda besed in najbrž tudi pri sklonih.
To deluje zato, ker je semantika ista v vseh jezikih. V vseh jezikih drži, da lahko človek lovi leva in obratno, ne drži pa, da srna lovi leva.
Najbolje, da ti dam en primer.
Predstavljaj si, da analiziraš velike količine tekstov dveh jezikov. Zaradi enostavnosti predvidevajmo, da imata jezika isti vrstni red besed v stavkih in nimata sklonov.
Taki stavki, ki bi imeli tole strukturo niso tako pogosti:
Človek lovi leva.
Lev lovi človeka.
Pretvorimo to v tole strukturo
1 2 3
3 2 1
Potem v drugem jeziku imaš pa isto, samo druge številke:
10 11 12
12 11 10
Ker je takih besed, kjer se lahko vrstni red popolnoma obrne in bo stavek še vedno smiseln precej malo lahko na enostaven način zožimo izbor besed, ki lahko pomenijo isto stvar v dveh različnih jezikih. Tu je treba pognat program za pepoznavo analogij, analogije pa bodo posebno pomembne v primerih, kjer jeziki nimajo enakega vrstnega reda besed in najbrž tudi pri sklonih.
To deluje zato, ker je semantika ista v vseh jezikih. V vseh jezikih drži, da lahko človek lovi leva in obratno, ne drži pa, da srna lovi leva.
xmetallic ::
krneki0001 je izjavil:
Niso specifične za samovozeče, je pa vprašanje, kaj bo algoritem v tem primeru naredil?
Kaj pa človek lahko naredi?
holabaluza ::
Ti moram bolje razložit, o čem govorim, ko pravim, da je jedro inteligence sposobnost razpoznave podobnosti med stvarmi. V bistvu se gre tu za tisto famozno prepoznavo vzorcev, tudi dekriptiranje neznanih tekstov spada sem noter, tudi učenje jezika pri otrocih spada sem.
Najbolje, da ti dam en primer.
Predstavljaj si, da analiziraš velike količine tekstov dveh jezikov. Zaradi enostavnosti predvidevajmo, da imata jezika isti vrstni red besed v stavkih in nimata sklonov.
Taki stavki, ki bi imeli tole strukturo niso tako pogosti:
Človek lovi leva.
Lev lovi človeka.
Pretvorimo to v tole strukturo
1 2 3
3 2 1
Potem v drugem jeziku imaš pa isto, samo druge številke:
10 11 12
12 11 10
Ker je takih besed, kjer se lahko vrstni red popolnoma obrne in bo stavek še vedno smiseln precej malo lahko na enostaven način zožimo izbor besed, ki lahko pomenijo isto stvar v dveh različnih jezikih. Tu je treba pognat program za pepoznavo analogij, analogije pa bodo posebno pomembne v primerih, kjer jeziki nimajo enakega vrstnega reda besed in najbrž tudi pri sklonih.
To deluje zato, ker je semantika ista v vseh jezikih. V vseh jezikih drži, da lahko človek lovi leva in obratno, ne drži pa, da srna lovi leva.
Tole pa je dost podobno temu, kar naj bi Chomsky postudiral in revolucioniziral, kako se gleda na jezike, AFAIK.
kuall ::
Mah, jaz sem tako navdušen nad to idejo, da komaj čakam, da dobim kaj prostega časa, da jo sprogramiram.
Okapi ::
To seveda ni res. V vsakem jeziku lahko napišeš, da srna lovi leva (in ga ujame, ubije in si iz njegove grive splete jopico). In v pravljičnem svetu to celo drži.
To deluje zato, ker je semantika ista v vseh jezikih. V vseh jezikih drži, da lahko človek lovi leva in obratno, ne drži pa, da srna lovi leva.
kuall ::
Hehe okapi. Ne razumeš. Sem čakal, da bo kdo privlekel ta argument.
Gre se za to, če bi prisluškoval, kaj ljudje govorijo bi redkokdaj slišal, da srna lovi leva. Še manjkrat pa bi slišal, da lev uporablja računalnik. Ali pa da stol sedi na človeku. Bi pa slišal, da ljudje uporabljajo računalnike, pa da levi lovijo gazele v Afriki, da človek sedi na stolu in ne stol na človeku, da je stol pri mizi in ne da je stol na triglavu. Pač vsa dejstva, ki držijo. Analiziraš 1000 knjig v tebi neznanem jeziku in imaš tam notri kar lepo vse informacije, ki jih rabiš, da se naučiš pomena besed. Samo če znaš dovolj dobro dekriptirat neznane tekste.
Gre se za to, če bi prisluškoval, kaj ljudje govorijo bi redkokdaj slišal, da srna lovi leva. Še manjkrat pa bi slišal, da lev uporablja računalnik. Ali pa da stol sedi na človeku. Bi pa slišal, da ljudje uporabljajo računalnike, pa da levi lovijo gazele v Afriki, da človek sedi na stolu in ne stol na človeku, da je stol pri mizi in ne da je stol na triglavu. Pač vsa dejstva, ki držijo. Analiziraš 1000 knjig v tebi neznanem jeziku in imaš tam notri kar lepo vse informacije, ki jih rabiš, da se naučiš pomena besed. Samo če znaš dovolj dobro dekriptirat neznane tekste.
Zgodovina sprememb…
- spremenilo: kuall ()
krneki0001 ::
krneki0001 je izjavil:
Niso specifične za samovozeče, je pa vprašanje, kaj bo algoritem v tem primeru naredil?
Kaj pa človek lahko naredi?
Človek lahko prestavlja v nižje prestave, do prve in spusti gas, vmes pa ročno zavoro tudi zategne. Avto se bo ustavil. Če imaš seveda MT menjalnik.
Pri avtomatskem menjalniku pa lahko daš v park in polomiš menjalnik, pa upaš, da se bo avto ustavil. Ker tudi če daš v nevtral, pa zategneš ročno, se avto ne bo dovolj hitro ustavil.
Zgodovina sprememb…
- spremenilo: krneki0001 ()
MrStein ::
krneki0001 je izjavil:
krneki0001 je izjavil:
Niso specifične za samovozeče, je pa vprašanje, kaj bo algoritem v tem primeru naredil?
Kaj pa človek lahko naredi?
Človek lahko prestavlja v nižje prestave, do prve in spusti gas, vmes pa ročno zavoro tudi zategne.
A stroj pa tega ne more?
Motiti se je človeško.
Motiti se pogosto je neumno.
Vztrajati pri zmoti je... oh, pozdravljen!
Motiti se pogosto je neumno.
Vztrajati pri zmoti je... oh, pozdravljen!
krneki0001 ::
krneki0001 je izjavil:
krneki0001 je izjavil:
Niso specifične za samovozeče, je pa vprašanje, kaj bo algoritem v tem primeru naredil?
Kaj pa človek lahko naredi?
Človek lahko prestavlja v nižje prestave, do prve in spusti gas, vmes pa ročno zavoro tudi zategne.
A stroj pa tega ne more?
Ne. Na MT menjalniku ne. Lahko pa na AT menjalniku počne podobno. Ampak tam se s prestavljanjem v nižjo avto ne ustavlja dovolj hitro, ker torque converter deluje drugače kot sklopka. CVT pa tudi.
LeQuack ::
Preden bodo naredili AI toliko dober da bo vse možno predvidel in čutil, potem bo itak tak AI že praktično novo bitje z inteligenco, in kdo smo mi da si bomo bitje z enakovredno inteligenco kar podredili, zato da nam bo vozil en beden avto sem in tja. Tak AI bo imel veliko večje ambicije kot pa avto vozit.
Quack !
next3steps ::
holabaluza je izjavil:
Ti moram bolje razložit, o čem govorim, ko pravim, da je jedro inteligence sposobnost razpoznave podobnosti med stvarmi. V bistvu se gre tu za tisto famozno prepoznavo vzorcev, tudi dekriptiranje neznanih tekstov spada sem noter, tudi učenje jezika pri otrocih spada sem.
Najbolje, da ti dam en primer.
Predstavljaj si, da analiziraš velike količine tekstov dveh jezikov. Zaradi enostavnosti predvidevajmo, da imata jezika isti vrstni red besed v stavkih in nimata sklonov.
Taki stavki, ki bi imeli tole strukturo niso tako pogosti:
Človek lovi leva.
Lev lovi človeka.
Pretvorimo to v tole strukturo
1 2 3
3 2 1
Potem v drugem jeziku imaš pa isto, samo druge številke:
10 11 12
12 11 10
Ker je takih besed, kjer se lahko vrstni red popolnoma obrne in bo stavek še vedno smiseln precej malo lahko na enostaven način zožimo izbor besed, ki lahko pomenijo isto stvar v dveh različnih jezikih. Tu je treba pognat program za pepoznavo analogij, analogije pa bodo posebno pomembne v primerih, kjer jeziki nimajo enakega vrstnega reda besed in najbrž tudi pri sklonih.
To deluje zato, ker je semantika ista v vseh jezikih. V vseh jezikih drži, da lahko človek lovi leva in obratno, ne drži pa, da srna lovi leva.
Tole pa je dost podobno temu, kar naj bi Chomsky postudiral in revolucioniziral, kako se gleda na jezike, AFAIK.
Kitajščina od tega malce odstopa, ampak ok. Ti dam +1 za lep post.
bambam20 ::
krneki0001 je izjavil:
Pri avtomatskem menjalniku pa lahko daš v park in polomiš menjalnik, pa upaš, da se bo avto ustavil. Ker tudi če daš v nevtral, pa zategneš ročno, se avto ne bo dovolj hitro ustavil.
Saj ima avtomatski menjalnik tudi ročno prestavljanje prestav.
nevone ::
in kdo smo mi da si bomo bitje z enakovredno inteligenco kar podredili, zato da nam bo vozil en beden avto sem in tja.
Če že, bo ta inteligenca uživala v vožnji avta (sem in tja). Misliš, da bo tako zagrenjena kot smo ljudje?
Tak AI bo imel veliko večje ambicije kot pa avto vozit.
Aja, kakšne pa?
o+ nevone
Either we will eat the Space or Space will eat us.
krneki0001 ::
krneki0001 je izjavil:
Pri avtomatskem menjalniku pa lahko daš v park in polomiš menjalnik, pa upaš, da se bo avto ustavil. Ker tudi če daš v nevtral, pa zategneš ročno, se avto ne bo dovolj hitro ustavil.
Saj ima avtomatski menjalnik tudi ročno prestavljanje prestav.
Ja, ima. Ampak se avto ne ustavlja tako hitro, kot pri ročnem menjalniku. Nekaj časa rabi menjalnik, da dojame.
Ti pa ponavadi bremzaš, ko vidiš, da bo treba bremzat in če takrat ugotoviš, da zavore ne delajo, se z avtomatikom skoraj sigurno do ovire ne boš ustavil.
Kako bo sedaj AI izbral kam se bo zaletel?
Zgodovina sprememb…
- spremenilo: krneki0001 ()
LeQuack ::
Aja, kakšne pa?
o+ nevone
Takšne kot ti. Če bi tebe en zasužnjil in rekel vse kar boš delal v življenju je, da voziš avto, najbrž ne bi bil zadovoljen.
Quack !
poweroff ::
Če že, bo ta inteligenca uživala v vožnji avta (sem in tja).
Zakaj bi stroj užival v delu, ki ga opravlja???
sudo poweroff
nevone ::
Takšne kot ti. Če bi tebe en zasužnjil in rekel vse kar boš delal v življenju je, da voziš avto, najbrž ne bi bil zadovoljen.
Zakaj bi bil AI sploh koncipiran tako, da bi se sekiral, če zgolj vozi avto?
Zakaj bi stroj užival v delu, ki ga opravlja???
Sem rekla če že.
o+ nevone
Either we will eat the Space or Space will eat us.
LeQuack ::
Takšne kot ti. Če bi tebe en zasužnjil in rekel vse kar boš delal v življenju je, da voziš avto, najbrž ne bi bil zadovoljen.
Zakaj bi bil AI sploh koncipiran tako, da bi se sekiral, če zgolj vozi avto?
o+ nevone
Ker mora biti toliko kompleksen, da lahko vozi tako učinkovito kot ljudje.
Quack !
nevone ::
Ker mora biti toliko kompleksen, da lahko vozi tako učinkovito kot ljudje.
Znanje vožnje ne rabi nobene kompleksnosti v smislu kot jo tukaj omenjate.
o+ nevone
Either we will eat the Space or Space will eat us.
LeQuack ::
Depresivna dvigala in roboti so stvar knjig, ok?
Niti ne, če hočeš da bodo delal odločitve in odzive enake kot ljudje in z enako inteligenco, potem bodo mogli AI razmišljati enako kot ljudje, vključno z čustvi in vsem.
Ker mora biti toliko kompleksen, da lahko vozi tako učinkovito kot ljudje.
Znanje vožnje ne rabi nobene kompleksnosti v smislu kot jo tukaj omenjate.
o+ nevone
Ne gre samo za znanje vožnje, gre za zaznavanje okolice, predvidevanje dogodkov, delanje odločitev, itd.
Quack !
Zgodovina sprememb…
- spremenil: LeQuack ()
nevone ::
Ne gre samo za znanje vožnje, gre za zaznavanje okolice, predvidevanje dogodkov, delanje odločitev, itd.
Seveda, obvladovanje vseh teh elementov je potrebno za dobrega voznika. Ampak govoril si o tem, da mora AI voznik občutiti vse kar občutijo ljujde in da bo imel potem, ko bo znal voziti, kar ambicije biti nekaj drugega, kot zgolj dober voznik. Skratka vpeljal si neke elemente, ki na kakovost vožnje nimajo vpliva in so tudi nepotrebni.
o+ nevone
Either we will eat the Space or Space will eat us.
Zgodovina sprememb…
- spremenila: nevone ()
LeQuack ::
Ne gre samo za znanje vožnje, gre za zaznavanje okolice, predvidevanje dogodkov, delanje odločitev, itd.
Seveda, obvladovanje vseh teh elementov je potrebno za dobrega voznika. Ampak govoril si o tem, da mora AI voznik občutiti vse kar občutijo ljujde in da bo imel potem, ko bo znal voziti, kar ambicije biti nekaj drugega, kot zgolj dober voznik. Skratka vpeljal si neke elemente, ki na kakovost vožnje nimajo vpliva in so tudi nepotrebni.
o+ nevone
To ti praviš da so nepomembni, jaz pa pravim da so pomembni. Ne moreš kar odstraniti čustva, zavest in ostale stvari iz človeka in misliti da recimo bo to popoln robot za vožnjo, recimo zaradi strahu pred višino smo bolj previdni če smo kje visoko, robot brez tega strahu ne bi bil previden itd, to je samo en enostaven primer. Torej na koncu vidiš, da moraš ustvariti AI ki bo razmišljal tako kot mi, ergo novo življenje ustvariš.
Quack !
nevone ::
robot brez tega strahu ne bi bil previden itd,
To pomeni, da moramo stroju vgraditi tudi bolečino, da bo razvil strah. Tega seveda ne bomo delali, ampak bodo vzvodi drugačni. Zaenkrat je tako, da ima še vedno vse te lastnosti človek, ki ustvarja AI, ampak sam AI tega ne rabi, ker ima lahko drugačno strukturo, prav tako učinkovito.
Skratka negativna čustva so v resnici nepotrebna za AI, človek je pa pač tako zevoluiral.
o+ nevone
Either we will eat the Space or Space will eat us.
BigWhale ::
Se tega nam je manjkal, da nam industrijski roboti hodijo k psihiatrom.
"Kaj te pa muci?"
'Skoz delam ene in iste stvar? Zmeri eno in isto, cele dneve. Pejt na {1312,3255,211}, zasvasi skupi, pejt na {552,451,466}, zasvasi.'
"Aha in kje je problem?"
'Ne razumes. Skoz sam to SKOZ NON STOP! Zakaj noben ne razume robotov??'
"Kaj te pa muci?"
'Skoz delam ene in iste stvar? Zmeri eno in isto, cele dneve. Pejt na {1312,3255,211}, zasvasi skupi, pejt na {552,451,466}, zasvasi.'
"Aha in kje je problem?"
'Ne razumes. Skoz sam to SKOZ NON STOP! Zakaj noben ne razume robotov??'
xmetallic ::
krneki0001 je izjavil:
Človek lahko prestavlja v nižje prestave, do prve in spusti gas, vmes pa ročno zavoro tudi zategne. Avto se bo ustavil. Če imaš seveda MT menjalnik.
Pri avtomatskem menjalniku pa lahko daš v park in polomiš menjalnik, pa upaš, da se bo avto ustavil. Ker tudi če daš v nevtral, pa zategneš ročno, se avto ne bo dovolj hitro ustavil.
Če imaš elektronsko ročno ti jo tako kot zavore lahko nekdo onesposobi. Tudi AT se lahko onesposobi. Lahko premikaš ročko gor pa dol pa ne bo nič od šaltanja. Kar lahko onesposobiš AI vozilu lahko onesposobiš tudi človeku. S tem da bi računalnik* prej ugotovil, da je izgubil stik z enoto za upravljanje zavor, in bi temu primerno takoj prilagodil vožnjo, ter se čim prej ustavil. Človek to ugotovi šele ko stopi na zavoro.
S tvojimi zavorami se sosed lahko igra že danes. Novejši avti imajo sisteme proti naletu, ki sami zavirajo. Kaj preprečuje nekomu, da ti aktivira zaviranje ko boš ti šel v ovinek po zasneženi cesti? Če imaš tempomat ti lahko nekdo namerno poveča hitrost. Če imaš sistem, ki preprečuje da bi zapeljal izven svojega voznega pasu, ki torej upravlja tudi z volanom ti lahko nekdo na avtocesti obrne volan. Samovozeža vozila ne predstavljajo nobene bistveno večje nevarnosti kot obstaja že danes.
*Na take stvari že danes avto sam opozori. Še preden bi ti ugotovil da ti je počila guma bi ti na armaturni plošči sistem pokazal obvestilo.
Zgodovina sprememb…
- spremenilo: xmetallic ()
jb_j ::
Saj ima večina navigacij že vpoštevane prometne znake, ne vem zakaj je potrebna razpoznava le-teh.
Je pa avtomatizacija, kar resen problem, ker se lahko zgodi atentat na osebo, ne da bi kdo kaj vedel.
Je pa avtomatizacija, kar resen problem, ker se lahko zgodi atentat na osebo, ne da bi kdo kaj vedel.
krneki0001 ::
bbf ::
Delo na cesti bi samo nekaj prvih avtov prevozilo ročno, oziroma z visoko previdnostjo (learn mode), naslednji bi imeli že v bazi, kakšen je obvoz oziroma situacija odklona od poznanega.
Vi bi nekatere robote retardiral na zmožnosti človeških možganov? Pa ob tem govorite o AI?? A je to slotech, al mami_buci_forum? Kakršnakoli podobnost, ali naslanjanje na človeške značilnosti pri avtonomni vožnji je treba IZLOČIT, vse mora biti vnaprej predvideno, ker če ne bodo vedno nove in na novo odkrite pomanjklivosti povzročale hude glavobole udeležencem, lastnikom, proizvajalcem, regulatorjem.. Da se taka pomanjklivost, kot je zavajujoče branje prometnih znakov kaže danes, ko imamo na vozilacestah že samovozeča , kot resen problem, ni samo zaskrbljujoče, temveč kaže, da razvoj avtomatike za avtonomno vožnjo ni šel v pravi smeri. Nekako dobiš občutek, da je vse to tekma za prevlado v nekem segmentu, forsirano v okolje kot testni model, ne glede na posledice. (Podlaga za samovozeče Uberje (bogi njihovi šoferji, ki si sami kopljejo usodo).)
Današnji avtomatski menjalnik lahko poljubno šalta in zavira, tko da se da vprogramirat vanj brake failure rutino. Ne pozabt, da bodo samovozeči avtomobili hibridi ali elektro, tudi tem se da escape brake rutino naprogramirat, v obliki elektro retarderja.
Vi bi nekatere robote retardiral na zmožnosti človeških možganov? Pa ob tem govorite o AI?? A je to slotech, al mami_buci_forum? Kakršnakoli podobnost, ali naslanjanje na človeške značilnosti pri avtonomni vožnji je treba IZLOČIT, vse mora biti vnaprej predvideno, ker če ne bodo vedno nove in na novo odkrite pomanjklivosti povzročale hude glavobole udeležencem, lastnikom, proizvajalcem, regulatorjem.. Da se taka pomanjklivost, kot je zavajujoče branje prometnih znakov kaže danes, ko imamo na vozilacestah že samovozeča , kot resen problem, ni samo zaskrbljujoče, temveč kaže, da razvoj avtomatike za avtonomno vožnjo ni šel v pravi smeri. Nekako dobiš občutek, da je vse to tekma za prevlado v nekem segmentu, forsirano v okolje kot testni model, ne glede na posledice. (Podlaga za samovozeče Uberje (bogi njihovi šoferji, ki si sami kopljejo usodo).)
Današnji avtomatski menjalnik lahko poljubno šalta in zavira, tko da se da vprogramirat vanj brake failure rutino. Ne pozabt, da bodo samovozeči avtomobili hibridi ali elektro, tudi tem se da escape brake rutino naprogramirat, v obliki elektro retarderja.
BigWhale ::
Delo na cesti bi samo nekaj prvih avtov prevozilo ročno, oziroma z visoko previdnostjo (learn mode), naslednji bi imeli že v bazi, kakšen je obvoz oziroma situacija odklona od poznanega.
A imas mogoce kak empiricni dokaz za to, da bo tako kot ti pravis? :) Ce smo ze na slotechu. In potem se podvprasanje, kateri avtomobili, v kaksni bazi bo ta zadeva? A bo baza omejena na posamezne znamke? A bo skupna baza za vsa samovozeca vozila? Kolk vozil bos moral imeti, da bo to dejansko delovalo? Kako bodo reci potekale tam kjer se delo na cesti hitro spreminja? Najprej delajo na levem pasu ceste, potem desnem, potem spet levem in ko se cestna zapora prestavi za 200m naprej po cesti?
Taksno kolektivno ucenje deluje samo takrat, ko imas mnozico samovozecih vozil na cesti.
Kakršnakoli podobnost, ali naslanjanje na človeške značilnosti pri avtonomni vožnji je treba IZLOČIT, vse mora biti vnaprej predvideno,
Dokler bodo v prometu udelezeni tudi ljudje, in vcasih se zivali, ne mores vsega vnaprej predvidet.
Da se taka pomanjklivost, kot je zavajujoče branje prometnih znakov kaže danes, ko imamo na vozilacestah že samovozeča
Dandanes na cestah nimamo samovozecih vozil. Tista vozila, ki pa znajo nekaj voziti sama so pa precej omejena s podrocjem kjer smejo voziti.
Mare2 ::
Vredno ogleda ...
| Tema | Ogledi | Zadnje sporočilo | |
|---|---|---|---|
| Tema | Ogledi | Zadnje sporočilo | |
| » | Strojna inteligenca, vgrajena v stekloOddelek: Novice / Znanost in tehnologija | 5373 (3674) | Ahim |
| » | Tudi Google in Waymo začela uporabljati avtonomne tovornjake (strani: 1 2 )Oddelek: Novice / Znanost in tehnologija | 27221 (23093) | xmetallic |
| » | Kako pretentati samovozeče avtomobile z zlonamernimi prometnimi znaki (strani: 1 2 )Oddelek: Novice / Varnost | 24366 (19625) | Mare2 |
| » | Nevronske mreže pišejo spletne recenzije kot ljudjeOddelek: Novice / Znanost in tehnologija | 4903 (3468) | St753 |
| » | Musk obljublja samovozeče Tesle do konca leta 2017Oddelek: Novice / Znanost in tehnologija | 11606 (9735) | fpbs |