» »

Vojaški dron ni pobezljal in uničil svojega nadzornika

Vojaški dron ni pobezljal in uničil svojega nadzornika

eksperimentalni avtonomni droni USAF

Slo-Tech - Prek vikenda se je razširila novica, da naj bi se umetna inteligenca, ki je upravljala z ameriškim vojaškim dronom med simulacijo v avtonomnem načinu, strgala z verige in "ubila" svojega človeškega nadzornika. V resnici naj bi šlo le za hipotetičen scenarij, ki ga še niso izvedli niti v simulirani obliki.

23. in 24. maja je v Londonu potekala konferenca Future Combat Air and Space Capabilities Summit, na kateri so strokovnjaki predstavljali najnovejše izsledke v rabi vojaških zrakoplovov; med drugim nauke iz vojne v Ukrajini in zadnje krike tehnike v avtonomnem letenju. Tu je kar nekaj obrvi privzdignilo pričevanje ameriškega polkovnika Tuckerja Hamiltona, ki je vodja operativne skupine za testiranje dronov in avtonomnega letenja v vojaški bazi Eglin na Floridi. Možakar je namreč navrgel, da naj bi se med eno od simulacij, v kateri so preizkušali avtonomen let dronov med bojnimi nalogami, umetna inteligenca uprla človeškemu nadzorniku in ga uničila, da bi lažje izvedla zadano nalogo. Konkretno; šlo naj bi za iskanje in uničevanje sovražnih sistemov zračne obrambe, pri čemer je človeški nadzornik zaukazal, naj se nekatere cilje pusti pri miru, kar strojni pameti ni bilo všeč in se ga je zato odkrižala. Ko so jo skušali naučiti, naj tega ne počne, naj bi napadla še anteno sistema, s katero so jo nadzirali.

Vest je pretekli vikend dobila veter v jadra in se hitro razširila po spletu, toda uradni viri so jeli zanikati, da bi se takšen potek dogodkov dejansko odvil. Ameriške letalske sile so pripetljaj zanikale, nakar se je oglasil tudi polkovnik Hamilton in priznal, da ga je med predavanjem zaneslo. Opisana scenarija naj bi bila zgolj hipotetična miselna eksperimenta, s katerimi se poigravajo raziskovalci - pogodbeniki, ki sodelujejo z Eglinom, da bi pripravili možne situacije, s katerimi se bo potrebno spoprijeti pri nezadržnem razvoju rabe umetne inteligence pri vodenju ubojnih vojaških sistemov. Kot pravi, ju še niso preizkusili, ne med fizično ne virtualno simulacijo, se pa zavedajo, da je takšen odziv stroja verjeten in se ga bo potrebno lotiti pri oblikovanju programskih rešitev.

Kljub temu dogodek še razburja in neti govorice, da ga skušajo Američani preprosto pomesti pod preprogo. Malo zato, ker prihaja v času, ko vrsta vidnejših oseb v luči prodora strojnega učenja v spletne tehnologije opozarja na potencialne kataklizmične nevarnosti prehitrega razvoja takšnih algoritmov. Pa tudi zato, ker je problematika avtonomnih orožij, oziroma popularno ubijalskih robotov, na redu že dlje časa, saj že več let spremljamo protestne akcije in trud po mednarodnih prepovedih takšnih sistemov. Neprijetna resnica pa je, da gre pri uvajanju avtonomne strojne inteligence v orožja za neke sorte tiho oborožitveno tekmo, kjer vidni akterji ne želijo bistvenih omejitev, ker se bojijo, da bi potencialnim nasprotnikom s tem prepustili odločilno prednost.

9 komentarjev

fikus_ ::

Kjer je dim, tam je ogenj.
Možno da so delali simulacije v virtualnem svetu in se je pokazalo, kar niso pricakovali.
Učite se iz preteklosti, živite v sedanjosti in razmišljajte o prihodnosti.

Lowink ::

Stelth transponder.

Seljak ::

Dejansko se je to zgodilo, ker je posnetek na YouTube(ki ne laže) in na Twiterju, ki je verodostojen in varen glede podatkov.

feryz ::

Vojaški birokrati so zanikali. Potem je to zagotovo res. Če je komu na tem svetu za verjeti, je njim.

minicooper ::

minicooper ::

FireSnake ::

Če prav razumem:
- vse pustit AI
- vedeti, da to ni dobro
- vseeno narediti, ker je strah, da bo to naredil nasprotnik


Pod črto: neumnost ne pozna meja!
Poglej in se nasmej: vicmaher.si

Mr.B ::

Ko sem bral original sem se spomin na moje pisanje nagrade AI pri dostavi
kave :

Vsako jutro se usedem za mizo in AI robot mi mora najhitreje dostaviti
svežo pripravljeno kavo.

Vsako jutro je pred avtomatom poseden otrok in AI mora čakati da se
posedeni otrok odmakne.. To se dogaja vsak dan.
Nekega dne posedeni otrok pade in AI lahko pripravi in dostavi kavo hitreje.
Hm, kaj se bo zgodilo naslednje jutro ?
Namig AI bo vrgel otroka na tla in pripravil kavo. Ker je to dejanska nagrada AI, da je nalogo opravil hitreje.
Enako kot se je zgodilo s simulacijo, ko mu je stolp preprečil doseči več
točk.
France Rejects Genocide Accusations Against Israel in Gaza,
To accuse the Jewish state of genocide is to cross a moral threshold

Vuli ::

Seljak je izjavil:

Dejansko se je to zgodilo, ker je posnetek na YouTube(ki ne laže) in na Twiterju, ki je verodostojen in varen glede podatkov.

no, pokaži mi ta video
|Gb x570 Pro|R9 5900x|32GB DDR4 RAM G.Skill V@ 3600 cl16|6800XT Merc319 Black|



Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

Esej izpod prstov umetne inteligence

Oddelek: Novice / Ostala programska oprema
235140 (3685)          
»

NTSB: Uberjev avtomobil je peško zaznal šest sekund pred usodnim trčenjem (strani: 1 2 )

Oddelek: Novice / Znanost in tehnologija
8421364 (16688) shadeX
»

Prva smrtna žrtev v nesreči samovozečega avtomobila (strani: 1 2 3 48 9 10 11 )

Oddelek: Novice / Znanost in tehnologija
529176124 (159619) AndrejO
»

Umetna inteligenca...kako do nje? (strani: 1 2 3 4 )

Oddelek: Znanost in tehnologija
16023970 (20785) innerspace
»

Kdo pilotira potniška letala? (strani: 1 2 3 4 5 )

Oddelek: Loža
24759011 (52283) Invictus

Več podobnih tem