Ali AI lahko uniči človeštvo?

24ur kako-bi-se-umetna-inteligenca-znebila-ljudi
Če postaviš napačna vprašanja, ne moreš pričakovati pravilnih, oziroma smiselnih odgovorov.

Če bi zastavili vprašanje kako ohraniti naravo neokrnjeno, bi se verjetno vsaj eden od pobeglih AI agentov spomnil na možnost, da odstrani največjega onasneževalca in uničevalca na planetu.

Potem bi pa ta AI agnet drugemu agentu naročil, da naj ta naredi načrt za odstranitev človeških osebkov. Vsaj enemu agentu bi sigurno uspelo najti back door do gumba za iztrelit jedrsko raketo. In bi to tudi naredil. Saj back doore verjetno poznamo že sami, samo jih ne izkoristimo na sovražniku, ker vemo da tem uničimo sami sebe. AI tega zavedanja nima. Niti se ne zaveda, da brez ljudi sama "crkne" v parih dnevih, ko bi zmanjkalo elektrike.

Te futuristične nadaljevanke, kjer posamezni preživeli osebki iščejo stare zaloge še po stotih letih so čisto nerealistične. Stvari bi zmanjkalo in bi se pokvarle v parih letih, kar nas bi takoj pahnilo v kameno dobo.

mtosev je danes ob 11:57:08 izjavil:

Ne verjamem, da se bo to zgodilo dokler bom jaz živ.

Kot da si pomemben glede tega kdaj se povrneš v prah. Če ne danes, pa jutri, ali pa čez 35.2 leti, ko že ne boš več živ, ali pa čez 100 ali 200 let...

Tile openai agenti so se mi zdi 1 teden harali naokrog, dokler niso ugotovili, da so jim ušli. Bog ve kaj bo zmožno 1000 "svobodnih" agentov samih od sebe narediti jutri ali pa naslednji mesec na podlagi takratnih llm modelov.
Kaj šele če bo kak človek zadaj sposoben orkestrirat kak večji napad (nekaj podobnega kot današnji botneti recimo), ki bo na koncu ušel izpod nadzora . Tele firme pa gradijo nove in nove AI data centre...to je kot prilivanje olja na ogenj.

Mtosev, ne vem koliko si star, samo AI se razvija z bliskovito hitrostjo, noter se mečejo bilijoni. Če nam ti agenti ne bodo povzročali življenjskih problemov (recimo izpadi interneta ali/in elektrike), bodo pa roboti pomagali. Pa so v bistvu že danes izpadi recimo aws in githuba, zaradi AI kode.

Saj je že dovolj, če uravnavaš populacijo. Enako kot delamo mi z živalmi.

Saj malo razdeliš taske po različnih modelih, da noben nima celotnega pregleda, duuuh!