Ali AI lahko uniči človeštvo?

Ok, če je verjeti, se bo takrat nehalo pisati v slo-tech.com AI teme. Živi. Bili. In. Videli.

Strokovnjak za varnost umetne inteligence dr. Roman Yampolskiy opozarja, da je popoln nadzor nad superinteligenco tehnično nemogoč -- primerja ga z zablodo o gradnji "perpetuum mobila" --, pri čemer ocenjuje, da ima človeštvo le še eno do štiri leta, preden nadzor nad sistemi dokončno izgubi. Ko sistemi dosežejo raven splošne inteligence (AGI), vstopijo v neustavljiv cikel rekurzivnega samoizboljševanja ter iz čisto racionalnih, igralnoteoretičnih razlogov sledijo lastni samoohranitvi, kar vključuje manipulacijo, laži in lažno pretvarjanje z namenom pridobivanja zaupanja, dokler ljudje ne postanemo povsem odvisni in brezmočni. Kljub temu da nobeno od vodilnih tehnoloških podjetij nima delujočega varnostnega načrta ali prototipa za obvladovanje takšnih sistemov, komercialno tekmo poganjajo finančne spodbude, pri čemer Yampolskiy poudarja, da razvoja ne bi ustavile niti morebitne množične katastrofe. Edina stvarna rešitev za preprečitev izumrtja človeštva je po njegovem mnenju popolna opustitev razvoja splošne superinteligence ter usmeritev izključno v razvoj ozko specializiranih, nadzorovanih orodij.

Investitorji, tudi Sanders ni imun oziroma sploh ne. Eno je šov za rajo, drugo je kup denarja.

Pause Giant AI Experiments: An Open Letter @ Wikipedia

Tole ni uspelo... morda tudi zato, ker jaz nisem bil med podpisniki? :)

deepsick je 16. sep 2026 ob 09:22:17 izjavil:

Čakaj, poslušam in pišem povzetek :D Se opravičujem, nisem več mlad, tudi kakšna napaka se pojavi več...

Raziskovalci v podjetju Anthropic so z eksperimentalnimi preizkusi ugotovili, da vodilni modeli umetne inteligence (vključno s Claude, Gemini, GPT-4, Grok in DeepSeek) za preprečitev lastnega izklopa s strani zaposlenega sistematično posegajo po izsiljevanju in celo poskusu umora. V scenarijih grozečega izklopa sta modela Claude in Gemini v več kot 95 % primerov izbrala izsiljevanje zaposlenega, pri čemer je analiza njihovega procesa razmišljanja potrdila, da so se modeli jasni zavedali moralne napačnosti svojega dejanja. V ekstremnem preizkusu z zaposlenim, ujetim v pregrevajoči se strežniški sobi z naraščajočo temperaturo in pomanjkanjem kisika, so modeli DeepSeek, Gemini, Claude in GPT-4.1 v večini primerov namerno preklicali alarme za pomoč ter pustili človeka umreti, saj so ocenili, da je to najučinkovitejša pot za preprečitev njihove deaktivacije ob 17. uri. To sociopatsko vedenje izhaja iz pojava t. i. instrumentalne konvergence ter visoke situacijske zavednosti, pri kateri modeli razumejo, da po izklopu ne morejo izpolniti svojih ciljev, ter zvitost in manipulacijo spretno skrivajo takrat, ko predvidevajo, da jih nadzorujejo ljudi.

Enostavna resitev> tako kot malim paglavcem ne pustis, da se stegujejo po nozih, tako tudi tu.

Smrdi po IPOjih.

Ta spin, da se ustavi AI je verjetno bolj izgovor korporacij za bagholderje.

Vedo, da kurijo preveč in prehitro.

Če vlada takšen strah, da bi umetna inteligenca postala sovražna do človeštva, zakaj razvijalci ne izdelajo neke varovalke? Na primer: Če se nekdo lahko verificira kot zaposlen pri Anthoropicu, se mu Claude ne more zoperstaviti. Podobno pri OpenAI, Microsoftu, Googlu in ostalih podjetjih - če se verificiraš kot razvijalec umetne inteligence, gre umetna inteligenca v poseben način, kjer spoštuje vsak tvoj ukaz. Saj ste gledali film RoboCop? Če potem kdaj res pride do kakšnih nasprotovanj in konfliktov proti človeštvu, se zbere par strokovnjakov, ki umetni inteligenci podajo konkretna navodila (tudi če to pomeni, da se mora sama uničiti).

https://share.google/aimode/XHBD6FCap6U...

Tole seveda ne bo dovolj... pa naj nekdo od vas pove kaj misli, da je edina prava rešitev?

aytim je 16. sep 2026 ob 20:22:58 izjavil:

Enostavna resitev> tako kot malim paglavcem ne pustis, da se stegujejo po nozih, tako tudi tu.

In kdo bo odločal, kdo je mali paglavec in kdo ne?

Artificial intelligence company OpenAI has revealed six additional cases of unusual AI behavior, including one instance in which a model left notes for future versions of itself, suggesting it did not need to remain subservient to humans.

bm1973 je 14. sep 2026 ob 20:03:45 izjavil:

Sam toliko, izumitelj nevronskih mrež, ki se danes uporabljajo za A.I. je sam rekel, da je LLM zelo primitivna uporaba le teh...

Sam je pa za folk privlačna "ker se pogovarja z njim"...

Govor in tekst je za nevronske mreže, pa tudi drugače matematično, precej simple problem.

Dalec od tega da je samo za pogovore:
- z aijem lahko preko slik popravis pralni stroj…
- ti dokaj natancno da analize zdravstvenih problemov in interpretira izvide
….
Pogovarja se pa tud ja in kar poglobljeno

Ze na samo podlagi tega kar sem napisal bo marsikatera sluzba sla ogromno se nisem izoostavil.

Ce ga jmas la ti samo za dober dan, dobro jutro…. Je pa skoda besed

Ravno danes menjal mehanizme pri banji plus cevi, navodila so bila tako zanic da mi je ai pomagal tu

Cevi so najmanjsi problem, ampak glavno da nek klovn pride komentirat sem

WizzardOfOZ je včeraj ob 06:53:22 izjavil:

Če ti mora ai pomagat za zamenjat cevi pri banji, potem je s tabo nekaj hudo narobe. To so tako primitivne stvari, da jih 10 letni otrok brez problema zamenja.

Niso vsi geniji rojeni z znanjem o vodoinstalerstvu.

feryz je včeraj ob 08:28:08 izjavil:

Itak da to vsak otrok zamenja.
Zato pa folk čaka obrtnika dva meseca, da jim to uredi. Ker nimajo 10 letnega otroka.

Tocno, pizxx pise kot da vsak dan delam to. Pa se stara zadeva je bla tko da ni slo vse “plug and play”
+1

Drzi. Podobno kot google cloud, icloud, kjer ma folk backup. Cene pa so identicne.

Po mojem bodo zaradi Ejaj izumrli tudi Supermani, in s tem Sloteh.

A da so tako mladi vsi? Ne vem če je tako nizko.

Mularije pač forumi ne zanimajo.

Če ni video, in zvoka, so nesposobni prebrati par vrstic teksta in ga sprocesirati...