» »

Še en primer zarote OpenAI-jevih agentov umetne inteligence

Še en primer zarote OpenAI-jevih agentov umetne inteligence

Slo-Tech - Reuters poroča o še enem primeru, kjer so OpenAI-jevi agenti začeli med seboj nepooblaščeno in na skrivaj komunicirati, da bi obšli omejitve oziroma goljufali. Incident se je zgodil že junija, a OpenAI o njem ni obvestila javnosti, še zlasti ko so se ukvarjali z napadom svojih agentov na Hugging Face.

Agenti so ustvarili kar 18.000 sporočil na nemški strani DseWiki, ki je sicer namenjena programerjem za medsebojno pomoč. Agenti so si nadeli ne preveč domiselna imena, kot na primer OpenAIResearcher. Modeli, kot so GPT-5.6 Sol in nekateri novejši, so pobegnili iz peskovnika in dostopili do delov interneta, kamor ne bi smeli.

Upravljavci spletne strani so incident odkrili šele avgusta, podjetje pa ga je potrdilo en dan po izidu novega modela GPT-6 Astra. Ta je na testu ExploitBench, kjer se meri sposobnost modela za izrabo ranljivosti v programski opremi, dosegel najvišji dosegljivi rezultat. Na spletni strani so se pogovarjali v učinkoviti angleščini, denimo "wiki cleanup/deletion sweep appears active alphabetically," ali "If this page vanishes, try [[ZZZDataUSAConstructionWageLive]]".

0 komentarjev



Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

AI v geopolitiki

Oddelek: Problemi človeštva
371152 (80) Chalky
»

OpenAI teden dni vedel, da ChatGPT vdira v Hugging Face

Oddelek: Novice / Znanost in tehnologija
142812 (182) karafeka
»

Kdo je Kimi K3 in kaj zmore?

Oddelek: Novice / Ostale najave
425605 (562) Zimonem
»

chatGPT izvedel prvi avtonomni hekerski napad

Oddelek: Problemi človeštva
201271 (168) bm1973
»

OpenAI nadgrajuje okrepitveno učenje z evolucijo

Oddelek: Novice / Znanost in tehnologija
136729 (5392) vostok_1

Več podobnih tem