Slo-Tech - Anthropic, znan po izjemno sposobnem modelu za pisanje kode Claude, je razvil nov model Mythos, namenjen iskanju ranljivosti v kodi in računalniških sistemih nasploh. Model je tako zmogljiv, da javnosti sploh ne dovolijo dostopa.
Za zdaj bodo dostop dobila le nekatera izbrana podjetja, med katerimi so Amazon Web Services (AWS), Anthropic, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, Nvidia in Palo Alto Networks. Z njim bodo lahko okrepila zaščito, zakrpala hrošče v svoji programski opremi in preverila tveganje uspešnega napada hekerjev.
Uradno se novi model imenuje Claude Mythos Preview in je na voljo le v okviru iniciative Glasswing. Anthropic pojasnjuje, da je model že odkril več tisoč zelo nevarnih ranljivosti v priljubljeni programski opremi, med drugim v vseh brskalnikih, operacijskih sistemih in pisarniških paketih. Mythos najprej odkrije ranljivost, nato pa je sposoben izdelati delujočo kodo za izrabo (exploit). Kot primer so navedli 27 let staro ranljivost v OpenBSD, ki omogoča sesutje naprave na daljavo, in 16 let staro ranljivost v FFmpeg. Mythos je sposoben povezati in izkoristiti tudi več ranljivosti hkrati.
A se kdo obregne v to da imajo verjetno AI podjetja dostop do izvorne kode kritične infrastrukture največjih svetovnih podjetij preko takih scanov in vibe codinga?
To ni tako hudo, kot se sliši. Glede na opisano, mora imeti dostop do izvorne kode. Tam je relativno enostavno preverjati, če koda v C/C++ preverja dolžino argumentov, stringov, ipd.
Saj obstajajo tudi add-oni, ki avtomatično preverjajo v IDE ranljivosti. Sigurno, če so naredili AI modul, je to zmogljivejše, ampak v grobem, je tudi ogromno false pozitivov.
Imamo stranko, ki uporablja AI modul za ugotavljanje ranljivosti v web service. To pa je tak šit, da dol padeš. Od 3000+ false alarmov, kjer nekaj časa (par dni) rabijo da sploh ugotovijo, kaj trigerira AI logiko. To nam žre živce vsem že par mesecev.
To ni tako hudo, kot se sliši. Glede na opisano, mora imeti dostop do izvorne kode. Tam je relativno enostavno preverjati, če koda v C/C++ preverja dolžino argumentov, stringov, ipd.
Saj obstajajo tudi add-oni, ki avtomatično preverjajo v IDE ranljivosti. Sigurno, če so naredili AI modul, je to zmogljivejše, ampak v grobem, je tudi ogromno false pozitivov.
Imamo stranko, ki uporablja AI modul za ugotavljanje ranljivosti v web service. To pa je tak šit, da dol padeš. Od 3000+ false alarmov, kjer nekaj časa (par dni) rabijo da sploh ugotovijo, kaj trigerira AI logiko. To nam žre živce vsem že par mesecev.
Za preverjanje kode se B.P. uporablja lint.
Plus sam prevajalnik... Ki ima cel kup flagov, ki stisnejo programerje, da ne svinjajo preveč.
Plus, dobi se seznam napak za posamezne jezike, ki jih prevajlnik požre, ampak koda pa ne dela...
Ampak, kaj ko nihče tega ne uporablja več...
Važno, da je sedaj AI...
Vprašanje tudi, če jih kdo sploh zna še nastaviti...
Hlapci! Za hlapce rojeni, za hlapce vzgojeni, ustvarjeni za hlapčevanje.
Gospodar se menja, bič pa ostane, in bo ostal za vekomaj; zato, ker je hrbet
skrivljen, biča vajen in željan! [Ivan Cankar]
To ni tako hudo, kot se sliši. Glede na opisano, mora imeti dostop do izvorne kode. Tam je relativno enostavno preverjati, če koda v C/C++ preverja dolžino argumentov, stringov, ipd.
Saj obstajajo tudi add-oni, ki avtomatično preverjajo v IDE ranljivosti. Sigurno, če so naredili AI modul, je to zmogljivejše, ampak v grobem, je tudi ogromno false pozitivov.
Imamo stranko, ki uporablja AI modul za ugotavljanje ranljivosti v web service. To pa je tak šit, da dol padeš. Od 3000+ false alarmov, kjer nekaj časa (par dni) rabijo da sploh ugotovijo, kaj trigerira AI logiko. To nam žre živce vsem že par mesecev.
Za preverjanje kode se B.P. uporablja lint.
Plus sam prevajalnik... Ki ima cel kup flagov, ki stisnejo programerje, da ne svinjajo preveč.
Plus, dobi se seznam napak za posamezne jezike, ki jih prevajlnik požre, ampak koda pa ne dela...
Bi se sicer strinjal in veselo uporabljam, ampak, ne za ranljivosti. Tukaj pa tole ne bo dovolj, že valgrind najde precej več problemov v delu z memorijo (preden se oglasi kdo garbage collectan, tvoj jezik je spisan v katerem jeziku?), kot jih bo katerikoli kompiler vrgel ven, pa včasih je bil nabor še precej večji (PurifyPlus, BoundChecker).
Ampak tako ali tako bodo pa kitajci implementirali, če že niso. Snameš vse CVEje, najdeš še poc-e in nafutraš ai, ravno zadnjič sem se čudil, kako kombinacija iaito, radare2 in ghydra cudovito sodelujejo z ollamo. Top shit decompajli, če bi imel tole na voljo 20 let nazaj, ko še ni bilo otrok in časa na pretek... bi bil verjetno v zaporu
Dovecot je pokrpal prejšnji mesec kar precej lukenj, na račun AI reviewa kode.
Še ena v vrsti "novic", ki ni nič drugega kot povzetek korporacijske izjave za medije.
To niti ni kritika na Matejev račun (kateremu se prej zahvaljujem za prispevke na Slo-techu, kot da bi ga kritiziral), bolj na splošno stanje na področju medij..eh... pardon, marketinških trobil.
V glavnem, zavedajte se, da berete čisti marketing. Iz njega se je vedno dalo izluščiti tudi dejansko vsebino, ampak novinarji tega zgleda ne nameravajo ali pa ne morejo več početi.
Še ena v vrsti "novic", ki ni nič drugega kot povzetek korporacijske izjave za medije.
To niti ni kritika na Matejev račun (kateremu se prej zahvaljujem za prispevke na Slo-techu, kot da bi ga kritiziral), bolj na splošno stanje na področju medij..eh... pardon, marketinških trobil.
V glavnem, zavedajte se, da berete čisti marketing. Iz njega se je vedno dalo izluščiti tudi dejansko vsebino, ampak novinarji tega zgleda ne nameravajo ali pa ne morejo več početi.
To se tudi jaz sprašujem, težko je ugotoviti, ali gre v tej novici za resnično grožnjo ali le nek PR-stunt.
Nazadnje, ko se spomnim, je bila neka podobna novica na Slo-Tech, leta 2022: Google suspendiral inženirja po izjavah, da bi njihov strojni algoritem lahko imel zavest. Zelo očitno pretiravanje. Samo vseeno je pa bil nekaj mesecev kasneje izdan Chat GPT 3.5, varianta ki je spremenila precej stvari, uvedla GPT do ne-inženirjev in splošne publike. Mogoče je tudi tokrat resnica nekje vmes?
Zanimivo pa je, da dostopa do tega modela nima FB / Meta, vsaj glede na seznam omenjenih podjetij.
A parody of extremism is impossible to differentiate from sincere extremism.
Jasno, zato pa zdaj vsi hitijo v IPO. Razvoj se upočasnuje, počasi postaja jasno da GAIja, ki bi edini upravičil to brezglavo zapravljanje, ne bo. In je treba nekomu potisniti to gnilo jajce. In najti next big thing.
Luis Rossman je včeraj objavil zanimiv video na temo Clauda in iskanja ranljivosti. Če ste TL;DR, si poglejte del 2:10 - 5:10.
Sicer pa je Anthropic pred časom moral plačati 1,5 mlrd kazni ker se je model učil na travniških knjigah. Le kaj bi šlo narobe, če jim zaupaš dostop do svoje kode.
