☰

» »

Anthropic odprtokodnim projektom ponudil brezplačno iskanje varnostnih ranljivosti

Anthropic odprtokodnim projektom ponudil brezplačno iskanje varnostnih ranljivosti

Slo-Tech - Anthropic je vzpostavil novo storitev OSS Scanner, ki bo odprtokodnim projektom omogočila brezplačno preveritev kode z orodji umetne inteligence za iskanje varnostnih ranljivosti. Na ta način bodo ti lahko prej dobili informacije o morebitnih luknjah, a ponudba ima pomembno past. Šlo bo za avtomatizirane strojne preglede kode, ki jih ne bo preveril človeških strokovnjak. Lahko se torej zgodi, da Anthropic prijavi tudi neobstoječe ranljivosti, saj umetna inteligenca ni stoodstotno zanesljiva.

Podjetje obljublja, da bodo preglede izvajali najzmogljivejši modeli, kot je Claude Mythos. Ti so načeloma zelo zmogljivi in sorazmerno natančni, a problem množičnega prijavljanja bolj in manj resnih ranljivosti ostaja. V preizkusu, ki ga je Anthropic nedavno izvedel, je bilo 85 izmed 97 odkritih ranljivosti resničnih. Preostali so bili podvojeni primeri, že znane ranljivosti ali lažni alarmi.

Podobne projekte je Anthropic že vodil. Glasswing je pregledoval raznovrstno programsko opremo in odkril več kot 29.000 ranljivosti, kar je bistveno preveč, da bi jih ljudje pregledali. Anthropic pojasnjuje, da so jih ljudje uspeli preveriti le okoli 6000.

4 komentarji

rekakitece ::

Korak v pravo smer

karafeka ::

Ehhh, samo ene par AI data centrov postavit, pa cene ram na 10x.

Gregor P ::

Ne razumem, kje je sedaj problem, če ima ob vseh resničnih varnostnih luknjah še nekaj lažnih alarmov - razen v tem morda, da namesto, da bi človek vse to zares še sam pregledal in potrdil le pravilne popravke, bo potrdil kar vse, ker se mu ne bo dalo s tem ukvarjat (v bližnji prihodnosti pa še znanja ne bo več imel za to):|
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).

MrStein ::

Glasswing je pregledoval raznovrstno programsko opremo in odkril več kot 29.000 ranljivosti, kar je bistveno preveč, da bi jih ljudje pregledali. Anthropic pojasnjuje, da so jih ljudje uspeli preveriti le okoli 6000.

In kaj so ugotovili?
5996 je bilo false alarmov? Le 7?
Motiti se je človeško.
Motiti se pogosto je neumno.
Vztrajati pri zmoti je... oh, pozdravljen!