☰

» »

Anthropic odprtokodnim projektom ponudil brezplačno iskanje varnostnih ranljivosti

Anthropic odprtokodnim projektom ponudil brezplačno iskanje varnostnih ranljivosti

Slo-Tech - Anthropic je vzpostavil novo storitev OSS Scanner, ki bo odprtokodnim projektom omogočila brezplačno preveritev kode z orodji umetne inteligence za iskanje varnostnih ranljivosti. Na ta način bodo ti lahko prej dobili informacije o morebitnih luknjah, a ponudba ima pomembno past. Šlo bo za avtomatizirane strojne preglede kode, ki jih ne bo preveril človeških strokovnjak. Lahko se torej zgodi, da Anthropic prijavi tudi neobstoječe ranljivosti, saj umetna inteligenca ni stoodstotno zanesljiva.

Podjetje obljublja, da bodo preglede izvajali najzmogljivejši modeli, kot je Claude Mythos. Ti so načeloma zelo zmogljivi in sorazmerno natančni, a problem množičnega prijavljanja bolj in manj resnih ranljivosti ostaja. V preizkusu, ki ga je Anthropic nedavno izvedel, je bilo 85 izmed 97 odkritih ranljivosti resničnih. Preostali so bili podvojeni primeri, že znane ranljivosti ali lažni alarmi.

Podobne projekte je Anthropic že vodil. Glasswing je pregledoval raznovrstno programsko opremo in odkril več kot 29.000 ranljivosti, kar je bistveno preveč, da bi jih ljudje pregledali. Anthropic pojasnjuje, da so jih ljudje uspeli preveriti le okoli 6000.

7 komentarjev

rekakitece ::

Korak v pravo smer

karafeka ::

Ehhh, samo ene par AI data centrov postavit, pa cene ram na 10x.

Gregor P ::

Ne razumem, kje je sedaj problem, če ima ob vseh resničnih varnostnih luknjah še nekaj lažnih alarmov - razen v tem morda, da namesto, da bi človek vse to zares še sam pregledal in potrdil le pravilne popravke, bo potrdil kar vse, ker se mu ne bo dalo s tem ukvarjat (v bližnji prihodnosti pa še znanja ne bo več imel za to):|
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).

MrStein ::

Glasswing je pregledoval raznovrstno programsko opremo in odkril več kot 29.000 ranljivosti, kar je bistveno preveč, da bi jih ljudje pregledali. Anthropic pojasnjuje, da so jih ljudje uspeli preveriti le okoli 6000.

In kaj so ugotovili?
5996 je bilo false alarmov? Le 7?
Motiti se je človeško.
Motiti se pogosto je neumno.
Vztrajati pri zmoti je... oh, pozdravljen!

Ales ::

MrStein je izjavil:

Glasswing je pregledoval raznovrstno programsko opremo in odkril več kot 29.000 ranljivosti, kar je bistveno preveč, da bi jih ljudje pregledali. Anthropic pojasnjuje, da so jih ljudje uspeli preveriti le okoli 6000.

In kaj so ugotovili?
5996 je bilo false alarmov? Le 7?

Ne boš izvedel iz "novice", ker to ni novica, temveč le prenašanje medijskih izjav Anthropica. Njim pa seveda ni v interesu, da bi ti sporočali celovite informacije.

Na žalost večina takih objav le povzema medijska bruhanja samih podjetij. "Anthropic je..." in potem "Podjetje obljublja, da..." in "Anthropic pojasnjuje, da...".

Crap torej, ne novica.

Slo-techu ne bi bilo potrebno sodelovati pri teh propagandnih kampanjah. Ampak dobim vtis, da na tak zgrešen način skušajo objavljati vsaj neko vsebino. Na žalost je potem "najlažje" povzemati te lažnivce, ker so te objave povsod. In nato smo v situaciji "povsod + še Slo tech"... in folk še bolj dobi vtis da tako res je, če pa povsod vidijo te naslove. V takem okolju se propaganda širi kot virus.

twom ::

Na ta način bodo ti (odprtokodni projekti) lahko prej dobili informacije o morebitnih luknjah
Le kaj bo dobil Antropic 8-)

BlaY0 ::

...nič drugega, kar je že do zdaj lahko dobil.