Anthropic odprtokodnim projektom ponudil brezplačno iskanje varnostnih ranljivosti

Anthropic je vzpostavil novo storitev OSS Scanner, ki bo odprtokodnim projektom omogočila brezplačno preveritev kode z orodji umetne inteligence za iskanje varnostnih ranljivosti. Na ta način bodo ti lahko prej dobili informacije o morebitnih luknjah, a ponudba ima pomembno past. Šlo bo za avtomatizirane strojne preglede kode, ki jih ne bo preveril človeških strokovnjak. Lahko se torej zgodi, da Anthropic prijavi tudi neobstoječe ranljivosti, saj umetna inteligenca ni stoodstotno zanesljiva.

Podjetje obljublja, da bodo preglede izvajali najzmogljivejši modeli, kot je Claude Mythos. Ti so načeloma zelo zmogljivi in sorazmerno natančni, a problem množičnega prijavljanja bolj in manj resnih ranljivosti ostaja. V preizkusu, ki ga je Anthropic nedavno izvedel, je bilo 85 izmed 97 odkritih ranljivosti resničnih. Preostali so bili podvojeni primeri, že znane ranljivosti ali lažni alarmi.

Podobne projekte je Anthropic že vodil. Glasswing je pregledoval raznovrstno programsko opremo in odkril več kot 29.000 ranljivosti, kar je bistveno preveč, da bi jih ljudje pregledali. Anthropic pojasnjuje, da so jih ljudje uspeli preveriti le okoli 6000.