Anthropic opozarja, da se bo umetna inteligenca kmalu sama izboljševala

Opozorila, da se umetna inteligenca hitro razvija, niso nova. Že pred tremi leti je skupina strokovnjakov pozivala k polletnemu moratoriju na razvoj strojnega učenja, ki da napreduje hitreje od človeškega razmisleka, kam želimo, kaj hočemo in kaj bomo dopustili. Z današnje perspektive se zdi 6-mesečni premor smešno irelevanten, saj je razvoj še hitrejši. To pot je na tempo opozoril Anthropic.

Poudarjajo, da umetna inteligenca že sedaj sodeluje pri razvoju nove generacije umetne inteligence. Anthropicovi inženirji danes napišejo osemkrat več kode kot v obdobju 2021-2025, pa ne ker bi bili toliko sposobnejši, temveč ker imajo boljša orodja. Prve verzije Clauda so ljudje napisali klasično, torej na računalnikih. Nato so začeli uporabljati pogovorne robote (chatbot), ki so pisali drobce kode in pomagali razmišljati. Lani so v razvoju začeli sodelovati agenti za pisanje kode (coding agent), danes pa že avtonomni agentje. S tem so le korak oddaljeni od Clauda, ki se bo kontinuirno izboljševal sam.

Povedano drugače. Claude Opus 3 je leta 2024 zmogel storiti, kar človek stori v štirih minutah. Lani je Claude Sonnet 3.7 opravil delo, za katerega človek potrebuje poldrugo uro. Claude Opus 4.6 danes ustvari, kar bi človek pisal 12 ur. Gre za izboljševanje zmogljivosti agentov, ki lahko prevzemajo čedalje kompleksnejše in obsežnejše naloge. Obenem raste tudi pravilnost njihovih rezultatov. Minuli mesec je Claude napisal že 80 odstotkov kode, ki jo sprejmejo (merge) v Claude. Neverjeten razvoj dokazujejo tudi številne druge metrike.

Anthropic pravi, da je možnih scenarijev v prihodnosti več. Morda se bo razvoj umiril, ker smo v resnici na sigmoidni krivulji. Današnje stanje je blizu zmožnosti umetne inteligence, ki se bo razširjala na nove probleme, a ne bo več eksponentno boljša. Morda pa se bo razvoj nadaljeval tako hitro, da bodo podjetja zaradi umetne inteligence več tisočkrat učinkovitejša. Ljudje bodo še vedno potrebni, a bodo njihove vloge drugačne. Tretja možnost je avtokatalitično izboljševanje umetne inteligence, ki poganja svoj razvoj. Ali z drugimi besedami: morda bomo dosegli tehnološko singularnost.