Slo-Tech - V daljšem intervjuju za The Financial Times je Yann LeCun, ki je novembra lani najavil svoj odhod z mesta direktorja umetne inteligence pri Meti, priznal zavajanje. Ko so lani aprila izdali Llamo 4, so testi kazali precej boljše rezultate od kasnejših dosežkov v resnični uporabi. V primerjavi s konkurenco je bila Llama 4 sorazmerno slabo sprejeta, podjetje pa so obtoževali zavajanja. LeCun ga je priznal.

Dejal je, da so rezultate testov nekoliko ponaredili. Razvojna ekipa je uporabila različne variante modela za različne teste, nato pa vse skupaj predstavila kot rezultate enotnega modela. Direktor Mark Zuckerberg nad tem početjem ni bil navdušen, dodaja. Izgubil je zaupanje v vse, ki so sodelovali pri tem početje, veliko ljudi je tudi zapustilo podjetje.

LeCun, ki je lani napovedal odhod iz Meta, ustanavlja lastno podjetje Advanced Machine Intelligence Labs, ki bo imelo precej povezav tudi z njegovo rodno Francijo. Podjetja ne bo vodil kot direktor, temveč bo izvršni predsednik...

Slo-Tech - Letošnjo Turingovo nagrado, ki jo podeljujejo za dosežke na področju računalniških ved in predstavlja ustreznico Nobelove nagrade, saj je za to področje ni, sta prejela Andrew G. Barto in Richard S. Sutton. Association for Computing Machinery jima je nagrado podelila za dosežke na področju spodbujevanega učenja (reinforcement learning). Nagrada vključuje tudi milijon dolarjev, ki jih prispeva Google.

Tehniko, ki je danes gonilna sila moderne umetne inteligence, sta Barto in Sutton začela oblikovati v 80. letih minulega stoletja. Tedaj sta v nizu člankov predstavila zamisel, razvila matematične osnove in postavila prve algoritme. Spodbujevano učenje je eden izmed načinov za trening umetne inteligence, ki se mora naučiti izbrati pravilne poti. Do začetka 80. let je bi napredek na tem področju počasen, zato sta nagrajenca oblikovala nov pristop. Agenti umetne inteligence lahko ravnajo po naključju, nato pa njihove poteze ovrednotimo z nagrajevalno funkcijo, ki favorizira želeno...

Slo-Tech - Letošnja prejemnika Nobelova nagrade za fiziko 2024 sta fizik John J. Hopfield s Princetona in Geoffrey E. Hinton z Univerze v Torontu, ki sta bila nagrajena za ključna odkritja in izume, ki so omogočili strojno učenje z umetnimi nevronskimi mrežami. Hopfield je ustvaril strukture, ki zmorejo shranjevati podatke in rekonstruirati informacije, Hinton pa je odkril metodo za iskanje vzorcev v podatkih. Posledice teh odkritij vidimo in uporabljamo vsakodnevno, denimo pri strojnem prevajanju, prepoznavanju slik in uporabi umetne inteligence. Slednja je pogosto zgolj širok izraz, s katerim v resnici mislimo na nevronske mreže.

Za zdaj velja konsenz, da računalniki in stroji ne morejo razviti zavesti in misliti, a rezultati njihovega delovanja so hudo podobni temu. Klasični računalniški programi so bili strogo deterministični v smislu, da so delovali kot recept. Koraki so bili jasno opredeljeni, rezultati predvidljivi in razumljivi. Pri strojnem učenju pa računalniku ne damo recepta,...

The New York Times - Britansko-kanadski raziskovalec Geoffrey Hinton, ki velja za enega od utemeljiteljev globokega učenja z nevronskimi mrežami, pompozno zapušča Google, kjer je delal zadnjih deset let. In sicer predvsem iz strahu, da nam nadzor nad strojnimi algoritmi uhaja iz rok (plačljiv vir, alternativa).

Leta 1986 so David Rumelhart, Geoffrey Hinton in Ronald Williams v odmevni objavi pokazali, kako uporabiti metodo vzvratnega razširjanja (backpropagation) za bistveno pospešitev zmogljivosti učenja nevronskih mrež, kar velja za enega od mejnikov v strojnem učenju. Hinton ima razen tega na spisku še vrsto drugih dosežkov, denimo razvoj arhitekture nevronskih mrež AlexNet, z Alexom Krizhevskyjem in Ilyo Sutskeverjem. Ta iznajdba družine algoritmov za prepoznavo slik namreč pomeni enega od povodov za bliskovito širjenje strojne inteligence med spletne tehnologije v preteklem desetletju. Zaradi opisanih uspehov Geoffrey Hinton velja za enega od očetov umetne inteligence in je pred štirimi leti tudi...

Slo-Tech - Povsem pričakovano je bilo, da bodo kitajski giganti hitro sledili zahodnim in predstavili svoja orodja umetne inteligence. Alibaba je bila to napovedala že v začetku leta, sedaj pa je predstavila Tongyi Qianwen, kar bi lahko prevedli Resnica iz tisočerih vprašanj, dasiravno uradne angleške verzije nima. Kljub temu Tongyi Qianwen tekoče govori kitajsko in angleško ter bo sčasoma na voljo v vseh storitvah in izdelkih Alibabe.

Danes dopoldne je izvršni direktor Alibabe Daniel Zhang predstavil Tongyi Qianwen, ki je za zdaj na voljo v poslovni storitvi za komuniciranje DingTalk in v pametnih zvočnikih Tmall Genie (podobno kot Alexa). Sčasoma bo na voljo povsod, so obljubili. Kako se bo odrezala nova umetna inteligenca, bomo še videli. Ko je Baidu pred mesecem dni predstavil svojo rešitev z imenom Ernie, je razočaral. Od Alibabe pričakujemo več, predvsem pa več pričakuje tudi kitajska javnost. Prvi testi so se začeli že v petek in za zdaj je jasno, da zna pisati poezijo v kitajščini,...

Slo-Tech - Ena opaznih nevšečnosti med videoklici je gledanje mimo sogovornika, saj sodelujoči večinoma zrejo v svoje zaslone in ne v kamere. Rezultat so sogovorniki, ki navidezno gledajo mimo drug drugega. To je problem, ki ga lahko reši umetna inteligenca, v kar je Nvidia vpregla novo funkcijo Eye Contact v okviru Nvidia Broadcast 1.4.

Če jo vključimo, bo umetna inteligenca analizirala sliko in oči popravila tako, da bo človek gledal v kamero. Uporabe so mnogotere. Nvidia na primer navaja, da je to primerno za ljudi, ki želijo brati napisano besedilo z lista ali zaslona in se pri tem posneti. Prav tako je primerna za posnete javne nastope. Nekaj podobnega ima tudi Apple z imenom Eye Contact ter Microsoftov Windows 11.

Iz prvih posnetkov je videti, da tehnologija deluje solidno, za prave sodbe pa bo treba počakati na praktične poizkuse. Proizvajalec obljublja, da tehnologija zadene celo barvo oči in da ne pretirava. Če pogledamo res daleč stran, potem neha popravljati pogled in nam dovoli,...

Slo-Tech - Kitajski raziskovalci (z University of the Chinese Academy of Sciences) so pokazali, da je možno zlonamerno kodo učinkovito skriti v nevronske mreže in jo s tem pretihotapiti mimo protivirusnih zaščit. V objavljenem članku so 36,9 MB virusne kode skrili v 178 MB veliko nevronsko mrežo, ki je sicer namenjena prepoznavanju fotografij. S tem njenega delovanja niso opazno poslabšali (manj kot odstotek), so pa se izmuznili protivirusnim programom. Storitev VirusTotal, ki uporablja več kot 70 različnih protivirusnih programov in sezname sumljivih strani, domen in podobna orodja za iskanje sumljivega obnašanja, ni opazila ničesar.

Raziskovalci so v izdelani model nevronske mreže, ki je dobro deloval, v primeren sloj podtaknili virus. Možno je tudi drugače, in sicer lahko vzamejo nenatreniran model, mu dodajo virus in ga potem urijo. Rezultat bo nevronska mreža, ki bo nekoliko večja, bo pa primerljivo kakovostna. To je v bistvu steganografija, umetnost skrivanja, ki ni novost. Skrivna...

Slo-Tech - V bazah znanih ranljivosti od minulega tedna najdemo vnos CVE-2021-32471, ki je postavil rekord za najstarejšo odkrito ranljivost. Švedski raziskovalec Pontus Johnson s Kraljevega inštituta za tehnologijo (KTH) v Stockholmu je odkril ranljivost v implementaciji Turingovega stroja iz leta 1967 Marvina Minskega. To predstavlja najstarejšo odkrito ranljivost, saj tiči v 54 let starem "programu".

Rekord je seveda bolj zanimivost kot kaj praktično uporabnega, saj te implementacije univerzalnega Turingovega stroja v praksi nikjer ne uporabljamo. Turingov stroj je algoritemska posplošitev, abstraktni sistem, ki ne obstaja. Zamislil si ga je britanski matematik Alan Turing leta 1936 in predstavlja (neizvedljiv) model do skrajnosti poenostavljenega računalnika z neskončnim spominom, ki zmore računati. S Turingovim strojem lahko simuliramo vsak (končni) računski algoritem.

Marvin Minskys, ki velja za pionirja umetne inteligence, je leta 1967 objavil znamenito knjigo Computation: Finite and...

Slo-Tech - Računalniško združenje ACM (Association for Computing Machinery) je razglasilo letošnja prejemnika Turingove nagrade, ki je v računalništvu približna ustreznica Nobelove nagrade in nosi milijon dolarjev nagrade. Letos jo prejmeta Jeffrey Ullman in Alfred Aho, ki sta opravila pionirsko delo na področju prevajalnikov in algoritmov. Ullman je zaslužni profesor računalništva na Stanfordu, Aho pa na Columbii. V uradni utemeljitvi letošnje nagrade piše, da se podeli za fundamentalne algoritme in teorijo, na katerih temelji izvedba programskih jezikov, ter sintezo rezultatov v njune vplivne knjige, ki so izobraževale generacije informatikov.

Programski jeziki so dandanes vse bolj intuitivni in zmogljivi, predvsem pa prilagojeni najrazličnejšim namenom uporabe. Z njimi pišemo kodo, ki krmili vse od pametnih telefonov do avtomobilov in superračunalnikov. Ključna infrastruktura pa so prevajalniki, ki višjenivojsko kodo prevajajo v strojno kodo ničel in enic, ki jo razumejo procesorji. Brez...

Slo-Tech - Kalifornijsko podjetje Covariant je pokazalo strojno inteligenco, ki robotskim rokam omogoča doslej še nevideno zanesljivost pri rokovanju z raznolikimi predmeti, tudi v še nepredvidenih situacijah. Uspeh na široko odpira vrata robotizaciji sortiranja v skladiščih in drugod.

Pri udarnih najavah o robotizaciji skladišč, ki v zadnjih letih rade prihajajo s Kitajske, gre prvenstveno za avtomatizacijo notranjega transporta - se pravi naprednejše vozičke. Ročnih spretnosti, ki so potrebne za finejšo manipulacijo predmetov, pa pri robotih doslej še nismo uspeli spraviti na zadovoljivo raven za komercialno rabo izven enoličnih proizvodnih linij, navkljub množici firm, ki se trudijo v to smer. To je med drugim zgrda izkusila Tesla, kjer so se namere po 100-odstotni robotizaciji avtomobilskih tovarn klavrno izjalovile in Musku precej zakomplicirale situacijo.

Mlado kalifornijsko podjetje Covariant pa je sedaj objavilo, da je uspelo razviti strojno pamet, ki dosega prek 99-odstotno...

Google - Eden izmed zanimivih problemov za umetno inteligenco je napoved vremena, ki je računsko zahteven postopek, saj opisujemo kaotičen sistem. Konvencionalni modeli za napoved vremena so precej dobri za obdobje od nekaj ur do nekaj dni v prihodnosti, a imajo natančnost omejeno prostorsko in kvalitativno. Google je za del tega problema uporabil nevronske mreže, ki dobro delujejo za zelo kratkoročne napovedi padavin. Za napovedi do šest ur so v številnih primerih celo natančnejše od konvencionalnih modelov, predvsem pa imajo več podrobnosti.

Googlov sistem razseka okolico na kilometrsko mrežo, medtem ko je ima konvencionalni ameriški model pet kilometrov velike kvadrante. To daje več fine resolucije, kar je zelo uporabno za kratkotrajne napovedi. Druga pomembna odlika je hitrost, saj Googlov sistem napoved ustvari v 10 minutah in ne v 1-3 urah kakor klasika (HRRR). To ima očitne prednosti, če želimo napovedati, kakšno bo vreme čez pol ure. To je možno, ker je kratkotrajna napoved padavin...

Ars Technica - Največja konferenca o strojnem učenju na svetu, NeurIPS, je letos minila v znamenju vse večjega zavedanja o kritičnih omejitvah globokih nevronskih mrež in iskanju načinov, kako bi ovire prešli.

Globoko učenje - se pravi, raba globokih nevronskih mrež - si je v zadnjem desetletju praktično podredilo področje strojne inteligence. Dalo nam je algoritme, ki premagujejo ljudi v strateških igrah, prepoznavajo obraze, diagnosticirajo bolezni in vozijo avtomobile ... dokler cesta ni preveč luknjasta, mokra in polna nepredvidljivih kolesarjev. Prav ta zadnji primer pa že kaže, kako omejen je pravzaprav ta pristop, saj se avtonomna vozila kar ne morejo izviti iz primeža eksperimentalnih faz, pa čeprav naj bi bila že nekaj časa tik za ovinkom. Kdor redno bere našo stran, zna našteti šibke točke globokega učenja na izust: občutljivost na šum; ogromne baze podatkov, potrebne za učenje; pristranskost in pa katastrofično pozabljanje, se pravi neučinkovitost izven zelo ozko zastavljenih...

Intel - Intel je pokazal platformo za nevromorfno računalništvo Pohoiki Beach, ki jo sestavlja do 64 procesorjev Loihi in vsebuje do osem milijonov vozlišč. Gre za važen dosežek na poti širjenja računalnikov, ki podatke na strojni ravni procesirajo podobno kot človeški možgani.

Kljub današnji razvpitosti strojnega učenja so nevronske mreže zvečine še vedno v celoti programske in emulirane tečejo na procesorjih klasičnega tipa. Nevromorfno računalništvo, s čimer označujemo čipe, ki tudi na strojni ravni ponazarjajo živčna vozlišča, je še vedno v povojih. Intel je predlani pokazal svoje ambicije s predstavitvijo procesorja Loihi s 130.000 nevroni - se pravi, dva imata približno toliko "živčnih celic" kot vinska mušica. Sedaj pa...

New Scientist - Raziskovalci iz Wisconsina so razvili steklo, ki je sposobno prepoznave zapisanih števk, saj nečistoče v njem sestavljajo nevronsko mrežo.

Ob pojmu strojnega učenja in algoritmov običajno pomislimo na strežniške farme, skozi katere Alexa prepoznava naš govor ali Google primerja fotografije. Toda pristopi niso omejeni zgolj na polprevodniška vezja in strokovnjaki jih skušajo pripeljati tudi v druge medije. Na Univerzi Wisconsin v Madisonu so napravili stekleno plast, ki prepozna ročno zapisane cifre in to brez električnega napajanja. V njeno strukturo so namreč vdelali motnje v obliki zračnih mehurčkov in nečistoč, predvsem vključkov grafena, s katerimi so dobili funkcionalno nevronsko mrežo. Svetlobo,...

Slo-Tech - Medtem ko je San Francisco prepovedal uporabo tehnologije za samodejno prepoznavanje obrazov, je na križarkah prepoznavanje obrazov zelo aktualno. Primer je denimo družba Royal Carribean, ki je na svoje križarke začela nameščati to in sorodne tehnologije, da bi pospešila vkrcavanje potnikov. Podpredsednik za digitalizacijo Jay Schneider je pojasnil, da so s tem skrajšali čas vkrcavanja s poldruge uro na piškavih deset minut.

Novejše križarke uporabljajo mobilne vstopne kupone in avtomatično prepoznavanje obrazov, kar omogoča hitrejše vkrcanje, hkrati pa posadka ob vstopu že takoj dobi informacije o potniku. Ob tem Schneider zagotavlja, da se po vsaki plovbi zajete obrazne fotografije izbrišejo. Royal Carribean preizkuša...

Slo-Tech - Zveza za računske stroje (ACM) je sporočila, da Turingovo nagrado za dosežke na področju računalništva prejmejo Geoff Hinton z Univerze v Toronu in Google Braina, Yann LeCun z Univerze New York in vodja umetne inteligence pri Facebooku, ter Yoshua Bengio z Univerze v Montrealu. Nagrajenci si bodo milijon dolarjev nagrade razdelili za pionirsko delo na področju globokega učenja (deep...

TechXplore - Znanstveniki iz Chicaga so pokazali, da je mogoče že s preprostim prijemom, ki posnema delovanje človeških možganov, napraviti umetno nevronsko mrežo večopravilno in močno omejiti njeno pozabljanje ob učenju novih veščin.

Današnja umetna inteligenca sicer počne nekatere navdušujoče stvari, kot sta prepoznava govora in obrazov. A tudi najnaprednejši algoritmi so v svoji namembnosti izredno togi, saj tisti za vožnjo ne znajo prodajati delnic. Ko običajni deep network poskušamo priučiti česa drugega, namreč izgubi originalno znanje, ker nove izkušnje s spreminjanjem moči sinaps podrejo prvotno strukturo. Temu strokovnjaki pravijo katastrofalno pozabljanje (catastrophic forgetting). Intuitivno bi zato sklepali, da bi...

Slo-Tech - DeepMind je svojo pot začel kot izvrsten igralec iger, a se je umetna inteligenca kmalu začela učiti tudi uporabnejših reči. Pred dvema letoma je DeepMind začel sodelovati z očesno kliniko Moorfields v Londonu, kjer je bil cilj umetno inteligenco naučiti prepoznati bolezni, ki jih lahko diagnosticiramo s fotografij oči. Številne bolezni je moč diagnosticirati s pregledom oči, na primer diabetično retinopatijo (bolezen očesne mrežnice zaradi povečane koncentracije sladkorja v krvi) ali starostno degeneracijo rumene pege. Dve leti pozneje so prvi rezultati objavljeni v Nature Medicine. Povzetek: DeepMind je boljši od ljudi.

DeepMind lahko iz posnetkov OCT prepozna več kot 50 različnih bolezni z natančnostjo 94,5 odstotka. Pearse Keane, ki je eden vodilnih avtorjev raziskave, pojasnjuje,...

Slo-Tech - Organska sinteza se zdi tako logični posel za superračunalnik in nevronske mreže, da je pravzaprav zelo nenavadno, da se tega doslej še niso lotili. IBM-ov Watson je že pred šestimi leti študiral medicino, kjer gre za podoben problem. Imamo kopico podatkov in precej dobre teorije, a na koncu še vedno potrebujemo nekaj intuicije, občutka ali pa izkušenj. Organska sinteza je v tem primeru podobna diagnostiki. Od začetka organske kemije pred 190 leti smo pridelali že obsežne baze reakcij in pogojev, s katerimi lahko izvajamo pretvorbe organskih molekul, a na koncu smo vedno potrebovali izkušenega človeka, ki je čez palec pogledal sintezno pot in rekel: Tole bi raje takole. Sedaj se tega uči tudi umetna inteligenca.

Organska kemija ima danes trdne temelje in dobro razumevanje reakcijskih mehanizmov, ki pa so v večini postavljeni empirično in služijo kot razlaga opaženih...

Slo-Tech - Umetna inteligenca se v raziskavah približuje medicini in psihologiji, kar je precej slabše, kot se sliši. V zadnjem času ima znanost čedalje večji problem s ponovljivostjo rezultatov, medicina in psihologija pa pri tem prednjačita.

Pričakovali bi, da so rezultati znanstvenih raziskav v specializiranih revijah tako natančno popisani, da jih lahko kadarkoli ponovimo in pridemo do istih zaključkov. Žal je resnica bistveno drugačna. Na vsakem področju se najdejo raziskave, ki jih ni mogoče ponoviti; na nekaterih področjih pa jih je nadpovprečno veliko. Pri tem ne gre nujno za ponarejanje, goljufanje ali namerno izbiranje pozitivnih rezultatov, temveč pogosto za površno izvedbo, nepopoln opis, slabo dokumentacijo itd. Problema se zavedajo tako...

Slo-Tech - Google je eno izmed vodilnih podjetij na področju prepoznavanja slik in govora ter strojnega prevajanja. Vsem trem problemom je skupno dejstvo, da niso rešljivi z enostavnimi sekvenčnimi algoritmi, ker ne moremo predvideti vseh možnih vhodnih podatkov. Največ na tem področju obljubljajo umetne nevronske mreže (ANN). Google je v zadnji objavi pokazal nekaj fantastičnih slik, ki dajejo vpogled v delovanje ANN.

Kot tolikokrat v zgodovini je tudi zamisel ANN navdahnila narava, ki je imela milijarde let časa, da poišče rešitve za probleme. Te niso vedno optimalne, so pa v okviru možnosti in potreb zelo dobre. Kjer bi se s klasičnim zaporednim algoritmom zaleteli v zid, so se ozrli po bioloških nevronskih mrežah oziroma možganih. To je zelo logična poteza, saj so človeški možgani izjemno dobri pri reševanju problemov, za katere jih je evolucija...