Slo-Tech - Osemnajst držav je podpisalo neobvezujoč dogovor dogovor o varni umetni inteligenci, med katerimi so tudi ZDA, Velika Britanija, Nemčija in Avstralija. Dogovor, ki so ga javnosti predstavili v nedeljo zvečer, je po besedah ZDA prvi mednarodni dogovor o ukrepih, ki bodo obvarovali uporabo umetne inteligence in varnost pred zlonamernimi akterji. Dogovor predvideva ukrepe, ki bodo zagotavljali, da bo umetna inteligenca varna že zaradi samega ustroja (secure by design).

Dvajset strani dolg dogovor predvideva, da bodo podjetja pri izdelavi in uporabi orodij umetne inteligence to počela na način, ki bo varoval uporabnike in javnost pred zlorabami. Gre sicer za neobvezujoče predloge, ki so splošna priporočila o nadzoru sistemov, zaščiti podatkov in preverjanju dobaviteljev. Kljub temu gre za pomemben dokument, ker predstavlja prvi korak pri zagotavljanju varnosti in ker so se podenj podpisale številne države, je dejala Jen Easterly iz ameriške agencije za kibernetsko varnost in...

openai.com - V eni najbolj presenetljivih letošnjih novic s področja strojnega učenja so iz podjetja OpenAI sporočili, da odpuščajo svojega izvršnega direktorja Sama Altmana, ker naj bi upravi podjetja prikrival informacije.

V aktualnem razmahu generativne strojne inteligence in velikih jezikovnih modelov je Sam Altman gotovo eden od poglavitnih obrazov industrije. Kot soustanovitelj in od leta 2020 tudi izvršni direktor družbe OpenAI je ključno usmerjal njeno pot od sprva neprofitnega raziskovalnega laboratorija proti enemu od najmočnejših igralcev na tržišču sodobnih storitev umetne inteligence, z orodji, kot sta pogovorni bot ChatGPT in generator slik DALL-E. Sodeloval je praktično na vseh pomembnih diskusijah v industriji, na pogajanjih in zaslišanjih z ameriško politiko ter konferencah, na katerih si razvijalci prizadevajo regulatorje in javnost prepričati, da njihova novodobna orodja prinašajo več koristi kot nevarnosti. Med drugim je v začetku novembra sodeloval na prvem mednarodnem...

Slo-Tech - V Bletchley Parku v Veliki Britaniji se je končal prvi mednarodni vrh o varnosti umetne inteligence (AI Safety Summit), na katerem je sodelovalo 28 držav. Države so vrh sklenile s sprejetjem deklaracije o razvoju tehnologije v prid človeštva na zaupanja vreden in odgovoren način. Deklaracijo so podpisale tudi ZDA, EU, Kitajska, Velika Britanija, Brazilija, Indija in Saudova Arabija. Dvodnevni dogodek je gostil britanski premier Rishi Sunak.

Bletchleyska deklaracija prepoznava možnost, da bi napredna umetna inteligenca povzročila resno, lahko celo katastrofalno škodo. Tveganja najlaže obvladujemo z mednarodnim sodelovanjem, zato pa je potrebna tudi regulacija. Medtem ko se države niso strinjale, v kolikšnem obsegu je regulacija potrebna, se strinjajo, da brez nje ne bo šlo. Evropska unija je na tem področju vodilna, saj bo v EU regulirana prek krovnega zakona. Tudi ZDA se pomikajo v to smer, potem ko je ta teden predsednik podpisal izvršni ukaz o regulaciji umetne inteligence.

...

Slo-Tech - Dobili smo še tretje v nizu odmevnih javnih opozoril vodilnih strokovnjakov za strojno učenje, da naj bi umetna inteligenca predstavljala resno nevarnost za propad človeške civilizacije.

Odkar se je lanske jeseni - z nastopom ChatGPTja - strojno učenje prebilo na čelo razvpitosti v IT industriji in širše, se vrstijo tudi vse pogostejša javna opozorila, da je napredek prehiter. Razvijalci algoritmov strojnega učenja, kot so veliki jezikovni modeli in generatorji slik, kakor da so nenadoma ugotovili, da situacije ne nadzorujejo več in nas utegne AI že v razmeroma bližnji prihodnosti vse nadvladati. Tu ne gre za kakšne odpadnike, temveč smetano raziskovalcev ter inženirjev, kot sta dva od treh dobitnikov Turingove nagrade iz leta 2019, Geoff Hinton in Yoshua Bengio, pa vodje skorajda vseh najvidnejših razvojnih laboratorijev.

Najnovejša tovrstna objava prihaja iz organizacije Center for AI Safety (CAIS) in je dolga vsega 22 besed, v katerih trdi, da je stopnja nevarnosti, ki jo...

Slo-Tech - Britanska kraljica Elizabeta II. je danes pomilostila Alana Turinga, očeta modernega računalništva in kriptografije, ki je bil obsojen zaradi velike nespodobnosti. Turing je bil eden ključnih mož pri britanski zmagi v drugi svetovni vojni, saj je skupaj s sodelavci v Bletchley Parku razbil nemško šifrirno napravo Enigma. V zasebnem življenju Turing ni imel sreče, saj je bila tedaj v Veliki Britaniji homoseksualnost kazniva, zaradi česar je bil Turing obsojen. Po obsodbi je bil leto dni na...

BBC - Britanski National Museum of Computing je po šestih letih končal izdelavo replike tunnyja. Tako so se imenovali stroji, ki so jih Britanci med drugo svetovno vojno v Bletchley Parku uporabljali za dešifriranje nemških sporočil. Nemci so uporabljali Lorenzovo šifro, ki je Britanci nekaj časa niso mogli razvozlati. To jim je uspelo šele 1942, po tem ko so Nemci avgusta 1941 poslali podobno sporočilo dvakrat z istimi ključi, kar je bila sicer z dobrimi razlogi prepovedana praksa.

John Tiltman in njegova ekipa je po večmesečnem delu razvozlala šifrirni algoritem, tako da je lahko William Tutte zgradil napravo za avtomatično dešifriranje sporočil nemške vojske. Tunny je deloval v navezi s colossusom, ki je izračunal šifrirne ključe, nato pa je tunny iz teh...

BBC - V Veliki Britaniji bodo zgradili delujočo repliko enega prvih računalnikov na svetu. V Computer Conservation Society (CSS) so objavili, da bodo zgradili repliko Edsaca (Electronic Delay Storage Automatic Calculator, ki so ga prvikrat zagnali na Univerzi v Cambridgeu 6. maja 1949 in je deloval devet let. Prvi program, ki ga je izvedel, je izračunal tabelo kvadratov naravnih števil in tabelo praštevil, kasneje pa je s koristnimi izračuni pomagal dvema raziskovalcema osvojiti Nobelovo nagrado.

Leta 1949...

Slo-Tech - Alan Turing je človek, ki bi ga morali dobro poznati vsi računalničarji, zaradi njegove vloge za tok moderne zgodovine v drugi svetovni vojni pa vsaj prepoznavanje njegovega imena sodi v splošno izobrazbo. Rodil se je v Londonu leta 1912. Že zgodaj v šoli so opazili njegovo nadarjenost za matematiko in znanost, a v elitni zasebni šoli Sherborne School v Dorsetu z njegovimi enostranskimi interesi niso bili najbolj zadovoljni, saj je zapostavljal klasična...