» »

Umetna inteligenca zna več programskih jezikov, a površno

Umetna inteligenca zna več programskih jezikov, a površno

Slo-Tech - Kmalu po izidu ChatGPT in kasneje tudi njegovega brata Chat Binga smo se navduševali nad njuno sposobnostjo pisanja programske kode. Za zdaj še ne znata napisati nove igre, a za pisanje posameznih gradnikov ali pa zgolj ogrodja zanje sta povsem sposobna. Tega sta se naučila z analizo dostopne kode na spletu, ki je ni malo. Github, Stack Overflow in podobne storitve so polne zgledov.

Čeprav je ta koda na spletu dostopna prosto, pa upravljavci zbirk ugotavljajo, da ustvarjalci velikih jezikovnih modelov s tem kujejo dobičke na njihov račun. Reddit je že napovedal, da bo dostop v ta namen zaračunaval. Enako kani storiti tudi Stack Overflow. Ni namreč skrivnost, da so se modeli učili tudi z vsebinami s Stack Overflowa. Ob tem lahko spomnimo na GitHub Copilot, ki sta ga skupaj pripravila OpenAI in GitHub za pomoč programerjem pri pisanju kode, pa ju je na koncu doletela tožba zaradi kršitev avtorskih pravic. Tudi ta se je učil na kodi, ki so jo prispevali drugi. Z licenčnega vidika pa odločitev Stack Overflowa pojasnjuje izvršni direktor Prashanth Chandrasekar. Koda je objavljena pod licenco Creative Commons, ki zahteva ustrezno priznanje avtorstva, česar pa veliki jezikovni modeli ne počnejo, torej jo kršijo.

Drugo vprašanje pa je, kako dobro kodo pišejo ti jezikovni modeli. Za manjše koščke, denimo napiši skripto, ki se sprehodi skozi vse mape in v njih požene manjšo kodo, to ni težava. Ko pa govorimo o kompleksnejši kodi, ki mora biti tudi varna pred napadalci, se razmere zapletejo. ChatGPT piše večidel kodo, ki ima varnostne pomanjkljivosti, čeprav to ve. Raziskovalci z Univerze v Quebecu so ugotovili, da čeprav zna na podvprašanja pravilno odgovoriti in opozoriti na nevarnosti v lastni kodi, v prvem poizkusu še vedno odda ne-varno kodo. Težko je predvideti, kaj se bo zgodilo, saj isti problem v različnih jezikih rešuje konceptualno drugače. Včasih napiše varno kodo, spet drugič izrazito luknjičasto.

Ob tem so najnovejše Microsoftove navedbe, da Bing govori 20 programskih jezikov, videti zelo blede. Pisanje delujoče kode je le en, manjši del ustvarjanja. Pravi izzivi tičijo drugje.

16 komentarjev

WhiteAngel ::

Tole me spominja na Teslinega avtopilota. Samo še čisto malo, pa bo. Peta stopnja avtonomnosti, majkemi! Hudič je v detajlih. In... pridemo do spoznanja, da spet še vedno rabimo programerje in voznike kombijev >:D

Glugy ::

"da ustvarjalci velikih jezikovnih modelov s tem kujejo dobičke na njihov račun"
A ko uporabniki uporabljajo znanja ki jih potem pridom uporabljajo za služenje denarcev je pa vse v redu? Še vedno služijo na njihov račun sam proti nimajo nič.

Vedno je bilo v igri fair play, torej ti lahko inspiracijo dobiš od drugega avtorskega dela in si s tem pomagaš pri svoji interpretaciji rešitev. A samo pri AI jih pa to moti. Krneki. Sam izgovor iščejo za keš nič druzga.

Sej AI ni tisti ki ima končno besedo, ima jo ustvarjalec ki ustrezno preveri, popravi in olepša polprodukt od AI. Konec koncev je ustvarjalec ( uporabnik ) tisti ki je odgovoren ne pa AI.

AI je samo orodje. Res je da je bolj napredno kot orodja ki smo jih navajeni ampak tud tega se da navast in z njim odgovorno ravnat. Vedno boš pa kot pri vsakem orodju imel tiste ki bodo orodja zlorabljali. Ampak zato še ne pomen da se mora orodja prepovest. To je zgrešen z napredkom civilizacije.

Zgodovina sprememb…

  • spremenilo: Glugy ()

bosmla ::

Se mi zdi, da bo tole slo po zelo ne-varni poti naprej. Vedno vec kode bo napisane strojno, posledicno bo se manj ljudi imelo vsaj priblizni pojem kako je koda napisana (COBOL) na koncu bo vse nekako delalo, dokler bo, potem pa, tema!

FrRoSt ::

bosmla je izjavil:

Se mi zdi, da bo tole slo po zelo ne-varni poti naprej. Vedno vec kode bo napisane strojno, posledicno bo se manj ljudi imelo vsaj priblizni pojem kako je koda napisana (COBOL) na koncu bo vse nekako delalo, dokler bo, potem pa, tema!


:)):)):)):)):))

DA! Počasi se pripravite na Skynet!! ;)
Noben človek ni otok, popolnoma sam zase; smrt slehernega človeka vzame
del mene, ker pripadam človeški vrsti; in zato nikdar ne pošiljaj poizvedovat,
komu zvoni; zvoni tebi.

DamijanD ::

sploh, ker očitno niso vsi navdušeni nad polletno pavzo. Google je že rekel, da zaradi Kitajcev ne morejo zabremzati za pol leta.

Colt1911 ::

Kitajcev??? Tukaj sem se naučil da so glupi ko k...c , da znajo sam kopirat pa še to slabo. Ker niso arijska rasa, tako kot USA.
Zmeden sem!:))

fulk ::

V bistvu s tem AI-jem so se napovedane bojazni že uresničile. Konkretno: ultra levičarski imbecili ga že uporabljajo kot vir resnice in informacij.
Popolnoma jasno je bilo, da se bo to zgodilo. Podobno kot "če ni na Wikipediji, ni res".
Ljudje vedno gredo po liniji najmanjšega odpora.

Praktično garantiram, da v prihodnje, ko bo ta AI razširjen, folk ga bo jemal kot arbitra ne samo resnice, tudi nasvetov.
Dobili smo najhujši "AI" dovolj pameten, da prelisiči mase imbecilov, preneumen, da bi bil res zanesljiv.

Karamelo ::

Dobili smo najhujši "AI" dovolj pameten, da prelisiči mase imbecilov, preneumen, da bi bil res zanesljiv.


tole je oz. bo srž vseh težav

korenje3 ::

Za enkrat je chatgtp dober za delanje "template" programske kode.
i9-12900k; 32GB DDR5-6000 CL36; Nvidia RTX 3080 ti;
Gigabyte Aorus z690 master; Be Quiet Dark Power 12 1000W

feryz ::

A ni template programska koda že narejena?
A jo je treba še enkrat?

Markoff ::

Colt1911 je izjavil:

Kitajcev??? Tukaj sem se naučil da so glupi ko k...c , da znajo sam kopirat pa še to slabo. Ker niso arijska rasa, tako kot USA.
Zmeden sem!:))

Quantity is a sort of quality. Nikoli ne pozabi tega. Če primerjamo enega povprečnega (ali top, kakor hočeš) inženirja iz CN ali ekvivalentnega iz EU/US, ni primerjave. Če ti na enega inženirja iz EU/US pride 10 iz CN, ravno tako ni primerjave.

Res pa neugodni demografiji demokratičnih zahodnih držav (TFR ca. 1,5 - 1,6) nasproti stoji katastrofalna demografija CN (že pod 1,2), tako da bo tudi teh 10:1 kmalu splahnelo...če upoštevamo še neto migracije (ki so na zahodu pozitivne in off-setajo padec rodnosti), kaj šele 30 mio viška moških, je CN v totalni riti.

Če CN še napade TW in spuši 0,5 - 1 mio vojakov (tudi, če zmaga), well, game over.

Kar je najhuje pri CN, je popolna odsotnost kakršnekoli odgovornosti za človeštvo kot vrsto. Če imamo na zahodu neko mešanico individualizma in družbene odgovornosti (socialna država, ekologija, varovanje posameznika pred samovoljo oblasti), je na CN vse podrejeno interesom CCP. Tudi gradnja AI. Varovalke? Sure, varuj CCP. All other priorities secondary.
Antifašizem je danes poslednje pribežališče ničvredneža, je ideologija ničesar
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021

anoq ::

Uff kolk ene anksioze zaradi nekega polomlenega orodja :D
Imam očutek, da veliko št. komentaterjev sploh ni testiralo katero od teh AI orodij.

Karamelo ::

anoq je izjavil:

Uff kolk ene anksioze zaradi nekega polomlenega orodja :D
Imam očutek, da veliko št. komentaterjev sploh ni testiralo katero od teh AI orodij.


a gremo tale post prebrat čez kakšno leto ali dve?

fikus_ ::

Zmagal bo tisti, ki bo znal ta orodja uporabiti, ostali v isti branži bodo menjali službo.
Učite se iz preteklosti, živite v sedanjosti in razmišljajte o prihodnosti.

Zimonem ::

Gpt4 dobiva bistveno večji spomin v smislu konteksta. Cene bodo sicer zasoljene ampak preskok naj bi bil večji kot med gpt 3.5 in 4.

SkyNet ::

FrRoSt je izjavil:

bosmla je izjavil:

Se mi zdi, da bo tole slo po zelo ne-varni poti naprej. Vedno vec kode bo napisane strojno, posledicno bo se manj ljudi imelo vsaj priblizni pojem kako je koda napisana (COBOL) na koncu bo vse nekako delalo, dokler bo, potem pa, tema!


:)):)):)):)):))

DA! Počasi se pripravite na Skynet!! ;)


Brez skrbi. Sem že tu ;)
right minus opens, into bump easy left, flat out right, into mcdrive 3 bigmacs


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

Jaz pa mislim, da bo ChatGpt izpodrinil programerje (strani: 1 2 3 4 5 6 )

Oddelek: Loža
29433801 (1376) BorutO
»

Microsoft uradno predstavil z GPT podprt Bing

Oddelek: Novice / Ostala programska oprema
218552 (5065) fikus_
»

Google napovedal konkurenta ChatGPT-ju

Oddelek: Novice / Znanost in tehnologija
127935 (6664) Maxlos
»

ChatGPT že uradni soavtor znanstvenih člankov, čeprav ne bi smel biti

Oddelek: Novice / Znanost in tehnologija
195036 (3264) dexterboy
»

Tudi OpenAIjev pogovorni bot trpi za podobnimi hibami kot tekmeci

Oddelek: Novice / Ostala programska oprema
76109 (4948) damjanster

Več podobnih tem