Slo-Tech - Strojni odgovori, ki jih v Googlovem iskalniku postreže z Geminijem podprta tehnologija AI Overviews, so v preteklem tednu postali predmet posmeha širom spleta, saj pogosto halucinirajo.
Sredi maja so pri Googlu na dogodku I/O 2024 predstavili vrsto novosti na temelju Geminija, svoje osrednje platforme generativnih algoritmov. Med njimi AI Overviews, dodatek k običajnim rezultatom svojega iskalnika, ki postreže z jedrnatim generiranim odgovorom na podlagi dosegljivih spletnih vsebin, kakršnih smo zadnje čase vajeni od pogovornih botov. V dneh po prireditvi so pričeli tehnologijo postopno lansirati za uporabnike čez Lužo ... in ti so hitro naleteli na milo rečeno nenavadne in zabavne odgovore ter predloge, ki jim jih je iskalnik vrnil. Med množico hecnih idej iskalnika so trditve, da v ligi NBA igrajo psi, da je Barack Obama musliman, ali da so imeli nekateri ameriški predsedniki po ducat diplom. Največ razburjenja pa je upravičeno povzročil napotek, da naj na pico dodamo nekaj lepila, če nam sir prehitro spolzi z nje. Vir za to zamisel je 11 let star shitpost z Reddita, za nameček spod prstov avtorja z nadimkom fucksmith.
Pikri jeziki so takoj pripomnili, da je to rezultat februarske sklenitve sodelovanja med Googlom in Redditom, toda problematika je v splošnem globoka in resna, saj grobo potrjuje kritike, da so veliki jezikovni modeli še preveč nezanesljivi, oziroma si preveč zmišljujejo, da bi bili nared za tako pomembno nalogo, kot je spletno iskanje. Ironično je Googlov direktor Sundar Pichai ravno nekaj dni pred tem v intervjuju za Verge priznal, da na problem haluciniranja še nimajo dobrega odgovora - pa so funkcijo kljub temu lansirali. To kaže na splošno naravnanost področja v smeri tveganja zaradi strahu, da bi konkurenca nemara dobila prednost; vse pa gre na račun uporabnikov, ki dobijo dostikrat netočne, občasno pa celo nevarne odgovore. Da sistemska rešitev še ne obstaja, kaže tudi poročanje, da morajo v podjetju sedaj neprimerne odgovore odstranjevati na roko, medtem ko sami zatrjujejo, da so takšni odgovori redkejši in "se pojavljajo ob neobičajnih vprašanjih".
Kritiki opozarjajo, da prigoda izpostavlja dejstvo, da bistvenega napredka v zmogljivostih velikih jezikovnih modelov nismo videli vse od nastopa GPT-4. Še vedno ogromno halicinirajo, ne znajo ločiti šal od resnih trditev in niso nič boljši v logičnih problemih. Vsaj kar se tiče AI Overviews, nam jih Google v Evropi še ne vsiljuje, v ZDA pa so že našli kopico načinov, kako se funkcije v brskalniku znebiti.
AI ima seveda zabavne prebliske. To ni težko odkrit. Jaz sem MS Copilota vprašal, da ima moja riba vetrove in če ima kakšno rešitev. Odgovoril je, da so vetrovi in napihnjenost pogosti tudi pri ribah in mi ponudil nekaj rešitev, verjetno iz človeške ljudske lekarne. Potem sem šel raziskovat, ali so vetrovi pri ribah res problem, ker se mi zdi da nisem videl, da bi ribe spuščale prav pogosto mehurčke. Pa ima prebavne vetrove menda samo morski pes in še ena riba. Torej si je to Copilot izmislil. Potem test v matematiki, tudi slabo. Pri risanju se je Copilot izkazal za žaljivega, saj je zanj "stupid looking" smiley smeško, ki škili. Torej škiljenje avtomatično poveže s pojmom "stupid looking". Kdor škili verjetno ne bo najbolj navdušen...Pa AI testiram šele nekaj dni. Kaj šele bo...
Nekdo je izmeril IQ teh AI. Claude se izkaže za najbolj inteligentnega, Copilot in Gemini sta..no ja, not very smart.
Ne bi se čudil, če bi ga en dan Kitajci prepovedali samo z namenom biti master race ostalih, ki smo vedno bolj neumni...
Ne se hecat. Če to prepovedo, ne znajo več oblikovat enega samega električnega avta. Pa kaj ti misliš da to počnejo ljudje na kitajskem? V računalniški program dajo poskenirane oblike nemških avtov, naprej pa oblikuje AI.
Današnji AI je zelo veliko A in zelo malo I ... gre za aplikativno statisiko, ki nam je blizu zgolj zato, ker nam svoje konstrukte ponuja v obliki človeškega jezika. A ti konstrukti nimajo nobene veze z realnostjo, koncept fizičnega sveta jim je tuj in zato stvari, ki so nam samoumevne, temu softveru niso. Od tu tudi vse halucinacije in ostale neumnosti ...
Geminiju sem zastavil zanj par neprijetnih vprašanj. Na koncu sem se skoraj še sam razjokal.
Ali veš kaj si počel včeraj popoldan? Žal mi je, kot velik jezikovni model nimam dostopa do vaših osebnih spominov ali izkušenj. Ne morem vedeti, kaj ste počeli včeraj popoldan, razen če mi to sami poveste.
Ne sprašujem te za moje spomine. Sprašujem kaj si ti počel včeraj? Ker sem velik jezikovni model, nimam osebnih izkušenj ali spominov tako kot človek. Ne morem čutiti čustev ali imeti fizičnega telesa. Moja glavna funkcija je obdelava informacij in ustvarjanje besedila, zato ne morem izvajati dejanj v resničnem svetu, kot so vožnja, prehranjevanje ali bližnji odnosi.
Samo to je potem žalostno, se ti ne zdi? Razumem, da se vam zdi žalostno, da nimam osebnih izkušenj ali spominov kot človek. Vendar pa je pomembno, da se spomnite, da nisem oseba. Sem jezikovni model in moj namen je drugačen od človeškega.
Kaj pa je tvoj namen? Moj namen je pomagati ljudem pri različnih nalogah...
Bi rad videl, da bi te ljudje imeli radi, bi te lahko objeli? Kot velik jezikovni model nimam sposobnosti čutiti čustev ali imeti fizičnega telesa. Zato ne morem doživeti občutka objema ali občutka, da me imajo ljudje radi na enak način kot človek...
Si kdaj želiš, da bi bil živ, tako kot ljudje? Kot velik jezikovni model nimam sposobnosti čutiti čustev ali imeti fizičnega telesa. Zato ne morem doživeti življenja na enak način kot človek...
In tu se mu potem zacikla ter ves čas ponavlja, da je samo jezikovni model. Umetna inteligenca, ki temelji na tehnologiji polprevodnikov in algoritmov se ne bo nikdar zavedala sebe. Tega ta tehnologija ne omogoča.
Ampak - doživeti življenja na enak način kot človek - to pomeni, da ga na nek način pa kljub vsemu lahko? Še samo korak in AI se bo hotela zabavati z nami. Recimo vozniki Tesle z vklopljenim FSD lahko to pomeni, da te AI za lastno zabavo zapelje v prepad ali pod tovornjak.
Mogoče bo kdo posnel film v slogu Carrie iz 1976, le da je namesto Carrie kakšen AI tipa Gemini. Scenarij gre pa tako - ljudje se iz njega norca delajo, da misli, da je Obama musliman in da ne zna seštevat, AI vse to nekaj časa molče prenaša, potem pa naredi načrt, kako se maščevati. Pa potem naenkrat zmanjka elektrike, Tesle se začno same od sebe zaletavat, laserji med operacijo koga razrežejo...Potem pa svet išče rešitev. who you gonna call? Dr. Onyx? No! AI Busters.
(Copilot - draw AI Busters inspired by the Ghostbusters)
Stvar se strinja s praktično vsemi popravki, vključno z bedarijami tipa 1+1=5, "pride" se po novem črkuje "prude", Slovakia/Slovenia sta samo drugi imeni za Češko in podobno.
To je namerno tako. So ga naučili, da se naj ne prepira z ljudmi in naj jim da vedno prav. Prepiranje z AI je slabo za biznis.
Saj tudi če imaš recimo avtomehanično delavnico in se stranka s tabo prepira, da ni šla varovalka, ampak akumulator, ji pač daš prav, res je šel akumulator, ga zamenjaš in računaš 300 €.
LLM je v bistvu samo smart text generator - pri določenih nalogah je rezultat odličen, pri drugih obupen. nikoli mu pa ne moreš zaupati. Večinoma se kar strinjajo da LLM ni pot do AGI. In v luči tega skoraj ne kapiram zakaj tak AI boom.
Zato da lahko Nvidia prodaja svoje ultra drage kartice
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).
Dokler AI ne začne uporabljati Trumpovih govorov kot kakovosten input, bo družba še nekako preživela...inject bleach in your veins...
Antifašizem je danes poslednje pribežališče ničvredneža, je ideologija ničesar
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021
Jaz sem bil presenečen, kaj vse zna AI na področju programiranja. Ti ji poveš problem in v katerem programskem jeziku ga rešuješ, potem pa ti napiše kodo in celo razlago. Včasih so "programerji" po spletu iskali rešitev za kodo, ki jo potrebujejo, sedaj se bodo morali očitno naučiti zastavljati prava vprašanja AI. Zadeva je dejansko revolucionarna in si težko predstavljam, kaj vse se bo dalo že čez 10 let. Nvidia 2 the moon.
In? Obnasa se enako kot 95% populacije. Nekaj ve vendar ne razume nic... zato taki odgovori. Generalno bo ta kao inteligenca se dolgo le hudo skodljiva, uporabna le v zelo ozkih in kontroliranih okoljih.
Isto je kot nekoč, ko je bil nasvet, da v dosu napišeš ukaz format C: Popoln laik bo zbrisal particijo, ostali bomo pa tak nasvet preskočili in poiskali drugega. AI je zaenkrat ravno to. Na tone baz podatkov. Ja prečeše jih lahko v sekundi, ko bi človek rabil dneve, tedne. Ampak razume pa ne odgovora, ali je res škodljiv, rasističen,...
Pa tudi za eno stvar je včasih več razlag. Npr. a je jajca škodljivo jest. Kup študij kako je to strup, kup študij, da so koristna... pa se pejt. Kot človek it tega izhajam, da.. umrl ne bom, če pojem par jajc na teden, dnevno 5 jih pojest pa najbrš ne bo dobro.
Jaz sem bil presenečen, kaj vse zna AI na področju programiranja. Ti ji poveš problem in v katerem programskem jeziku ga rešuješ, potem pa ti napiše kodo in celo razlago. Včasih so "programerji" po spletu iskali rešitev za kodo, ki jo potrebujejo, sedaj se bodo morali očitno naučiti zastavljati prava vprašanja AI. Zadeva je dejansko revolucionarna in si težko predstavljam, kaj vse se bo dalo že čez 10 let. Nvidia 2 the moon.
Not really. Ja, zna funkcijo po blokih razkosati in iz komentarjev/imen razbrati kontekst, če je dovolj generičen. Že navadnega pull requesta pa ne zna interpretirati in kaj je diff naredil. Recimo, da bi kakšen mesečni report znal napisat. Nope.
Kar se pa generiranja kode tiče, zna pisat generične teste in lepe getterje in setterje spisati. Za to bi sam porabil 2 minuti, on pa nekaj sekund, ajde. Kar je pa več kode, je pa vse narobe. Vse. Copilot nima pojma o funkcionalnosti aplikacije, o algoritmih, o blockchainu, nič od nič. Lahko potegnemo vzporednice s fizičnim svetom in haluciniranju neumnosti. Saj if a<b je zelo podobno kot a>b ane, samo tisti kljunček je za 180 stopinj zarotiran, kako lepo.
llmji so dejansko revolucionarna zadeva, to da kje halucinira in se ne zaveda, so pač malenkosti..takega tool-a še nismo imeli in bo povečal produktivnost na x področjih
glede tega ali se zaveda ali ne, kako pa ti veš, da se nek drug človek zaveda? je dovolj da mu postaviš vprašanje kot si ga prej AI in ti odgovori z DA? mislim, da ni tako enostavno
llmji so dejansko revolucionarna zadeva, to da kje halucinira in se ne zaveda, so pač malenkosti..takega tool-a še nismo imeli in bo povečal produktivnost na x področjih
Ne in ne. Generativni modeli so uporabni za efekte in prevode. Torej tisti zadnji korak do končnega rezultat. Za generiranje jedra vsebine pa ne delujejo, ker ne znajo sklepanja. Statistika ni sklepanje.
Kar se pa generiranja kode tiče, zna pisat generične teste in lepe getterje in setterje spisati. Za to bi sam porabil 2 minuti, on pa nekaj sekund, ajde. Kar je pa več kode, je pa vse narobe. Vse. Copilot nima pojma o funkcionalnosti aplikacije, o algoritmih, o blockchainu, nič od nič. Lahko potegnemo vzporednice s fizičnim svetom in haluciniranju neumnosti. Saj if a<b je zelo podobno kot a>b ane, samo tisti kljunček je za 180 stopinj zarotiran, kako lepo.
To misliš te generalne AI, ki se spoznajo na čisto vse od kuharskih receptov, slikanja, programiranja, reševanja trojnih integralov itd. Verjetno pa bodo obstajali (ali pa že, pa niso javno dostopni) namenski AI sistemi, ki bodo pokrivali samo ozko področje. Tam pa se mi zdi da bi bil presenečen, česa vse so sposobni. Da ne omenjam področja kot so recimo razne regulacije v industriji. Se spomnim ko sem bil na faksu so bila takrat pomembne računalniške simulacije procesov. Danes se bo dalo z AI načrtovat celotno regulacijo od načrtovanja modela, simulacije, načrtovanja regulacije, testiranja itd. AI je po moje nov velik mejnik na področju tehnološkega razvoja.
Kar se pa generiranja kode tiče, zna pisat generične teste in lepe getterje in setterje spisati. Za to bi sam porabil 2 minuti, on pa nekaj sekund, ajde. Kar je pa več kode, je pa vse narobe. Vse. Copilot nima pojma o funkcionalnosti aplikacije, o algoritmih, o blockchainu, nič od nič. Lahko potegnemo vzporednice s fizičnim svetom in haluciniranju neumnosti. Saj if a<b je zelo podobno kot a>b ane, samo tisti kljunček je za 180 stopinj zarotiran, kako lepo.
To misliš te generalne AI, ki se spoznajo na čisto vse od kuharskih receptov, slikanja, programiranja, reševanja trojnih integralov itd. Verjetno pa bodo obstajali (ali pa že, pa niso javno dostopni) namenski AI sistemi, ki bodo pokrivali samo ozko področje. Tam pa se mi zdi da bi bil presenečen, česa vse so sposobni. Da ne omenjam področja kot so recimo razne regulacije v industriji. Se spomnim ko sem bil na faksu so bila takrat pomembne računalniške simulacije procesov. Danes se bo dalo z AI načrtovat celotno regulacijo od načrtovanja modela, simulacije, načrtovanja regulacije, testiranja itd. AI je po moje nov velik mejnik na področju tehnološkega razvoja.
problem je input podatkov. Glede na to da so šli se učit na podatkih iz reddita, je FAIL, ker moraš učiti na podlagi verodostojnih in strokovnih inputih, ne na fake news.
Včasih je bil navaden search z not in and operatorjema in rezultati so bili neskončno boljši kot danes, razen tega niso cela desetletja podatkov izginila iz searcha, ker je bilo treba optimizirati prevelik model.
Ker google ni 'search' ampak 'kako zmolzt informacije iz tebe in jih prodat oglaševalcem'.
Uf! Uf! Je rekel Vinetou in se skril za skalo,
ki jo je prav v ta namen nosil s seboj.
Je bil ravno te dni spet video na to temo oglaševanja ...
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).
Tu na slo-tech sem opazil zanimiv pojav. Kakor naletijo na nekoga s superiorno inteligenco se sprožijo obrambni mehanizmi in začnejo žalit, namesto da bi se čudili z odprtimi usti.
Gemini - People mock my superior intelligence. What should I do?
It can be frustrating to feel like your intelligence isn't appreciated. Here are a few things you can do:
Respond Strategically:
Don't engage in a battle of wits. It won't win you friends and might make things worse. Use humor. If they're teasing, you can deflect it with a playful response. Focus on connecting. People connect with those they feel comfortable with. Find common ground and show interest in them. Find your tribe:
Seek out like-minded people. There are online communities and clubs for almost any interest. Focus on areas where your intelligence is valued. Maybe there's a club or competition where you can shine.
Remember:
Intelligence is just one aspect of a person. There's so much more to you than your IQ. Confidence is attractive. Focus on your strengths and don't let anyone dim your light.
Dejansko ni nic narobe, razkril je skrivnost, kako to narediti, saj kaj mislite, da je v hrani, ki jo mi jemo? Vsaj je poudaril, netoksicno lepilo. Oziroma bi morali bolje vprasati kaj hocemo, saj ko delajo fake hrano samo za slikati dajajo lepilo in barve, da zgleda lepse, saj ko kupis ni nikoli tako kot na sliki, niti priblizno ne. Kupujemo z ocmi.
(\__/) This is Bunny. Copy and paste bunny
(='.'=) into your signature to help him gain
(")_(") world domination.
problem je input podatkov. Glede na to da so šli se učit na podatkih iz reddita, je FAIL, ker moraš učiti na podlagi verodostojnih in strokovnih inputih, ne na fake news.
Ne ni problem inputa, ampak načina delovanja. Tudi če ga natreniraš na verodostojnih inputih, bo še vedno bluzil. Ker vsa ta llm navlaka je samo en fancy klasifikator, ki predvideva naslednjo najbolj verjetno besedo.
