Forum » Loža » AI alignment
AI alignment
Fiv3er ::
Eden vidnejših raziskovalcev razvoja umetne inteligence pravi, da bomo kmalu (kot stranski produkt tega procesa) vsi pod rušo.
https://m.youtube.com/watch?v=gA1sNLL6y... (spustite prvih 15min kripto nakladanja)
Na prvi pogled je vse kar govori smiselno. Se mi pa zdi, da globoke AI vseeno ni tako lahko razviti in je do tja še dolga pot.
Kaj menite?
https://m.youtube.com/watch?v=gA1sNLL6y... (spustite prvih 15min kripto nakladanja)
Na prvi pogled je vse kar govori smiselno. Se mi pa zdi, da globoke AI vseeno ni tako lahko razviti in je do tja še dolga pot.
Kaj menite?
Fiv3er ::
Vidim, da si mojster argumentiranja.
Po vsej verjetnosti bi te ta oseba pojedla na vsaki debati kot odrasla oseba jeclajočega 3-letnika.
Njegovi argumenti so sicer preprosti, a so logični, zato ne dopuščajo veliko manevrskega prostora na drugi strani, kar mu priznavajo tudi njegovi nasprotniki
Po vsej verjetnosti bi te ta oseba pojedla na vsaki debati kot odrasla oseba jeclajočega 3-letnika.
Njegovi argumenti so sicer preprosti, a so logični, zato ne dopuščajo veliko manevrskega prostora na drugi strani, kar mu priznavajo tudi njegovi nasprotniki
Zgodovina sprememb…
- spremenilo: Fiv3er ()
Aramis ::
A ne bi raje povedal kakšno o flat earth in reptilian debati?
Skoraj tam tam, ko posnetek zgoraj.
Skoraj tam tam, ko posnetek zgoraj.
Fiv3er ::
Flat eartherji in reptilijani sta skupini ljudi, za katere so na manjših vzorcih dokazali precej nižji IQ od povprečja.
Za ljudi, ki se pogovarjajo o AI alignmentu podobne raziskave ne obstjajo. Glede na to kakšni fundamenti so potrebni, da nekdo lahko sploh kvalitetno prispeva k debati, pa bi rekel, da velja ravno nasprotno kot pri prej omenjenih.
Razumem pa, da nima povprečni Janez koncentracije, kaj šele znanja, da bi zapisal kaj več od mentalih prdcev BuDija in Aramisa
Za ljudi, ki se pogovarjajo o AI alignmentu podobne raziskave ne obstjajo. Glede na to kakšni fundamenti so potrebni, da nekdo lahko sploh kvalitetno prispeva k debati, pa bi rekel, da velja ravno nasprotno kot pri prej omenjenih.
Razumem pa, da nima povprečni Janez koncentracije, kaj šele znanja, da bi zapisal kaj več od mentalih prdcev BuDija in Aramisa
Pezdicek ::
Osebni podatki
Uporabniško imeFiv3er
Čas prve prijave 24.01.2023 20:53:51 Spol Vesoljec
LOCK & BAN
Uporabniško imeFiv3er
Čas prve prijave 24.01.2023 20:53:51 Spol Vesoljec
LOCK & BAN
fulk ::
Najprej si zapomnite, da ta chatGPT ni AI v večjem pomenu te besede, ampak je zgolj zelo velik in prepleten algoritem.
Nobeno bitje na tem planetu ne rabi tisoče in tisoče primerov in megavate energije, da si ustvari nek preprost vzorec.
Ampak ja, tej modeli bodo uporabna zadeva za repetitivni micromanagement. Repetitivni micromanagement je recimo iztrebljanje ljudi z oboroženim dronom na nebu. Namesto, da človek tuhta kam piha veter, kako visoko je, koliko časa bo padalo, kam je najverjetnejša smer sovraga itd. bo to počel tak AI. Na podlagi miljon simulacij bo bolj učinkovito spuščal bombe na glave ljudi.
Tovrstni weak AI bo izredno koristen eliti, vsaj na kratki in srednji rok.
Nobeno bitje na tem planetu ne rabi tisoče in tisoče primerov in megavate energije, da si ustvari nek preprost vzorec.
Ampak ja, tej modeli bodo uporabna zadeva za repetitivni micromanagement. Repetitivni micromanagement je recimo iztrebljanje ljudi z oboroženim dronom na nebu. Namesto, da človek tuhta kam piha veter, kako visoko je, koliko časa bo padalo, kam je najverjetnejša smer sovraga itd. bo to počel tak AI. Na podlagi miljon simulacij bo bolj učinkovito spuščal bombe na glave ljudi.
Tovrstni weak AI bo izredno koristen eliti, vsaj na kratki in srednji rok.
Zimonem ::
Nič od tega kar pušeš si ni zapomnit. LLM modeli so prvenstveno namenjeno generiranju teksta. smiselnem ali nesmiselnem, nima veze. Ampak zna v več jezikih kot 99% ljudi. Pa to naredi hitro. Sintaksa mu gre kar dobro za semantiko ga bo treba pa povezati z drugimi pogoni.
Fiv3er ::
Od kje ste prišli na to, da nas bodo pobili LLM v trenutni formi?
Govorimo o nadaljnjem razvoju AI. Sem dojel, da je tema za nekatere prezahtevna. Že to, da ste pripeljali "chatGTP" kot edino razumevanje AI v temo pove svoje.
Svet je do sedaj razvijal stvari v tisočih iteracijah in vedno imel priložnost za izboljšave. Velja za vse od lesenega kolesa do jedrske energije. Z misalignano AGI pa te priložnosti ne bo, ali pač?
Govorimo o nadaljnjem razvoju AI. Sem dojel, da je tema za nekatere prezahtevna. Že to, da ste pripeljali "chatGTP" kot edino razumevanje AI v temo pove svoje.
Svet je do sedaj razvijal stvari v tisočih iteracijah in vedno imel priložnost za izboljšave. Velja za vse od lesenega kolesa do jedrske energije. Z misalignano AGI pa te priložnosti ne bo, ali pač?
Zgodovina sprememb…
- spremenilo: Fiv3er ()
DamijanD ::
Poslušal njegovo debato z Lexom in tipo po moje preveč paničari oz. preveč poenostavljeno sklepa, da če GPT zmore "odlično" generirati text, da bi zmogel tudi vse ostalo.
Po drugi strani ima pa dokaj dobre miselne poizkuse:
- kako vemo, da je output GPTja res odkrit/verodostojen oz. da ni samo pretvarjanje, kar mi želimo slišat (pač za to bi GPT moral biti če super samo zavedna AI in še nekaj časa ne bomo tam)
- recimo, da celo Zemljo neki vesoljci ujamejo v škatlico (imamo povezavo na njihov internet), pri nas teče čas bistveno hitreje recimo 1h pri vesoljcih, je 1000 let pri nas in vesoljci so manj pametni kot mi - kako bi pobegnili iz škatlice. Ta razlika v času simbolizira hitrost s katero mi delujemo in hitrost s katero delujejo GPU clustri za AI. Pustimo ob strani dejstvo, da namesto, da bi se mi ukvarjali z "escape roomom", da bi se vmes vsakih 10 let sfajtal in verjetno v 1000 letih skoraj propadli.
Po drugi strani ima pa dokaj dobre miselne poizkuse:
- kako vemo, da je output GPTja res odkrit/verodostojen oz. da ni samo pretvarjanje, kar mi želimo slišat (pač za to bi GPT moral biti če super samo zavedna AI in še nekaj časa ne bomo tam)
- recimo, da celo Zemljo neki vesoljci ujamejo v škatlico (imamo povezavo na njihov internet), pri nas teče čas bistveno hitreje recimo 1h pri vesoljcih, je 1000 let pri nas in vesoljci so manj pametni kot mi - kako bi pobegnili iz škatlice. Ta razlika v času simbolizira hitrost s katero mi delujemo in hitrost s katero delujejo GPU clustri za AI. Pustimo ob strani dejstvo, da namesto, da bi se mi ukvarjali z "escape roomom", da bi se vmes vsakih 10 let sfajtal in verjetno v 1000 letih skoraj propadli.
:Vredno ogleda ...
| Tema | Ogledi | Zadnje sporočilo | |
|---|---|---|---|
| Tema | Ogledi | Zadnje sporočilo | |
| » | Jaz pa mislim, da bo ChatGpt izpodrinil programerje (strani: 1 2 3 4 5 6 )Oddelek: Loža | 46436 (5815) | SambaShare |
| » | Zakaj je ChatGPT prava stvar ali kam to vodi (strani: 1 2 3 4 )Oddelek: Loža | 36392 (7272) | dronyx |
| » | ChatGPTju grozi tožba zaradi obrekovanja (strani: 1 2 )Oddelek: Novice / Tožbe | 14779 (10992) | Zimonem |
| » | Esej izpod prstov umetne inteligenceOddelek: Novice / Ostala programska oprema | 6232 (4777) | |
| » | DeepMindovi boti v Starcraftu 2 premagujejo profesionalce (strani: 1 2 3 4 5 )Oddelek: Novice / Znanost in tehnologija | 47779 (43251) | TheBlueOne |