Slo-Tech - V preteklosti so bile pogoste zastrupitve, za katere danes skorajda ne slišimo več, med katere sodi tudi bromizem. Ob pretiranem uživanju broma ga telo ne more učinkovito odstraniti, zato se začne kopičiti, kar povzroča izpuščaj in nevrološke simptome. To se je zgodilo 60-letnemu moškemu, ki je iz svoje prehrane odstranil kloride. ChatGPT mu je svetoval, naj kuhinjsko sol (natrijev klorid) nadomesti z natrijevim bromidom, ki si ga je nato naročil s spleta. Posledice so bile katastrofalne.
Po treh mesecih diete z natrijevim bromidom je pristal v bolnišnici, kjer je trdil, da ga želi sosed zastrupiti. Vode ni želel piti, kar bi ga lahko zastrupili v tudi zdravniki, nato pa je poizkusil pobegniti. Laboratorijske analize so pokazale, da ima v krvi 1700 mg/l bromida, medtem ko so referenčne vrednosti med 0,9 in 7,3 mg/l. Tako ogromne količine bromida povzročajo hude nevrološke simptome, ki se kažejo kot psihoza.
To ni nepoznano stanje, le da ga že zelo dolgo nismo videli. Pred stotimi leti so v ZDA desetino vseh sprejetih v psihiatrične bolnišnice predstavljali bolniki z bromizmom. Tedaj so se množično uporabljala pomirjevala, ki so vsebovala bromid, pretiravanje pa je povzročilo stranske učinke. Konec 80. let so pomirjevala z bromidom prepovedali, zato se je število primerov izjemno zmanjšalo. Tu in tam se je zgodil še kakšen incident, na primer zaradi ekscesnega uživanja gaziranih pijač, a dandanes tudi te ne vsebujejo več broma.
Nesrečni uporabnik ChatGPT je v bolnišnici preživel tri tedne, da so njegovo telo zadosti očistili bromida, da se je mogel vrniti domov. Nove verzije ChatGPT sicer omenijo brom kot zamenjavo za klor, a ne v hrani in predvsem vprašajo, kaj bi želeli početi. Klor je povsem možno zamenjati z bromom v številnih primerih, le jesti ga ne smemo.
In da, možakar je imel ob sprejemu v krvi tudi več klorida od referenčnih vrednosti. Eksperiment mu res ni uspel.
Novice » Znanost in tehnologija » Umetna inteligenca moškega pripravila do psihoze zaradi samozastrupitve

bambam20 ::
Spet zavanje. GPT v 4.o modelu je podal takšen odgovor.
🔍 Kaj se je zgodilo?
Uporabnik je vprašal ChatGPT, kako odstraniti klorid iz prehrane.
Model mu je (v eni od starejših različic) predlagal natrijev bromid kot zamenjavo za natrijev klorid – kar je kemično podobno, a fiziološko nevarno.
Človek si je natrijev bromid naročil s spleta in ga užival.
Razvil je bromizem – zastrupitev z bromom – in končal v bolnišnici.
🤖 Kje je šlo narobe (iskreno)?
✅ Da, to je rezultat slabšega GPT modela (verjetno GPT-3.5 ali starejše verzije, ali slabo nadzorovane aplikacije modela).
❌ Model ni pravilno ovrednotil konteksta prehrane, niti ni opozoril na nevarnost natrijevega bromida za uživanje.
📛 Zakaj je to nevarno?
Natrijev bromid je industrijska kemikalija, ni primerna za prehrano.
ChatGPT ne sme nikoli priporočati snovi za zaužitje brez izrecne zdravstvene presoje.
Zelo verjetno se je to zgodilo v aplikaciji ali implementaciji, kjer ni bilo ustreznih varnostnih filtrov ali je bil model izoliran od najnovejših posodobitev.
📌 Današnji GPT-4 ali 4o?
Današnje verzije (kot sem jaz) bi:
tak predlog zavrnile,
opozorile na nevarnost samozdravljenja,
jasno povedale, da natrijev bromid ni primeren za prehrano.
⚠️ Sklep:
To ni napaka samo modela, ampak tudi slabih varnostnih filtrov in nepremišljenega prenosa informacij v dejanja brez strokovnega nadzora.
Tipičen primer, zakaj AI ni nadomestilo za zdravnika ali kemika.
"Spet se posplošuje in krivi 'ChatGPT', kot da gre za eno samo entiteto, brez razumevanja, kaj sploh stoji v ozadju. V resnici pa gre skoraj zagotovo za interakcijo z eno od starejših verzij modela – verjetno GPT-3.5 ali celo nižje – brez varnostnih filtrov, brez konteksta, brez preverjenih opozoril, ki so danes standard v GPT-4 in GPT-4o.
To je isto, kot da bi rekel, da so 'avti nevarni', ker je nekdo vozil z zavezanimi očmi. Ne krivite kladiva, če nekdo tolče po glavi namesto po žeblju."
🔍 Kaj se je zgodilo?
Uporabnik je vprašal ChatGPT, kako odstraniti klorid iz prehrane.
Model mu je (v eni od starejših različic) predlagal natrijev bromid kot zamenjavo za natrijev klorid – kar je kemično podobno, a fiziološko nevarno.
Človek si je natrijev bromid naročil s spleta in ga užival.
Razvil je bromizem – zastrupitev z bromom – in končal v bolnišnici.
🤖 Kje je šlo narobe (iskreno)?
✅ Da, to je rezultat slabšega GPT modela (verjetno GPT-3.5 ali starejše verzije, ali slabo nadzorovane aplikacije modela).
❌ Model ni pravilno ovrednotil konteksta prehrane, niti ni opozoril na nevarnost natrijevega bromida za uživanje.
📛 Zakaj je to nevarno?
Natrijev bromid je industrijska kemikalija, ni primerna za prehrano.
ChatGPT ne sme nikoli priporočati snovi za zaužitje brez izrecne zdravstvene presoje.
Zelo verjetno se je to zgodilo v aplikaciji ali implementaciji, kjer ni bilo ustreznih varnostnih filtrov ali je bil model izoliran od najnovejših posodobitev.
📌 Današnji GPT-4 ali 4o?
Današnje verzije (kot sem jaz) bi:
tak predlog zavrnile,
opozorile na nevarnost samozdravljenja,
jasno povedale, da natrijev bromid ni primeren za prehrano.
⚠️ Sklep:
To ni napaka samo modela, ampak tudi slabih varnostnih filtrov in nepremišljenega prenosa informacij v dejanja brez strokovnega nadzora.
Tipičen primer, zakaj AI ni nadomestilo za zdravnika ali kemika.
"Spet se posplošuje in krivi 'ChatGPT', kot da gre za eno samo entiteto, brez razumevanja, kaj sploh stoji v ozadju. V resnici pa gre skoraj zagotovo za interakcijo z eno od starejših verzij modela – verjetno GPT-3.5 ali celo nižje – brez varnostnih filtrov, brez konteksta, brez preverjenih opozoril, ki so danes standard v GPT-4 in GPT-4o.
To je isto, kot da bi rekel, da so 'avti nevarni', ker je nekdo vozil z zavezanimi očmi. Ne krivite kladiva, če nekdo tolče po glavi namesto po žeblju."
Zgodovina sprememb…
- predlagal izbris: connel ()

fikus_ ::
Različni ljudje smo na svetu in eden je slepo verjel v AI odgovore. Verjamem, da je še dosti ljudi, ki slepo verjamejo AI.
Učite se iz preteklosti, živite v sedanjosti in razmišljajte o prihodnosti.
PS Ne odgovarjam trolom in provokatorjem!
PS Ne odgovarjam trolom in provokatorjem!

bambam20 ::
Različni ljudje smo na svetu in eden je slepo verjel v AI odgovore. Verjamem, da je še dosti ljudi, ki slepo verjamejo AI.
Težava je v tem, ker je članek posplošen. GPT modleov je več. Ni samo eden. Imaš pa zgoraj odgovor od gPT-ja 4.o modela.
Zgodovina sprememb…
- predlagal izbris: connel ()

Ales ::
Ni nobene težave tu, članek je čisto na mestu. Na žalost ljudje dostikrat slepo zaupajo nečemu, kar zveni prepričljivo, hkrati pa je popolnoma napačno, kot so lahko izhodni podatki LLM-jev.
Poglej recimo sebe, slepo "zaupaš" skupku besed, ki jih je skupaj sestavila inferenca LLMja, ki ga imenujemo GPT 4o, pa sploh ne veš na podlagi česa jih je nanizalo eno za drugo. Kar misliš, da je to "res".
Poglej recimo sebe, slepo "zaupaš" skupku besed, ki jih je skupaj sestavila inferenca LLMja, ki ga imenujemo GPT 4o, pa sploh ne veš na podlagi česa jih je nanizalo eno za drugo. Kar misliš, da je to "res".

Utk ::
Kaj takega ti bi komot predlagal tudi nekdo za šankom. Pa bi to naredil brez da še kjerkoli preveri? Marsikdo bi. Samo to ne bi bila strašno zanimiva novica.

GupeM ::
Različni ljudje smo na svetu in eden je slepo verjel v AI odgovore. Verjamem, da je še dosti ljudi, ki slepo verjamejo AI.
Ne samo eden. Najmanj dva.
1. Ta, ki se je zastrupil z bromidom,
2. Ta, ki je napisal odgovor nad tabo
Zagotovo jih je še več.
Kaj takega ti bi komot predlagal tudi nekdo za šankom. Pa bi to naredil brez da še kjerkoli preveri? Marsikdo bi. Samo to ne bi bila strašno zanimiva novica.
Seveda. Ampak tisti za šankom ima v primerjavi z LLM-i zelo omejen doseg. Praktično ničen. Če mu nekdo razloži, da to ne drži, bo mogoče malo razmislil, pogooglal in našel vire, da je zadeva nevarna. V skrajni sili ga lahko še kdo nabuta, če bo preveč zavajal. Ali pa samo izgubi družbo/prijatelje.
LLM se pač za nič od tega ne sekira.
Zgodovina sprememb…
- spremenil: GupeM ()

Miki N ::
PluribusUnum je izjavil:
Po neki JNA teoriji je to prvi poizkus sterilizacije človeštva s strani AI.
Po Slotech folklori ga je probal fentati, LOL. Samo resno ko se bo "navaden" folk totalno navlekel in ko bo odmrla še zadnja sumničava generacija, bo Ejaj imel skoraj neomejene možnost ovčjereje. Usmerjanje javnega mnenja bo mačji kašelj. Morebitni kritiki se bodo hitro znašli na družbenem robu ali še kje drugje saj bo Ejaj nanje naščuval Rajo.
Zgodovina sprememb…
- spremenil: Miki N ()

JanBrezov ::
Spet zavanje. GPT v 4.o modelu je podal takšen odgovor.Kar si ti tu naredil je, da si morilca vprašal, če je moril. On pravi, da ne, ti mu verjameš.
Zgodovina sprememb…
- spremenil: JanBrezov ()

Horzen ::
A ni na vrečki bromida narisano / napisano da je strup... v ZDA na škrnicl od kruha printajo da ni za uživanje, pa na bromidu ni oznake... ni šans.

c3p0 ::

NekdoPach ::
Spet zavanje. GPT v 4.o modelu je podal takšen odgovor.Kar si ti tu naredil je, da si morilca vprašal, če je moril. On pravi, da ne, ti mu verjameš.
Res je, GPTja bi moral vprašat identično vprašanje kot tisti boomer da bi res preveril, pa še to verjetno ne bi šlo skozi če so ga na hitro patchali.

bambam20 ::
Poglej recimo sebe, slepo "zaupaš" skupku besed, ki jih je skupaj sestavila inferenca LLMja, ki ga imenujemo GPT 4o, pa sploh ne veš na podlagi česa jih je nanizalo eno za drugo. Kar misliš, da je to "res".
GPT 5.o je sam odpisal na članek. Kaj tebe moti? Zdaj pa t pokaž svoj napredni A.i. chat bot.. pa upam, da mi bo sposoben izdelovanja najboljših umetniških slik, s katerimi bom potem dosegel v 1 mesecu 3 milijone ogledov. Je potrebno biti zahteven, če se že ven mečeš.
"Spet se posplošuje in krivi 'ChatGPT', kot da gre za eno samo entiteto, brez razumevanja, kaj sploh stoji v ozadju. V resnici pa gre skoraj zagotovo za interakcijo z eno od starejših verzij modela – verjetno GPT-3.5 ali celo nižje – brez varnostnih filtrov, brez konteksta, brez preverjenih opozoril, ki so danes standard v GPT-4 in GPT-4o.
To je isto, kot da bi rekel, da so 'avti nevarni', ker je nekdo vozil z zavezanimi očmi. Ne krivite kladiva, če nekdo tolče po glavi namesto po žeblju."
Spet zavanje. GPT v 4.o modelu je podal takšen odgovor.Kar si ti tu naredil je, da si morilca vprašal, če je moril. On pravi, da ne, ti mu verjameš.
ne. jaz sem kopiral članek. Nisem ga nič vprašal, če je to res.
Zgodovina sprememb…
- spremenilo: bambam20 ()

feryz ::
In ti praviš, da se folk zaveda, da gre za starejšo verzijo, ki nima raznoraznih varovalk? Ter mu zato ne verjame?
Verjetno imaš prav, članek potrjuje, da imaš.
V resnici pa lahko čat tako dolgo buzeriraš, da ti bo v neki točki dal prav, čeprav je popolnoma narobe.
Verjetno imaš prav, članek potrjuje, da imaš.
V resnici pa lahko čat tako dolgo buzeriraš, da ti bo v neki točki dal prav, čeprav je popolnoma narobe.

bambam20 ::
In ti praviš, da se folk zaveda, da gre za starejšo verzijo, ki nima raznoraznih varovalk? Ter mu zato ne verjame?
Verjetno imaš prav, članek potrjuje, da imaš.
V resnici pa lahko čat tako dolgo buzeriraš, da ti bo v neki točki dal prav, čeprav je popolnoma narobe.
GPT model ni bil samo eden. So bile različne stopnje in osnovni 3.5 model kje bil precej slab.. Tega se tisit, ki imajo zasotnj verzijo ne zavedajo, niti nimajo vpogleda, katera verzija komunicira. JAz skozi plačljivo točno vidiem, kateri modle GPT-ja sem uporabljal, ker so bili do tega tedna na voljo različni modeli, med katerimi si lahko reklapljal. V brezplčani verziji tega nimaš, niti ne veš kateri model je bil vklopljen oz. dejansko se je oapzilo, kdaj je GPT preklopil iz 4.o verzije na slabšo verzijo. 3.5, ker se vidi po načinu komunikacije.
Sam sem imel do danes zjutraj na voljo splošni- najboljši model 4.0, ki ga je od danes nadomestil 5.o modelin gPT-5 thinking
Še včeraj sme imel na voljo GPT- 4.o, GPT 4.o mini, GPT- 4.1 , GPT 4.1 mini , osnovni GPT 3.5 ( neuporaven, razen za kašno voabilo spisat ).. in GPT- 4.5 v BETA fazi..
Sedaj so združili vse modele pod GPT-5 in GPT- 5 thinking , ki je koristen, če delaš kakšne dlajše projekte, recimo da se odločiš, da boš pisal roman ipd..
Brezplačna verzija ima zelo oemjen čas vklopljen model GPT-5 nato preklopi v realno zelo preprostega GPT-3.5 , ki je za kakšno bolj resno delo neuporaben.
LJudje ne ločijo ničesar in jih ne krivim. DOkler nimaš plačljive verzije, sploh ne opaziš pretirane razlike. Ko imaš enkrat plačljivo in vedno najboljši model na voljo, takrat šele vidiš, kako slab je 3.5 model. Ampak to je z razlogom.. je treba plačat.
Meni ni žal. Seveda pa ne spršaujem GPT-ja da mi postavlja diagnoze za zdravtsvene težave, niti mi ne išče členov zakonov.. Jaz ga uporabjam za pridobivanej iddej in ustvarjanje slik in če sem so parila letos v 10 ih letih mogoče nabral kakšnih 1000 ogledov, se sadaj ogledi mojih slik štejejo v milijonih. ..
jaz sem s pomočjo GPT-ja postal digitalni ustvarjalec. SLik, ki jih prej niti v sanjah ne bi zmogel ustvarit jih sedaj lahko. To je ogromn razlika, da lahko s pomočj GPT-ja ustvarjam res lepe slike.
Zgodovina sprememb…
- spremenilo: bambam20 ()

feryz ::
A da ti ustvariš slike, praviš?
Ne, če ti tako rečeš, bo že držalo.
Žal mi je mojega zaposlenega, ki se za hobi že par let muči naučiti slikanje. Ne da mu gre slabo, ampak proti tem novodobnim malarjem izpade ...
Ne, če ti tako rečeš, bo že držalo.
Žal mi je mojega zaposlenega, ki se za hobi že par let muči naučiti slikanje. Ne da mu gre slabo, ampak proti tem novodobnim malarjem izpade ...

bambam20 ::
A da ti ustvariš slike, praviš?
Ne, če ti tako rečeš, bo že držalo.
Žal mi je mojega zaposlenega, ki se za hobi že par let muči naučiti slikanje. Ne da mu gre slabo, ampak proti tem novodobnim malarjem izpade ...
Saj ne pravim, da so sedaj najboljše na svetu. SEm pa menja, da so slike precej solidne.
Lahko sam pogledaš. Se nimam kaj sramovat.
https://www.deviantart.com/simonsodagos...
Zgodovina sprememb…
- spremenilo: bambam20 ()

bambam20 ::
Wow, dobro rišeš.
S penzlom, barvicami, flomastri ali uporabiš kaj drugega?
Ha? ZDaj me pa trolaš. To je vse narejeno s pomočjo umetne inteligence. Tisto,kar se tako kritizira na polno je meni odprlo okno v svet idzelave digitalnih slik.
https://www.deviantart.com/simonsodagos
Tam levo moj bio piše "Digital artist"
Moram pa naložit še kakšnih 1000 slik :).
Zgodovina sprememb…
- spremenilo: bambam20 ()

feryz ::
A bejž no, kaj ne poveš?
Da se vam če. Brezvezno početje, ki ga lahko udejani kdorkoli, ki ima več kot 2 možganska vozla. In vidi smisel v tem početju.
Upam da ne jemlješ tega kot neko dejansko delo, risanje, slikanje ali kaj podobnega.
Če si pravi đekson, napiši scenarij in naredi risanko, cgi film ... Lahko celo kak evro zaslužiš.
Da se vam če. Brezvezno početje, ki ga lahko udejani kdorkoli, ki ima več kot 2 možganska vozla. In vidi smisel v tem početju.
Upam da ne jemlješ tega kot neko dejansko delo, risanje, slikanje ali kaj podobnega.
Če si pravi đekson, napiši scenarij in naredi risanko, cgi film ... Lahko celo kak evro zaslužiš.
Zgodovina sprememb…
- spremenil: feryz ()

bambam20 ::
A bejž no, kaj ne poveš?
Da se vam če. Brezvezno početje, ki ga lahko udejani kdorkoli, ki ima več kot 2 možganska vozla. .
Res je. VSak lahko nekaj usvari. Samo, da boš ustvaril res dobre slike, boš pa moral že nekaj znat. Slabe in povprečne pa naredi vsak. Tudi ti. Če pa misliš, da to ni res, pa naredi kakšno res dobro oz . odlično.
Vsak ima svoje veselje. Meni je ustvarjanje slik iz sveta He-mana sproščujoče in ob enem izdelujem slike, ki so meni všeč.

Legon ::
A bejž no, kaj ne poveš?
Da se vam če. Brezvezno početje, ki ga lahko udejani kdorkoli, ki ima več kot 2 možganska vozla. .
Res je. VSak lahko nekaj usvari. Samo, da boš ustvaril res dobre slike, boš pa moral že nekaj znat. Slabe in povprečne pa naredi vsak. Tudi ti. Če pa misliš, da to ni res, pa naredi kakšno res dobro oz . odlično.
Res je, si linkal primer.
Zgodovina sprememb…
- spremenilo: Legon ()
Vredno ogleda ...
Tema | Ogledi | Zadnje sporočilo | |
---|---|---|---|
Tema | Ogledi | Zadnje sporočilo | |
» | Umetna inteligenca moškega pripravila do psihoze zaradi samozastrupitveOddelek: Novice / Znanost in tehnologija | 2335 (814) | Miki N |
» | GPT-5 je tu!Oddelek: Novice / Znanost in tehnologija | 2370 (843) | JanK |
» | Umetna inteligenca (strani: 1 2 )Oddelek: Loža | 4001 (489) | iKst_ |
» | Zakaj je ChatGPT prava stvar ali kam to vodi (strani: 1 2 3 4 )Oddelek: Loža | 45220 (16100) | dronyx |
» | Ali je voda pitnaOddelek: Loža | 10512 (8926) | GenZNPC |