Slo-Tech - Po dolgem času, vse od že prazgodovinskega GPT-2, je OpenAI spet izdal velika jezikovna modela, ki imata javno dostopno drobovje. Modela gpt-oss-120B in gpt-oss-20B lahko prenesemo in poganjamo tudi na malce zmogljivejšem osebnem računalniku. Večji model zahteva grafično kartico z 80 GB pomnilnika, šibkejši pa 16 GB pomnilnika. To pa so že povsem dosegljive specifikacije.
Modela lahko poganjamo lokalno, lahko pa ju tudi prilagajamo in predelujemo. Izid so napovedali že minuli mesec, a je Sam Altman v zadnjem hipu zahteval dodatna varnostna preverjanja. To je pri odprtih modelih izjemno pomembno, saj jih po splavitvi ni možno ugasniti ali odpoklicati. Ko sta modela v svetu, bosta tam tudi ostala, dobila pa bosta še vse predelave, ki se jih bodo uporabniki lotili.
Modela sta izdana pod licenco Apache 2.0, torej ju je možno integrirati v Hugging Face, Ollamo, llamaa.cpp in vLLM.
Novice » Znanost in tehnologija » OpenAI izdal odprta modela

Zimonem ::
Slabo, zelo slabo. Glede na tiste kateri so zadeve sprobali. Kitajčki in fejsbuk jih gladko prekašajo.

111111111111 ::
Kateri odprti modeli so trenutno najboljši?
Če prisloniš uho na vroč šporhet, lahko zavohaš kak si fuknjen.

k4vz0024 ::
Večji model zahteva grafično kartico z 80 GB pomnilnika, Je to točno? Se morda nanaša na RAM?

Zmajc ::
Vredno ogleda ...
Tema | Ogledi | Zadnje sporočilo | |
---|---|---|---|
Tema | Ogledi | Zadnje sporočilo | |
» | Strokovnjaki za umetno inteligenco postali zvezdnikiOddelek: Novice / Znanost in tehnologija | 3545 (672) | Legon |
» | Google lansiral model Gemini, svojega tekmeca GPTjemOddelek: Novice / Ostala programska oprema | 9756 (6743) | 2dark |
» | Umetna inteligenca iz 60. let bolj človeška od lanskega GPT-3.5Oddelek: Novice / Znanost in tehnologija | 7415 (5530) | asdf1223 |
» | OpenAI naznanil GPT-4Oddelek: Novice / Znanost in tehnologija | 12525 (8204) | Miki N |
» | Apple predstavil lep venček novosti (strani: 1 2 )Oddelek: Novice / Apple iPhone/iPad/iPod | 30684 (26642) | SkipEU |