» »

OpenAI izdal odprta modela

OpenAI izdal odprta modela

Slo-Tech - Po dolgem času, vse od že prazgodovinskega GPT-2, je OpenAI spet izdal velika jezikovna modela, ki imata javno dostopno drobovje. Modela gpt-oss-120B in gpt-oss-20B lahko prenesemo in poganjamo tudi na malce zmogljivejšem osebnem računalniku. Večji model zahteva grafično kartico z 80 GB pomnilnika, šibkejši pa 16 GB pomnilnika. To pa so že povsem dosegljive specifikacije.

Modela lahko poganjamo lokalno, lahko pa ju tudi prilagajamo in predelujemo. Izid so napovedali že minuli mesec, a je Sam Altman v zadnjem hipu zahteval dodatna varnostna preverjanja. To je pri odprtih modelih izjemno pomembno, saj jih po splavitvi ni možno ugasniti ali odpoklicati. Ko sta modela v svetu, bosta tam tudi ostala, dobila pa bosta še vse predelave, ki se jih bodo uporabniki lotili.

Modela sta izdana pod licenco Apache 2.0, torej ju je možno integrirati v Hugging Face, Ollamo, llamaa.cpp in vLLM.

5 komentarjev

Zmajc ::

Da vidimo...

Zimonem ::

Slabo, zelo slabo. Glede na tiste kateri so zadeve sprobali. Kitajčki in fejsbuk jih gladko prekašajo.

111111111111 ::

Kateri odprti modeli so trenutno najboljši?
Če prisloniš uho na vroč šporhet, lahko zavohaš kak si fuknjen.

k4vz0024 ::

Večji model zahteva grafično kartico z 80 GB pomnilnika, Je to točno? Se morda nanaša na RAM?

Zmajc ::

k4vz0024 je izjavil:

Večji model zahteva grafično kartico z 80 GB pomnilnika, Je to točno? Se morda nanaša na RAM?


Večji model je narejen za H100 in boljše strežniške kartice. Ne za osebne računalnike.


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

Strokovnjaki za umetno inteligenco postali zvezdniki

Oddelek: Novice / Znanost in tehnologija
473545 (672) Legon
»

Google lansiral model Gemini, svojega tekmeca GPTjem

Oddelek: Novice / Ostala programska oprema
89756 (6743) 2dark
»

Umetna inteligenca iz 60. let bolj človeška od lanskega GPT-3.5

Oddelek: Novice / Znanost in tehnologija
97415 (5530) asdf1223
»

OpenAI naznanil GPT-4

Oddelek: Novice / Znanost in tehnologija
2712525 (8204) Miki N
»

Apple predstavil lep venček novosti (strani: 1 2 )

Oddelek: Novice / Apple iPhone/iPad/iPod
6130684 (26642) SkipEU

Več podobnih tem