openai.com - V eni najbolj presenetljivih letošnjih novic s področja strojnega učenja so iz podjetja OpenAI sporočili, da odpuščajo svojega izvršnega direktorja Sama Altmana, ker naj bi upravi podjetja prikrival informacije.
V aktualnem razmahu generativne strojne inteligence in velikih jezikovnih modelov je Sam Altman gotovo eden od poglavitnih obrazov industrije. Kot soustanovitelj in od leta 2020 tudi izvršni direktor družbe OpenAI je ključno usmerjal njeno pot od sprva neprofitnega raziskovalnega laboratorija proti enemu od najmočnejših igralcev na tržišču sodobnih storitev umetne inteligence, z orodji, kot sta pogovorni bot ChatGPT in generator slik DALL-E. Sodeloval je praktično na vseh pomembnih diskusijah v industriji, na pogajanjih in zaslišanjih z ameriško politiko ter konferencah, na katerih si razvijalci prizadevajo regulatorje in javnost prepričati, da njihova novodobna orodja prinašajo več koristi kot nevarnosti. Med drugim je v začetku novembra sodeloval na prvem mednarodnem vrhu o varnosti umetne inteligence, teden dni zatem pa napovedal možnost izdelave uporabnikom prirejenih verzij ChatGPTja. Zato je toliko bolj presenetljivo, da mora OpenAI sedaj zapustiti.
V razmeroma skopi objavi upravni odbor navaja, da je "po podrobni preiskavi ugotovil, da je Altman sistematično in dlje časa pred njimi skrival informacije, pomembne za delovanje podjetja, zaradi česar ne uživa več zaupanja". Za kaj natančneje gre, zaenkrat v upravi ne pojasnjujejo, zelo verjetno pa je zadeva resna, ker bo družba z Altmanovim odhodom vsaj kratkoročno izgubila nekaj operativne moči, saj je bil ne le direktor, temveč tudi glavni strateg, pogajalec in piarovec. Obenem je vendarle treba omeniti, da je bil stalno deležen tudi kritik, ker je sprva idealistično zastavljen neprofitni laboratorij, ki naj bi se ukvarjal zgolj z obče koristno in varno umetno inteligenco, odpeljal v komercialno smer, kjer prejema milijarde Microsoftovega denarja in snuje izdelke, ki področje potiskajo naprej z že kar srhljivo naglico. Več bomo verjetno izvedeli že v kratkem. Altmana, ki tudi sam še ne daje podrobnejših izjav, bo na mestu vodje začasno nasledila Mira Murati, dosedanja tehnična šefica; pri Microsoftu so že pohiteli z izjavo, da poteza ne bo vplivala na partnerstvo z OpenAIjem.
"Namreč, da gre ta družba počasi v norost in da je vse, kar mi gledamo,
visoko organizirana bebavost, do podrobnosti izdelana idiotija."
Psiholog HUBERT POŽARNIK, v Oni, o smiselnosti moderne družbe...
Neverjetno, da to ne znajo speljati na bolj diplomatski način; kaj, ali je koga ubil, ali izvajal nasilje nad delavci, prekanaliziral denar podjetja? Moralo bi bit res nekaj zelo hudega, da to speljejo na tako škodljiv način za podjetje
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).
Greg Brockman, ki so ga v isti objavi vrgli z odbora je dal odpoved. Enako trije glavni razvijalci "Jakub Pachocki, director of research; Aleksander Madry, head of AI risk team, and Szymon Sidor." https://www.theinformation.com/articles...
Everyone started out as a newbie.
Sadly only a handful ever progress past that point.
Morda samo kakšno užaljeno veličanstvo, zelo vpliven stric iz ozadja. Nekdo je pač hotel, da gre. Ampak bo zabavno gledati nadaljnji (kadrovski) razvoj dogodkov, saj je podjetje obtičalo z B-zasedbo.
"I'm not four years old with a 13 year old "brother" climbing into my bed non-consensually anymore. (You're welcome for helping you figure out your sexuality.) I've finally accepted that you've always been and always will be more scared of me than I've been of you." - Annie
"I'm not four years old with a 13 year old "brother" climbing into my bed non-consensually anymore. (You're welcome for helping you figure out your sexuality.) I've finally accepted that you've always been and always will be more scared of me than I've been of you." - Annie
Zakaj "kr neki" ? Punca ima psih probleme. Vprašanje je samo ali so ti problemi posledica travm (povzročenih od kogarkoli že) ali pa gre "samo" za psih probleme in napačno dojemanje/razumevanje in posledično krivo obtoževanje...
Vsakič ko slišim openAI me malo strese, ker je totalno nasprotje, ni nek neprofiten odprtokodni aka "open"(source) ampak je closed (poleg tega še black box, ko niti tisti čisto zraven ne vejo točno kaj se dogaja) ideja je zaslužit maksimalno in vemo kam to pelje.
It is better to be hated for what you are than to be loved for something you are not.
Kaj naj bi opensourcal pri tej aplikativni statistiki? Desetine terabajtov uteži v nevronski mreži? Algoritmi so v člankih, input data pa si priskbi vsak sam.
... Lahko pa ustvariš eno lepo teorijo zarote, kako je AI kapitalističen workaround za opensource movement :D
Uteži so bistvene. Reinforcement je možno izvajati na teh modelih. Ustvarite te modele je pa drago. Zato večji del večine odprtih implementacij llmja uporablja Facebooko llamo.
Da, vem da so bistvene ... že imamo kak portable open format za njihov zapis? Že imamo kak način jih enostavno delit naokrog? Dvomim da bo github z veseljem ponujal ogromne fajle ...