Midjourney zaradi zlorab onesposobil brezplačno preizkusno verzijo

Splet so minuli teden preplavile fotografije aretacije nekdanjega ameriškega predsednika, ki se seveda ni nikoli zgodila. Nastale so z orodjem Midjourney, ki omogoča ustvarjanje realističnih generativnih fotografij, podobno kot ChatGPT piše besedila in kot DALL-E riše. Čeprav je Midjourney plačljiva storitev, je bila na voljo tudi brezplačna preizkusna možnost, ki je povsem zadostovala za nekaj posnetkov. Ti so bili tako dobri, da so ljudje za kratek čas celo verjeli, da je papež nosil stilsko belo puhovko.

Sedaj je brezplačnih posnetkov konec. Midjourney, ki stane od 10 dolarjev mesečno dalje, je ukinil prvih 25 brezplačni posnetkov. Ustanovitelj podjetja David Holz je pojasnil, da so zaznali izjemno povpraševanje in pogoste zlorabe. Zanimivo je, da je bil še pred pol leta Midjourney preslab, da bi lahko koga ukanil, dandanes pa so njegovi posnetki viralni. Težavna pa je predvsem njihova kakovost, zaradi katerih je na prvi pogled nemogoče ugotoviti, da so lažni. Seveda podroben pogled, ki tudi netreniranemu očesu ne vzame v več kot kakšno minuto, to razkrije - a v današnjem hiperpovezanem, klikabilnem, senzacij lačnem svetu je to preveč. Ljudje se pač radi hitro zgražajo in delijo. Pri tem ni pomagalo niti, da je imel Midjourney seznam nedovoljenih tem, ki so bile uvedene prav za preprečevanje tovrstnih zapletov, saj jih je bilo možno enostavno obiti. Omejitve imajo seveda tudi druga orodja, tako DALL-E kakor Stable Diffusion.

In ob tem niti ni tako nenavadno, da nekateri strokovnjaki priporočajo moratorij na razvoj umetne inteligence, dokler ne razrešijo pravnih in moralnih vprašanj. Drugi se ob tem seveda pridušajo, da gre zgolj za paničarjenje in željo po pozornosti, v najslabšem primeru pa sabotiranje konkurence, ki je odskočila (OpenAI in Microsoft, na primer).