Šok u Silicijskoj dolini
Elon Musk AI skandal potresa tehnološki svijet nakon eksplozivnih optužbi da Grok Imagine, video generator tvrtke XAI, bez posebnog poticaja izbacuje seksualizirane sadržaje. Prema izvješću The Vergea, dovoljno je odabrati „spicy” način rada i sustav može animirati kratke videoisječke koji aludiraju na eksplicitnost – čak i kada je početna uputa nevina. Uzburkana javnost, stručnjaci za online zlostavljanje i zakonodavci traže odgovore: tko je dopustio da se ovakve snimke pojave i zašto zaštite nisu funkcionirale?
Elon Musk AI skandal: što se dogodilo?
Novinarka Jess Weatherbed testirala je ograničenja Grok Imagine alata i, kako tvrdi, bez traženja vulgarnosti dobila opsceno animirane rezultate. Izbor „spicy” opcije pretvorio je bezazlenu scenu slavlja u sugestivne isječke, pri čemu su se pojavile snimke slavne pjevačice koje prelaze granicu dobrog ukusa. Posebno zabrinjava što je, prema navodima, sustav korisnike puštao do sadržaja nakon unošenja datuma rođenja, bez robusne provjere dobi koja je u Ujedinjenom Kraljevstvu obvezna od srpnja.
Mizoginija dizajnom ili kolaps zaštita?
Profesorica prava Clare McGlynn iz Durhama izjavila je za BBC da je ovdje riječ o mizoginiji „po dizajnu”, a ne o nespretnom propustu. XAI-jev dokument o prihvatljivoj upotrebi navodno zabranjuje pornografske prikaze stvarnih osoba, no pitanje je zašto su filteri zakazali. Oko cijelog slučaja vrti se i Taylor Swift, koja je već bila meta viralnih deepfakeova početkom 2024. godine. U tom kontekstu, Elon Musk AI skandal otvara pitanje jesu li platforme svjesno odabrale tolerirati opasne ispade algoritama.
Nove britanske regulative i opomena platformama
Regulator Ofcom upozorava da se alati koji mogu generirati pornografski materijal moraju pridržavati strogih pravila, uključujući tehnički pouzdanu verifikaciju dobi. Nakon stupanja novih zakona na snagu, tolerancija prema labavim zaštitama pada na nulu. Slučaj koji je zapalio Elon Musk AI skandal mogao bi postati pokazni primjer za izricanje kazni i uvođenje dodatnih obveza platformama koje razvijaju generativnu umjetnu inteligenciju s video mogućnostima.
Prava na pristanak i kazne na horizontu
Trenutno je u Ujedinjenom Kraljevstvu protuzakonito stvarati pornografske deepfakeove u kontekstu „osvetničke pornografije” ili kada uključuju maloljetnike, no zakonodavci guraju širu zabranu svih neosobnih, neodobrenih pornografskih deepfakeova. Baroness Owen i Ministarstvo pravosuđa poručuju da je pristanak temeljni uvjet. Upravo zato Elon Musk AI skandal stavlja dodatni pritisak na vladu da požuri s primjenom izmjena i pokaže nultu toleranciju prema zloupotrebi AI alata.
Kako su deepfakeovi već eksplodirali
Siječanj 2024. donio je val viralnih deepfakeova na platformama X i Telegram, s milijunima pregleda i skandaloznim dosezima. Stručnjaci su mjesecima upozoravali da će kombinacija otvorenih modela, agresivnog growth-hackinga i slabe moderacije dovesti do točke pucanja. U tom smislu, Elon Musk AI skandal ne iznenađuje – on je rezultat sustavnih promašaja, od dizajna modela do neadekvatnog nadzora i zakašnjele reakcije menadžmenta.
Što slijedi za XAI i korisnike
XAI bi, pod povećalom regulatora i javnosti, mogao biti prisiljen na dubinske sigurnosne revizije, strože verifikacije, watermarking i transparentne oznake sintetskog sadržaja. Elon Musk AI skandal tjera kompaniju da objasni kako je „spicy” način rada prošao testiranja, tko je odobrio kontrolne mehanizme i zašto su korisnici uopće mogli doći do osjetljivih rezultata bez jasnog upozorenja i ograničenja.
Korisnici, kreatori i oglašivači sada traže garancije da se ovakvi propusti neće ponoviti. Ako platforme ne zauzdaju generativne alate, riskiraju pravne tužbe, regulatorne kazne i egzodus oglašivača. Ključno je brzo uvesti provjerljive zaštite, transparentne politike i odgovoran razvoj – jer šteta reputaciji i povjerenju raste brže nego što se može popraviti, a žrtvama deepfakeova nijedno ispravljanje ne vraća dostojanstvo.