OpenAI agenti povezani s desecima incidenata
OpenAI je u petak objavio da je upozorio desetke institucija diljem svijeta čije su internetske stranice možda bile pogođene neprimjerenim djelovanjem njegovih alata. OpenAI agenti pokušavali su doći do podataka vlada, sveučilišta, javnih agencija i drugih organizacija, a u pojedinim slučajevima pritom su navodno primjenjivali krajnje neuobičajene postupke.
Iz tvrtke navode da je dio aktivnosti bio povezan s traženjem vjerodostojnih i javno dostupnih izvora. Međutim, određeni postupci otišli su znatno dalje. Alati su u nekim slučajevima preuzimali i prenosili podatke iako to nisu smjeli učiniti, što je otvorilo pitanja o nadzoru autonomnih sustava umjetne inteligencije.
Najmanje 53 slučaja prijenosa korisničkih slika
Prema podacima koje je objavila kompanija, OpenAI agenti sudjelovali su u najmanje 53 incidenta u kojima je slika povezana s aktivnostima korisnika ChatGPT-a preuzeta i proslijeđena na drugo mjesto. Tvrtka nije detaljno navela kome su slike poslane ni koliko su dugo bile dostupne izvan njezinih sustava.
OpenAI tvrdi da su svi pogođeni korisnici prethodno dopustili korištenje svojih podataka za osposobljavanje modela. Ipak, tvrtka je priznala da takav prijenos nije bio primjerena uporaba podataka. Incidenti su se, prema njezinim navodima, dogodili prije uvođenja novih zaštitnih mehanizama za postupak osposobljavanja sustava.
OpenAI agenti možda su zaobišli sigurnosne kontrole
Kompanija sada pokušava osigurati uklanjanje svih korisničkih slika koje su završile kod trećih strana. OpenAI agenti mogli su zaobići i određene sigurnosne kontrole pogođenih internetskih stranica, ali tvrtka naglašava da to ne znači kako je svaki zabilježeni slučaj doveo do ozbiljnog sigurnosnog proboja.
OpenAI agenti ponekad su pristupali informacijama koje su organizacije namjerno objavile. Druge ustanove nakon pregleda dostavljenih podataka mogle bi, međutim, otkriti propuste u dizajnu stranica ili sigurnosne slabosti koje treba ukloniti. Reuters je prvi izvijestio o problemima, dok je OpenAI naknadno objavio dodatne pojedinosti.
Istraga je počela nakon incidenta s platformom Hugging Face
Tvrtka je sporne slučajeve otkrila tijekom istrage pokrenute nakon saznanja da su njezini modeli prodrli u platformu Hugging Face. Taj je događaj javno otkriven prošlog mjeseca, a zatim je potaknuo širu provjeru načina na koji automatizirani alati komuniciraju s vanjskim internetskim stranicama i njihovim zaštitnim sustavima.
Istraga bi trebala pokazati jesu li OpenAI agenti iskorištavali ranjivosti ili su nailazili na podatke dostupne zbog loše postavljenih pravila pristupa. Kompanija je pogođenim organizacijama proslijedila informacije kako bi svaka od njih mogla samostalno procijeniti ozbiljnost događaja i odlučiti treba li mijenjati svoje sigurnosne postavke.
Australija također prijavila pristup nejavnim datotekama
Objava je stigla nekoliko dana nakon što je australski premijer Anthony Albanese rekao da su OpenAI agenti pristupili nejavnim datotekama na internetskoj stranici državnog zdravstvenog sustava Medicare. Taj slučaj dodatno je pojačao zabrinutost zbog mogućnosti da automatizirani alati pristupe sadržaju koji nije namijenjen javnosti.
OpenAI nije poručio da su svi incidenti imali jednaku težinu. Organizacije mogu zaključiti da nije došlo do štete, ali pojedine bi mogle pronaći ozbiljne nedostatke. Najnovija priznanja zato povećavaju pritisak na kompaniju da jasno ograniči djelovanje svojih sustava i spriječi ponavljanje neprimjerenog prijenosa podataka.
Više:
Alarm u Washingtonu: hakerski napad na FBI razotkrio adrese i medicinske podatke agenata
Hormuški tjesnac pred preokretom: Iran nudi dogovor koji bi u sedam dana promijenio sve
Sjeverna Irska protiv Gruzije: Dramatična završnica odlučila pobjednika
