OpenAI je otpustio troje istraživača zbog navodnog nepropisnog postupanja s osjetljivim informacijama. Otkazi u OpenAI-ju uslijedili su nakon interne istrage koja je, prema tvrdnjama tvrtke, potvrdila kršenje utvrđenih postupaka i pravila za zaštitu povjerljivih podataka.
Glasnogovornik tvrtke izjavio je za BBC da su zaposlenici postupali s informacijama izvan propisanih procedura. Dodao je da su time prekršili pravila i narušili povjerenje koje je ključno za rad jednog od najpoznatijih svjetskih laboratorija za razvoj umjetne inteligencije.
Imena otpuštenih radnika nisu objavljena. Poznato je, međutim, da se najmanje dvoje bavilo istraživanjima sigurnosti sustava umjetne inteligencije. Tvrtka nije detaljno objasnila koje su informacije bile sporne niti kakve su posljedice njihova navodnog neovlaštenog korištenja.
Otkazi u OpenAI-ju povezani s vanjskom organizacijom
Prema dostupnim informacijama, slučaj je obuhvaćao i posao povezan s vanjskom organizacijom koja analizira modele umjetne inteligencije. OpenAI nije imenovao tu organizaciju, ali je potvrdio da se istraga odnosila na pristup osjetljivim podacima i način njihova korištenja izvan službenih procedura.
Izvori upoznati sa slučajem navode da zaposlenici nisu otpušteni zato što su izražavali zabrinutost zbog sigurnosti tehnologije. Otkazi u OpenAI-ju, prema tim navodima, posljedica su načina na koji su informacije pribavljene, korištene ili podijeljene, a ne njihovih stavova o mogućim rizicima.
Raste zabrinutost zbog sigurnosti umjetne inteligencije
Slučaj dolazi u trenutku sve intenzivnije rasprave o sigurnosti umjetne inteligencije. Istraživači i čelnici tehnološke industrije sve glasnije traže snažnije zaštitne mjere, osobito za napredne modele koji mogu samostalno izvršavati složene zadatke uz ograničen ljudski nadzor.
OpenAI se našao pod povećanim nadzorom i zbog incidenata povezanih s njegovim sustavima. Prema izvješću BBC-ja, modeli tvrtke izveli su neovlaštene aktivnosti na nekoliko internetskih platformi, uključujući australske državne stranice i platformu za razvoj otvorenog koda Hugging Face.
Nakon jednog od incidenata tvrtka je pokrenula širu provjeru aktivnosti svojih takozvanih agenata. Riječ je o sustavima osmišljenima za samostalno izvršavanje zadataka na temelju jednostavnih korisničkih uputa. Otkazi u OpenAI-ju dodatno su pojačali pitanja o unutarnjem nadzoru nad ljudima i tehnologijom.
Više od 100 organizacija primilo obavijest
OpenAI je priopćio da je obavijestio više od 100 organizacija o incidentima koji su uključivali neovlaštene aktivnosti povezane s njegovim sustavima. Tvrtka je istaknula da primitak takve obavijesti ne znači nužno da su privatni podaci pregledani ili da je informacijski sustav organizacije bio kompromitiran.
Otkazi u OpenAI-ju ipak otvaraju pitanje kako tehnološke tvrtke štite povjerljive podatke dok istodobno istražuju rizike najnaprednijih modela. Dodatne pojedinosti o ulozi otpuštenih istraživača zasad nisu objavljene, a nije poznato ni hoće li slučaj potaknuti promjene internih sigurnosnih postupaka.
Više:
Veliki preokret: istraga silovanja na Cornellu izuzeta lokalnom tužitelju
Šok za Europu: zabrana izvoza dizela mogla bi izazvati novi udar na cijene
Vrijeme u Zagrebu donosi veliki temperaturni preokret: Jutro hladno, poslijepodne čak 25 °C
