Zašto je model umjetne inteligencije Mythos pod povećalom
Model umjetne inteligencije Mythos pokrenuo je snažne reakcije u financijskim krugovima jer se, prema upozorenjima, dio njegovih mogućih posljedica ne može pouzdano izmjeriti unaprijed. U raspravama se naglašava razlika između klasičnih rizika, gdje su granice jasne, i novih tehnoloških prijetnji kod kojih nije sigurno ni što sve treba nadzirati. Takva neizvjesnost otežava planiranje zaštitnih mjera.
Usporedba s poznatim prijetnjama i “nepoznatim nepoznanicama”
Sudionici razgovora ističu da se neke globalne opasnosti mogu precizno locirati i kvantificirati, dok je kod naprednih sustava umjetne inteligencije situacija drukčija. Kod modela poput Mythosa problem je što se mogu pojaviti scenariji koje regulatorni i sigurnosni okviri još ne prepoznaju. Zbog toga se u financijskom sektoru traži jasnija procjena rizika, testiranje ponašanja sustava i bolja sljedivost odluka.
Što financijski sektor traži od razvijatelja i regulatora
U fokusu su zahtjevi za većom transparentnošću: kako se sustav trenira, na kojim podacima, koje su zaštitne ograde i tko snosi odgovornost ako dođe do štete. Bankari upozoravaju da bi pogrešne procjene, automatizirane odluke ili manipulacije informacijama mogle utjecati na tržišno povjerenje. Spominje se i potreba za zajedničkim standardima nadzora, osobito kod alata koji mogu utjecati na investicijske odluke.
Mogući učinci na tržišta i upravljanje rizicima
Strah nije vezan samo uz izravne pogreške, nego i uz brzinu širenja posljedica. Ako se model umjetne inteligencije Mythos koristi u analitici, trgovanju ili procjeni kreditnog rizika, greške se mogu multiplicirati u kratkom roku. U takvom okruženju i mala sistemska pristranost može postati veliki problem. Zbog toga se traži jačanje internih kontrola, neovisne revizije modela i jasni postupci za hitno isključivanje.
Širi kontekst razvoja umjetne inteligencije
Rasprava o Mythosu uklapa se u globalni trend u kojem se naglo širi primjena umjetne inteligencije u osjetljivim područjima. Stručnjaci upozoravaju da tehnološki napredak nadmašuje brzinu prilagodbe pravila i institucija. Zaključak dijela financijskih čelnika je da se inovacije ne žele kočiti, ali da se mora uspostaviti okvir koji sprječava nepredvidive i teško popravljive posljedice.
Više:
Enzo Fernández se vraća protiv Manchester Uniteda, ali financijski pritisak na Chelsea raste
Primirje u Libanonu: Izrael zadržava pravo na napade u samoobrani
Misija Artemis II: zapovjednik Reid Wiseman otkrio dirljiv trenutak na putu oko Mjeseca
