Opozorilo o sistemskih kibernetskih tveganjih, ki izhajajo iz najnaprednejših modelov umetne inteligence

V okviru Evropskega odbora za sistemska tveganja (ESRB) opozarjamo na sistemska kibernetska tveganja, ki izvirajo iz najnaprednejših modelov umetne inteligence (t. i. frontier AI modeli). Ti modeli namreč preoblikujejo krajino kibernetskih groženj, v okviru ESRB pa izpostavljamo predvsem posledice za javne organe in zasebne finančne institucije. Pozivamo tudi pristojne organe, naj ta tveganja upoštevajo pri nadzorniških in pregledniških aktivnosti.

Najnaprednejši modeli umetne inteligence predstavljajo prelomnico na področju kibernetske varnosti. Sčasoma bodo ti modeli okrepili kibernetsko odpornost, vendar pa v kratkoročnem in srednje ročnem obdobju prinašajo prednost tudi napadalcem, saj jim omogočajo hitrejše odkrivanje ranljivosti in izvajanje avtomatiziranih kibernetskih napadov v večjem obsegu, hitreje in z večjo prefinjenostjo. Najnaprednejši modeli umetne inteligence so sposobni samostojno odkrivati, izkoriščati in uporabljati ranljivosti v širokem spektru sistemov informacijsko-komunikacijske tehnologije (IKT), vključno s tistimi, ki podpirajo kritično finančno infrastrukturo. Poleg tega koncentracija vodilnih ponudnikov umetne inteligence zunaj Evropske unije izpostavlja EU strateški odvisnosti in geopolitičnim tveganjem.

V okviru ESRB ocenjujemo, da to zahteva usklajen odziv vseh deležnikov, vključno s ponudniki umetne inteligence, programske opreme, varnostnimi podjetji, vzdrževalci odprtokodnih rešitev, finančnimi institucijami in organi tako na nacionalni ravni kot na ravni celotne EU. Še naprej pa bomo spremljali razvoj in uporabo modelov umetne inteligence in njihov vpliv na finančni sektor z vidika stabilnosti.

Več o opozorilu na spletnih straneh ESRB.