ЕSG&FRIENDS 2026: Ерата на AI настъпи, но с нея идват редица рискове

Какви възможности има изкуственият интелект? Какви рискове крие? Какво трябва да знаем за влизащия в сила през 2027 г. Закон за изкуствен интелект на ЕС? Какви нива на сигурност са определени за AI в Европа? Какви социални и "зелени" аспекти има той?

По тези, а и по други въпроси дискутираха в един от най-интересните панели на петото юбилейно издание на форума ESG&FRIENDS 2026 Кристина Ешкенази, член на Управителния съвет на AI Cluster България и Емилиан Златев, който отговаря за осигуряването на защитата на личните данни и програмата за съответствие на Yettel Bulgaria.

Какво е изкуственият интелект - случаят с котката

В началото Кристина Ешкенази обрисува какво точно представлява изкуственият интелект, като използва за пример и известния "случай с котката":

"Представете си една черна кутия, в която ние влагаме поток от информация, след което получаваме съответно друга такава. На каква точно е тази информация? Ето защо регулациите са абсолютно необходими, при това не по една и две причини. Друго нещо, което трябва да посочим, когато става въпрос за AI, е че той е извънредно бърз. Дава изключително бързи решения, обаче - много трудно може да обясни как точно е стигнал до тези решения. Тоест ние трябва не само да сме готови да боравим с данните, подадени ни от изкуствения интелект, но и да сме наясно на кои точно данни може да имаме безпрекословно доверие.

И още една тема за размисъл - изкуственият интелект трябва да бъде обясним. Тук идва примерът с котката. Когато виждат снимка на котка, хората виждат животното котка. Изкуственият интелект вижда пиксели. Само четири-пет пиксела, ако бъдат променени, той може да види жираф. Затова е много важно, когато ни се каже "Това е котка", да ни обясни, защо мисли, че това е котка, а ние да се съгласим или пък не."

Зелен изкуствен интелект

Не беше подминато и обстоятелството, че всъщност изкуственият интелект не е от най-екологичните инструменти.

"Изкуственият интелект беше няколко пъти показван като една възможност да подкрепи природата. Изкуственият интелект е много успешно свързван с ESG - той може да оптимизира и да автоматизира процесите, може да подкрепи редица проекти и инициативи, свързани с природни бедствия, като земетресения, наводнения, пожари. Тоест спокойно може да кажем, че AI наистина предлага множество решения. Но, нека да го кажем, изкуственият интелект не е особено "зелен". Той използва изключително много електричество и страшно много вода за охладителните си системи. Всичко това увеличава чувствително вредните емисии, които AI генерира, както показват много изследвания по темата. Това, което правим в момента, е да започваме да натрупваме разбирания какво точно е зелен изкуствен интелект, да създаваме алгоритми, да мислим за изчислителни центрове, които използват алтернативни източни на енергия", заяви Кристина Ешкенази.

Социален аспект

След това тя говори и за социалния аспект на AI:

"Друга съществена тема е социалният аспект на изкуствения интелект. Според едната основна теза AI ще отнеме много работни места, според други обаче ще създаде. За мен тук позицията е въпрос на избор. Ето тук е мястото на регулациите в целия процес, те трябва да направляват процеса. Ключов е и въпросът кой ще поеме отговорността, ако бъде допусната грешка. Например в медицината - кой ще понесе вината, кой ще отиде на съд? При всички положения обаче е абсолютно задължително зад изкуствения интелект, съответно и зад взетите решения, да стоят конкретни хора. Спрямо задаващите се регулации поне трима души трябва да проверят дали доводите на AI са достоверни. Регулацията влиза в сила през 2027 г. - чука на вратата. Имайте предвид, че не става въпрос само за Закона за изкуствен интелект, освен него има още 40 други регулации, свързани с управление, с киберсигурност."

Измерима стойност срещу рискове - случаят Amazon

В дискусията се включи и Емилиан Златев от Yettel. Първата тема, по която той говори, е как да се намери балансът между измеримата стойност, която изкуственият интелект дава на бизнеса и генерирането на рискове.

"На първо място искам да кажа, че виждаме изкуствения интелект като приятел. Виждаме един огромен потенциал и страхотни възможности. Той не е нещо ново, но ние го познаваме отскоро. Тепърва разбираме какви са специфичните му особености и характеристики. Това, което знаем със сигурност, е че много бързо се учи и много бързо взима решения. И точно поради това трябва да сме особено внимателни. Големият въпрос тук е отговорността.

Ще дам един пример, който дори не е толкова нов. В периода 2017 г. - 2018 г. Amazon, глобална компания с няколкостотин хиляди служители, реши да създаде инструмент с AI, който да помага с подбора на служители. Можете да си представите колко хора кандидатстват за работа всекидневно и дори всеки час в компания, като Amazon. Техните инженери, които са абсолютно компетентни и са били с най-добри намерения, са използвали историческите данни на компанията, за да създадат този инструмент. В крайна сметка го създават и го пускат в действие.

Малко по-късно разбират, че този инструмент на практика е дискриминационен. Защо? Защото историческите данни сочат, че успешният служител на компанията най-често е мъж. Изкуственият интелект много бързо поема тази тенденция и започва да възпроизвежда на тази база решенията си в полза на мъжете срещу жените. В резултат на това Amazon спира този инструмент и започва да преразглежда цялостната си стратегия относно изкуствения интелект. Изводът е, че тази технология крие своите рискове и ние трябва да знаем какви са те", посочи Златев.

Европейски регулации - четири нива на риск

Той обясни подробно и какви са нивата на риск, които регулират изкуствения интелект в Европа:

"Европейската регулация по този въпрос вижда четири нива на риск. Най-опасно е неприемливото ниво на риск - това са системи с AI, които няма как да съществуват на територията на ЕС, защото ефектът ще засегне цялото общество, както и целия Съюз. Представете си например система за социален рейтинг, която следи абсолютно всичко, което правим в обществения си живот, а дори и в личния. В една подобна система дадена оценка, възприета от изкуствения интелект, може да се окаже достатъчна, за да изключи някого от дадена сфера - например кандидатстване за работа, или за университет.

В света вече има примера, в които подобна оценка не касае само даден човек, ами и се разпростира върху неговите близки. В този обхват влизат и системите за биометрична идентификация. Тук говорим за едно грубо вмешателство в личния живот на индивида - кога отива на работа, какви са навиците му. Неща, които са несъвместими с ДНК-то на Европа. Следващото ниво обхваща високорисковите системи. Изключително подходящ пример е случаят с Amazon. Тук ярко свети жълтата светлина на светофара, която предупреждава, че изкуственият интелект може да доведе до създаването на вреди за човека. Нискорисковите системи обхващат чатботовете или генеративният AI. Тук става въпрос за изображения, които се генерират с изкуствен интелект, а правилата гласят, че това нещо трябва да бъде упоменато. И също потребителят да е наясно, че в даден сайт комуникира с чатбот, а не с реален човек срещу него. Всичко останало се приема за изкуствен интелект с нормален риск."

Предизвикателства пред бизнеса

В края на дискусията Емилиан Златев направи преглед на предизвикателствата пред бизнеса при използването на технологията.

"Технологиите се сменят буквално с всеки час. Решенията, които приемаме за последен писък на модата, утре вече може да не са актуални. Това означава, че бизнесът ще трябва да се научи да инвестира в технологията по разумен начин. Трябва ясно да си дадем сметка, че AI е скъпа технология - скъпа за производство, скъпа и за използване. Също така е хубаво да знаем, че изкуственият интелект сам по себе си не е панацея. Той просто е част от трансформацията. Всъщност ние трябва да знаем къде ни е мястото и във всички останали технологии, с които боравим.

Ще дам един пример, с който се сблъсках преди известно време. Той не касае Yettel, но е много актуален. Всеки бизнес получава десетки фактури от различни доставчици всеки месец, които трябва да бъдат осчетоводени и разплатени. Това е процес, който е критичен за оперирането на всеки бизнес. Пристига фактурата на хартиен носител. Едно от нещата, които може да се направят, е с помощта на изкуствен интелект тази фактура да се сканира, да се извлече нужната информация и да бъде препратена към съответния счетоводен софтуеър. Дотук нещата звучат супер. Само че има и друг начин - да се интегрират системите, да се програмират данните и всъщност да се използва класическият метод на стандартен трансфер на данни от система към система. По този начин директно ще се възпроизведе нужният резултат", завърши Златев.