Имаш въпрос? Задаваш го на ChatGPT. Скролваш в социалните мрежи? Изкуствен интелект подрежда фийда ти. Пишеш курсова работа… по-добре да не довършваме. Развитието на II все по-често буди притеснения и, като гледаме колко скоростно напредва, никак не звучи далечен въпросът, ако е способен да ни замени. Говорим си за рисковете, които крие изпълването му, но… знаем ли в действителността какви са те? Няма ли правила или санкции, които да ограничат технологията да превземе човека?
Може да се изненадващо, но всъщност – има. На последния два въпроса съществуват ясно разписани отговори, които се намират в нисък законодателен акт за изследователски интелект : първата в света е създадена правна рамка от 2024 г., която въвежда официалните, ясни и справедливи изисквания към големите компании, които се използват и изпълняват II.
ОБЯСНЕНО: КАКВО Е AI ACT
Това е регламент, който въвежда правила за използване на изкуствен интелект. Всъщност, той не ни засяга като отделни личности, които използват чатботове, а хората в бизнеса и компаниите, които разработват, внедряват или използват AI приложения на европейския пазар. Например – подобно на стикерите, с които се обозначават плодовете или зеленчуците на пазара, според регламента на компаниите са задължени да етикетират съдържанието си, създадено с изкуствен интелект. Както и чатботовете да уведомяват потребителя, че се разговаря с технологията.
Документът е ценен с това, че за първи път прави реална оценка на вашите видове рискове от използването на системи, произведени с изкуствен интелект. Казано по-просто – освен че са описани ценните приложения, те са разделени и посоката на това колко е опасна. И така, регламентът подрежда рисковете в 4 категории , както следва:
- Неприемлив риск – тук са системите, които манипулират човешкото поведение чрез използване на чувствителна лична информация (възраст, националност, сексуална ориентация и др.). Тези приложения, произведени с II, се наблюдават стриктно и са абсолютно забранени.
- Висок риск – в него влизат алгоритмите, които взимат важни решения за живота ни в различни сектори: образование (II, който оценява изпитите, подбира кандидати за работа) или здравеопазване (приложения за медицинска диагностика). Тези системи не са забранени, но трябва да бъдат прозрачни, да притежават необходимата документация и да бъдат под постоянен човешки надзор.
- Ограничен риск – технологиите, които използвате всеки ден: ChatGPT , Google Gemini или приложения за създаване на изображения с изкуствен интелект. Правилото тук е потребителят винаги да знае, че общува с технология, а т.нар. “deepfake” съдържание да бъде ясно обозначено като такова.
- Минимален риск – видеоигри, спам филтри или въпросните оптимизиращи системи в домакинството. Тъй като те не застрашават сигурността на личността, за тях няма нови ограничения.
Важно е да уточним обаче, че от август 2024 г. насам влезли в силата на правилата за системите, които попадат в неприемлив риск . Тези за висок риск предстои да влязат в сила на 2 август 2026 г., като в момента се финализират техническите стандарти и насоките, за да се осигури необходимото време на компанията за технологична подготовка. Изискванията за прозрачност при системите с ограничен риск се очаква да се уважат напълно от декември 2026 г. За преобладаващата част от AI приложенията обаче няма и няма да има специфични правни ограничения – те се определят като безопасни и за тях законът не осигурява задълженията, освен освен на доброволните кодекси за поведение.
РОЛЯТА НА РЕГЛАМЕНТА
Европейската комисия е автор на идеята за създаване на този документ. За значението и ползите от регламента се разговаряме с Йорданка Чобанова , ръководител на Представителството на Европейската комисия в България.
“Изкуственият интелект е една изключително мощна технология, която можем да сравним с откриването на електричеството. И точно защото е толкова мощен, защото има такъв голям ефект, Европейската комисия счита, че е необходимо тя да бъде използвана, но с грижа за човека. Това е голямата роля в Акта за изкуствения интелект – от една страна да окуражите иновациите, да не дадете хоризонт да се развивате, да направите живота си по-бързо, по-лесен, по-удобен, но в това време рисковете, които съществуват, да бъдат минимализирани.“
Тъй като ИИ има все по-голямо приложение в най-различни сфери, г-жа Чобанова обяснява защо Актът за изкуствения интелект може да се изведе на ключове за това, че ще бъде развитие на младите хора.
„Например, младите хора кандидатстват за работа в дадена компания. Ние също така в Европейската комисия, между другото, използваме изкуствения интелект, който прави първото отсяване на кандидатурите на младите хора, които кандидатстват, бързо и ефективно. което на базата на предходни данни алгоритъмът се счита за ефективен. Тук вече влиза ролята на човешкия надзор, човешкия фактор, опитът на колегите да може да прецени дали има такъв евентуален проблем и да го реши. Тоест, логиката е, че не технологията е шефът. Шефът е човекът, а технологията е тази, която ни помага. “
А ако някоя компания наруши правилата на регламента, то тя подлежи на сериозни санкции. Глобата за неизпълнение може да достигне дори до 35 милиона евро или до 7% общ годишен оборот на фирмата за предходната финансова година, като законът задължително избира по-високата сума . Така че – бизнесът трябва да се внимава.
ЗАЩО РЕГУЛАЦИЯТА Е ВАЖНА?
Сред другите позитиви от съществуването на документ като Законодателния акт за изкуствен интелект е, че позволява на компаниите да разберат същността на системите, които използват. Това сподели д-р Татяна Новосьолова , старши анализатор в Център за изследване на демокрацията.
„Тъй като регламентът поставя ясни правила за отношението на разработването и внедряването на системите, има и вторичен за предоставяне на стимули на компаниите, за да по-отговорни, когато се прилагат и внедряват тези технологии, но също така и те самите да знаят какво е позволено, какво не е толкова позволено спрямо толерантността към риска на нашето общество.“
Тя не дава примери за приложения, които попадат в неприемлив риск, и са строго забранени според регламента.
„Използването на алгоритми с цел манипулиране на потребителите е сред забранените практики. Подобни кампании злоупотребяват с дадените на потребителите, така че целенасочено да таргетират хората с финансови проблеми с обяви и реклами за онлайн залагане, като по този начин възпрепятстват автономното вземане на решение и правото на информиран избор.“
„Друг конкретен пример за забранените практики е с помощта на т. нар. „биометрично разпознаване“ от правоохранителните органи в реално време на обществените места. Има се, че на територията на предвид ЕС не е позволено 24/7 да се провежда наблюдение с лицево разпознаване . В този случай Актът за изкуствения интелект цели максимално да ограничи рисковете от тази държава по някакъв начин за осигуряване на правото на неприкосновеност, лично пространство и защита на данните.“
ПРИЛАГА ЛИ СЕ У НАС?
Санкционирате ли обаче българските компании, които не спазват тези изисквания? Това като Законодателният акт за изкуствен интелект е регламент, той има пряко и непосредствено действие у нас. Все още обаче той е в процеса на прилагане и според експертите предстоят допълнителни действия по въпроса – най-вече на национално ниво.
„Важно е кои ще бъдат компетентни органи и как ще бъдат разпределени техните функции. В момента имаме решение на Министерския съвет от 2025 г., в което са определени всичките неща, които ще отговарят за спазването на основните права в случай на създаване на изкуствен интелект. технологиите да са съвместими със съществуващите правни разпоредби.“, добави д-р Новосьолова.
„Ключова е ролята тук и на националните власти в този контрол, и на нас, на гражданското общество като цяло. Тук вече от голямо значение е и дигиталната грамотност, където всички ние трябва да търсим и да следим дали има обозначение на съдържанието.“, смята г-жа Чобанова.
И така, макар и да са необходими още действия за развиването и прилагането на регламента, позитивите от Акта за изкуствения интелект несъмнено са налице. Най-важната стъпка обаче остава постоянното информиране по темата за II, защото той не спира да се развива. Повече от всякога имаме нужда от открит обществен дебат – в училищата, на работното място или от властта, която така или дава силни заявки за развитие на иновациите. Едно обаче е сигурно: щом изкуственият интелект се преобразува в регулирана сфера, значи сме на прав път. Пътят, в който едновременно използвате технологиите, но и не им позволява да диктуват дневния ред.
Източници: Европейска комисия, официален сайт
