Публикации маркирани с ‘изкуствен интелект’

Използването на системи с изкуствен интелект в управлението на човешките ресурси вече е част от ежедневната практика на все повече работодатели. Алгоритмични решения се прилагат при подбора на кандидати, оценката на трудовото представяне, разпределянето на задачи и проследяването на работните процеси. Наред с безспорните предимства, които тези технологии предоставят по отношение на бързина, значително спестяване на разходи за работодателя, ефективност и обработка на големи обеми информация, тяхното внедряване поражда редица правни въпроси, свързани със защитата на личните данни, недопускането на дискриминация и гарантирането на основните трудови права.

С приемането на Регламент (ЕС) 2024/1689 относно изкуствения интелект (AI Act) европейският законодател въведе специална регулаторна рамка за използването на AI системи в различни обществени и икономически сфери. Особено внимание е отделено на системите, използвани в трудовите отношения, които по правило са определени като „високорискови“ поради потенциалното им въздействие върху правата и законните интереси на работниците и служителите. Към тази категория попадат системи, предназначени за подбор и наемане на персонал, автоматизирано оценяване на кандидати, вземане на решения относно повишаване в длъжност или прекратяване на трудови правоотношения, възлагане на задачи, както и инструменти за наблюдение и оценка на трудовото представяне. Използването на подобни решения е допустимо, но е обвързано със спазването на редица задължения както от страна на доставчиците на системите, така и от работодателите, които ги внедряват в своята дейност.

Сред основните изисквания на AI Act са извършването на оценка и управление на риска, използването на качествени и представителни набори от данни, поддържането на необходимата техническа документация и осигуряването на достатъчна прозрачност относно начина на функциониране на системата. Особено значение има задължението за ефективен човешки надзор. На практика това означава, че работодателят не може да се освободи от отговорност, като възложи вземането на кадрови решения изцяло на алгоритъм. Необходимо е винаги да съществува реална възможност резултатите от автоматизираната обработка да бъдат прегледани, анализирани и при необходимост коригирани от компетентно лице, т.е. човешкият фактор продължава да има ключово значение както при анализа на данните, така и при взимането на крайни решения от страна на работодателя на база на тях.

Наред със специалната регулация на AI Act, работодателите следва да съобразяват и правилата на Регламент (ЕС) 2016/679 (GDPR). От особено значение е разпоредбата на чл. 22, която предоставя на физическите лица право да не бъдат обект на решение, основано единствено на автоматизирано обработване, включително профилиране, когато това решение поражда правни последици или ги засяга по сходен съществен начин. Аналогична защита е предвидена и в българския Закон за защита на личните данни. Практиката на Съда на Европейския съюз допълнително разширява обхвата на тази защита. В свои решения съдът приема, че автоматизирана оценка може да представлява „решение“ по смисъла на чл. 22 GDPR, дори когато формално крайният акт се постановява от друго лице, ако последното в значителна степен се основава на резултатите, генерирани от алгоритъма. В контекста на трудовите отношения това означава, че работодателят не би могъл да избегне приложението на правилата за автоматизирано вземане на решения единствено чрез формално потвърждаване на препоръките, генерирани от AI система.

В тези случаи следва да бъдат осигурени адекватни гаранции за засегнатите лица, включително право на човешка намеса, право на изразяване на становище и право на оспорване на взетото решение. Българският Кодекс на труда също съдържа специална уредба в тази насока. Съгласно разпоредбата на чл. 107з, ал. 12 от КТ работникът или служителят има право да поиска проверка на решение, взето чрез система за алгоритмично управление. По писмено искане на работника или служителя работодателят или определено от него длъжностно лице е длъжен да провери решението на системата за алгоритмично управление и да уведоми работника или служителя за окончателното решение.

Особено чувствителен е въпросът за използването на AI технологии за наблюдение и оценка на служителите. Съвременните системи могат да анализират производителност, комуникация, работно време и множество други показатели. Въпреки това работодателят е длъжен да съобразява правото на личен живот и принципа на пропорционалност при обработването на данни. Служителите трябва да бъдат предварително и ясно информирани относно съществуването, обхвата и целите на осъществявания мониторинг. Недостатъчно е използването на общи и абстрактни уведомления. Необходимо е работещите да могат да разберат какви данни се събират, за какви цели ще бъдат използвани и за какъв период ще бъдат съхранявани.

Отделен риск представлява т.нар. алгоритмична дискриминация. Когато AI системите се обучават върху исторически данни, е възможно те да възпроизведат съществуващи модели на неравнопоставеност и да доведат до неблагоприятно третиране на определени категории лица. Подобни последици могат да бъдат квалифицирани като непряка дискриминация по смисъла на Закона за защита от дискриминация, независимо че не е налице пряк човешки фактор при формирането на крайния резултат. В този контекст особено значение придобива правилото за обърнатата доказателствена тежест. Ако кандидат или служител установи факти, от които може да се направи обосновано предположение за дискриминация, работодателят следва да докаже, че използваните критерии и механизми за оценка са били обективни, законосъобразни и несвързани със защитен признак. На практика това задължение може да се окаже трудно изпълнимо при използването на системи, чиято логика на функциониране не е достатъчно прозрачна.

С оглед на изложеното работодателите следва да подхождат внимателно към внедряването на AI решения в управлението на персонала. Добра практика е извършването на предварителен правен и технически одит на използваните системи, актуализиране на вътрешните правила за обработване на лични данни и осигуряване на необходимата прозрачност спрямо работниците и служителите. При планиране на дейности, свързани с профилиране или систематично наблюдение, следва да бъде извършена оценка на въздействието върху защитата на данните по чл. 35 от GDPR. Не по-малко важно е обучението на HR специалистите и ръководителите, които използват тези инструменти в ежедневната си работа.

Изкуственият интелект безспорно ще продължи да променя начина, по който се управляват трудовите правоотношения. Предизвикателството пред работодателите не е дали да използват подобни технологии, а как да ги внедрят по начин, който съчетава организационната ефективност със спазването на действащите европейски и национални правни стандарти. Именно този баланс ще бъде определящ за законосъобразното и устойчиво използване на AI в сферата на човешките ресурси.

Адвокатско дружество „Мургова и партньори“ има богат опит в правното консултиране на работодателите при имплементиране на новите технологии и осигуряване на тяхното съответствие с действащата национална и европейска правна рамка. Екипът ни провежда обучения на работодателите и техните служители, свързани с новостите при уреждане на трудовите отношения, както и цялостно ревизиране на вътрешните правила на компаниите, за да се въведат ясни и прозрачни критерии при използването на АI и спазването на правата и законните интереси на служителите.

Европейският съюз създаде първите в света общи правила за изкуствения интелект чрез Регламент(ЕС) 2024/1689. Въпреки че Регламентът официално влезе в сила през август 2024 г., за корпоративния свят най-важна е фазата на неговото поетапно прилагане. В края на 2025 г. регулацията вече е факт и българският бизнес трябва да се съобрази с новите законови изисквания. След като през февруари 2025 г. влязоха в сила забраните за AI системи с неприемлив риск, и по-късно през август се активираха изискванията за прозрачност при т.нар. General Purpose AI, сега фокусът се прехвърля върху най-съществената част от Регламента – новите задължения за високорисковите системи с изкуствен интелект.

2 август 2026 г. е финалният срок, от който влиза в сила задължителното прилагане на изискванията на Регламента за високорисковите AI системи. От тази дата всички регулирани AI технологии, предоставяни или използвани в рамките на ЕС, трябва да демонстрират пълно съответствие с Регламента. Системите се дефинират като високорискови, когато функционират в сектори, които пряко засягат здравето, безопасността и основните права на гражданите. Именно това предполага бизнесът точно да определи и класифицира всички AI инструменти, които използва в дейността си. За да продължат да оперират легално след тази дата, тези системи задължително трябва да преминат през процедура по Оценка на съответствието (Conformity Assessment). Това на практика представлява правен и технически одит, доказващ тяхната надеждност.

AI Act поставя изключително високи стандарти пред няколко ключови сектора от бизнеса, които оперират в България. Сред тях най-силно засегнати са компаниите, използващи AI в Човешките ресурси (HR) – за автоматизиран скрининг на автобиографии, оценка на кандидати или мониторинг на служители, тъй като тук съществува висок риск от алгоритмична дискриминация. Също толкова сериозно са засегнати финансовите институции (банки и кредитори), използващи AI за оценка на кредитоспособността и застрахователните премии, както и частните оператори в здравеопазването, където AI системите за диагностика и избор на лечение трябва да отговарят на строги критерии за безопасност, съпоставими с тези за медицинските изделия. За тези компании прилагането на Регламента означава въвеждане на система за управление на риска, одит на данните за обучение и осигуряване на механизъм за човешки надзор при вземане на решения.

Вероятно най-силният аргумент пред корпоративните клиенти е свързан с финансовия риск.

AI Act въвежда изключително високи санкции, които ясно показват решимостта на ЕС да наложи ред в дигиталното пространство. При неспазване на основните задължения, свързани с високорискови системи, глобите достигат до 15 милиона евро или 3% от годишния глобален оборот на компанията, като се прилага по-високата сума. При най-тежките нарушения, свързани със забранените практики, санкцията може да достигне 35 милиона евро или 7% от глобалния оборот. Тези санкции са самостоятелно основание за задължителното имплементиране на изискванията на Регламента, а неспазването му би следвало да се оценява като директен финансов риск за задължените субекти.

AI Act вече е в сила и неговото поетапно прилагане налага неотложна оценка на свързаните с него рискове, както и привеждане дейността на вашия бизнес в съответствие преди август 2026 г. Експертното съдействие за оценка и анализ на текущото състояние на задължените субекти следва да включва класифициране на техните AI системи, одит на данните за обучение, установяване на вътрешни протоколи за съответствие и въвеждане на вътрешни правила и протоколи съобразно нормативните изисквания на Регламента.

Екипът на АДД Мургова и партньори притежава висока експертиза и богат опит в областта на нормативно съответствие и следи за въвеждането и прилагането на всички нови европейски регулации, засягащи бизнеса. Материалът има информативен характер и не следва да бъде тълкуван като правен съвет. При нужда от консултация или допълнителна информация по повод повдигнатите въпроси в настоящия материал, бихте могли да се свържете чрез murgova.com