Публикации маркирани с ‘ИИ в сферата на иновациите’

На 13 март 2024 г. Еврoпeйският парламент прие дългоочаквания и определян като исторически Закон за изкуствения интелект (на английски език AI Act). С него ще се осигури сигурност и съответствие с основните права, а от друга страна ще се подкрепи развитието на иновациите в Европа.

По правната си същност Законът за изкуствения интелект (ЗИИ) е с пряко приложение за всички държави членки, като с него се изменят и някои други законодателни акта на ЕС. Очаква се Законът да започне да се прилага изцяло до 24 месеца след публикуването в официалния вестник на Съюза.

Какво следва от тук нататък?

В редица материали сме анализирали проекта на Закона и очакваните промени, които ще се внесат с него. При анализа на окончателния текст обаче прави впечатление, че регулацията, която се въвежда с него е не само изключително подробна, но и много необходима. Европейските институции положиха сериозни усилия, за да се стигне до този резултат, а именно – да се приеме цялостна нормативна рамка на иновативни обществени отношения, които вече оказват влияние върху живота ни.

Целта на закона е по отговорен и разумен начин ЕС да направи заявка пред останалия свят, че ние сме лидери в областта на ИИ и за това при използването и развитието му следва да се положат всички усилия за спазването на основните права, на демокрацията, на върховенството на закона и на екологичната устойчивост.

Основният принцип, залегнал в ЗИИ е въвеждане на задължения при използването на системи с ИИ, въз основа на  потенциалните рискове и нивото на въздействие.

Забранени приложения

С новите правила се определят абсолютно забранени за използване конкретни приложения на ИИ. Забранени приложения са тези, които застрашават правата на гражданите, като:

• системи за биометрична категоризация, базирани на чувствителни характеристики и нецеленасочено изтриване на изображения на лица от интернет или записи от камери за видеонаблюдение, за да се създадат бази данни за разпознаване на лица;
• системи за разпознаване на емоции на работното място и в училищата;
• системи за социалното оценяване;
• системи, наричани „предсказуема полиция“ – когато се основават единствено на профилиране на човек или оценка на неговите характеристики;
• системи с ИИ, чрез който се манипулира човешкото поведение или се използва уязвимостта на хората.

Предвидени са изключения от забраната за правоприлагащите органи, но единствено в конкретно посочените хипотези в Закона. Така използването на биометрични идентификационни системи от органите може да се разреши, само ако са спазени строго определени предпазни мерки, като ограничено използване по време и географски обхват, и със специално предварително съдебно или административно разрешение. Такова употреба се определя като високорисков случай и може да бъде разрешена при целенасочено търсене на изчезнало лице или предотвратяване на терористична атака.

Задължения за високо рисковите системи на ИИ

Със Закона са въведени изключително детайлни и ясни задължения за всички системи на ИИ, които се определят като високо рискови. За тях се приема, че в значителна степен потенциално биха били вредоносни за здравето, безопасността, основните права, околната среда, демокрацията и върховенството на закона.

Примерите за високорискови употреби на ИИ в ЗИИ включват почти всякакви популярни системи на ИИ като такива относно критична инфраструктура, образование и професионално обучение, заетост, основни частни и обществени услуги (напр. здравеопазване, банкиране и други с ежедневно обществено значение), определени системи в правоприлагането, управление на миграцията и границите, правосъдие и демократични процеси (напр. повлияване върху обществените мнения по време на избори).

Задълженията, свързани с употребата на високорисковите ИИ системи, включват оценяване и намаляване на рисковете, поддържане на регистрационни файлове за употреба, осигуряване на прозрачни и точни правила и гаранции за използване на човешки надзор. Гражданите ще имат право да подават жалби относно системи с изкуствен интелект и да получават обяснения относно решения, базирани на високорискови системи с изкуствен интелект, които засягат техните права.

Изисквания за прозрачност

В ЗИИ се отделя специално внимание на т. нар. системи с изкуствен интелект с общо предназначение (GPAI) и моделите на GPAI, на които се базират. За тях се въвеждат изисквания за прозрачност, включително спазване на законодателството в сферата на авторското право в ЕС и публикуване на подробни резюмета на съдържанието, използвано за обучение на ИИ. Поставят се и допълнителни изисквания към по-мощните модели на GPAI, като извършване на оценки на моделите им, за оценка и смекчаване на системни рискове и за докладване на инциденти. Задължително следва изкуствените или манипулирани изображения, аудио или видео съдържание („deepfakes“) да бъдат определени като такива по ясен начин.

Подкрепа за иновациите

Със Закона не се въвеждат само строги изисквания и правила относно ИИ системите, но ЕС се стреми да укаже и положителното въздействие на ИИ в сферата на иновациите. Значима цел на акта е насърчаването на развитието на ИИ, както на ниво ЕС, така и в държавите членки. Предвижда се създaване на регулаторни лаборатории („sandboxes”) на национално равнище, които да бъдат достъпни малките и средни предприятия и стартъпите и където да се разработва и обучава иновативен ИИ преди пускането му на пазара.

С настоящия материал се прави най-общ анализ на новия Закон за ИИ и неговите най-съществени нововъведения. Още на този етап обаче може да се направи извод, че с новите регулации ще се засегнат немалък брой бизнеси и обществени отношения. В периода до началото на пълното прилагане на ЗИИ, предстои усилена и задълбочена подготовка, както на институциите, които ще прилагат и ще следят за прилагането на Закона, така и на лицата и фирмите, които използват, разработват и/ или планират да използват ИИ системи в дейността си.

Екипът на АДД Мургова и партньори разполага с изключително подготвени експерти в отдела по Правни регулации и съответствие, които са на разположение да ви съдействат по извършване на предварителна оценка и анализ на изисквания на ЗИИ и как същите биха засегнали вашия бизнес. Свържете се с нас чрез www.murgova.com

Статията е публикувана и в Колонката на Мургова и партньори в сайта на списание „твоят БИЗНЕС“.