Законът за изкуствения интелект на ЕС. Как Европа регулира използването на изкуствен интелект | ИИ в бизнеса #68

Какво е Законът за изкуствения интелект и защо е важен за МСП (малки и средни предприятия)?

Законът за изкуствения интелект е първото регулиране от този вид в света. Първият, който обхваща изкуствения интелект от хуманистичен подход. Целта му е да осигури, че системите за изкуствен интелект, използвани в Европа, са безопасни и стимулират иновациите, като същевременно уважават основните права, с особено внимание на:

• здравеопазване – например, зачитане на личния живот на данните на пациентите,
• образование – спазване на ценностите, пропагандирани от Европейския съюз, и избягване на дискриминация,
• защита на границите – осигуряване на безопасност, без да се нарушават правата на гражданите,
• обществените услуги – следване на най-добрите практики в защитата на данните, правото на информация и ясна комуникация.

За МСП Законът за изкуствения интелект ще донесе предимно по-голяма правна сигурност, тъй като ясно определя рамката за иновации: принципите на проектиране, разработване и прилагане на системи за изкуствен интелект. Това ще улесни компаниите да инвестират в решения, базирани на изкуствен интелект, намалявайки правните рискове. Освен това, регулациите, приложими в целия Съюз, ще предотвратят фрагментацията на пазара.

Европейските регулации за изкуствен интелект бяха приети от Европейския парламент и Съвета на Европа на 9 декември 2023 г. Сега те трябва да бъдат формално приети от двете институции, за да влязат в сила.

Ключови аспекти на Закона за изкуствения интелект за бизнеса

Законът на ЕС за изкуствения интелект въвежда набор от изисквания за системи за изкуствен интелект, в зависимост от нивото на риск. Тези изисквания включват, наред с другото:

• задължението за прозрачност и уведомяване на потребителите в случай на взаимодействия с чатботове, биометрични системи или технологии за разпознаване на емоции,
• забрана за използване на чувствителни атрибути за биометрична категоризация,
• задължителна оценка на съответствието преди влизане на пазара за системи с висок риск,
• задължителна регистрация в базата данни на ЕС — след влизането в сила на Закона за изкуствения интелект, системите за изкуствен интелект, използвани в ключови сектори като образование, заетост, здравеопазване и правоприлагане, ще трябва да бъдат регистрирани.

Производителите и компаниите, използващи системи за изкуствен интелект, също ще бъдат задължени да наблюдават рисковете след въвеждането им на пазара. Това ще има пряко въздействие върху компаниите, проектиращи и внедряващи системи за изкуствен интелект.

Нива на риск на системите за изкуствен интелект според Закона на ЕС за изкуствения интелект

Законът за изкуствения интелект класифицира системите за изкуствен интелект в четири категории в зависимост от нивото им на риск:

1. Неприемлив риск
2. Висок риск
3. Ограничен риск
4. Минимален риск

Нека да разгледаме по-подробно как ще бъде определена всяка група, заедно с примери за системи и техните класификации.

Неприемлив риск

Европейският съюз налага пълна забрана за използването на технологии, изброени в Закона за изкуствения интелект като системи с неприемлив риск. Това са основно системи, проектирани да експлоатират уязвимостта на индивидите към внушение за манипулация или измама, системи, даващи на изкуствения интелект способността да взема решения по важни въпроси, и тези, които биха могли да доведат до злоупотреба с власт. Примери за изкуствен интелект с неприемлив риск включват:

• автономни оръжия, работещи без човешки надзор,
• системи за оценка на достоверността, използвани от правоприлагащите органи,
• автоматични системи за идентификация на индивиди в обществени пространства, като тези, базирани на записи от камери за наблюдение,
• системи за изкуствен интелект, които могат да бъдат вредни за индивиди с физически или психични увреждания,
• изкуствен интелект, използван за правоприлагане, с ограничени изключения,
• системи за изкуствен интелект, използващи вредни “сублиминални” и манипулативни техники.

За бизнеса последната категория е особено важна. Затова прозрачността в работата на системите, предоставящи предложения на потребителите и клиентите, ще бъде от решаващо значение за спазването на новото законодателство на Европейския съюз.

Висок риск

Изкуственият интелект, класифициран като решение с висок риск, ще трябва да отговаря на строги изисквания преди влизането на пазара. Това включва оценки на съответствието и строги тестове преди одобрение за употреба. Тази категория риск включва осем области, като:

• автономни превозни средства,
• медицински диагностични системи,
• предсказателни алгоритми, подкрепящи правосъдната система,
• управление на миграцията и убежището, контрол на границите, както и
• управление на заетостта и работната сила.

Ограничен риск

На системите с ограничен риск, най-често използвани в бизнеса, законодателите за щастие обърнаха много по-малко внимание. Тази категория включва:

• AI чатботове – използвани за обслужване на клиенти или отговаряне на често задавани въпроси под формата на свободен разговор,
• системи за разпознаване на емоции – използвани, например, за събиране на данни за мненията на клиентите относно компанията,
• системи за биометрична категоризация – като оценка на пола или възрастта на клиентите в физически магазин,
• генериране на изображения, аудио или видео – въпреки заплахата, представлявана от дълбоките фалшификации, тази област ще подлежи на ограничен набор от задължения.

Нисък или минимален риск

Решенията за изкуствен интелект с нисък риск не подлежат на правни регулации. Законът за изкуствения интелект само ще споменава, че създателите и потребителите на такива решения трябва доброволно да установят политики за употреба. Това се отнася за решения като:

• системи за препоръка на съдържание в стрийминг услуги, или
• чатботове на уебсайтове, отговарящи на типични клиентски въпроси.

Какви изисквания налага Законът за изкуствения интелект на решенията, използвани от моята компания?

За да проверите дали изкуственият интелект, използван от компанията, отговаря на Закона за изкуствения интелект, трябва:

• да го класифицирате в една от четирите описани категории риск,
• ако е изкуствен интелект с висок риск, да проведете оценка на съответствието,
• да използвате добри практики относно изкуствения интелект с нисък риск.

Нека да разгледаме примери за често използвани решения за изкуствен интелект от компании. Какви изисквания ще трябва да изпълнят?

Чатбот за обслужване на клиенти, предоставящ основна информация за продукти или отговарящ на типични клиентски въпроси, вероятно ще бъде класифициран като система с минимален риск. Той ще трябва да:

• информира потребителите, че взаимодействат с изкуствен интелект,
• предостави опция за пренасочване към човешки консултант,
• спазва общите изисквания относно прозрачността, недискриминацията и т.н.

Система за препоръка на продукти в електронната търговия вероятно ще бъде считана за система с нисък риск. Необходимо е да се информират клиентите, че получават персонализирани препоръки и да се предостави опция за деактивиране на тях.

От друга страна, система за автоматична медицинска диагностика ще бъде класифицирана като система с висок риск. Тя ще трябва да премине през строга оценка преди влизане на пазара и да бъде наблюдавана от човек. Освен това, ще бъде необходимо да се наблюдава нейното функциониране и да се докладват инциденти.

Системата за предотвратяване на градски престъпления също ще бъде считана за система с висок риск. Тя ще трябва да спазва регулациите относно защитата на личния живот и други основни права. Нейната работа ще трябва да бъде под постоянно човешко наблюдение.

Не е ясно в коя категория ще попаднат системите за вземане на решения на базата на изкуствен интелект. Вероятно система за набиране на персонал, която взема решения за наемане сама, ще бъде считана за решение с неприемлив риск. От друга страна, система за подкрепа на набиране, която помага на хората да вършат работата си, би била считана за решение с висок риск.

В името на благосъстоянието на потребителите, както и възможните промени в класификациите, е много важно да се подхожда към изграждането и използването на системи за изкуствен интелект по етичен и отговорен начин от самото начало.

Какви ще бъдат последствията от неприлагането на Закона за изкуствения интелект?

Неспазването на Закона за изкуствения интелект може да доведе до значителни глоби за компаниите, вариращи от 35 милиона евро или 7% от глобалния оборот за големи предприятия до 7.5 милиона евро или 1.5% за МСП. Незаконните системи за изкуствен интелект могат да бъдат изтеглени от пазара, а тяхното използване може да бъде ограничено.

Как да се подготвим за влизането в сила на Закона за изкуствения интелект?

Как да подготвите компания, която използва изкуствен интелект, за влизането в сила на Закона за изкуствения интелект през 2025 г.? Ето няколко съвета как МСП и стартиращи компании могат да се подготвят за този момент:

• да следят напредъка на работата и графика за прилагане на регулациите,
• да оценят системите за изкуствен интелект, които вече се използват, и да ги адаптират към новите изисквания,
• да обърнат особено внимание на етичните аспекти при проектирането на изкуствен интелект.

Резюме

Въвеждането на Закона за изкуствения интелект е голяма промяна за екосистемата на изкуствения интелект в Европа. Въпреки това, с ясни и последователни правила, той обещава да осигури безопасното и етично развитие на тази технология, което трябва да бъде от полза особено за МСП и стартиращи компании.

Законът за изкуствения интелект, който ще влезе в сила през 2025 г., ще донесе значителни промени в начина, по който малките и средни предприятия (МСП) могат да използват изкуствен интелект. За МСП това предимно означава необходимостта от внимателно обмисляне и анализ на решенията за изкуствен интелект, които използват, както по отношение на спазването на регулациите, така и по отношение на потенциалното въздействие върху клиентите и общността.

За собствениците и мениджърите на малки бизнеси е от съществено значение да разберат как техните системи за изкуствен интелект са класифицирани по отношение на риска и какви действия са необходими, за да ги приведат в съответствие с предстоящите регулации. Вземете, например, системите за изкуствен интелект, използвани в управлението на клиенти или маркетинга, които преди са били използвани доста свободно. Сега те ще изискват задълбочен анализ за спазване на Закона за изкуствения интелект. Това може да създаде нови възможности за фирми, специализирани в правни съвети в областта на технологиите, предоставяйки на МСП подкрепа в адаптирането към тези нови изисквания.

Ако харесвате нашето съдържание, присъединете се към нашата общност на активните пчели в Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.