Тази седмица Европейският съюз предприе сериозна стъпка към установяването на първите в света правила за това как компаниите могат да използват изкуствения интелект (AI).

Със смел ход, който в Брюксел се надяват, че ще проправи пътя за налагането на глобални стандарти за технологията, която се използва във всичко от чатботове, като ChatGPT, до хирургически процедури и засичане на измами в банките.

“Днес написахме история”, заяви Брандо Бенифей, евродепутат, който работи по Закона за изкуствения интелект на ЕС.

Законодателите постигнаха съгласие, че проектозаконът ще трябва да бъде съгласуван със Съвета на ЕС и страните членки на ЕС преди да се превърне в закон.

“Докато големите технологични компании бият тревога за своите собствени творения, Европа предприе стъпки и предложи конкретна реакция на рисковете, които AI започва да създава,” допълва Бенифей.

Стотици водещи учени в сферата на AI и изследователи предупредиха миналия месец, че технологията представлява риск за изчезването на човечеството, а няколко видни фигури, сред които президентът на Microsoft Брад Смит и главният изпълнителен директор на OpenAI Сам Алтман, призоваха за по-големи регулации.

По време на организирана от Йейлския университет среща на бизнес лидери през тази седмица, над 40% от участниците, сред които главният изпълнителен директор на Walmart Дъг Макмилиън и този на Coca-Cola Джеймс Куинси, заявиха, че AI разполага с потенциала да унищожи човечеството в рамките на 10 години, пише CNN.

На фона на всичко това Законът за изкуствения интелект на ЕС има за цел да „насърчи възприемането на ориентиран към човека, надежден изкуствен интелект и да осигури високо ниво на защита на здравето, безопасността, основните права, демокрацията и върховенството на закона и околната среда от вредни въздействия.“

След като бъде одобрен, законът ще важи за всеки, който разработва и използва AI системи в ЕС, в това число и компании, които са базирани извън Съюза.

Степента на регулациите зависи от рисковете, създадени от конкретното приложение, като те варират от минимални до “неприемливи.”

Системите, които спадат към последната категория, ще бъдат забранявани директно. Сред тях са системи за лицево разпознаване в реално време на обществени места и системи за социално оценяване, като тези в Китай, които присъждат “здравен резултат” на хората въз основа на тяхното поведение.

Новото законодателство също така налага строги ограничения на “високорисковите” AI приложения, които заплашват “значително здравето, сигурността и фундаменталните права на хората или околната среда.”

Сред тях са системи, които се използва, за да се влияе на гласоподавателите при избори, както и платформи на социални медии  с над 45 милиона потребители, които препоръчват съдържание на своите потребители. В този списък попадат Facebook, Twitter и Instagram.

Законът също така очертава изискванията за прозрачност на AI системите.

Например, системи като ChatGPT ще трябва да обявяват, че съдържанието им е генерирано от AI, да различават deep-fake изображенията от истинските и да осигуряват защитни механизми срещу генерирането на незаконно съдържание.

Ще трябва да бъдат предоставяни и подробни резюмета на защитените с авторски права данни, които са използвани за обучението на тези AI системи.

AI системите, които крият минимален или никакъв риск, като филтрите за спам, до голяма степен не са засегнати от правилата.

Сериозни глоби

Повечето AI системи вероятно ще попадат в категориите високорискови или забранени, вследствие на което собствениците им ще бъдат заплашени от огромни глоби, ако нарушат регулациите, според Рейчъл Мълдуун от лондонското адвокатско дружество Maitland Chambers.

Участието в забранени практики, включващи AI, може да доведе до глоби в размер на до 40 млн. евро или до 7% от глобалния оборот на съответната компания.

В това отношение се стига доста по-далече от закона за GDPR, по който Meta бе глобена с 1.2 млрд. евро миналия месец. Глобите по GDPR възлизат на до 10 млн. евро или до 2% от глобалния оборот на въпросната компания.

Заложените глоби по Закона за AI са предупреждение от страна на законодателите, той да бъде възприеман сериозно, казва Мълдуун.

Протекции за иновации

Глобите ще бъдат “пропорционални” и при тях ще се взема предвид пазарната позиция на по-малките доставчици, което предполага, че за стартъп компаниите може би ще има известна снизходителност.

В закона също така е посочено, че страните членки на ЕС трябва да създадат поне по една регулаторна тестова среда за изпробване на AI системи преди те да бъдат използвани.

“Нещото, което искахме да постигнем с този текст, е баланс,” заяви пред журналисти евродепутатът Драгош Тудораче. Законът защитава гражданите и също така “насърчава иновациите, без да възпрепятства креативността и внедряването и развитието на AI в Европа,” допълва той.

Законът предоставя на гражданите правото да подават жалби срещу доставчиците на AI системи и предвижда създаването на Служба на ЕС за изкуствените интелект, която да следи за прилагането на законодателството. В него също така има изискване страните членки да определят национални надзорни органи за AI.

Реакцията на компаниите

Microsoft, която заедно с Google, е лидер в разработването на AI в световен мащаб, приветства напредъка по закона, но обяви, че очаква “по-нататъшно усъвършенстване.”

“Смятаме, че AI изисква регулаторни предпазни мерки, усилия на международно ниво за привеждане в съответствие и смислени доброволни действия от страна на компаниите, които разработват и използват AI,” се посочва в изявлението на компанията.

От IBM призоваха законодателите в ЕС да предприемат “подход базиран на риска” и предложиха четири “ключови подобрения” на законопроекта, в това число по-голяма яснота относно високорисковия AI “така че да бъдат улавяни наистина само високорисковите случаи на използването му.”

Законът може да не влезе в сила до 2026 г., според Мълдуун, според която е вероятно да има ревизии, предвид скоростите с които напредва изкуственият интелект. Проектозаконът вече премина през няколко актуализации от началото на работата по него през 2021 г.

“Законът ще разширява обхвата си с развитието на технологията”, казва Мълдуун.

Прочети още

Виж всички