Po trojdňových „maratónskych“ rokovaniach predsedníctvo Rady a vyjednávači Európskeho parlamentu dospeli k predbežnej dohode o návrhu o harmonizovaných pravidlách o umelej inteligencii (AI), takzvanom zákone o umelej inteligencii. Cieľom návrhu nariadenia je zabezpečiť, aby systémy umelej inteligencie uvádzané na európsky trh a používané v EÚ boli bezpečné a rešpektovali základné práva a hodnoty EÚ. Cieľom tohto prelomového návrhu je tiež stimulovať investície a inovácie v oblasti AI v Európe.
Je to historický úspech a obrovský míľnik do budúcnosti! Dnešná dohoda účinne rieši globálnu výzvu v rýchlo sa vyvíjajúcom technologickom prostredí v kľúčovej oblasti pre budúcnosť našich spoločností a ekonomík. A v tomto úsilí sa nám podarilo udržať mimoriadne krehkú rovnováhu: podpora inovácií a zavádzanie umelej inteligencie v celej Európe pri plnom rešpektovaní základných práv našich občanov.Carme Artigas, španielska ministerka zahraničných vecí pre digitalizáciu a umelú inteligenciu
Zákon AI je a vlajková loď legislatívna iniciatíva s potenciálom podporiť rozvoj a zavádzanie bezpečnej a dôveryhodnej umelej inteligencie na jednotnom trhu EÚ súkromnými aj verejnými subjektmi. Hlavnou myšlienkou je regulovať AI na základe jej schopnosti spôsobiť spoločnosti škody po a „založené na riziku“ prístup: čím vyššie riziko, tým prísnejšie pravidlá. Ako prvý legislatívny návrh svojho druhu na svete môže stanoviť a globálny štandard pre reguláciu AI v iných jurisdikciách, rovnako ako to urobilo GDPR, čím sa propaguje európsky prístup k regulácii technológií na svetovej scéne.
Hlavné prvky dočasnej dohody
V porovnaní s pôvodným návrhom Komisie možno hlavné nové prvky dočasnej dohody zhrnúť takto:
pravidlá na vysokoúčinné modely AI na všeobecné účely ktoré môžu v budúcnosti spôsobiť systémové riziko, ako aj vysoké riziko systémy AI
revidovaný systém vláda s určitými právomocami na presadzovanie práva na úrovni EÚ
rozšírenie zoznamu zákazy ale s možnosťou použiť vzdialená biometrická identifikácia orgánmi činnými v trestnom konaní na verejných priestranstvách s výhradou záruk
lepšia ochrana práv prostredníctvom povinnosti nasadzovateľov vysokorizikových systémov umelej inteligencie vykonávať a posúdenie vplyvu na základné práva pred uvedením systému AI do používania.
Konkrétnejšie, dočasná dohoda zahŕňa tieto aspekty:
Definície a rozsah
Aby sa zabezpečilo, že definícia Systém umelej inteligencie poskytuje dostatočne jasné kritériá na rozlíšenie umelej inteligencie od jednoduchších softvérových systémov, kompromisná dohoda zosúlaďuje definíciu s prístupom navrhnutým OECD.
Dočasná dohoda tiež objasňuje, že nariadenie sa nevzťahuje na oblasti mimo rozsahu pôsobnosti práva EÚ a v žiadnom prípade by nemalo mať vplyv na právomoci členských štátov v oblasti Národná bezpečnosť alebo akýkoľvek subjekt poverený úlohami v tejto oblasti. Okrem toho sa zákon o umelej inteligencii nebude vzťahovať na systémy, ktoré sa používajú výlučne na vojenský or obrana účely. Podobne sa v dohode stanovuje, že nariadenie sa nebude vzťahovať na systémy umelej inteligencie používané výlučne na tento účel výskumu a inováciíalebo pre ľudí, ktorí používajú AI z neprofesionálnych dôvodov.
Reklama
Klasifikácia systémov AI medzi vysoko rizikové a zakázané praktiky AI
Kompromisná dohoda stanovuje a vodorovná vrstva ochrany, vrátane vysokorizikovej klasifikácie, aby sa zabezpečilo, že sa nezachytia systémy umelej inteligencie, ktoré pravdepodobne nespôsobia vážne porušenia základných práv alebo iné významné riziká. Prezentujú sa iba systémy AI obmedzené riziko bude vystavený veľmi svetlu povinnosti transparentnosti, napríklad zverejnením, že obsah bol vygenerovaný AI, aby používatelia mohli robiť informované rozhodnutia o ďalšom použití.
Široký rozsah vysoké riziko Systémy umelej inteligencie by boli povolené, ale podliehali by súboru požiadaviek a povinností na získanie prístupu na trh EÚ. Tieto požiadavky spoluzákonodarcovia objasnili a upravili tak, aby ich bolo viac technicky uskutočniteľné a menej zaťažujúce zainteresované strany, ktoré musia dodržiavať, napríklad pokiaľ ide o kvalitu údajov alebo v súvislosti s technickou dokumentáciou, ktorú by mali vypracovať MSP, aby preukázali, že ich systémy umelej inteligencie s vysokým rizikom sú v súlade s požiadavkami.
Keďže systémy umelej inteligencie sa vyvíjajú a distribuujú prostredníctvom zložitých hodnotových reťazcov, kompromisná dohoda zahŕňa zmeny, ktoré objasňujú rozdelenie zodpovednosti a úlohy rôznych hercov v týchto reťazcoch, najmä poskytovateľov a používateľov systémov umelej inteligencie. Objasňuje tiež vzťah medzi zodpovednosťami podľa zákona o umelej inteligencii a povinnosťami, ktoré už existujú podľa iných právnych predpisov, ako sú príslušné právne predpisy EÚ o ochrane údajov alebo odvetvové právne predpisy.
Pri niektorých použitiach AI sa považuje za riziko neprijateľný a preto budú tieto systémy v EÚ zakázané. Dočasná dohoda zakazuje napríklad kognitívne behaviorálna manipulácia, necielené zošrotovanie obrázkov tváre z internetu alebo CCTV záberov, rozpoznávanie emócií na pracovisku a vo vzdelávacích inštitúciách, sociálne skórovanie, biometrická kategorizácia odvodiť citlivé údaje, ako je sexuálna orientácia alebo náboženské presvedčenie a niektoré prípady Prediktívna polícia pre jednotlivcov.
Výnimky presadzovania práva
Vzhľadom na špecifiká orgány činné v trestnom konaní a potrebe zachovať ich schopnosť používať AI vo svojej životne dôležitej práci, bolo odsúhlasených niekoľko zmien návrhu Komisie týkajúcich sa používania systémov AI na účely presadzovania práva. S výhradou vhodnosti záruky, tieto zmeny majú odrážať potrebu rešpektovať dôvernosť citlivých prevádzkových údajov vo vzťahu k ich činnosti. Napríklad bol zavedený núdzový postup umožňujúci orgánom činným v trestnom konaní nasadiť vysokorizikový nástroj AI, ktorý neprešiel posudzovanie zhody postup v naliehavých prípadoch. Na zabezpečenie toho sa však zaviedol aj špecifický mechanizmus základné práva budú dostatočne chránené pred akýmkoľvek potenciálnym zneužitím systémov AI.
Navyše, pokiaľ ide o používanie v reálnom čase vzdialená biometrická identifikácia systémy vo verejne prístupných priestoroch, predbežná dohoda objasňuje ciele, kde je takéto použitie nevyhnutne potrebné na účely presadzovania práva a na ktoré by preto orgány presadzovania práva mali mať výnimočne povolené používať takéto systémy. Kompromisná dohoda stanovuje dodatočné záruky a obmedzuje tieto výnimky na prípady obetí určitých trestných činov, predchádzanie skutočným, súčasným alebo predvídateľným hrozbám, ako sú teroristické útoky, a pátranie po ľuďoch podozrivých z najzávažnejších trestných činov.
Univerzálne systémy AI a základné modely
Boli pridané nové ustanovenia, aby sa zohľadnili situácie, keď sa systémy umelej inteligencie môžu používať na mnohé rôzne účely (AI na všeobecné použitie), a kde je technológia umelej inteligencie na všeobecné účely následne integrovaná do iného vysoko rizikového systému. Dočasná dohoda sa zaoberá aj konkrétnymi prípadmi systémov umelej inteligencie na všeobecné použitie (GPAI).
Boli dohodnuté aj špecifické pravidlá základové modely, veľké systémy schopné kompetentne vykonávať širokú škálu charakteristických úloh, ako je generovanie videa, textu, obrázkov, konverzácia v laterálnom jazyku, výpočtová technika alebo generovanie počítačového kódu. Dočasná dohoda stanovuje, že modely základov musia spĺňať špecifické požiadavky povinnosti transparentnosti pred ich uvedením na trh. Bol zavedený prísnejší režim pre 'vysoký vplyv' základové modely. Ide o základné modely trénované s veľkým množstvom údajov as pokročilou zložitosťou, schopnosťami a výkonom vysoko nad priemerom, ktoré môžu šíriť systémové riziká v hodnotovom reťazci.
Nová architektúra riadenia
Podľa nových pravidiel o modeloch GPAI a zjavnej potreby ich presadzovania na úrovni EÚ, an AI Office v rámci Komisie je zriadená úloha dohliadať na tieto najpokročilejšie modely umelej inteligencie, prispievať k podpore noriem a testovacích postupov a presadzovať spoločné pravidlá vo všetkých členských štátoch. A vedecký panel nezávislých odborníkov bude radiť úradu AI o modeloch GPAI tým, že prispeje k rozvoju metodík hodnotenia schopností základových modelov, bude poskytovať poradenstvo pri určovaní a vzniku modelov základov s vysokým dopadom a monitorovať možné riziká materiálovej bezpečnosti súvisiace s modelmi základov.
Rada AI, ktorý by pozostával zo zástupcov členských štátov, zostane koordinačnou platformou a poradným orgánom Komisie a bude členským štátom prisudzovať dôležitú úlohu pri implementácii nariadenia vrátane návrhu kódexov postupov pre modely nadácií. Nakoniec, an poradné fórum pre zainteresované strany, ako sú zástupcovia priemyslu, MSP, začínajúce podniky, občianska spoločnosť a akademická obec, sa zriadi s cieľom poskytovať technické odborné znalosti rade AI.
sankcie
Pokuty za porušenie zákona o AI boli stanovené ako percento z celkového ročného obratu spoločnosti, ktorá porušila pravidlá, v predchádzajúcom finančnom roku alebo ako vopred určená suma, podľa toho, ktorá z nich je vyššia. To by bolo 35 miliónov EUR alebo 7 % za porušenie zakázaných aplikácií umelej inteligencie, 15 miliónov EUR alebo 3 % za porušenie povinností zákona o umelej inteligencii a 7,5 milióna EUR alebo 1,5 % za poskytnutie nesprávnych informácií. Predbežná dohoda však stanovuje proporcionálnejšie čiapky o správnych pokutách pre MSP a začínajúce podniky pri porušení ustanovení zákona o AI.
Kompromisná dohoda tiež objasňuje, že fyzická alebo právnická osoba môže podať sťažnosť príslušnému orgánu orgán dohľadu nad trhom v súvislosti s nedodržiavaním zákona o AI a môže očakávať, že takáto sťažnosť bude vybavená v súlade s príslušnými postupmi tohto orgánu.
Transparentnosť a ochrana základných práv
Dočasná dohoda stanovuje a posúdenie vplyvu na základné práva predtým, ako jeho implementátori uvedú vysokorizikový systém umelej inteligencie na trh. Dočasná dohoda tiež stanovuje zvýšenie transparentnosť o používaní vysokorizikových systémov umelej inteligencie. Najmä niektoré ustanovenia návrhu Komisie boli zmenené a doplnené tak, aby naznačovali, že niektorí používatelia vysokorizikového systému umelej inteligencie, ktorí sú verejnými subjektmi, budú tiež povinní registrovať sa v databázy EÚ pre vysoko rizikové systémy AI. Okrem toho novo pridané ustanovenia zdôrazňujú povinnosť používateľov systém rozpoznávania emócií informovať fyzické osoby, keď sú vystavené takémuto systému.
Opatrenia na podporu inovácií
S cieľom vytvoriť právny rámec, ktorý je priaznivejší pre inovácie, a podporiť regulačné vzdelávanie založené na dôkazoch, ustanovenia týkajúce sa opatrenia na podporu inovácií boli podstatne zmenené v porovnaní s návrhom Komisie.
Predovšetkým sa objasnilo, že AI regulačných pieskovísk, ktoré majú vytvoriť kontrolované prostredie pre vývoj, testovanie a validáciu inovatívnych systémov AI, by mali umožniť aj testovanie inovatívnych systémov AI v podmienkach reálneho sveta. Okrem toho boli pridané nové ustanovenia, ktoré to umožňujú Testovanie systémov AI v podmienky skutočného svetaza osobitných podmienok a záruk. Aby sa znížila administratívna záťaž pre menšie spoločnosti, dočasná dohoda obsahuje zoznam opatrení, ktoré sa majú prijať na podporu takýchto prevádzkovateľov, a stanovuje niektoré obmedzené a jasne špecifikované výnimky.
Nadobudnutie platnosti
V dočasnej dohode sa stanovuje, že by sa mal uplatňovať zákon o umelej inteligencii dva roky po nadobudnutí účinnosti s niektorými výnimkami pre osobitné ustanovenia.
Ďalšie kroky
Po dnešnej predbežnej dohode budú v najbližších týždňoch pokračovať práce na technickej úrovni, aby sa dokončili podrobnosti nového nariadenia. Po ukončení tejto práce predsedníctvo predloží kompromisné znenie predstaviteľom členských štátov (Coreper) na schválenie.
Celé znenie budú musieť potvrdiť obe inštitúcie a pred formálnym prijatím spoluzákonodarcami prejsť právnicko-lingvistickou revíziou.
Základné informácie
Návrh Komisie predložený v apríli 2021 je kľúčovým prvkom politiky EÚ na podporu rozvoja a zavádzania bezpečnej a zákonnej umelej inteligencie, ktorá rešpektuje základné práva, na jednotnom trhu.
Návrh sleduje prístup založený na riziku a stanovuje jednotný horizontálny právny rámec pre umelú inteligenciu, ktorého cieľom je zabezpečiť právnu istotu. Cieľom návrhu nariadenia je podporiť investície a inovácie v oblasti umelej inteligencie, zlepšiť správu a účinné presadzovanie existujúcich právnych predpisov o základných právach a bezpečnosti a uľahčiť rozvoj jednotného trhu s aplikáciami umelej inteligencie. Ide to ruka v ruke s ďalšími iniciatívami vrátane koordinovaného plánu umelej inteligencie, ktorého cieľom je urýchliť investície do AI v Európe. Rada 6. decembra 2022 dosiahla dohodu o všeobecnom smerovaní (rokovací mandát) k tomuto spisu a v polovici júna 2023 začala medziinštitucionálne rozhovory s Európskym parlamentom („trialógy“).
EU Reporter publikuje články z rôznych externých zdrojov, ktoré vyjadrujú širokú škálu názorov. Stanoviská zaujaté v týchto článkoch nemusia byť nevyhnutne stanoviská EU Reporter.
