Európska komisia predstavila regulačný rámec pre umelú inteligenciu

21. apríla 2021 Európska komisia verejne predstavila horizontálny regulačný rámec pre umelú inteligenciu (Artificial Intelligence Act). Spolu s legislatívou v oblasti digitálnych služieb ide v oblasti digitálnej agendy a jednotného digitálneho trhu o politicky najdôležitejšiu iniciatívu Európskej komisie pod vedením jej predsedníčky Ursuly von der Leyen. Hlavným cieľom Aktu o umelej inteligencii (AIA) je dynamickejší vývoj a využitie umelej inteligencie v EÚ a zabezpečenie bezpečnosti a základných práv používateľov systémov, resp. produktov a služieb využívajúcich technológie umelej inteligencie (AI). Ústredným konceptom, na ktorom je postavený Akt o umelej inteligencii, je koncept rizika, ktoré AI pre bezpečnosť, zdravie a ľudské práva umelá inteligencia predstavuje.

Európska komisia týmto zároveň navrhuje nové pravidlá a konkrétne kroky pre vybudovanie excelentnosti a posilnenie dôvery v umelú inteligenciu. Predstavený právny rámec pre AI je postavený na rizikovom profile jednotlivých AI technológií, pričom je doplnený o novú reguláciu pre strojové zariadenia (Machinery Regulation), ktorá nahrádza pôvodnú smernicu pre strojové zariadenia a zároveň zjednodušuje administratívnu záťaž pre podniky pre zabezpečenie súladu s novými pravidlami. Nové generácie strojov, ktoré budú mať v sebe integrované AI systémy, budú predmetom jednotného hodnotiaceho procesu, čím sa zníži administratívna ako aj finančná záťaž podnikov pri získavaní povolenia na používanie.

Základné rizikové kategórie v rámci predloženého návrhu Aktu o umelej inteligencii sú:

• AI systémy, ktoré predstavujú neakceptovateľné riziko a ktoré sú v princípe zakázané. Toto zahŕňa AI systémy alebo aplikácie, ktoré manipulujú ľudské správanie za účelom obchádzania slobodnej vôle užívateľov.
• Vysoko-rizikové AI systémy sa delia podľa oblasti aplikácie a budú podliehať striktným pravidlám a požiadavkám predtým ako sa môžu dostať na trh. Ide o AI systémy nasadzované napr. v rámci kritickej infraštruktúry, ale aj v procese vzdelávania, vymožiteľnosti práva či kontrole hraníc. Špecifickou kategóriou bude využívanie diaľkových biometrických identifikačných systémov.
• Systémy AI s limitovaným rizikom sa budú riadiť špecifickými požiadavkami na transparentnosť (napr. pri využívaní AI systémov ako sú chatboty, užívatelia by si mali byť vedomí, že sú v interakcii so strojov, aby sa mohli rozhodnúť na základe pravdivej informácie, či chcú v interakcii pokračovať alebo nie).
• Systémy AI, ktoré predstavujú minimálne riziko, pričom väčšina AI systémov spadá práve do tejto rizikovej kategórie, sa budú môcť voľne využívať a navrhovaná regulácia tu nebude zasahovať (napr. spamové filtre v elektronickej pošte), pričom Akt o umelej inteligencii navrhuje dobrovoľné pravidlá vychádzajúce z kódexov správania.  Pokiaľ ide o riadiacu štruktúru (governance), v rámci Aktu o umelej inteligencii  sa navrhuje, aby na nové pravidlá dohliadali národné kompetentné orgány dohľadu nad trhom, s jedným ústredným národným orgánom dohľadu. Vytvorí sa aj Európska rada pre umelú inteligenciu (European Artificial Intelligence Board), ktorej úlohou bude uľahčovať vykonávanie týchto pravidiel. Členské štáty EÚ budú zohrávať kľúčovú rolu pri dohľade a vynútiteľnosti nového regulačného rámca pre AI.

Margrethe Vestager, výkonná viceprezidentka pre Európu pre digitálny vek, uviedla: „Pokiaľ ide o umelú inteligenciu, dôvera je nevyhnutnosťou, nie peknou vlastnosťou. Vďaka týmto zásadným pravidlám stojí EÚ v čele vývoja nových globálnych noriem, aby sa zabezpečila dôveryhodnosť umelej inteligencie. Stanovením štandardov môžeme vydláždiť cestu k etickým technológiám na celom svete a zabezpečiť, aby EÚ zostala počas tejto doby konkurencieschopná. Naše pravidlá, zamerané na budúcnosť a podporu inovácií, zasiahnu tam, kde je to bezpodmienečne potrebné: keď ide o bezpečnosť a základné práva občanov EÚ.“

Komisár pre vnútorný trh Thierry Breton uviedol: „AI je prostriedok, nie cieľ. Existuje už celé desaťročia, ale dosiahla nové kapacity poháňané výpočtovým výkonom. To ponúka obrovský potenciál v tak rozmanitých oblastiach, ako sú zdravie, doprava, energetika, poľnohospodárstvo, cestovný ruch alebo kybernetická bezpečnosť. Predstavuje tiež množstvo rizík. Cieľom dnešných návrhov je posilniť pozíciu Európy ako globálneho centra excelentnosti v oblasti umelej inteligencie od laboratória po trh, zabezpečiť, aby umelá inteligencia v Európe rešpektovala naše hodnoty a pravidlá a využívať potenciál umelej inteligencie na priemyselné využitie.“

Podpredsedníčka vlády a ministerka Veronika Remišová v súvislosti s predloženým návrhom uviedla: „Európa vstupuje v rámci celosvetovej éry umelej inteligencie do podpory budovania dôveryhodnej a excelentnej umelej inteligencie, čoho neoddeliteľnou súčasťou je aj Slovenská republika. Naším cieľom je, aby nový regulačný rámec pre umelú inteligenciu zabezpečil využitie tejto technológie bezpečným, dôveryhodným, pre spoločnosť prospešným a najmä európskym spôsobom. V rámci našich prác sa zameriame na udržateľnosť ďalšieho vývoja, bezpečnosť a dodržiavania základných práv našich občanov pri využívaní tejto technológie s cieľom podporiť jej zodpovedný výskum, vývoj a nasadzovanie. Prvoradým v interakcii medzi strojom a ľuďmi je a vždy by mal byť človek, ktorého osobné, etické, kultúrne a spoločenské hodnoty musia byť rešpektované.“

Spoločne s legislatívnym návrhom Aktu o umelej inteligencii  Európska komisia zverejnila aj aktualizovaný Koordinovaný plán pre umelú inteligenciu, ktorého prvá verzia bola publikovaná v decembri 2018. Plán stanovuje opatrenia, ktoré majú za cieľ posilniť zavádzanie AI, investície a inováciu v rámci EÚ. Vzhľadom na dynamický vývoj AI technológií, ako aj vývoj EÚ v kontexte pandémie COVID-19 bola potrebná jeho aktualizácia, jeho základné kontúry však ostali zachované.

Viac informácií:

Plné znenie tlačovej správy EK spolu s odkazmi na predložené návrhy

Zdroj: MIRRI; EK, zverejnené: 27. 4. 2021, autor: rpa