Politická dohoda na akte o umelej inteligencii (AIA) medzi členskými štátmi EÚ vznikala v decembri minulého roka rekordne dlho – na trojdňovom nepretržitom vyjednávacom kole. Uplynulý týždeň sa na tomto poli zrodil ďalší úspech. Členské štáty totižto dosiahli dohodu na finálnom znení tohto legislatívneho materiálu. V najbližších mesiacoch bude AIA ešte predmetom oficiálneho schvaľovania v Rade EÚ aj Európskom parlamente.
Tento akt vytvorí v EÚ komplexný regulačný rámec vývoja, nasadenia a používania umelej inteligencie (AI). Jeho hlavným cieľom je zabezpečiť, aby AI systémy boli dôveryhodné, etické a v súlade so základnými právami a hodnotami. Štátny tajomník ministerstva investícií, regionálneho rozvoja a informatizácie SR Ivan Ivančin v súvislosti s dosiahnutím dohody na finálnom znení AIA uviedol: „Som potešený, že Európska únia našla zhodu na akte o umelej inteligencii, ktorý predstavuje dôležitý míľnik pre rozvoj umelej inteligencie na Slovensku. Tento právny rámec posilňuje dôveru a transparentnosť v oblasti umelej inteligencie, a zároveň v najväčšej miere zohľadňuje naše špecifické potreby a záujmy. Verím, že akt o umelej inteligencii nám otvorí dvere k novým príležitostiam a inováciám, posilňujúc pozíciu našej digitálnej ekonomiky v európskom, ale aj celosvetovom meradle. Pre dosiahnutie tohto cieľa je však nevyhnutné vytvoriť transparentný rámec pre vysoko profesionálne domáce inštitúcie dohľadu a kontrolovaného testovania i experimentovania. Taktiež je potrebné podporiť výrazný nárast investícií z oblasti súkromného, ako aj verejného sektora.“
Vo všeobecnosti AIA predstavuje stanovenie záväzných pravidiel a požiadaviek pre AI systémy, akými sú napríklad vysoko rizikové AI systémy používané v kritických infraštruktúrach, zdravotníctve, doprave a orgánmi činnými v trestnom konaní. Tieto druhy AI systémov budú podliehať prísnejším požiadavkám. Niektoré typy použití AI ako napr. biometrická kategorizácia, vzdialená biometrická identifikácia v reálnom čase, využitie kamerových systémov pri rozširovaní databáz tvárí, či rozpoznávanie emócií, budú dokonca úplne zakázané. Tieto zákazy by sa mali týkať praktík, ktoré majú potenciál manipulovať s ľuďmi prostredníctvom podprahových techník alebo zneužívať zraniteľné miesta určitých skupín, ako sú napríklad deti, s cieľom poškodiť ich fyzické alebo psychické zdravie.
„Okrem toho sa zavádzajú požiadavky na transparentnosť pre generatívne systémy umelej inteligencie, ktoré vytvárajú obsah alebo interagujú s ľuďmi, ako je napríklad ChatGPT. Tieto požiadavky majú zabezpečiť to, aby bolo jasné, že obsah bol vygenerovaný AI a poskytnúť záruky proti generovaniu nelegálneho obsahu,“ dodal štátny tajomník Ivan Ivančin.
Týmito opatreniami sa má zabrániť aj tomu, aby AI systémy nemohli byť použité pri rozhodovaní o prijatí do zamestnania alebo hodnotení žiadostí o štúdium a tak neoprávnene diskriminovali ľudí na základe rasovej, etnickej, rodovej alebo iných charakteristík.
Vzhľadom na rýchle tempo technologického pokroku v umelej inteligencii boli vyjednávania medzi Radou EÚ a Európskym parlamentom na AIA mimoriadnou výzvou. Po schválení AIA, ktoré sa očakáva ešte pred voľbami do Európskeho parlamentu v júni tohto roku, bude čakať členské štáty EÚ, vrátane Slovenska dôležitá úloha zabezpečiť jeho implementáciu, čo zahŕňa nie len regulačné úlohy, ale ráta sa aj s podporou inovácií prostredníctvom zriadenia experimentálnych vývojových prostredí, tzv. sandboxov.
Niektoré ustanovenia AIA chrániace pred zakázanými použitiami AI systémov vstúpia pritom do účinnosti, už šesť mesiacov od jeho oficiálneho zverejnenia. Zvyšné ustanovenia AIA začnú platiť po dvanástich (pravidlá pre modely so všeobecným účelom), prípadne dvadsiatich štyroch mesiacoch od zverejnenia.
