Vplyv smernice NIS 2 na umelú inteligenciu (AI)

Európska smernica NIS 2 (Network and Information Security Directive 2), ktorá nadobudla účinnosť v roku 2023, predstavuje významný krok v posilnení kybernetickej bezpečnosti v členských štátoch Európskej únie. Do právneho poriadku Slovenskej republiky bola transponovaná novelizáciou zákona o kybernetickej bezpečnosti, ktorá je účinná od 1.1.2025. Táto legislatíva má zásadný vplyv na mnohé odvetvia vrátane technológií poháňaných umelou inteligenciou (AI). Zameriava sa na ochranu kritických informačných systémov a infraštruktúry, pričom AI zohráva dvojakú úlohu: ako nástroj, ktorý môže zvýšiť bezpečnosť, a ako technológia, ktorá sama o sebe potrebuje robustnú ochranu.

Hlavné ciele smernice NIS 2

Smernica NIS 2 rozširuje požiadavky na kybernetickú bezpečnosť pre širšiu škálu sektorov a subjektov. Jej hlavné ciele zahŕňajú:

1. Zlepšenie odolnosti kritickej infraštruktúry: Posilnenie schopnosti systémov čeliť kybernetickým hrozbám.
2. Zvýšenie spolupráce medzi členskými štátmi EÚ: Efektívnejšia výmena informácií o hrozbách a incidentoch.
3. Zavedenie povinných opatrení kybernetickej bezpečnosti: Tieto opatrenia zahŕňajú posudzovanie rizík, bezpečnostné audity a nápravu zistených slabých miest.

Vplyv smernice NIS 2 na umelú inteligenciu

1. Zvýšené požiadavky na zabezpečenie AI systémov

Smernica NIS 2 zaväzuje poskytovateľov a prevádzkovateľov AI riešení, ktoré sú prepojené s kritickou infraštruktúrou alebo slúžia ako podpora služieb v kľúčových sektoroch, aby zabezpečili svoje systémy proti kybernetickým hrozbám. To znamená:

• Implementáciu silnej ochrany údajov, ktoré AI spracováva.
• Zabezpečenie algoritmov pred manipuláciou (napr. pred škodlivým tréningom modelov tzv. data poisoning).
• Zavedenie systémov detekcie anomálií, ktoré dokážu identifikovať pokusy o narušenie integrity AI.

2. Dôraz na transparentnosť a zodpovednosť

Prevádzkovatelia AI systémov budú musieť preukázať, že ich riešenia spĺňajú požiadavky kybernetickej bezpečnosti:

• Poskytovanie auditovateľných záznamov o spracovaní údajov.
• Dokumentácia rizík spojených s používaním AI a ich mitigácia.
• Preukázanie zhody s pravidlami smernice prostredníctvom pravidelných kontrol a správ.

3. Ochrana pred kybernetickými útokmi zameranými na AI

AI systémy sa stávajú častým cieľom kybernetických útokov, či už ide o:

• Útoky na modely strojového učenia, ktorých cieľom je zníženie ich presnosti.
• Manipuláciu s údajmi, ktoré sa používajú na tréning alebo predikciu. Smernica NIS 2 povzbudzuje organizácie k implementácii bezpečnostných opatrení, ako je šifrovanie, bezpečné tréningové prostredie a ochrana pred neautorizovaným prístupom.

4. Posilnenie spolupráce v oblasti AI bezpečnosti

AI vývojári a prevádzkovatelia budú musieť úzko spolupracovať s regulačnými orgánmi a inými subjektmi v EÚ na zdieľaní informácií o bezpečnostných hrozbách. Táto spolupráca môže zahŕňať:

• Výmenu informácií o kybernetických incidentoch.
• Zdieľanie najlepších bezpečnostných postupov pre AI.

5. Dopad na subjekty mimo EÚ

Smernica NIS 2 má extrateritoriálny dosah, čo znamená, že sa môže vzťahovať aj na subjekty mimo EÚ, ak poskytujú služby alebo produkty relevantné pre členské štáty. To prináša globálnym AI spoločnostiam povinnosť dodržiavať pravidlá EÚ kybernetickej bezpečnosti.

Výhody implementácie NIS 2 pre AI

• Zvýšenie dôvery používateľov: AI systémy s implementovanými bezpečnostnými opatreniami budú vnímané ako spoľahlivejšie.
• Zníženie rizík spojených s kybernetickými útokmi: Lepšia ochrana údajov a algoritmov zabezpečí ich správne fungovanie.
• Lepšia regulácia AI v kritických oblastiach: Smernica pomáha definovať štandardy pre bezpečné využívanie AI.

Výzvy pri zavádzaní NIS 2 v AI sektore

1. Náklady na implementáciu: Zabezpečenie AI systémov môže byť finančne a technicky náročné, najmä pre menšie spoločnosti.
2. Komplexnosť regulácií: Smernica NIS 2 musí byť koordinovaná s ďalšími legislatívnymi požiadavkami, ako je GDPR alebo pripravovaný zákon o umelej inteligencii (AI Act).
3. Rýchly vývoj AI technológií: Rámec NIS 2 musí reagovať na dynamické zmeny a nové hrozby v oblasti AI.

Smernica NIS 2 prináša zásadné zmeny v oblasti kybernetickej bezpečnosti a výrazne ovplyvňuje sektor umelej inteligencie. Hoci zavedenie požiadaviek smernice môže byť náročné, posilnenie bezpečnostných opatrení zabezpečí vyššiu ochranu AI systémov a zvýši dôveru verejnosti v ich používanie. Pre subjekty pracujúce s AI je dôležité začať čo najskôr s implementáciou opatrení vyžadovaných NIS 2, aby sa vyhli rizikám nezhody a potenciálnym sankciám.

Umelá inteligencia bude zohrávať kľúčovú úlohu nielen ako nástroj ochrany, ale aj ako technológia, ktorá potrebuje robustné bezpečnostné mechanizmy na svoju ochranu.