Prieš pateikdami DI sistemą rinkai ar pradėdami ją naudoti, įsitikinkite:
✔ Ar jūsų sprendimas laikomas DI sistema?
✔ Kokia jo rizikos kategorija?
✔ Kokį vaidmenį atliekate?
-
tiekėjas;
-
diegėjas;
-
importuotojas;
-
platintojas.
✔ Kokie reikalavimai taikomi jūsų sistemai?
Norint pateikti didelės rizikos DI sistemą rinkai, paprastai reikia:
Techninė dokumentacija: turi būti parengtas išsamus dokumentų rinkinys, kuris įrodo, kad DI sistema buvo sukurta pagal teisės aktų nustatytus principus, įskaitant rizikos valdymą, duomenų kokybę ir žmogaus priežiūrą. Ši dokumentacija taip pat leidžia priežiūros institucijoms atlikti ex-post. Techninėje dokumentacijoje (pagal DI akto IV priedą) turi būti detaliai aprašytos DI sistemos funkcijos, architektūra, panaudoti metodai, naudojimo paskirtis bei taikymo kontekstas. Nors DI akte nėra numatyta pareiga formaliai matuoti darbuotojų DI žinias, vis dėlto organizacijos privalo įvertinti jų technines žinias, patirtį, išsilavinimą ir mokymą, siekdamos užtikrinti pakankamą DI raštingumo lygį. Reikalingas lankstus, prie konteksto pritaikytas požiūris – organizacijos pačios turi spręsti, kokios formos mokymai yra tinkamiausi. Įmonėms siūloma pritaikyti įvairias DI raštingumo stiprinimo formas, įskaitant vidinius mokymus, internetinius kursus, atvejų analizę ar praktinius seminarus. Tačiau tik pasikliovimas naudotojo instrukcija nelaikomas pakankamu. Ypač diegiant didelės rizikos DI sistemas, būtina užtikrinti, kad atsakingi darbuotojai būtų tinkamai apmokyti vykdyti priežiūrą ir rizikų valdymą.
Rizikos valdymo sistema: turi būti sukurta procedūra, identifikuojanti, vertinanti ir valdanti galimus pavojus visame DI sistemos gyvavimo cikle – nuo projektavimo iki naudojimo nutraukimo. Tai apima ir incidentų valdymo mechanizmus. Į dokumentus įtraukiami:
- rizikų identifikavimo metodai;
- vertinimo kriterijai;
- rizikų mažinimo priemonės;
- veiksmų planai kilus incidentams ar pažeidimams. Tai užtikrina, kad bet kokios potencialios grėsmės (pvz., netikslūs rezultatai, diskriminacija, duomenų nutekėjimas) būtų iš anksto numatytos ir tinkamai valdomos.
Duomenų kokybė: mokymui, testavimui ir veikimui naudojami duomenys turi būti tikslūs, atnaujinti, įvairūs (nešališki), tinkami paskirčiai. Netinkami arba šališki duomenys gali lemti diskriminacinius rezultatus. Todėl DI sistemų tiekėjai dokumentuose privalo detalizuoti, kokie duomenys buvo naudojami DI sistemos mokymui, testavimui ir validacijai. Taip pat aprašomi metodai, kaip buvo užtikrintas duomenų tinkamumas, įvairovė, balansas bei apsauga nuo šališkumo. Privaloma pateikti informaciją apie:
- duomenų šaltinius;
- išankstinio apdorojimo veiksmus;
- kokybės tikrinimo procedūras;
- metodus, naudojamus rezultatų tikslumui vertinti.
DI aktas įtvirtina principą, kad žmogus turi išlikti atsakingas už sprendimus, todėl:
- Žmogaus kontrolė: DI sistemos turi turėti įdiegtus mechanizmus, leidžiančius žmogui prižiūrėti jų veikimą. Pavyzdžiui, naudotojas turi turėti galimybę peržiūrėti, patvirtinti ar atmesti automatizuotą sprendimą, ypač jei jis turi reikšmingų pasekmių (pvz., nepriėmimas į darbą ar atsisakymas suteikti paskolą).
- Profesionalių naudotojų informavimas: tiekėjai turi parengti vartotojui suprantamą naudojimo vadovą, kuris paaiškintų, kaip naudoti DI sistemą saugiai ir tinkamai. Vadove turi būti aprašyta:
- kaip DI sistema priima sprendimus (paaiškinamas jos veikimo principas);
- kokie yra jos veikimo apribojimai;
- kokia yra naudotojo atsakomybė;
- kaip tinkamai įsikišti, jei DI sistema veikia netinkamai.
- Visuomenės ar galutinių naudotojų informavimas (DI akto 50 str.): DI aktas numato aiškius reikalavimus dėl skaidrumo, kai DI sistemos sąveikauja su žmonėmis, ypač kai sprendimai turi įtakos asmenų teisėms, galimybėms ar apsisprendimui. Ekonominės veiklos vykdytojai, tiekiantys ar diegiantys DI sistemas, turi užtikrinti, kad naudotojai būtų tinkamai informuoti, o vartotojų teisės – apsaugotos. Taip užtikrinama, kad galutiniai naudotojai būtų apsaugoti nuo manipuliacijų ar klaidinimo. Ši nuostata skirta stiprinti visuomenės pasitikėjimą DI technologijomis ir išvengti klaidinančių praktikų.
Kad DI sistema galėtų būti teisėtai naudojama ES rinkoje, būtina atlikti vieną iš šių atitikties vertinimo procedūrų:
- Vidinis atitikties vertinimas: daugeliu atvejų tiekėjas gali pats atlikti vertinimą, jei tai leidžia DI aktas, ir įsitikinti, kad sistema atitinka nustatytus reikalavimus. Tai taikoma didelės rizikos DI sistemoms, naudojamoms srityse, kurios nurodytos DI akto III priedo 2-8 punktuose (kai kuriais atvejais ir to paties priedo 1 punkte nurodytos DI sistemos).
- Vertinimas per notifikuotąją įstaigą: tam tikrais atvejais (pvz., kai DI sistema yra kaip saugos komponentas), būtina kreiptis į nepriklausomą notifikuotąją įstaigą, kuri atlieka oficialų vertinimą.
ES atitikties deklaracija: po vertinimo tiekėjas privalo parengti ES atitikties deklaraciją (DI akto 47 str.), kurioje patvirtinama, kad DI sistema atitinka visus reikalavimus.
Tik turėdama CE ženklą, DI sistema gali būti pateikta į ES rinką.
Kada reikia registruoti DI sistemą?
Pagal DI aktą tam tikros didelės rizikos DI sistemos turi būti registruojamos ES didelės rizikos DI sistemų duomenų bazėje prieš jas pateikiant rinkai arba pradedant naudoti, jei tokia pareiga taikoma.
Kas registruoja?
Registraciją atlieka DI sistemos tiekėjas, o tam tikrais DI akte nustatytais atvejais – diegėjas.
Kodėl registracija reikalinga?
Registracija padeda:
-
užtikrinti didesnį skaidrumą;
-
sudaryti galimybę rinkos priežiūros institucijoms vykdyti priežiūrą;
-
kaupti informaciją apie ES naudojamas didelės rizikos DI sistemas.
Kada reikia pranešti?
Jeigu DI sistema sukėlė arba galėjo sukelti:
-
žmogaus mirtį;
-
rimtą žalą sveikatai;
-
didelę žalą pagrindinėms teisėms;
-
didelę žalą turtui arba aplinkai;
-
kitą rimtą incidentą, numatytą DI akte.
Ką reikia padaryti?
- Pranešti rinkos priežiūros institucijai.
- Atlikti vidinį tyrimą.
- Numatyti korekcinius veiksmus.
- Prireikus pateikti papildomą informaciją.
Kas yra DI raštingumas?
DI raštingumas – tai darbuotojų ir kitų su DI sistemomis dirbančių asmenų žinios bei gebėjimai saugiai ir atsakingai naudoti dirbtinį intelektą.
Ką turėtų padaryti organizacija?
✔ įvertinti darbuotojų poreikius;
✔ organizuoti mokymus;
✔ užtikrinti, kad darbuotojai suprastų naudojamas DI sistemas;
✔ periodiškai atnaujinti žinias.
Kam taikoma?
Ne tik IT specialistams. DI raštingumas svarbus ir vadovams, personalo specialistams, klientų aptarnavimo darbuotojams, visiems, kurie naudoja DI savo darbe.
Kodėl tai svarbu?
Tinkamas DI raštingumas padeda:
-
mažinti rizikas;
-
užtikrinti teisės aktų laikymąsi;
-
priimti pagrįstus sprendimus;
-
didinti pasitikėjimą DI sistemomis.