Varnost AI
Orodja umetne inteligence se v organizacije pogosto uvedejo, preden kdo določi pravila. Pomagam odgovoriti na ključna vprašanja: kateri podatki smejo v orodja, kdo ima dostop, kdo odgovarja za rezultate in kako to nadzirati.
Dogovorimo se za pogovorZa koga je storitev
- Organizacije, kjer zaposleni že uporabljajo orodja AI brez dogovorjenih pravil.
- Organizacije, ki uvajajo AI v procese ali ga povezujejo z internimi podatki.
- Vodstva in IT, ki želijo preudarno omogočiti uporabo AI.
Katere težave rešuje
- Zaposleni vnašajo poslovne ali osebne podatke v javna orodja.
- Ni jasno, kdo odobri novo orodje ali integracijo.
- Povezave AI z internimi sistemi imajo preširoke dostope.
- Odgovornost za rezultate in odločitve, ki jih podpira AI, ni določena.
Kaj storitev lahko vključuje
- Pregled uporabe AI v organizaciji, vključno z neformalno uporabo.
- Pravila uporabe: dovoljena in nedovoljena orodja ter vrste podatkov.
- Pregled dostopov in integracij, ki jih orodja AI imajo.
- Ocena tveganj posameznih uporab: zaupnost podatkov, točnost, odvisnost od ponudnika.
- Opredelitev vlog, odobritvenega postopka in odgovornosti.
- Predlog nadzora in spremljanja uporabe.
- Vsebina za osveščanje zaposlenih.
Kako poteka sodelovanje
Pregled uporabe
Ugotovimo, katera orodja se uporabljajo, za kaj in s kakšnimi podatki.
Ocena tveganj
Posamezne uporabe ocenimo glede podatkov, dostopov in posledic napak.
Pravila in odgovornosti
Pripravimo razumljiva pravila uporabe, postopek odobritve in razdelitev vlog.
Uvedba in nadzor
Pravila predstavimo zaposlenim in določimo način spremljanja ter rednega pregleda.
Kaj prejmete
- Pregled uporabe AI in ocena tveganj.
- Osnutek pravil uporabe orodij AI.
- Predlog postopka odobritve orodij in integracij.
- Priporočila za nadzor dostopov in podatkov.
Od česa je odvisen obseg
Natančen obseg in zaporedje dela dogovoriva po uvodnem pogovoru. Odvisen je predvsem od:
- Število in vrsta orodij ter integracij.
- Občutljivost podatkov, ki jih orodja obdelujejo.
- Ali se AI uporablja samo interno ali tudi v izdelkih in storitvah za stranke.
- Obseg osveščanja zaposlenih.
Storitev je strokovno svetovanje o varnosti in upravljanju. Ni pravno mnenje in ne vključuje certificiranja. Za izhodišča lahko služijo uveljavljeni okviri, na primer ISO/IEC 42001 in NIST AI RMF.
Regulativne zahteve v zvezi z AI je treba preverjati v aktualnih uradnih virih.
Pogosta vprašanja
Ali je treba uporabo AI prepovedati?
Ne nujno. Pogosto je boljša izbira, da organizacija določi, kaj je dovoljeno, s katerimi podatki in v katerih orodjih, in to tudi nadzira.
Katerih podatkov ne bi smeli vnašati v orodja AI?
To je odvisno od klasifikacije podatkov v organizaciji. Običajno so občutljivi osebni podatki, poslovne skrivnosti in poverilnice.
Kdo odgovarja za vsebino, ki jo ustvari AI?
Odgovornost za uporabo ostane pri organizaciji. Zato so pomembni pregled rezultatov, jasne vloge in pravila.
Ali storitev zagotavlja skladnost z evropsko uredbo o umetni inteligenci?
Ne. Storitev je svetovanje o varnosti in upravljanju, ne pravno mnenje. Zahteve je treba preveriti v aktualnih uradnih virih.
Potrebujete jasnejši pogled na varnost?
Predstavite svoj izziv. Skupaj lahko opredelimo smiselne naslednje korake.
Pošljite povpraševanje