AI drošība: kādus datus nedrīkst uzticēt mākslīgajam intelektam?

Ko nedrīkst ievadīt AI rīkos?

Publiski pieejamos modeļos nedrīkst ievadīt šādu kategoriju datus:

• personas datus – klientu, darbinieku vai savus vārdus, uzvārdus, adreses, personas kodus, tālruņa numurus un e-pasta adreses;
• medicīnisko dokumentāciju – slimības vēstures, izmeklējumu rezultātus un pacientu diagnozes, uz kurām attiecas stingras tiesību normas, piemēram, GDPR vai HIPAA;
• konfidenciālu uzņēmuma informāciju – nepublicētus finanšu pārskatus, mārketinga stratēģijas, klientu datubāzes, apvienošanās, pārņemšanas vai atlaišanas plānus;
• komercnoslēpumus – programmatūras pirmkodu, ražošanas receptūras, unikālus algoritmus un uzņēmuma iekšējo tehnisko dokumentāciju;
• paroles un piekļuves datus – API atslēgas, pieslēgšanās datus, autorizācijas tokenus, maksājumu karšu datus un šifrēšanas atslēgas;
• ar autortiesībām aizsargātus materiālus – pilnus grāmatu tekstus, maksas zinātniskos rakstus vai skriptus, kuru izmantošanai jums nav attiecīgas licences;
• nelikumīgu saturu – materiālus, kas veicina vardarbību vai naidu, un norādījumus darbībām, kas ir pretrunā piemērojamiem tiesību aktiem.

Kas notiek ar datiem, ko ievadāt mākslīgā intelekta rīkos?

Mākoņpakalpojumu sniedzējiem nosūtītie dati tiek apstrādāti un analizēti vairākos posmos. To izmantošana neaprobežojas tikai ar atbildes ģenerēšanu.

Modeļu apmācība

Standarta patērētājiem paredzētajos ģeneratīvā AI rīkos ievadītos datus nereti izmanto turpmākai modeļu apmācībai. Tas nozīmē, ka sniegtā informācija var ietekmēt neironu tīkla parametrus un teorētiski vēlāk parādīties atbildē citam lietotājam.

Manuāla pārbaude un moderēšana

Papildus automatizētai apstrādei AI sistēmās darbojas drošības filtri. Ja algoritms pieprasījumu atzīst par aizdomīgu, piemēram, par tādu, kas pārkāpj lietošanas noteikumus, sarunu var atzīmēt un nodot manuālai pārbaudei. Tas nozīmē, ka pakalpojuma sniedzēja darbinieki vai ārējie datu anotētāji var piekļūt ievadītajam saturam, lai uzlabotu moderēšanas mehānismus.

Datu glabāšana un rezerves kopijas

AI pakalpojumu sniedzēji glabā sarunu ierakstus savos serveros, lai nodrošinātu pakalpojuma nepārtrauktību, diagnosticētu kļūdas un saglabātu kontekstu turpmākajām sesijām. Svarīgi, ka tērzēšanas sarunas dzēšana lietotāja saskarnē reti nozīmē tūlītēju informācijas dzēšanu no serveriem. Dati noteiktu laiku var palikt pakalpojuma sniedzēja rezerves kopijās, palielinot konfidenciālas informācijas atklāšanas risku, ja notiek veiksmīgs kiberuzbrukums mākoņinfrastruktūrai.

Privātie un uzņēmumu konti: kā atšķiras datu aizsardzība?

Bezmaksas un maksas standarta privātajos kontos daudzi populāri pakalpojumi pēc noklusējuma var izmantot iesniegto informāciju modeļu apmācībai. Tāpēc konfidenciālu materiālu ievadīšana šādos kontos rada nekontrolētas informācijas izpaušanas risku.

Uzņēmumu un korporatīvajās vidēs (piemēram, Enterprise kontos vai pakalpojumos, kas izvietoti privātā mākoņvidē, izmantojot tādu piegādātāju kā Microsoft Azure, AWS vai Google Cloud API) aizsardzības prasības ir stingrākas. Pakalpojumu sniedzēji nodrošina atbilstību drošības standartiem un datu aizsardzības prasībām (ISO 27001, SOC 2, GDPR) un līgumos (SLA/DPA) norāda, ka klientu dati netiek izmantoti publiski pieejamo pamatmodeļu apmācībai. Šādās vidēs ievadāmo datu ierobežojumi var būt mazāk stingri, tomēr joprojām ir nepieciešama risku pārvaldības politika un piekļuves kontrole.

Ko var droši ievadīt AI rīkos?

Neraugoties uz ierobežojumiem, ir daudz informācijas, ko var ievadīt AI rīkos apstrādei. Piemēram:

• publiski pieejamus materiālus – brīvpieejas rakstus, emuāru ierakstus, publiskus tirgus pārskatus, tiesību aktus un tīmekļa vietņu saturu, piemēram, Vikipēdijas rakstus;
• nekonfidenciālu informāciju – vispārīgus norādījumus, jautājumus par teorētiskiem jēdzieniem, gramatikas un pareizrakstības noteikumus, matemātiskus vienādojumus vai vārdu nozīmes jautājumus;
• anonimizētus dokumentu fragmentus – vēstuļu veidnes, līgumu paraugus vai koda fragmentus, no kuriem pilnībā izņemti unikāli mainīgie, atslēgas, klientu nosaukumi un informācija par iekšējo arhitektūru;
• savus radošos tekstus – e-pastu uzmetumus, sociālo tīklu ierakstus, prezentāciju plānus vai rakstus, kuros nav sensitīvas uzņēmuma informācijas;
• atvērtās datu kopas – sintētiskus datus vai publisku repozitoriju statistiku, ko izmanto datu analīzes un formatēšanas apguvei.

Kā anonimizēt ziņojumus un datus pirms nosūtīšanas AI?

Identifikatoru aizstāšana un tokenizācija

Tokenizācijas procesā sensitīvus datus aizstāj ar mākslīgiem apzīmējumiem. Piemēram, vārdu „Jānis Bērziņš” var aizstāt ar marķieri „[Klients_1]”, bet uzņēmuma nosaukumu „SIA Piemērs” – ar „[Organizācija_A]”. Tādējādi valodas modelim saglabājas dokumenta struktūra, sintakse un konteksts, bet sākotnējo personu vai uzņēmumu nevar tieši identificēt.

Sensitīvas informācijas maskēšana

Maskēšana nozīmē kritiski svarīgu rakstzīmju virkņu paslēpšanu, parasti aizstājot tās ar speciālajām rakstzīmēm (piemēram, kartes numurs 4532 **** **** ****). Efektīva ir arī datu vispārināšana: precīzas vērtības vietā (piemēram, alga 1800 EUR) norāda intervālu (piemēram, „alga 1500–2000 EUR robežās”). Tas samazina atkārtotas identificēšanas risku.

Procesa automatizācija ar DLP un RegEx rīkiem

Garos tekstos, manuāli dzēšot informāciju, kaut ko ir viegli nepamanīt. Profesionālā vidē izmanto uz regulārajām izteiksmēm (RegEx) balstītus skriptus vai DLP (Data Loss Prevention) sistēmas. Šie rīki var automātiski pārbaudīt uzvedni pirms tās nosūtīšanas, atpazīstot un bloķējot vai aizstājot rakstzīmju virknes, kas atbilst personas kodu, nodokļu maksātāju reģistrācijas numuru, e-pasta adrešu vai bankas kontu numuru formātiem.

Kā liegt AI rīkiem izmantot jūsu datus modeļu apmācībai?

Arī paša rīka iestatījumi palīdz mazināt risku, kas saistīts ar informācijas ievadīšanu AI. Lielākā daļa pakalpojumu sniedzēju piedāvā iespēju atteikties no satura izmantošanas modeļu apmācībai.

• ChatGPT (OpenAI) – konta iestatījumos „Settings” sadaļā „Data controls” atrodama opcija „Improve the model for everyone”. To izslēdzot, ievadītie teksti vairs netiek izmantoti modeļa apmācībai. Pašreizējā saskarnes versijā tas neizdzēš lietotājam redzamās sarunas – tērzēšanas vēsture saglabājas. Neatkarīgi no šī iestatījuma OpenAI drošības un ļaunprātīgas izmantošanas uzraudzības nolūkos vēl 30 dienas glabā žurnālierakstus savos serveros, pirms tos neatgriezeniski dzēš.
• Gemini (Google) – privātuma iestatījumos jāizslēdz „Gemini Apps Activity”. Tad jaunās sarunas netiek saglabātas Google kontā un izmantotas modeļu apmācībai. Tomēr šīs izmaiņas neizdzēš žurnālierakstus no pakalpojuma sniedzēja infrastruktūras – pakalpojuma drošības nodrošināšanai Google tos glabā līdz 72 stundām.
• Claude (Anthropic) – bezmaksas un standarta patērētāju versijās pašlaik pēc noklusējuma ievadītos datus izmanto algoritmu uzlabošanai. Tā ir būtiska pārmaiņa salīdzinājumā ar uzņēmuma darbības sākumposmu, kad Anthropic uzsvēra, ka neizmanto lietotāju sarunas modeļu apmācībai. Lai šo iespēju izslēgtu, konta iestatījumu privātuma sadaļā jādeaktivizē datu kopīgošanas opcija „Help improve Claude”.

Ņemiet vērā, ka privātuma iestatījumu maiņa un atteikšanās no datu izmantošanas apmācībai attiecas tikai uz turpmāk ievadīto informāciju. Dati, kas nosūtīti pirms šo izmaiņu veikšanas un jau izmantoti modeļa apmācībā, no neironu tīkla struktūras netiek izņemti.