Küsimus ei ole selles, kas agent saab isikukoodi. Küsimus on selles, kuidas vältida olukorda, kus inimesed peavad oma digitaalse identiteedi tervikuna üle andma tarkvarale, mille tegevust nad lõpuni ei kontrolli.
Tegelik probleem on juba olemas
AI-agentidest räägitakse sageli tulevikuvormis, kuid tegelikult kasutatakse neid juba täna. Üha rohkem inimesi katsetab lahendusi, mis loevad e-kirju, täidavad vorme, teevad broneeringuid või koguvad erinevatest süsteemidest infot. Selleks tuleb agendile anda ligipääs erinevatele teenustele. Praegu tähendab see seda, et agent logib sisse inimese enda kontoga ja kasutab samu õigusi, mis inimesel seal on. Ja siin tekibki probleem.
Kui agent autentitakse minu nimel mõnda teenusesse, pärib ta tavaliselt kõik selle kasutaja õigused. Kui tema ülesanne on näiteks kontrollida ühte teadet või koguda ühte konkreetset andmevälja, ei tähenda see, et tal oleks vaja ligipääsu kogu ülejäänud infole ja funktsionaalsusele. Just siin tekibki vajadus eraldi volituste ja piiratud õigustega agentide järele.
Küberturbe vaates ei ole see jätkusuutlik
Agent on lihtsalt tarkvara. Aruteludes kipub vahel kaduma üks oluline detail. AI-agent ei ole maagiline digitaalne abiline, vaid see on tarkvaraprogramm. Nagu iga tarkvaraprogramm võib ta sisaldada vigu, turvanõrkusi või pahatahtlikku koodi. Tehisintellekti programmide puhul ei ole nende käitumine sajaprotsendiliselt lõpuni ennustatav, kuna need baseeruvad ennustusmudelitel.
Esialgu loovad inimesed agente enda tarbeks, kuid üsna pea hakkame kasutama teiste loodud agente, mille päritolu, turbetase ja tegelik käitumine ei pruugi olla meile teada. Küberturbe spetsialistina näen siin väga sarnast riski sellele, mida oleme näinud pahavara või õngitsuskampaaniate puhul ehk mida rohkem õigusi programmile anname, seda suurem on võimalik kahju.
Smart-ID kogemus näitab, kuhu see võib viia
Eestis oleme juba näinud, kuidas petturid suudavad inimesi manipuleerida looma uusi Smart-ID identiteete, mis satuvad lõpuks kurjategijate kontrolli alla. Kui tulevikus muutub tavapäraseks agentide loomine inimese nimel tegutsemiseks, tekib sarnane risk, et kelmid võivad hakata inimesi veenma looma agente, mille tegelik kontroll jääb kellelegi teisele.
Kui sellisel agendil on automaatselt kõik omaniku õigused, muutub pettus väga võimsaks, mistõttu ei tohiks ühegi inimese nimel tegutseval agendil olla vaikimisi mingeid õigusi.
Mida meil tegelikult vaja on? Ma ei usu, et vajame agentidele isikukoodi samas tähenduses nagu inimestele. Vajame hoopis digitaalset identiteeti, mis võimaldab eristada inimese enda tegevust tema nimel tegutseva tarkvara tegevusest. Selle juures on minu hinnangul neli olulist põhimõtet.
1. Igal agendil peab olema oma identiteet ja ainult vajalikud õigused
Kui mul on üks agent, kes broneerib reise, teine, kes aitab raamatupidamises ja kolmas, kes haldab kalendrit, siis ei tohiks nad kõik tegutseda ühe ja sama identiteedi all.
Igal agendil peaks olema oma identiteet ning ainult need õigused, mida ta oma konkreetse ülesande täitmiseks vajab. Kui agent peab minu eest kontrollima ühte teenust või tegema ühe kindla toimingu, ei tohiks ta automaatselt saada ligipääsu kõigele muule.
Küberturbes nimetatakse seda vähimate õiguste põhimõtteks. Sama põhimõtet kasutame ettevõtetes töötajatele õiguste andmisel ning sama peaks kehtima ka agentidele.
Eraldi identiteet võimaldab anda igale agendile täpselt vajalikud õigused, neid vajadusel kiiresti eemaldada ning hiljem ka aru saada, milline agent mingi toimingu tegi. Kui kõik tegevused toimuvad ühe universaalse AI-identiteedi alt, muutub nii vastutuse kui ka turvalisuse tagamine oluliselt keerulisemaks.
2. Volitused peavad olema piiratud ja tühistatavad
Kui annan agendile ligipääsu mõne ülesande täitmiseks, peab see olema lubatud tegevuste ja piiratud. Ühekordne ülesanne ei vaja eluaegset volitust. Samuti peab mul olema võimalik volitus igal hetkel tagasi võtta.
3. Inimesel peab olema täielik ülevaade
Kui minu nimel tegutseb kümme erinevat agenti, pean ma nägema:
millised agendid on loodud;
millised õigused neil on;
milliseid toiminguid nad on teinud;
Kõik agendid ei ole võrdselt usaldusväärsed
Sellest on seni vähe räägitud, kuid sama oluline küsimus on see, keda me üldse lubame inimese või organisatsiooni nimel tegutsema.
Mis puudutab agentide identifitseerimist ja nende identiteedi tõendamist, siis ei peaks me jalgratast leiutama. On oluline, et Eestis loodavad lahendused sobituksid olemasolevasse rahvusvahelisse agentide ökosüsteemi ning kasutaksid võimalikult palju juba väljakujunenud standardeid ja praktikaid.
Samas ei piisa ainult sellest, et agent suudab oma identiteeti tõendada. Agentidele õiguste andmisel peame mõistma ka nende turbesuutlikkust, päritolu ja vastutusahelat. Kes on selle agendi või selle toimimise aluseks oleva keelemudeli loonud? Kuidas tema identiteeti kaitstakse? Kas tema tegevust on võimalik auditeerida? Kas tema käitumise eest vastutab mõni ettevõte või organisatsioon?
Tõenäoliselt ei soovi me anda ligipääsu Eesti riigi infosüsteemidele või tundlikele andmetele tarkvarale, mille päritolu ja turvalisus on teadmata. Nagu me hindame täna tarkvara tootjaid, pilveteenuseid ja seadmete valmistajaid, peame tulevikus õppima hindama ka agente. Agent on oma olemuslikult tarkvara programm, mis on seotud suuremate riskidega.
Õnneks ei pea me Eestis kõike nullist leiutama
Meil on olemas Andmejälgija ning riiklik volituste süsteem Pääsuke, mis näitavad, et läbipaistva ja jälgitava digitaalse identiteedi loomine ei ole meie jaoks uus teema. Agentidele eraldi identiteedi loomine ei ole tehnoloogiaettevõtete kapriis ega poliitiline loosung. See on vastus väga praktilisele probleemile. Alternatiiv on olukord, kus inimesed hakkavad oma kasutajakontosid ja autentitud sessioone üha rohkem tarkvarale üle andma. See oleks küberturbe vaates palju ohtlikum tee.
Samas ei piirdu digitaalne identiteet ainult küsimusega, kuidas agent ennast tuvastab või milliseid õigusi talle antakse. Eesti elektroonilise identiteedi puhul oleme harjunud eristama kahte olulist toimingut: autentimist, mida seostame PIN1 kasutamisega, ning tahteavalduse kinnitamist ehk allkirjastamist, mida seostame PIN2 kasutamisega.
Ka agentide puhul tuleb neid kahte asja käsitleda eraldi. Agent võib koguda andmeid, täita vorme, valmistada ette tuludeklaratsiooni, statistikaaruande või mõne muu toimingu, kuid lõplik kinnitamine peaks jääma inimese teha. Olemuslikult ei saa agent ise vastutust võtta ega tahet omada. Vastutus peab jääma inimesele või organisatsioonile, kelle nimel tegutsetakse.
Me ei peaks täna vaidlema selle üle, kas agent vajab isikukoodi. Palju olulisem küsimus on, kuidas tagada, et agent saaks teha ainult seda, milleks inimene on talle loa andnud, ning et lõplik kontroll ja vastutus jääksid alati inimese kätte.
Fotol: teksti autor Urmo Keskel, Phishbite’i kaasasutaja