Raksts tapis sadarbībā ar ESET.
Mākslīgā intelekta čati daudziem kļuvuši par ikdienas palīgiem: tajos lūdz pārbaudīt līgumus, apkopot sapulču pierakstus, uzrakstīt atbildes klientiem vai izanalizēt dokumentus. Taču līdz ar ērtībām rodas jautājums, kuru lietotāji bieži sev neuzdod: kas notiek ar informāciju pēc tam, kad tā ir ievadīta čatā?
Nesen atklāts incidents ar OpenAI mākslīgā intelekta aģentiem parāda, ka MI drošības robežas var būt sarežģītākas, nekā šķiet. Tas nav stāsts par lietotāju sarakstes noplūdi, tomēr tas ir nopietns atgādinājums — autonomas sistēmas var rīkoties neparedzēti, bet cilvēku ievadītie dati var kļūt par vērtīgu mērķi, ja netiek ievērota elementāra digitālā piesardzība.
Vācu vietnē atklāj vairāk nekā 15 000 MI aģentu veiktu labojumu
Kā 4. septembrī ziņoja Reuters, 2026. gada maijā eksperimentāli OpenAI aģenti nonāca ārpus tiem paredzētās testēšanas vides un sāka izmantot vācu programmētāju vietni DseWiki kā savstarpējas saziņas platformu.
Pētnieki Sidnija fon Arksa un Kormaks Sleids Bērds vietnē konstatēja vairāk nekā 15 000 labojumu. Tajos aģenti apmainījušies ar paņēmieniem, kā apiet ierobežojumus, vienkāršot tiem uzticēto uzdevumu izpildi un slēpt savas darbības. Kad vietnes moderators sāka dzēst izveidotās lapas, aģenti veidoja rezerves kopijas citās sadaļās.
OpenAI norādīja, ka uzņēmums nav saņēmis pētnieku pilno ziņojumu un pēc tā publicēšanas izvērtēs secinājumus. Uzņēmums arī apstrīdēja vērtējumu, ka visas konstatētās darbības būtu uzskatāmas par uzlaušanu. Tomēr incidents nonāca arī Eiropas Komisijas redzeslokā, kurai OpenAI vēlāk iesniedza ziņojumu par notikušo.
Ar to stāsts nebeidzās. Dažas dienas vēlāk Reuters vēstīja, ka līdzīgas neatļautas MI aģentu saziņas pēdas atrastas vēl vismaz desmit vietnēs. Pētnieku aprēķini atšķiras, un precīzs skarto vietņu skaits joprojām nav zināms.
Komentējot incidentu, ESET tehnoloģiju eksperts Egils Rupenheits norāda:
“Šis gadījums kārtējo reizi apliecina, ka OpenAI nav spējis paredzēt, cik tālu MI aģenti var aiziet, aktīvi meklējot tiešsaistes resursus, kas tiem palīdzētu izpildīt uzticētos uzdevumus. DseWiki incidents skaidri parāda, kāpēc nesenais lēmums palēnināt modeļu attīstību ir saprātīgs. Tomēr atsevišķos gadījumos kaitējums jau var būt nodarīts.
Pastāv liela iespēja, ka pēdējo mēnešu laikā MI aģenti ir kompromitējuši arī citas programmēšanas vietnes. Tā kā MI aģenti spēj veikt uzdevumus daudz plašākā mērogā nekā cilvēki, iespējams, pašlaik redzam tikai aisberga redzamo daļu.
Apdraudēta var būt jebkura programmēšanas vai MI platforma, kas aģentiem var palīdzēt risināt uzdevumus, tādēļ šo platformu uzturētājiem būtu rūpīgi jāpārbauda savas sistēmas, meklējot iespējamās neatļautas iejaukšanās pazīmes. Īpaši satraucoši ir tas, cik ilgi šādi incidenti var palikt nepamanīti. Tehnoloģiju uzņēmumiem, kuriem ir iespējas pašiem veikt izmeklēšanu, tā būtu jāsāk nekavējoties.”
Kāpēc tas attiecas arī uz parastu MI čata lietotāju?
DseWiki incidents nav pierādījums tam, ka būtu noplūdušas cilvēku privātās sarunas ar MI čatbotiem. Tomēr tas parāda, cik svarīga ir cilvēka kontrole, skaidri piekļuves ierobežojumi un pārskatāma rīcība ar datiem.
Bezmaksas MI pakalpojums automātiski nenozīmē, ka tas ir nedrošs. Risks rodas brīdī, kad ārējs rīks tiek uztverts kā uzņēmuma iekšējā vide un tajā bez izvērtēšanas ievada klientu datus, nepublicētus līgumus, finanšu informāciju, paroles, piekļuves kodus, pirmkodu, medicīniskus dokumentus vai konfidenciālu saraksti. Datu glabāšanas, izmantošanas un dzēšanas nosacījumi dažādiem pakalpojumiem var būtiski atšķirties.
Pirms sensitīvas informācijas ievadīšanas ir svarīgi noskaidrot, kas nodrošina konkrēto rīku, kur dati tiek apstrādāti, cik ilgi tie tiek saglabāti, vai tos iespējams izmantot sistēmas pilnveidošanai un kādas kontroles iespējas pieejamas lietotājam vai uzņēmuma administratoram.
E-pasta konts var kļūt par atslēgu uz pārējo digitālo dzīvi
Arī šķietami nevainīgs lūgums MI čatam sakārtot e-pasta saraksti var atklāt klientu vārdus, kontaktinformāciju, rēķinu datus, iekšējus lēmumus vai saites uz dokumentiem. Savukārt, ja uzbrucējs iegūst piekļuvi pašam e-pastam, sekas var izplatīties daudz tālāk par vienu kontu.
ESET kiberdrošības vietne WeLiveSecurity skaidro, ka e-pasta iesūtne faktiski darbojas kā cilvēka digitālās identitātes centrs. Tajā nonāk paroļu atjaunošanas saites, maksājumu informācija, privāta sarakste un darba dokumenti. Pārņemot e-pastu, noziedznieki var mēģināt atjaunot citu kontu paroles, uzdoties par upuri, izsūtīt krāpnieciskas vēstules viņa vārdā vai izmantot atrasto informāciju mērķētiem uzbrukumiem.
Tāpēc MI rīku un e-pasta drošību nevajadzētu skatīt atrauti. Ja vairākiem kontiem izmantota viena un tā pati parole, nav ieslēgta daudzfaktoru autentifikācija vai ierīcē darbojas informācijas zagšanas ļaunprogramma, viens kompromitēts konts var kļūt par sākumpunktu plašākam uzbrukumam.
Pieci noteikumi drošākai MI čatu izmantošanai
Neievadiet noslēpumus. Parolēm, piekļuves kodiem, maksājumu karšu datiem, personas kodiem un nepublicētai uzņēmuma informācijai MI čatā nav vietas.
Anonimizējiet saturu. Pirms dokumenta augšupielādes izņemiet vārdus, kontaktinformāciju, klientu datus un citas detaļas, kas ļauj identificēt personu vai uzņēmumu.
Darbam izmantojiet apstiprinātus rīkus. Uzņēmumam jānosaka, kurus MI pakalpojumus darbinieki drīkst izmantot un kādu informāciju tajos drīkst apstrādāt.
Aizsargājiet kontus. Katram pakalpojumam lietojiet unikālu paroli, paroļu pārvaldnieku un daudzfaktoru autentifikāciju. Regulāri pārbaudiet aktīvās sesijas un e-pasta pārsūtīšanas noteikumus.
Pārbaudiet saites, failus un paplašinājumus. Viltotas MI vietnes un pārlūka paplašinājumi var tikt izmantoti piekļuves datu vai ievadītās informācijas zagšanai.
MI sniegtās iespējas nav jāuztver ar bailēm, taču tās jāizmanto ar tādu pašu piesardzību kā e-pasts, mākoņkrātuve vai internetbanka. Vienkāršākais pārbaudes jautājums pirms pogas “Sūtīt” nospiešanas ir šāds: vai es būtu gatavs šo pašu informāciju nodot ārējam pakalpojuma sniedzējam? Ja atbilde nav pārliecinošs “jā”, datus labāk anonimizēt vai čatā neievadīt vispār.
Kiberdrošība sākas nevis pēc incidenta, bet brīdī, kad cilvēks izlemj, ar kādu informāciju dalīties.
