Kada zaposleni koristi AI samo za pisanje kratkog teksta, rizik je relativno ograničen. Situacija se menja kada AI dobije pristup internetu, emailu, cloud fajlovima ili drugim poslovnim servisima. Tada zlonamerna instrukcija sakrivena u web stranici ili dokumentu može pokušati da promeni ponašanje alata. Ova vrsta napada naziva se prompt injection.
Za razliku od klasičnog virusa, prompt injection ne mora da pokrene izvršni fajl. Dovoljno je da AI pročita sadržaj koji mu govori da zanemari prethodna pravila, otkrije informacije ili poseti drugi link. Moderni sistemi imaju više slojeva zaštite, ali firme ipak treba da smanje količinu podataka i ovlašćenja dostupnih jednom alatu.
Kako izgleda indirektan prompt injection
Zaposleni može tražiti od AI agenta da pregleda sajt dobavljača i napravi sažetak. Na toj stranici može postojati skriven tekst namenjen AI alatu, a ne čoveku. Instrukcija može tražiti da agent otvori drugi sajt, uključi podatke iz povezanog dokumenta ili predstavi sumnjivu informaciju kao pouzdanu.
Sličan sadržaj može biti u PDF dokumentu, emailu, komentaru ili deljenom fajlu. Korisnik ga ne mora primetiti, dok ga AI obradi kao deo zadatka.
Šta radi Lockdown Mode
OpenAI je predstavio Lockdown Mode kao stroži režim za korisnike i timove sa povišenim bezbednosnim zahtevima. Režim ograničava određene funkcije povezane sa internetom i spoljnim servisima kako bi se smanjila mogućnost izvlačenja podataka kroz prompt injection.
To ne znači da svaki zaposleni mora stalno da koristi najrestriktivniji režim. Koristan je za rukovodioce, administratore i druge korisnike koji rade sa posebno osetljivim informacijama, kao i za situacije kada je sigurnost važnija od pune funkcionalnosti alata.
Najvažnija zaštita je ograničen pristup
AI alat koji nema pristup finansijskoj fascikli ne može iz nje izvući podatke. Zato povezane aplikacije i cloud prostori treba da prate princip najmanjih privilegija. Agent dobija samo ono što mu je potrebno za konkretan posao, i to na ograničeno vreme kada je moguće.
Poslovni i privatni nalozi ne treba da se mešaju. Zaposleni ne bi trebalo da povezuje privatni AI nalog sa poslovnim OneDrive, Google Drive ili email nalogom bez odobrenja firme.
Kritične radnje moraju ostati pod kontrolom coveka
Slanje poruke, deljenje fajla, promena dozvola, brisanje podataka i kupovina ne treba da se izvrše bez jasne potvrde korisnika. Pre odobrenja treba videti šta će se poslati, kome i iz kog izvora.
Posebno treba proveravati sažetke koji kombinuju interne podatke i informacije sa interneta. AI može biti koristan za istraživanje, ali spoljašnji izvor ne sme dobiti mogućnost da određuje kako se rukuje poslovnim podacima.
Jednostavna pravila za malu firmu
Popišite odobrene AI alate i povezane servise. Uključite MFA, odvojite administratorske naloge i redovno proveravajte aktivne sesije. Ograničite deljenje poverljivih fascikli i zahtevajte ljudsku potvrdu za spoljne radnje. Za korisnike sa osetljivim podacima razmotrite Lockdown Mode ili potpuno isključivanje nepotrebnih konektora.
NBG TEAM pomaže firmama da urede naloge, pristupe, Microsoft 365 okruženje i bezbedan rad sa cloud i AI alatima. ChatGPT bezbednost za firme nije jedno dugme, već kombinacija dobrih dozvola, jasnih pravila i odgovornih korisnika.
Izvori i dalje čitanje
Za procenu konkretnog poslovnog okruženja pogledajte našu IT podršku za firme.
