$8,8 trilioane protejate: Cum a trecut un CISO de la „asta e o prostie” la o soluție sigură în 90 de zile

Interviul exclusiv al VentureBeat cu Sam Evans, CISO al Clearwater Analytics, dezvăluie de ce browserele pentru întreprinderi devin rapid prima linie de apărare împotriva IA din umbră în al său multe forme.   

Evans s-a confruntat cu o provocare critică în octombrie 2023. În fața consiliului de administrație al Clearwater Analytics, a trebuit să se confrunte cu îngrijorări legate de faptul că angajații ar putea expune în mod accidental date care ar putea compromite potențialul companiei. $8,8 trilioane de active în administrare.  

„Cel mai rău lucru posibil ar fi ca unul dintre angajații noștri să preia datele clienților și să le introducă într-un motor de inteligență artificială pe care nu îl gestionăm”, a declarat Evans pentru VentureBeat. „Angajatul care nu știe nimic diferit sau care încearcă să rezolve o problemă pentru un client... acele date ajută la antrenarea modelului.”

Iată conversația noastră cu Evans, editată pentru lungime și claritate.

VentureBeat: Cum vedeți că inteligența artificială va modela securitatea cibernetică astăzi?

Evans: Atacurile au devenit semnificativ mai sofisticate. Dacă privim lucrurile din perspectiva unui atacator rău intenționat, e-mailurile și tentativele de phishing pe care le primim au devenit mult mai complexe. Cu toate acestea, inteligența artificială posedă și capacități de răspuns.

Îmi place să explic consiliului nostru de administrație că este jocul suprem de-a șoarecele și pisica. Pe măsură ce răufăcătorii încep să folosească inteligența artificială pentru a promova phishing-ul sau poate pentru a accelera timpul necesar apariției vulnerabilităților după ce sunt anunțate, există și partea opusă a specialiștilor în securitate care folosesc inteligența artificială pentru a ne ajuta să ne adaptăm la modul în care răspundem.

VentureBeat: Cum vă ajută inteligența artificială capacitățile defensive?

Evans: Am început să integrăm inteligența artificială în strategiile noastre de securitate. Procedând astfel, analiștii noștri de securitate petrec acum mai puțin timp căutând și analizând. Inteligența artificială este implicată în produsul centrului de operațiuni de securitate (SOC), efectuând analiza inițială de triaj și spunând: „Pe baza lucrurilor pe care le-am văzut anterior și a lucrurilor din modelul meu, aici aș dori să vă ghidez.”

În defensivă, începem să vedem cu adevărat că inteligența artificială intră în joc. Grevă a mulțimii, Sentinel One, Microsoft DefenderProdusele tradiționale de detecție și răspuns extins (EDR) foloseau învățarea automată și ajungeau la o probabilitate de aproximativ 85% ca aceasta să fie o amenințare, dar nu suntem siguri. Cu toate acestea, inteligența artificială îmbogățește capacitatea motorului EDR de a atinge o rată de probabilitate mai mare de identificare a unei amenințări.

VentureBeat: WCe te ține treaz noaptea când vine vorba de inteligență artificială și securitate cibernetică?

Evans: Ceea ce mă îngrijorează destul de mult este falsuri profundeAi citit mai multe articole despre oameni care folosesc deepfake-uri pentru a se da drept CEO pentru a iniția transferuri bancare. Acestea sunt îngrijorătoare pentru că par foarte, foarte reale.

Dar cea mai mare îngrijorare? Cel mai rău lucru posibil ar fi ca unul dintre angajații noștri să preia datele clienților și să le introducă într-un motor de inteligență artificială pe care nu îl gestionăm, iar apoi acestea să devină date care ajută la antrenarea modelului.

VentureBeat: Cum ai explicat consiliului tău acest risc al inteligenței artificiale din umbră?

Evans: Îmi amintesc când, la una dintre primele ședințe de consiliu la care am participat, m-au întrebat: „Ce părere ai despre ChatGPT?”. Am spus: „Ei bine, este un instrument de productivitate incredibil. Totuși, nu știu cum am putea să le permitem angajaților noștri să îl folosească, pentru că cea mai mare teamă a mea este ca cineva să copieze și să lipească în el datele clienților sau codul nostru sursă, care este proprietatea noastră intelectuală.”

Dar nu am venit pe forum doar cu preocupările și problemele mele. Am spus: „Ei bine, iată soluția mea. Nu vreau să împiedic oamenii să fie productivi, ci vreau și să-i protejez.” Când am venit pe forum și le-am explicat cum funcționează aceste browsere pentru întreprinderi, mi-au spus: „Bine, are sens, dar chiar poți face asta?”

VentureBeat: Explicați-mi procesul de evaluare și implementare pentru Insulă.

Evans: După ședința consiliului de administrație din octombrie 2023, am început un proces destul de lung de due diligence. Am analizat câțiva dintre principalii furnizori din domeniul browserelor pentru întreprinderi.

În cele din urmă, vă voi împărtăși de ce am ales o insulă. Trebuia să putem controla ce browsere folosesc oamenii pe terminalele lor. Nu este de niciun folos să implementăm un browser enterprise când cineva poate descărca Opera sau „browserul lunii al lui Frank” și îl poate folosi, iar acest lucru ocolește pur și simplu toate controalele Insulei.

Celălalt motiv pentru care am ales Island a fost, într-adevăr, viteza de implementare. Îmi amintesc că am avut o convorbire cu reprezentanții de vânzări ai Island și mi-au spus: „Credem că putem implementa asta în compania dumneavoastră în câteva săptămâni”. Le-am răspuns: „A, asta e o prostie.”

VentureBeat: Dar au livrat?

Evans: Au luat-o ca pe o provocare personală! Am început implementarea Island în aprilie 2024 cu aproximativ 200 de persoane. Am ales mai întâi varianta extensiei; extensia Island în Chrome și Edge.

Abia în iulie, consiliul m-a întrebat: „Cum merge?”. Și am spus: „Ce-ar fi să vă arăt pur și simplu?”. Am deschis o captură de ecran pentru că, știți, demonstrațiile Legii lui Murphy eșuează întotdeauna. Așa că le-am arătat capturi de ecran: „Iată-mă pe ChatGPT. Am încercat să lipesc ceva. Am primit mesajul: «Politica insulei vă împiedică să faceți asta».”

Ei au zis: „Uau, e fantastic! Dar oamenii pot folosi în continuare instrumentul pentru a pune întrebări bune?” Am spus: „Da, absolut. Pur și simplu nu pot introduce date în el.”

VentureBeat: Crezi că Insula te asigură și reduce riscul de AI din Umbră?

Evans: Cu siguranță ne-a ajutat să ne înțelegem IA din umbrăNiciun instrument de securitate nu este perfect. Având în vedere că am implementat Island, cu siguranță dormim mult mai liniștiți. Putem fi destul de liniștiți că, dacă un angajat accesează o instanță de inteligență artificială pe care nu o avem licențiată, o poate folosi, dar nu poate lipi date sau încărca fișiere.

De asemenea, ne-a ajutat să identificăm unde avem lacune. Angajații au găsit acest widget cu inteligență artificială foarte grozav, vin la echipa de securitate și le spun: „Hei, uite, uită-te la asta”. Apoi ne putem întoarce la echipele noastre de dezvoltare a produselor și ne putem da seama cum putem ajuta la realizarea acestui lucru, nu doar pentru angajații noștri, ci și pentru clienții noștri.

VentureBeat: Cum te aperi împotriva deepfake-urilor?

Evans: E greu de înțeles. Avem un program excelent de conștientizare a securității. Le cerem angajaților să dea dovadă de bun simț. Chiar credeți că Sandeep Sahai, CEO-ul nostru, vă va suna și vă va ruga să-i cumpărați carduri cadou Apple?

Am stabilit o mulțime de mecanisme de control și echilibrare, cam ca sistemul de verificare reciprocă între două persoane. Nu există o soluție tehnologică pentru așa ceva. Este o problemă umană pentru care a trebuit să implementăm o soluție umană.

VentureBeat: Ce sfaturi le-ați da altor CISO-uri care se confruntă cu inteligența artificială în umbră?

Evans: Nu este vorba doar de blocare, ci de activare. Aduceți soluții, nu doar probleme. Când am venit în consiliu, nu am evidențiat doar riscurile; am propus o soluție care să echilibreze securitatea cu productivitatea.

Bine ați venit în cursa înarmării IA din umbră

Perspectivele lui Evans dezvăluie cât de repede a devenit inteligența artificială din umbră o amenințare existențială pentru fiecare afacere care utilizează intensiv date.  

„Vedem 50 de aplicații noi de inteligență artificială pe zi„...și am catalogat deja peste 12.000”, a declarat Itamar Golan, CEO al Prompt Security, pentru VentureBeat, cuantificând ceea ce echipele de securitate numesc cel mai rău coșmar al lor de la ransomware încoace.

Cel/Cea/Cei/Cele atacul utilizării și aplicațiilor neautorizate ale inteligenței artificiale a declanșat o concurență intensă între furnizorii de servicii de securitate. „Majoritatea instrumentelor tradiționale de gestionare nu au o vizibilitate completă asupra aplicațiilor de inteligență artificială”, a explicat Vineet Arora, CTO al WinWire. VentureBeat, indicând exact de ce inteligența artificială din umbră prosperă, în timp ce arhitecturile de securitate tradiționale sunt oarbe la aceasta.

Ecosistemul furnizorilor s-a cristalizat în patru câmpuri de luptă distincte, fiecare cu armele și punctele sale slabe.

Browserele pentru companii sunt în fruntea acțiunii. Cea mai importantă dintre ele este Island, care a ridicat recent o Runda de finanțare $ de 250 de milioane, un vot de încredere din partea comunității investitorilor. În timp ce Island mizează pe vizibilitatea pre-criptare, atacurile Google Chrome Enterprise umbresc IA în mod diferit, transformând dominația sa pe piață și setul de securitate al Google în armă. Chrome Enterprise Premium oferă controale de prevenire a pierderii de date (DLP) care blochează fluxurile de date către ChatGPT și alte instrumente de inteligență artificială, previn contaminarea între profiluri și impun scanarea conținutului în timp real. Platforma expune modelele de utilizare a inteligenței artificiale din umbră blocând atât pastele accidentale, cât și exfiltrarea deliberată. Parteneriate strategice cu Zscaler şi Acces securizat Cisco amplificați acoperirea Chrome pentru a crea un ecosistem în care principiile zero-trust se extind direct la interacțiunile cu inteligența artificială.

Platformele SASE/SSE oferă apărare la scară enterprise. Netskope și Zscaler aduc scalabilitate apărării împotriva inteligenței artificiale în umbră prin arhitecturile lor SASE (Security Access Service Edge) native în cloud. Ambele platforme procesează zilnic miliarde de tranzacții în infrastructuri globale, Netskope promovând în mod specific capacitatea sa de a monitoriza utilizarea aplicațiilor de inteligență artificială în cadrul companiilor. Principala lor limitare: Când 73,8% de utilizare a ChatGPT la locul de muncă are loc prin conturi personale, criptarea SSL/TLS împiedică platformele să inspecteze conținutul, forțându-le să se bazeze pe modele de trafic și metadate, ceea ce duce la lacune de vizibilitate în care inteligența artificială din umbră operează nedetectată..

Furnizorii tradiționali de DLP se luptă să se adaptezeFurnizorii tradiționali Forcepoint și Microsoft Purview au o moștenire solidă pe care să profite atunci când vine vorba de combaterea inteligenței artificiale din umbră. Forcepoint revendică peste 1.700 de clasificatoare, în timp ce Purview utilizează inteligența artificială pentru a tria sarcinile. Dar iată problema: aceștia adaptează arhitecturi din secolul XX pentru amenințările secolului XXI. Aceste platforme excelează la capitolul casete de selectare a conformității și șabloane de politici, dar nu reușesc să țină pasul cu ritmul mai rapid al inteligenței artificiale.

În rolul lui Daren Goeson, Ivanti's Vicepreședintele senior al departamentului de management de produs pentru UEM a declarat pentru VentureBeat: „Instrumentele de securitate endpoint bazate pe inteligență artificială pot analiza cantități vaste de date pentru a detecta anomalii și a prezice potențialele amenințări mai rapid și mai precis decât orice analist uman.” DLP-ul tradițional funcționează la viteza auditului. Inteligența artificială din umbră se mișcă la viteza mașinii.

Soluții specializate care acoperă lacunele criticeInovația prosperă în nișele pe care furnizorii tradiționali le ignoră. Un exemplu este Neuronii Ivanti, care oferă o descoperire cuprinzătoare a dispozitivelor prin intermediul platformei sale UEM, expunând inteligența artificială din umbră care se ascunde în endpoint-uri, lucru pe care instrumentele tradiționale îl ratează. Mike Riemer, CISO-ul de teren al Ivanti, vede imaginea de ansamblu: „Profesioniștii în securitate vor valorifica eficient capacitățile inteligenței artificiale de generație pentru a analiza cantități vaste de date colectate din diverse sisteme.” Nightfall, la rândul său, vizează echipele de dezvoltatori cu modele de transformare, susținând o precizie de detecție de 2 ori mai mare pentru instrumentele de inteligență artificială bazate pe API.

Compararea soluțiilor de apărare bazate pe inteligența artificială din umbră

Furnizor	Tip	Puncte forte cheie	Limitări	Cel mai bun pentru
Check Point Harmony	Extensie de browser	Valorifică infrastructura existentă	Limitat la extindere	Clienții Check Point
Punct de forță	DLP tradițional	Peste 1.700 de clasificatori, conformitate cu reglementările	Arhitectură moștenită	Industrii extrem de reglementate
Google Chrome Enterprise	Browser pentru întreprinderi	Dominare pe piață, integrare nativă	Controale mai puțin specializate	Organizații Google Workspace
Insulă	Browser pentru întreprinderi	Vizibilitate pre-criptare, latență zero, Implementare rapidă	Cost mai mare per utilizator	Întreprinderi cu date sensibile
Neuronii Ivanti	Platforma UEM	Descoperire completă a dispozitivelor	Nu este specific browserului	Concentrare pe gestionarea activelor
Microsoft Purview	Platformă DLP	Integrare nativă cu Microsoft, triaj bazat pe inteligență artificială	Centrat pe Microsoft	Microsoft 365 Enterprises
Netskope	Platforma SASE/SSE	Acoperire completă, monitorizare a peste 370 de aplicații prin inteligență artificială	Complexitatea post-criptare	Întreprinderi mari distribuite
Căderea nopţii	DLP nativ cu inteligență artificială	Precizie de detectare de 2x, modele Transformer	Abordare bazată exclusiv pe API	Echipe centrate pe dezvoltatori
Securitate cibernetică Talon	Browser pentru întreprinderi	Opțiuni de browser + extensii	Mai nou pe piață	IMM-uri preocupate de securitate
Zscaler	Platforma SASE/SSE	536 miliarde de tranzacții zilnice, zero-trust adevărat	Abordare exclusivă în cloud	Organizații care pun pe primul loc cloud-ul

Analiza VentureBeat

Ce anume determină piața să se miște atât de repede? Analiza VentureBeat a descoperit peste 74.500 de aplicații AI în umbră implementat activ în cadrul unor firme importante de consultanță numai, iar asta crește cu 5% lunar. Până la mijlocul anului 2026, acest număr ar putea ajunge la 160.000. Fiecare reprezintă o potențială încălcare a datelor, o încălcare a conformității sau o scurgere de informații despre concurență.

Rețeta Arora trece peste agitația furnizorilor: „Organizațiile trebuie să definească strategii cu o securitate robustă, permițând în același timp angajaților să utilizeze tehnologiile de inteligență artificială în mod eficient. Interdicțiile totale împing adesea utilizarea inteligenței artificiale în clandestinitate, ceea ce nu face decât să amplifice riscurile.”