Cât de periculoasă este folosirea AI-ului în companie fără reguli interne 2

Cât de periculoasă este folosirea AI-ului în companie fără reguli interne?

În prezent, aproape orice persoană care lucrează de la birou și utilizează un calculator a interacționat, într-o formă sau alta, cu un tool bazat pe inteligență artificială.

Fie că vorbim despre:

  • ChatGPT,
  • Gemini,
  • Claude,
  • Copilot,
  • sau alte instrumente similare,

acestea au devenit rapid parte din fluxul de lucru al multor companii și angajați. Iar asta nu este un lucru deloc rău.

Toolurile AI pot:

  • accelera procese,
  • organiza informații,
  • genera idei,
  • sumariza documente,
  • automatiza taskuri repetitive,
  • și crește semnificativ productivitatea.

În multe situații, ele funcționează exact ca un „copilot” digital.

Problema nu este existența sau utilizarea acestor instrumente. Problema apare în momentul în care ele sunt utilizate fără reguli clare, fără politici interne și fără înțelegerea riscurilor reale pe care le pot crea pentru companie.

AI-ul nu este problema. Folosirea inconștientă este problema.

În foarte multe companii, angajații folosesc deja AI fără ca managementul să știe exact:

  • ce tooluri utilizează,
  • ce date introduc în acestea,
  • unde ajung informațiile,
  • sau ce riscuri pot apărea ulterior.

Acest fenomen începe să fie cunoscut inclusiv la nivel internațional sub denumirea de „Shadow AI”.

Practic, angajații folosesc instrumente AI în activitatea de zi cu zi fără aprobare formală, fără politici interne și fără controale reale privind securitatea informației. Iar aici încep problemele serioase.

Ce tipuri de informații ajung, în mod real, în toolurile AI?

Foarte mulți oameni tratează toolurile AI ca pe un spațiu „temporar” sau „privat”. În realitate, introducerea unor informații sensibile într-un astfel de sistem poate crea riscuri majore pentru companie.

Printre cele mai periculoase exemple se numără:

  • contracte interne,
  • baze de date cu clienți,
  • parole,
  • date financiare,
  • strategii comerciale,
  • cod sursă,
  • proceduri interne,
  • informații despre salarii,
  • CNP-uri,
  • copii de acte,
  • date medicale ale angajaților,
  • sau informații confidențiale despre parteneri și proiecte.

De multe ori, angajatul nu are intenții rele. Din contră, în cele mai multe cazuri, încearcă doar să:

  • lucreze mai rapid,
  • automatizeze un proces,
  • rezolve o problemă,
  • sau să obțină un răspuns mai repede.

Dar exact aici apare pericolul. Viteza și comoditatea pot depăși atenția acordată securității informației.

Riscurile nu sunt teoretice. Există deja cazuri reale.

Una dintre cele mai cunoscute situații a fost cazul Samsung. În 2023, mai mulți angajați Samsung au introdus în ChatGPT:

  • cod sursă intern,
  • note de ședință,
  • și informații confidențiale legate de dezvoltare software,

pentru a obține ajutor în debugging și optimizare.

În urma incidentului, compania a decis să restricționeze utilizarea toolurilor AI generative în interiorul organizației. (Detalii pe:Forbes – Samsung bans ChatGPT after sensitive code leak)

Un alt exemplu important a avut loc tot în 2023, când OpenAI a confirmat existența unui bug care a permis unor utilizatori să vadă titlurile conversațiilor altor utilizatori și anumite informații legate de plăți. (Detalii pe OpenAI – March 20 ChatGPT outage)

Dar aacă aceste situații par excepții, atunci merită să privim și imaginea de ansamblu. Potrivit raportului Enterprise AI and SaaS Data Security Report 2025 realizat de LayerX, aproximativ 45% dintre angajații companiilor folosesc deja instrumente de inteligență artificială generativă. Dintre aceștia, 77% copiază și introduc informații în astfel de platforme, iar în aproximativ 22% dintre cazuri este vorba despre date personale sau informații de plată. Mai mult, 82% dintre aceste interacțiuni au loc prin conturi personale, asupra cărora companiile nu au aproape nicio vizibilitate sau control.

Aceste situații arată foarte clar că toolurile AI nu trebuie tratate ca spații sigure pentru informații sensibile.

Problemele nu țin doar de securitate. Țin și de competență.

Un alt risc major apare atunci când companiile încep să folosească AI fără implicarea unui specialist din domeniul respectiv.

AI-ul poate fi extrem de util în:

  • brainstorming,
  • structurare,
  • organizare,
  • generare de idei,
  • automatizare,
  • și accelerarea proceselor.

Dar există o diferență foarte mare între „folosesc AI ca instrument” și „las AI-ul să ia decizii în locul specialistului”.

În marketing, de exemplu, AI-ul poate genera:

  • texte corecte gramatical,
  • strategii generice,
  • idei de campanii,
  • și conținut decent.

Totuși, fără înțelegerea:

rezultatul poate deveni generic și lipsit de identitate.

Același lucru se aplică în:

  • contabilitate,
  • fiscalitate,
  • juridic,
  • HR,
  • sau securitate cibernetică.

Dacă cineva se bazează exclusiv pe AI pentru interpretarea unor obligații fiscale, redactarea unor documente juridice sau gestionarea unor procese sensibile, există riscul să creeze probleme pe care înainte nu le avea.

De ce multe companii nu sunt pregătite pentru acest risc?

Pentru că AI-ul a fost adoptat mult mai rapid decât au reușit organizațiile să creeze reguli interne pentru utilizarea lui.

În multe cazuri:

  • nu există politici clare,
  • nu există training,
  • nu există delimitări privind informațiile care pot fi introduse în AI,
  • și nu există conștientizare reală a riscurilor.

Iar într-un mediu în care productivitatea este încurajată constant, angajații tind să folosească orice instrument care îi ajută să lucreze mai repede. Inclusiv atunci când acel instrument poate expune date sensibile ale companiei.

Ce ar trebui să facă o companie?

Utilizarea AI-ului în companie nu ar trebui interzisă complet. Din contră, companiile care înțeleg și folosesc corect aceste tooluri vor avea un avantaj major în eficiență și productivitate. Dar utilizarea lor trebuie făcută controlat.

Printre măsurile minime recomandate se numără:

  • politici interne privind utilizarea AI,
  • delimitarea clară a informațiilor care NU pot fi introduse în tooluri externe,
  • training pentru angajați,
  • verificarea proceselor interne,
  • controlul accesului la informații sensibile,
  • și implicarea specialiștilor în procesele importante.

Concluzie

Inteligența artificială este, fără îndoială, unul dintre cele mai puternice instrumente apărute în ultimii ani.

Folosită corect, poate accelera procese, crește productivitatea și ajuta companiile să lucreze mai eficient.

Folosită fără reguli, fără limite și fără înțelegerea riscurilor, poate deveni însă o vulnerabilitate serioasă pentru companie.

Problema nu este că angajații folosesc AI. Problema apare atunci când nimeni nu știe ce informații sunt introduse, unde ajung acestea, și ce consecințe pot apărea mai târziu.

Leave a Comment

Your email address will not be published. Required fields are marked *

*
*