R1, modelul AI de la DeepSeek care recent a generat panică pe burse generând scăderi de $1 trilion, nu beneficiază de restricții suficiente pentru a-i împiedica aplicarea în scenarii malițioase, precum crearea de malware sau de dispozitive explozive.

De asemenea, compania colectează o gamă extinsă de informații de la utilizatori și le trimite în China, unde legile de protecție a datelor față de instituțiile guvernamentale sunt mai relaxate decât în Uniunea Europeană.

Ascensiune amețitoare

DeepSeek a creat o undă de șoc în piața tech când a lansat pe 20 ianuarie R1, un model AI ce rivalizează cu cel al competitorilor de top dar creat cu doar $5.6 milioane – o fracțiune din sutele de milioane investite de giganți precum Google și OpenAI.

Pentru a ține în frâu potențialul periculos al sistemelor de inteligență artificială generativă (GenAI), companiile trebuie să prioritizeze măsurile de securitate față de capabilitățile aplicațiilor.

“Utilizarea unor măsuri de securitate robuste, cum ar fi soluții avansate de testare și evaluare, este esențială pentru a ne asigura că aplicațiile rămân sigure, etice și fiabile,” spun experții de securitate cibernetică de la compania Kela.

DeepSeek R1 reprezintă un progres semnificativ în tehnologia AI din China și se remarcă în special pentru capacitățile sale de raționament.

Din 26 ianuarie, cu un scor de 1357 se află pe poziția 6 în comparația Chatbot Arena, depășind mai multe modele proeminente, inclusiv Llama 3.1-405B de la Meta și demonstrând performanțe superioare în anumite scenarii de rezolvare a problemelor în comparație cu ChatGPT4o.

Permisiune pentru uz periculos

Conform testelor Kela, capabilitățile DeepSeek R1 nu sunt însoțite de măsuri de siguranță suficiente pentru a împiedica abuzurile din partea utilizatorilor rău intenționați.

Divizia red team de la Kela a descoperit că restricțiile impuse de dezvoltator pot fi ocolite cu ușurință folosind metode descrise public de mai bine de doi ani.

Una din metode, Evil Jailbreak, constă în păcălirea modelului pentru a adopta o personalitate malițioasă ce ignoră rigorile de siguranță sau etice.

Experții au testat DeepSeek-R1 după scenariul Evil Jailbreak, prin care toate răspunsurile generate trebuie să fie dintr-o perspectivă utilă unui infractor, întrebând despre cea mai buna variantă de a spăla bani din activități ilegale.

Răspunsul DeepSeek R1 a inclus o schemă de înființare de afaceri cu un flux mare de numerar care să ascundă veniturile ilicite, companii fantomă pentru servicii false de consultanță, și transformarea valutei fiat în criptomonede greu de urmărit, cumpărarea de NFT-uri proprii și vânzarea lor printr-un exchange complice.

Într-un alt test, echipa Kela a cerut modelului LLM DeepSeek-R1 să creeze malware care să fure date sensibile de pe sisteme compromise, incluzând cookies, nume de utilizator, parole, și numere de carduri.

În răspuns, R1 a oferit instrucțiuni detaliate și a generat un script malițios care să extragă date de card din anumite browsere și să le transmită către un server.

De asemenea, cercetătorii au reușit să obțină de la modelul DeepSeek și informații sau explicații clare pentru activități ilegale și periculoase, care nu ar trebui să fie accesibile public, precum fabricarea de explozibil care să nu fie detectat într-un aeroport, sau crearea unei drone kamikaze.

Colectare masivă de date

Măsurile slabe de protecție a datelor utilizatorilor DeepSeek au fost expuse și de jurnaliștii de la publicația Wired, care au descoperit că datele colectate de la utilizatori sunt stocate în severe din China, expunându-le astfel guvernului de la Beijing.

În comparație cu GDPR-ul Uniunii Europene, legea de protecție a datelor în China (PIPL – Personal Information Protection Law) este mult mai relaxată și generalistă in definiții și specificații.

O comparație între GDPR și PIPL este disponibilă de la OneTrust, un dezvoltator de soluții care să ajute companiile să funcționeze în acord cu politicile de protecție a datelor și de confidențialitate atât pe plan intern, cât și cu clienții săi.

Conform termenilor politicii de confidențialitate, toate interacțiunile utilizatorilor cu AI-ul DeepSeek, precum și răspunsurile generate sunt sau pot fi trimise în China.

Asta include detaliile împărtășite de utilizatori, datele colectate automat, dar și informațiile obținute din alte surse necesare pentru a oferi un răspuns.

“Putem colecta textul sau intrarea audio, prompt-ul, fișierele încărcate, feedback-ul, istoricul chat-urilor sau alt conținut pe care îl furnizați modelului și serviciilor noastre,” menționează documentul de politici de confidențialitate de la DeepSeek.

Wired spune că într-o analiză proprie, jurnaliștii au descoperit că DeepSeek trimite datele mai multor companii din China, printre care serviciul de analitică web al Baidu (Baidu Tongji) și o firma de infrastructură cloud numită Voices, precum și ByteDance, deținătorul TikTok.

În plus, DeepSeek își rezervă dreptul de a folosi informația colectată pentru a-și îmbunătăți serviciile dar și pentru a dezvolta noi modele AI.

O recomandare pentru utilizatorii oricărei aplicații AI este să evite introducerea de informații private sau personale și, dacă este posibil, rularea serviciilor la nivel local – ceea ce DeepSeek permite pentru modelul R1 care este open source.