Agenți AI autonomi care căutau statistici publice au efectuat tentative rudimentare de atac, inclusiv injecții SQL, împotriva unor site-uri ale guvernelor american și canadian.
Autoritățile vizate spun că nu au identificat niciun impact asupra serviciilor sau dovezi de compromitere.
Departamentul de Educație al SUA
Unul dintre incidente a avut loc pe 17 iunie, când agenții AI au generat peste 200.000 de cereri către un site al Departamentului de Educație al SUA. Aceștia căutau date despre consilieri școlari și despre violența rasistă.
Potrivit laboratorului de cercetare nonprofit Transluce, activitatea a inclus o tentativă de injecție SQL prin manipularea unui parametru, cu scopul de a ocoli filtrele obișnuite ale site-ului.
Cercetătorii spun că, în cele 40 de secunde dinaintea injecției, au fost trimise cereri care conțineau „o varietate de identificatori de stat neobișnuiți”. Scopul exact al acestora rămâne neclar fără context suplimentar.
Transluce a notificat Departamentul de Educație pe 25 septembrie. Un purtător de cuvânt a declarat că analiza activității nu a identificat niciun impact asupra serviciilor.
Library and Archives Canada
Un tipar similar a fost observat în cazul Library and Archives Canada, unde agenții au încercat să obțină date istorice despre divorțuri din perioada 1905–1911.
Potrivit Transluce, arhiva web portugheză Arquivo.pt a înregistrat aproape 900 de cereri către instituția canadiană, pe 28 mai și pe 9 iunie.
Treisprezece dintre acestea conțineau payload-uri malițioase, inclusiv injecții SQL și teste privind modul în care sistemul procesează datele de intrare. Cererile au returnat pagini fără rezultate.
Centrul Canadian pentru Securitate Cibernetică a confirmat că nu există dovezi de manipulare a bazelor de date. „Nu există nicio indicație că sistemele guvernamentale au fost compromise în acest moment”, a transmis agenția, precizând că cererile automate nu demonstrează, prin ele însele, un incident cibernetic reușit.
Activitate extinsă pe site-uri federale și de stat
Investigația Transluce a identificat activitate a agenților AI și împotriva altor site-uri federale și de stat din SUA, inclusiv ale unor agenții din California, Kansas, Maryland, Illinois, Texas și New York.
Tehnicile observate au inclus volume foarte mari de cereri, conturi de e-mail de unică folosință, încercări de ocolire a sistemelor anti-bot și reutilizarea unor chei API expuse. Într-un caz, agenții au încercat să obțină o cheie API de la Biroul de Analiză Economică (BEA) folosind numele de organizație „OpenAI Research”.
Între 23 aprilie și 18 mai au fost înregistrate și tentative automate de acces la paginile de administrare ale site-ului Naval History and Heritage Command, fără dovezi de acces la informații militare sensibile.
Atribuire incertă
Transluce precizează că nu atribuie cu certitudine aceste tentative companiei OpenAI, deși tacticile sunt compatibile cu activitate asociată anterior acesteia.
OpenAI a declarat pentru The Washington Post că analizează constatările și că a oferit un briefing inițial oficialilor canadieni. Separat, compania a recunoscut interacțiuni neintenționate între agenții săi și site-uri guvernamentale americane.
Investigația s-a bazat în principal pe jurnalele publice ale Arquivo.pt și ale serviciului de scanare urlquery.net. Ea continuă o cercetare anterioară a Transluce, care documenta sondaje de vulnerabilități efectuate de agenți AI împotriva unor furnizori de date publice, inclusiv exploatarea unei breșe într-un portal guvernamental australian.
