Fortinet a analizat un caz de „LLMjacking” în care o cheie AWS IAM cu privilegii ridicate a fost compromisă și folosită pentru acces neautorizat la modele de inteligență artificială prin Amazon Bedrock. Atacatorii nu urmăresc neapărat datele companiei în primul rând, ci resursele AI plătite de victimă.

În scenariul descris, credențialele expuse au permis crearea unei noi identități IAM și activarea unor modele prin AWS Marketplace. Ulterior, atacatorii au putut genera inferențe Bedrock pe costul contului compromis. Astfel de resurse pot fi revândute, folosite pentru automatizare sau integrate în alte operațiuni malițioase.

Problema devine mai importantă pe măsură ce modelele comerciale sunt integrate în infrastructura cloud obișnuită. O cheie cu durată lungă de viață și drepturi administrative nu mai oferă acces doar la servere și storage, ci poate deschide și servicii AI cu facturare la consum. Costurile pot crește rapid dacă abuzul nu este observat.

Fortinet recomandă eliminarea cheilor statice unde este posibil, utilizarea rolurilor temporare, politici IAM cu privilegii minime, rotația secretelor și monitorizarea activării neobișnuite a serviciilor și modelelor. Organizațiile ar trebui să includă serviciile AI în aceleași mecanisme de control financiar și securitate folosite pentru compute și storage.

Sursa:
Fortinet – Someone Else Is Using Your AI: LLMjacking in the Cloud