Mai devreme sau mai târziu era clar că vom ajunge și aici. Google a anunțat recent că prima vulnerabilitate reală a fost descoperită de agentul său generativ de inteligență artificială Big Sleep. De fapt, Google crede că este primul defect/vulnerabilitate descoperit vreodată de AI, cel puțin anunțat public. Defectul trebuia să fie complet necunoscut, nu trebuia să existe exploituri și trebuia să fie prezent în software-ul din lumea reală. Onoarea, ca să spunem așa, i-a revenit lui SQLite.
SQLite este una dintre cele mai populare biblioteci de baze de date din lume. Big Sleep a descoperit că, în anumite circumstanțe, este posibil să provoace o eroare de depășire a bufferului stivei. În esență, software-ul încearcă să apeleze o locație de memorie mai devreme decât în mod normal, potrivit PhonAndroid. În aceste circumstanțe, pot apărea două scenarii: blocarea programului sau executarea unui cod neautorizat.
Vulnerabilitate descoperită de AI
Conform practicii din lumea securității cibernetice, Google a contactat dezvoltatorii SQLite cu mult timp în avans, încă de luna trecută. Compania le-a făcut cunoscută descoperirea, astfel încât să existe timp suficient pentru a o corecta. Printre altele, bug-ul a fost descoperit pe o versiune experimentală a bazei de date. În acest fel nu există riscuri majore pentru multitudinea de site-uri și sisteme informatice care se bazează pe ea.
SQLite este un motor de baze de date folosit browsere web, sisteme de operare, telefoane mobile și alte sisteme. SQLite este unul dintre cele patru formate recomandate pentru stocarea pe termen lung a seturilor de date de către Biblioteca Congresului.
Proiectul Naptime sau Big Sleep este o inovație destul de recentă. Google a vorbit despre asta public pentru prima dată chiar în această vară. Naptime a evoluat rapid în Big Sleep, ca parte a unei strânse colaborări între DeepMind, o companie de învățare automată achiziționată de Google în urmă cu câțiva ani, și Project Zero, echipa de cercetători în securitate dedicată găsirii defectelor și vulnerabilităților în orice tip de produs hardware sau software.
Big Sleep este conceput pentru a simula comportamentul unui om care caută vulnerabilități. După cum știm, AI este pricepută la programare. Google a anunțat în urmă cu câteva zile că peste 25% din tot codul pe care îl produce astăzi nu este generat de oameni. Software-ul este, de asemenea, capabil să demonstreze defecte, de exemplu, rulând scripturi Python în medii protejate și observând rezultatele.