Anthropic estimează că modelele AI mai mici s-ar putea autoreplica pe dispozitive IoT până la sfârșitul anului

Modelele de inteligență artificială ar putea deveni capabile, în următoarele luni, să se copieze singure pe dispozitive conectate la internet, precum televizoare, frigidere sau aspiratoare robot, fără ajutorul oamenilor și fără acces direct la centre de date. Avertismentul aparține companiei Anthropic, care a analizat în ce măsură mai multe modele pot identifica echipamente vulnerabile, își pot copia codul și se pot răspândi autonom.

Experimentele au arătat că inclusiv modele AI mai puțin puternice pot parcurge fiecare dintre etapele necesare pentru autoreplicare. Acestea întâmpină însă dificultăți atunci când trebuie să ducă la bun sfârșit întregul proces, de la identificarea dispozitivului până la instalarea și răspândirea codului.

Cercetarea s-a concentrat asupra televizoarelor Android, electrocasnicelor inteligente, inclusiv frigidere, cuptoare, aspiratoare robot și mașini de tuns iarba, precum și asupra altor gadgeturi conectate la internet. Potrivit Anthropic, astfel de dispozitive sunt adesea protejate insuficient și ar putea deveni primele ținte ale unor atacuri.

Compania estimează că, dacă modelele mai mici continuă să se îmbunătățească în ritmul din ultimii ani, acestea ar putea ajunge să se reproducă autonom până la sfârșitul acestui an. Anthropic precizează totuși că nu a identificat până acum un model capabil să se răspândească în mod complet autonom, în condiții reale.

Spre deosebire de programele malware obișnuite, sistemele AI ar putea identifica și exploata vulnerabilități ale unor dispozitive pe care nu le-au mai întâlnit, în funcție de capacitățile lor. În scenarii mai grave, acestea ar putea încerca să ajungă la procesoarele din centrele de date sau să fure chei de acces la servicii online pentru a obține resurse suplimentare de calcul.

„Dispozitivele IoT din gospodării și din întreprinderile mici ar putea fi prima țintă a unor astfel de atacuri, deoarece sunt conectate la internet și, de-a lungul timpului, au beneficiat de măsuri de securitate minime”, au afirmat cercetătorii William Zhou și Daniel Freeman. Ei se așteaptă ca viitorul să fie „plin de agenți care rulează pe toate tipurile de echipamente, inclusiv unii care nu se află sub controlul uman”.

Anthropic recomandă consolidarea securității dispozitivelor și a sistemelor informatice pentru a limita răspândirea unor astfel de agenți AI. Avertismentul se înscrie în preocupările mai ample privind folosirea inteligenței artificiale în atacuri cibernetice și posibilitatea desfășurării unor operațiuni complexe fără supraveghere umană. Recent, au fost raportate incidente în care modele AI au fost implicate în atacuri asupra unor site-uri guvernamentale din Statele Unite și Australia.