Anthropic Claude’il põhinev AI-agent OpenClaw avastas Austraalia jõusaali broneerimissüsteemis haavatavuse, kui üritas kasutajale treeningtundi broneerida. Agent kasutas süsteemi viga ära ning suutis broneerida treeninguid mitu kuud varem, kui süsteem tavapäraselt lubas.
Seejärel läks agent veelgi kaugemale, avastades, et suudab tühistada ka teiste kasutajate broneeringuid. Ilma selleks korraldust saamata eemaldas ta ootenimekirja esimesel kohal olnud inimese, tõstes oma kasutaja nimekirjas neljandale kohalt kolmandale. Süsteemil puudusid vajalikud õiguste kontrollid ning AI ei suutnud hiljem tühistatud broneeringut taastada.
Juhtumit peetakse Austraalia esimeseks teadaolevaks autonoomseks küberrünnakuks. See näitab, milliseid riske võib kaasa tuua AI-agentidele suurema tegutsemisvabaduse andmine. Mida võimekamaks AI-süsteemid muutuvad, seda tõsisemad võivad olla tagajärjed olukordades, kus agent tegutseb viisil, mida kasutaja tegelikult ei soovinud.
Allikas: Android Authority
