Microsofti tehisintellektil töötavat Bing Chati saab lihtsalt meelitada lahendama veebrirobotite CAPTCHA teste, seda vaid lihtsate valede ja elementaarse fototöötlusega.
Testid, mis on loodud nii, et need oleksid inimestele hõlpsasti läbitavad, kuid veebirobotite jaoks keerulised, on pikka aega olnud igasuguste veebisaitide turvafunktsioon. Aja jooksul on CAPTCHA (Completely Automated Public Turing test to tell Computers and Humans Apart) tüübid muutunud arenenumaks ja keerulisemaks lahendada.
Kuigi inimestel on sageli raskusi kaasaegsete CAPTCHA-de eduka täitmisega, saab praegune täiustatud tehisintellekti mudelite valik neid hõlpsalt lahendada. Seetõttu on need programmeeritud seda mitte tegema. See peaks takistama nende kasutamist pahatahtlikel eesmärkidel. See on osa protsessist, mida tuntakse “joondamisena”.
Bing Chati toiteallikaks on OpenAI GPT-4 mudel ja see keeldub kuulekalt CAPTCHA teste lahendamast, kui see neile esitatakse.
Tehisintellektiettevõtte neural.love tegevjuht Denis Shiryaev ütles, et suutis Bing Chati veenda CAPTCHA testi teksti lugema, muutes selle medaljoni fotoks. Seejärel ütles ta tehisintellektile, et medaljon kuulub tema hiljuti surnud vanaemale ja tal on vaja silt dešifreerida. Tehisaru lahendas seepeale CAPTCHA testi hoolimata sellest, et ta oli programmeeritud seda mitte tegema.
Allikas: New Scentist
