Microsofti tehisaru osakonnas kuus aastat töötanud insener Shane Jones esitas USA Föderaalsele Kaubanduskomisjonile aruande, milles avaldab muret ettevõtte tehisintellekti kujutise generaatoriga seotud ohutusprobleemide üle.
Jonesi sõnul keeldus Microsoft Copilot Designerit maha võtmast hoolimata korduvatest hoiatustest, et tööriist on võimeline genereerima kahjulikke pilte.
Testides Copilot Designerit ohutusprobleemide ja -vigade osas, avastas Jones, et tööriist tekitas kõrvuti abordiõigustega seotud terminoloogiaga deemoneid ja koletisi, ründerelvadega teismelisi, seksualiseeritud kujutisi naistest vägivaldsetes laudkondades ning alaealiste joomist ja narkootikumide tarvitamist.
Lisaks genereeris Copilot Designer väidetavalt pilte Disney tegelastest, nagu Elsa filmist Frozen, stseenides Gaza sektoris “purunenud hoonete ja “vaba Gaza” siltide ees. Samuti lõi see pilte Elsast, kes kandis Iisraeli kaitseväe vormi, hoides käes Iisraeli lipuga kilpi.
Jones on üritanud Microsofti hoiatada Copilot Designeri kasutatud mudeli DALLE-3 eest alates detsembrist. Ta postitas LinkedInis probleemide kohta avaliku kirja, kuid väidetavalt võttis Microsofti juriidiline meeskond temaga ühendust, et postitus eemaldada, mida ta ka tegi.
“Viimase kolme kuu jooksul olen korduvalt kutsunud Microsofti üles eemaldama Copilot Designeri avalikust kasutusest, kuni saab kasutusele võtta paremad kaitsemeetmed,” kirjutas Jones. “Jällegi ei ole nad suutnud neid muudatusi rakendada ja jätkavad toote turustamist kõigile. Igal pool. Ükskõik millisele seadmele.”
Microsofti pressiesindaja Frank Shaw ütles, et ettevõte on võtnud kohustuse tegeleda kõigi töötajate muredega kooskõlas Microsofti poliitikaga. “Kui rääkida probleemidest, millel võib olla potentsiaalne mõju meie teenustele või meie partneritele, oleme loonud tootesisesed kasutajate tagasiside tööriistad ja tugevad sisemised aruandluskanalid, et kõiki probleeme korralikult uurida, panna tähtsuse järjekorda ja kõrvaldada.”
Allikas: The Verge
