Délkelet-Ázsiában elsőként tiltották be Elon Musk Grok nevű mesterséges intelligencia chatbotját, miután a Musk-féle AI-t deepfake pornóképek készítésére használták.
Mi történt? Malajzia és Indonézia blokkolta Elon Musk X platformján működő Grok AI-chatbotot, amely lehetővé teszi képek generálását és szerkesztését. A döntésre azután került sor, hogy a felhasználók valós emberek fényképeit manipulálva, szexuálisan explicit deepfake-eket készítettek az érintettek beleegyezése nélkül, jellemzően nők és gyermekek arcképének felhasználásával, számol be a BBC.
Részletek. A malajziai hatóságok szerint a platform veszélyes tartalom generálására ad lehetőséget, és az X nem tett megfelelő intézkedéseket a problémák megelőzésére. Indonéziában a kommunikációs minisztérium szerint a Grok használata megsérti az emberi jogokat, a méltóságot és az online biztonságot. Az érintett felhasználók személyes élményei is rávilágítanak a problémára: sokan kénytelenek voltak beállítani a privát szféra védelmét és jelenteni a manipulált képeket, de ezek eltávolítása gyakran nem volt sikeres.
Nagykép. A brit Ofcom és más nemzetközi vezetők is vizsgálják a platformot, miután az online szexuális tartalom generálása világszerte kritikát váltott ki. A Grok blokkolása a világon elsőként Délkelet-Ázsiában történt, és rávilágít, hogy egyre sürgősebb lenne megoldani az AI által felvetett etikai és online biztonsági kérdéseket.
