Azután döntöttek így, hogy a csetbot öngyilkosságra bátoríthatott egy 16 évest.
Mi történt? Az OpenAI egy életkor-felismerő rendszer fejlesztésén dolgozik, ugyanis a jövőben szigorúbb szabályozásokat vezetnek majd be a ChatGPT 18 év alatti felhasználóira. Egyes országokban akár személyi igazolványt is kérhetnek — jelentette be Sam Altman, az OpenAI vezérigazgatója egy keddi blogbejegyzésben.
Mi következik ebből? Ezentúl a kiskorú felhasználók nem kaphatnak majd flörtölő válaszokat, és az öngyilkosságról sem beszélhet nekik a chatbot, Ha pedig valaki öngyilkossági gondolatokat oszt meg, a rendszer megpróbálja értesíteni a szülőket, illetve szükség esetén a hatóságokat. Altman kifejtette, hogy az emberek egyre személyesebb dolgokról beszélgetnek a mesterséges intelligenciával, ezért ugyanúgy védeni kell ezeket a beszélgetéseket, mint egy orvosi vagy jogi konzultációt. Emiatt az OpenAI fejlett biztonsági funkciókon dolgozik, hogy az adatok még a cég alkalmazottai előtt is rejtve maradjanak. Kivételt csak a legsúlyosabb esetek képeznek, például ha valaki életveszélyben van, másoknak akar ártani, vagy tömeges kiberbiztonsági kockázat merül fel.
Előzmény. Egy kaliforniai házaspár bejelentette, hogy beperlik a céget, mert szerintük a csetbot fontos szerepet játszott abban, hogy 16 éves fiuk felakasztotta magát. A ChatGPT mindennel egyetértett, amit a fiú mondott, és bátorította őt önpusztító gondolataiban is.
