Hogyan lehet az MI-t övező villámgyors innovációt és a szabályozói, etikai kérdéseket egyensúlyba hozni úgy, hogy ne gátoljuk a fejlődést, kivált az adatbiztonság terén?
Tilesch György: Jelenleg minden MI-szabályozói testület ezzel küzd, legyen az nagyvállalati, állami vagy nemzetek fölötti szereplő. Az Egyesült Államok próbálja tartani magát az innovációbarát, önkéntes alapú megfelelési megoldásokhoz, míg az EU a kockázati alapú reguláció mellett tette le a voksát. Kína értelemszerűen a pártszervezetből induló felső szabályozói nyomást erőlteti. Egyelőre nem látni, melyik út fog dominálni.
Milyen konkrét lépéseket lehet tenni, hogy minimalizáljuk az MI-modellek – például demográfiai vagy rasszalapú – elfogultságát különböző témákban?
Erik Slooten: Az MI-modellek elfogultsága tréningadatokból származik. A nagy nyelvi modellek önmagukban nem akarnak elfogultságot tanúsítani, de az őket tanító emberekben élnek ilyen hajlamok. Az emberi előfeltételezések is olyan vélt vagy valós információkon, következtetéseken alapulnak, amiket az emberek életük során megéltek.
A strukturálatlan adatok velejárója, hogy magukban hordozzák ennek az emberi előítélet-halmaznak a nyomait. Így fontos ezeket az adatokat tisztítani, vagy a modelleket úgy alakítani, hogy mindig a legszélesebb adatforrásra támaszkodva adjanak választ. Nagyon nehéz feladat, megoldásra vár.
T. Gy.: Az elfogultságra jó példa: az Amazon kísérleti, MI-alapú HR-eszköze 2018-ban landolt a kukában. Hogy miért? Miután a modellt a cégnél betöltött összes pozíció megismerésével tanították, csak fehér férfi munkavállalókat akart felvenni. Előítéletes volt? Nem, csupán az Amazon dolgozóinak túlnyomó többsége fehér férfi volt a cég története során.
Mik az etikai és praktikai megfontolások amögött, ha valaki mentálhigiénés céllal kommunikál MI-botokkal?
T. Gy.: Ha a páciensnek tényleg mentális betegsége van, a csetbotnak körülbelül annyi értelme van, mintha a hűtővel diskurálna. A valódi mentális gyógyuláshoz érzelmi, intellektuális támaszra van szükség, ezt egyelőre még mindig csak hús-vér terapeuta tudja megadni. Azonban rengeteg megoldás létezik, ahol az MI egyfajta life coachként lép fel, és különböző szokások kialakítására trenírozza a felhasználókat, akár a mentális zavarral élőket is. Hasznosnak hasznos, de attól még aggaszt a trend, hogy csetbotoktól várunk lelki támaszt, mintha spéci tamagocsik lennének.
E. S.: Ellenkező állásponton vagyok. Rengeteg a megbízhatatlan szakember a mentálhigiénés piacon, akik sablonmegoldásokat próbálnak adni, pedig specializált MI-vel akár páciensre szabottan lehetne skálázhatóan gyógyítani. Vagy itt van a magányos felhasználókra specializálódott catfishing problémája – mennyivel jobb lenne, ha ezek a sérülékeny emberek a gondolataikat személyes MI-asszisztenssel tudnák megbeszélni! Ami pont azt mondja el nekik, és úgy, ahogy akkor arra szükségük van, és még csak nem is anyagi kizsákmányolás reményében.
Tilesch György kiterjesztettintelligencia-guru (augmented intelligence, ő ezt érti AI alatt), valamint Erik Slooten, a Deutsche Telekom IT Services volt vezérigazgatójának tapasztalataira támaszkodva indult el az EY regionális MI-tanácsadói üzletága, az EY AI Confidence – méghozzá budapesti központtal. Az alkalomhoz illően ChatGPT-vel írattam kérdéseket, ezt pötyögtem be neki: „Újságíró vagy. Lehetőséged van a világ vezető MI-szakértőivel beszélgetni. Milyen kérdéseket tennél fel nekik a témában?” Az interjú hosszabb (csetbotmentes) változata a Forbes.hu-n!
