EY a retras un studiu despre programele de recompense şi loialitate, care conţinea aparente halucinaţii generate de AI şi note de subsol false, într-un exemplu clar despre vulnerabilitățile noilor tehnologii.
Studiul, intitulat „Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems”, a fost folosit de consultanţii EY din Canada pentru promovarea serviciilor de securitate cibernetică, însă a fost eliminat după ce cercetători online au descoperit erori grave.
Citește și: Oglinzi orbitale: compania vrea să trimită 50.000 de sateliți pentru iluminarea Pământului noaptea
Potrivit grupului de cercetare GPTZero, raportul conţinea date inventate, citări atribuite greşit şi făcea referire la un raport McKinsey care nu exista. În plus, peste şase note de subsol trimiteau către pagini web inexistente sau fără informaţii relevante.
De ce halucinațiile AI reprezintă o problemă pentru corporații?
Halucinațiile generate de AI pot induce în eroare cercetătorii şi clienţii, afectând credibilitatea companiilor. În cazul EY, raportul fals a fost publicat pe site-ul oficial, ceea ce a amplificat riscul de dezinformare.
- Raportul estima piaţa programelor de loialitate la 200 de miliarde de dolari
- Valoarea punctelor de loialitate nefolosite era indicată ca fiind aceeaşi cu piaţa totală
- Mai mult de şase note de subsol trimiteau către pagini inexistente
- Grupul GPTZero a avertizat asupra riscului de «otrăvire» a fondului de cunoştinţe online
Impactul halucinațiilor AI asupra sectorului de consultanță
Problemele generate de AI nu sunt izolate. Anul trecut, Deloitte a fost nevoită să revizuiască un raport pentru un guvern canadian după descoperirea citărilor false, iar Sullivan & Cromwell a făcut scuze pentru citări juridice greşite într-un document oficial.
În ciuda acestor incidente, firmele de consultanţă continuă să investească masiv în AI, promovând utilizarea acesteia în proiecte de transformare digitală şi guvernanţă responsabilă.
EY susţinea în octombrie că veniturile din AI au crescut cu 30% în ultimul an, iar 15.000 de angajaţi lucrau la proiecte pentru clienţi, de la transformări corporative la implementarea de politici AI.
Compania a declarat că studiul retras nu era legat de activitatea pentru vreun client şi că analizează circumstanţele publicării raportului. În prezent, EY a eliminat studiul de pe site-ul oficial, dar riscurile legate de încrederea în AI rămân evidente.