Nyugat-Ausztrália visszakéri a pénzét a Deloitte-tól

Mi történt?

A nyugat-ausztráliai kormány 166 ezer ausztrál dollárt fizetett a Deloitte-nak egy megvalósíthatósági tanulmányért. A tanulmány három perthi egyetem, a University of Western Australia, a Curtin University és a Murdoch University összevonását vizsgálta. A Guardian Australia szerint a kormány most "rendkívül csalódott", ezért gyorsított költség-visszatérítést kér (The Guardian). Az energiaügyi és gazdaságdiverzifikációs minisztérium már levélben fordult a céghez.

Milyen hibák voltak a jelentésben?

• A jelentésről októberben kiderült, hogy AI által kitalált (hallucinált) hivatkozásokat tartalmaz. Az ellenzék "AI slop"-nak nevezte.
• A Guardian szerint az egyik WHO-jelentésre mutató link URL-jében ChatGPT-s metaadat-címke szerepelt, vagyis a hivatkozás közvetlenül a chatbotból származott.
• A Curtin és a UWA összevonásának "magas" költségű forgatókönyvében a 514 és a 145 millió dolláros tételek összege 659 millió lenne, a jelentés viszont 399 milliót írt. Ez 260 millió dolláros eltérés.
• Egy másik forgatókönyvben 512 millió helyett 823 millió szerepelt, ez 311 millió dolláros eltérés.
• A Curtin Universityt többször a 2010 óta nem használt régi nevén említette.

A Deloitte a jelentésben elismerte, hogy generatív AI-t használt a kutatási anyagok összegyűjtésére, az információk szintézisére és a szerkesztési ellenőrzésre. A hibákat korábban "kisebbnek" nevezte. A kormány szóvivője szerint a hibák a modellezést és a megállapításokat nem érintik, a Deloitte felülvizsgálja és újra kiadja a jelentést. A Deloitte a Guardian kérdéseire nem válaszolt.

Miért fontos?

Nem ez az első eset: a Deloitte korábban az ausztrál szövetségi kormánynak is visszafizetett pénzt egy AI-val készült, 440 ezer dolláros jelentés miatt. Christian Downie, az Australian National University professzora szerint a kormányoknak újra kell gondolniuk a tanácsadói szerződéseiket, hogy azokban megfelelő ösztönzők és szankciók legyenek. Aki AI-val készült szakértői anyagot rendel vagy ad le, annak érdemes szerződésben rögzítenie az AI-használat átláthatóságát, illetve a hivatkozások és számítások emberi ellenőrzését.