Accountants- en advieskantoor PwC heeft een enorme flater geslagen door een aantal potentiële klanten rapporten te sturen vol met verzonnen informatie. Vier documenten over kunstmatige intelligentie en elektrische voertuigen barsten van zogeheten ‘ai-hallucinaties’, aldus Financial Times. De Britse zakenkrant baseert zich op analyses van GPTZero, specialist op gebied van ai-detectie.
GPTZero haalde een aantal publicaties van PwC door zijn Hallucination Detector, die bronnen checkt en met ai referenties vindt. Deze ai onderscheidt door ai gegenereerde bronnen van bronnen die van mensen komen.
Betrokken PwC-rapporten bevatten op grote schaal verzonnen bronnen, niet-bestaande artikelen en foutieve citaten, zoals een fictief MIT-onderzoek. Uit software-analyse blijkt dat het overgrote deel van de inhoud rechtstreeks door ai is geschreven. Veel voetnoten verwijzen naar artikelen en onderzoeken die in werkelijkheid niet bestaan. Ook van de structuur maakte PwC een potje: de voetnoten staan in een onlogische, niet-chronologische volgorde, waarbij latere nummers vóór eerdere nummers verschijnen.
Door het stof
PwC gaat diep door het stof. Het regiokantoor in het Midden-Oosten die de rapporten verstuurde, neemt de situatie hoog op. De verkeerde bronnen worden gecorrigeerd. De timing is pijnlijk: juist de ‘Big Four’-kantoren zoals PwC verdienen hun geld met het begeleiden van bedrijven bij de overstap naar ai.
Dat het kantoor nu zelf onderuit gaat door een gebrekkige kwaliteitscontrole op diezelfde techniek, zorgt voor reputatieschade. Mede door de komst van ai neemt PwC ook in Nederland minder nieuwe mensen aan. Ook de accountancy- en fiscale adviestak gaan snel over op ai, wat arbeidskosten scheelt maar ook risico’s brengt.
Het geeft meteen de vraag waarom er niet op hallucinatie met AI en als persoon gecheckt is bij het opstellen van een rapport.
Blijkbaar leidt de AI-lamme de blinde.
Dit toont wel aan dat AI nu al creatief kan zijn door iets nieuws voort te brengen 🙂
De uitnodiging aan het eind van een AI-antwoord kan daarom als volgt geformuleerd worden: Zal ik er nog ff wat voor je bijverzinnen of vind je het wel zat zo ?
Ik vroeg chatgtp zojuist wat die er zelf van vond.
Nou, dit:
“AI hallucineert. Mensen die de output ongecontroleerd doorsturen, publiceren de hallucinatie. Dat onderscheid is belangrijk: het model kan fouten maken, maar de verantwoordelijkheid voor een professioneel rapport blijft uiteindelijk bij de organisatie en de mensen die het uitbrengen.”
Als een echte baas de verantwoording afschuiven.
Zal ik er nog ff wat voor je bijverzinnen of vind je het wel zat zo ?