Amazon heeft ai-startup Perplexity gesommeerd diens winkelagent Comet niet meer bij Amazon te laten shoppen. Het conflict draait om de vraag of bots zich moeten identificeren en wie aansprakelijk is voor acties van ai-agenten.
Amazon stuurde Perplexity recent een formele cease-and-desist-brief. Volgens de retailreus schendt Comet de voorwaarden door zich niet als ai-agent kenbaar te maken. Perplexity vindt dat een ai-agent die in opdracht van een mens handelt, automatisch dezelfde permissies heeft als die mens. De ai-startup reageerde fel in een blogpost en noemde de juridische stap ‘een bedreiging voor alle internetgebruikers.’
Amazon benadrukte in een reactie daarop dat andere diensten, zoals reisbureaus en maaltijdbezorgapps, zich wél volgens de gebruiksvoorwaarden identificeren wanneer zij namens klanten handelen. ‘Het is hoe anderen opereren,’ aldus het bedrijf over de privacyrechten van ai-agents.
Ai-agenten als concurrent voor Amazon
Hoewel Amazon stelt dat Perplexity er eenvoudig voor kan zorgen dat diens ai-agent zich netjes identificeert, blijft de vraag of daarmee de ruzie is beslecht. Perplexity stelt dat het vermoedt dat Amazon de eigen shoppingbot Rufus voor wil trekken omdat externe bots zich niet zullen laten verleiden tot impulsaankopen of gesponsorde producten. Eerder zorgde ai voor een val advertentie-inkomsten via zoekmachines, nu dreigt dus een drop doordat consumenten hun aankopen en reserveringen massaal gaan uitbesteden aan ai-agenten.
Het is overigens niet de eerste keer dat Perplexity ruzie zoekt over ai. Cloudflare beschuldigde het bedrijf deze zomer van het omzeilen van blokkades tegen scrapende ai-bots. Voorstanders wezen er toen op dat de ai slechts websites bezocht op verzoek van gebruikers, vergelijkbaar met een menselijke browser. Toch gebruikte Perplexity methoden die zijn identiteit verhulden, wat de discussie verder aanwakkerde.
Wie ís eigenlijk aansprakelijk voor een ai-agent?
‘Dit is een ingewikkelde kwestie. Amazon beroept zich op haar algemene voorwaarden. De eerste vraag is echter of die voorwaarden wel van toepassing zijn,’ legt Stephan Mulders uit aan Computable. Hij is advocaat bij Blenheim in Amsterdam. ‘Algemene voorwaarden zijn van toepassing als ze aanvaard zijn. De agent zelf is geen rechtssubject en kan de voorwaarden dus niet accepteren. De agent kan dat wel in naam van de consument doen, maar dan is de vraag in hoeverre je als consument invloed had op de agent en hoeverre dat in jouw risicosfeer valt. De aansprakelijkheid van Perpexity ligt nog verder weg omdat zij de instructies niet geven en dus minder controle hebben over de agent. Als de agent wordt aangemerkt als een general purpose ai-model met systemisch risico, dan zal Perplexity dit ook moeten meenemen in zijn risicoanalyses. Het enkele gegeven dat Amazon hinder ondervindt van Perplexity’s agents is volgens mij onvoldoende voor aansprakelijkheid.’
‘De discussie over ai-aansprakelijkheid loopt al een tijdje,’ weet Mulders. ‘Wie is bijvoorbeeld aansprakelijk bij een ongeluk met een zelfrijdende auto: de fabrikant, de eigenaar, of de inzittende(n)? Dit zou geregeld worden in de ai-aansprakelijkheidsrichtlijn. Echter, die is door de Europese Commissie teruggetrokken. Dus deze discussie zal nog wel even duren.’
