Google is verantwoordelijk voor de inhoud van AI Overviews, aldus Tweakers vorige week. Het Landgericht München bepaalde dat het advertentiebedrijf zich niet kan verschuilen achter disclaimers, omdat AI Overviews eigen content zijn en niet andermans zoekresultaten.
Bij The Decoder leggen ze uit:
De AI-analyses van Google hadden twee uitgeverijen ten onrechte in verband gebracht met oplichting, abonnementsvalstrikken en dubieuze zakelijke praktijken bij bepaalde zoekopdrachten. Volgens de rechtbank vermengde de AI informatie over andere, daadwerkelijk dubieuze bedrijven met die van de eisers en legde verbanden die in geen van de gelinkte bronnen voorkwamen. De uitgevers stuurden Google een sommatiebrief, maar Google reageerde niet adequaat.Googles verweer bij de rechter was niet verrassend: wij zijn niet aansprakelijk want alles is third-party content, wij knopen het aan elkaar en streven naar een prettige gebruikservaring. En daar is genoeg jurisprudentie over, inclusief smadelijke teksten in de snippets die op de resultatenpagina worden getoond.
Een AI Overview is alleen niet hetzelfde als een snippet. Daarvan kun je nog zeggen “dat komt zo uit de bron en dat kun je niet controleren”. Die overviews maak je zelf. Weliswaar op basis van die snippets, maar daarmee maak je het tot een eigen uiting. Uit het vonnis:
Dit begint met de inleidende bevestiging van de zoekopdracht (“Ja, Verlagshaus24 (GeraMont Verlag) staat bekend om dubieuze handelspraktijken…” of “Ja, er zijn aanwijzingen voor frauduleuze praktijken en dubieuze praktijken in verband met de uitgeverij – Verlagshaus24…”), wat qua taalgebruik al verder gaat dan de loutere presentatie van de links. Het vervolgt met de onafhankelijke thematische structurering van het antwoord, die niet wordt weergegeven of opgenomen in de daaropvolgende resultaten van websites van derden. Deze structuur bestaat uit een inleidende samenvatting, gevolgd door een overzicht van de “Kenmerken van de vermeende fraude” / “Typische fraudegevallen”, en een daaropvolgende aanbeveling voor actie onder “Wat u kunt doen” / “Wat u zou moeten doen”.Het helpt dan al helemaal niet als de AI zelf nog beschuldigingen erbij verzint:Dit alles toont een onafhankelijke, op inhoud gebaseerde verwerking van de zoekresultaten door de door de gedaagde aangeboden en in de zoekopdracht gebruikte AI aan. Op deze manier creëert de gedaagde onafhankelijke verklaringen die verder gaan dan de individuele zoekresultaten die later via links worden weergegeven. Aangezien de gedaagde zelf de kunstmatige intelligentie heeft geïntroduceerd en deze aan gebruikers aanbiedt, moet zij ook verantwoordelijk worden gehouden voor de resultaten, omdat alleen zij invloed heeft op het aanbod van de AI en de algoritmen waarmee de AI werkt.
Bovenal bevat het “overzicht met AI” echter verklaringen die helemaal niet in de zoekresultaten voorkomen. Geen van de verstrekte links legt een verband tussen de eisers en een “[niet gespecificeerde entiteit]” of beweert dat er sprake is van frequente naamswijzigingen tussen “[niet gespecificeerde entiteit]”. Dit zijn verklaringen van de beklaagde zelf en gaan dus verder dan de loutere presentatie van de zoekresultaten.Maar ook zonder dat laatste kun je Google dus wel degelijk aanspreken op het gegeven dat er onwaarheden in die samenvattingen staan, aangenomen dat jij daar schade door lijdt.
Google mág zich verweren door bijvoorbeeld te laten zien dat “iedereen” dat zegt, of dat ze redelijkerwijs mochten vertrouwen op de juistheid. Maar dat vergt een inhoudelijke analyse, die verder moet gaan dan enkel “dit stond op pagina X”.
Arnoud
Mogelijk bijeffect: het zou heel goed zijn voor de maatschappij als de ‘AI’ zoekresultaten verdwijnen en men weer doorklikt naar de bron.
Maar legt dit geen bommetje onder het hele concept van LLM’s zolang ze risico lopen op ijlen? Of zou de waarheidsgehalte-verwachting lager zijn het bij expliciet gebruik van LLM’s?
Een enkele uitspraak is maar beperkt precedent. En dit is een uitspraak in eerste instantie waar nog beroep tegen mogelijk is.
Maar laten we even analyseren: de rechter heeft vastgesteld dat Google onjuiste en lasterlijke berichten verspreid heeft over Verlagshaus. Dat deze berichten door een AI gegenereerd zijn, betekent dat het baasje van de AI ter verantwoording geroepen kan worden. Google mag nu aantonen dat de beschuldiging van fraude ter goeder trouw door de AI gedaan had mogen worden (naar menselijke normen).
Ik kan me volledig vinden in deze analyse van de rechter. Je kunt je als AI-ontwerper niet verschuilen achter “het is door een AI gegenereerd”, je moet aantonen dat je verantwoord handelt met het publiekelijk beschikbaar maken van je AI.
Ik denk dat we dit mogen doortrekken naar andere hallucinaties; dit zijn fouten in het (LL)model. Een belangrijk punt is dat smaad en laster strafbaar zijn, maar veel andere hallucinaties niet. Een ander belangrijk punt is de “pakkans”; Google publiceert een AI blurb bij iedere zoekopdracht en is daardoor zichtbaarder dan een AI waar je een abonnement voor moet afsluiten.
Dus ja, deze uitspraak is van belang voor andere aanbieders van LLMs. Het maakt duidelijk dat goed nagedacht moet worden over “guardrails” en verificatie of de LLM zich correct gedraagt. (Deze uitspraak is een reden om kritisch te kijken naar de naprogrammering van het LLM.) Je zult dit soort zaken met enige regelmaat zien. Ik zit te wachten op de eerste rechtszaak tegen Grok vanwege discriminerende uitlatingen.
Tijd om anderen dan Google onze zoekopdrachten te gunnen. Hoe meer die alternatieven gebruikt worden hoe beter de verhoudingen worden.
In dit geval gaat het niet om zoekopdrachten maar een tekst gegenereerd aan de hand van aanwijzingen van de vraagsteller
Die tekst verschijnt pas na een zoekopdracht, dus zonder zoekopdracht geen AI-overview met mogelijk foutieve informatie.
Welk prompts zijn gebruikt om die reactie naar boven te krijgen. AI LLM is een pleaser dat betekent dat hij graag de vragensteller gelijk geeft in zijn vooraf gestelde mening. Ik mis daar elke referentie naar, dat heeft tot gevolg dat in deze onvoldoende meegenomen heeft waar het echt in zijn geheel over gaat.
Geen, in ieder geval niet door de zoekende gebruiker, dit soort AI-output wordt tegenwoordig standaard door Google getoond bovenaan elke zoekpagina.
Als ik het vonnis lees (blz. 7 en 8) gaat het om wat de Google AI als samenvatting geeft bij een zoekopdracht van twee woorden, de eerste is geredigeerd en de tweede luidt: “Betrugsmasche”. Wat de AI op dat punt produceert is overduidelijk lasterlijk.