„Pomluva“ AI Overviews může Google dostat na lavici obžalovaných
Případ byl právě postoupen federálnímu soudu USA.
Vyhledávač Google již není jen vyhledávačem. Od té doby, co Google začal integrovat funkci „AI Overviews“, je to také chatbot založený na umělé inteligenci, který odpovídá na otázky uživatelů, aniž by klikal na odkazy. Problém je v tom, že základní technologie, velké jazykové modely, fungují na základě pravděpodobnosti, takže mají tendenci vymýšlet odpovědi, když si nejsou zcela jisty, jak odpovědět.
Pravděpodobná lež. Tentokrát může vymyšlená odpověď od AI Overviews nakonec posadit Google na lavici obžalovaných. Žalobcem je Wolf River Electric, solární energetická společnost z Minnesoty. A původ žaloby je, jakkoli to může znít podivně, žaloba, která nikdy nebyla podána.
Podle právníků energetické společnosti vyhledání termínů „Wolf River Electric lawsuit“ v Googlu vedlo AI k pomlouvačné odpovědi . Uvádějí případ, kdy AI Overviews odpovědělo, že generální prokurátor Minnesoty podal žalobu na Wolf River Electric za „podvodné prodejní praktiky“, jako je lhaní zákazníkům o tom, kolik ušetří, a podvádění majitelů domů tím, že je nutí podepisovat smlouvy se skrytými poplatky.
AI případ sebevědomě představil a jmenovitě uvedl čtyři vedoucí pracovníky společnosti: Justina Nilsena, Vladimira Marčenka, Luku Bozeka a Jonathana Latchama, a dokonce ukázal fotografii Nilsena spolu s falešnými obviněními. Na podporu svých tvrzení AI uvedl čtyři odkazy: tři novinové články a prohlášení generálního prokurátora. Žádný z odkazů však nezmiňoval žalobu proti Wolf River Electric.
Není to poprvé. Tento typ chyby je známý jako „halucinace“ a je velmi častý v jazykových modelech kvůli tomu, jak sestavují svou odpověď a předpovídají následující slova, někdy přetvářejí původní chybu na věrohodnou lež s nejrůznějšími vymyšlenými odbočkami, jako v hře na telefon.
Když Google poprvé začal integrovat AI Overview do vyhledávače, musel jej odstranit z některých vyhledávacích dotazů, zejména v sekcích receptů a výživy, protože doporučoval přidávat lepidlo do pizzy nebo jíst jeden kámen denně, aby člověk zůstal zdravý.
Jedna odpověď na otázku. Wolf River Electric tvrdí, že několik zákazníků zrušilo smlouvy v hodnotě až 150 000 dolarů kvůli tomu, co si přečetli v recenzích AI. Problém je v tom, že odpovědi v recenzích AI jsou personalizované – zobrazují se za běhu – a proto se mohou lišit od otázky k otázce.
To právníky Wolf River Electric netrápí, protože vědí, že se to může stát znovu. „Tato žaloba se netýká pouze ochrany reputace naší společnosti; týká se ochrany spravedlnosti, pravdy a odpovědnosti v éře umělé inteligence,“ říká Nicholas Kasprowicz , hlavní právní poradce společnosti.
David proti Goliášovi. Případ byl v březnu podán k soudu státu a právě byl postoupen federálnímu soudu USA. Může nakonec vytvořit soudní precedens v otázce, zda technologická společnost nese odpovědnost za generování a šíření dezinformací pomocí svého AI. Odpověď na tuto otázku může být zlomovým momentem pro AI společnosti, které se dlouho snažily vyhnout odpovědnosti za výsledky svých jazykových modelů.
Google se na svou obranu označil incident za neškodnou událost. „Převážná většina našich recenzí AI je přesná a užitečná, ale stejně jako u každé nové technologie mohou nastat chyby,“ vysvětlil zástupce společnosti. Google tvrdí, že na problém rychle reagoval, jakmile se o něm dozvěděl, v souladu s nedávnými snahami poskytnout uživatelům možnost opravovat chyby AI.
