Google AI Overviews ble annonsert for et par uker siden på Google I/O, og de har allerede vist seg å være ganske kontroversielle. Målet å gi svar av høy kvalitet til spørsmålene dine oppsummert fra nettet, men en rekke nyere X (tidligere Twitter) tråder vis hvor stor feil den allerede har vist seg å være.
Responsen som gikk viralt innebærer en svært tvilsom pizzaoppskrift. Som rapportert, når du ber Google om et svar på spørsmålet om «ost som ikke fester seg til pizza», foreslår AI-oversikten å legge til giftfritt lim til pizzaen din for å forhindre at osten sklir av. De nøyaktige ordene AI-oversikten ga er som følger: «Du kan også legge til omtrent 1/8 kopp giftfritt lim til sausen for å gi den mer klebrighet.» Hvor ble det Google AI-oversikt få informasjonen som kilde? En 11 år gammel Reddit-kommentar fra denne trådeni det som tydeligvis var en spøk.
— SG-r01 (@heavenrend) 22. mai 2024
Ordene «ost som ikke fester seg til pizza» genererte denne uventede og morsomme responsen, og internett har en feltdag med det. Google AI Overview-svaret har siden blitt viralt, med noen prøver til og med limpizza bare for å gjøre poenget.
Det skal bemerkes at vi har sett en massiv økning i Reddit og foruminnlegg som dukker opp høyere i Google-søk. Det er også verdt å merke seg at Reddit nylig signerte en avtale på 60 millioner dollar for å la Google trene modellene sine på Reddit-innhold. Det er ikke vanskelig å koble prikkene til hvordan dette kan ha skjedd.
Det er imidlertid ikke bare Reddit. En annen AI Overview ble lagt ut på nettet med et svar på «hvor mange steiner skal jeg spise hver dag», som henter informasjon direkte fra The Onion.
henne pic.twitter.com/FGbvO923gk
— Tim Onion (@oneunderscore__) 23. mai 2024
En del av problemet er den absolutte overbevisningen der AI Overviews leverer sine svar. Det gir ikke opp en lenke til en Onion-artikkel og lar deg gjøre avgjørelsen. I stedet behandler den hver kilde som om den er Wikipedia og leverer informasjon i full fortrolighet.
Google hevder at deres AI-oversikter gir brukerne informasjon av høy kvalitet, og at slike feil er uvanlige. Her er det offisielle svaret gitt til Moyens I/O av Google: «Det store flertallet av AI-oversikter gir informasjon av høy kvalitet, med lenker for å grave dypere på nettet. Mange av eksemplene vi har sett har vært uvanlige forespørsler, og vi har også sett eksempler som ble behandlet eller som vi ikke kunne reprodusere. Vi gjennomførte omfattende testing før vi lanserte denne nye opplevelsen, og som med andre funksjoner vi har lansert i Søk, setter vi pris på tilbakemeldingen. Vi iverksetter raske tiltak der det er hensiktsmessig i henhold til innholdsretningslinjene våre, og bruker disse eksemplene til å utvikle bredere forbedringer av systemene våre, hvorav noen allerede har begynt å rulle ut.»
Det virker som om noen av disse AI-oversiktene vil være vanskelige å korrigere hvis de ikke kan reproduseres. De «bredere forbedringene» må være løsningen, og siden Google sier at de allerede er i arbeid, vil vi forhåpentligvis begynne å se noen bedre søk snart. Vi må se om Google reagerer på situasjonen lenger utover den uttalelsen. Etter å ha mottatt negative tilbakemeldinger rundt sin bildegenerering i Gemini tidligere i år, Google måtte be om unnskyldning og trekke den ned for å fikse problemene.
For nå er imidlertid begge gode påminnelser om hvor forsiktige vi må være når vi stoler på AI-motorer for informasjon. Google AI-oversikt startet rulles ut til alle i USA tidligere denne måneden, og flere land kommer snart. Men med svar som dette kan det være flere som søker etter en måte å slå den av enn Google forventet.
Støtt vårt arbeid ❤️
Hvis du likte denne artikkelen, vurder å gi en tips for å hjelpe oss med å fortsette å publisere kvalitetsinnhold.
