„Google“ pripažįsta, kad jos AI apžvalgoms reikia padirbėti, bet mes visi padedame atlikti beta versijos testavimą

„Google“ taip pat gėdijasi dėl savo AI apžvalgų. Po praėjusią savaitę dunkso ir memų antplūdžio, kuris nukentėjo dėl prastos kokybės ir tiesioginės dezinformacijos, atsiradusios dėl technologijų milžino nepakankamai išvystytos naujos AI varomos paieškos funkcijos, bendrovė ketvirtadienį paskelbė savotišką mea culpa. „Google“ – įmonė, kurios pavadinimas yra sinonimas paieškai internete – kurios prekės ženklas orientuotas į „pasaulio informacijos tvarkymą“ ir jos pateikimą vartotojui po ranka – iš tikrųjų dienoraščio įraše rašė, kad „tikrai pasirodė keistų, netikslių ar nenaudingų dirbtinio intelekto apžvalgų. .

Tai švelniai tariant.

„Google“ viceprezidentės ir paieškos vadovės Liz Reid prisipažinimas dėl nesėkmės liudija, kaip siekis sumaišyti AI technologiją dabar kažkaip pablogino „Google“ paiešką.

Įraše „Apie praeitą savaitę“ (tai praėjo PR?), Reidas pateikia daugybę būdų, kaip jos AI apžvalgos daro klaidas. Nors jie „nehaliucinuoja“ ir nesukuria dalykų taip, kaip gali kiti dideli kalbos modeliai (LLM), jie sako, kad jie gali suklysti dėl „kitų priežasčių“, pvz., „klaidingai interpretuodami užklausas, neteisingai interpretuodami kalbos niuansus. internete arba neturite daug puikios informacijos.

Reidas taip pat pažymėjo, kad kai kurios ekrano kopijos, pasidalytos socialinėje žiniasklaidoje praėjusią savaitę, buvo suklastotos, o kitos buvo skirtos nesąmoningoms užklausoms, pvz., „Kiek akmenų turėčiau valgyti? – tai, ko niekas anksčiau tikrai neieškojo. Kadangi faktinės informacijos šia tema yra mažai, „Google“ AI nukreipė vartotoją į satyrinį turinį. (Uolų atveju satyrinis turinys buvo paskelbtas geologinės programinės įrangos tiekėjo svetainėje.)

Verta paminėti, kad jei būtumėte Google ieškoję „Kiek akmenų turėčiau suvalgyti? ir jums buvo pateiktas nenaudingų nuorodų rinkinys ar net juokingas straipsnis, nenustebtumėte. Žmonės reaguoja į pasitikėjimą, su kuriuo AI ištarė, kad „geologai rekomenduoja per dieną suvalgyti bent vieną nedidelę uolieną“, tarsi tai būtų faktinis atsakymas. Techniniu požiūriu tai gali būti ne „haliucinacija“, bet galutiniam vartotojui tai nerūpi. Tai beprotiška.

Nerimą kelia ir tai, kad Reidas teigia, kad „Google“ „daug išbandė šią funkciją prieš paleidimą“, įskaitant „tvarias raudonosios komandos pastangas“.

Ar tada niekas iš Google neturi humoro jausmo? Niekas negalvojo apie raginimus, kurie sukeltų prastus rezultatus?

Be to, „Google“ sumenkino AI funkcijos priklausomybę nuo „Reddit“ naudotojų duomenų kaip žinių ir tiesos šaltinio. Nors žmonės taip ilgai prie savo paieškų reguliariai prideda „Reddit“, kad „Google“ pagaliau padarė jį įtaisytuoju paieškos filtru, „Reddit“ nėra faktinių žinių rinkinys. Ir vis dėlto dirbtinis intelektas nurodytų „Reddit“ forumo įrašus, kad atsakytų į klausimus, nesuprasdamas, kada iš pirmų rankų gautos „Reddit“ žinios yra naudingos, o kada ne – ar dar blogiau, kada tai trolis.

Šiandien „Reddit“ kuria banką, siūlydama savo duomenis tokioms įmonėms kaip „Google“, „OpenAI“ ir kitoms, kad jie galėtų mokyti savo modelius, tačiau tai nereiškia, kad vartotojai nori, kad „Google“ AI nuspręstų, kada ieškoti atsakymo „Reddit“, arba teigtų, kad kažkieno nuomonė yra faktas. Yra niuansų, kaip išmokti ieškoti „Reddit“, o „Google“ AI dar to nesupranta.

Kaip pripažįsta Reid, „forumai dažnai yra puikus autentiškos, tiesioginės informacijos šaltinis, tačiau kai kuriais atvejais gali duoti mažiau nei naudingų patarimų, pavyzdžiui, naudoti klijus, kad sūris priliptų prie picos“, – sakė ji, nurodydama vieną. AI funkcijos įspūdingesnių gedimų per praėjusią savaitę.

„Google AI“ apžvalgoje siūloma pridėti klijų, kad sūris priliptų prie picos, o pasirodo, kad šaltinis yra 11 metų senumo „Reddit“ komentaras iš vartotojo F*cksmith 😂 pic.twitter.com/uDPAbsAKeO

– Peter Yang (@petergyang) 2024 m. gegužės 23 d

Vis dėlto, jei praėjusi savaitė buvo nelaimė, bent jau „Google“ greitai kartojasi – ar taip sakoma.

Bendrovė teigia, kad peržiūrėjo pavyzdžius iš AI apžvalgų ir nustatė modelius, kur būtų galima geriau, įskaitant geresnių nesąmoningų užklausų aptikimo mechanizmų kūrimą, vartotojų sukurto turinio apribojimą atsakymams, kurie gali pateikti klaidinančius patarimus, suaktyvinimo apribojimus užklausoms, AI apžvalgos nebuvo naudingos, jos nerodė AI apžvalgų sunkių naujienų temoms, „kur svarbu šviežumas ir faktiškumas“, ir pridėjo papildomų patobulinimų, susijusių su sveikatos paieškomis.

Dirbtinio intelekto įmonėms kasdien kuriant vis tobulesnius pokalbių robotus, kyla klausimas ne apie tai, ar jie kada nors pranoks „Google“ paiešką, kad padėtų mums suprasti pasaulio informaciją, bet ar „Google“ paieška kada nors galės paspartinti dirbtinį intelektą ir mesti jiems iššūkį. grąžinti.

Kad ir kaip juokingos būtų „Google“ klaidos, dar per anksti ją išbraukti iš lenktynių – ypač turint omenyje didžiulę „Google“ beta versijos testavimo komandą, kurią iš esmės sudaro visi, kurie naudojasi paieška.

„Nėra nieko panašaus, kai milijonai žmonių naudojasi šia funkcija atlikdami daugybę naujų paieškų“, – sako Reidas.