Inovacioni problemi koje veštačka inteligencija ne može da reši

Generativna veštačka inteligencija može ubrzati inovacije, ali članak tvrdi da njena podrazumevana upotreba često pojačava ljudska uska grla koja bi trebalo da reši. U fazi osmišljavanja ideja (ideaciji), modeli usmeravaju timove ka poznatim idejama i čine da se ljudi više fiksiraju na njih. U selekciji, doterane prezentacije koje je generisala veštačka inteligencija mogu se pogrešno protumačiti kao bolje ideje, dok preporuke veštačke inteligencije mogu kodirati postojeću pristrasnost. U istraživanju potrošača, simulirani kupci mogu ubrzati testiranje, ali propuštaju iracionalna ponašanja koja oblikuju stvarno prihvatanje proizvoda. Nakon lansiranja, veštačka inteligencija može rezimirati ogromne količine povratnih informacija, a ipak pomoći timovima da opravdaju prethodna uverenja. Centralni savet autora je dijagnostički: pre primene veštačke inteligencije, lideri bi trebalo da se zapitaju da li je usko grlo informaciono, zasnovano na rasuđivanju ili vođeno podsticajima, i da sačuvaju direktan kontakt sa kupcima tamo gde je to najvažnije za utemeljenje u stvarnosti.

Svaki inovacioni tim sada ima iste alate: iste fundamentalne modele, slične biblioteke upita. Ipak, rezultati su izuzetno neujednačeni. Neki timovi izveštavaju o kreativnoj renesansi, dok drugi prijavljuju poplavu homogenizovanih, zaboravljivih ideja koje sve zvuče kao da potiču od iste osobe. Razlog nije u tome koji model koristite. Razlog je u tome što generativna veštačka inteligencija deluje na ljudska uska grla zakopana unutar tog procesa. Ova uska grla reaguju na veštačku inteligenciju na različite — ponekad i suprotne — načine.

To je osnovni argument novog radnog dokumenta, izrađenog na poziv časopisa International Journal of Research in Marketing, koji smo mi — istraživači sa Harvarda, Vartona, Nortvesterna i Kolumbije — napisali. Umesto da pitamo šta generativna veštačka inteligencija može da uradi, postavljamo trajnije pitanje: Koja su to kognitivna, društvena i organizaciona ograničenja koja su oduvek usporavala inovacije i kako veštačka inteligencija stupa u interakciju sa svakim od njih?

Da bismo odgovorili na ovo, sintetizovali smo nedavne empirijske studije o generativnoj veštačkoj inteligenciji i inovacijama — o raznolikosti ideja, potrošačima simuliranim putem veštačke inteligencije, algoritamskoj selekciji ideja i analizi nakon lansiranja — u poređenju sa decenijama utemeljenih istraživanja o kreativnosti, rasuđivanju u uslovima neizvesnosti i ponašanju potrošača. Za svaku od četiri faze u nastavku postavili smo ista tri pitanja: Šta je osnovno ljudsko ograničenje, kako generativna veštačka inteligencija utiče na njega kada se koristi „naivno“ i kako bi izgledao promišljeniji redizajn? Ta dosledna struktura nam je omogućila da primenimo isto dijagnostičko pitanje na uska grla koja na površini uopšte ne liče, kao što je pristrasnost komisije za selekciju prema novinama ili nesposobnost potrošača da kaže šta želi pre nego što to zapravo iskusi. Da li veštačka inteligencija rastvara ovo usko grlo ili ga tiho pogoršava?

Odgovor je važniji nego što menadžeri za inovacije trenutno uviđaju. Neka od ovih ograničenja, ispostavilo se, generativna veštačka inteligencija može istinski da rastvori. Druga pogoršava, dok naizgled deluje da pomaže. A nekoliko njih nijedan verovatan budući model neće ni dotaći.

Problem sa pretpostavkom da će veštačka inteligencija popraviti inovacije

Većina razgovora o veštačkoj inteligenciji i inovacijama tretira veštačku inteligenciju kao uniformno dobru u uklanjanju trenja u inovacionom procesu. Obično je pretpostavka da će to postići potpunim zamenjivanjem uloga ljudskih inovatora: više ideja, brže testiranje, jeftinije istraživanje, brže učenje. Naš okvir odbacuje tu pretpostavku. Pratimo uska grla kroz četiri faze inovacionog lanca — ideaciju, selekciju, uvid u potrošače i učenje na tržištu — i otkrivamo da je u gotovo svakoj fazi podrazumevani efekat veštačke inteligencije (kada se koristi „naivno“, bez promišljenog redizajna) produbljivanje osnovnog uskog grla, a ne njegovo smanjenje.

Evo zašto: Većina inovacionih uskih grla su ljudski problemi, a ne tehnološki. To su pitanja o tome kako se ljudi vezuju za poznate ideje, kako komisije razvijaju plemenske instinkte o tome šta se smatra „obećavajućim“, kako potrošači ne mogu da vam kažu šta žele dok to ne vide. Generativna veštačka inteligencija, obučena na skupu postojećeg ljudskog učinka, teži da reprodukuje upravo one tendencije koje su prvobitno i izazvale usko grlo; samo brže i u većem obimu.

Evo načina na koje generativna veštačka inteligencija produbljuje ljudska uska grla u svakoj fazi inovacionog procesa — i šta preduzeti u vezi s tim.

Ideacija: Preterano fiksiranje na tipično.

Ideacija je proces generisanja kandidatskih koncepata za novi proizvod, uslugu ili funkciju. Budući da jedna izuzetna ideja vredi više od desetina samo dobrih, zadatak nije da se proizvede velika gomila solidnih opcija — zadatak je da se na površinu izbace istinski izuzeci, što ideaciju fundamentalno čini potragom za izuzecima, a ne vežbom u efikasnoj proizvodnji.

Kada ljudi razvijaju ideje sa velikim jezičkim modelom (LLM) bez promišljene strukture, dve stvari se dešavaju istovremeno. Sam model gravitira ka statistički tipičnom odgovoru — na kraju krajeva, obučen je da automatski dopunjava fraze koristeći najverovatnije sledeće reči. A kada osoba pročita taj tipičan odgovor, ona se fiksira na njega, što je sprečava da razmišlja o neobičnijim idejama koje bi mogla samostalno generisati. Rezultat je suptilno sužavanje u dva koraka: veštačka inteligencija predstavlja usku ideju, a zatim to takođe sužava i razmišljanje čoveka.

Što je još gore, ovo se dešava na sistemskom nivou. Pošto većina generativnih modela crpi podatke iz sličnih podataka za obuku, nezavisni timovi u različitim kompanijama koji koriste veštačku inteligenciju „kreativno“ imaju tendenciju da konvergiraju ka istoj nekolicini pravaca dizajna. Dakle, čak i ako individualna produktivnost raste, kolektivna raznolikost na čitavom tržištu opada.

U ovom slučaju, rešenje je na modelu, a ne na čoveku. Korišćenje upita sa lancom razmišljanja (chain-of-thought prompting) — traženje od modela da napravi nacrt, a zatim da eksplicitno revidira ka smelilijoj, prepoznatljivijoj teritoriji — funkcioniše izvanredno dobro na veštačkoj inteligenciji. Međutim, isti pristup ne pomaže čoveku da poboljša sopstveno razmišljanje. Kada se osoba mentalno fiksira na početnu ideju veštačke inteligencije, poruka da „razmišlja šire“ obično ne pomaže — naprotiv, može se još više fiksirati na ideju veštačke inteligencije (ovo je verzija klasičnog problema „ne misli na belog medveda“).

Selekcija: Pristrasnost prema „doteranijim“ idejama jezičkih modela.

Selekcija je faza u kojoj kompanija odlučuje koje od tih ideja dobijaju finansiranje, a koje se odlažu, obično putem komisije za prolazne faze (stage-gate) ili odbora za pregled portfolija. To je procena doneta pod stvarnom neizvesnošću — pre nego što je tržište reklo svoje, i često pre nego što je sama ideja u potpunosti definisana — tako da sve ono za šta se panel svesno ili podsvesno optimizuje na kraju oblikuje sve što kompanija na kraju izgradi.

Ocenjivači su oduvek bili pristrasni protiv novih ideja — originalni koncepti deluju rizičnije i teže ih je pozicionirati, pa paneli nesvesno nagrađuju sigurnije, poznatije predloge. Generativna veštačka inteligencija pojačava ovu pristrasnost na nov način: predlozi generisani veštačkom inteligencijom su tečni i dobro strukturirani po svojoj prirodi, a tečnost se pogrešno zamenjuje za kvalitet. Ideja koja zvuči doterano dobija bolju ocenu, bez obzira na to da li je zapravo bolja ideja. Ovde je rešenje strukturno, a ne tehnološko: svedite predloge na zajednički format pre nego što ih bilo ko oceni i sakrijte da li je ideja potekla od čoveka ili od modela.

To nije jedino usko grlo koje generativna veštačka inteligencija može tiho produbiti u fazi selekcije. Evo suptilnije zamke: ako obučite LLM za selekciju na istorijskim odlukama o prihvatanju ili odbijanju vašeg sopstvenog panela, vi ne uklanjate pristrasnost iz procesa — vi je trajno kodirate, u velikom obimu, i činite da izgleda objektivno. Nedavni terenski eksperiment otkrio je nešto još problematičnije: kada su ocenjivači dobili preporuku LLM-a uz pisano obrazloženje, postali su skloniji tome da automatski odobravaju odbijanja — a da nisu postali nimalo bolji u razlikovanju tačnih procena veštačke inteligencije od netačnih. Obrazloženje modela zamenilo je njihovo sopstveno rasuđivanje umesto da ga podrži. A efekat je bio najjači upravo tamo gde je ljudsko rasuđivanje najvažnije: u graničnim slučajevima.

Intervencija ovde je gotovo suprotna onome ka čemu većina kompanija ide: uklonite objašnjenja LLM-a. U tom istom eksperimentu, preporuka veštačke inteligencije kao „crne kutije“ bez obrazloženja poboljšala je odluke, u poređenju sa zadržavanjem obrazloženja LLM-a u kombinaciji.

Uvid u potrošače: Brže istraživanje, manje autentični odgovori.

Kada ideja preživi selekciju, razvija se u konkretan koncept sa stvarnim karakteristikama, cenama i pozicioniranjem — a testiranje tog koncepta podrazumeva razumevanje onoga što kupci zapravo žele. Ovo je faza merenja preferencija: ankete, intervjui i kondžojnt studije na koje su se firme dugo oslanjale kako bi koncept pretvorile u odbranjivu procenu potražnje.

Ovo je deo u kojem je rad najviše otrežnjujući za svakoga ko koristi veštačku inteligenciju za simulaciju kupaca. Na primer, ako zatražite od jezičkog modela da simulira uloge hiljadu različitih segmenata potrošača koji reaguju na promenu cene, dobićete glatku, opadajuću krivu koja je uglavnom pogrešna na specifičan, problematičan način. Pošto model nije izvučen iz stvarne populacije, on varijaciju cene ne tretira kao eksperiment; on je tretira kao trag o kontekstu (viša cena se tumači kao „premijum“, a ne kao „isti proizvod, samo skuplji“). Dakle, umesto opadajuće krive tražnje koju biste dobili od stvarnih kupaca kako cena raste, možete dobiti ravnu ili čak rastuću krivu.

„Digitalni blizanci“ — persone veštačke inteligencije izgrađene na bogatim profilima ponašanja stvarnih ljudi — prolaze bolje, ali im trenutno i dalje nedostaje nešto suštinsko: stvarni kupci se ponašaju iracionalno na načine koji su od ogromne važnosti za to da li će prihvatiti nešto novo. Oni se drže nepovratnih troškova (sunk costs). Oni precenjuju bol prelaska na drugu opciju. Simulirani blizanci, nasuprot tome, teže da naprave racionalan izbor daleko češće nego stvarni ljudi — što znači da sistematski potcenjuju upravo ona trenja koja uništavaju lansiranja novih proizvoda.

Za ovo još uvek nema čistog rešenja. Digitalni blizanci nisu beskorisni — oni su razumna zamena za neka istraživačka pitanja — ali im ne treba verovati upravo kod onih ponašanja koja razdvajaju sudbinu istinski novog proizvoda od inkrementalnog. Za svaku odluku koja se oslanja na nepovratne troškove, troškove promene ili način na koji je izbor uokviren, sigurniji potez je zadržati to rasuđivanje uz ljudska istraživanja: panele vodećih korisnika i etnografski rad na terenu koji posmatraju kako se ljudi stvarno ponašaju, a ne samo šta model predviđa da će izabrati.

Difuzija i učenje na tržištu: Ista pristrasnost potvrđivanja, sa ubedljivijim glasom.

Difuzija i učenje na tržištu obuhvataju sve što se dešava nakon lansiranja: prihvatanje inovacije u velikom obimu, a zatim tumačenje rezultujućih signala kako bi se donela sledeća runda odluka. Usvajanje je društveni proces jednako koliko i individualni — vođen ranim usvajačima i preporukama od usta do usta — a povratne informacije koje proizvodi moraju se prikupiti, odrediti im se prioriteti i pravilno protumačiti pre nego što postanu korisne.

Kada se proizvod isporuči, on generiše više povratnih informacija nego što bilo koji tim može da apsorbuje: recenzije na različitim platformama, priče na društvenim mrežama, tikete podrške, povraćaje robe, teme na forumima. Generativna veštačka inteligencija je ovde istinski korisna: može da unese, grupiše i rezimira sav taj šum u obimu koji nijedan tim analitičara ne bi mogao da dostigne, izvlačeći strukturirane potrebe kupaca sa kvalitetom koji počinje da se približava profesionalnim analitičarima. Po prvi put u ovom okviru, usko grlo se zapravo smanjuje.

Ali to olakšanje stvara novi problem na svom mestu. Od stotina tema koje sistem veštačke inteligencije izbaci svake nedelje, koje zaslužuju akciju, a koje su samo najglasnije? Signali koji su najvažniji za inovacije, kao što je novi slučaj upotrebe ili segment koji tiho ne uspeva da prihvati proizvod, upravo su oni koje je rezime ponderisan učestalošću napravljen da zakopa.

Dublji problem se pojavljuje kada taj signal stigne u sobu punu ljudi koji imaju lični interes u ishodu. Organizacije su oduvek tumačile povratne informacije sa tržišta blagonaklono prema odlukama koje su već donele. Sistem veštačke inteligencije nema karijeru koja zavisi od prošlogodišnje opklade na proizvod, tako da bi u principu trebalo da označi talas pritužbi na ključnu funkcionalnost jednako spremno kao i talas pohvala. Ali isti onaj tečni, samouvereni rezime koji sintezu veštačke inteligencije čini korisnom takođe olakšava da se selektivno citira kao glas podrške onome u šta je tim već verovao na početku — posebno ako se upit veštačkoj inteligenciji postavi na način koji jasno stavlja do znanja koji odgovor bi tim preferirao, s obzirom na tendenciju veštačke inteligencije da laskavo govori ono što ljudi žele da čuju. Da li se sinteza veštačke inteligencije svodi na iskrenije izveštavanje ili samo na ubedljiviji način da se doteraju iste racionalizacije, jedno je od najvažnijih otvorenih pitanja u čitavom okviru.

Glavni zaključci

Pogledajte pažljivo ova četiri primera i pojavljuje se jedan princip: mehanizam iza uskog grla određuje da li mu veštačka inteligencija pomaže ili odmaže — a ne sofisticiranost veštačke inteligencije. Uska grla koja su u suštini informaciona, velikog obima ili proceduralna (previše prijava za pregled, previše teksta recenzija za čitanje, krut format koji skriva kvalitet) upravo su vrsta problema za čije rešavanje je generativna veštačka inteligencija stvorena, pod uslovom da sistem dizajnirate promišljeno.

Nasuprot tome, uska grla ukorenjena u proživljenom iskustvu, iracionalnom ljudskom ponašanju ili organizacionom sopstvenom interesu potpuno su drugačija pojava. Nikakvo skaliranje modela ne rešava činjenicu da potrošači ne mogu da artikulišu preferenciju za kategoriju proizvoda koju nikada nisu videli, ili da će menadžer sa dve godine političkog kapitala uloženog u neuspešan projekat tumačiti podatke blagonaklono, bez obzira na to koliko su podaci dobri.

Ovo liderima daje nešto korisnije od liste slučajeva upotrebe veštačke inteligencije: dijagnostičko pitanje koje treba postaviti pre usvajanja bilo kog novog alata ili radnog toka. Šta, konkretno, usporava ovo: problem informacija, problem ljudskog rasuđivanja ili problem organizacionih podsticaja? Ova alternativna perspektiva donosi jasne lekcije u svakoj fazi inovacionog procesa:

• Ideacija: Ako se prepusti sama sebi, generativna veštačka inteligencija sužava kreativno razmišljanje umesto da ga proširuje. Rešenje mora biti usmereno na upite modela, a ne na način razmišljanja osobe.
• Selekcija: Veštačka inteligencija ne uklanja pristrasnost panela za selekciju prema novinama. Ona toj pristrasnosti ili laska uglađenošću ili je tiho kodira i uvećava, osim ako proces nije promišljeno redizajniran.
• Uvid u potrošače: Simulirani kupci su brz, koristan filter, ali potcenjuju iracionalna trenja koja zapravo odlučuju da li će nešto novo biti prihvaćeno.
• Difuzija i učenje na tržištu: Veštačka inteligencija rešava problem obima u povratnim informacijama nakon lansiranja, ali jednako lako može timovima dati ubedljiviji način da odbrane odluku koju su već doneli.

. . .

Najneprijatniji argument ovog rada nije vezan ni za jedno pojedinačno usko grlo — već za ono što se s vremenom dešava sa organizacijama. Kako veštačka inteligencija preuzima sve više ideacije, selekcije i simulacije potrošača, mlađi zaposleni koji su nekada gradili rasuđivanje radeći taj posao iz prve ruke više ne dobijaju priliku da vežbaju. Završavate sa sofisticiranim korisnicima rezultata veštačke inteligencije koji nikada nisu razvili instinkt da prepoznaju kada je taj rezultat pogrešan.

Pomnožite to sa celokupnom funkcijom inovacija i dobićete ono što se naziva zamkom automatizacije: svaki pojedinačni alat veštačke inteligencije se dobro pokazuje u izolaciji, ali cela petlja povratnih informacija polako se udaljava od stvarnih kupaca, jer su ideacija, selekcija, testiranje i intervjuisanje sada posredovani modelima obučenim na rezultatima jednih drugih, a ne na tržištu. Sve postaje brže. Ništa ne ostaje utemeljeno u stvarnosti.

Naš odgovor nije usporavanje usvajanja veštačke inteligencije, već promišljenost o tome koji delovi procesa i dalje zahtevaju neposredan kontakt sa realnošću. Udubljivanje u vodeće korisnike. Etnografski rad na terenu. Čovek koji donosi važnu odluku i mora da stane iza nje. Ovo nisu nostalgični ostaci iz ere pre veštačke inteligencije; to su noseći zidovi koji sprečavaju da ostatak automatizovane strukture skrene sa osnovne istine koju bi trebalo da prati.

Tehnologija će nastaviti da se menja. Uska grla — kognitivna fiksacija, evaluacija vođena statusom, jaz između onoga što potrošači kažu i onoga što će zapravo uraditi — ostala su izuzetno stabilna decenijama. Kladiti se na svoju strategiju inovacija na osnovu mehanizma, a ne modela, verovatno će stariti znatno bolje.