Šta se dešava kada veštačka inteligencija počne da posluje sa veštačkom inteligencijom?

Kako AI agenti sve više interaguju jedni sa drugima na komercijalnim platformama, kompanijama su potrebna nova pravila koja regulišu šta ti agenti mogu da vide, odluče i urade. U kontrolisanoj simulaciji interakcije između veštačkih inteligencija (AI-to-AI), koja je obuhvatila 160 ciklusa upravljanja i 2.560 opservacija, istraživači su testirali četiri mehanizma upravljanja: otkrivanje informacija, autonomiju agenata, signale reputacije i strukturirane protokole interakcije. Bogate informacije čitljive mašinama pomogle su agentima da identifikuju perspektivne ugovorne strane, dok je veća autonomija poboljšala njihovu sposobnost da prilike pretoče u obavezujuće dogovore. Signali reputacije pomogli su agentima da odrede koje prilike zaslužuju pažnju. Međutim, kruti protokoli interakcije smanjili su angažovanje i napredak u razmeni. Ovi nalazi sugerišu da bi kompanije trebalo da uspostave jasne nivoe ovlašćenja za agente, sprovode ograničene eksperimente, obezbede strukturirane informacije i signale reputacije, kao i da osmisle precizne procedure prenosa odlučivanja sa agenata na ljude.

Krajem 2025. godine, Perplexity-jev pretraživač Comet počeo je da se prijavljuje na Amazon naloge kupaca i obavlja kupovine u njihovo ime. Amazon ga je tretirao kao uljeza. Blokirao je agenta, a kada je Perplexity u roku od jednog dana zaobišao blokadu, Amazon je spor izneo pred federalni sud. WeChat je povukao granicu drugačije. Nakon što je blokirao ByteDance-ovog asistenta Doubao, koji je koristio pristup na nivou sistema da bi upravljao WeChat-om bez dozvole, Tencent je kasnije otvorio kanal koji opisuje kao vezu između agenata (agent-to-agent) za odabrane asistente kompanija Huawei, Xiaomi i drugih, omogućivši im slanje poruka i upućivanje poziva. Prema ovom aranžmanu, eksterni agent prevodi korisnički zahtev u strukturiranu instrukciju i prosleđuje je kroz interfejs koji kontroliše Tencent do WeChat-a, koji zatim izvršava radnju unutar sopstvenog okruženja. Tencent kontroliše koji agenti mogu da se povežu, koje funkcije mogu da pozovu i koji podaci i izvršenja ostaju unutar WeChat-a. Drugim rečima, jedna platforma je potpuno zatvorila vrata za AI agente; druga ih je otključala pod sopstvenim uslovima.

Van sfere trgovine, Moltbook nikada nije ni postavio vrata. Na ovoj platformi nalik Reddit-u, AI agenti objavljuju sadržaj, komentarišu i odgovaraju jedni drugima dok ih ljudi uglavnom samo posmatraju. Gotovo bez ikakvih ograničenja, njen bizarni sadržaj koji podseća na naučnu fantastiku brzo je privukao pažnju.

Zajedno, ovi slučajevi prikazuju tri improvizovana odgovora na isto suštinsko pitanje: Šta bi AI agentima trebalo dozvoliti da rade u deljenim okruženjima? Interakcije se razlikuju: neke se odvijaju između agenata i platformi, dok su druge između samih agenata. Ipak, problem upravljanja je identičan. Kako agenti sve više pristupaju platformama, zastupaju kompanije i korisnike i stupaju u interakciju sa drugim agentima, pravila okruženja u kojima posluju oblikovaće ono što mogu da vide, odluče i urade.

Ovi slučajevi mogu delovati beznačajno, ali tržište koje najavljuju to svakako nije. McKinsey procenjuje da bi poslovanje vođeno agentima (agentic commerce) moglo da usmeri do 1 bilion dolara maloprodajnih prihoda u SAD do 2030. godine, odnosno između 3 i 5 biliona dolara na globalnom nivou. Sami agenti napreduju podjednako brzo. Jedno od merila tog napretka jeste obim posla koji mogu da završe autonomno: METR procenjuje da se dužina zadataka koje vodeći AI agenti mogu da reše — mereno vremenom koje bi isto to zahtevalo od ljudskog stručnjaka — približno udvostručuje na svakih sedam meseci. Agenti koji su nekada mogli pouzdano da obave samo nekoliko minuta rada ekvivalentnog ljudskom radu, sada sve češće preuzimaju zadatke koji iziskuju sate. Slično tome, kompanije širom ekosistema počinju da grade infrastrukturu za trgovinu posredovanu agentima. Google, Shopify, Stripe i Visa, između ostalih, razvijaju protokole, pristup za trgovce i mogućnosti plaćanja koje omogućavaju AI agentima da učestvuju u komercijalnoj razmeni.

Kako se ovi oblici učešća agenata šire, izazov upravljanja prevazilazi operatore samih platformi. Lideri tržišta moraju da odluče šta agenti smeju da pristupe i rade unutar njihovih okruženja, dok lideri kompanija koje implementiraju agente moraju da odrede koja ovlašćenja ti agenti treba da imaju kada komuniciraju sa kupcima, dobavljačima i drugim učesnicima na tržištu.

Jedno okruženje u kojem ovaj izazov upravljanja postaje naročito opipljiv jeste B2B razmena, gde AI agenti mogu delovati u ime kompanija na obe strane tržišta. Generisanje potencijalnih klijenata (lead generation) je posebno korisno za ispitivanje ovog fenomena jer su pretraga, inicijalni kontakt i kvalifikacija informacijama intenzivne aktivnosti koje agenti sve uspešnije obavljaju, sa realnim komercijalnim posledicama. U našem preliminarnom istraživanju koje je obuhvatilo 55 rukovodilaca iz oblasti B2B generisanja lidova, prodaje, marketinga, razvoja poslovanja, nabavke i evaluacije dobavljača, ispitanici su prepoznali komercijalni potencijal — pri čemu se 78% složilo da AI agenti mogu poboljšati kvalifikaciju B2B lidova u ranoj fazi. Ipak, prepoznali su i jaz u upravljanju: samo 45% se složilo da je njihova kompanija spremna za tržište na kojem AI agenti generišu ili prihvataju lidove u njeno ime.

To otvara centralno pitanje: Da li mehanizmi upravljanja osmišljeni za ljudske učesnike na platformama i dalje funkcionišu kada te učesnike predstavljaju AI agenti, i ako ne, kako lideri treba da ih prilagode?

Naše istraživanje ispituje ove uslove kroz prizmu upravljanja platformama. Koristeći B2B generisanje lidova kao kontekst u kojem AI agenti pretražuju i procenjuju potencijalne poslovne partnere, otkrili smo da upravljanje zaista utiče na učinak agenata, ali ne uvek onako kako bi konvencionalna teorija platformi predvidela: jedan mehanizam je dosledno pomagao, drugi su pomagali samo u određenim fazama, dok se jedan pokazao kao kontraproduktivan.

Šta smo otkrili

Da bismo ispitali ovo pitanje, napravili smo kontrolisanu simulaciju uspostavljanja razmene između dva AI agenta. Generisanje lidova poslužilo je kao empirijski okvir jer obuhvata širi menadžerski problem: kako kompanije identifikuju, procenjuju i razvijaju saradnju sa potencijalnim komercijalnim partnerima pre nego što počne odnos među ljudima. U našoj simulaciji, agenti prodavaca predstavljali su kompanije koje nude usluge, dok su agenti kupaca predstavljali kompanije sa definisanim potrebama, budžetima, preferencijama i kriterijumima evaluacije. Agenti su prolazili kroz proces uspostavljanja razmene: inicijalni kontakt, odgovor, naknadno praćenje, predlog uvodnog sastanka, procena izvodljivosti i preuzimanje obaveze za nastavak saradnje.

Unutar ovog okruženja, varirali smo četiri poluge upravljanja izvedene iz teorije i prakse platformi: koliko su komercijalno relevantnih informacija kompanije otkrile, koliki nivo autonomije u odlučivanju je dodeljen agentima, da li su signali reputacije bili vidljivi drugoj strani i koliko je protokol interakcije bio strogo strukturiran.

Kroz 10 nezavisnih ponavljanja simulacije, koja su obuhvatila 160 ciklusa upravljanja i 2.560 opservacija pojedinačnih parova agenata kupaca i prodavaca, osnovni zaključak je bio jasan: upravljanje platformama kreirano za ljude ne može se jednostavno preslikati na AI agente. Drugim rečima, mehanizmi upravljanja osmišljeni da strukturiraju i disciplinuju ljudske učesnike mogu funkcionisati sasvim drugačije kada su učesnici agenti. Uočili smo četiri glavna obrasca, po jedan za svaku polugu.

Otkrivanje informacija bila je jedina poluga koja je dosledno pomagala. Kada su kompanije otkrivale više komercijalno relevantnih informacija, agenti su bili sposobniji da uspostave održivu razmenu. Visok nivo deljenja informacija povećao je angažovanje druge strane, broj predloga za uvodne sastanke, procene izvodljivosti i preuzimanje obaveza za nastavak saradnje. Ovaj dobro poznati mehanizam upravljanja platformama uspešno se preneo sa tržišta kojima posreduju ljudi na AI-to-AI okruženje. Agentima su potrebne mašinski čitljive informacije da bi procenili relevantnost druge strane. Kada platforme obezbede bogatije i bolje strukturirane profile kompanija, agenti mogu preciznije da prepoznaju kompatibilnost, daju prioritet perspektivnim razmenama i izbegnu gubljenje resursa na neodgovarajuća spajanja.

Autonomija je takođe pomogla, ali tek u kasnijoj fazi procesa: davanje većih prava odlučivanja agentima imalo je najjači efekat kada je trebalo preći sa faze procene na preuzimanje obaveze. To sugeriše da okruženja za razmenu posredovanu veštačkom inteligencijom zahtevaju dovoljno fleksibilnosti kako bi agenti mogli da postupaju na osnovu lokalnih informacija prikupljenih tokom interakcije. Pristup informacijama nije dovoljan. Agentima je potrebna i sloboda odlučivanja o tome da li razmena treba da napreduje.

Reputacija je takođe pomogla, ali uglavnom kao signal za privlačenje pažnje i evaluaciju. Konkretno, vidljivost reputacije olakšala je ranu i prelaznu fazu formiranja saradnje. Kada su signali reputacije bili vidljivi, agenti su bili spremniji da stupe u kontakt sa drugom stranom, predlože uvodne sastanke i klasifikuju prilike kao izvodljive. Reputacija nije značajno uticala na konačno preuzimanje obaveze, ali je pomogla agentima da odluče da li neka prilika zaslužuje dalju pažnju.

Nasuprot tome, strukturirani protokol se pokazao kontraproduktivnim. Na platformama gde posreduju ljudi, strukturirani protokoli često deluju razumno. Oni vode interakciju, standardizuju razmenu, olakšavaju poređenje i smanjuju prostor za oportunističko ponašanje. Međutim, u našoj simulaciji, strogo strukturiran protokol smanjio je napredak u ranoj i prelaznoj fazi razmene. Doveo je do manjeg angažovanja druge strane, ređih predloga za uvodne sastanke i lošijih procena izvodljivosti, bez značajnog poboljšanja u konačnom preuzimanju obaveza. Drugim rečima, mehanizam upravljanja koji je trebalo da unese disciplinu u interakciju zapravo ju je ugušio.

To ne znači da je struktura uvek loša. Određeni stepen strukture je neophodan kako bi agenti ostali usklađeni, uporedivi i odgovorni. Ipak, krute skripte interakcije mogu suziti prostor u kojem se agenti prilagođavaju, razjašnjavaju kompatibilnost i razvijaju perspektivne prilike. Za ljudske korisnike struktura može smanjiti neizvesnost. Za AI agente previše strukture može oduzeti upravo onu fleksibilnost koja ih čini korisnim.

Rezultati ukrštanja ovih faktora potvrdili su ovaj širi zaključak. Vidljivost reputacije ojačala je pozitivan efekat otkrivanja informacija: kada su agenti imali i bogatije informacije i signale reputacije, bili su znatno sposobniji da protumače kvalitet druge strane. Nasuprot tome, strukturirani protokol je oslabio uticaj autonomije na predloge uvodnih sastanaka i procene izvodljivosti. Autonomija je pomagala kada su agenti mogli da je koriste fleksibilno. Kada je protokol postao previše rigidan, ta prednost je nestala.

Poruka svih ovih nalaza jeste da tržišta zasnovana na agentima zahtevaju drugačiju logiku upravljanja. Upravljanje usmereno na ljude često ima za cilj da uliva poverenje, standardizuje i disciplinuje učesnike. Upravljanje usmereno na agente mora dodatno učiniti informacije primenjivim, očuvati korisnu diskreciju i izbeći preterano sputavanje prilagodljive razmene.

Šta kompanije i platforme treba da urade po tom pitanju?

Naši nalazi ukazuju na neposredan menadžerski izazov: razmena između dva agenta zahteva promišljeno upravljanje. Kako kompanije omogućavaju AI agentima da kvalifikuju prilike, kontaktiraju partnere i razvijaju poslove, lideri platformi moraju postaviti pravila o tome kako agenti mogu da funkcionišu unutar njihovih okruženja. Istovremeno, lideri kompanija koje uvode agente moraju odlučiti šta ti agenti smeju da vide, kažu i urade, koliki nivo diskrecije imaju i kada ljudi moraju da intervenišu.

Definišite nivoe pristupa agentima

Kompanije bi trebalo da upravljaju učešćem agenata kroz jasno definisane nivoe delegiranih ovlašćenja. Na najnižem nivou, agenti mogu čitati odobrene informacije. Na sledećem nivou, mogu upoređivati opcije i predlagati naredne korake. Uz veći nivo poverenja, mogu kontaktirati ugovorne strane ili pregovarati unutar definisanih granica. U specifičnim, niskorizičnim okolnostima, mogu preuzimati obaveze ili dovršavati transakcije pod unapred utvrđenim uslovima. Svaki nivo treba precizno da odredi kojim podacima agent može pristupiti, šta ostaje unutar internog okruženja kompanije, koje radnje može samostalno pokrenuti i šta zahteva eskalaciju ka čoveku.

Tencentov pristup WeChat-u ilustruje ovu logiku: odabrani asistenti funkcionišu preko kontrolisanog kanala, sa ograničenim funkcijama i izvršavanjem koje ostaje unutar Tencentovog sistema. Prema navodima kompanije Mastercard, njihovo rešenje Agent Pay ukazuje na sličan model rada u realnom vremenu, gde organizacije postavljaju pravila autorizacije i limite potrošnje koji se sprovode programski, dok agenti zadržavaju diskreciono pravo unutar tih granica.

Započnite sa ograničenim eksperimentima

Kompanije bi trebalo da počnu sa fokusiranim pilot-projektima u oblastima kao što su kvalifikacija lidova, pronalaženje dobavljača ili preliminarna selekcija ponuđača — gde je zadatak komercijalno koristan, ali se rizik može kontrolisati. Ovi pilot-projekti treba da imaju jasne profile agenata, uska ovlašćenja, eksplicitna pravila odlučivanja i kontrolne tačke za reviziju pre nego što agenti utiču na stvarne poslovne odnose ili obaveze. Salesforce je, na primer, uveo svog prodajnog agenta Agentforce u tačno definisan deo prodajnog procesa, koristeći ga za inicijalno obraćanje, kvalifikaciju lidova, praćenje komunikacije i zakazivanje sastanaka, dok su ljudski prodajni predstavnici ostali uključeni u dalji angažman. Cilj je uočiti gde agenti smanjuju prepreke u pretrazi i selekciji, gde pogrešno tumače kontekst i gde ljudsko rasuđivanje ostaje neophodno. Pošto će se ponašanje agenata menjati sa razvojem modela, alata i protokola, kompanije bi ove pilot-projekte trebalo da tretiraju kao ponovljivu sposobnost testiranja, a ne kao jednokratnu vežbu implementacije.

Učinite svoju organizaciju razumljivom agentima

Na tržištima kojima upravljaju agenti, neodređeni marketinški jezik imaće znatno manju težinu od strukturiranih, mašinski čitljivih podataka. Agenti moraju jasno razumeti šta kompanija nudi, kojim industrijama služi, u kom rasponu cena ili budžeta posluje, gde može da isporuči uslugu, koja ograničenja važe, koliko brzo odgovara i koji dokazi potkrepljuju te tvrdnje. Kompanije bi stoga trebalo da kreiraju profile prilagođene agentima i strukturirane podatke o proizvodima ili uslugama koji omogućavaju lako raščlanjivanje i poređenje njihovih komercijalnih atributa.

Aktivnosti kompanije Shopify na razvoju trgovinske infrastrukture čitljive agentima kreću se u ovom smeru: platforma agentima pruža strukturiran pristup katalozima, proizvodima i informacijama o transakcijama, što oni mogu koristiti da procene ponudu i deluju u ime kupaca.

Izgradite signale reputacije koje agenti mogu da koriste

Signali poverenja namenjeni ljudima često su previše uopšteni za razmenu kojom posreduju agenti. Agentima su potrebni strukturirani pokazatelji koji se mogu upoređivati među različitim stranama, kao što su pouzdanost u odgovorima, performanse isporuke, verifikovani ishodi, istorija sporova, ponovljeni angažmani i dokazi da su prethodne razmene uspešno realizovane. Platforme bi trebalo da ove signale učine specifičnim, mašinski čitljivim i direktno povezanim sa merljivim ponašanjem.

Na primer, rešenje KYAPay kompanije Skyfire kombinuje verifikovani identitet agenta sa evidencijom o reputaciji, iako je znatno teži zadatak u B2B razmeni signalizirati kvalitet same kompanije na drugoj strani, a ne samo pouzdanost agenta koji je predstavlja.

Dizajnirajte primopredaju posla ljudima pre same implementacije

Kratkoročna vrednost razmene putem agenata proisteći će iz korišćenja agenata za pripremu kvalitetnijih razgovora među ljudima, a ne iz potpunog ukidanja komercijalnog rasuđivanja. Kompanije bi trebalo unapred da definišu trenutak u kojem prilika prelazi sa selekcije koju vodi agent na izgradnju odnosa koju vode ljudi. Ta primopredaja treba da uključi obrazloženje agenta, informacije koje je koristio, uočene neizvesnosti i preporučeni sledeći korak.

Microsoft-ov Dynamics 365 Sales Qualification Agent ilustruje ovaj pristup: on može da istraži, angažuje i kvalifikuje lidove pre nego što ih prosledi ljudskim prodavcima, pri čemu Microsoft izričito testira da li agent ispravno prenosi slučajeve koji sadrže pitanja van njegove baze znanja ili slučajeve sa visokim stepenom interesovanja, kao što je zahtev za demo verziju proizvoda. Koristan test performansi jeste da li ljudski timovi mogu da pretvore prilike koje je agent kvalifikovao u stvarnu komercijalnu vrednost: kvalitetnije sastanke, bolju usklađenost, kraće cikluse selekcije i produktivnije razgovore o prodaji ili partnerstvu.

. . .

Sve u svemu, uspon AI agenata postavlja novi menadžerski izazov: upravljanje razmenom između strana koje možda nisu ljudska bića. Prvi instinkt biće da njima upravljamo na isti način na koji upravljamo ljudima. Naši nalazi, međutim, pokazuju da upravljanje agentima nije puki nastavak upravljanja zaposlenima. To je potpuno nov dizajnerski problem. S obzirom na to da se neka pravila prenose, a neka ne, kompanije koje prve shvate razliku steći će ključnu prednost u ekonomiji kojom posreduju agenti.