Šta je unutar Dialogist AI glasovnog agenta

Transkripciji treba 0,5 ms poslije odluke jer se prepoznavanje govora odvija u toku dok pozivalac govori i pravi probni prolaz tokom pauze. Sa ranim startom jezički model počinje na tom probnom tekstu unutar pauze, pa poslije odluke preostaju 3 ms njegovog rada; u standardnom režimu svih 111 ms dolazi poslije nje. U testu opterećenja rani zahtjev je otišao prije odluke u 98% odgovora, u prosjeku 225 ms ranije pri 50 razgovora i 508 ms ranije pri 128. Ako pozivalac nastavi da govori, agent odbacuje pripremljeni odgovor i odgovara na cijelu frazu.

Pri 100 istovremenih poziva na jednom Server Unit-u isti korak traje otprilike 0,4 s u standardnom režimu i 0,25 s sa ranim startom. Cjelovitu sliku daje bilješka o Server Unit-u. Server Unit pod opterećenjem

• ušteđeno 89–235 ms

  Rani start

  Jezički model počinje na prepoznatom tekstu dok agent još čeka kraj pauze. Ušteda raste sa opterećenjem: 89 ms sa jednim pozivom, 189 ms pri 96 razgovora, 235 ms pri 128.

• 280 → 40 ms

  Tišina uklonjena iz govora

  Sintetizovane rečenice počinju tišinom; medijana u našem kešu je 280 ms. Agent je skraćuje na 40 ms dok pušta isječak, pa je odgovor jednog poziva na liniji stizao oko 200 ms ranije. Keš čuva original.

• ušteđeno ≈ 0,3 s

  Model kraja replike

  Poslije pauze od 192 ms mali model po intonaciji procjenjuje da li je misao završena. U stvarnim pozivima rano je zatvorio 87% replika pozivalaca i sačekao 96% pauza usred misli. Prvo može raditi u režimu posmatranja i samo bilježiti šta bi uradio.

• 94%

  Glasovni keš

  Agent fraze koje je već izgovorio pušta sa diska. Keš preživljava restarte, a van radnog vremena agent ponovo provjerava keširane isječke tako što ih prepoznaje i regeneriše one koji ne prođu.

• Prva rečenica preskače red

  Pod opterećenjem, početak odgovora jednog poziva nikad ne čeka iza kraja odgovora drugog. Agent sintetizuje sljedeće rečenice dok se prva reprodukuje.

• Jedan sat za sve pozive

  Medij za sve pozive radi na jednom zajedničkom taktu od 20 ms, umjesto tajmera po pozivu.

  Voicecore: medijski backend u Rustu (EN)
• 69 → 0,7 µs

  Jeftiniji audio okviri

  Predaja okvira između telefonskog steka i agenta traje manje od mikrosekunde umjesto desetina.

  Voicecore: medijski backend u Rustu (EN)

Prije i poslije: ista stanica, jedan 20-minutni poziv i 50 razgovora, agent za zapošljavanje. Keš: 64.192 fraze u testu opterećenja. Predaja okvira: mjereno izolovano na telefonskoj biblioteci.

• Prekidi koji nešto znače

  Pozivalac može da govori preko agenta, a agent prestaje. Prekid prepoznaje po tekstu ili po zvuku. Akustički režim ima vlastiti prag i traži neprekinut govor, pa tastatura, zalupljena vrata ili kašalj ne prekidaju agenta. Agent ignoriše kratak fragment niske pouzdanosti preko vlastitog glasa, jer tako izgleda eho.

• Glas se povlači

  Kada pozivalac počne da govori, agentov glas se stiša i potamni: manja jačina, manje visokih frekvencija. Ako pozivalac kaže nešto važno, agent staje. Poslije „aha“ ili kašlja nastavlja od najbliže granice sloga, od početka rečenice ili od tačnog mjesta. Podešava se po agentu.

• „Aha“ u pauzama

  Unutar duže replike pozivaoca, agent ubacuje kratka potvrđivanja svojim glasom. To su unaprijed snimljeni isječci koje je čovjek poslušao i odobrio. Puštaju se u pauzama, uz određenu vjerovatnoću, minimalni razmak, ograničenje po replici i bez ponavljanja, a nikad kada model kraja replike misli da je pozivalac završio.

• Kaže kada nije siguran

  Pouzdanost prepoznavanja ulazi u agentov prompt. Agent vidi nesigurnu transkripciju označenu kao takvu i traži od pozivaoca da ponovi, umjesto da pogađa ime ili broj.

• Ljubazno postupanje sa tišinom

  Ponovni upit, pa pozdrav, mjereno od stvarnog kraja reprodukcije, a ne od kraja sinteze.

• Prostor oko glasa

  Opciona pozadina kancelarije ili sale za sastanke, pomiješana ispod glasa od prve sekunde poziva.

• Agent generiše pozdrav tokom kašnjenja prije zvonjenja i šalje ga rečenicu po rečenicu.
• Širokopojasni G.722 gdje ga druga strana podržava. Ujednačena kontrola pojačanja podigla je odnos signal-šum sa 23 na 28,7 dB na 11 označenih stvarnih poziva.
• Agentovo vlastito „aha“ može se vratiti niz liniju sa slušalice pozivaoca. Prepoznavanje ga uklanja iz transkripta, a agent drži potvrđivanja van istorije razgovora.

Slušanje dok govori: cijela bilješka

• Kloniranje glasa

  Novi glas iz uzorka od 10 do 30 sekundi i njegovog transkripta.

• Rječnici izgovora

  Nazivi brendova, ulice i žargon izgovoreni onako kako ih vi izgovarate, uz preslušavanje.

• Jedan glas po agentu

  Iz kataloga ili kloniran, brzinom koju vi postavite.

• Sinteza u toku

  Rečenicu po rečenicu: sljedeća rečenica je spremna prije nego što se prva završi.

RAGKnowledge Hub

Atlas je naš Knowledge Hub. Povežete agenta sa jednom ili više baza znanja, a Atlas vraća odlomke koji odgovaraju na pitanje.

On-premise, cijeli stek se instalira na vaše servere pomoću Dockera, po potrebi i bez interneta. Server Unit nosi 100 istovremenih poziva i testiran je pod opterećenjem do 176% toga. Server Unit pod opterećenjem

Server Unit nosi cijeli glasovni stek za do 100 istovremenih poziva. Opterećenje smo podizali korak po korak, od jednog poziva do 176% nazivnog kapaciteta, i pratili vrijeme odgovora, udio odgovorenih replika i same pozive. Zatim smo optimizovali stek za veliko opterećenje i ponovili test: kapacitet na standardnom nivou otprilike se udvostručio, a na najvišem koraku svaki poziv je povezan i nijedan nije prekinut.

Izmjereno na jednom Server Unit-u.

Server Unit pod opterećenjem

• ≈ 0,27 svlastito vrijeme agenta od posljednje riječi pozivaoca do prvog zvuka
• 35 msod odluke da je pozivalac završio do prvog zvuka, sa ranim startom
• 96%replika ima prepoznati tekst spreman u roku od 10 ms od te odluke
• ≈ 100 msdo prvog zvuka tek sintetizovane rečenice (medijana)
• ≈ 1 msda se pusti fraza koja je već u glasovnom kešu
• 5–8×brže od stvarnog vremena: koliko brzo se glas sintetizuje
• 94%prvih fraza dolazi iz glasovnog keša
• 98%odgovora pokrene jezički model prije kraja pauze
• > 99%replika pozivalaca odgovoreno pri 176% nazivnog kapaciteta
• ≈ 150 msza brzu pretragu znanja na serveru

Spremnost prepoznavanja: 96 do 97% od 58.000 replika pri svim opterećenjima. Brzina glasa: medijana 5,0 do 6,5× kroz nivoe opterećenja, samo promašaji keša. Prvi zvuk nove rečenice: medijana 76 do 106 ms kroz nivoe opterećenja.