Шта је унутра у Dialogist AI гласовном агенту

Транскрипција траје 0,5 мс после одлуке јер препознавање ради у току док позивалац говори и прави пробни пролаз током паузе. Уз рани старт језички модел почиње на том пробном тексту унутар паузе, па после одлуке остају 3 мс његовог посла; у стандардном режиму свих 111 мс долази после ње. У тесту оптерећења рани захтев је отишао пре одлуке у 98% одговора, у просеку 225 мс раније при 50 разговора и 508 мс раније при 128. Ако позивалац настави да говори, агент одбацује припремљени одговор и одговара на целу реченицу.

При 100 истовремених позива на једном Server Unit-у исти корак траје око 0,4 с у стандардном режиму и 0,25 с уз рани старт. Цела слика је у белешци о Server Unit-у. Server Unit под оптерећењем

• уштеда 89–235 мс

  Рани старт

  Језички модел креће на препознатом тексту док агент још чека да прође пауза. Уштеда расте са оптерећењем: 89 мс при једном позиву, 189 мс при 96 разговора, 235 мс при 128.

• 280 → 40 мс

  Мртва тишина уклоњена из говора

  Синтетизоване реченице почињу тишином; медијана у нашем кешу је 280 мс. Агент је скраћује на 40 мс док репродукује клип, па је на линији одговор једног позива стизао око 200 мс раније. Кеш чува оригинал.

• уштеда ≈ 0,3 с

  Модел краја реплике

  После паузе од 192 мс мали модел по интонацији процењује да ли је мисао завршена. У стварним позивима рано је затворио 87% реплика позивалаца и сачекао 96% пауза усред мисли. Може прво да ради у режиму посматрања и само бележи шта би урадио.

• 94%

  Кеш гласа

  Агент са диска репродукује фразе које је већ изговорио. Кеш преживљава рестарте, а ван радног времена агент проверава кеширане клипове тако што их препознаје, па оне који не прођу поново генерише.

• Прва реченица прескаче ред

  Под оптерећењем почетак одговора једног позива никада не чека иза краја одговора другог. Агент синтетизује следеће реченице док се прва репродукује.

• Један сат за све позиве

  Медиј свих позива ради на једном заједничком откуцају од 20 мс, уместо једног тајмера по позиву.

  Voicecore: медијски бацкенд у Русту (ЕН)
• 69 → 0,7 µс

  Јефтинији аудио фрејмови

  Предаја фрејма између телефонског стека и агента траје мање од микросекунде уместо десетак.

  Voicecore: медијски бацкенд у Русту (ЕН)

Пре и после: исти стенд, један позив од 20 минута и 50 разговора, агент за регрутацију. Кеш: 64.192 фразе у тесту оптерећења. Предаја фрејма: мерена изоловано на библиотеци за телефонију.

• Упадице које нешто значе

  Позивалац може да говори преко агента, а агент стаје. Упадицу препознаје по тексту или по звуку. Акустички режим има сопствени праг и тражи непрекинут говор, па тастатура, залупљена врата или кашаљ не прекидају агента. Агент игнорише кратак фрагмент ниске поузданости преко сопственог гласа, а тако изгледа ехо.

• Глас се повлачи

  Када позивалац почне да говори, глас агента се стишава и затамњује: мања јачина, мање високих фреквенција. Ако позивалац каже нешто што се рачуна, агент стаје. После „аха“ или кашља враћа се од најближе границе слога, од почетка реченице или из тачне тачке прекида. Подешава се по агенту.

• „Аха“ у паузама

  Усред дуге реплике позиваоца агент убацује кратке потврде сопственим гласом. То су унапред снимљени клипови које је човек преслушао и одобрио. Репродукују се у паузама, са вероватноћом, минималним размаком, ограничењем по реплици и без понављања, а никада када модел краја реплике сматра да је позивалац завршио.

• Каже када није сигуран

  Поузданост препознавања улази у промпт агента. Агент види несигурну транскрипцију означену као такву и тражи од позиваоца да понови уместо да погађа име или број.

• Учтиво руковање тишином

  Поновни упит, па поздрав, мерено од стварног краја репродукције, а не од краја синтезе.

• Просторија око гласа

  Опционална позадина канцеларије или сале за састанке, помешана испод гласа од прве секунде позива.

• Агент генерише поздрав током одлагања звоњења и шаље га реченицу по реченицу.
• Широкопојасни Г.722 где га друга страна подржава. Ублажено аутоматско појачање подигло је однос сигнал-шум са 23 на 28,7 дБ на 11 означених стварних позива.
• Агентово „аха“ може да се врати кроз линију са слушалице позиваоца. Препознавање га уклања из транскрипта, а агент држи потврде ван историје разговора.

Слушање док говори: цела белешка

• Клонирање гласа

  Нови глас из узорка од 10 до 30 секунди и његовог транскрипта.

• Речници изговора

  Називи брендова, улице и жаргон изговорени онако како их ви изговарате, са преслушавањем.

• Један глас по агенту

  Из каталога или клониран, брзином коју задате.

• Синтеза у току

  Реченицу по реченицу: следећа реченица је спремна пре него што се прва заврши.

РАГKnowledge Hub

Atlas је наш кноwледге хуб. Агента повезујете са једном или више база знања, а Atlas враћа пасусе који одговарају на питање.

Он-премисе, цео стек се инсталира на ваше сервере помоћу Доцкера, по потреби и без интернета. Server Unit носи 100 истовремених позива и тестиран је до 176% тога. Server Unit под оптерећењем

Server Unit носи цео гласовни стек за до 100 истовремених позива. Оптерећење смо подизали од једног позива до 176% називног капацитета и пратили време одговора, удео одговорених реплика и саме позиве. Затим смо оптимизовали стек за велико оптерећење и поновили тест: капацитет на Стандард нивоу се отприлике удвостручио, а на највишем кораку сви позиви су се повезали и ниједан није пао.

Измерено на једном Server Unit-у.

Server Unit под оптерећењем

• ≈ 0,27 ссопствено време агента од последње речи позиваоца до првог звука агента
• 35 мсод одлуке да је позивалац завршио до првог звука, уз рани старт
• 96%реплика има препознати текст спреман у року од 10 мс од те одлуке
• ≈ 100 мсдо првог звука свеже синтетизоване реченице (медијана)
• ≈ 1 мсда се репродукује фраза која је већ у кешу гласа
• 5–8×брже од стварног времена: колико брзо се глас синтетизује
• 94%првих фраза долази из кеша гласа
• 98%одговора покреће језички модел пре краја паузе
• > 99%реплика позивалаца одговорено при 176% називног капацитета
• ≈ 150 мсза брзу претрагу знања на серверу

Спремност препознавања: 96 до 97% од 58.000 реплика при свим оптерећењима. Брзина гласа: медијана 5,0 до 6,5× при различитим нивоима оптерећења, само промашаји кеша. Први звук свеже реченице: медијана 76 до 106 мс при различитим нивоима оптерећења.