IP neuronové sítě zaměřené na zpracování komplexní řeči SoCs

Zdroje jsou dostatečné pro rozpoznávání hlasu na dálku, kde je uživatel vzdálený od mikrofonu. Hlasově řízené digitální domácí asistenti a informační technologie pro automobily jsou určenými aplikacemi.

Proč zpracováváme řeč na místním PCB?

"Algoritmy rozpoznávání řeči založené na neuronové síti provádějí více úloh lokálně než v cloudu kvůli obavám z latence, soukromí a dostupnosti sítí," řekl Cadence.

Volal HiFi 5, má dvojnásobnou kapacitu zpracování zvuku a čtyřnásobné zpracování neuronové sítě (NN) předchozího HiFi 4 DSP.

"Naším cílem je zpřístupnit velký slovní zásobovací stroj lokálně, který dokáže zpracovat přirozený jazyk," řekl marketingový ředitel společnosti Cadence Gerard Andrews pro Electronics Weekly. "Prozkoumali jsme neuronové sítě rozpoznávající řeč s otevřeným zdrojem a navrhneme HiFi 5 pro provoz těchto typů sítí.

Prvky zpracování zahrnují:

• Pět velmi dlouhých příkazových slov (VLIW) - bloková architektura schopná vydávat dvě 128bitové zatížení za cyklus
• DSP multiplikační akumulátory:
  Podpora pro 8 32x32bit MAC / cyklus nebo 16 16x16bit MAC / cyklus
  Volitelně osm jednopřesných MAC s pohyblivou čárkou za jeden cyklus
• Akumulátory neuronové sítě:
  32 16 × 8 MAC / cyklus nebo 16 × 4 MAC / cyklus
  Volitelně 16 poločasově přesných MAC s pohyblivou čárkou za jeden cyklus

DSP MAC podle Andrewse zahrnují například podporu saturace, zatímco MAC neuronové sítě jsou optimalizovány pro vynásobení vektorové hodnoty maticí. "V tolika neuronových sítích skončíte utrácet obrovské množství času vynásobením vektoru maticí," dodal a dodal, že volba toho, kolik MAC má zahrnout a jaké typy a hmotnost datových typů, které mají být podporovány, bylo na základě práce s zákazníky HiFi 4.

Matematika s pohyblivou čárkou byla zabudována pro dva případy použití - jediná přesnost pro vokální přední stranu pro tvorbu paprsků a zrušení ozvěny a napůl přesnost pro některé neuronové sítě. "Plovoucí bod poskytuje rychlý čas na trh," řekl Andrews. "Například, pokud v MatLabu vytvoříte něco plovoucího bodu, jeho převedení na pevný bod je poměrně časově náročné."

Multiplikátor podporuje 8bitové váhy, protože "velkým trendem je kvantifikovat až 8bitové váhy pro rozpoznávání řeči, které nemusejí příliš kompromisovat přesnost. Vidíte papíry, které se prezentují tam, kde se lidé pokoušejí jít dolů na 4bity, "řekl Andrews. "Předpokládáme, že většina algoritmů využije náš multiplikátor 16x8bit: 16bitů pro data z mikrofonu a 8bitů pro váhy."

Pro ostatní schémata vážení jsou k dispozici 4bitové, 2bitové a 1bitové operace, stejně jako 8bitové.

Ambiq Micro, výrobce mikrokontrolérů postavený na "sub-prahu" silikonových procesů pro úsporu energie, byl prvním zákazníkem HiFi 5.

"Abychom vyhověli extrémně náročnému problému, který přináší výpočetně náročné algoritmy pro rozpoznávání řeči na bázi neuronových sítí a energeticky citlivé přístroje, Ambiq Micro se rozhodl být prvním křemíkovým držitelem Cadence HiFi 5 DSP", řekl Ambiq vp marketingu Aaron Grassian. "Přenos HiFi 5 DSP na subprachovou platformu Ambiq Micro, která je optimalizována výkonem, umožňuje vývojářům, výrobcům ODM a výrobcům OEM využít co nejvíce výhod technologii od vůdců zvukových softwarů, jako jsou DSP Concepts a Sensory, přidáním integrace, ovládání a řízení hlasového asistenta a konverzační uživatelské rozhraní k přenosným mobilním produktům bez obětování kvality nebo životnosti baterie. "

Podpora duševního vlastnictví obsahuje knihovnu optimalizovaných knihovních funkcí běžně používaných při zpracování neuronových sítí - zejména pro zpracování řeči. Tyto funkce jsou zaměřeny na integraci do populárních rámců strojového učení.

HiFi 5 je také kompatibilní s firmou knižnice stávajících zvukových a hlasových kodeků a softwarových balíčků, které jsou optimalizovány pro dřívější verze HiFi produktové řady.