La soluzione per il test delle applicazioni di intelligenza artificiale generativa di Rohde & Schwarz è basata sul tester di segnalazione 5G all-in-one CMX500, e consente di misurare quantitativamente l'esperienza utente delle applicazioni di IA generativa nelle condizioni di rete.
Modello linguistico
Inserendo i prompt tramite l'applicazione sul terminale Rohde & Schwarz e ricevendo le risposte di inferenza dal modello linguistico, gli utenti possono misurare indicatori chiave delle prestazioni quali il Time to First Token (TTFT) e i Tokens Per Second (TPS). I dati risultanti vengono raccolti e analizzati mediante un software installato su un PC host, che genera i relativi grafici.
Valutazione quantitativa
Si tratta di un approccio che consente una valutazione quantitativa e comparativa dell'esperienza utente delle applicazioni di IA generativa eseguite direttamente sul dispositivo in differenti condizioni di rete. Inoltre, supporta l'ottimizzazione della progettazione delle applicazioni di IA generativa on-device e fornisce preziosi riferimenti per la futura ottimizzazione delle reti.
Bande di frequenza
Al centro della soluzione di test Rohde & Schwarz si trova il tester di segnalazione 5G all-in-one CMX500, che supporta le architetture SA e NSA, copre le bande di frequenza da FR1 a FR3 (fino a 18 GHz) e integra un server IMS.
