Sviluppo ed applicazione di tecniche di compressione per l'implementazione di algoritmi in Sistemi Embedded

This doctoral thesis presents the development and application of compression techniques in embedded systems whose limited resources in terms of memory and computational capacity often imply issues with transmission/reception of large data quantities and practical implementation of algorithms and models. Concerning the first research project, a comparative study of Compressed Sensing reconstruction algorithms applied to elecromyographic signal was performed with the aim of giving some guidelines for the choice of the best algorithm with reference to Compressed Sensing application to Wireless-Body-Area-Networks in which Compressed Sensing turns out to be useful to reduce the quantity of transmitted data. A better reconstruction quality than results in literature was obtained by enforcing signal sparsity, moreover an optimized solver for Basis Pursuit was proposed which requires low computational cost and a neglegible number of product operations. In the second research topic, in response to the Curse of Dimensionality problem which concerns unsupervised learning a novel Manifold Learning technique was proposed for causal modeling of biosignals. An Intrinsic Dimension algorithm was proposed which overcomes the difficulties of the techniques available in literature when dealing with a high number of dimensions, in addition a model learning technique was developed which was later applied to signal reconstruction and generation. The latter obtained better results than Generative Adversarial Networks. In the last research area Convolutional Neural Networks were proposed for different applications as esca disease detection, Semantic Segmentation and Pedestrian Tracking. These networks which were designed by using tensor decomposition techniques, were implemented on embedded platforms achieving very good accuracy performances in addition to the lowest values for inference time if compared to the available state-of-art-networks.

Questa tesi di dottorato presenta lo sviluppo ed applicazione di tecniche di compressione per implementazione di algoritmi in sistemi embedded per i quali, viste le limitate risorse di memoria e di calcolo, è spesso problematica la trasmissione/ricezione di elevate quantità di dati, nonché implementazione di algoritmi e di modelli. Come primo progetto di ricerca, è stato effettuato uno studio comparativo dei principali algoritmi di ricostruzione per il Compressed Sensing applicati al segnale elettromiografico, allo scopo di fornire linee guida nella scelta del miglior algoritmo nel contesto delle Wireless-Body-Area-Networks dove il Compressed Sensing può essere applicato per ridurre la quantità di dati trasmessi. E’ stata ottenuta una migliore qualità di ricostruzione rispetto ai risultati in letteratura forzando la sparsità del segnale, nondimeno è stato proposto un solver per il Basis Pursuit con un ridotto costo computazionale ed un trascurabile numero di prodotti. Come seconda tematica, in risposta al problema del "Curse of Dimensionality" nell’apprendimento non supervisionato, è stata proposta una tecnica di Manifold Learning per lo sviluppo di un modello causale per biosegnali. E’ stato sviluppato un algoritmo di stima della dimensione intrinseca che supera le difficoltà delle tecniche in letteratura nella gestione di un alto numero di dimensioni, nonché un metodo per l'apprendimento del modello applicandolo alla ricostruzione e generazione del segnale ottenendo per quest’ultima risultati migliori rispetto alle Generative Adversarial Networks. Come ultima area di ricerca, sono state proposte reti neurali convoluzionali per diverse applicazioni quali identificazione del mal dell’esca, Semantic Segmentation, Pedestrian Tracking. Esse sono state ottenute tramite tecniche di decomposizione tensoriale ed implementate su sistemi embedded, ottenendo ottimi livelli di accuratezza e tempi di inferenza inferiori a quelle delle reti disponibili nello stato dell’arte.