Yassine Mhiri

(SATIE, L2S)

Title — A Robust algorithm for radio interferometric imaging

Abstract — Radio interferometers produce images of the sky in the radio domain bringing new insights into various scientific domains such as solar monitoring, planetology, and astrophysics. A new generation of large-scale radio interferometers are designed with the promise to improve further the resolution and sensitivity of radio astronomical images. Nevertheless, these technological advances bring several signal processing challenges to exploit the scientific potential of such instruments fully.

Amongst them image synthesis can be expressed as a signal reconstruction problem from incomplete Fourier measurements and leads to an ill-posed inverse problem. The particularity of radio interferometric data lie in the coverage of the Fourier space (UV-coverage) that depends on the sensors coordinates as well as the observation time. In particular, large-scale radio interferometers will improve the UV coverage, increasing the amount of data to process. Most imaging algorithm can often be expressed as a regularized convex optimization algorithm that considers an L2 norm as fitting term, implicitely assuming a Gaussian noise on the measurements. However, additive perturbations of radio-interferometric data cannot be effectively modeled by a Gaussian noise.

In this talk, we’ll explore the basics of radio interferometric imaging and present a robust imaging algorithm. We will consider compound Gaussians to model the presence of outliers in the data, and derive an expectation-maximization algorithm to compute image estimates from the measured visibilities. Finally, numerical results on realistic data that illustrate the performance of the proposed algorithm will be shown.

A Robust EM Algorithm for Radio Interferometric Imaging in The Presence of Outliers. Yassine Mhiri, Pascal Larzabal, Mohammed-Nabil El Korso, Arnaud Breloy SiPS22, Nov 2022, Rennes, France.

Biography — I am a Phd Student in statistical signal processing applied to radioastronomy, supervised by Pascal Larzabal, Mohammed Nabil EL Korso and Arnaud Breloy within the signal processing group (MOSS) of the SATIE laboratory at Paris-Saclay University. Before that, I was a research engineer at Phasics where i helped conceive and develop algorithmic solutions for wavefront sensor analysis.

My current research interests lie in robust signal processing, statistical learning, structured covariance matrix estimation, interferometry and sensor array processing.

Transcript

1. Algorithmes robustes pour l’imagerie en radioastronomie Yassine Mhiri encadré par Pascal Larzabal, Mohammed Nabil El Korso et Arnaud Breloy Jeudi 9 février 2023 - Séminaire S3 - L2S
2. Qu’est ce que la radioastronomie ? 8 L’observation du ciel dans le domaine des ondes radio crédit: NASA, STScI Séminaire S3 1 9 Février 2023 Séminaire S3 1 9 Février 2023
3. Qu’est ce que la radioastronomie ? Credit: Y. Beletsky (LCO)/ESO v Antenne parabolique : somme cohérente du champs électromagnétiquT v La résolution angulaire dépend du diamètre de l’antenne Séminaire S3 2 9 Février 2023 Séminaire S3 2 9 Février 2023
4. Qu’est ce que la radioastronomie ? B radiotélescope VLA situé au nouveau mexique (USA) - Credit: NRAO/AUI/NSF ‘ Radio interféromètre : réseau d’antennes qui utilise les corrélations entre les différents capteurs pour reconstruire une image du cielV ‘ La résolution angulaire est inversement proportionnelle à la plus longue distance du réseau. Séminaire S3 3 9 Février 2023 Séminaire S3 3 9 Février 2023
5. Mon parcourA ) Diplômé de l’ENSEEIHT en électronique et traitement du signaD ) Ingénieur algorithmie chez Phasics pendant 1 an et demi# ) Doctorant en 3ème année affilié au laboratoire SATIE à l’ENS Paris-Saclay Mon sujet de thèse : Traitement statistique des signaux observés par les futurs grands radiotélescopes Encadrement : Pascal Larzabal, Mohammed-Nabil El Korso et Arnaud Breloy Mes travauxV ) Calibration des radio-interféromètres en présence d’interférences de radiofréquences# ) Algorithmes robustes pour l’imagerie en radiointerféromètrip ) 1 publication de revue et 3 publications en conférences Mon parcours Séminaire S3 4 9 Février 2023 Séminaire S3 4 9 Février 2023
6. Principe de l’interférométrie Imagerie robuste par maximum de vraisemblance Apprentissage informé pour l’imagerie interférométrique Outline
7.  Principe de l’interférométrie
8. Principe de l’interféromètrie Modèle de mesure F Déphasage temporeV F Dépend de la géométrie du réseau F Nombre fini de sources ponctuelles position de l’antenne longueur d’onde angle d’arrivée Séminaire S3 5 9 Février 2023 Séminaire S3 5 9 Février 2023
9. Principe de l’interféromètrie Modèle de mesure ligne de base ` Le correlateur combine les signaux et produit des visibilités (corrélationsd ` Nombre fini de sources ponctuelles puissance de la source visibilité sans bruit pour le couple d’antenne (p,q) distance entre les antennes (ligne de base) Séminaire S3 6 9 Février 2023 Séminaire S3 6 9 Février 2023
10. Principe de l’interféromètrie Modèle de mesure Y Modèle discret : Chaque pixel correspond à une direction du cieA Y Champs de vue étroit : Voûte céleste plane Image du ciel vecteur de mesure sans bruit cosinus directeur distance entre les antennes Le radio interféromètre échantillonne le plan de Fourier Séminaire S3 7 9 Février 2023 Séminaire S3 7 9 Février 2023
11. Principe de l’interféromètrie Le plan UV source : Google Earth Antennes du Very Large Array (VLA) telescope situé dans le désert du Nouveau Mexique (USA) source : Données du NRAO Plan UV = Plan de Fourier 2D ‘ Echantillonnage du plan de Fourier 2Dˆ ‘ Chaque point correspond à un couple d’antennes Séminaire S3 8 9 Février 2023 Séminaire S3 8 9 Février 2023
12. Principe de l’interféromètrie Imagerie par synthèse de Fourier Séminaire S3 9 9 Février 2023 Séminaire S3 9 9 Février 2023 Ciel à reconstruire Plan de Fourier 2D Imagerie par synthèse de Fourie“ ˆ Transformée de Fourier inverse des visibilités mesuréei ˆ Image du ciel convoluée à la PSF de l’interféromètre PSF de l’interféromètre image du ciel Fourier2D de l’image Plan uv
13. Principe de l’interféromètrie état de l’art L’algorithme CLEAN [Högbom1974„ f Modèle de sources ponctuellet f Déconvolution à partir de la dirty image et de la PSR f Limitation : Imagerie de sources étendue5 f Variantes modernes de CLEAN plus performantes [Offringa2017, Cornwell2008]  Détection du pic dans l’image résiduell‡ „ Soustraction de l’impact de la source détectée à travers la PS{ r Ajout de la source ponctuelle dans le modèle estimŽ z Convolution du modèle de sources ponctuelles avec une PSF Séminaire S3 10 9 Février 2023 Séminaire S3 10 9 Février 2023
14. Principe de l’interféromètrie état de l’art Régularisation parcimonieuse [Wiaux09a ` Résolution par des algorithmes proximau8 ` Choix de la régularisation @ ` norme L1 [Wiaux2009] : peu de coefficients non nuls dans l’imagV ` SARA [Carrillo2012] : représentation parcimonieuse dans une base d’ondelettes fitting term regularization term visibilités mesurées modèle Séminaire S3 11 9 Février 2023 Séminaire S3 11 9 Février 2023
15. Principe de l’interféromètrie Imagerie par maximum de vraisemblance Faire une image par maximum de vraisemblance régularisé fitting term regularization term v Terme d’attache aux données Gaussienneo v Terme de régularisation correspond à l’a priori sur les sources observées Séminaire S3 12 9 Février 2023 Séminaire S3 12 9 Février 2023
16. 2. Imagerie robuste par maximum de vraisemblance
17. Bruits hétérogènes Perturbations aléatoires Les interférences de radiofréquence s Ondes radio interférentes d’origines humaineu s Modélisées comme des sources additionnelleu s Facilement identifiables si de forte puissancd s Impact significatif même si de faible puissance Séminaire S3 13 9 Février 2023 Séminaire S3 13 9 Février 2023
18. Modélisation de bruits hétérogènes Les Gaussiennes composées Les Gaussiennes composées s’écrivent comme le produit de 2 composantes paramètre de texture aléatoire speckle : bruit Gaussien ‘ Distributions à queues lourdes‰ ‘ Modélisent la présence de bruits non Gaussieni ‘ Exemple : la t-distribution, la K-distribution Séminaire S3 14 9 Février 2023 Séminaire S3 14 9 Février 2023
19. Imagerie par Maximum de Vraisemblance Modèle de Mesur6 A Chaque visibilité est affectée par un bruit gaussien de variance aléatoire Vraisemblance logarithmique à maximiser Résolution du problème du maximum de vraisemblance par un algorithme EM Séminaire S3 15 9 Février 2023 Séminaire S3 15 9 Février 2023
20. L’Agorithme d’Esperance Maximisation Maximisation d’une borne inférieure de la vraisemblance à chaque itératiop E La borne inférieure dépend de l’estimé couranteb E Converge vers un maximum local de la vraisemblanc5 E Borne inférieure définie à partir d’un jeu de données complètes Etape E : calcul de l’espérance de la vraisemblance des données complètes données complètes données incomplètes (observées) Etape M : Maximisation de la borne calculée Séminaire S3 16 9 Février 2023 Séminaire S3 16 9 Février 2023
21. Algorithme EM pour l’imagerie Robuste Choix d’un jeu de données complèteF D La texture est considérée comme donnée latente L’Algorithme 1 : EM Imager Etape E Etape M D Etape M équivalente à un problème d’imagerie sur des visibilités pondérées o D Implémentation simple à partir de méthodes existantes Séminaire S3 17 9 Février 2023 Séminaire S3 17 9 Février 2023
22. Algorithme EM pour l’imagerie Robuste Résolution de l’étape de maximisation par un ISTA Cas d’une t-distribution de degré de liberté ν Régularisation parcimonieuse : Résolution de l’étape M par l’algorithme ISTf d Converge vers la solution de l’étape M Pour k=1:K Séminaire S3 18 9 Février 2023 Séminaire S3 18 9 Février 2023 descente de gradient seuillage doux :
23. Algorithme EM pour l’imagerie Robuste Tirer partie de l’algorithme de FFT Evaluation du modèlea f Transformée de Fourier discrète sur une grille non uniforme : O(KN) f Transformée de Fourier discrète sur grille uniforme par FFT : O(K+Nlog(N)) FFT sur grille uniforme Image du ciel Interpolation sur coordonnées continues Séminaire S3 19 9 Février 2023 Séminaire S3 19 9 Février 2023
24. Algorithme EM pour l’imagerie Robuste Tirer partie de l’algorithme de FFT Choix d’un jeu de données complètes : d Les paramètres de textur€ d La transformée de Fourier complète bruitée sur une grille uniforme : d Maximisation dans l’espace de Fourier uniforme e Séminaire S3 20 9 Février 2023 Séminaire S3 20 9 Février 2023
25. Algorithme EM pour l’imagerie Robuste Tirer partie de l’algorithme de FFT L’Algorithme 2 : FFT - EM Imager espérance de la transformée de Fourier de l’image du ciel sur une grille uniforme Etape E Etape M Séminaire S3 21 9 Février 2023 Séminaire S3 21 9 Février 2023
26. Algorithme EM pour l’imagerie Robuste Régularisation parcimonieuse : EM IMAGER FFT EM IMAGER Résolution de l’étape M par l’algorithme ISTA EM IMAGER O(KN) FFT EM IMAGER O(Nlog(N)) algorithme de FFT Séminaire S3 22 9 Février 2023 Séminaire S3 22 9 Février 2023 produit matriciel
27. Algorithme EM pour l’imagerie Robuste Résultats numériques q Visibilités générées à partir d’un modèle de ciec q Bruit t-distribué ajoutƒ q 2 implémentations de l’EM robuste I q EM ISTA : Étape M par un ISTA q EM CLEAN : Étape M par un CLEA5 q FFT EM : Étape M par un ISTA q Comparaison avec un CLEAN Modèle de ciel Séminaire S3 23 9 Février 2023 Séminaire S3 23 9 Février 2023
28. Algorithme EM pour l’imagerie robuste Résultats numériques s 100 répétitions de Monte Carli s Métriques : SSIM, SNR, Cross-Corrélation normalisée Séminaire S3 24 9 Février 2023 Séminaire S3 24 9 Février 2023
29. Algorithme EM pour l’imagerie robuste Résultats numériques Comparaison des temps d’exécution en fonction du nombre de visibilitéS 7 EM IST4 7 FFT EM ISTA Séminaire S3 25 9 Février 2023 Séminaire S3 25 9 Février 2023
30. 3. Apprentissage informé pour l’imagerie interférométrique
31. Principe du dépliement neuronal Traitement du signal classique @ S Modèle physique@ S Algorithme itératiI S Résultats interprétable( S Sensibilité aux erreurs de modèle Apprentissage profone S Modèle complexe et flexibl… S Résultats non interprétables (boite noire— S Performances optimales sur les distributions d’entraînement et de test Dépliement neuronal Séminaire S3 26 9 Février 2023 Séminaire S3 26 9 Février 2023
32. Principe du dépliement neuronal 9 Un algorithme d’optimisation itératif peut s’interpréter comme un réseau de neurones récurent (RNN) Algorithme itératif Dépliement neuronal … 9 Apprentissage des poids et hyperparamètres— 9 Flexibilité additionnelle Algorithme déplié Séminaire S3 27 9 Février 2023 Séminaire S3 27 9 Février 2023
33. Imagerie par dépliement neuronal Algorithme EM :3 H MSTEP : Iterative Soft Threshold Algorithm (ISTA H Hyperparmètre : γ, alpha Inputs: x(0), niteration, H, y, γ, α Algorithm: For m=1:niteration Représentation dépliée d’une itération x(m) y H HH γ x(m+1) Séminaire S3 28 9 Février 2023 Séminaire S3 28 9 Février 2023
34. Imagerie par dépliement neuronal Couches linéaires : le modèl " Représente le modèle et son gradient x(m) y H HH γ x(m+1) Séminaire S3 29 9 Février 2023 Séminaire S3 29 9 Février 2023
35. Imagerie par dépliement neuronal Couche “robuste2 @ Calcul de l’espérance approximée par un réseau de neuroneF @ Flexibilité par rapport à l’algorithme original |y - Hx(m)|2 ω(m) Linear (nvis x 2nvis ) ReLU ReLU Sigmoid Linear (2nvis x 2nvis ) Linear (2nvis x nvis ) x(m) y H HH γ x(m+1) Séminaire S3 30 9 Février 2023 Séminaire S3 30 9 Février 2023
36. Imagerie par dépliement neuronal Seuillage douA 4 Le seuillage doux est implémenté par une activation ReLU dépendant du paramètre de seuil x(m) y H HH γ x(m+1) Séminaire S3 31 9 Février 2023 Séminaire S3 31 9 Février 2023
37. Imagerie par dépliement neuronal Architecture Globale paramètres à apprendre : H, Θ, α ReLU(α) x(m) y Linear(H) Robust layer(Θ) Linear(HH) x(m+1) Séminaire S3 32 9 Février 2023 Séminaire S3 32 9 Février 2023
38. Apprentissage Apprentissage supervisé @ V 1000 epochA V Optimiser : Adam, learning rate à 0.0005 V Fonction coût : MSE Séminaire S3 33 9 Février 2023 Séminaire S3 33 9 Février 2023
39. Jeux de données d’entraînement Modèle de cieC ! Les galaxies et objets stellaires observés peuvent être modélisés par des ellipsoïdes Gaussiennes [Connor2022 ! L’apprentissage se fait sur des modèles de ciel simulés par des ellipsoïdes Gaussiennes Cyril Tasse, Observatoire de Paris - PSL et l’équipe survey LOFAR Un amas de galaxies vu par le LOFAR. Séminaire S3 34 9 Février 2023 Séminaire S3 34 9 Février 2023
40. Jeux de données d’entraînement Modèle de ciel simulé 7 8 2 sources Gaussiennes espacées de 10 pixelsG 8 La taille de la Gaussienne et la puissance de la source varient Visibilités sans bruits générées à partir des modèles de ciel : Séminaire S3 35 9 Février 2023 Séminaire S3 35 9 Février 2023
41. Jeux de données d’entraînement Dataset A. Bruits hétérogène7 P Bruit additif distribué selon une K- distribution est ajouté v Texture distribuée selon une loi gamma Séminaire S3 36 9 Février 2023 Séminaire S3 36 9 Février 2023
42. Résultats numériques Dataset A. Bruits hétérogènes Méthode EM appris EM ISTA SNR 14.4 2.34 SSIM 0.81 0.47 Cross Correlation 0.98 0.71 Ciel à reconstruire EM + ISTA EM appris Séminaire S3 37 9 Février 2023 Séminaire S3 37 9 Février 2023
43. Jeux de données d’entraînement Dataset B. Simulation d’erreur de calibratio3 a Erreur de calibration simulée par un bruit multiplicatif I a Bruit additif Gaussien est ajouté Séminaire S3 38 9 Février 2023 Séminaire S3 38 9 Février 2023
44. Résultats numériques Dataset B. Simulation d’erreur de calibration Méthode EM appris EM ISTA SNR 6.81 1.82 SSIM 0.64 0.60 Cross Correlation 0.89 0.86 Ciel à reconstruire EM + ISTA EM appris Séminaire S3 39 9 Février 2023 Séminaire S3 39 9 Février 2023
45. Conclusion Conclusio@ W 2 Algorithmes d’imagerie robuste à la présence d’interférence W Bruit issu d’un composé GaussienS W Accélération de l’algorithme par la structure du modèle de radio interférométrieS W Réseau de neurones informé dérivé du modèl$ W Flexibilité du modèl$ W Interprétabilité du réseau Perspective  Tirer partie de l’algorithme de FFT et introduire des couches de convolutio@  Images plus complexe  Comparaison avec méthodes d’apprentissage Séminaire S3 40 9 Février 2023 Séminaire S3 40 9 Février 2023
46. Merci de votre attention yassine.mhiri@universite-paris-saclay.fr