IA Générative et Cybersécurité pour le développement d’applications Internet

Mind in a Box est très heureux de lancer le projet GALICIA, en collaboration avec ses partenaires italiens Novareckon et HAL Service.

GALICIA est un projet financé par l’Union européenne, dans le cadre du programme NGI Sargasso.

L’objectif du projet est de tester une nouvelle approche de la vérification de la résilience numérique en évaluant la justesse et la sécurité du code généré par des modèles de langage de grande taille (LLM) sur un ensemble d’études de cas. L’ambition est de valider le code source généré par l’IA générative et d’en analyser les limites, afin de renforcer la confiance envers l’IA générative. GALICIA s’inscrit dans le contexte croissant des exigences de conformité dans le domaine de l’automatisation industrielle, ainsi que dans le besoin de produire des logiciels rapidement et à faible coût.

Principaux résultats attendus du projet GALICIA :

GALICIA proposera une plateforme de vérification de code sur un ensemble de cas d’usage liés à l’automatisation, incluant une étude de cas de grande importance industrielle. Le projet repose sur une vérification en deux étapes du code généré par LLM :

• Génération de code source via LLM à partir d’exigences fonctionnelles formulées en langage naturel par les utilisateurs ;
• Vérification de la conformité du code généré avec les spécifications de sécurité également formulées en langage naturel, au moyen de l’outil de preuve théorique NuSMV et d’autres formalismes.

Le projet s’étale sur une durée de 9 mois, et les résultats seront publiés sur un site web en cours de création.