Après le développement (modernisation de langage C en Rust) ou le chiffrement homomophe, la Darpa (Defense advanced research projects agency) s’intéresse à l’IA sur le volet communication. L’agence du Pentagone vient de présenter le programme Mathbac, acronyme pour Mathematics for boosting agentic communication qui a pour objectif une meilleure collboration entre les agents IA pour résoudre des problèmes complexe. Il vise aussi à approfondir la compréhension des fondements mathématiques de ces interactions.

L’organisme indique que le projet développera la science de la communication en IA, en s'appuyant sur les mathématiques, les systèmes et la théorie de l'information pour définir comment les agents d'IA collaborent et partagent l'information, ainsi que comment ils analysent des flux de données complexes afin d'en extraire des principes généralisables. Les chercheurs sont invités à soumettre leur candidature pour des subventions pouvant atteindre 2 millions de dollars avec des projets sur 34 mois.

Des phases progressives de recherches

L’agence décline ses recherches en deux phases. La première sera consacrée au développement des outils mathématiques nécessaires à la compréhension et à la conception de protocoles de communication entre agents, ainsi qu'à l'amélioration du contenu de ces communications. La seconde « se concentrera également sur les caractéristiques du contenu des communications entre agents », glisse l’organisme. Les travaux s’attacheront à savoir si un groupe d’agents IA entraînés dans des domaines scientifiques spécifiques peut déduire des principes, des lois ou des corrélations scientifiques générales.  En guise de test, l’organisme demande aux experts de s’appuyer sur leurs travaux pour « redécouvrir la table périodique des atomes de Mendeleïev pour en déterminer une table périodique des molécules ».  

Dans l’annonce du programme, la Darpa observe que le développement de l’IA a permis des avancées remarquables, mais une grande partie reste guidée par des heuristiques, un processus empirique et ad hoc axé sur les résultats plutôt que sur une compréhension approfondie des causes de ces résultats. Le même problème se pose pour la communication entre agents : sans ce que l’agence appelle un « fondement mathématique rigoureux » permettant de comprendre comment les agents communiquent et se coordonnent, ces interactions resteront inefficaces, incohérentes et difficiles à généraliser à d’autres domaines. « Si l’IA excelle dans l’exploration des espaces de solutions, elle peine à explorer systématiquement les espaces d’hypothèses, pourtant essentiels à la génération d’intuitions scientifiques transformatrices et généralisables »