Surveiller l’autonomie des intelligences artificielles « agentic »

L’expansion de l’intelligence artificielle a permis une adoption et des avancées majeures dans ce domaine. Aujourd’hui, il est de plus en plus question de l’agentic AI : une classe d’intelligences artificielles capables de prendre des décisions et d’effectuer des tâches sans intervention humaine.

👉 Le défi : Proposer des mécanismes permettant d’assurer la surveillance de ces IA « agentic » afin que leur autonomie ne génère pas de situations qui échappent au contrôle humain.

Pourquoi c’est important ?

Une IA autonome peut décider ou agir d’une manière imprévisible, voire risquée. Sans supervision, elle pourrait causer des dommages, biaiser des processus ou prendre des décisions contraires à l’éthique. La confiance dans l’IA dépendra de la capacité à garder l’humain « dans la boucle ».

Idées à explorer :

• Imaginer des mécanismes de contrôle, de transparence et d’alerte pour surveiller l’IA autonome.
• Explorer des solutions hybrides mêlant logiciel et matériel (capteurs, environnements sécurisés).
• Prendre en compte la gouvernance éthique et la responsabilité humaine.

Industries potentielles :

• Transport autonome (voitures, drones)
• Santé numérique (robots, diagnostic)
• Finance (trading algorithmique)
• Énergie et industrie 4.0
• Technologies grand public (assistants vocaux, agents virtuels).