Comment l’AI Act affecte-t-il la sphère de la formation ?

L'intelligence artificielle (IA) est désormais régulée par l'AI Act, adopté par l'UE le 21 mai 2024, impactant significativement le secteur de la formation professionnelle. Les organismes de formation sont classés dans la catégorie à haut risque, englobant des systèmes d'IA liés à l'accès aux établissements, à l'évaluation des compétences, à la surveillance des performances et à la détection de tricheries.

Cette réglementation impose des changements cruciaux dans les pratiques des professionnels de la formation. Il devient essentiel d'assurer la sécurité des données, en veillant à leur pertinence et exactitude. Cela nécessite une documentation technique, des mesures de supervision, ainsi qu'une attention particulière à la cybersécurité et au contrôle humain des systèmes d'IA, notamment face aux risques d'hallucination.

Pour relever ces défis, les organismes doivent établir des environnements technologiques sécurisés tout en utilisant les grands modèles de langage (LLM) performants, tels qu’OpenAI, sans compromettre la confidentialité de leurs données. La sensibilisation et la formation des équipes sont primordiales pour développer une approche critique et sécurisée de l’IA, évitant l'illusion d'une solution miracle dépourvue de contrôle. Ainsi, la prise de conscience et l'accompagnement des formateurs sont essentiels pour naviguer dans cette ère technologique.