Radar de Thoughtworks : Le passage à l’échelle de l’IA exige une surveillance accrue

Thoughtworks a publié le volume 35 de son Technology Radar, soulignant la nécessité de contrôles robustes à mesure que les agents d'IA se développent. Ce rapport, basé sur les échanges avec les clients de Thoughtworks, identifie des défis d'ingénierie qui vont au-delà des interactions avec les modèles d'IA. Il s'agit notamment de sécuriser les environnements d'exécution des agents, de gérer les accès, de garantir la supervision humaine et de maîtriser les coûts opérationnels.

Le Radar préconise des pratiques telles que le sandboxing des agents et la modélisation des menaces afin de garantir un déploiement fiable de l'IA en production. Il souligne l'importance des systèmes de gouvernance, du jugement humain et de l'infrastructure dans la gestion des risques liés à l'IA à mesure que son adoption se généralise.

Le rapport souligne que les questions actuelles portent sur la fiabilité et l'accessibilité financière de l'IA, plutôt que sur la simple vitesse de programmation. Les organisations qui investissent dans l'ingénierie et la supervision sont bien placées pour en tirer une valeur durable à mesure que les modèles évoluent.

Les thèmes clés abordés incluent l'ingénierie des systèmes pour les environnements d'IA, la préservation du jugement humain, les alternatives aux modèles propriétaires et les considérations économiques pour un déploiement efficace de l'IA.