O.XYZ : Ahmad Shadid sur la promesse et les pièges des outils de codage alimentés par l'IA : Équilibrer l'innovation avec la sécurité et la complexité

En bref

Les outils alimentés par l'IA comme Cursor transforment le développement de prototypes, mais les experts mettent en garde contre leurs limitations et les risques potentiels de simplification excessive des flux de travail en ingénierie logicielle.

Récemment, Sebastian Siemiatkowski, PDG de Klarna, une entreprise mondiale de solutions de paiement proposant des services « acheter maintenant, payer plus tard », a partagé comment des outils d'IA comme Cursor ont révolutionné le développement de prototypes. Il a souligné la tendance croissante du vibe coding, où l'IA aide à générer du code à travers des invites en langage naturel, rationalisant les flux de travail et réduisant la dépendance aux équipes techniques. Cette approche devient une compétence clé pour les développeurs, les grandes entreprises recherchant de plus en plus la maîtrise des outils de codage alimentés par l'IA.

Lors d'une conversation avec Mpost, Ahmad Shadid, PDG d'O.XYZ—un écosystème de développement AI complet et agentique—a partagé ses réflexions et son expertise sur l'évolution de cette tendance.

L'essor du codage dirigé par l'IA : Autonomiser les dirigeants non techniques, atténuer les risques et façonner l'avenir de l'ingénierie logicielle

Ahmad Shadid a noté que les leaders non techniques ont désormais l'opportunité de transformer des idées en démos cliquables en quelques heures, grâce à des outils alimentés par l'IA. Cela accélère la découverte de produits et réduit l'écart de traduction entre l'intention commerciale et l'ingénierie. Cependant, les risques incluent un faux sentiment de faisabilité, car les prototypes peuvent dissimuler des problèmes sous-jacents tels que la faisabilité, la sécurité et la dette technique. De plus, les leaders peuvent devenir trop concentrés sur ce que l'outil peut générer, négligeant ce qui est viable d'un point de vue stratégique ou technique.

Il a également partagé les pièges les plus courants auxquels les équipes sont confrontées lors de l'utilisation de code généré par l'IA et a proposé des idées sur la manière de réduire ces risques.

« La gestion des entrées non sécurisées et les modèles d'authentification faibles figurent parmi les principaux problèmes. Ces préoccupations en matière de sécurité peuvent être atténuées en appliquant SAST/DAST dans CI, des linters de sécurité, une analyse des dépendances et une modélisation des menaces sur les fonctionnalités qui proviennent de l'IA. La fuite de données dans les invites peut être réduite en passant par des fournisseurs approuvés qui masquent et protègent les secrets, et en utilisant des passerelles d'invite préservant la vie privée », a déclaré Ahmad Shadid à Mpost.

« Ce n'est pas seulement le code généré par l'IA. Lorsqu'une personne n'est pas ingénieur ou programmeur, elle manque souvent d'une compréhension complète de la manière dont les logiciels sont construits et à quoi ressemble l'architecture du système. L'IA n'est aussi bonne que le prompt, n'est-ce pas ? Donc, ils ne sont pas en mesure de donner le bon prompt à l'IA, ce qui peut entraîner des menaces de sécurité et des problèmes comme des API dans le frontend, des bases de données publiques », a-t-il poursuivi.

De plus, l'expert a ajouté que quelque chose dont beaucoup d'ingénieurs se plaignent est que lorsque le contexte devient trop grand ou lorsque quelque chose devient trop complexe, l'IA commence à halluciner. Elle commence à apporter des modifications dans le code qui n'étaient pas nécessaires ou qui n'étaient pas explicitement demandées. L'IA génère également des milliers de lignes de code. Imaginez essayer de suivre les changements aléatoires dans la base de code à travers des milliers de lignes de code.

« En fin de compte, des revues régulières et chronométrées sans IA sont essentielles pour garder les fondamentaux frais et lutter contre l'atrophie des compétences », a-t-il déclaré.

Commentant sur la question de savoir si la dépendance à la programmation pilotée par l'IA pourrait finalement redéfinir la façon dont les ingénieurs logiciels sont valorisés et recrutés dans tous les secteurs, avec le « vibe coding » devenant une compétence recherchée même dans les offres d'emploi, Ahmad Shadid a déclaré : « Moins de saisie brute, plus de conception système, de révision de code, de débogage, de sécurité et d'orchestration des données/IA composent le sens du produit. Nous avons également observé un changement de 'mettre en œuvre X à partir de zéro' à 'critiquer, renforcer et étendre le code produit par l'IA', ainsi que des exercices d'architecture et d'incidents. La montée des 'responsables de pair-programming IA', des 'gardiens de code' et des ingénieurs de plateforme qui construisent des garde-fous dans le logiciel généré par l'IA montre une adoption croissante de la programmation pilotée par l'IA."

« Les novices passent souvent les fondamentaux et se lancent directement dans l'ingénierie des invites sans avoir d'idée précise de ce qu'ils souhaitent accomplir. D'un autre côté, les ingénieurs expérimentés tirent parti de leur expérience, générant plus de temps pour l'architecture, la fiabilité et des résultats produits adéquats. Des parcours d'apprentissage explicites, une culture du « lire avant d'écrire » et des exercices périodiques en « mode manuel » peuvent aider à garantir une utilisation efficace et éthique de l'IA pour écrire du code », a-t-il noté.

Les outils de codage Vibe sont bénéfiques, mais trop simples pour remplacer les flux de travail de développement traditionnels

L'une des préoccupations est que les outils de codage par ambiance pourraient un jour remplacer les workflows de codage traditionnels. Cependant, l'expert a noté que les outils de codage par ambiance sont tout simplement trop simples pour remplacer des workflows de codage complets.

«Cela fera-t-il partie des flux de travail de codage à partir de maintenant ? Bien sûr, les équipes produit en bénéficient vraiment pour mettre rapidement en place un frontend et vérifier différents designs UX, bien sûr, les développeurs freelance et les amateurs peuvent rapidement assembler quelque chose, mais cela ne peut pas remplacer l'ensemble du flux de travail. En fait, le développement en ce moment fait face à certains défis, surtout à mesure que l'IA devient de plus en plus puissante», a-t-il déclaré à Mpost.

« Nous ne pouvons tout simplement pas rattraper notre retard, les outils ne peuvent pas suivre, et nous faisons face à une crise de fragmentation des outils où les développeurs ont maintenant besoin de 4 ou 5 outils dans le cadre de leur flux de travail. Chaque fois que vous changez, vous perdez le contexte, vous ne pouvez tout simplement pas suivre, et l'IA ne peut pas suivre ; vous ne pouvez pas suivre tous les changements dans un outil et l'autre, etc. », a poursuivi Ahmad Shadid.

Pour le dire simplement, les outils et plateformes de codage actuels ont encore un très long chemin à parcourir avant de remplacer les flux de travail de codage traditionnels. Ces outils sont encore incomplets.

Ahmad Shadid Discute de l'Avenir de l'IA dans le Développement Logiciel : Avantages, Risques et Besoin de Solutions Sécurisées et Évolutives

Ahmad Shadid a souligné que les outils et environnements de développement actuels sont prêts à intégrer en toute sécurité le codage alimenté par l'IA : « Les intégrations d'IDE, un puissant achèvement de code, des refactorisations décentes et des assistants conscients des dépôts jouent tous un rôle majeur dans la production de code généré par l'IA », a-t-il déclaré à Mpost. « Cependant, des lacunes à l'échelle de l'entreprise existent. Une auditabilité unifiée des suggestions de l'IA, une application robuste des politiques avec des contrôles de coûts, et des options de modèle privé/sur site sans faille pourraient potentiellement créer d'importantes lacunes au niveau de l'entreprise », a ajouté l'expert.

À mesure que de plus en plus de dirigeants adoptent des outils d'IA pour le prototypage rapide, cela pourrait aider à démocratiser l'innovation au sein des entreprises. Cependant, cela comporte également le risque de simplifier à l'excès la complexité de l'ingénierie logicielle.

Ahmad Shadid croit qu'avec plus de personnes impliquées dans le processus d'idéation, les entreprises peuvent valider les idées plus rapidement et améliorer la collaboration interfonctionnelle. Cela permet de développer et de peaufiner davantage d'idées en solutions stables, offrant aux créateurs la liberté de donner vie à leurs concepts grâce au logiciel.

« L'utilisation des outils d'IA pour le prototypage sous-estime la complexité de la fiabilité, de l'opérabilité et de l'échelle, prenant des décisions basées sur des démonstrations qui pourraient conduire à l'échec si elles ne sont pas surveillées. Les outils facilitent le prototypage, mais rendent difficile le passage à la production sans les contrôles de qualité d'ingénierie », a souligné l'expert.

De plus, les entreprises devraient permettre aux non-ingénieurs d'opérer dans des environnements isolés qui exécutent les applications de manière discrète et privée. L'utilisation de données factices/synthétiques ainsi que de zéro identifiants de production peut aider à minimiser les risques de fuite de données.

« Des stratégies claires d'identification des systèmes, telles que les dépôts éphémères et les espaces de noms séparés, aident à tirer parti des programmes d'IA de manière isolée. Des piles approuvées, des échafaudages sécurisés, des tests intégrés et du linting offrent une plateforme sécurisée pour la scalabilité et la résilience de l'application », a déclaré Ahmad Shadid à Mpost.