O.XYZ’s Ahmad Shadid sobre la promesa y los riesgos de las herramientas de codificación impulsadas por IA: equilibrando la innovación con la seguridad y la complejidad

En breve

Las herramientas potenciadas por IA como Cursor están transformando el desarrollo de prototipos, pero los expertos advierten sobre sus limitaciones y los posibles riesgos de simplificar en exceso los flujos de trabajo de la ingeniería de software.

Recientemente, Sebastian Siemiatkowski, CEO de Klarna, una empresa global de soluciones de pago que ofrece servicios de "compra ahora, paga después", compartió cómo las herramientas de IA como Cursor han revolucionado el desarrollo de prototipos. Destacó la creciente tendencia de la codificación de sensaciones, donde la IA ayuda a generar código a través de comandos en lenguaje natural, optimizando flujos de trabajo y reduciendo la dependencia de los equipos técnicos. Este enfoque se está convirtiendo en una habilidad clave para los desarrolladores, con grandes empresas buscando cada vez más competencia en herramientas de codificación impulsadas por IA.

En una conversación con Mpost, Ahmad Shadid, CEO de O.XYZ—un ecosistema de desarrollo de IA completo y agéntico—compartió sus ideas y experiencia sobre la evolución de esta tendencia.

El Auge de la Codificación Impulsada por IA: Empoderando a Líderes No Técnicos, Mitigando Riesgos y Dando Forma al Futuro de la Ingeniería de Software

Ahmad Shadid señaló que los líderes no técnicos ahora tienen la oportunidad de convertir ideas en demostraciones clicables en cuestión de horas, gracias a las herramientas impulsadas por IA. Esto acelera el descubrimiento de productos y reduce la brecha de traducción entre la intención empresarial y la ingeniería. Sin embargo, los riesgos incluyen una falsa sensación de viabilidad, ya que los prototipos pueden ocultar problemas subyacentes como la viabilidad, la seguridad y la deuda técnica. Además, los líderes pueden volverse demasiado enfocados en lo que la herramienta puede generar, pasando por alto lo que es viable desde una perspectiva estratégica o técnica.

También compartió los errores más comunes que enfrentan los equipos al utilizar código generado por IA y ofreció ideas sobre cómo mitigar estos riesgos.

“El manejo inseguro de entradas y los patrones de autenticación débiles están entre los principales problemas. Estas preocupaciones de seguridad pueden ser mitigadas mediante la implementación de SAST/DAST en CI, linters de seguridad, escaneo de dependencias y modelado de amenazas en características que provienen de la IA. La filtración de datos en los prompts puede reducirse al enrutar a través de proveedores aprobados que redactan y protegen secretos, y utilizando puertas de enlace de prompts que preservan la privacidad,” dijo Ahmad Shadid a Mpost.

"No es solo el código generado por IA. Cuando una persona no es ingeniero o programador, a menudo carece de una comprensión completa de cómo se construye el software y cómo es la arquitectura del sistema. La IA es tan buena como el prompt, ¿verdad? Así que no pueden dar instrucciones adecuadas a la IA, y esto puede resultar en amenazas de seguridad y problemas como APIs en el frontend, bases de datos públicas", continuó.

Además, el experto agregó que algo de lo que se quejan muchos ingenieros es que cuando el contexto se vuelve demasiado grande o cuando algo se vuelve demasiado complejo, la IA comienza a alucinar. Empieza a hacer cambios en el código que no eran necesarios o que no se pidieron explícitamente. La IA también genera miles de líneas de código. Imagina tratar de mantenerte al día con cambios aleatorios en la base de código a través de miles de líneas de código.

“En última instancia, las revisiones regulares con límite de tiempo y sin IA son esenciales para mantener frescos los fundamentos y combatir la atrofia de habilidades”, dijo.

Comentando sobre si la dependencia de la codificación impulsada por IA podría eventualmente remodelar cómo se valora y contrata a los ingenieros de software en diversas industrias, con la "codificación de vibra" convirtiéndose en una habilidad buscada incluso en las ofertas de trabajo, Ahmad Shadid dijo que: "Cuanto menos tipeo bruto, más diseño de sistemas, revisión de código, depuración, seguridad y orquestación de datos/IA componen el sentido del producto. También hemos visto un cambio de 'implementar X desde cero' a 'criticar, reforzar y ampliar el código producido por IA', además de arquitectura y simulacros de incidentes. El auge de 'líderes de programación en pareja con IA', 'custodios de código' e ingenieros de plataforma que construyen barandillas en el software generado por IA muestra un aumento en la adopción de la codificación impulsada por IA."

“Los novatos a menudo omiten los fundamentos y se lanzan directamente a la ingeniería de prompts sin tener idea de lo que quieren lograr. Por otro lado, los ingenieros experimentados obtienen ventaja, generando más tiempo para la arquitectura, la fiabilidad y resultados de producto adecuados. Rutas de aprendizaje explícitas, una cultura de ‘leer antes de escribir’ y ejercicios periódicos en ‘modo manual’ pueden ayudar a garantizar un uso eficiente y ético de la IA para escribir código,” señaló.

Las herramientas de codificación Vibe son beneficiosas, pero demasiado simples para reemplazar los flujos de trabajo de desarrollo tradicionales

Una de las preocupaciones es que las herramientas de codificación vibe podrían eventualmente reemplazar los flujos de trabajo de codificación tradicionales. Sin embargo, el experto señaló que las herramientas de codificación vibe son simplemente demasiado simples para reemplazar flujos de trabajo de codificación completos.

"¿Formará parte de los flujos de trabajo de codificación de ahora en adelante? Claro, los equipos de productos realmente se benefician de esto para simplemente poner rápidamente un frontend y verificar diferentes diseños de UX, claro, los desarrolladores freelance y los aficionados pueden armar rápidamente algo, pero no puede reemplazar todo el flujo de trabajo. De hecho, el desarrollo en este momento enfrenta algunos desafíos, especialmente a medida que la IA se vuelve cada vez más poderosa," dijo a Mpost.

“Simplemente no podemos ponernos al día, las herramientas no pueden ponernos al día, y estamos enfrentando una crisis de fragmentación de herramientas donde los desarrolladores ahora necesitan 4, 5 herramientas como parte de su flujo de trabajo. Cada vez que cambias, pierdes el contexto, simplemente no puedes mantenerte al día, y la IA no puede mantenerse al día; no puedes seguir todos los cambios en una herramienta y en la otra, etc.,” continuó Ahmad Shadid.

Para decirlo de manera simple, las herramientas y plataformas de codificación actuales aún tienen un largo camino por recorrer antes de reemplazar los flujos de trabajo de codificación tradicionales. Estas herramientas aún están incompletas.

Ahmad Shadid Discute El Futuro De La IA En El Desarrollo De Software: Beneficios, Riesgos Y La Necesidad De Soluciones Seguras Y Escalables

Ahmad Shadid destacó que las herramientas y entornos de desarrollo actuales están preparados para integrar de manera segura la codificación impulsada por IA: “Las integraciones de IDE, la potente finalización de código, los refactores decentes y los asistentes conscientes del repositorio juegan un papel importante en la producción de código generado por IA”, dijo a Mpost. “Sin embargo, existen brechas a escala empresarial. Una auditoría unificada de las sugerencias de IA, una robusta aplicación de políticas con controles de costo y opciones de modelos privados/on-prem podrían crear brechas importantes a nivel empresarial”, agregó el experto.

A medida que más ejecutivos adoptan herramientas de IA para prototipos rápidos, esto podría ayudar a democratizar la innovación dentro de las empresas. Sin embargo, también conlleva el riesgo de simplificar en exceso la complejidad de la ingeniería de software.

Ahmad Shadid cree que, con más personas involucradas en el proceso de ideación, las empresas pueden validar ideas más rápidamente y mejorar la colaboración entre funciones. Esto permite que más ideas sean desarrolladas y refinadas en soluciones estables, dando a los creadores la libertad de llevar sus conceptos a la vida a través del software.

"El uso de herramientas de IA para la creación de prototipos subestima la complejidad de la fiabilidad, la operabilidad y la escala, tomando decisiones impulsadas por demostraciones que podrían conducir al fracaso si no se controlan. Las herramientas facilitan la creación de prototipos, pero dificultan el envío sin las puertas de calidad de ingeniería", destacó el experto.

Además, las empresas deberían permitir que los no ingenieros operen en entornos aislados que ejecuten las aplicaciones de manera silenciosa y privada. Utilizar datos ficticios/sintéticos, así como credenciales de producción nulas, puede ayudar a minimizar los riesgos de fuga de datos.

"Las estrategias claras de identificación del sistema, como los repositorios desechables y los espacios de nombres separados, ayudan a aprovechar los programas de IA de forma aislada. Las pilas aprobadas, los andamios asegurados, las pruebas integradas y el linting proporcionan una plataforma segura para la escalabilidad y la resiliencia de la aplicación", dijo Ahmad Shadid a Mpost.