Ахмад Шадид з O.XYZ про обіцянки та пастки інструментів кодування на базі штучного інтелекту: балансування інновацій з безпекою та складністю

Коротко

Інструменти на основі штучного інтелекту, такі як Cursor, трансформують розробку прототипів, але експерти попереджають про їх обмеження та потенційні ризики спрощення робочих процесів програмної інженерії.

Нещодавно Себастьян Сієміатковський, генеральний директор Klarna, глобальної компанії з платіжних рішень, що пропонує послуги «купуй зараз, плати пізніше», поділився тим, як інструменти штучного інтелекту, такі як Cursor, революціонізували розробку прототипів. Він підкреслив зростаючу тенденцію до кодингу з використанням настрою, де штучний інтелект допомагає генерувати код за допомогою запитів на природній мові, спрощуючи робочі процеси та зменшуючи залежність від технічних команд. Цей підхід стає ключовою навичкою для розробників, оскільки великі компанії все більше шукають майстерності у використанні інструментів кодування на основі штучного інтелекту.

У розмові з Mpost Ахмад Шадід, генеральний директор O.XYZ — агентного, повноцінного екосистеми розробки ШІ — поділився своїми думками та експертизою щодо еволюції цього тренду.

Зростання програмування на основі штучного інтелекту: надання можливостей нетехнічним лідерам, зменшення ризиків та формування майбутнього програмної інженерії

Ахмад Шадид зазначив, що нетехнічні лідери тепер мають можливість перетворювати ідеї на клікабельні демонстрації за кілька годин завдяки інструментам на базі штучного інтелекту. Це прискорює відкриття продуктів і зменшує розрив у перекладі між бізнес-наміром та інженерією. Однак ризики включають хибне відчуття здійсненності, оскільки прототипи можуть приховувати приховані проблеми, такі як здійсненність, безпека та технічний борг. Крім того, лідери можуть надто зосередитися на тому, що інструмент може згенерувати, і не помітити, що є життєздатним з стратегічної чи технічної точки зору.

Він також поділився найпоширенішими пастками, з якими стикаються команди при використанні коду, згенерованого штучним інтелектом, і запропонував ідеї щодо того, як зменшити ці ризики.

"Небезпечне оброблення введення та слабкі патерни аутентифікації є одними з основних проблем. Ці проблеми безпеки можна пом'якшити, впроваджуючи SAST/DAST у CI, безпекові лінтери, сканування залежностей і моделювання загроз для функцій, які походять з AI. Витік даних у запитах можна зменшити, направляючи через затверджених постачальників, які редагують і захищають секрети, а також використовуючи шлюзи запитів, що зберігають конфіденційність," - сказав Ахмад Шадид виданню Mpost.

"Це не лише код, згенерований ШІ. Коли людина не є інженером або програмістом, вона часто не має всебічного розуміння того, як створюється програмне забезпечення і як виглядає архітектура системи. ШІ настільки ефективний, наскільки якісним є запит, вірно? Тож вони не можуть правильно сформулювати запит до ШІ, і це може призвести до загроз безпеці та проблем, таких як API на фронтенді, публічні бази даних," продовжив він.

Крім того, експерт додав, що багато інженерів скаржаться на те, що коли контекст стає занадто великим або коли щось стає занадто складним, штучний інтелект починає галюцинувати. Він починає вносити зміни в код, які не були потрібні або які не були явно запитані. Штучний інтелект також генерує тисячі рядків коду. Уявіть, як важко слідкувати за випадковими змінами в кодовій базі, що складається з тисяч рядків коду.

«Врешті-решт, регулярні огляди без використання ШІ в обмежений час є необхідними для підтримки основ і боротьби з атрофією навичок», - сказав він.

Коментуючи, чи може залежність від кодування на основі ШІ зрештою змінити те, як програмістів оцінюють і наймають у різних галузях, з «вибірковим кодуванням», що стає бажаною навичкою навіть у оголошеннях про роботу, Ахмад Шадід сказав: «Чим менше сирого набору тексту, тим більше проектування систем, рецензування коду, налагодження, безпеки та оркестрації даних/ШІ компенсує відчуття продукту. Ми також спостерігали перехід від 'впровадження X з нуля' до 'критики, зміцнення та розширення коду, створеного ШІ', плюс архітектурні та інцидентні навчання. Зростання 'лідерів парного програмування на основі ШІ', 'опікунів коду' та інженерів платформ, які створюють обмеження в програмному забезпеченні, що створюється ШІ, свідчить про зростаюче впровадження кодування на основі ШІ.

«Новачки часто пропускають основи і одразу переходять до інженерії запитів, не маючи жодного уявлення про те, чого вони хочуть досягти. З іншого боку, досвідчені інженери отримують перевагу, генеруючи більше часу для архітектури, надійності та відповідних продуктів. Явні навчальні треки, культура «читати перед тим, як писати» та періодичні вправи в «ручному режимі» можуть допомогти забезпечити ефективне та етичне використання ШІ для написання коду», - зазначив він.

Інструменти Vibe Coding є корисними, але занадто простими, щоб замінити традиційні робочі процеси розробки

Одним з занепокоєнь є те, що інструменти вібраційного кодування можуть зрештою замінити традиційні робочі процеси кодування. Однак експерт зазначив, що інструменти вібраційного кодування занадто прості, щоб замінити повноцінні робочі процеси кодування.

"Чи стане це частиною кодових робочих процесів відтепер? Звісно, команди продуктів дійсно отримують користь від цього, щоб швидко створити фронтенд і перевірити різні дизайни UX, звісно, фрилансери та аматори можуть швидко скласти щось, але це не може замінити весь робочий процес. Насправді, розробка зараз стикається з деякими викликами, особливо коли ШІ стає все більш потужним," сказав він Mpost.

"Ми просто не можемо наздогнати, інструменти не можуть наздогнати, і ми стикаємося з кризою фрагментації інструментів, де розробники тепер потребують 4, 5 інструментів як частини свого робочого процесу. Кожного разу, коли ви перемикаєтеся, ви втрачаєте контекст, ви просто не можете встигати, і ШІ не може встигати; ви не можете слідкувати за всіма змінами в одному інструменті і в іншому тощо," - продовжив Ахмад Шадід.

Простими словами, поточні інструменти та платформи для кодування на основі вібрацій все ще мають дуже довгий шлях, щоб замінити традиційні робочі процеси кодування. Ці інструменти все ще неповні.

Ахмад Шадид обговорює майбутнє ШІ в розробці програмного забезпечення: переваги, ризики та необхідність безпечних, масштабованих рішень

Ахмад Шадид підкреслив, що поточні інструменти та середовища розробки готові безпечно інтегрувати кодування на базі штучного інтелекту: "Інтеграції IDE, потужне автозаповнення коду, хороші рефакторинги та асистенти, обізнані з репозиторіями, відіграють основну роль у виробництві коду, згенерованого ШІ," сказав він Mpost. "Проте існують розриви на рівні підприємств. Єдине аудиторське управління пропозиціями ШІ, надійне виконання політики з контролем витрат та безшовні варіанти приватних/внутрішніх моделей можуть потенційно створити великі розриви на рівні підприємства," додав експерт.

Оскільки все більше керівників впроваджують інструменти штучного інтелекту для швидкого прототипування, це може допомогти демократизувати інновації в компаніях. Однак це також несе ризик спрощення складності програмної інженерії.

Ахмад Шадід вважає, що з більшою кількістю людей, залучених до процесу генерування ідей, компанії можуть швидше перевіряти ідеї та покращувати міжфункціональну співпрацю. Це дозволяє розвивати більше ідей і вдосконалювати їх у стабільні рішення, надаючи творцям свободу втілювати свої концепції в життя через програмне забезпечення.

«Використання інструментів ШІ для прототипування недооцінює складність надійності, працездатності та масштабу, що призводить до прийняття рішень, основаних на демонстрації, які можуть призвести до провалу, якщо їх не контролювати. Інструменти полегшують прототипування, але ускладнюють випуск без інженерних якісних воріт», - підкреслив експерт.

Крім того, компанії повинні дозволяти нефахівцям працювати в ізольованих середовищах, де програми працюють тихо і приватно. Використання віртуальних/синтетичних даних, а також нульових виробничих облікових даних може допомогти мінімізувати ризики витоку даних.

"Чіткі стратегії ідентифікації систем, такі як одноразові репозиторії та окремі простори імен, допомагають використовувати програми ШІ в ізоляції. Затверджені стек, захищені каркаси, вбудовані тести та лінтинги забезпечують безпечну платформу для масштабованості та стійкості додатку," - сказав Ахмад Шадід Mpost.