De valkuil van AI-programmeren: waarom het deze keer niet anders is

In de jaren tachtig was het 4GL en CASE tools. In de jaren negentig was het visuele programmering. In de jaren twintig was het offshore ontwikkeling. In de jaren vijftig was het low-code en no-code platforms. Nu, in de jaren twintig, is het AI code generatie.

Elke golf komt met dezelfde belofte: Dit keer is het anders.Dat is nooit zo. Waarom ? Het is belangrijker dan ooit, want de fout gaat sneller en goedkoper worden.

Code is niet het moeilijke deel.

De fundamentele fout is verwarrend. code productie met software engineeringHet schrijven van code is het makkelijke deel. Het begrijpen wat het systeem moet doen, waarom het zich op die manier gedraagt en hoe het onder druk faalt.

AI kan code genereren. Het kan patronen automatisch voltooien. Het kan functies omschrijven. Maar het begrijpt uw systeem niet. Het kent uw beperkingen niet, uw invarianten niet, uw operationele realiteit niet of de historische redenen achter ontwerpbeslissingen.

Het produceert een output die uiterlijk Dat is niet hetzelfde als correct zijn.

AI denkt niet

Dit is het deel dat veel mensen gemakkelijk negeren. AI denkt niet. Het redeneert niet. Het begrijpt niet. Het is een statistisch systeem dat de meest waarschijnlijke volgende token voorspelt op basis van patronen die het eerder heeft gezien.

Er is geen intentie, geen bewustzijn, geen begrip van de gevolgen. Het kan niet twijfelen aan zichzelf. Het kan niet terugtreden en vragen: Doet dit eigenlijk zin in dit systeem?

Het zal schone, overtuigende, goed gestructureerde code genereren die perfect samenstelt en stilletjes veronderstellingen overtreedt, invarianten breekt of subtiele bugs introduceert die alleen onder echte omstandigheden opduiken.

Vertrouwen zonder begrip is gevaarlijk als het wordt behandeld als gezag.

Dezelfde val als voorheen.

Dit patroon is niet nieuw. Het weerspiegelt de outsourcinggolf die vele bedrijven jaren geleden hebben meegemaakt. De logica was toen eenvoudig: ontwikkelaars zijn duurder, codering kan goedkoper worden gedaan elders, dus stuur het werk uit en ontvang afgemaakte software.

Het resultaat was vaak voorspelbaar: systemen die technisch werkten, maar slecht begrepen werden, moeilijk te onderhouden en uiteindelijk onbereikbaar. De goedkoopste code werd de duurste software.

AI introduceert hetzelfde risico op een andere schaal. Het versnelt de productie van code zonder het verhogen van het begrip.

AI maakt menselijke fouten sneller

AI introduceert geen nieuwe categorie mislukkingen. Het versterkt een bestaande. Het maakt dezelfde klasse fouten die mensen maken:

• Verlies van context
• Onbegrijpelijke bedoeling
• Optimaliseren van het verkeerde ding
• Het introduceren van subtiele bijwerkingen
• Ontbrekende randzaken
• Het breken van gedrag terwijl de structuur wordt verbeterd

Het verschil is snelheid en volume, wat leidt tot een eenvoudige regel die ervaren ingenieurs al volgen:

Het maakt niet uit waar het vandaan komt AI, een collega, Stack Overflow, een bibliotheek of je eigen toetsenbord.

Twee werkstromen, twee resultaten

De echte mislukte modus is niet AI zelf. hoe teams het gebruikenHet contrast is duidelijk:

AI is een hulpmiddel. Niet een besluitvormer. Niet een autoriteit. Denk aan het als een zeer snelle collega die af en toe iets nuttigs zegt en af en toe iets volkomen verkeerds zegt, met absoluut vertrouwen.

Het werkelijke risico: versnelde complexiteit

De grootste impact van AI is niet minder bugs. snellere oprichting van complexe systemenEn complexiteit is waar software faalt.

De meeste productieproblemen komen niet voort uit syntaxisfouten.

• Onduidelijke eisen
• Gebroken aannames
• Verborgen koppeling
• Zwakke architectuur
• Gebrek aan eigendom
• Onvoldoende testen

AI kan dit niet oplossen. Het stelt teams in staat om ze sneller te bereiken.

Deze keer is het niet anders.

Elke generatie gelooft dat hun hulpmiddelen de behoefte aan diepgaand engineering zullen elimineren. Begrijpen.

AI verbetert de eerste. Het vervangt de tweede niet.

Als het correct wordt gebruikt, is het een krachtige vermenigvuldiger. Als het blind wordt gebruikt, produceert het precies wat de geschiedenis al heeft laten zien: grote systemen die niemand begrijpt en niemand wil aanraken.