Geçtiğimiz yıl, ajanik mühendislik etrafındaki konuşmalar koşum takımlarına ve döngülere, filolara ve yazılım fabrikalarına kaydı. Benim görüşüm, mühendislerin dış döngüye - bu sistemlerin hesap verebilirliğine - sahip çıkması gerektiği yönünde. Bu, Fable ve GPT-5.6 gibi güçlü modeller kullanıma sunuldukça daha da doğru hale geliyor.
Ajanların kaldıracı vardır ve kaldıraç yükümlülükler yaratır. Birisi tam olarak neyin değiştiğini, neden güvenli olduğunu ve yanılıyorlarsa ne olacağını açıklayabilmelidir. Aksi takdirde, eylemleri haklı çıkarılamaz. Bu da kuruluşlarının ilk etapta onları talep etmesini pek olası kılmaz.
Bu yüzden üç terimden bahsetmek istiyorum. Birincisi, Kalite, sistemi serbest bırakmadan önce kurduğumuz tüm kontrolleri ifade eder. Bu kontroller kanıt üretir ve bu kanıtlardan bir Karar çıkarırız.
İkincisi, Karar, işin bağımlı sistemimize girmeden önce verdiğimiz nihai kararı ifade eder: Bu içeriğin hat yapımcısı benim. Benim adıma iş gönderilen ekibi ben yönetiyorum. Model satırı yazabilir, ancak Karar benimdir. Ekibimin çalışması, benim kararım olmadan bağımlı sistemlerimize girmeyecektir. Bir Karar, üretim kararıdır: gönderelim mi, engelleyelim mi, yönlendirelim mi, yanıtı daraltalım mı, bir korkuluk ekleyelim mi yoksa tamamen reddedelim mi?
Üçüncüsü, Yanıt Verebilirlik, birisi sorarsa nedenini açıklayabileceğimin garantisini ifade eder.
Bunu başka bir şekilde söylemek gerekirse: ajanımız (bir model artı dosyalar, araçlar, bellek, beceriler, sanal alanlar, izinler, gözlemlenebilirlik ve kurtarmadan oluşan bir koşum takımı olarak tanımlıyorum) döngümüzü (araştırma, uygulama, doğrulama ve tekrar olarak tanımlıyorum) çalıştıran şeydir. Ve yazılım fabrikamızı yaratan da odur.
Model sadece motordur. Koşum takımı - araçlar, bellek, izinler, sanal alanlar, testler - gerçek işi güvenli bir şekilde yapabilmesi için etrafına inşa ettiğiniz arabadır.
Bu koşum takımını tekrarlanabilir bir döngüyle sarın: araştır, uygula, doğrula, tekrarla. Döngü, iyi bir çalışmanın tekrar güvenebileceğiniz bir sürece dönüşme şeklidir. Bu koşum takımını tekrarlanabilir bir döngüyle sarın - araştır, uygula, doğrula, tekrarla - işin ne zaman bittiğine modelin kendi söylemi değil, bağımsız bir kontrol karar verir.
Şimdi aynı anda birçok döngüyü çalıştırın. Bir fabrika, ölçekteki döngülerdir - ajanlar işi içeriye gönderirken, insanlar sınırdaki kararlara sahip olur.
Ve bu fabrikanın kalbinde, sistemin içinde olanla dışında olan arasında dikkatli bir sınır vardır. Sistemin içinde: girdileri toplarız (ürün ekibinin niyetinden, daha önce gönderilen işin bilgisinden, son olaylardan veya kullanıcılardan gelen belirli geri bildirimlerden). Ajan döngüsü görevi araştırır, bir plan uygular ve sonucu doğrular. Ardından, kanıt bu sınırı geçer. Bağımlı sisteme sahip olan bir insan kanıtı görür ve devam edip etmemeye karar verir.
Ve işte, dostlar, yapmaya çalıştığımız değişim budur. Önceden, ajanlarımız yürütme döngüsünün iç döngüsünü yapıyordu. Şimdi iç yürütme döngüsünü çalıştırıyorlar. Mühendisler dış döngüye sahip oluyor.
Sistemin içinde, ajanlarımızın yaptığı gerçekten tek bir tür şey vardır: yetenek. Görevleri araştırma, planları uygulama, sonuçlarını test etme ve raporlama yeteneği. Bu bir modelin yeteneğidir. Ve dediğimiz gibi, bu gelecek zaten burada.
Sistemin dışında, tek bir tür şey vardır: eylemlilik. Karar verme, doğrulama, onaylama ve sahip olma eylemliliği.
Hala koddan bahsediyoruz, anlıyorsunuz. Sadece bir yerde yaşaması ve ne yaptığını bilen insanlar tarafından gerçekleştirilmesi gerekiyor.
Yapay zeka kodunun potansiyeli artık marjinal değil. Bir Sonar 2026 anketinde, ekiplere commit'lerinin yapay zeka destekli olan kısmını sorduk. Küçük ama önemsiz değildi. Ve katılımcıların birçoğu, yapay zeka destekli commit'lerin payının önemli ölçüde artmasını beklediklerini söyledi. Sonar'ın 2026 Kodun Durumu raporu, commit edilen kodun %42'sinin yapay zeka tarafından oluşturulduğunu veya önemli ölçüde yapay zeka destekli olduğunu ve bu payın durağanlaşmak yerine büyümeye devam etmesinin beklendiğini ortaya koydu.
Yani yaratım, diğer bir deyişle, ucuzluyor. Daha kıt kaynaklar ise inceleme, doğrulama, anlama ve bakım.
Üretim hızını, kontrol hızından daha hızlı taşıdık. Ve böylece bir güven-doğrulama boşluğumuz var. Konuştuğumuz birçok kişi hala yapay zeka koduna karşı bir dereceye kadar güvensizlik ifade ediyor. Yine de, daha azı bu güvensizliği tutarlı bir şekilde doğrulama süreçlerine dahil ediyor gibi görünüyor.
Ve bu tehlikeli bir yerde olmak demektir. Yapay zeka kodunun güvenilirliğini doğrulamak için daha ucuz, daha net yollara ihtiyacımız olacak.
GitLab Haziran 2026 raporuna bakarsanız, yönetişim sorularının değiştiğini göreceksiniz. GitLab'ın Haziran 2026 yapay zeka hesap verebilirlik araştırması, inceleme ve doğrulamanın yapay zeka kullanırkenki mevcut darboğazlar olduğunu ve daha endişe verici bir şekilde, yönetişimin genellikle kod oluşturulduktan sonra, riski kabul ettikten ve sahiplik üzerindeki kontrolü kaybettikten sonra gerçekleştiğini gösteriyor. Bugün, mesele sadece kontrol değil. Mesele, sistem üzerinde hangi kısıtlamaları belirlediğimizle ilgili. Mesele, işi kanıtlarla nasıl kontrol edeceğimiz ve ekipleri nasıl sorumlu tutacağımızla ilgili. Mesele, yapay zeka yaşam döngüsünün hangi bölümüne kimin sahip olacağıyla ilgili.
Bu serideki son ayrım, süreç ve kalite arasındadır. Kalite, geri basınç kavramıdır. Bunu tam anlamıyla kastediyoruz. Ajanlarımıza mümkün olduğunca fazla özerklik vermek istemiyoruz. Onlara, onları durdurmak, düzenlemek, işlerini kontrol etmek ve insanlığımızı garanti altına almak için yeterli geri basınca sahip olacağımız kadar özerklik vermek istiyoruz.
Sıradan mühendislik, yapılan işin doğru şeyi yaptığını gösteren birçok sinyal taşır. Tür denetimleri, testler, kancalar, sanal alan sınırları, denetim günlükleri, monitörler. Mühendislik sistemlerimiz bu tür sinyallerle doludur ve sistemi dürüst tutmak için yeterli geri basıncı sağlayacak şekilde tasarlanmıştır.
Ve böylece, ajanlarımız aynı sinyalleri yaydığı sürece, sıradan mühendisliğimize uygun geri basıncı sağlaması için güvenebiliriz.
Sistemlerimize güvenmek, döngüde bir insan istemediğimiz anlamına gelmez. Sadece insanın iç döngüde olması gerekmediği anlamına gelir. Onları kısıtlama döngüsünde (hangi girdileri, mimarileri, talimatları veya değişmezleri belirlemeliyiz?), örnekleme döngüsünde (ne kadar çıktı örneklemeli ve incelemeliyiz?), denetim döngüsünde (hangi kanıtları saklamalıyız ve denetim günlüğümüzün etkili olduğundan nasıl emin oluruz?) ve sahiplik döngüsünde (üretim sınırının hangi bölümüne sahip olmalıyız?) istiyoruz.
Ancak insanın iç döngüde olması gerekmez.
Ajan, inceleyebileceğinizden daha fazlasını gönderebilir.
Ve kıt kaynak, günlükler veya testler gibi kalite sinyalleriyle bilgilendirilen kendi temel insan yargınızdır.
AI Haziran 2026 raporu, deneysel ortamda, saatlik zaman dilimleri boyunca ajanik delegasyonun temelde burada olduğunu gösteriyor. OpenAI'ın bu yıl ajanlar ve işin geleceği üzerine yaptığı çalışma bu fikirler için harika bir kaynaktı. Bu nedenle, sistemlerimiz inceleyebileceğimizden daha fazlasını göndermeye başladıkça, bu sahiplik sınırını nasıl oluşturacağımızı düşünmeye başlamalıyız.
İşte bu noktada yanıt verebilirlik devreye giriyor.
Çünkü uzun vadeli ajanlarla, saatlik zaman dilimlerinde alınan kararlar tam da budur - kararlar. Ve tüm kararlar kaydedilmeyecektir. Hepsini girdi token'larına kadar izleyemezsiniz. Tek yaptığınız, elde ettiğiniz çıktının eldeki problem için doğru seçim olduğuna güvenmekse, ona yol açan kararlar zincirini yeniden oluşturmak için ihtiyaç duyacağınız yüzlerce hatta binlerce insan saatlik çalışma imkansız hale gelir. Ve böylece, yine, yanıt verebilirlik, sistem tasarımımızın merkezinde olması gereken bir şey haline gelir.
Üç Gizli Maliyet
Ve üç gizli maliyet vardır:
Bilişsel teslimiyet ~ yapay zekanın size verdiğini körü körüne kabul etmek. Bir ajana iş devrettiğinizde, işin kendisi ajanın işi gibi görünebilir. Ama aslında sizin işinizdir. Bu sizin itibarınızdır. Bu sizin sorumluluğunuzdur. Ve çıktıdaki kusurlardan mustarip olan sizin yazılımınızdır. Ve bu çıktıyı yansıtacak şekilde değiştirilmesi gereken sizin yazılımınızdır. Yani ajanın çıktısı sizin cevabınız olur. Ve beraberinde tüm hesap verebilirlik gelir. Bunu bir araya getiren Wharton çalışması, yapay zeka doğru olduğunda rahatlatıcıdır. Ancak yanlış olduğunda, haberler pek iyi değildir. Yapay zeka yanlış olduğunda, insanların yaklaşık dörtte üçü yine de kabul etti ve yapay zeka olmasaydı olacaklarından daha fazla güven duydu.
Bilişsel borç ~ sorunları nasıl çözeceğinize dair anlayışınızın ve hafızanızın aşınması. Bir ajana iş devrettiğinizde, tüm düşünce işini ajana yüklüyorsunuz. Ve her şeyi kendi başınıza düşünmek zaman ve enerji alırken, bunu büyük bir kod tabanında düşünmek, öğrenme eğrisini tırmanmaya çalışırken mevcut olmayan kaynakları gerektirir. Bu nedenle elde ettiğiniz çıktı genellikle sizin için ulaşılamazdır. Ve ajanik planlamanın zaman ufku ne kadar uzunsa, ajanın ürettiği kod ile sizin onu anlayışınız arasındaki boşluk o kadar büyür. Boşluk birikir. Borç birikir. Ve öğrenme eğrisini tırmanmanın maliyeti neredeyse katlanarak artar. Anthropic'ten randomize kontrollü bir çalışma, kodu yazmak için yapay zekaya güvenen mühendislerin, kodu kendileri yazan mühendisler kadar iyi anlayıp anlamadığını inceledi. Sonuç iç karartıcıydı: bir kavrama testinde, yapay zeka aracılığıyla çalışan mühendisler, kullanmayanlardan on yedi puan daha düşük puan aldı, yüzde 50'ye karşı yüzde 67.
Ve sonra bir de orkestrasyon vergisi var ~ şimdi çok sayıda ajanı devreye sokmak kolay, ancak bilişsel bant genişliğiniz aynı şekilde paralelleşmiyor. Ajanınızı en kötü davranışlardan uzaklaştırmak, ajanın ürettiği işi dikkatinizi gerektirenleri belirlemek için sıralamak, önce önemsediğiniz işe odaklanması için yönlendirmek, çalıştırmasına izin vermeden önce en önemli kısıtlamalarınızı ve en tehlikeli varsayımlarınızı doğrulamak…
Bunların hepsi iş gerektirir ve otomatikleştirilemez.
İnsan yargısının yerini hiçbir şey tutamaz.
Brownfield sistemler burada özellikle tehlikelidir, çünkü denetlemeniz gereken sistem davranışı kodda yaşamaz. Yaralarda yaşar.
Düzeltmeler? Mimari kararlarınızda dikkati öncelik haline getirin. İlk planınız ile ondan ortaya çıkan iş arasındaki bağımlılığı azaltmak için çalışma ağaçları, kapsamlar ve kanıtlar kullanın. Uygulanamaz adımları çözme çabasını zamanla sınırlayın. Ve yazılımınızdaki değişikliği kesinlikle isteğe bağlı bir izin haline getirin.
Alfa, bozulma ve zevk: bunlar, alanlar arasında kariyerleri ve performansları şekillendiren üç temel kalıptır.
Alfa, en yüksek değerli hamlenizi oynarken, rekabetteki en yüksek başarıyı elde edenin üstlendiği lider kısımdır. Bozulmalar, herkesin tekrar ve başkalarını izleyerek öğrendiği yerleşik kalıplardır (dilerseniz platolar). Zevk, bir alfadaki liderliği veya bir bozulmadaki değişimi hissedebildiğimiz en erken andır. Herhangi bir şeyin olduğuna dair kanıtımız olmadan önce neyin geleceğine dair yargımızdır. Paul Graham'ın noktası, herkes her şeyi yapabildiğinde, neyi yapacağını seçmenin daha önemli hale gelmesidir ve Mitchell Hashimoto'nun tanımı operasyonel olandır: henüz nesnel bir metrik olmadığında yüksek kaliteli nitel yargılar yapmak. Şu andan itibaren, zevk her şeyi yönlendirir: alfa kaymaları zevk değişiklikleridir. Ve bozulmalar, farklı bir şeyin tadına bakmaya başladığımız için kaybolur.
Sonraki adım? Zevkinizi operasyonel hale getirin. Nasıl? Ona, limbikten bilinçliye taşımaya çalıştığınız şeyi yansıtan bir isim verin. Eleştiri ve örneklerle pratik yapın. Gerekçesini açık hale getirin.
Ve sektörünüzdeki en kalıcı rekabet avantajını sağlayan hamleyi yapmaya devam edin. Bu nedir? Sadece görevi yapmaktan, onu öğretmeye, sistematize etmeye, ne zaman yapılması gerektiğine karar vermeye ve sonucu sahiplenmeye doğru kenarı yukarı taşımaya devam edin.
Herkes bir geliştiricidir, ancak herkes bir mühendis değildir. Mühendislik, bir geliştiricinin daha katı bir iş disiplinini benimsediğinde dönüştüğü şeydir: titiz ve mantıksal olarak sağlam muhakeme, kısıtlamalar ve ödünleşimlerin dikkate alınması, risk ve maruziyetin tanınması ve pratik hesap verebilirlik.
Gelecekte, insanlar mühendisliğin idari işini bırakacak ve mühendislik daha zorlu hale geldikçe ortaya çıkan yeni rolleri benimseyecek. Zanaat ruhundan ayrıştırılmış ancak her kişinin ne yaptığını netleştiren roller. Prototip yapanlar olacak. İnşa edenler. Süpürenler. Büyütenler. Bakımını yapanlar.
İnsanlar sistemi diğer yönde de tutar. Alfayı diğer yönde artırmak: neyin yapılmaya değer olduğunu seçmek, yapılması gereken kısıtlamaları tanımlamak, kanıtların devam etmek için yeterli olup olmadığına karar vermek ve sonuçla ilgilenmek. İster tek bir ekip ister yüz ekip olsun, bu yalnızca insanların tutabileceği kenardır.
Hesap verebilirlik fabrikayı ölçeklendirecektir. Dikkat ve zevk gibi, hesap verebilirlik de her şeyin çalışmasını sağlayan üç ikiliden biridir. Hesap verebilirlik olmadan, kurallar olmaz. Sorgulayanlarla uğraşmak olmaz. Ödünleşimler olmaz. Riskler olmaz. Güvenlik ağları olmaz. Hiç kimse bir kararın sonucunu üstlenmezse, yüksek eylemlilik yalnızca kaos getirebilir.
Bir kenarın yarı ömrü bir sürümdür, ancak bir imzanın yarı ömrü bir kariyerdir. İmza, gönderilenin arkasında durabileceğinizi hissedeceğiniz şekilde işin üzerindeki adınızdır. Beceriler size kaldıraç sağlar; hesap verebilirlik kaldıracı güvene dönüştürür.
Sadece insanlar seçebilir. Sadece insanlar sonuçları miras alır. Ajanlardan bir politika dahilinde güvenli bir şekilde seçmeleri, yönlendirmeleri, birleştirmeleri ve yükseltmeleri istenebilir, ancak sonuçları miras alamazlar.
Belki de her kod tabanı, değişiklik kabul edildiğinde anlaşılan kontrol listesini, karara giren kanıtları, değişiklikten kimin sorumlu olduğunu ve değişiklik engellendikten sonraki sistem durumunu açıkça belirten bir tür hesap verebilirlik sözleşmesiyle birlikte gelmelidir. Tıpkı şunlar gibi:
- Dikkatiniz ve zevkiniz
- Kanıtınız, kararınız ve sahipliğiniz
- Alfa, bozulma ve zevkiniz
Yüksek Eylemlilik
Tipik bir ajanik iş akışında, yüksek eylemlilik, ne zaman devredeceğini, ne zaman denetleyeceğini, ne zaman duracağını ve bir sürecin sonucunu ne zaman sahipleneceğini bilme sanatıdır. Eylemlilik merdiveni düşükten yükseğe doğru uzanır: potansiyel bir sorunu işaretle, araştır, üzerinde çalış, teşhis et, çözümler öner, düzeltmeler tavsiye et ve sorunu çöz. Eylemlilik merdiveninde yüksek bir basamak, ayırt etme yetisidir: buldum, düzeltmeye değmez, devam ediyorum.
Yazılım Fabrikasını Ayakta Tutan On İki Sütun
Brownfield, ölçeklenmeyi uman fabrikalar için sınırdır. Tüm bu zeki küçük yenilikler henüz pek bir şey ifade etmeyebilir, ancak üretim ortamı çok şey ifade eder. Tamamen yeni bir sistem inşa ederken, yeterli geri basınç mekanizmalarını planlamak ve uygulamak çok daha kolaydır çünkü tam kontrole sahipsinizdir. Ancak, eski bir sisteme akıllı ajanlar eklerken, bu tamamen başka bir konudur.
Eski sistemler, üretim davranışının bütününü, müşterilerden gelecek gelecek beklentileri, geçiş geçmişlerini, sürüm ve bütçe döngüsü sürelerini, dile getirilmemiş varsayımları, uç durumları, veri tuhaflıklarını, runbook prosedürlerini ve sisteme bakma isteği olmadan biriken tüm yaraları içerir.
Brownfield'ın bir yöneticisi olmak, dayanıklı bir mühendislik biçimi gerektirir. Örtük bilgiyi açık kısıtlamalara dönüştürmek, ekipler arasında ve nesiller boyunca tutarlı tutmak, bu bilgiyi test prosedürlerine ve işlevsel spesifikasyonlara dönüştürmek ve bu bilgiyi nesnel kanıtlara bağlamak için çalışma yapılmalıdır. Tüm bunlar yapılırken, başarısızlık daha fazla öğrenmeye dönüştürülmelidir. Çünkü sistem her zaman aldığı bakımı almazsa, her şey çökebilir.
Yeni İş Gerçek İştir
Ölçeklendikçe iş daha ilginç hale gelecektir. Çünkü diğer her şey inşa edildiğinde, insanlar yeni şeyler inşa etmek isteyecektir. Zanaatları aracılığıyla geliştirdikleri alfa ve zevki, yazılım fabrikasına aşılanabilecek yeni döngüler tasarlamak için kullanmak isteyeceklerdir. Veya yazılım fabrikasının tüm bilgisini zarif, iyi niyetli, ilkeli bir çabada kullanan yeşil alan sistemleri inşa etmek isteyeceklerdir. Yeni sistemler için doğrulama seviyesine yükselecek yeni kanıt biçimleri tasarlamak ve uygulamak isteyeceklerdir. Artık o kadar karmaşık hale gelmiş ki özel ilgi gerektiren brownfield sistemlerle ilgilenmek isteyeceklerdir. Yeni geri basınç mekanizmaları tasarlamak ve yönetmek isteyeceklerdir. Yeni ajanlar tasarlamak isteyeceklerdir. Ve eylemlilik inşa etmek isteyeceklerdir.
Ve bunu yaparken, tüm bunların gerçek iş olduğunu görecekler. Bu iyi bir şey.
Otomasyon darboğazlar yaratır. Sahiplenmeye değer üretim darboğazları. Çünkü otomasyon bize endüstriyel ölçek üzerinde kontrol sağlar. Ancak endüstriyel ölçekten kaynaklanan yeni darboğazlar da ortaya çıkar. Darboğaz "bunu inşa edebilir miyiz?" sorusundan "bu var olmalı mı, bunun için cevap verebilir miyiz?" sorusuna kayar.
Önerdiğim şey, ajanik mühendisliği ölçeklendirmek için pratik bir işletim modelidir. İç ve dış döngüler vardır. İç döngü, işin yapıldığı yerdir. Döngüler mümkün olduğunca bağımsız olacak şekilde tasarlanır. Tüm kalite güvencelerini ve doğrulamayı döngünün içine koyun. Döngünün kendisini tasarlayıp doğruladıktan sonra, yapmanız gereken tek şey, döngünün çalıştırılma hızını ve çalışma kapsamını kontrol eden bir geri basınç mekanizması kurarak özerklik vermektir. Ve insanları hak ettikleri yere, doğru kararlara koyun. Anlamayı bir devir teslim veya sürüm kapısı olarak değil, insanların içgörülerini sağlamaya hazır olduğu bir karar noktası olarak ele alın. Ve var olan ve üretime, yeni ekiplere ve mühendislere geri beslenen her yapı için, arkasında daha iyi yapılar bırakın.
Fabrikayı inşa edin; ışıkları açık tutun; işi okunabilir, doğrulanabilir, sahiplenilmiş kılın.
Bir ajan onu yazabilir. Ancak kullanıcılara ulaşmadan önce, birisi neden var olması gerektiğini, üretimin bir parçası olacak kadar güvenli olduğunu ve yanlış olduğunda ne yapacaklarını açıklamalıdır.
Dış döngüdeki ajanik mühendislik budur - iş artık budur.
Pangram bu makaleyi %100 insan yazımı olarak işaretlemiştir: https://www.pangram.com/history/ae6caccc-b70f-4336-a019-5c3411516871
