Bu yazının sonunda, Anthropic, OpenAI, Google ve diğer yapay zeka şirketlerinin neden FDE’ler aradığını ve bu talepten nasıl faydalanabileceğinizi anlamış olmalısınız.
Bu işi bizzat yaptım, Varick'te FDE hareketimizi oluşturmak için dünyanın en iyilerinden bazılarını işe aldım ve şu anda teknolojideki en popüler rol için gerçek bir kapsamlı rehber olmadığını fark ettim. İşte bu rehber.
AI şirketleri neden FDE'lere ihtiyaç duyar?
Bir FDE olmak için ilk adım, AI şirketlerinin neden onlara şiddetle ihtiyaç duyduğunu içselleştirmektir.
Zekanın metalaştığına inanıyorsanız, o zaman tek rekabet avantajının onu nasıl ve nerede kullandığınız olduğu sonucu çıkar. Hatta şunu söyleyecek kadar ileri gideceğim: Tek başına zekada hiçbir rekabet avantajı yoktur. Bu nedenle, şirketlerin onu nasıl ve nerede kullandığını belirlemek en önemli rol haline gelir ve bu rol de bir forward deployed engineer'ın rolüdür.
İşletmeler, teknolojiden en iyi şekilde yararlanmalarına yardımcı olmak için FDE'leri görevlendiren bir Uygulamalı AI şirketini (Varick gibi) işe alır. Bunu yapmak, onlara daha önce büyük ölçekli AI dönüşümleri gerçekleştirmiş bir ekibe erişim sağlar; bu da müşterilerin rakiplerinden çok daha hızlı hareket etmesini sağlar ve bunu yaparak büyük verimlilik artışları elde eder.
FDE, müşterinin sorunlarını çok derinlemesine anlayabilen, daha önce hiç görmediği bir kod tabanına kod yazabilen ve anlaşmayı kapatmak için işin etkisini teknik olmayan bir karar vericiye iletebilen yüksek vasıflı bir mühendistir. Bu, milyon dolarlık bir işe alımdır.
Rolün gerektirdikleri
Bir FDE olmak, bir müşteriyle birlikte sahada olmanızı gerektirir. Palantir'in CTO'su, bir ortam için ürünleri, aslında o ortamın içinde olmadan inşa edemeyeceğinizi söylüyor. Biz de aynı şeyi dahili olarak gördük.
FDE terimi aslında Palantir'den geldi ve sahada olmayı çok ciddiye aldılar. 2010 yılında Afganistan'daki Özel Kuvvetler grubuyla çalıştılar. Özel Kuvvetler gündüz göreve gider, geri bildirim alır ve bunu gece boyunca kod gönderecek olan FDE'lere iletirdi.
Ortamın içinde olmak, askeri yazılım dağıtmak için ne kadar gerekliyse, AI dağıtmak için de o kadar gereklidir. Gerçek verimlilik kazanımları görmek için bir şirketin sıfırdan AI etrafında yeniden yapılandırılması gerekir. Bu da ancak müşteriyle birlikte oturup, şirkete özgü veriler ve şirkete özgü bağlam üzerine inşa edilmiş özel ajanlar geliştirerek mümkündür.
Rol hakkında
Bizim görüşümüze göre, Uygulamalı AI FDE'sinin işinin üç ana bölümü vardır: Denetim (Audit), Değerlendirme (Evals) ve Dağıtım (Deployment). Her birini inceleyelim.
Denetim (Audit): Bir müşteriyle birlikte sahadasınız, şirket içindeki farklı ekiplerdeki süreçleri/iş akışlarını haritalandırıyorsunuz. Örneğin: gelir operasyonlarıyla iki hafta, satın almayla bir hafta ve finansla tam bir ay.
Birlikte oturduğunuz her ekip için birkaç şey öğrenirsiniz: işlerinin nasıl göründüğü, darboğazların nerede olduğu ve değer katacak ajanları nerede oluşturabileceğiniz.
Şirketteki her ekibin iş akışlarını anlamanın yanı sıra, denetim aşamasının önemli bir parçası neyin otomatikleştirilmesi gerektiğine karar vermektir. Ajanların çözdüklerinden daha fazla sorun yaratabileceği bir nokta vardır.
Karar vermenize yardımcı olabilecek üç genel ilke:
Bir iş akışı kurallara indirgenebiliyorsa ancak girdiler farklıysa (bir girdi e-posta, diğeri PDF, bir diğeri taranmış bir görüntü olabilir) ve iş araçları çağırmayı içeriyorsa, bir ajan koyun. Kurallar ve girdilerin her ikisi de öngörülebilirse, kod daha hızlı ve daha ucuzdur. Karar, örüntü tanıma ve alan uzmanlığı gerektiriyorsa, manuel bırakın.
Ajan ayda beş kez çalışıyorsa, müşterileriniz iyi bir yatırım getirisi elde edemez. Uzun süreli, yüksek hacimli otomasyonlar arayın. Önemli olacak kadar hacim olması gerekir.
Ajanlarınızı oluştururken AI'yı aşırı kullanmayın. Çoğu otomasyon görevi, bir dizi araç çağrısı ve yalnızca bir orkestrasyon katmanı olarak bir LLM'ye yapılan tek bir çağrı ile yapılabilir. Çok fazla AI, gereksiz token maliyetlerine (ölçekte biriken) ve genellikle daha düşük kaliteli çıktılara yol açar.
Denetim aşamasının son kısmı prototip oluşturmadır. Bir ajanın nasıl oluşturulacağını öğrenmek için Ajanlar 101'e ve bu ajani demodan üretime taşımak için Ajanlar 102'ye göz atın.
Değerlendirme (Evals): Bir müşteri bir AI dağıtımına milyonlar harcıyorsa, bunun çalıştığını bilmesi gerekir. Bunu yapmak için bir FDE detaylı değerlendirmeler oluşturur.
İyi bir değerlendirme yalnızca ajanın verdiği nihai cevabın doğru olup olmadığını kontrol etmez, aynı zamanda AI'nın bir insan gibi düşündüğünü de doğrular. Bunu yapmak için iki şey yapın:
İnsanın adımlarını izleyin ve AI'yı her adımda değerlendirin: Bir insan sorunları tek bir hamlede çözmez. Bu çok adımlı bir süreçtir. Bu adımları haritalandırın ve AI'nin yol boyunca aynı kontrol noktalarına ulaşıp ulaşmadığını görün.
Küçük başlayın, istenen sonucun harika örnekleriyle başlayın, ardından her şeyi onlara göre ölçün: Bir müşteri destek ajani oluşturuyorsanız, bir insanla oturun ve bir kullanıcının sorusuna verilebilecek en iyi cevabın ne olduğunu belirleyin. Bunu birkaç görevde birkaç kez tekrarlayın. Artık "harikanın" neye benzediğini biliyorsunuz ve ajanları bu standartta tutabilirsiniz.
Değerlendirmeler müşteriye değer kanıtlar. Herkes şirketinde AI istediğini söylese de, işe yarayıp yaramadığı konusunda şüpheci olan birçok kişi hâlâ var. İyi bir ajan değerlendirmesi, bir yöneticinin ajanın yatırım getirisi sağlayacağına güvenmesi için ihtiyaç duyduğu şeydir.
Dağıtım (Deployment): Büyük ölçekli veri geçişlerinden kaçının. Bunun yerine, mevcut bir veri katmanı (SharePoint veya veritabanları) üzerinde API'ler oluşturun ve sorgulamak için üstüne bir orkestratör olarak bir model yerleştirin. Bu, zaman ve paradan tasarruf sağlar ve daha da önemlisi, sizi mevcut sistemlerinizi söküp atmanın acımasız kabusundan kurtarır. Müşterilerimiz en son ERP'lerine geçmek için milyonlarca dolar ve yıllar harcadı. En son isteyecekleri şey onu tekrar değiştirmektir.
Yukarıdakilerin tümü tamamlandıktan sonra, ajani güvenli bir şekilde test etmek için bir yürütme ortamı oluşturun. Bu, şirketin altyapısında doğrudan bir kum havuzudur; böylece üretime geçmeden önce ajani çalıştırabilir, test edebilir ve hata ayıklayabilirsiniz.
Üretime geçerken yavaş başlayın. Küçük bir iş akışı alın, çalışmasını sağlayın ve ardından ek yetenekler ekleyin. Örneğin, hataları yakalayan, araştıran ve neyin yanlış gittiğini düşündüğünü özetleyen bir bilet yazan bir ajanla başlayın. Bu işe yararsa, ancak o zaman kod yazma ve PR gönderme yeteneği verin.
En küçük özerklik birimiyle başlayın; ancak o zaman harekete geçme yeteneği verin.
Bir FDE olarak denetimden dağıtıma gitme şekliniz budur. Bu adımları öğrenmek başlı başına işin kendisidir.
30 günde FDE nasıl olunur?
Bir FDE olarak en başarılı olan tipik olarak üç geçmiş vardır: Danışmanlar, Ürün Yöneticileri ve Yazılım Mühendisleri. Bunlardan hiçbirine girmeseniz bile, bu bölümün sonundaki 30 günlük yol haritasını takip etmek, rolü alma şansınızı katlanarak artıracaktır. Bunları başvuru yapma ve mülakatlarla paralel olarak yapın.
Danışmanlar/PM'ler
Bir danışman veya PM olarak, verileri yatırım getirisine dönüştürme becerisine zaten sahip olmalısınız. Bu, işin yarısıdır. Ancak bu geçmişe sahip biri için en büyük engel, mühendislik deneyimi eksikliğidir.
Yüksek kaliteli bir portföy bunu hafifletebilir. Bu yan projelerden ikisini seçin ve tamamen odaklanın:
- Eski işinizde manuel olarak yaptığınız tüm bir süreci yürütebilen, üretime hazır bir AI ajani. API'leri çağırabilmeli, düşüncelerini otonom olarak kaydedebilmeli ve bir hata önlemi mekanizmasına sahip olmalıdır.
- Bir veri kümesi üzerine inşa edilmiş bir RAG hattı (girmeye çalıştığınız sektöre göre özel bir veri kümesi seçin: yasal belgeler, tıbbi kayıtlar, mali dosyalar vb.).
- Kendi oluşturduğunuz, bir ajanın çıktılarını farklı iş süreçleri (satın alma, borç hesapları vb.) için birden çok boyutta (doğruluk, biçim, maliyet, gecikme) puanlayan bir değerlendirme çerçevesi.
- Bir LLM'yi halihazırda AI entegrasyonunu desteklemeyen eski bir yazılıma bağlayabileceğiniz bir MCP.
Anlayışınızı AI'ya dış kaynak olarak yaptırmayın. Adım adım giderseniz, bu kavramlar oldukça anlaşılır olmalıdır. Başlığın 30 gün olmasının bir nedeni var, 30 dakika değil.
Yazılım Mühendisleri
Tartışmasız bir FDE olmanın en önemli kısmı iletişimdir. AI'nın neler yapıp neler yapamayacağını, teknik olmayan bir Başkan Yardımcısı için anlamlı olacak şekilde çevirmeniz gerekir. Bunu yapamazsanız, FDE olamazsınız.
SWE'ler, danışmanlık/PM bölümünde belirtilenlere benzer projeler oluşturmalı, ancak oluşturdukları her bir bileşeni açıklamalıdır. Teknoloji yığını, sonuçlar, yaptığınız yinelemeler, iş sonuçları. En önemlisi, bu ajanları ilk etapta oluşturmak için bir nedeniniz olmalı: çözdüğünüz sorun noktası neydi ve bu gerçek bir müşteri etkileşiminde nasıl işleyebilirdi?
Rol ne olursa olsun 30 günlük taslak
Daha somut bir şey için, sizi neredeyse her şeye hazırlayacak bu 30 günlük planı izleyin:
Kontrol Noktası 1 (7. gün):
- Ajan nedir ve bir ajan döngüsü nasıl çalışır: Anthropic'in Etkili Ajanlar Oluşturma makalesini okuyun, ardından döngüyü çalıştıran bir komut dosyası yazın: istem → model → yanıt → sonraki adım.
- Bir ajana nasıl araç çağrısı yaptırılır: Anthropic/OpenAI araç kullanım eğitimlerini kullanarak iki araç çağrısı (bir API çağrısı ve bir web araması) ekleyin.
- Doğru güvenlik önlemleri nasıl oluşturulur: kullanıcıya herhangi bir şey ulaşmadan önce girdi doğrulama, maksimum adım sınırı ve çıktı filtreleme ekleyin.
- Bağlam penceresi vs harici bellek ne zaman kullanılır: durumun çalıştırmadan daha uzun süre kalıcı olması gerekmiyorsa varsayılan olarak bağlamı kullanın.
- Denetim izi nedir ve nasıl oluşturulur: her istemi, araç çağrısını ve yanıtı zaman damgalarıyla günlüğe kaydedin. Bu, ajan hatalarını bulmaya ve işaretlemeye yardımcı olur.
Kontrol Noktası 2 (14. gün):
- Yapılandırılmış çıktılar nasıl zorunlu kılınır: her zaman JSON döndürün. OpenAI'in geliştirici sayfasını okuyun.
- Bir demo üretime nasıl taşınır ve genellikle ne bozulur: Ajanlar 102'yi okuyun.
- Nasıl kontrol noktası oluşturulur: ajan durumunu her n adımda bir dosyaya kaydedin, böylece son kontrol noktasından yeniden başlayabilir.
Kontrol Noktası 3 (21. gün):
- Yeniden deneme mantığı ve üstel geri çekilme nasıl çalışır: her harici çağrının yeniden denemelere ihtiyacı vardır. Başarısızlık durumunda 1s, 2s, 4s, 8s bekleyin, 16s'de üst sınırlayın.
- Ajanları dağıtırken maliyet nasıl optimize edilir: üç şey: ucuz alt görevler için daha ucuz modeller (Opus yalnızca akıl yürütme için kullanılmalıdır), yaygın istemleri önbelleğe alın, maksimum token'ları sınırlayın. Sorgu başına maliyeti takip edin.
- Değerlendirmeler için nasıl bir altın veri kümesi oluşturulur: 20 gerçek sorguyla başlayın, mükemmel çıktıyı kendiniz etiketleyin. Anthropic'in "AI ajanları için değerlendirmeleri anlamak" başlıklı makalesi her şeyi kapsar.
- Çoklu ajan hatları ve paralel mimariler nasıl çalışır: bir ajan işi kaldıramadığında işi bölün. Biri planlar, diğerleri yürütür, biri sentezler.
Kontrol Noktası 4 (Son hafta):
Yukarıdakileri gözden geçirin ve her şeyi yüksek sesle ifade edin. Yapabildiğiniz her şeyi iş metriklerine bağlayın.
TLDR
FDE şu anda teknolojideki en çok talep gören roldür. Her şirketin AI'ya ihtiyacı var, ancak kimse nasıl dağıtılacağını bilmiyor.
İşin üç aşaması vardır (denetim, değerlendirme, dağıtım). Sizin işiniz her aşamayı ve amacını anlamaktır.
Portföyünüz ve onun hakkında konuşma yeteneğiniz belirleyici faktörlerdir. Ajanlar, RAG hatları, değerlendirme çerçeveleri, MCP'ler vb. oluşturun ve en önemlisi, inşa ettiğiniz her şeyin arkasındaki iş kullanım senaryosunu güvenle ifade edebilin.
İletişim yeteneği eksikliği, FDE rolü için anlaşmayı bozan bir faktördür. AI'nın neler yapıp neler yapamayacağını teknik olmayan bir karar vericiye açıklayamazsanız, bir dağıtım olmayacaktır.
AI'nın cevap olmadığı zamanı bilin; bu, müşteriyle güven oluşturur ve daha da önemlisi, üretimdeki ajanlar için yatırım getirisi sağlar.
Bu adımları yapın ve içeri girme şansınız katlanarak artacaktır.
SF'deki en hızlı büyüyen Uygulamalı AI şirketine geçiş yapmak istiyorsanız, Varick işe alım yapıyor. Silicon Valley'deki en seçkin FDE ekibini, eski bir Citadel Securities COO'su liderliğinde kuruyoruz. Doğrudan https://www.varickagents.com/careers adresinden başvurun.
