Her Yapay Zeka Mühendisinin Bilmesi Gereken 20 Döngü Tasarım Deseni

Çoğu AI mühendisi bir ajanın nasıl inşa edileceğini bilir.

Çok azı, ilk denemeden sonra daha iyi hale gelen bir sistemi nasıl inşa edeceğini bilir.

Bu fark altı haneli bir değere sahiptir.

İşte fark:

Ajan bir işçidir.

Döngü, işçinin gelişmesini sağlayan şeydir.

Bugün üretimdeki en yetenekli AI sistemleri tek model çağrıları değildir.

Onlar döngülerdir.

Oluştur → Değerlendir → Öğren → Geliştir.

Tekrar tekrar.

Çıktı gerçekten iyi olana kadar.

İşte üretim AI sistemlerinde tekrar tekrar karşımıza çıkan 20 döngü tasarım deseni.

Bunu kaydet. Bunlarla inşa edeceksin.

Ajanlar ve Döngüler

Eski yol: İstek → Yanıt → Bitti.

Yeni yol: Oluştur → Eleştir → Yeniden Yaz → Puanla → Tekrar Dene → Hatırla → Geliştir.

Biri işi bir kere yapan fabrika işçisidir.

Diğeri ise her hatayı inceleyen, oyun kitabını yeniden yazan ve her vardiyada %3 daha iyi hale gelen bir fabrika işçisidir.

Şu anda üretim AI'sı gönderen ekipler daha iyi istekler yazmıyor.

Daha iyi döngüler inşa ediyorlar.

KATEGORİ 1 — KALİTE İYİLEŞTİRME DÖNGÜLERİ (Çıktıyı sistemden çıkmadan önce daha iyi hale getirin)

1. Oluştur → Eleştir → Yeniden Yaz

AI mühendisliğindeki en önemli döngü.

Çıktı oluştur. Eleştirmen inceler. Oluşturucu geri bildirime göre yeniden yazar. Kalite eşiği karşılanana kadar tekrarla.

Tek model değil. İki rol. Tek boru hattı.

1[Oluşturucu] → taslak
2[Eleştirmen] → "3. paragraf belirsiz. kanıt eksik. ton uygun değil."
3[Oluşturucu] → eleştiriye göre yeniden yaz
4[Eleştirmen] → "daha iyi. ama sonuç hala zayıf."
5[Oluşturucu] → son yeniden yazım

Kullanım alanları: yazma, kod inceleme, raporlar, strateji belgeleri, satış e-postaları.

İçgörü: Oluşturan model, kendi çıktısının en iyi yargıcı değildir.

Ayrı bir eleştirmen, oluşturucunun her seferinde kaçırdığını bulur.

2. Puanla ve Tekrar Dene Döngüsü

Oluştur. Puanla. Eşiğin altındaysa tekrar dene.

Basit. Güçlü. Az kullanılan.

puan = değerlendir(çıktı)

1puan = değerlendir(çıktı)
2
3while puan < eşik:
4    çıktı = oluştur(istek)
5    puan = değerlendir(çıktı)
6    denemeler += 1
7    if denemeler > maks_deneme:
8        return en_iyi_şimdiye_kadar

Kalitenin ölçülebildiği durumlarda en iyisi — çıkarma doğruluğu, biçim uyumu, gerçeksel doğruluk, potansiyel müşteri puanlaması.

Oluşturucu notlandırıldığını bilmez.

Değerlendirici bilir.

Bu ayrım desendir.

3. Çoklu Eleştirmen Döngüsü

Bir eleştirmenin kör noktaları vardır.

Dört tane kullan.

→ Doğruluk eleştirmeni: gerçeklere dayalı olarak doğru mu?

→ Stil eleştirmeni: açık ve iyi yazılmış mı?

→ Güvenlik eleştirmeni: uygun ve güvenli mi?

→ Alan eleştirmeni: uzman standartlarını karşılıyor mu?

Her biri bağımsız olarak değerlendirir.

Nihai çıktı, çıkmadan önce dördünü de tatmin etmelidir.

Kullanım alanları: tıbbi AI, yasal belge inceleme, finansal analiz, düzenlenmiş içerik.

4. Çekişmeli Eleştiri Döngüsü

Eleştirmenin tek işi cevabı kırmaktır.

İyileştirmek değil. Kırmak.

Çekişmeli eleştirmenin sorduğu sorular:

→ Burada hangi varsayımlar başarısız olur? → Hangi kanıt eksik? → Bir şüpheci ne der? → Bu, güvenle yanlış olan neresi?

Oluşturucu daha sonra savunur veya yeniden yazar.

En iyi cevap saldırıdan sağ çıkar.

Kullanım alanları: araştırma sentezi, yatırım tezi incelemesi, stratejik planlama, risk analizi.

5. Jüri Topluluğu Döngüsü

Bir jüri gürültülü puanlar verir.

Beş jüri gürültünün ortalamasını alır.

Aynı çıktıyı birden çok değerlendiriciden geçirin.

Puanları birleştirin.

Yalnızca yüksek fikir birliğine sahip çıktılar ilerler.

Kullanıldığı durumlar: tek model değerlendirmesinin güvenilmez olduğu, risklerin yüksek olduğu, uç durumların önemli olduğu zamanlar.

KATEGORİ 2 — BELLEK DÖNGÜLERİ (Olanlardan öğrenin ki bir dahaki sefere daha akıllı olunsun)

6. Yansıma Döngüsü

Var olan en önemli kendini geliştirme deseni.

Ajan başarısız olur. Ajan neden başarısız olduğunu analiz eder. Ajan dersi saklar. Ajan, bu dersi bağlamda kullanarak tekrar dener.

Her yineleme: bir öncekinden daha akıllı.

1deneme 1: başarısız
2yansıma: "X'i varsaydım ama X yanlıştı. Bir dahaki sefere önce X'i doğrula."
3deneme 2: dersi dahil eder → kısmi başarı
4yansıma: "Daha iyi. Ama Y'yi atladım. Y kontrolünü ekle."
5deneme 3: başarılı

Bir kez başarısız olan bir sistem ile yalnızca bir kez başarısız olan bir sistem arasındaki fark.

7. Bellek Güncelleme Döngüsü

Her görevden sonra üç şeyi sakla:

→ Hangi karar verildi → Sonuç neydi → Farklı olarak ne yapılırdı

Gelecekteki çalıştırmalar bu bilgiyi devralır.

1. aydaki sistem, 1. aydaki sistemle aynı değildir.

Kendi geçmişinin 6 ayını okumuştur.

8. Hata Kütüphanesi Döngüsü

Her başarısızlığı sakla.

Yanlış cevap. Kötü çıktı. Başarısız yürütme. Uç durum.

Yeni bir görev üzerinde hareket etmeden önce:

Önce hata kütüphanesini ara.

Benzer bir başarısızlık varsa → daha başlamadan bilinen düzeltmeyi uygula.

Sistem aynı hatayı iki kez yapmayı bırakır.

Üretim AI'sında en az kullanılan desen.

9. Başarı Deseni Döngüsü

Çoğu mühendis yalnızca başarısızlıkları saklar.

Başarıları da sakla.

Bir görev iyi gittiğinde:

→ Yaklaşımı kaydet → Bağlamı kaydet → İşe yaramasını sağlayan şeyi kaydet

Benzer görevlerle karşılaştığında başarılı desenleri al.

Hatalardan değil, kazançlardan öğren.

10. Bellek Sıkıştırma Döngüsü

Bellek sonsuza kadar büyür.

Sınırsız bellek, kullanılamaz bellektir.

N öğe biriktikten sonra:

Onları sıkıştır.

Birçok spesifik anı → daha az sayıda üst düzey soyutlama.

1Sıkıştırmadan önce:
2"A görevinde X yüzünden başarısız oldu"
3"B görevinde X yüzünden başarısız oldu"
4"C görevinde X yüzünden başarısız oldu"
5
6Sıkıştırmadan sonra:
7"Desen: X başarısızlıklara neden olur. Her zaman önce X'i kontrol et."

Bağlam yönetilebilir kalır. Desenler erişilebilir kalır. Sistem hızlı kalır.

KATEGORİ 3 — PLANLAMA DÖNGÜLERİ (Gerçeklik değiştiğinde planı uyarlayın)

11. Planla → Yürüt → Yeniden Planla

AI ajan tasarımındaki en yaygın hata:

Planı sabit kabul etmek.

Planlar gerçeklikle temas halinde bozulur.

Desen:

Plan oluştur → adımı yürüt → sonucu gözlemle → planı güncelle → devam et

Bir şelale değil.

Bir sarmal.

Her tur yaklaşımı sıkılaştırır.

Kullanıldığı durumlar: ortam değiştiğinde, görevlerin bağımlılıkları olduğunda, uzun vadeli hedefler.

12. Dinamik İş Akışı Döngüsü

Çoğu boru hattı sabittir.

Adım 1 → Adım 2 → Adım 3. Her zaman.

Dinamik iş akışları sonuçlara göre değişir.

Çıktı A ise → X dalını çalıştır Çıktı B ise → Y dalını çalıştır Çıktı C ise → 5. adıma atla

Boru hattı, çalışma zamanında kendi şekline karar verir.

Kullanım alanları: çoklu belge araştırması, müşteri desteği yönlendirme, uyarlanabilir içerik boru hatları.

13. Hedef Ayrıştırma Döngüsü

Büyük hedef girer.

Sistem onu alt hedeflere ayırır.

Her alt hedef görevlere ayrılır.

Her görev adımlara ayrılır.

Her birim tek bir çağrıda yürütülebilecek kadar küçük olana kadar ayrıştır.

1Hedef: "Kapsamlı bir rekabet analizi yaz"
2↓
3Alt Hedef 1: "İlk 5 rakibi belirle"
4Alt Hedef 2: "Her rakibin ürününü analiz et"
5Alt Hedef 3: "Fiyatlandırma modellerini karşılaştır"
6Alt Hedef 4: "Boşlukları belirle"
7↓
8Her alt hedef → görevler → bireysel model çağrıları

Döngü, sistem harekete geçene kadar ayrıştırmaya devam eder.

14. İlerleme Değerlendirme Döngüsü

Her N adımda bir: dur ve sor.

"Gerçekten hedefe yaklaşıyor muyuz?"

Evet ise: mevcut stratejiye devam et. Hayır ise: stratejiyi, araçları veya planı değiştir.

Sistem kendi ilerlemesini izler.

Sadece körü körüne yürütmez.

Kullanım alanları: uzun süreli araştırma ajanları, çok günlü otonom görevler, hata ayıklama ajanları.

15. Kısıtlama Karşılama Döngüsü

Tüm kısıtlamalar karşılanana kadar çalıştırmaya devam et.

1while not tüm_kısıtlamalar_karşılandı(çıktı):
2    çıktı = iyileştir(çıktı, karşılanmayan_kısıtlamalar)
3
4kısıtlamalar = [
5    bütçe_sınırın_altında,
6    kalite_eşiğin_üstünde,
7    gecikme_200ms_altında,
8    ton_marka_ile_eşleşiyor,
9    halüsinasyon_yok
10]

Üretim sistemlerinde çok yaygındır.

Her iş kuralı geçene kadar çıktı tamamlanmış sayılmaz.

KATEGORİ 4 — KEŞİF DÖNGÜLERİ (Birden çok yolu deneyerek en iyi cevabı bulun)

16. Dallan ve Keşfet Döngüsü

Tek bir yola bağlanma.

Birkaçını aynı anda keşfet.

1yollar = [
2    oluştur(yaklaşım="muhafazakar"),
3    oluştur(yaklaşım="agresif"),
4    oluştur(yaklaşım="yaratıcı")
5]
6
7puanlar = [değerlendir(y) for y in yollar]
8en_iyi = yollar[puanlar.index(max(puanlar))]

Sonuçları karşılaştır. En iyi dalı seç. Gerisini at.

Kullanım alanları: içerik varyasyonları, mimari kararlar, birden çok hipotezde hata ayıklama, A/B oluşturma.

17. Ağaç Arama Döngüsü

Dallan ve Keşfet bir seviye derine gider.

Ağaç Arama gerektiği kadar derine gider.

En umut verici düğümleri genişlet. En zayıf olanları buda. Çözüm bulunana kadar keşfetmeye devam et.

1kök → [A, B, C]
2A → [A1, A2]   # A umut verici görünüyor, genişlet
3B → buda      # B zayıf, burada dur
4A1 → [A1a, A1b]
5A1a → çözüm ✓

Kullanım alanları: karmaşık akıl yürütme zincirleri, çok adımlı planlama, kod hata ayıklama, araştırma sentezi.

Hesaplama açısından pahalıdır ancak tek geçişli çağrıların bulamadığı çözümleri bulur.

18. Tartışma Döngüsü

İki ajan. Tek konu. Zıt pozisyonlar.

Ajan A cevap için tartışır. Ajan B cevaba karşı tartışır.

Her tur varsayımlara meydan okur, kanıt talep eder, zayıf mantığı ortaya çıkarır.

Nihai cevap anlaşmazlık yoluyla ortaya çıkar.

Anlaşma yoluyla değil.

Çekişmeli baskı, kendine güvenen tek ajanlı cevapların kaçırdığını bulur.

Kullanım alanları: yatırım kararları, stratejik planlama, risk değerlendirmesi, araştırma eleştirisi.

KATEGORİ 5 — SİSTEM OPTİMİZASYON DÖNGÜLERİ (Döngü, döngüyü iyileştirir)

19. İstek Optimizasyon Döngüsü

Çoğu mühendis bir istek yazar ve bir daha asla dokunmaz.

İstek optimizasyon döngüleri bunu değiştirir.

Sistem:

→ İsteği bir test kümesinde çalıştırır

→ Her çıktıyı puanlar

→ İsteğin nerede başarısız olduğunu belirler

→ Bu başarısızlıkları düzeltmek için isteği yeniden yazar → Yeniden çalıştırır ve yeniden puanlar

İstek otomatik olarak daha iyi hale gelir.

Bir insan ona dokunmadan.

1mevcut_istek = "Bu belgeyi özetle."
2
3for yineleme in range(maks_yineleme):
4    çıktılar = [çalıştır(mevcut_istek, belge) for belge in test_kümesi]
5    puanlar = [değerlendir(c) for c in çıktılar]
6    ortalama_puan = ortalama(puanlar)
7
8    if ortalama_puan >= hedef:
9        break
10
11    başarısızlıklar = [c for c, p in zip(çıktılar, puanlar) if p < eşik]
12    mevcut_istek = isteği_iyileştir(mevcut_istek, başarısızlıklar)
13    # İstek, nerede başarısız olduğuna bağlı olarak kendini yeniden yazar

Kullanım alanları: üretim boru hatları, otomatik içerik sistemleri, sınıflandırma görevleri.

Üretim AI'sındaki en iyi istekler bir insan tarafından yazılmadı.

Evrimleştirildiler.

20. İş Akışı Optimizasyon Döngüsü

İşin ilginçleştiği yer burası.

Döngü, döngüyü iyileştirir.

Sistem kendi performansını ölçer:

→ gecikme: her adım ne kadar sürüyor?

→ maliyet: her çağrı kaç token kullanıyor?

→ kalite: her aşamada çıktı puanı nedir?

Daha sonra kendi iş akışını değiştirir.

Çok mu yavaş? İki adımı paralelleştir. Çok mu pahalı? Kalitenin korunduğu yerde bir GPT-4 çağrısını daha küçük bir modelle değiştir. Kalite düşüyor mu? Son çıktıdan önce bir eleştirmen ekle.

1metrikler = iş_akışını_ölç(çıktılar, gecikme, maliyet)
2
3if metrikler.gecikme > hedef_gecikme:
4    iş_akışı = paralelleştir(yavaş_adımlar)
5
6if metrikler.maliyet > bütçe:
7    iş_akışı = daha_ucuz_modelle_değiştir(yüksek_maliyetli_adımlar)
8
9if metrikler.kalite < eşik:
10    iş_akışı = son_çıktı_adımından_önce_eleştirmen_ekle

Gerçekten kendini geliştiren sistemlerin başladığı yer burasıdır.

Sadece iyileşen çıktılar değil.

Kendini yeniden tasarlayan sistemler.

20 desenin tamamının arkasındaki desen

Yukarıdaki her bir döngü tek bir yapıyı paylaşır:

Hareket Et → Gözlemle → Değerlendir → Ayarla

Bütün tarif budur.

Çıktı ilk denemede asla nihai değildir.

Çıktı bir başlangıç noktasıdır.

Döngü, bir başlangıç noktasını üretime hazır bir şeye dönüştüren şeydir.

Tam harita

Kategori 1 — Kalite Döngüleri (Çıktıyı çıkmadan önce daha iyi hale getirin)

→ 1. Oluştur → Eleştir → Yeniden Yaz

→ 2. Puanla ve Tekrar Dene

→ 3. Çoklu Eleştirmen

→ 4. Çekişmeli Eleştiri

→ 5. Jüri Topluluğu

Kategori 2 — Bellek Döngüleri (Olanlardan öğrenin)

→ 6. Yansıma

→ 7. Bellek Güncelleme

→ 8. Hata Kütüphanesi

→ 9. Başarı Deseni

→ 10. Bellek Sıkıştırma

Kategori 3 — Planlama Döngüleri (Gerçeklik değiştiğinde uyum sağlayın)

→ 11. Planla → Yürüt → Yeniden Planla

→ 12. Dinamik İş Akışı

→ 13. Hedef Ayrıştırma

→ 14. İlerleme Değerlendirme

→ 15. Kısıtlama Karşılama

Kategori 4 — Keşif Döngüleri (Birçok yolu deneyerek en iyi cevabı bulun)

→ 16. Dallan ve Keşfet

→ 17. Ağaç Arama

→ 18. Tartışma

Kategori 5 — Sistem Optimizasyon Döngüleri (Döngü, döngüyü iyileştirir)

→ 19. İstek Optimizasyonu

→ 20. İş Akışı Optimizasyonu

Çoğu mühendis ajanların gelecek olduğunu düşünüyor.

Ajanlar sadece işçilerdir.

Döngüler, işçilerin gelişmesini sağlayan şeydir.

AI'da şu anda olan en büyük değişim daha iyi modeller değil.

Şundan geçiş yapmak:

İstek → Yanıt

şuna:

Oluştur → Değerlendir → Öğren → Geliştir

Döngü tasarımında ustalaşan ekipler daha iyi istekler oluşturmayacak.

Dağıtımdan sonra her gün daha iyi hale gelen sistemler inşa edecekler.

Kimse onlara dokunmadan.

Bu faydalıysa:

→ Tanıdığın her AI mühendisiyle paylaşmak için tekrar yayınla

→ Bunun gibi daha fazla desen için @sairahul1'i takip et

→ Bunu yer imlerine ekle — bir döngü seç ve bu hafta uygula

AI, ürün oluşturma ve sensiz çalışan sistemler hakkında yazıyorum.