Teknik açıklamalar ve ürün sunumları için uygun, çift önbellek dallarına sahip yedi adımlı önbellekli sohbet çıkarım hattını gösteren, şık ve dikey bir sistem mimarisi infografiği.
Açık gri bir arka plan üzerinde, yuvarlatılmış beyaz kartlar, ince renkli ana hatlar, basit vektörel çizgi simgeleri, koyu lacivert metinler ve lacivert bağlantı okları içeren minimalist ve modern bir ürün diyagramı tarzında, temiz ve dikey bir teknik iş akışı infografiği oluşturun. Kompozisyon, 7 numaralı ana adımı içeren, yukarıdan aşağıya doğru ortalanmış tek bir akış şemasıdır; ayrıca 4. adımdan 5. adıma dallanan 2 paralel önbellek grubu paneli ve en solda alttan başa doğru dönen kalın, koyu renkli bir geri dönüş oku bulunur. Keskin sans-serif tipografi, geniş boşluklar, hafif pastel vurgu renkleri kullanın; gradyan veya gölge kullanmayın ve sunum Slides netliğinde olmasını sağlayın.
Üst merkeze, solunda kod/sohbet simgesi bulunan ve mavi ana hatlı 1. adım kartını yerleştirin. Başlık metni: "1. sohbet tamamlama isteği". Alt başlık: "conversation_id + cache_salt + yeni sonek mesajları".
Altına, mavi ana hatlı ve belge/liste simgeli 2. adım kartını yerleştirin. Başlık: "2. Ön uç konuşma defteri". Alt başlık: "aynı kimliği kirala + onaylanmış mesajları takip et".
Altına, camgöbeği ana hatlı ve büyüteçli veritabanı simgeli 3. adım kartını yerleştirin. Başlık: "3. Tam konuşma önbelleği araması". Alt başlık: "conversation_id ␚ onaylanmış dönüş durumu".
Altına, mor ana hatlı ve dallanan zamanlayıcı simgeli 4. adım kartını yerleştirin. Başlık: "4. Zamanlayıcı önbellek ekleme". Alt başlık: "set num_computed_tokens + onaylanmış durumu ekle".
4. adımdan aşağıya doğru yan yana 2 grup paneline dallanın.
Sol grup paneli: "Full-attention KV cache group" başlıklı, soluk yeşil yuvarlatılmış bir kapsayıcı. İçine 2 iç kartı üst üste yerleştirin. İlk iç kartta yeşil blok ızgara simgesi, "Committed block refs" başlığı ve "hizalanmış tam KV bloklarını paylaş" alt başlığı olsun. Altındaki ikinci iç kartta yeşil katmanlı sayfalar simgesi, "Tail COW copy" başlığı ve "hizalanmamış KV kuyruğunu kopyala" alt başlığı olsun. Yeşil panelin altına küçük bir alt bilgi metni ekleyin: "transformer katmanları için sayfalandırılmış K/V tensörleri".
Sağ grup paneli: "Mamba terminal-state cache group" başlıklı, soluk mor yuvarlatılmış bir kapsayıcı. İçine 2 iç kartı üst üste yerleştirin. İlk iç kartta mor veritabanı/ağ simgesi, "Committed terminal state" başlığı ve "onaylanmış uzunluktaki tam durum" alt başlığı olsun. Altındaki ikinci iç kartta mor dalgalı çizgiler simgesi, "Request-owned terminal copy" başlığı ve "SSM + conv durumunu kopyala" alt başlığı olsun. Mor panelin altına küçük bir alt bilgi metni ekleyin: "hizalama modu terminal durum yerleşimi".
Her iki grup paneli çıktısını, mavi ana hatlı ve mikroçip simgeli, ortalanmış 5. adım kartında birleştirin. Başlık: "5. Hibrit model yürütme". Alt başlık: "yalnızca önbelleğe alınmamış soneki çalıştır". Bu kartın alt kısmına yan yana 2 hap şeklinde etiket ekleyin: "Transformer layers" ve "Mamba layers".
Altına, mavi ana hatlı ve ışıltı simgeli 6. adım kartını yerleştirin. Başlık: "6. Asistan belirteçlerini çözme". Alt başlık: "yanıtı belirteç belirteç akıt".
Altına, sıcak sarı-turuncu ana hatlı ve onay işaretli veritabanı simgeli 7. adım kartını yerleştirin. Başlık: "7. Tamamlanan dönüşü onayla". Alt başlık: "bekleyen durumu yayınla veya hata durumunda at".
En sol taraftan aşağıya doğru inen, üst kısımda soldan 1. adıma giren ve altta 7. adımdan yukarıya doğru dönen kalın, koyu lacivert bir döngü oku ekleyin. Bu sol döngü boyunca, alt yarının yakınında üst üste binmiş açıklama metni yerleştirin: "sonraki istek onaylanmış konuşma başlığını yeniden kullanır".
7. adımdan önbellek grubu panellerine doğru yükselen 2 kesikli yayın oku ekleyin: solda yeşil önbellek paneline işaret eden ve "yeni durumu yayınla" etiketli yeşil kesikli bir ok; sağda mor önbellek paneline işaret eden ve yine "yeni durumu yayınla" etiketli mor kesikli bir ok.
Toplam 7 numaralı ana kart, 2 önbellek grubu paneli, 4 iç önbellek kartı ve 2 hap etiket sayısını tam olarak koruyun. Bir konferans Slides mimari diyagramına benzer bir dikey en boy oranını muhafaza edin.