AI असिस्टेंट की जान स्पीड में बसती है। एक असिस्टेंट को आपके काम पूरे करने होते हैं, लेकिन iMessage पर उसके पास यह दिखाने के बहुत कम तरीके हैं कि वह आपकी रिक्वेस्ट पर काम कर रहा है: एक tapback, एक टाइपिंग बबल, या कोई छोटा-सा जवाब।
Partyline आपके iMessage में मौजूद एक खास तरह का AI असिस्टेंट है। हमारा फोकस आपकी ईमेल को मैनेज करने पर नहीं है: हमारा मानना है कि इंसान होने के नाते आपको शुरू से ही ईमेल पर होना ही नहीं चाहिए था। हमारा मकसद आपको घर से बाहर निकालना है, दूसरों के साथ वक्त बिताना है और जिंदगी को एन्जॉय करना है। हमारा प्रोडक्ट मेट्रिक यह है कि हमारे यूजर्स की जिंदगी में कितने ऐसे पल हैं जो जीने लायक हैं।
लेकिन एक असिस्टेंट के लिए इसका मतलब है एक बेहद, बेहद भीड़भाड़ वाली दुनिया में टक्कर लेना, जो हमारे यूजर्स को थकाने की पूरी कोशिश कर रही है। उन्हें डिप्रेस्ड और नाखुश बनाने की। लेकिन सबसे बढ़कर, उनकी अटेंशन के लिए मुकाबला करने की।
चूंकि लोग अक्सर भागदौड़ भरे माहौल में मैसेज करते हैं, इसलिए हमारा तेज होना जरूरी है। यूजर अपना फोन जेब में रखे (जैसा कि उसे रखना ही चाहिए!), उससे पहले हमें बस एक पल मिलता है, और हम नहीं चाहते कि वे जरूरत से एक पल भी ज्यादा स्क्रीन को देखें।
जब हमने Partyline बनाया, तो हमारे जवाब काफी धीमे थे। कोई जगह या इवेंट ढूंढने में 29 से 46 सेकंड लगते थे। जब आप दोस्तों के साथ बाहर हों, तो यह बहुत लंबा वक्त होता है। अगर आप वो इंसान हैं जो अगली जगह खोजने के लिए फोन निकालता है, तो आप अपनी सोशल कैपिटल दांव पर लगा रहे होते हैं: आप वो शख्स हैं जिसे पता है कि कुछ मजेदार चल रहा है। 46 सेकंड में, कोई और पहले ही किसी जगह का सुझाव देकर बातचीत का रुख मोड़ चुका होता है।
इसलिए iMessage असिस्टेंट का बहुत तेज होना जरूरी है। कोई ऐप इस्तेमाल करते वक्त आपको एक ऐसी स्क्रीन मिलती है जिस पर आपका कंट्रोल होता है। iMessage में ऐसा नहीं है: लोग इसे व्यस्त और उलझे हुए पलों में इस्तेमाल करते हैं, और असिस्टेंट को उनके आस-पास की हर चीज से मुकाबला करना पड़ता है।
हम दूसरों से कैसे बेहतर हैं
हमने Partyline की तुलना iMessage पर मौजूद दो अन्य पर्सनल असिस्टेंट, Tomo और Instinct से की। Instinct सबसे धीमा था: सर्च के जवाब देने में इसे 42 से 82 सेकंड लगते थे, जो दोस्तों के साथ बाहर होने पर इस्तेमाल करने के लिए बहुत धीमा है। Tomo बातचीत में बेहतरीन है। इसके चैट रिप्लाई कुछ ही सेकंड में आ जाते हैं, और सर्च के जवाबों में 28 से 37 सेकंड लगते हैं, साथ ही करीब 2 सेकंड में एक tapback और लगभग 5 सेकंड में पहला टेक्स्ट आता है।
46 सेकंड से 3 सेकंड तक का सफर
Tomo ने हमारे सामने एक बुनियादी सवाल रखा: Partyline बातचीत में Tomo जितनी तेजी से जवाब कैसे दे सकता है, लेकिन जगहें और इवेंट खोजने जैसे बड़े कामों के लिए? हमने 29 से 46 सेकंड से शुरुआत की थी। आज कोई सर्च भेजने से लेकर जवाब आने तक सिर्फ 2 से 3 सेकंड लेता है।
दो बदलावों ने सबसे बड़ा फर्क डाला।
पहला, हम उन जगहों के इवेंट्स को पहले से इंडेक्स कर लेते हैं जिनके बारे में लोग सबसे ज्यादा पूछते हैं। San Francisco में a16z के Tech Week के दौरान हमारे इनवेंट्री में उस हफ्ते के करीब 1,700 इवेंट्स होते हैं, और एक सर्च सेकंड के दसवें हिस्से से भी कम समय में उन्हें एक छोटी लिस्ट में छांट देता है। जहां किसी एरिया को इंडेक्स नहीं किया गया है, वहां वेब सर्च साथ-साथ चलता है और कुछ सेकंड बाद जवाब दे देता है।
दूसरा, हमने अपने मैसेज पाइपलाइन के कई स्टेप्स पर Jev क्लासिफायर्स लगाए। Jev, TypeSafe का क्लासिफायर मॉडल है। करीब 0.2 सेकंड की एक कॉल में यह किसी मैसेज के बारे में कई सवालों के जवाब दे देता है: यह किस तरह की रिक्वेस्ट है, क्या यह पिछली सर्च को आगे बढ़ा रही है, क्या यह संवेदनशील है। Jev संभावित इवेंट्स और जगहों को रैंक भी करता है, और जवाब की हर लाइन को उस डेटा से चेक करता है जिसका वह वर्णन करती है। जब कोई बड़ा मॉडल ये फैसले लेता था, तो हर फैसले में करीब 4 सेकंड लगते थे।
आगे क्या है
अब Partyline, Tomo के पहले टेक्स्ट भेजने से पहले ही सर्च का जवाब तैयार कर लेता है, और Instinct के एक बार जवाब देने तक यह आम बातचीत के कई राउंड पूरे कर सकता है। इसका नुकसान यह है कि कुछ जवाब बातचीत कम और तेज-तर्रार रिस्पॉन्स ज्यादा लगते हैं। हम इस पर काम कर रहे हैं। हमारा अगला काम सिस्टम को एक ऐसे बीच के रास्ते पर लाना है जो अभी भी तुरंत जवाब देने जैसा लगे, लेकिन पढ़ने में बातचीत जैसा महसूस हो।
हम ऐसे टूल्स भी बना रहे हैं ताकि हमारे बढ़ने के साथ inference की लागत काबू में रहे, और हमें स्पीड या क्वालिटी से समझौता करके लागत न घटानी पड़े।
आज, Partyline दुनिया का सबसे तेज AI iMessage असिस्टेंट है, खासकर इवेंट सर्च के मामले में। अगर आप इस हफ्ते San Francisco में a16z के Tech Week में हैं, तो अब तक की सबसे तेज इवेंट सर्च के लिए Partyline को मैसेज करें।
