Sesli yapay zekada gecikme: 800 ms eşiği neden önemli, nasıl ölçülür?

Telefonda bir soru sorarsınız, karşı taraf susar; bir saniye, bir buçuk saniye... "Orada mısınız?" demeye başladığınız an konuşmanın doğal ritmi bozulmuştur. Sesli yapay zeka asistanlarında bu bekleme süresine tur gecikmesi (turn latency) denir ve asistanın insan gibi hissettirip hissettirmemesini belirleyen temel teknik ölçütlerden biridir.

Bu yazıda insan konuşmasının doğal ritmine ilişkin araştırma bulgularını, telekomünikasyon standartlarının gecikme eşiklerini, sesli yapay zekada gecikmenin kaynağını ve ölçümünü ele alıyoruz; sonda bir satıcı ölçümünün hangi koşullarla okunacağını örnekliyoruz.

Sesli yapay zekada gecikme neden önemli?

Çünkü insan konuşması şaşırtıcı derecede hızlı bir sıra düzeniyle işler. Stivers ve arkadaşlarının 2009'da PNAS'ta yayımladığı, 10 dili kapsayan çalışmada tüm dillerde sıra geçişlerinin en yoğun olduğu aralık 0–200 ms olarak ölçülmüş; dillere özgü ortalamalar ortak ortalamanın yaklaşık 250 ms çevresinde kalmıştır [1]. Aynı çalışma, üst üste konuşmaktan kaçınmanın ve turlar arasındaki sessizliği en aza indirmenin dilden bağımsız bir evrensel olduğunu göstermiştir [1].

Levinson ve Torreira'nın 2015 tarihli çalışması bu resmi tamamlar: turlar arası boşluk 200 ms mertebesindedir ve geçişlerin büyük bölümü −100 ile 500 ms arasına düşer; oysa dil üretiminin kendi gecikmesi çok daha uzundur, 600 ms'nin üzerindedir [2]. Yani insanlar yanıtı karşı taraf konuşurken planlamaya başlar; anlama tahmine dayalıdır [2]. Sesli yapay zeka için sonuç açık: karşı tarafın susmasını bekleyip sonra düşünmeye başlayan sistem insan ritmini yakalayamaz.

Telekomünikasyon dünyası buna onlarca yıldır kural koyuyor. ITU-T G.114 tavsiyesine göre tek yönlü ("ağızdan kulağa") gecikme 150 ms'nin altında tutulabilirse çoğu uygulama "esasen şeffaf bir etkileşim" yaşar; 400 ms'nin üzeri ise genel ağ planlaması için kabul edilemez sayılır [3]. Aynı belge, sesli görüşme gibi yüksek etkileşimli işlerin çok daha düşük gecikmelerden bile etkilenebileceğini vurgular [3]. ITU-T G.107'deki E-modeli ise gecikmeyi, kalite puanı R'yi düşüren ayrı bir bozulma faktörü (Id) olarak hesaba katar; Ek B'deki geçici kılavuz tabloya (kaynağı G.109) göre R 90 ve üzeri "çok memnun", 80'ler "memnun", 70'ler "bazı kullanıcılar memnuniyetsiz", 60'lar "birçok kullanıcı memnuniyetsiz" diye yorumlanır [4].

Kısacası: insan ritmi ~200 ms; telefon ağının kendisi tek yönde ~400 ms'ye kadar yer ve bu, tur gecikmesinin üstüne biner. Sesli yapay zeka çoğu zaman ikisinin de üzerine çıkar; çünkü ağ gecikmesine bir de "düşünme" süresi eklenir.

Yapay zeka telefon asistanı ne kadar hızlı yanıt vermeli?

Vapi'nin mühendislik yazısındaki tanım şudur: gecikme, kullanıcının cümlesinin bittiği an ile ajanın cümlesinin başladığı an arasındaki süredir [5]. Aynı yazıya göre 1.200 ms aşıldığında konuşma akışı kopar; bu, kullanıcının aklına başka bir düşünce gelmesi için gereken kabaca süredir [5]. Benzer bir satıcı gözlemi olarak Telnyx, 1.500 ms'nin üzerinde arayanların konuşmayı "kopmuş" bulduğunu yazar [6].

Bu yazıda pratik üst sınır olarak 800 ms'yi öneriyoruz; bu, bir ITU standardı ya da hakemli bulgu değil, mühendislik seçimidir. Gerekçesi şu: G.114'ün 400 ms'lik toleransı yalnızca ağın tek yönlü gecikmesi içindir [3]; tur gecikmesi bunun üstüne STT, dil modeli ve TTS süresini ekler. İnsan ritmine yaklaşmak mümkün olmasa da 1.200 ms'lik kopma noktasının [5] güvenli bir mesafe altında kalmak gerekir. 800 ms, arayanın "cevap gelmiyor" hissine kapılmadan tolere edebileceğini varsaydığımız, ulaşılabilir bir çalışma eşiğidir; Telnyx de 800 ms'nin üzerini "fark edilir biçimde gecikmeli" diye niteler [6]. Üstü duyulur bir bekleme, çok üstü "orada mısınız?" sorusudur.

Gecikme tek bir parçadan gelmez; bir zincirin toplamıdır:

• Konuşmayı yazıya çevirme (STT): Deepgram, akışlı tanımada "transkript gecikmesi" (yazının sese göre geride kalması) ile "tur sonu (EOT) gecikmesi"ni (susmadan tur-sonu olayına kadar geçen süre) ayrı metrikler olarak tanımlar ve sesli ajanlar için genellikle belirleyici olanın ikincisi olduğunu söyler [7].
• Dil modeli (LLM): Vapi mühendislerine göre zincirin neredeyse her zaman darboğazı; ölçülmesi gereken şey "ilk anlamlı cümleye kadar geçen süre"dir [5].
• Sesi üretme (TTS): ElevenLabs, Flash modelleri için yaklaşık 75 ms çıkarım süresi verir; akışlı uç noktalar sesi üretilirken parça parça göndererek ilk bayta kadar geçen süreyi kısaltır [8].
• Telefoni: codec, jitter tamponu, yankı iptali ve SIP/operatör yolunun kendi gecikmesi. ITU'nun 150/400 ms eşikleri [3] tam bu katmanı ölçer.

Satıcı sayfalarındaki bileşen rakamları ürün vaadi değil, her halkanın kendi maliyeti olduğunun örneğidir; arayanın hissettiği gecikme bunların toplamıdır.

Sesli AI gecikmesi nasıl ölçülür?

Karşılaştırılabilir bir ölçüm için önce metrik tanımı netleşmeli. Retell'in dokümantasyonundaki tanım da aynı yönde: "uçtan uca gecikme", kullanıcının konuşmayı bitirdiği andan ajanın yanıt vermeye başladığı ana kadar geçen toplam süredir [9]. Bazı kaynaklar buna "ilk sese kadar geçen süre" (time-to-first-audio) der; ölçülen şey aynıdır: sessizliğin başlangıcı ile hoparlörden duyulan ilk hece arasındaki fark.

Tek bir rakam yanıltıcıdır. Deepgram, gecikmenin doğal olarak dalgalandığını ve tek ölçüm yerine temsilî örnekler üzerinden yüzdelik istatistiklerle izlenmesi gerektiğini belirtir [7]. Retell'in dokümantasyonu da çağrı başına gecikmeyi STT, LLM, TTS ve bilgi tabanı bileşenlerine ayırıp p50, p90, p95 ve p99 değerleriyle raporlar [9]. Satıcıdan aldığınız rakam p50 ise, on çağrıdan birinde yaşanacak p90 deneyimini de sorun.

Satıcıyı sınarken uygulanabilecek basit protokol:

• Aynı telefon hattından, aynı gün diliminde, en az 20 gerçek arama yapın; test cümlelerini önceden yazın ve her satıcıda aynısını kullanın.
• Her aramada arayanın sustuğu an ile ajanın ilk hecesinin duyulduğu anı kaydedin (kendi cihazınızda bir ses kaydedici ve dalga formu görüntüleyici yeterlidir); tarayıcı demosu değil, gerçek telefon ağından ölçün.
• Ortalama yerine medyan (p50) ve p90 hesaplayın; ikisi arasındaki makas sistemin kararlılığını gösterir.
• Hangi ses kalitesi ve bağlam uzunluğuyla ölçtüğünüzü not edin: kısa bir sistem istemiyle ölçülen gecikme, gerçek senaryonun uzun istemiyle aynı olmayabilir.
• Uzun bir cümlenin ortasında bir saniye duraklayın ve ajanın sözünüzü kesip kesmediğini kaydedin; bu, hız kadar önemli bir kalite ölçütüdür.

Telefonda yapay zeka ile konuşurken araya girme süresi kaç saniye olmalı?

Bu soru aslında "sistem ne kadar sessizlikten sonra sıranın kendisinde olduğuna karar vermeli?" sorusudur. Tek bir doğru değer yoktur; yaklaşım, yarım saniye civarı bir başlangıç değeriyle başlayıp senaryoya göre ayarlamaktır. Vapi'nin dokümantasyonunda bu bekleme süresi varsayılan olarak 0,4 saniyedir; asistan çok erken konuşuyorsa artırılması, gecikme fazlaysa azaltılması önerilir [10]. Aynı belgedeki akıllı tur-sonu tespiti, kullanıcı düşüncesinin ortasında duraklasa bile gerçekten bitirip bitirmediğini anlamaya çalışır; ses tabanlı sağlayıcı Krisp için 0–1 arası bir eşik (varsayılan 0,5) tanımlanır: düşük değer daha çevik, yüksek değer daha temkinli tespit demektir [10].

İkilem açıktır: bekleme süresini kısaltmak gecikmeyi düşürür ama sistemin arayanın sözünü kesme olasılığını artırır. İnsan konuşmasında tur içi duraklamalar sıradandır; geçişlerin 500 ms'ye kadar uzanan doğal bir dağılımı vardır [2]. Sabit ve çok kısa bir sessizlik eşiği, adres söyleyen, kimlik numarası okuyan veya düşünerek konuşan arayanın sözünü defalarca kesecek; her kesme, gecikmeden kazanılanı fazlasıyla geri verecektir.

Sorunun öteki yüzü barge-in'dir: ajan konuşurken arayan araya girerse ajan susmalı, dinlemeli ve sözü arayana bırakmalıdır. Burada da ayarlanan şey bir süredir: Vapi'nin dokümantasyonunda ajanın susması için arayanın kaç kelime söylemesi (varsayılan 0) ya da kaç saniye konuşuyor olması gerektiği (varsayılan 0,2 sn) ve kesildikten sonra ajanın yeniden konuşmaya başlamadan önce ne kadar bekleyeceği (varsayılan 1 sn) ayrı ayrı tanımlanır [10]. Zorluk, gerçek bir araya girmeyi "hı hı", "evet" gibi onay seslerinden ayırmaktır [10]; her onay sesinde susan ajan cümlesini bitiremez, hiç susmayan ajan ise arayanı dinlemiyor hissi verir.

İkinci bir hızlandırma tuzağı bağlamı kısaltmaktır. Dil modeline gönderilen konuşma geçmişini ve sistem istemini agresif biçimde kırpmak ilk cümleye kadar geçen süreyi düşürebilir; ama ajan üç tur önce söylenen adı, tarihi ya da şikâyeti unutur ve arayan aynı bilgiyi yeniden verir. Tabloda güzel görünen bu iyileştirme gerçek görüşmede daha uzun, daha sinir bozucu bir çağrı üretir. Bu yüzden bir gecikme rakamı ancak "hangi ses kalitesinde ve bağlam kısaltılmadan mı?" sorusuyla birlikte anlam kazanır.

Hızlı ama unutkan ya da sözünüzü kesen bir asistan, yavaş bir asistandan daha kötüdür; gecikme ancak bağlam ve nezaket korunarak düşürüldüğünde işe yarar.

AvaritCall'da ölçülen tur gecikmesi ve koşulları

Aşağıdaki değerler AvaritCall'ın iç ölçümleridir ve yukarıdaki metriği kullanır: arayan konuşmayı bitirdikten sonra ajanın sesli yanıta başlamasına kadar geçen süre. Tümü Opus ses kalitesinde ve bağlam kısaltılmadan alınmıştır; ortalama değerlerdir; ölçüm tarihi, arama sayısı ve p50/p95 dağılımı yayımlanmamaktadır. Türkiye değeri fiyatlandırma sayfasındaki "0,8 sn ortalama cevap süresi" ibaresiyle aynıdır; Avrupa ve ABD değerleri yalnızca iç ölçümdür.

• Türkiye: ~0,8 sn
• Avrupa: ~0,6 sn
• ABD: 0,45–0,5 sn

AvaritCall telefoni katmanını (Opus dahil codec yönetimi, yankı iptali, kanal ve eşzamanlılık yönetimi; SIP trunk ve DID desteği) kendi geliştiriyor. Bu sayede ses yolunun tamamı uçtan uca optimize edilebiliyor. Fiyat kullandıkça öde: konuşulan dakika $0,08 (STT, LLM ve TTS dahil, tek kalem), kayıtta $5 kredi, taahhüt yok. $5 kayıt kredisiyle yukarıdaki protokolü kendi hattınızdan uygulayıp bu değerleri doğrulayabilirsiniz (avaritcall.com/tr/pricing).

Gürültü ve uzun cevaplar: eşiğin tutmadığı yerler

• Türkiye'deki ~0,8 sn (aynı koşullarda), insan ritmi olan ~200 ms'nin (diller arası ortalama) [1][2] hâlâ dört katıdır; beklenti "insan kadar hızlı" değil, "bekleme hissi vermeyecek kadar hızlı" olmalı.
• Çok gürültülü ortamlarda (atölye, cadde, hoparlörlü araç) tanıma doğruluğu düşer; tur-sonu tespiti gürültüyü konuşma sanabilir ve gecikme kararsızlaşır. Bu, AvaritCall için de geçerlidir.
• Uzun cevaplar: ajanın yanıttan önce bilgi tabanına ya da bir araca başvurması gerektiğinde ilk cümleye kadar geçen süre uzar; Retell'in kırılımında bilgi tabanı ayrı bir gecikme bileşenidir [9]. Ajanın kendisi uzun konuştuğunda ise belirleyici olan gecikme değil, arayanın araya girebilmesidir. 800 ms, kısa ve tek cümlelik dönüşler için anlamlı bir eşiktir.
• Ölçtüğünüz gecikme, ajanın doğru şeyi söylediği anlamına gelmez. Hukuki, tıbbi veya finansal sonuç doğuracak kararlar insana devredilmelidir; AvaritCall acil durum hatlarının yerine geçmek için tasarlanmamıştır.
• Bileşen bazında STT/LLM/TTS seçimi AvaritCall'da geliştirici platformlarına göre kısıtlıdır; her halkayı kendisi seçmek isteyen ekipler için dezavantajdır.
• Eşzamanlı kapasite pakete bağlıdır; çok yüksek eşzamanlılık kurumsal paket gerektirir. Kapasite sınırında oluşan kuyruk, tur gecikmesinden bağımsız bir bekleme yaratır.

Özetle: insanlar ~200 ms'de sıra alır [1][2], ağın kendisi tek yönde ~400 ms'ye kadar yer ve bu, tur gecikmesinin üstüne biner [3], Vapi'nin mühendislik yazısına göre sesli yapay zekada 1.200 ms'de konuşma kopar [5]. Aradaki 800 ms bir standart ya da vaat değil, ölçüm disiplinidir: gerçek hat, p50 ve p90, aynı ses kalitesi, kısaltılmamış bağlam. Satıcı dokümantasyonundan alınan değerler 30 Ağustos 2026'da erişilen sayfalara aittir; satıcılar bunları değiştirebilir.