Smallest.ai Raih $13M untuk Voice AI Real-Time yang Lebih Manusiawi

Smallest.ai, startup yang didirikan akhir 2024, mengumumkan pendanaan Seri A sebesar $13 juta yang dipimpin Seligman Ventures dengan partisipasi Sierra Ventures dan 3one4 Capital, sehingga total pendanaannya melebihi $21 juta. Perusahaan ini membangun small voice model yang dirancang untuk mendengarkan, berpikir, dan berbicara secara bersamaan, sehingga percakapan dengan AI terasa lebih alami dan minim jeda. Alih-alih hanya mengandalkan LLM besar, model ini menjadi lapisan intelijen real-time untuk customer support, lalu menyerahkan pertanyaan kompleks ke LLM besar seperti manusia yang menahan pelanggan sebentar untuk meneliti masalah. Pelanggan yang sudah disebutkan antara lain RingCentral dan Truecaller. Smallest.ai bersaing dengan ElevenLabs, Cartesia, dan Sarvam, dengan fokus khusus pada voice agent percakapan real-time untuk enterprise, bukan untuk dubbing atau podcasting.

Penjelasan Mendalam

Pendekatan Smallest.ai berbeda dari cara kerja LLM pada umumnya. Pada LLM standar, pengguna memberikan seluruh prompt, lalu model mulai berpikir dan menghasilkan respons setelah prompt selesai. Di percakapan teks, latensi itu bisa diterima, tetapi di komunikasi suara jeda singkat saja terasa tidak wajar. Model Smallest.ai dirancang untuk memproses informasi sambil terus berbicara dan mendengarkan, seperti manusia yang sudah menyiapkan respons saat lawan bicara masih berbicara, termasuk kemampuan untuk menginterupsi jika lawan bicara terlalu panjang. Model ini tidak bersifat general-purpose, melainkan fokus pada nuansa suara seperti keberagaman aksen, puluhan bahasa, dan lingkungan bising. Ketika pertanyaan berada di luar pengetahuan model, sistem akan menyerahkan percakapan ke LLM besar dan memberi jeda singkat kepada pelanggan, mirip manusia yang meminta waktu untuk mencari jawaban. Kamath meyakini ke depan semua AI agent akan memakai dua model, yaitu small voice model untuk interaksi real-time dan offline LLM untuk menyelesaikan masalah kompleks.

Kenapa Ini Penting

Bagi praktisi AI Indonesia, artikel ini menunjukkan bahwa voice agent tidak harus selalu memakai LLM besar untuk semua percakapan, karena arsitektur dual-model bisa menekan biaya dan latensi. Pola ini sangat relevan untuk kebutuhan layanan pelanggan berbahasa Indonesia yang beragam aksen dan kondisi lingkungan. Ini juga menandakan arah industri customer support AI yang semakin fokus pada natural conversation, bukan sekadar jawaban yang benar.

Untuk Siapa

Perusahaan yang membangun voice assistant, produk customer support otomatis, atau layanan pusat kontak bisa belajar dari pendekatan ini. Pengembang AI yang ingin merancang percakapan suara real-time juga bisa menerapkan pola small voice model dengan fallback ke LLM untuk pertanyaan kompleks.

Contoh Use Case

• Voice agent customer service untuk cek saldo, status pesanan, atau jam operasional dengan respons instan.
• Asisten suara multibahasa untuk perusahaan telekomunikasi dan aplikasi komunikasi seperti RingCentral atau Truecaller.
• Penanganan keluhan pelanggan di lingkungan bising dengan pemahaman aksen lokal yang lebih baik.
• Sistem telepon yang mampu mengalihkan pertanyaan rumit ke LLM besar sambil memberi pesan transisi alami.
• Implementasi customer support 24/7 yang terasa lebih manusiawi dan bisa diinterupsi saat pelanggan memotong pembicaraan.

Cara Mulai

1. Petakan 5 sampai 10 intent paling sering di layanan pelanggan Anda, seperti cek status, reset password, dan informasi produk, yang bisa ditangani oleh model kecil.
2. Ukur latensi voice agent saat ini dari akhir ucapan pengguna hingga respons suara, lalu identifikasi jeda yang terasa tidak alami.
3. Rancang arsitektur dua-model, satu small voice model untuk percakapan cepat dan satu LLM besar untuk pertanyaan di luar cakupan, lengkap dengan aturan handoff.
4. Uji prototype dengan rekaman suara beragam aksen Indonesia dan latar bising, lalu bandingkan tingkat keberhasilan dan kepuasan pengguna.

Peran: Anda arsitek AI dan voice experience senior untuk pusat kontak Indonesia.
Konteks: Smallest.ai baru mengumumkan voice AI real-time dengan small voice model yang mendengarkan, berpikir, dan berbicara bersamaan, lalu menyerahkan pertanyaan kompleks ke LLM besar. Saya ingin menerapkan pola ini untuk layanan pelanggan berbahasa Indonesia.
Tugas: Rancang alur percakapan dua-model dengan small voice model untuk intent umum seperti cek saldo, status pesanan, dan jam operasional, serta handoff ke LLM untuk masalah kompleks. Sertakan kriteria pemicu handoff, pesan transisi alami, dan strategi menangani interupsi pelanggan.
Format Output: Dokumen berisi arsitektur alur, contoh skrip percakapan Indonesia untuk 3 kasus penggunaan, tabel kondisi handoff, dan daftar metrik latensi serta kepuasan pelanggan yang perlu diukur.
Batasan: Jawab dalam Bahasa Indonesia, maksimal 800 kata, teknis namun praktis, dan tidak menyebut API yang tidak tersedia.

Insight Bisnis

Peluang bisnis terbuka untuk membangun voice agent real-time bagi layanan pelanggan lokal dengan dukungan bahasa dan aksen Indonesia. Dengan pola dual-model, pengembang bisa menawarkan solusi customer support berbasis suara yang lebih murah dan lebih alami dibandingkan mengandalkan LLM besar untuk setiap percakapan.

FAQ