Da 4 milioni di dollari a 70 milioni in due anni: come Retell ha creato su AWS agenti vocali di IA che sembrano naturali quanto parlare con una persona

Retell è una piattaforma di IA conversazionale che consente alle aziende di creare conversazioni simili a quelle umane con i propri clienti. Gestendo l'intera infrastruttura su AWS, la startup si affida a servizi come Amazon DynamoDB, Amazon ElastiCache e Amazon Elastic Container Service (ECS) per garantire comunicazioni a bassa latenza, coerenti e affidabili su larga scala.

Quando i clienti chiamano un'azienda per ricevere assistenza, si aspettano una conversazione immediata e naturale. «Vogliono qualcosa di rapido. Vogliono qualcosa che sembri immediato e conversazionale», afferma Zexia Zhang, cofondatore e CTO di Retell. Gestire queste maggiori esigenze per un numero più elevato di clienti richiede tradizionalmente alle aziende di ampliare le operazioni umane. Di conseguenza, «c'è un notevole onere gestionale. C'è un notevole carico legato alla formazione. E probabilmente bisogna aprire molte sedi diverse per coprire più fusi orari», afferma Zhang.

Retell aiuta le aziende ad adottare un approccio più scalabile. Per il cliente Anker, l'IA di Retell risolve l'80% dei casi di assistenza clienti, mantenendo al contempo un Net Promoter Score di 63 nelle chiamate di assistenza dal vivo negli Stati Uniti e nel Regno Unito.

Simile all'interazione umana, incentrata sulla voce, in tempo reale e 24/7

Basata su AWS, la piattaforma di IA conversazionale di Retell, basata su LLM, simile all'interazione umana e incentrata sulla voce, consente alle aziende di comunicare in tempo reale con i propri clienti. Gli agenti di IA rispondono in modo naturale, pongono domande di approfondimento, cercano informazioni, eseguono attività o trasferiscono la chiamata a un operatore umano quando necessario. «L'agente di IA offre una qualità costante. Non è influenzato dalle emozioni. È disponibile 24/7. Ed è anche molto più economico», afferma Zhang. Liberati dalla necessità di investire in costose infrastrutture fisiche, i clienti di Retell «possono ora ampliare le proprie attività e operazioni molto più rapidamente».

Le persone possono desiderare «qualcosa di rapido» dalle aziende con cui interagiscono, ma oltre alla velocità vogliono anche affidabilità e precisione. A differenza di molte soluzioni legacy che utilizzano messaggi preregistrati e sono impiegate principalmente per l'instradamento, la piattaforma di Retell offre «una conversazione end-to-end», afferma Zhang. «Molto spesso l'utente finale non riesce nemmeno a capire che si tratta di IA. Inoltre, è in grado di integrarsi nei flussi di lavoro e nei sistemi delle aziende ed eseguire azioni che consentono realmente di portare a termine le attività». La piattaforma può accedere ai sistemi interni di un'azienda, recuperare i dati pertinenti, valutarli e, in base ai risultati, fornire informazioni significative, il tutto in una frazione del tempo che tradizionalmente impiegherebbe una persona per completare lo stesso processo.

Come hanno progettato l'architettura per garantire velocità

Retell si è imposta standard elevati nella scelta di un provider di infrastruttura, cercando un partner che potesse aiutarla a offrire la migliore esperienza possibile ai propri clienti e ai clienti finali. «Non accettiamo compromessi con soluzioni che funzionano a malapena e non accettiamo compromessi con infrastrutture che forse funzionano», afferma Zhang. «Diamo valore alla qualità, al prodotto e a qualcosa di cui siamo davvero orgogliosi. Facciamo del nostro meglio per offrire la massima qualità possibile nel minor tempo possibile». E AWS, prosegue, «soddisfa tutte le nostre esigenze».

Retell gestisce l'intera infrastruttura su AWS ed è «profondamente integrata nell'ecosistema AWS», afferma Zhang. Utilizza Amazon DynamoDB, un database NoSQL serverless, completamente gestito e distribuito, con prestazioni nell'ordine di millisecondi a una cifra su larga scala. Per la memorizzazione nella cache, si affida ad Amazon ElastiCache che, insieme ad Amazon DynamoDB, «ci consente di recuperare praticamente qualsiasi cosa molto rapidamente; quindi, quando arriva una chiamata, utilizziamo questi servizi per ottenere i dati e le configurazioni necessari».

Crea, gestisce ed esegue applicazioni containerizzate con Amazon ECS, consentendo di aumentare e ridurre rapidamente la capacità per supportare le «golden hours», i momenti chiave della giornata in cui un'azienda registra un volume elevato di chiamate. La latenza era un altro fattore fondamentale per il successo della piattaforma. La creazione della soluzione da zero implicava che ogni elemento dovesse avere una bassa latenza. «Non si può avere una singola pipeline che richiede troppo tempo», afferma Zhang. La presenza di «molti elementi all'interno di AWS» ha aiutato Retell a ottenere questa bassa latenza; con cluster GPU e CPU situati nello stesso data center, «non è necessario uscire dalla rete».

Spingendo in avanti

La crescita di Retell è stata rapida. Nel 2024, la startup ha chiuso l'anno con circa 4 milioni di dollari di ricavi annualizzati. Alla fine del 2025, il valore aveva raggiunto i 40 milioni di dollari. «E in questo momento siamo intorno ai 70 milioni di dollari», afferma Zhang. Il team è raddoppiato, passando da 20 a 40 persone, e il traffico è aumentato di 10 volte.

Una crescita di questo tipo mette sotto pressione l'infrastruttura. «Stiamo vedendo che tutto inizia ad espandersi», afferma Zhang. «Abbiamo bisogno di più indirizzi IP. Abbiamo bisogno di più istanze. Abbiamo bisogno di più GPU». AWS ha tenuto il passo fin dai primi giorni, quando la partecipazione ad AWS Activate ha consentito a Retell di concentrarsi sul prodotto anziché sui costi operativi. «Ci ha permesso di non preoccuparci dei costi operativi e di continuare a concentrarci sulla creazione dell'azienda, sulla creazione del prodotto e sul dialogo con i clienti», afferma Zhang.

Il rapporto si è consolidato man mano che Retell è cresciuta. «Possiamo, ad esempio, coinvolgere gli ingegneri AWS in una chiamata con noi per risolvere un problema in produzione», afferma Zhang. «Questo ci aiuta davvero a progredire». Ora Retell sta sviluppando nuovi casi d'uso con capacità GPU aggiuntiva di AWS e sta lavorando alla pubblicazione su AWS Marketplace per ampliare la propria portata e accelerare i cicli di vendita. «AWS è il nostro principale provider di infrastruttura e continueremo a investire in questa collaborazione», afferma Zhang. «Ci sono molte altre cose che riusciremo a realizzare insieme».