De 4 millions d’USD à 70 millions d’USD en deux ans : comment Retell a créé des agents vocaux dotés d'IA sur AWS qui nous donnent l’impression de parler à une vraie personne

Retell est une plateforme d’IA conversationnelle qui permet aux entreprises de créer des conversations humaines avec leurs clients. En gérant l’intégralité de son infrastructure sur AWS, la start-up s’appuie sur des services tels qu’Amazon DynamoDB, Amazon ElastiCache et Amazon Elastic Container Service (ECS) pour garantir des communications à faible latence, cohérentes et fiables à grande échelle.

Lorsque les clients appellent une entreprise pour obtenir de l’aide, ils s’attendent à une conversation immédiate et naturelle. « Ils veulent quelque chose de rapide. Ils veulent quelque chose qui soit instantané et conversationnel », explique Zexia Zhang, cofondateur et directeur technique de Retell. Pour répondre à ces exigences accrues d’un nombre croissant de clients, les entreprises devaient traditionnellement renforcer leurs effectifs. En conséquence, « la gestion est très lourde. Les coûts de formation sont élevés. Et il faut probablement ouvrir de nombreux sites différents pour couvrir davantage de fuseaux horaires », explique monsieur Zhang.

Retell aide les entreprises à adopter une approche plus évolutive. Pour son client Anker, l’IA de Retell résout 80 % des demandes d’assistance client, tout en maintenant un score net de 63 pour les promoteurs lors des appels d’assistance en direct aux États-Unis et au Royaume-Uni.

Comme un humain, axé sur la voix, en temps réel et disponible 24 h/24, 7 j/7

Basée sur AWS, la plateforme d’IA conversationnelle basée sur le LLM de Retell, au comportement quasi humain et axée sur la voix, permet aux entreprises de communiquer en temps réel avec leurs clients. Les agents d’IA répondent naturellement, posent des questions de suivi, recherchent des informations, effectuent des tâches ou transfèrent l’appel à un humain en cas de besoin. « La qualité de l’agent d’IA est constante. Il ne sera pas influencé par les émotions. Il y est disponible 24 h/24 et 7 j/7. Et c’est aussi beaucoup moins cher », explique monsieur Zhang. Libérés de la nécessité d’investir dans des infrastructures physiques coûteuses, les clients de Retell « peuvent désormais développer leurs activités et leurs opérations beaucoup plus rapidement ».

Les gens peuvent vouloir « quelque chose d’accrocheur » de la part des entreprises avec lesquelles ils interagissent, mais en plus de la rapidité, ils souhaitent également que ces engagements soient fiables et précis. Contrairement à de nombreuses solutions traditionnelles qui comportent des messages préenregistrés et sont principalement utilisées à des fins de routage, la plateforme de Retell propose « une conversation de bout en bout », explique monsieur Zhang. « La plupart du temps, l’utilisateur final ne peut même pas reconnaître qu’il s’agit d’une IA. Et elle est capable de se connecter aux flux de travail et aux systèmes des entreprises et de mener des actions qui permettent réellement de faire avancer les choses. » La plateforme peut accéder au système interne d’une entreprise, récupérer des données pertinentes, les évaluer et, sur la base de ses résultats, fournir des informations significatives, le tout en une fraction du temps qu’il faudrait traditionnellement à un humain pour effectuer le même processus.

Comment ils ont conçu une architecture axée sur la rapidité

Retell s’est fixé des normes élevées lors de la sélection d’un fournisseur d’infrastructure, en recherchant un partenaire capable de l’aider à offrir la meilleure expérience possible à ses clients et à leurs clients finaux. « Nous ne nous contentons pas de solutions qui fonctionnent à peine, ni d’une infrastructure qui fonctionne peut-être », explique monsieur Zhang. « Nous valorisons la qualité, nous valorisons le produit, et c’est quelque chose dont nous sommes vraiment fiers. Nous faisons de notre mieux pour proposer la meilleure qualité possible et le plus rapidement possible. » Et AWS, poursuit-il, « répond à tous nos besoins ».

Retell gère l'intégralité de son infrastructure sur AWS et est « profondément intégrée à l’écosystème AWS », explique monsieur Zhang. Elle utilise Amazon DynamoDB, une base de données NoSQL distribuée, entièrement gérée et sans serveur, offrant des performances à grande échelle de l’ordre de la milliseconde. Pour la mise en cache, elle s’appuie sur Amazon ElastiCache qui, associé à Amazon DynamoDB, «  nous permet de récupérer assez rapidement n’importe quoi. Ainsi, lorsqu’un appel arrive, nous nous tournons vers ces services pour obtenir les données et les configurations nécessaires ».

Elle crée, gère et exécute des applications conteneurisées avec Amazon ECS , ce qui lui permet de monter et descendre en charge rapidement pour supporter les « heures d’or », les moments clés de la journée où une entreprise est confrontée à une charge d’appels élevée. La latence était un autre facteur essentiel au succès de la plateforme. Pour créer la solution de A à Z, chaque élément devait présenter une faible latence : « aucun pipeline ne prend trop de temps », explique monsieur Zhang. Le fait de localiser « de nombreux éléments au sein d’AWS » a permis à Retell d’atteindre cette faible latence ; avec des clusters de GPU et de CPU situés dans le même centre de données, « vous n’avez pas à sortir du réseau ».

Aller de l’avant

La croissance de Retell a été rapide. En 2024, la start-up a terminé l’année avec un chiffre d’affaires annualisé d’environ 4 millions d’USD. À la fin de 2025, ce montant a atteint 40 millions d’USD. « Et à l’heure actuelle, nous sommes aux alentours de 70 millions d’USD », explique monsieur Zhang. La taille de l’équipe a doublé, passant de 20 à 40, et le trafic a été multiplié par 10.

Ce type de croissance exerce une pression sur les infrastructures. « Nous constatons que tout commence à se développer », explique monsieur Zhang. « Nous avons besoin de plus d’adresses IP. Nous avons besoin de plus d’instances. Nous avons besoin de plus de GPU ». AWS a suivi le rythme depuis les débuts, lorsque la participation à AWS Activate a permis à Retell de se concentrer sur le produit plutôt que sur les coûts opérationnels. « Cela nous a permis de ne pas nous inquiéter des coûts opérationnels et de continuer à nous concentrer sur le développement de l’entreprise, le développement du produit, la discussion avec les clients », explique monsieur Zhang.

La relation s’est approfondie au fur et à mesure que Retell s’est développée. « Nous sommes en mesure, par exemple, de faire appel à des ingénieurs d’AWS pour nous appeler afin de résoudre un problème en production », explique monsieur Zhang. « Cela nous aide vraiment à aller de l’avant ». À présent, Retell ouvre de nouveaux cas d’utilisation grâce à la capacité GPU supplémentaire d’AWS et travaille à une inscription sur AWS Marketplace afin d’élargir sa portée et d’accélérer les cycles de vente. « AWS est notre principal fournisseur d’infrastructures et nous allons continuer à investir dans ce domaine », déclare monsieur Zhang. « Nous avons encore beaucoup d’autres choses à accomplir ensemble. »