Von 4 Mio. $ auf 70 Mio. $ in zwei Jahren: Wie Retell KI-Sprachagenten auf AWS entwickelt hat, die sich so natürlich anfühlen, als würde man mit einer Person sprechen

Retell ist eine KI-Plattform für Konversationen, die es Unternehmen ermöglicht, menschenähnliche Gespräche mit ihren Kunden zu führen. Das Startup, das seine gesamte Infrastruktur auf AWS betreibt, stützt sich auf Dienste wie Amazon DynamoDB, Amazon ElastiCache und Amazon Elastic Container Service (ECS), um eine konsistente und zuverlässige Kommunikation mit niedriger Latenz in großem Maßstab zu gewährleisten.

Wenn Kunden ein Unternehmen um Unterstützung bitten, erwarten sie ein sofortiges, natürliches Gespräch. „Sie wollen etwas, das schnell reagiert. Es soll sich unmittelbar und dialogorientiert anfühlen“, sagt Zexia Zhang, Mitgründerin und CTO von Retell. Die steigenden Anforderungen einer wachsenden Zahl von Kunden zu bewältigen, erforderte von Unternehmen traditionell eine Skalierung ihrer personellen Ressourcen. Dadurch entsteht laut Zhang „viel Aufwand bei der Verwaltung. Es gibt einen hohen Schulungsaufwand. Und wahrscheinlich müssen Sie viele verschiedene Standorte eröffnen, um mehr Zeitzonen abzudecken.“

Retell hilft Unternehmen dabei, einen skalierbareren Ansatz zu entwickeln. Für seinen Kunden Anker löst die KI von Retell 80 Prozent der Kunden-Supportfälle, und das alles bei gleichbleibend hohem Net Promoter Score von 63 bei Live-Support-Anrufen in den USA und Großbritannien.

Menschlich, sprachorientiert, in Echtzeit und rund um die Uhr

Die auf AWS basierende LLM-basierte, menschenähnliche, sprachorientierte KI-Plattform von Retell ermöglicht es Unternehmen, in Echtzeit mit ihren Kunden zu kommunizieren. KI-Agenten reagieren auf natürliche Weise, stellen Folgefragen, suchen nach Informationen, führen Aufgaben aus oder leiten den Anruf bei Bedarf an einen Menschen weiter. „Die Qualität des KI-Agenten ist konstant. Emotionen haben keinen Einfluss auf ihn. Er ist rund um die Uhr verfügbar. Und er ist zudem wesentlich kostengünstiger“, sagt Zhang. Da Retells Kunden nicht mehr in teure physische Infrastruktur investieren müssen, „können sie ihre Unternehmen und Abläufe jetzt wesentlich schneller skalieren“.

Menschen wünschen sich von Unternehmen, mit denen sie interagieren, vielleicht „etwas, das schnell reagiert“, doch neben Schnelligkeit erwarten sie bei diesen Interaktionen auch Zuverlässigkeit und Genauigkeit. Im Gegensatz zu vielen herkömmlichen Lösungen, die vorab aufgezeichnete Nachrichten verwenden und hauptsächlich für Routing-Zwecke eingesetzt werden, bietet die Plattform von Retell „ein durchgängiges Gespräch“, so Zhang. „Oft kann der Endbenutzer nicht einmal erkennen, dass es sich um KI handelt. Außerdem lässt sie sich in die Workflows und Systeme von Unternehmen integrieren und Aktionen ausführen, die tatsächlich etwas bewirken.“ Die Plattform kann auf die internen Systeme eines Unternehmens zugreifen, relevante Daten abrufen und auswerten und auf Grundlage ihrer Ergebnisse aussagekräftige Resultate liefern – und das in einem Bruchteil der Zeit, die ein Mensch traditionell für denselben Prozess benötigen würde.

Wie sie für Geschwindigkeit konzipiert haben

Bei der Auswahl eines Infrastrukturanbieters setzte Retell hohe Maßstäbe und suchte nach einem Partner, der das Unternehmen dabei unterstützen konnte, die bestmögliche Erfahrung für seine Kunden und deren Endkunden zu bieten. „Wir geben uns nicht mit Lösungen, die gerade einmal funktionieren, und wir geben uns nicht mit einer Infrastruktur zufrieden, die vielleicht funktioniert“, sagt Zhang. „Wir legen Wert auf Qualität, wir legen Wert auf das Produkt, und darauf sind wir wirklich stolz. Wir versuchen, die bestmögliche Qualität, die wir entwickeln können, so schnell wie möglich bereitzustellen.“ Und AWS, so fährt er fort, „erfüllt all unsere Anforderungen.“

Retell betreibt seine gesamte Infrastruktur auf AWS und ist „tief in das AWS-Ökosystem eingebettet“, so Zhang. Es verwendet Amazon DynamoDB, eine serverlose, vollständig verwaltete, verteilte NoSQL-Datenbank mit einer Leistung im einstelligen Millisekundenbereich im großen Maßstab. Für das Caching stützt es sich auf Amazon ElastiCache, das uns zusammen mit Amazon DynamoDB „ziemlich schnelle Abrufe für alles ermöglicht. Wenn also ein Anruf eingeht, rufen wir diese Dienste auf, um die benötigten Daten und Konfigurationen abzurufen“.

Es erstellt, verwaltet und führt containerisierte Anwendungen mit Amazon ECS aus, sodass es schnell hoch- und herunterskaliert werden kann, um die „goldenen Stunden“ zu unterstützen, die Schlüsselmomente am Tag, in denen ein Unternehmen eine hohe Anruflast hat. Latenz war ein weiterer Faktor, der für den Erfolg der Plattform entscheidend war. Bei der Entwicklung der Lösung von Grund auf musste jedes Element eine niedrige Latenz aufweisen: „Man kann keine einzelne Pipeline haben, die sehr lange dauert“, sagt Zhang. Die Lokalisierung „vieler Dinge innerhalb von AWS“ hat Retell dabei geholfen, diese niedrige Latenz zu erreichen. Da sich GPU- und CPU-Cluster im selben Rechenzentrum befinden, „müssen Sie das Netzwerk nicht verlassen“.

Den Fortschritt vorantreiben

Das Wachstum von Retell war schnell. Im Jahr 2024 beendete das Startup das Jahr mit einem Jahresumsatz von rund 4 Millionen US-Dollar. Ende 2025 waren es 40 Millionen US-Dollar. „Und im Moment sind wir bei rund 70 Millionen US-Dollar“, sagt Zhang. Die Teamgröße hat sich von 20 auf 40 verdoppelt und der Traffic hat sich verzehnfacht.

Diese Art von Wachstum übt Druck auf die Infrastruktur aus. „Wir sehen, dass alles anfängt zu expandieren“, sagt Zhang. „Wir brauchen mehr IP-Adressen. Wir brauchen mehr Instanzen. Wir brauchen mehr GPUs.“ AWS hat seit den Anfängen Schritt gehalten, als die Teilnahme an AWS Activate es Retell ermöglichte, sich auf die Produkt- statt auf die Betriebskosten zu konzentrieren. „Dadurch mussten wir uns keine Gedanken über Betriebskosten machen und konnten uns voll und ganz darauf konzentrieren, das Unternehmen und das Produkt aufzubauen und mit Kunden zu sprechen“, sagt Zhang.

Die Beziehung hat sich mit der Skalierung von Retell vertieft. „Wir können beispielsweise Ingenieure von AWS hinzuziehen, die sich gemeinsam mit uns in einen Anruf schalten, um ein Problem in der Produktionsumgebung zu beheben“, sagt Zhang. „Das hilft uns wirklich, voranzukommen.“ Jetzt erschließt Retell mit zusätzlicher GPU-Kapazität von AWS neue Anwendungsfälle und arbeitet auf eine Listung im AWS Marketplace hin, um seine Reichweite zu vergrößern und Verkaufszyklen zu beschleunigen. „AWS ist unser größter Infrastrukturanbieter, und wir werden auch weiterhin in diese Zusammenarbeit investieren“, sagt Zhang. „Gemeinsam werden wir noch vieles erreichen.“