2 年間で 400 万ドルから 7,000 万ドルに: Retell が人と話しているかのように自然に感じられる AI 音声エージェントを AWS で構築した方法

Retell は、企業が顧客との対話で、人と話しているような会話を生成できる商用会話型 AI プラットフォームです。インフラストラクチャ全体を AWS で運用しているこのスタートアップ企業は、Amazon DynamoDB、Amazon ElastiCache、および Amazon ElastiCache、Amazon Elastic Container Service (ECS) などのサービスを利用して、低レイテンシーで一貫性のある信頼性の高い通信を大規模に実現しています。

顧客は、サポートを求めて企業に電話をかけるとき、すぐに自然な会話ができることを期待しています。「お客様はきびきびとしたやりとりを求めています。お客様は、瞬時の反応、テンポの良い会話を求めています」と、Retell の共同創設者兼 CTO である Zexia Zhang 氏は述べています。これまで、多くの顧客からのこうした高まる要求に対応するには、企業は人的業務を拡大する必要がありました。その結果、「管理上の課題は山積しています。トレーニングのオーバーヘッドは膨大です。そして、より多くのタイムゾーンをカバーするには、おそらく多くの異なる場所を開く必要があるでしょう」と Zhang 氏は言います。

Retell は、企業がよりスケーラブルなアプローチを実現できるよう支援しています。同社の顧客である Anker 社の事例では、Retell の AI は顧客サポートケースの 80% を解決しつつ、米国と英国でのライブサポートコール全体でネットプロモータースコア 63 を維持しています。

人間のようなやり取り、音声優先、リアルタイム、24 時間 365 日

AWS 上に構築された Retell の LLM ベースで人間とやり取りしているような音声優先の会話型 AI プラットフォームにより、企業は顧客とリアルタイムでコミュニケーションをとることができます。AI エージェントは、必要に応じて自然に応答したり、フォローアップの質問をしたり、情報を調べたり、タスクを実行したり、通話を人に転送したりします。「AI エージェントの品質は一貫しています。感情による影響は受けません。年中無休でご利用いただけます。しかも価格もずっと手頃です。Retell の顧客は、高価な物理インフラストラクチャに投資する必要から解放され、ビジネスと業務をはるかに迅速に拡大できるようになりました」と Zhang 氏は述べています。

人々は自分が関わる企業に「テンポの良いやり取り」を求めているかもしれませんが、スピードだけでなく、これらの取り組みから得られる信頼性と正確性も重視されています。事前に録音されたメッセージを特徴とし、主にルーティング目的で使用される多くのレガシーソリューションとは異なり、Retell のプラットフォームは「エンドツーエンドの会話」を提供すると Zhang 氏は言います。「多くの場合、エンドユーザーはそれが AI だとさえ気づきません。また、企業のワークフローやシステムに接続して、実務的なアクションを実行することもできます。」このプラットフォームは、企業の内部システムにアクセスし、関連データを取得して評価し、その結果に基づいて有意義な結果をもたらすことができます。これらはすべて、従来人間が処理するのにかけていた時間より、ごく短時間で完了します。

スピード重視のアーキテクチャを構築した仕組み

Retell は、インフラストラクチャプロバイダーを選択する際に高い基準を設定し、顧客とエンドカスタマーに可能な限り最高のエクスペリエンスを提供できるよう支援できるパートナーを探しました。「私たちは、ほとんど機能しないソリューションで妥協したり、うまくいくかもしれないインフラストラクチャで我慢したりしません。」と Zhang 氏は言います。「私たちは品質を重んじ、製品を大切にしています。それは私たちが本当に誇りに思っていることです。私たちは、できる限り最高の品質を最速で実現できるよう最善を尽くしています。」そして、AWS は「すべてのニーズを満たしてくれます」と同氏は述べています。

Retell はインフラストラクチャ全体を AWS で運用しており、「AWS エコシステムに深く組み込まれています」と Zhang 氏は述べています。このプラットフォームでは Amazon DynamoDB が使用されており、本製品はサーバーレスでフルマネージド型の分散型 NoSQL データベースで、大規模環境でも 1 桁ミリ秒のパフォーマンスを発揮します。キャッシュについては Amazon ElastiCache を利用しています。Amazon DynamoDB と合わせると、「あらゆるものをかなり高速に取得できるため、電話がかかってきたら、それらのサービスにアクセスして必要なデータや設定を取得しています」。

Amazon ECS を使用してコンテナ化されたアプリケーションを構築、管理、実行することで、ビジネスの通話負荷が高い日中の重要な瞬間である「ゴールデンアワー」に対応するためのスケールアップとスケールダウンを迅速に行うことができます。プラットフォームの成功に欠かせないもう 1 つの要因は、レイテンシーでした。ソリューションをゼロから構築するには、すべての要素を低レイテンシーにする必要がありました。「非常に時間がかかるパイプラインは 1 つもありません」と Zhang 氏は言います。Retell は、「AWS 内に多くのもの」を配置することで、この低レイテンシーを実現できました。GPU と CPU のクラスターを同じデータセンターに配置することで、「ネットワークの外に出る必要がなくなる」のです。

未来へ前進

Retell の成長は急速に進んでいます。2024 年、このスタートアップは年間売上高が約 400 万ドルで年末を迎えました。2025 年末までに、その額は 4,000 万ドルに達しました。「そして今、私たちは約 7,000 万ドルを達成しています」と Zhang 氏は言います。チームの規模は 20 人から 40 人に倍増し、トラフィックは 10 倍に増えました。

このような成長はインフラに圧力をかけます。Zhang 氏は、「あらゆるものが拡大し始めています。もっと多くの IP アドレスが必要です。インスタンスの数も、GPU ももっと多く必要になります」と述べています。AWS は、 AWS Activate に参加したことで Retell が運用コストではなく製品に注力できるようになった初期の頃から、協業してきました。「これにより、運用コストについて心配する必要がなくなり、ビジネスの構築、製品の構築、顧客との話し合いだけに集中できるようになりました」と Zhang 氏は言います。

Retell が規模を拡大するにつれて、関係は深まりました。「たとえば、AWS のエンジニアにすぐに電話をもらい、本番環境で問題のトラブルシューティングに対応してもらうことができました。こうした関係は、当社が前進するうえで本当に助かります。」と Zhang 氏は言います。現在、Retell は AWS の GPU 容量を増やすことで新しいユースケースを開拓し、リーチを拡大して販売サイクルを加速するために AWS Marketplace への出店に向けて取り組んでいます。「AWS は当社最大のインフラストラクチャプロバイダーであり、今後も投資を続けていくつもりです」と Zhang 氏は言います。「私たちが協力して達成できることはまだまだたくさんあります。」