누구나 질문하고 답을 얻을 수 있는 환경: Foam이 AWS에서 소프트웨어, 에이전트 및 비즈니스 전반의 상황을 파악할 수 있도록 팀을 지원하는 방법

Foam의 창업자들은 제품과 기능을 제때 출시하기 위해 수년간 밤샘 작업에 매진한 끝에, 누구나 소프트웨어, 에이전트 및 비즈니스의 현재 상태에 대해 물어보고 증거에 근거한 답변을 얻을 수 있는 플랫폼을 구축하기 시작했습니다. AWS를 기반으로, Amazon Bedrock으로 구동되는 Foam은 자체적으로 설치되고, 앱, 에이전트 및 인프라 전반에서 텔레메트리를 수집 및 강화하고, 문제의 근본 원인 분석부터 제품 및 비즈니스에 대한 인사이트 제공에 이르기까지 모든 작업을 AI 에이전트가 수행하도록 합니다​​. 구성이나 학습 과정이 필요하지 않습니다. 팀이 요청하기만 하면 됩니다.

Foam의 출발점

Perla Gámez에게 질문하는 것은 선택지가 아니었습니다. 소프트웨어에서 어떤 일이 일어나고 있는지 파악하려면 수십 개의 서로 다른 도구를 오가며 로그와 트레이스를 직접 샅샅이 살펴보고, 여러 조각의 정보를 조합해 답을 찾아야 했으며, 이러한 작업을 새벽 2시에 하는 경우도 많았습니다. 선구매 후결제(BNPL) 회사에서 Gámez는 IC로서 수익을 창출하는 제품과 사용자 대상 기능을 구축했으며, 애초에 어떤 기능을 개발할지 결정하는 데에도 참여했습니다. 이를 통해 제품 전반을 파악하는 동시에 시스템이 정상적으로 운영되도록 관리하는 역할도 맡았습니다. 이 업무의 대부분은 여러 도구를 오가며 작업의 컨텍스트를 전환해야 했습니다.

오늘날에도 관찰성 도구는 여전히 단편화되어 있으며, 그로 인해 여러 가지 공백이 발생합니다. 대부분의 팀은 최소 4개의 서로 다른 관찰성 도구를 사용하고 있으며, 규모가 큰 기업에서는 수십 개에 달하기도 합니다. 이로 인해 데이터가 단편화되고 사람과 에이전트가 참조할 컨텍스트가 부족해집니다.

Foam의 공동 창업자이자 엔지니어인 Gámez는 “충분하지도 않고 효과적이지도 않습니다. 이 문제가 어떻게 아직까지 해결되지 않았는지… 이런 환경에서 어떻게 더 빠르게, 더 뛰어난 제품을 만들 수 있겠어요?”라고 설명합니다.

자체적으로 설치되는 관찰성 솔루션

Khosla Ventures가 주도한 자금 조달 후 2025년에 설립된 Foam은 엔지니어부터 고객 지원, 비기술 분야 창업자에 이르기까지, 모든 팀원에게 소프트웨어, 에이전트 및 비즈니스 전반의 상황을 파악할 수 있는 방법을 제공합니다.

누구에는 이미 보유한 모니터링 도구에 AI를 연결하는 것이 가장 쉬운 지름길일 수도 있습니다. 하지만 이는 연동 작업만 자동화할 뿐, 관찰성의 단편화와 공백이라는 근본적인 제약 문제를 해결하지는 못합니다.

Foam은 사람에게 분석할 데이터를 제시하는 대신 AI 에이전트가 직접 작업을 수행할 수 있도록 지원합니다. Foam은 고객의 코드베이스를 읽고 각 서비스 스택에 맞춤화된 Open Telemetry(OTEL) 패키지를 생성한 뒤, 이를 설치하는 풀 요청을 생성하여 팀이 검토 및 병합만 진행하도록 합니다. 설치 과정에 수작업이 필요하지 않으며 2~5시간 정도 소요됩니다. 설치 후 Foam은 테스트 트래픽을 실행하고 새로운 공백을 지속적으로 모니터링합니다. Foam은 계측이 제대로 설치되었는지 확인하기 때문에 누락되는 데이터가 없으며, 모든 로그, 트레이스, 지표가 통합 ID로 연결되어 제공되므로 완전하고 검증 가능한 답변을 얻을 수 있습니다.

항상 엔지니어만 질문하는 것은 아닙니다. 비기술 직원도 현황에 대해 궁금한 점이 있을 수 있지만, 현재로서는 필요한 답을 찾기 위한 전문 지식이 부족한 실정입니다. Foam을 사용하면 지원팀이 고객이 오류를 겪은 이유를, 재무팀이 특정 기능의 운영 비용을, 제품팀이 AI 에이전트가 사용자를 만족시키고 있는지를 물어볼 수 있습니다. 모든 사람이 쉬운 일상어로 질문하고, 동일한 증거로 뒷받침되는 동일한 데이터에서 답변을 얻게 됩니다.

Gámez CEO는 비엔지니어 직원을 위한 장점으로 아무것도 알 필요가 없다는 점을 꼽습니다. "제품 내 모든 곳에 카메라와 센서를 배치하는 것과 같습니다. 그리고 모든 데이터는 코딩 전문 지식이 없는 사람도 쉽게 읽고 이해할 수 있도록 연관성 높은 고객 지원 언어로 전환되어 제공됩니다."

Foam의 또 다른 차별화 요소는 고객 친화적인 요금입니다. 기존 도구는 팀이 더 많은 텔레메트리를 전송할수록 더 유용해지지만, 그만큼 비용도 증가하므로 전송량을 제한하게 되는 단점이 있습니다. Foam은 이러한 절충점을 없앴습니다. 고객은 AI 크레딧과 스토리지 비용만 지불하며, 그 외 모든 기능은 기본으로 포함됩니다.

Gámez는 "기존의 비용 구조는 합리적이지 않습니다. 데이터를 더 많이 보낼수록 더 많은 가치를 얻을 수 있는데, 정작 데이터를 많이 보낸다는 이유로 가중 처벌을 받는 셈입니다. Foam에는 그런 요금 모델이 없습니다"라고 말합니다.

성장의 발판

클라우드 네이티브 스타트업인 Foam은 설립 첫날부터 AWS를 기반으로 구축되었습니다. 이 팀은 워크로드를 실행하기 위해 Amazon Elastic Container Service(ECS)와 Amazon Elastic Compute Cloud(EC2)를, 스토리지용으로 Amazon Simple Storage Service(S3)를, 고객 환경을 격리하기 위해 Amazon Virtual Private Cloud(VPC)를, 네트워킹에는 Amazon Route 53을 사용합니다. AWS는 엔지니어들에게 이미 익숙하고 검증된 플랫폼을 제공함으로써, 소규모 팀이 깊은 인프라 전문 지식 없이도 빠르게 개발을 진행할 수 있도록 도왔습니다.

Gámez는 "최상의 조합이었습니다. 비즈니스가 성장함에 따라 지속적으로 연동할 수 있는 훌륭한 생태계와 안정적인 제품을 AWS가 제공한다는 점을 매우 가치 있게 생각합니다. 또한 다른 엔지니어들에게도 익숙한 기술이라 새로운 팀원을 영입하기도 수월합니다"라고 설명합니다.

이러한 토대 덕분에 Foam은 제품 발전 속도에 따라 빠르게 대응할 수 있습니다. 모든 시스템이 AWS에서 실행되기 때문에 아키텍처를 재구성하는 데 수개월이 아닌 며칠밖에 걸리지 않습니다. Gámez는 "AWS는 복잡한 아키텍처를 구축할 수 있는 구성 요소를 제공합니다. 인스턴스를 늘리거나 AWS의 기존 솔루션을 추가하기만 하면 매우 강력한 새로운 기능을 바로 확보할 수 있습니다"라고 덧붙입니다.

Amazon Bedrock을 통한 AI 규모 조정

Foam은 상용 환경에서 고객을 지원하는 데 필요한 유연성, 가용성 및 확장성을 확보하기 위해 Amazon Bedrock에 의존합니다. Gámez는 "Bedrock은 우리에게 정말 훌륭한 제품입니다. 신규 모델이 출시되는 즉시 적용하는 것을 선호하는데, 정기적으로 모델을 교체하며 모든 솔루션을 미세 조정하고 있습니다"라고 말합니다.

Foam은 모델 제공업체와 직접 연동하는 대신 높은 가용성과 운영 일관성을 위해 Bedrock을 활용합니다. 특히 서비스 수요가 늘어남에 따라 분당 더 많은 토큰 처리량이 필요해졌습니다. Gámez는 "분당 더 많은 토큰이 급히 필요한 상황이 몇 번 있었는데, 이를 해결해 줄 수 있는 곳은 AWS뿐이었습니다"라고 덧붙입니다. Foam의 고객 기반이 확대됨에 따라, Bedrock은 AI 기능을 계속 발전시키면서도 안정적으로 시스템을 확장할 수 있게 돕는 핵심 요소로 자리 잡았습니다.

AWS Activate 크레딧은 제품의 기반이 되는 연구 비용도 지원합니다. Foam은 근본 원인 분석 정확도 벤치마크와 11개 운영 환경에 대한 클러스터링 및 노이즈 감소 연구 결과를 포함한 조사 결과를 발표합니다. Gámez는 "우리는 수많은 실험을 진행합니다. AWS로부터 지원받은 10만 달러 상당의 크레딧이 없었다면 감당할 수 없었을 것입니다"라고 말합니다.

격리 및 대규모 샌드박스를 통한 신뢰 구축

기업 고객의 경우 인텔리전스만으로는 충분하지 않으며, AI 에이전트 역시 안전하게 작동해야 합니다. 따라서 Foam의 에이전트는 민감한 시스템 및 자격 증명으로부터 격리된 상태를 유지하면서도 고객 코드베이스와 텔레메트리에 대한 가시성을 확보해야 합니다.

자체 설치형 제품이 도입되면서 이 작업의 중요성이 더욱 커졌습니다. Foam은 계측 코드를 직접 작성하므로, 풀 요청을 등록하기 전 안전하게 설치 및 검증할 수 있도록 각 고객이 운영 환경에서 실행하는 시스템을 그대로 반영하는 샌드박스가 필요합니다. Foam은 Amazon ECS와 스냅샷을 사용해 이러한 고객별 샌드박스를 AWS에 구축하고, 즉시 구동하여 일관성을 유지합니다. 이 기능은 이미 상용 적용되어 제품 성장에 맞춰 확장되고 있습니다.

Gámez는 "고객들이 우리에게 직접 AWS 계정을 제공하면서 '우리 시스템과 고객 시스템으로부터 격리될 수 있도록 모든 인프라를 여기에 구축하라'고 요청했습니다. 따라서 이러한 회사의 보안에 있어 AWS는 핵심 언어입니다. 그들은 우리가 AWS를 사용한다면 적절한 암호화가 가능하다는 것을 알고 있습니다"라고 덧붙입니다.

스타트업의 속도로 혁신

AI에서 가장 빠르게 변화하는 분야 중 하나인 초기 단계의 스타트업인 Foam은 AWS를 활용하여 빠른 성장에 보조를 맞추고 있습니다. Gámez는 AWS Startups 팀에 직접 액세스할 수 있게 되면서 회사가 기술 질문에 신속하게 답하고 요구 사항 변화에 적응할 수 있다고 말합니다.

그녀는 "우리는 매우 빠르게 움직입니다"라고 말합니다. 전용 Slack 채널과 AWS Solution Architects와의 정기적인 소통을 통해 Foam 팀은 인프라 결정 사항을 검증하고 스타트업이 계속 확장됨에 따라 귀중한 지침을 얻을 수 있습니다. Gámez는 "AWS 팀과 직접 연락할 수 있어서 정말 좋았습니다. 심지어 저희 인프라를 살펴보고 팁을 주러 오기도 했습니다"라고 설명합니다.

Gámez에게는 AWS가 거의 등장하지 않는다는 점이 인상적이었습니다. "AWS에 대한 생각이 없다는 것은 성공했다는 뜻입니다. 전혀 생각할 필요가 없어요. 그냥 사용해요. 요청 한도를 늘려야 할 때도 채널에 있는 사람들이 반응해 주죠. 놀랍습니다. 우리와 채널을 함께 이용할 수 있는 제공업체는 AWS밖에 없습니다."

에이전트 퍼스트의 미래를 기대하며

Foam은 창업자들의 관점에서 AI 에이전트가 소프트웨어 및 비즈니스 운영에 적극적으로 참여하는 미래를 구축하고 있습니다. 이러한 비전은 계속해서 Foam의 제품 로드맵을 형성하고 있습니다. Gámez는 "제대로 작동하는 제품이나 유용한 제품에는 만족하지 않습니다"라고 말합니다. "우리는 사용하기 편한 제품을 만드는 것을 목표로 하고 있습니다." 그녀는 AWS를 이러한 여정의 핵심 부분으로 보고 있습니다. "AWS보다 더 나은 파트너는 찾을 수 없습니다."