기억이 없는 AI는 비싼 챗봇일 뿐입니다
대화 사이에 모든 것을 잊어버리는 9개의 AI 에이전트를 만들었습니다—사용자들이 매주 20-45분을 비즈니스를 다시 설명하는 데 낭비했습니다. 에이전트들이 기억을 공유하게 만든 방법을 소개합니다.
지금까지 세 개의 AI 제품을 만들었습니다 — Sydney (제 개인 챗봇), DIALØGUE (AI 생성 팟캐스트), 그리고 STRAŦUM (9개의 AI 에이전트를 가진 마케팅 인텔리전스 플랫폼). 그리고 계속 어렵게 배우는 교훈이 하나 있습니다: 기억이 없는 AI는 비싼 챗봇일 뿐입니다.
이것이 처음 정말로 와닿았던 것은 STRAŦUM 개발 초기였습니다. 정말 유용한 인사이트를 생성하는 두 개의 에이전트가 작동하고 있었지만, 서로 대화하지 않았습니다. 모든 대화가 처음부터 시작되었습니다.
Strategy Agent에게 시장 확장 계획을 말했나요? 훌륭한 인사이트. 다음 주에 Content Agent로 전환? 확장 전략을 처음부터 다시 설명해야 합니다. 마치 기억상실증에 걸린 아홉 명의 뛰어난 동료가 있는 것 같았습니다 :P
사실 Sydney에서 이 문제의 더 간단한 버전을 본 적이 있었습니다. 처음 RAG 시스템을 구축했을 때, 블로그 게시물에 대한 질문에 답할 수 있었지만, 2분 전에 무엇을 물었는지 기억하지 못했습니다. 모든 질문이 새로운 시작이었습니다. 그냥... 괜찮았나? 하지만 대화처럼 느껴지지 않았습니다. 검색 엔진을 심문하는 것 같았습니다.
STRAŦUM에서는 이 문제가 9배 더 심각했습니다. 9개의 에이전트, 공유 컨텍스트 제로.
약 두 달 정도 만들다 보니 해결책을 찾았습니다 — "점진적 학습"이라고 부르는 것입니다. 한 에이전트에게 비즈니스 목표를 알려주면, 다음에 아홉 개의 에이전트 모두가 알고 있습니다. 다시 설명할 필요 없음. 컨텍스트 손실 없음. 이것이 STRAŦUM을 "9개의 별개 도구"에서 실제로 하나의 지능형 플랫폼처럼 느껴지는 것으로 변환시킨 기능이라고 생각합니다.
어떻게 구축했는지 이야기합니다. 여기서 내린 결론 중 일부가 틀릴 수도 있습니다 — 무엇이 작동하고 무엇이 안 되는지 아직 배우고 있습니다 — 하지만 지금까지 알아낸 것을 공유하고 싶습니다.
문제: 사용자가 문서화 기계가 되었다
초기 STRAŦUM 대화가 실제로 어떻게 보였는지 보여드리겠습니다:
1주차 Strategy Agent:
> 사용자: "다음 분기에 유럽 시장으로 확장할 계획이에요"
> 에이전트: [포괄적인 시장 진입 전략 생성]
2주차 Content Agent:
> 사용자: "우리 캠페인을 위한 LinkedIn 게시물을 만들어 주세요"
> 에이전트: "이 게시물은 어떤 주제를 다뤄야 하나요?"
> 사용자: "...유럽 확장이요? 기억 안 나요? 지난주에요?"
> 에이전트: "유럽 확장에 대한 컨텍스트가 없습니다. 설명해 주실 수 있나요?"
솔직히 말해서, 테스트 중에 이것을 처음 봤을 때 부끄러웠습니다. 사용자가 이미 모든 것을 알려줬습니다. Strategy Agent가 알고 있었습니다. 정보가 데이터베이스에 바로 있었습니다. 점을 연결하지 않았을 뿐입니다.
세 가지 제품을 만들면서의 경험으로 볼 때, 이것이 패턴입니다: 사용자들은 한 번 설명하는 것은 괜찮아합니다. 다시 설명하는 것을 싫어합니다. "AI를 가르치는 것"과 "AI의 비서가 되는 것" 사이에는 근본적인 차이가 있습니다.
이것이 얼마나 많은 시간을 낭비하고 있는지 대략적인 계산을 해봤습니다:
- 평균 재설명 시간: 대화당 2-3분
- 주당 대화: 모든 에이전트에 걸쳐 10-15회
- 사용자당 낭비 시간: 주 20-45분
- 연간 생산성 손실: 사용자당 17-39시간
규모가 커지면 빠르게 쌓입니다. 10,000명의 사용자가 있는 플랫폼이라면, 연간 170,000-390,000시간의 낭비된 인간 시간입니다. 이 수치가 절반으로 줄어도, 꽤... 많은 사람들이 기계에게 같은 말을 반복하는 것입니다.
---
비전: "한 에이전트에게 말하면, 아홉 모두 알게"
그래서 생각하기 시작했습니다 — 에이전트들이 서로의 대화에서 배울 수 있다면? Sydney에서 이미 더 간단한 형태로 이것이 작동하는 것을 봤습니다: RAG를 사용하여 블로그 게시물과 경력 이력을 "기억"합니다. 하지만 STRAŦUM은 더 동적인 것이 필요했습니다 — 정적 콘텐츠를 검색하는 것이 아니라, 라이브 대화에서 새로운 정보를 캡처하고 에이전트 간에 공유하는 것.
추구했던 이상적인 경험:
1. 사용자가 Strategy Agent와 시장 확장을 논의 (1일차)
2. 플랫폼이 자동으로 핵심 비즈니스 인사이트 캡처
3. 사용자가 Content Agent와 대화 (7일차)
4. Content Agent가 이미 확장 계획을 알고 있음
5. 재설명 불필요. 그냥 지능적인 컨텍스트.
이것이 사람들이 가끔 사용하는 AI 도구와 실제로 의존하는 AI 도구의 차이를 만든다고 생각합니다. 화려한 기능에 관한 것이 아닙니다 — 여러분을 기억하는 부분입니다.
---
작동 방식: 사용자 경험
자동 학습
솔직히 이것이 가장 어려운 부분이었습니다. 어떤 에이전트와 의미 있는 대화를 할 때마다, STRAŦUM은 기억할 가치가 있는 핵심 비즈니스 인사이트를 식별하려고 합니다:
- 시장 확장 계획
- 타겟 오디언스 특성
- 예산 제약
- 경쟁 포지셔닝
- 브랜드 가이드라인
- 가격 전략
- 기타
아무것도 할 필요 없습니다. 일하면서 플랫폼이 학습합니다. (글쎄요, 그것이 목표입니다. "무엇을 기억할 가치가 있는지" 부분은 아직 조율 중입니다 — 교훈 섹션에서 더 자세히.)
크로스 에이전트 인텔리전스
이 부분이 저를 흥분시킵니다 :D 마법은 에이전트를 전환할 때 일어납니다. Performance Agent에게 언급한 예산 제약? Campaign Agent가 광고 지출을 추천할 때 알고 있습니다. Strategy와 논의한 시장 확장? Content Agent가 메시지 추천에 반영합니다.
아홉 개의 에이전트. 여러분의 비즈니스에 대한 하나의 공유된 이해.
사실 DIALØGUE가 작동하는 방식과 비슷합니다 — 팟캐스트를 생성할 때 사용자의 전문 분야, 선호하는 스타일, 오디언스를 기억해야 합니다. 다른 컨텍스트, 같은 원리: 기억하는 AI는 기억하지 않는 AI와 근본적으로 다릅니다.
실제로 어떻게 보이는지 — 새 대화를 시작할 때, 이전 상호작용의 관련 컨텍스트가 자동으로 사용 가능합니다:
```python
# 모든 에이전트 대화는 비즈니스 컨텍스트로 시작
async def get_business_context(org_id: str) -> str:
"""
이전 대화에서 관련 인사이트를 검색합니다.
각 에이전트는 비즈니스에 중요한 것을 봅니다.
"""
insights = await fetch_recent_insights(org_id)
# 컨텍스트가 모든 에이전트에 자동으로 흐름
return build_context_summary(insights)
```
실제 구현은 세심한 필터링과 관련성 점수 매기기를 포함합니다—하지만 원칙은 간단합니다: 에이전트가 중요한 것을 기억합니다.
완전한 투명성
어렵게 배운 교훈: AI 기억은 무엇이 기억되고 있는지 모르면 소름끼칠 수 있습니다. 테스트 초기에 누군가에게 시스템을 보여줬는데 첫 반응이 "잠깐, 나에 대해 또 뭘 알고 있어?"였습니다. 원하는 반응이 아닙니다.
그래서 시스템에 완전한 투명성을 구축했습니다. 사용자가 비즈니스 인텔리전스를 보고 제어할 수 있는 UI 컴포넌트는 다음과 같습니다:
```typescript
// 사용자가 플랫폼이 배운 것을 정확히 봄
export function BusinessIntelligenceDashboard() \{
const { insights \} = useBusinessContext();
return (
<div className="space-y-4">
<h2>STRAŦUM이 비즈니스에 대해 아는 것</h2>
{insights.map(insight => (
<InsightCard key={insight.id}>
<div className="flex justify-between">
<span className="font-medium">{insight.summary}</span>
<Badge>{insight.source_agent}</Badge>
</div>
<p className="text-sm text-muted">
\{formatDate(insight.created_at)\}에 학습
</p>
<Button
variant="ghost"
onClick={() => deleteInsight(insight.id)}
>
이 인사이트 제거
</Button>
</InsightCard>
))}
</div>
);
}
```
- 모든 것을 확인: 전용 대시보드가 플랫폼이 배운 것을 정확히 보여줌
- 출처 표시: 어떤 에이전트가 무엇을, 언제 배웠는지 확인
- 간편한 삭제: 원하지 않는 인사이트를 한 번의 클릭으로 제거
- 숨겨진 학습 없음: 모든 것이 보이고 검토 가능
사용자들은 통제할 수 있기 때문에 시스템을 신뢰합니다.
---
실제 사례
사례 1: 시장 확장
1일차 - Strategy Agent:
> 사용자: "다음 분기에 독일과 영국을 시작으로 유럽 시장에 진출할 계획이에요."
> 에이전트: [포괄적인 시장 진입 전략 생성]
플랫폼 캡처: 유럽 시장 확장 계획, 독일과 영국 타겟팅
7일차 - Content Agent:
> 사용자: "다음 달 LinkedIn 게시물을 만들어 주세요"
> 에이전트: "유럽 확장을 계획하고 계시네요. 이 게시물이 국제 런칭에 대해 오디언스를 준비시켜야 할까요?"
재설명 불필요.
사례 2: 예산 인식
5일차 - 에이전트:
> 사용자: "마케팅 예산이 월 약 $10k입니다"
> 에이전트: [예산 배분 분석 생성]
플랫폼 캡처: 월 마케팅 예산 ~$10,000
15일차 - Campaign Planning Agent:
> 사용자: "유료 광고를 해야 할까요?"
> 에이전트: "월 예산을 기반으로, 유료 채널과 콘텐츠 제작에 균형 있게 배분하는 것을 추천합니다..."
예산 컨텍스트 기억됨.
---
멀티테넌트 과제
점진적 학습은 SME와 에이전시 모두를 서비스할 때 복잡해집니다.
SME의 경우: 간단합니다. 모든 인텔리전스가 조직에 속합니다.
에이전시의 경우: 각 클라이언트의 인텔리전스가 완전히 격리되어야 합니다. 클라이언트 A와 B를 관리하는 에이전시는 클라이언트 A의 전략이 실수로 클라이언트 B의 추천에 영향을 미칠 수 없습니다.
# 에이전시 컨텍스트는 항상 클라이언트 범위
def get_insights_for_conversation(org_id: str, client_id: str | None):
"""
SME: client_id가 None, 모든 조직 인사이트 확인
에이전시: client_id가 특정 클라이언트만 필터링
"""
if client_id:
# 특정 클라이언트에서 작업 중인 에이전시 사용자
# 클라이언트 A 인사이트는 절대 클라이언트 B 컨텍스트로 누출되지 않음
return fetch_client_insights(org_id, client_id)
else:
# SME 사용자, 모든 조직 인사이트 사용 가능
return fetch_org_insights(org_id)
이것은 단순한 기능이 아닙니다—신뢰 요구사항입니다. 한 번의 누출로 에이전시 사용자의 신뢰를 영구히 잃습니다.
모든 수준에서 데이터 격리에 많은 투자를 했습니다—애플리케이션 로직, 데이터베이스 정책, 광범위한 테스트. 클라이언트 A의 비즈니스 인텔리전스는 클라이언트 A와 함께합니다. 항상.
---
이것이 진짜 이점을 만드는 이유
솔직하게 말씀드리겠습니다: 저는 SaaS 전략가가 아닙니다. 코딩을 배우기 전에 광고업계에서 18년을 보낸 개발자입니다. 하지만 세 개의 AI 제품을 만든 경험으로 볼 때, 점진적 학습이 진짜 이점을 만드는 이유는 몇 가지입니다.
수확 체증
사용자가 플랫폼을 오래 사용할수록 더 똑똑해집니다. 각 대화가 컨텍스트를 추가합니다. 각 인사이트가 미래 대화를 더 좋게 만듭니다.
전통적인 AI 도구: 1일차와 100일차에 같은 경험.
점진적 학습: 1일차 = 좋음. 100일차 = 탁월함.
Sydney에서도 이 패턴을 봤습니다 — RAG 시스템 덕분에 6개월 전보다 지금 더 유용합니다, 단순히 더 많은 콘텐츠가 있기 때문에. 기억은 복리로 쌓입니다.
사람들이 머무는 이유
플랫폼이 비즈니스를 깊이 알게 되면, 경쟁사로 전환하면 처음부터 시작해야 합니다. 잃게 되는 것:
- 수개월간 축적된 인텔리전스
- 시장 전략에 대한 컨텍스트
- 에이전트 간에 구축된 오디언스 인사이트
- 예산 제약과 목표
정기적으로 30일 사용 후, 플랫폼은 비즈니스 컨텍스트의 대부분을 캡처합니다. 사람들이 머무는 이유가 이것이라 생각합니다 — 갇혀서가 아니라, 다른 곳에서 처음부터 시작하는 것이 진정한 후퇴처럼 느껴지기 때문입니다.
조직 내 네트워크 효과
여러 클라이언트를 관리하는 에이전시의 경우 (이것은 제 마음에 가깝습니다 — 경력 대부분을 에이전시에서 보냈습니다), 점진적 학습이 배가됩니다:
- 각 클라이언트의 인텔리전스가 독립적으로 축적
- 모든 클라이언트 관계가 플랫폼의 가치를 깊게 함
- 가치가 포트폴리오 크기에 비례하여 확장
10개 클라이언트를 가진 에이전시는 단일 사용자의 10배 이점을 얻습니다.
복제하기 어려움
이것에 대해 틀릴 수 있지만, 점진적 학습을 구축하려면 다음을 깊이 통합해야 한다고 믿습니다:
- AI 응답 생성
- 백그라운드 처리
- 멀티테넌트 데이터 격리
- 사용자 제어 인터페이스
- 크로스 에이전트 컨텍스트 공유
나중에 덧붙이는 것이 아닙니다. 아키텍처에 처음부터 짜여져 있습니다.
---
비즈니스 영향
추적하고 있는 수치입니다 (항상 구체적으로 말하려 합니다):
사용자당 절약 시간:
- 이전: 대화당 2-3분 재설명
- 주당 대화: 10-15회
- 연간 절약 시간: 사용자당 17-39시간
유지율에 대한 기대
솔직히 — 이것을 확실히 증명할 만한 데이터가 아직 없습니다. STRAŦUM은 아직 알파입니다. 하지만 지금까지 본 것을 기반으로 한 가설은:
- 상당한 저장된 인사이트를 축적한 사용자는 전환할 가능성이 낮음
- 투자한 컨텍스트가 많을수록, 다른 곳에서 처음부터 시작하기 어려워짐
- 점진적 학습은 유지율과 직접 상관관계가 있어야 함
이것을 면밀히 추적하고 있습니다. 틀리면, 그것에 대해서도 쓸 것입니다 :P
실제로 유용한 것 (수치를 넘어):
- 더 이상 AI의 비서가 될 필요 없음
- 컨텍스트가 시간이 지남에 따라 자연스럽게 쌓임
- 추가 노력 없이 사용할수록 플랫폼이 좋아짐
---
(어렵게) 배운 교훈
이론적 인사이트가 아닙니다 — 실제로 저지른 실수입니다.
1. AI 기억에는 사용자 제어가 필요하다
초기 버전은 감시처럼 느껴졌습니다. 친구에게 보여줬는데 정확한 말이 "이거 소름끼쳐"였습니다. 원하는 피드백이 아닙니다.
수정: 완전한 투명성. 모든 것을 보여주기. 사용자가 무엇이든 삭제할 수 있게. 숨겨진 학습 없음.
결과: 사용자들이 통제할 수 있기 때문에 시스템을 신뢰합니다. (Sydney의 대화 인터페이스를 만들 때도 같은 직감이 있었어야 했는데. 사람들은 내부에서 무슨 일이 일어나는지 보고 싶어합니다.)
2. 양보다 질
첫 본능은 모든 것을 기억하는 것이었습니다. 모든 문장. 모든 세부사항. 저는 "더 많은 데이터가 좋다" 타입입니다 — 분석에서 18년을 보내면 그렇게 됩니다. 하지만 압도적이고 초점이 없었습니다.
수정: 높은 신뢰도의, 전략적으로 관련 있는 인사이트만 캡처. 양보다 질.
결과: 실제로 대화를 개선하는 집중된 컨텍스트.
3. 더 적은 컨텍스트가 종종 더 좋다
이것이 놀라웠습니다. 대화에 너무 많은 컨텍스트를 주입하면 응답이 느리고 초점이 없어졌습니다. Claude에게 배경 정보의 벽을 줄 때, 대부분이 관련 없어도 모두 참조하려고 한다는 것을 알게 되었습니다.
수정: 세심하게 큐레이트. 현재 대화에 관련된 것만 포함.
결과: 더 빠른 응답, 더 집중된 추천. 여기서 적절한 균형을 아직 찾고 있습니다.
4. 멀티테넌트 격리는 타협할 수 없다
데이터 격리에 하나의 버그만 있어도 사용자 신뢰를 영구히 파괴할 수 있습니다. 에이전시 세계에서 왔기에, 클라이언트 기밀이 얼마나 심각한지 압니다. 클라이언트 A와 B를 관리하는 에이전시는 데이터가 절대 누출되어서는 안 됩니다.
수정: 심층 방어. 여러 레이어의 격리. 광범위한 테스트.
결과: 클라이언트 간 누출 사건 제로. (이것은 타협하지 않는 영역입니다 — 격리는 완벽해야 합니다.)
---
AI 기억이 의미 있는 경우는?
AI 제품을 만들면서 기억에 투자할지 고민 중이라면, 솔직한 의견입니다. 점진적 학습이 의미 있는 경우:
✅ 여러 AI 접점이 공유 컨텍스트로 이점을 볼 수 있는 경우
✅ 사용자가 반복 상호작용을 하는 경우 (일/주/월)
✅ 컨텍스트가 가치를 축적하는 경우 (비즈니스 전략, 선호, 제약)
✅ 새 사용자 획득보다 유지가 더 중요한 경우
✅ 조직을 서비스하는 경우 (팀, 에이전시, 기업)
❌ 다음의 경우 건너뛰세요:
- 일회성 상호작용 (반복 참여 없음)
- 컨텍스트가 가치를 축적하지 않는 경우
- 프라이버시 우려가 편의보다 큰 경우
- 적절한 데이터 격리에 투자할 수 없는 경우 (그리고 진짜 투자를 의미합니다 — 반만 하는 것이 아닙니다)
---
마무리
점진적 학습은 STRAŦUM을 "9개의 별개 AI 에이전트"에서 실제로 하나의 지능형 플랫폼처럼 느껴지는 것으로 변환시켰습니다. 사용자가 한 번 말합니다. 시스템이 기억합니다 (또는 삭제할 때까지).
그것이 도구와 플랫폼의 차이라고 생각합니다. 거래와 관계의 차이. "가끔 사용함"과 "이것 없이는 일할 수 없음"의 차이. 하지만 아직 이 여정 초기입니다 — STRAŦUM은 알파이고, 매주 무엇이 작동하는지 새로운 것을 배우고 있습니다.
AI 기억을 구축하는 것은 어려웠습니다. 멀티테넌트 격리가 복잡성을 추가했습니다. 이것이 기반이 되는 멀티테넌시 기반은 그 자체로 모험이었습니다 — 2일차 아키텍처 결정에서 67일차에 전체 재구축까지. 하지만 결과는? 사용할수록 더 똑똑해지는 플랫폼.
한 에이전트에게 말하세요. 아홉 모두가 알게 됩니다.
궁금합니다 — AI 제품을 만들고 계시다면, 기억 문제를 다뤄보셨나요? 어떤 접근 방식이 효과가 있었나요? 기억할 가치가 있는 것과 노이즈를 결정하는 최선의 방법을 아직 찾고 있어서 정말로 관심이 있습니다. 알려주세요.
---
직접 사용해 보세요
점진적 학습에 대해 읽는 것은 한 가지입니다. 경험하는 것은 다른 것입니다.
STRAŦUM은 현재 비공개입니다. 공개 런칭 전에 소수의 SME 창업자와 에이전시 팀과 함께 경험을 다듬고 있습니다.
세션 간에 모든 것을 잊어버리는 AI 도구에 비즈니스를 다시 설명하는 것이 지겹다면, 사용해 보시길 원합니다.
받게 되는 것:
- 9개 AI 에이전트 모두에 대한 전체 접근
- 비즈니스를 실제로 기억하는 점진적 학습
- 피드백과 기능 요청을 위한 직통 라인
롤링 베이시스로 새 알파 사용자를 수용하고 있습니다. 이 단계에서 모든 분께 개인적인 관심을 드리고 싶어서 자리가 제한적입니다.
감사합니다,
Chandler
