짐 사이먼스(Jim Simons)는 수학자 출신의 투자자로, 1982년 르네상스 테크놀로지(Renaissance Technologies)를 창업해 메달리언 펀드(Medallion Fund)를 통해 30년 이상 시장 평균을 압도하는 성과를 냈습니다. 메달리언은 외부 투자자에게 닫혀 있고 내부 직원 자금만 운용하지만, 공개된 통계만 봐도 다른 어떤 펀드와도 비교가 어려운 수익률을 기록한 것으로 알려져 있습니다.
사이먼스의 성과를 일반 투자자가 그대로 모방하는 것은 사실상 불가능합니다. 르네상스가 사용하는 모형은 수많은 시장 데이터, 주문 흐름, 마이크로 구조까지 포함한 정교한 통계 시스템에 의존합니다. 그러나 그가 정립한 사고법 — "아이디어보다 검증이 먼저다", "감정보다 규칙이 우선이다" — 는 누구에게나 적용 가능한 원칙입니다.
이 글에서는 르네상스의 구체적 모형이 아니라, 정량 사고가 일반 투자자에게 줄 수 있는 분석 프레임에 초점을 맞춥니다.
아이디어가 아니라 패턴을 찾는다
정량 투자의 출발점은 "그럴듯한 이야기"가 아니라 "데이터에서 반복적으로 관찰되는 패턴"입니다. "이 산업이 유망하다", "이 기업이 좋다" 같은 서술적 가설은 일관된 검증이 어렵습니다. 반면 "PBR이 N분위 이하인 종목군은 다음 12개월간 시장 평균 대비 X% 초과 수익을 보였다" 같은 가설은 동일한 절차로 반복 검증이 가능합니다.
이 차이가 정량 사고의 핵심입니다. 가설을 만들 때부터 측정 가능한 형태로 정의하고, 그 결과를 시간이 지나며 일관되게 평가할 수 있어야 합니다. 일반 투자자도 자신의 매매 규칙을 이런 식으로 정량화할 수 있는지 검토해보면, 자기 전략의 빈틈이 보이기 시작합니다.
- "좋은 회사"라는 표현을 측정 가능한 지표로 바꿔본다
- 매수·매도 신호를 모두 숫자로 정의할 수 있는가
- 같은 신호를 과거 다른 시기에 적용해도 같은 결정이 나오는가
백테스트가 함정인 경우
많은 투자자가 백테스트 성과만 보고 전략을 채택하지만, 백테스트는 여러 함정을 가지고 있습니다. 가장 흔한 것이 과최적화(overfitting)입니다. 같은 데이터에 너무 많은 파라미터를 맞춰 넣으면, 과거 성과는 좋아 보여도 미래 성과는 형편없어질 수 있습니다.
두 번째 함정은 생존자 편향(survivorship bias)입니다. 현재 살아있는 기업·지수만으로 백테스트를 하면, 그 사이에 사라진 기업과 시장이 데이터에서 빠져 결과가 실제보다 좋게 보입니다. 세 번째는 거래비용·세금·슬리피지 무시입니다. 회전율이 높은 전략은 이런 비용이 누적되면서 실제 수익률이 백테스트의 절반 이하로 떨어지기도 합니다.
- 파라미터 수가 데이터 양에 비해 과도하지 않은지 확인한다
- 시장에서 사라진 기업·지수가 데이터에 포함되어 있는가
- 거래비용, 세금, 슬리피지를 모두 반영해 다시 계산한다
규칙은 감정을 줄이지만 만능이 아니다
정량 전략의 큰 장점은 매수·매도 기준이 명확해 감정 개입을 줄인다는 점입니다. 시장이 흔들릴 때 "지금 팔아야 할까?"를 매번 새로 고민하는 대신, 사전에 정해진 규칙대로 실행하면 됩니다. 이 자체로 의사결정 일관성이 크게 좋아집니다.
그러나 규칙이 명확하다고 해서 항상 옳은 것은 아닙니다. 시장 구조가 바뀌면 과거에 잘 작동하던 규칙도 더 이상 유효하지 않을 수 있습니다. 예를 들어 거래소 구조 변화, 알고리즘 트레이딩의 보편화, 정책 변화 등은 모두 과거 패턴의 의미를 바꿀 수 있습니다. 따라서 규칙을 그냥 따르는 것이 아니라, 규칙이 여전히 유효한지를 주기적으로 점검해야 합니다.

데이터 품질이 모형의 품질을 결정한다
아무리 정교한 모형도 입력 데이터가 부정확하면 결론이 부정확합니다. 정량 투자에서 데이터 품질은 모형 자체보다 더 중요한 변수가 될 때가 많습니다. 결측치 처리 방법, 시계열 정렬, 분기 실적 발표 시점 반영, 지수 구성 종목 변경 — 이런 작은 디테일이 백테스트 결과를 크게 바꾸기도 합니다.
개인 투자자가 자체 데이터 인프라를 구축하기는 어렵지만, 자신이 사용하는 데이터의 출처와 한계를 의식하는 것만으로도 차이가 큽니다. 같은 PER이라도 데이터 제공자에 따라 정의가 다르고, 같은 ROE라도 일회성 손익을 어떻게 처리했느냐에 따라 숫자가 달라집니다.
중단 기준 없는 전략은 위험하다
르네상스 같은 운용사도 모든 모형이 영원히 잘 작동한다고 가정하지 않습니다. 성과가 일정 수준 이하로 떨어지면 원인을 분석하고, 모형을 수정하거나 폐기합니다. 이 과정이 없는 전략은 시장이 바뀌었을 때 손실을 누적시키며 의미를 잃습니다.
개인 투자자도 자신의 전략에 중단 기준을 미리 정의해두는 것이 좋습니다. 예를 들어 "특정 전략의 12개월 누적 성과가 -X% 이하면 일시 중단하고 원인을 분석한다"는 식입니다. 이 기준이 있으면 전략 실패가 자기 정체성에 대한 위협으로 느껴지지 않고, 단순한 모형 점검 절차로 다뤄질 수 있습니다.
투자자가 점검할 질문
- 내 매매 규칙이 숫자로 정의 가능한가
- 데이터의 출처, 결측치, 생존자 편향을 점검했는가
- 거래비용, 세금, 슬리피지를 반영해 성과를 다시 계산했는가
- 파라미터 수가 데이터 양에 비해 과도하지 않은가
- 같은 규칙이 다른 기간, 다른 시장에도 일관된 결과를 주는가
- 시장 구조 변화 시 규칙을 재검토할 일정이 있는가
- 전략 성과 부진 시 중단·재검토할 기준이 사전에 정의되어 있는가
정량 사고는 미래를 맞히는 마법이 아닙니다. 검증 가능한 규칙을 만들고, 그 규칙의 한계를 계속 확인하며, 시장이 바뀌었을 때 빠르게 모형을 수정하는 절차의 집합입니다. 화려한 이야기를 줄이고 절차를 늘리는 일이라고 봐야 합니다.
— StockAnatomy
참고 자료
- Jim Simons — Wikipedia
- Renaissance Technologies — Wikipedia
- Quantitative analysis (finance) — Wikipedia
사진: Gleuschk / Wikimedia Commons (CC BY-SA 3.0) · 본문 사진: Gleuschk / Wikimedia Commons (CC BY-SA 3.0)