금요일 방법론: 실전 투자 방법론 제6장 - 켈리 기준 (Kelly Criterion)의 응용과 베팅 비율 최적화

최대 낙폭을 제어하는 현금 조절 룰(제1장), 거시 조수 3대 축 판독(제2장), 연준 순유동성 수식(제3장), 공급망 병목 강자 선별(제4장), 그리고 진입 가중치를 다듬은 지표 가중 DCA 적립법(제5장)을 수립했다면, 투자자가 마주해야 할 다음 과제는 '나에게 찾아온 확률적 우위(Edge)를 실제 개별 종목 매입 시 계좌 전체 비중 대비 어느 크기로 베팅해 늘려갈 것인가'로 귀결됩니다.

많은 투자자가 훌륭한 종목 스크리닝 능력과 적립식 집행 방식을 갖추고도, 자금 관리 배분 비율의 무지로 인해 장기적으로 계좌를 훼손하는 우를 범합니다. 본 제6장에서는 승률과 손익비를 수학적으로 조율하여 최적의 단일 포지션 베팅 비율을 도출하는 켈리 공식(Kelly Criterion)의 메커니즘을 규명하고, 실전 시장에서 계좌를 지켜내는 변형된 켈리 룰을 제시합니다.

켈리 공식의 정수를 이해하기 위해 카지노의 공정한 동전 던지기 게임과 영리한 도박사의 비유를 활용해 보겠습니다. 앞면이 나올 확률이 60%이고 뒷면이 나올 확률이 40%인 특수한 동전이 있다고 가정합시다. 이 게임의 판돈은 이겼을 때 베팅액의 1배를 더 받고, 졌을 때는 베팅액을 잃는 1:1 손익비 구조를 취합니다.

이때 이 게임에 참가한 도박사는 앞면이 나올 확률이 높으므로 나에게 유리하다는 사실을 직관적으로 압니다. 그러나 이 유리함에 흥분하여 매 판마다 내 가진 돈의 100%를 전부 베팅한다면, 단 한 번의 뒷면(40% 확률)이 나오는 순간 영구적 파산에 도달합니다. 반대로 너무 몸을 사려 매 판 1%의 극히 미미한 금액만을 베팅한다면, 파산 위험은 없겠지만 장기적으로 자산의 증식 속도는 물가상승률을 쫓아가기도 버거울 정도로 굼뜨게 될 것입니다.

이 딜레마를 해결하고 장기 복리 성장률을 극대화하는 단 하나의 수학적 지점을 찾아주는 공식이 바로 벨 연구소의 존 켈리가 정립한 켈리 공식입니다.

$$f^* = \frac{p \cdot b - (1 - p)}{b} = p - \frac{1 - p}{b}$$

여기서 $f^*$는 우리가 전체 자산 대비 베팅해야 할 최적의 비율이며, $p$는 승리할 확률(승률), $b$는 이겼을 때 얻는 배당 비율(손익비)을 뜻합니다.

앞서 언급한 동전 던지기 게임을 공식에 대입해 보면, 승률 $p$는 0.6이고 배당 $b$는 1이므로 최적의 베팅 비율 $f^*$는 0.2, 즉 내 전체 자본의 정확히 20%를 매 판 베팅하는 것이 복리 성장률을 기하학적으로 가장 극대화하는 지점이라는 결과가 나옵니다. 이 20%의 경계를 넘어 과도한 베팅을 가할 경우(Overbetting), 계좌는 복리의 마법을 잃고 파산의 중력장으로 끌려들어가게 됩니다.

그러나 우리는 금융 시장이라는 거칠고 왜곡된 현실 세계에서 이 공식을 있는 그대로 투영할 수 없습니다. 금융 시장의 승률과 손익비는 고정된 카지노 동전과 달리 매 순간 변하며, 우리의 인지적 편향으로 인해 나에게 유리한 확률적 우위를 과대평가하기 십상이기 때문입니다.

실제 투자 현장에서 켈리 공식이 지시하는 베팅 비율을 그대로 적용할 경우, 예상치 못한 꼬리 위험(Tail Risk)이나 연속 손실 구간을 마주할 때 계좌는 감당하기 어려운 극심한 변동성을 겪게 됩니다.

따라서 실전 탑다운 자산배분 연구위원회가 강제 적용하는 규칙은 켈리 공식이 산출한 베팅 비율에 일정한 할인율을 적용하는 하프 켈리(Half-Kelly) 혹은 프랙셔널 켈리(Fractional Kelly) 모델입니다. 하프 켈리는 공식이 도출한 최적 비율 $f^*$의 정확히 절반인 50% 수준만을 포지션에 진입시키는 전략입니다.

이 규칙을 이식할 경우, 장기적으로 달성할 수 있는 기하 복리 성장률은 원래 최적값의 약 75% 수준으로 소폭 감소하지만, 계좌가 견뎌야 할 하락 변동성(Drawdown)은 무려 50% 이상 극적으로 줄어드는 수학적 비대칭 방어 효과를 누리게 됩니다.

결국 베팅 비율 최적화의 핵심은 내가 가진 정보와 분석 능력이 완벽하지 않음을 겸손히 인정하고, 수학적 규칙에 의거하여 진입 비율의 상한선을 스스로 제한해 두는 데 있습니다. 탐욕에 눈이 멀어 단일 포지션에 과도한 판돈을 밀어 넣는 행위는, 아무리 좋은 무기를 들고 있어도 단 한 발의 오발탄에 스스로 침몰하는 자기파괴적 습관일 뿐입니다.

독자 여러분은 오늘 제6장에서 다룬 켈리 공식의 비대칭적 방어 메커니즘을 머릿속에 기억하시고, 포지션 배정 시 하프 켈리 필터를 기계적으로 결합하여 거센 시장의 변동성 폭풍 속에서도 계좌의 복리 성장 잠재력을 안전하게 수호하시길 권고합니다.

---

📊 실전 계량 데이터 소스 안내

포지션의 베팅 비율 산출을 위한 간이 확률 입력 툴셋은 엑셀이나 구글 스프레드시트에서 간단한 셀 수식 작성으로 구현 가능합니다.

• 스프레드시트 입력 수식: = (B1 * B2 - (1 - B1)) / B2
  • B1 셀: 예상 승률 ($p$, 예: 0.55)
  • B2 셀: 평균 손익비 ($b$, 예: 1.5)
• 하프 켈리 최종 실행 비중: =[결과값 셀] * 0.5

---

⚡ 3분 요약: MTS 초간단 실행 수칙

1. 나의 무지함을 인정하라: 아무리 좋아 보이는 우량 종목이라도 내 판단이 틀릴 확률이 최소 40% 이상 존재한다고 가정하십시오.
2. 단일 종목 베팅 한계선: 켈리 공식이 지시하는 계산값의 정확히 **절반(하프 켈리 룰)**만 매수비율로 가져가십시오. 어떠한 경우에도 단일 개별 기업 지분의 비중이 계좌 전체의 10%를 초과하지 않도록 제약하십시오.
3. MTS 자동 감시 세팅: 매입 후 예상되는 최대 손실 폭(예: -15% 손절선)과 기대 수익률(예: +30% 익절선)을 기반으로 기계적 손익비 $b$를 2.0으로 상정하고 예산을 분배하십시오.

---

💡 계량 돋보기 (Deep Dive)

하프 켈리(Half-Kelly)의 수학적 우위와 변동성 감소 증명 존 켈리의 원안 공식에 따르는 최적 베팅 비중 $f^*$를 $f$라 할 때, 켈리 비율 집행에 따른 자산의 기하학적 평균 성장률 $g(f)$는 다음과 같이 2차 테일러 근사식으로 표현됩니다.

$$g(f) \approx r + f(R_a - r) - \frac{f^2\sigma^2}{2}$$

여기서 $r$은 무위험 이자율, $R_a$는 자산의 산술 기대수익률, $\sigma^2$은 분산입니다. 이 $g(f)$를 $f$에 대해 미분하여 극대점을 찾으면 켈리 최적 비율 $f^* = \frac{R_a - r}{\sigma^2}$이 나옵니다.

여기에 하프 켈리 비율인 $f = 0.5 f^*$를 대입해 성장률을 계산해 보면 다음과 같습니다.

$$g(0.5f^) \approx r + 0.5f^(R_a - r) - \frac{0.25(f^)^2\sigma^2}{2} = r + 0.5f^(R_a - r) - 0.25 \cdot \frac{f^(R_a - r)}{2}$$ $$g(0.5f^) = r + 0.375 f^*(R_a - r)$$

즉 최적 켈리 비율 성장률의 정확히 **75%**를 확보하게 됩니다. 반면 포트폴리오의 실질 분산(변동성 위험)은 $f^2\sigma^2$에서 $(0.5f)^2\sigma^2$으로 줄어들어 **4분의 1로 급감(75% 감소)**하게 되며, 이에 상응하는 계좌 최대 낙폭(MDD)은 대략 50% 감소합니다. 이것이 금융공학에서 오버베팅의 리스크를 방어하기 위해 하프 켈리를 표준으로 채결하는 통계적 근거입니다.