계좌를 열어보면 늘 비슷한 그림이 반복됩니다. 며칠 오른 종목은 “이 정도면 됐다” 싶어서 얼른 팔아 수익을 확정 짓고, 반대로 물린 종목은 “곧 회복하겠지” 하며 몇 달째 그대로 들고 있는 패턴인데요. 머리로는 손절해야 한다는 걸 알면서도 막상 손이 안 갑니다. 이게 의지력 문제가 아니라 뇌가 원래 그렇게 반응하도록 되어 있어서라는 걸 알고 나면, 왜 규칙 기반 투자가 필요한지도 좀 더 선명해집니다.
손실회피와 처분효과 — 뇌가 그렇게 시키는 이유
행동경제학자 대니얼 카너먼과 아모스 트버스키는 1979년 논문에서 사람이 이익보다 손실을 훨씬 더 아프게 느낀다는 걸 이론으로 정리했습니다. 이걸 손실회피(loss aversion)라고 부르는데요. 쉽게 말하면 10만원을 벌었을 때의 기쁨보다 10만원을 잃었을 때의 아픔이 더 크다는 뜻입니다.
두 사람이 1992년 후속 연구에서 이 차이를 수치로 추정했더니, 손실회피계수(λ)가 약 2.25로 나왔습니다(표본과 조건에 따라 1.5~2.5 범위, 출처: Tversky & Kahneman, 1992). 손실이 이익보다 심리적으로 두 배 넘게 무겁게 느껴진다는 뜻이죠.
이 손실회피가 투자에서 드러나는 대표적인 모습이 처분효과(disposition effect)입니다. 오르면 서둘러 팔고 내리면 버티는 습관을 가리키는 말인데요.
경제학자 테런스 오딘이 1998년 대형 할인증권사 계좌 1만 개를 분석한 결과, 투자자들은 손실 난 주식보다 이익 난 주식을 1.5~2배 더 자주 매도했습니다(출처: Odean (1998)). 세금이나 리밸런싱 같은 다른 이유를 통제해도 결과는 같았어요. 개인의 성격 차이가 아니라 통계로 반복 확인되는 패턴이라는 겁니다.
한국 시장에서도 그대로 나타난다
이게 미국만의 이야기인가 싶었는데, 국내 데이터를 찾아보니 거의 판박이였습니다. 자본시장연구원이 2022년 2월 발표한 연구보고서(개인투자자 204,004명의 2020년 3~10월 거래내역 분석)를 보면, 하루만 보유한 경우 이익 포지션의 매도율은 41%인데 손실 포지션의 매도율은 22%에 그쳤습니다(출처: 자본시장연구원 연구보고서 22-02, 2022.2). 이익은 절반 가까이 바로 실현하는데 손실은 4분의 1도 채 정리하지 않는다는 뜻이니, 약 1.9배 차이인 셈이죠.
같은 보고서에는 2020년 코로나19 국면에서 국내 개인투자자의 연간 거래회전율이 1,600%를 웃돌았다는 수치도 담겨 있습니다(출처: 자본시장연구원 연구보고서 22-02, 2022.2). 단순하게 보면 1년 동안 들고 있던 주식을 열여섯 번 넘게 갈아치웠다는 얘기입니다. 사고파는 행위 자체가 거의 습관이 된 수준이네요.
좀 더 최근 사례도 있습니다. 신한투자증권이 2026년 1분기 개인투자자 매매 데이터를 분석한 자료에 따르면, 수익 실현 비율이 80%에 달했는데 평균 수익은 848만원, 평균 손실은 496만원이었습니다(출처: 신한투자증권 분석, 2026년 1분기, 언론보도 기준).
다만 이 수치는 수익을 실현해서 매도한 거래만 집계한 것이고, 아직 팔지 않은 손실 포지션은 빠져 있다는 단서를 함께 봐야 공정합니다. 그래도 이익은 서둘러 확정하고 손실은 계속 미룬다는 구조가 여기서도 되풀이되고 있는 건 분명해 보입니다.
많이 사고팔수록 오히려 수익이 나빠진다
처분효과만큼 중요한 게 거래 빈도 자체입니다. 바버와 오딘이 2000년 발표한 연구가 이걸 정면으로 보여주는데요. 1991~1996년 대형 할인증권사의 가정용 계좌 66,465개를 분석한 결과, 거래를 가장 자주 한 상위 그룹의 연평균 수익률은 11.4%였습니다. 같은 기간 시장 수익률(사실상 S&P500 등가)은 17.9%였고요(출처: Barber & Odean (2000)).
숫자로 감을 잡아보려고 직접 계산해봤습니다. 1,000만원을 10년 굴린다고 가정하면 연 11.4% 복리로는 약 2,943만원, 연 17.9%로는 약 5,190만원이 됩니다. 같은 원금, 같은 기간인데 최종 금액이 약 2,246만원 벌어지는 셈이죠.
물론 이건 두 그룹의 과거 평균 수익률을 그대로 복리에 대입한 계산 예시일 뿐입니다. 어느 쪽 수익률도 앞으로 기대해도 된다는 뜻이 아니고, 실제 개인이 이 숫자를 재현한다는 보장은 더더욱 없습니다. 다만 잦은 매매가 수익률을 갉아먹는 방향으로 작용한다는 흐름만큼은 여러 연구에서 반복해서 나타납니다.
행동격차 — 상품 수익률과 내 수익률이 다른 이유
펀드나 ETF의 공시 수익률과 실제 투자자가 손에 쥐는 수익률이 다르다는 것도 비슷한 맥락입니다. 이 차이를 행동격차(behavior gap)라고 부르는데요.
모닝스타의 “Mind the Gap 2025” 리포트를 보면, 2015~2024년 10년 동안 미국 뮤추얼펀드와 ETF의 평균 수익률은 8.2%였는데 실제 투자자가 거둔 수익률은 7.0%로 연간 약 1.2%포인트 차이가 났습니다(출처: Morningstar “Mind the Gap 2025”, 2025-08-13). 펀드가 낸 수익의 약 15%를 투자자가 놓쳤다는 뜻이에요. 상품은 제자리에서 벌어줬는데 사람들이 고점에 더 사고 저점에 더 팔면서 그만큼 못 챙긴 겁니다.
DALBAR가 2026년 발표한 QAIB 리포트(2025년 데이터 기준)에서는 이 격차가 조금 다르게 나왔습니다. S&P500 수익률 17.88%에 평균 개인투자자 수익률 17.16%로, 갭이 0.72%포인트까지 좁혀졌거든요.
1985년 통계 집계 이후 세 번째로 작은 갭이자 2012년 이후 최저 수준이라고 하는데(출처: DALBAR, 2026 QAIB Report), 투자자들의 행동이 예전보다 나아졌다는 신호로 볼 여지도 있어 보입니다. 그래도 격차가 사라진 건 아니라는 게 핵심이고요.
규칙 기반 투자가 이 틈을 어떻게 메우는가
여기서 규칙 기반 투자가 왜 나오는지가 명확해집니다. 퀀트 투자란 무엇인가 글에서 다뤘듯이, 퀀트 투자는 감이 아니라 미리 정한 조건과 데이터로 매매를 결정하는 방식입니다.
규칙 기반 투자는 이걸 조금 더 넓게 잡은 개념인데요. 꼭 정교한 프로그램이 아니어도 “이 가격 밑으로 내려가면 판다”, “1년에 한 번 비중을 원래대로 되돌린다” 같은 사전 규칙을 정해두고 그대로 실행하는 방식이면 다 포함됩니다.
효과가 있는 이유는 단순합니다. 규칙이 판단의 순간에서 감정을 떼어내기 때문인데요. 리밸런싱 주기를 미리 정해두는 방법을 예로 들면, 오른 자산을 “더 오를 것 같은데” 하며 더 사고 싶어지는 바로 그 순간에 규칙은 오히려 비중을 줄이라고 기계적으로 지시합니다. 처분효과와 정반대 방향으로 작동하는 거죠.
손절 기준도 마찬가지입니다. “조금만 더 버텨보자”는 마음이 드는 순간, 미리 정해둔 숫자가 대신 결정을 내려줍니다.
규칙의 한계 — 만능이 아니다
다만 규칙 기반 투자를 만병통치약처럼 여기면 곤란합니다. 크게 두 가지 함정이 있는데요.
첫 번째는 과최적화(overfitting)입니다. 과거 데이터에 지나치게 딱 맞도록 조건을 짜맞추면, 그 규칙은 과거에는 완벽해 보여도 앞으로의 시장에서는 전혀 안 맞을 수 있어요. 어떤 종목이 특정 요일에 특정 폭으로 움직였던 우연을 규칙으로 굳혀버리면, 그건 통계가 아니라 우연을 법칙으로 착각한 겁니다.
두 번째는 더 현실적인 문제입니다. 규칙을 세워놓고도 정작 그 상황이 오면 못 지키는 경우인데요. 손절 기준을 5%로 정해놓고도 막상 5%에 닿으면 “며칠만 더 지켜보자”며 스스로 규칙을 무시하는 일이 흔합니다.
뇌동매매와 FOMO 글에서 다룬 것처럼, 규칙이 있어도 실행하는 건 결국 사람이라 감정에 밀려 이탈하는 순간이 생깁니다. 규칙은 편향을 줄여주는 도구이지 편향을 없애주는 마법은 아니라는 걸 인정하고 시작하는 게 맞아 보이네요.
오늘 당장 만들 수 있는 최소 규칙 3가지
거창한 시스템이 없어도 시작할 수 있는 규칙 세 가지를 정리해봤습니다.
매수 전 체크리스트: 사기 전에 “왜 사는지”를 한 줄로 적어두는 겁니다. 나만의 투자 원칙 체크리스트처럼 종이 한 장에 매수 이유를 적어두면, 나중에 “그때 왜 샀더라” 하며 흔들리는 걸 줄일 수 있습니다.
손절 기준 사전 설정: 손절 기준은 사기 전에 정하는 것입니다. 매수와 동시에 “몇 % 내려가면 정리한다”는 숫자를 미리 못 박아두면, 손실이 커진 다음에 감정으로 결정하는 상황을 피하기 쉬워집니다.
리밸런싱 주기 고정: 1년에 한 번이든 반기에 한 번이든, 정해진 때에만 비중을 조정하기로 해두면 시장이 출렁일 때마다 매번 반응하지 않게 됩니다.
정리
손실회피와 처분효과는 의지가 약해서 생기는 일이 아니라 뇌가 원래 그렇게 반응한 결과입니다. 자주 매매할수록 수익률이 나빠지는 경향, 상품 수익률과 내 수익률 사이의 행동격차도 여러 연구에서 반복해서 확인되고요.
규칙 기반 투자는 이 편향을 없애주는 장치가 아니라, 판단의 순간에 감정이 끼어들 틈을 좁혀주는 장치라고 보는 편이 정확할 것 같습니다. 투자 결과에 대한 판단과 책임은 결국 각자의 몫이니, 규칙 하나를 먼저 종이에 적어보는 것부터 시작해도 충분해 보이네요.
다음 편에서는 이런 규칙을 실제로 데이터로 만들고 검증하는 과정을 조금 더 실전적으로 다뤄보겠습니다. 읽어주셔서 고맙습니다.
※ 이 글은 개인이 공부하며 정리한 기록으로, 특정 상품·종목에 대한 투자
권유가 아닙니다. 모든 투자의 판단과 책임은 투자자 본인에게 있으며,
글의 수치는 작성일 기준이므로 실제 가입·투자 전 최신 정보를 꼭 확인하세요.
