백테스트가 진짜인지, 과최적화를 여덟 단계로 직접 뜯어봤습니다

안녕하세요, 모아쌤입니다.

자동매매 이야기를 하면 가장 많이 듣는 말이 이겁니다. 딱 봐도 과최적화 아니냐. 솔직히 말씀드리면 절반은 맞는 말입니다. 백테스트 수익률만 화려한 자동매매, 그 대부분이 실제로 과최적화니까요. 그래서 오늘은 그 의심을 억지로 지우자는 게 아니라, 저희가 이 전략을 어떻게 여덟 단계로 직접 뜯어봤는지 그 기록을 하나도 빼지 않고 정리해 드리겠습니다.

먼저, 과최적화가 무엇인가

과최적화는 전략을 과거 데이터에 지나치게 정밀하게 맞춰서, 과거 성적은 높은데 정작 미래에는 통하지 않는 상태입니다. 시험 문제를 미리 외운 학생과 같습니다. 그 시험지에선 백 점이지만, 문제가 조금만 바뀌면 무너지죠.

그리고 이건 나쁜 마음을 먹어야 생기는 게 아닙니다. 설정값을 수만 가지로 바꿔 돌리면, 그중엔 과거 6년과 우연히 딱 맞아떨어지는 조합이 반드시 나옵니다. 로또를 만 장 사면 몇 등짜리 하나는 나오는 것과 같습니다. 그래서 조합을 많이 돌린 전략일수록 검증이 더 필요합니다. 백테스트 점수 자체는 만들 때 이미 본 데이터로 다시 채점한 점수라, 그것만으로는 아무것도 증명하지 못합니다.

그래서 기준부터 세웠습니다

과최적화를 걸러내는 기준을 뒤집으면, 그게 그대로 좋은 전략의 조건입니다. 저희는 일곱 가지로 봅니다. 수익이 골고루 나오나, 오를 때도 내릴 때도 버나, 어느 기간을 잘라도 꾸준하나, 설정을 조금 바꿔도 안 무너지나, 비용을 더 내도 살아남나, 군더더기 없나, 그리고 만들 때 한 번도 쓰지 않은 데이터에서 통하나. 여기서 하나만 봐주세요. 이 목록에 백테스트 수익률은 없습니다.

우리가 실제로 거친 여덟 단계

말로만 검증했다고 하면 믿기 어려우실 테니, 저희가 밟은 순서를 그대로 보여드리겠습니다.

1단계 · 대량 최적화로 출발

남들처럼 설정 수만 가지를 다 돌려서 성적 좋은 후보를 뽑았습니다. 출발점 전략이 진입 규칙 12개에 백테스트 3,590%였습니다. 하지만 여기서 멈추면 그게 과최적화라, 이 숫자를 하나도 믿지 않고 검증을 시작했습니다.

2단계 · 수익이 어디서 나왔는지 분해

3,590%를 규칙 12개로 쪼개봤습니다. 거래도 충분하고 손익도 일관된 진짜배기 규칙은 두 개, 이 둘이 수익의 62%를 벌었습니다. 문제는 나머지였습니다. 7년간 딱 여섯 번 거래하고 안 진 규칙이 있었는데, 여섯 번이면 운인지 실력인지 구분이 안 됩니다. 다 합치니 전체 수익의 약 75%가 이런 소표본 착시였습니다.

3단계 · 군더더기 제거

거래 수가 부족하거나 발동조차 안 한 규칙을 지웠습니다. 12개가 4개로 줄었고, 백테스트 수익률은 3,590%에서 1,708%로 반 넘게 내려갔습니다. 대신 손익비는 3.66에서 3.44로 거의 그대로였습니다. 착시만 걷어낸 겁니다. 숫자를 예쁘게 꾸미려는 사람이 자기 성적을 스스로 반토막 내지는 않습니다.

4단계 · 빈 곳에 새 규칙을 넣되 통계부터

추세 구간에서 진입을 안 하고 있어서 새 규칙을 넣었는데, 백테스트 성적이 아니라 신호 자체의 통계부터 봤습니다. 신호 뒤 48시간을 7년치 집계하니 평균 +1.20%, 승률 55~59%로 우위가 있었습니다. 그런데 함정이 있었습니다. 우위가 있는데도 손절을 좁게 잡으니 적자가 났고, 넓히니 흑자로 돌아섰습니다. 숫자를 억지로 맞춘 게 아니라 안 되는 이유를 논리로 찾아 고친 겁니다.

5단계 · 큰 추세를 끝까지 타도록 재조정

추세 손절이 너무 좁아 큰 추세를 초반에 끊고 있었는데, 넓히니 같은 낙폭에 수익이 25% 늘었습니다. 그리고 데이터가 알려준 건, 롱은 멀리 길게 가져가고 숏은 짧게 익절하는 게 유리하다는 것이었습니다. 제가 정한 게 아니라 비트코인이 그렇게 생긴 겁니다.

6단계 · 설정·기간·비용을 바꿔 다시 검증

완성된 설정을 흔들어봤습니다. 설정을 한 칸씩 바꾼 변형 24개가 전부 흑자였고, 기간을 앞뒤로 갈라도 양쪽 다 흑자였습니다. 파라미터를 흔들어보니 봉우리 하나만 뾰족한 게 아니라 주변이 함께 높은 평탄대였습니다.

7단계 · 다른 종목·시간대에 옮겨 보기

반대로, 같은 전략을 20개 종목과 다른 시간대에 옮겨봤습니다. 결과는 대부분 적자였습니다. 안 좋은 것 같지만 오히려 반대입니다. 저희 전략의 시간 상수들이 비트코인 1시간봉 리듬에 맞춰져 있어서 다른 데선 안 통하는 게 당연합니다. 우위가 요행이 아니라 이 시장 고유의 리듬에서 나온다는 뜻입니다.

8단계 · 마지막으로 사용하지 않은 기간으로 시험

이게 제일 중요합니다. 2019년부터 2024년까지 데이터만으로 전략을 만들고 논리를 검증했습니다. 그리고 2025년과 2026년은 빌드에 쓰지 않고 따로 떼어뒀다가, 다 완성한 뒤에 그제서야 채점했습니다. 만들 때 한 번도 안 본 기간으로 시험한 거고, 이걸 아웃오브샘플(홀드아웃)이라고 합니다. 떼어둔 여섯 개 분기가 전부 흑자였고, 결정적으로 만들 때 1등이던 설정이 처음 보는 기간에서도 1등이었습니다. 끼워맞춘 전략은 보통 여기서 순위가 무너집니다.

하나의 숫자가 아니라 분포를 봅니다

여기까지가 만드는 과정이었고, 이제 최종 배포본을 통계로 뜯어보겠습니다. 순수익 하나는 운으로도 나옵니다. 진짜 봐야 하는 건 그 수익이 시간과 거래에 걸쳐 어떻게 퍼져 있느냐입니다. 배포본 성적은 누적 +2,221%, 손익비 3.28, 승률 64.8%, 최대 낙폭 9.1%(금액 7,188 USDT), 연도로는 2020년부터 2026년까지 전부 흑자입니다. 초기 시드 1만 달러, 단리 기준입니다.

연도별로 보면 7년이 한 해도 빠짐없이 플러스였고, 비트코인이 65% 빠진 2022년 하락장에서도 플러스였습니다. 양방향 전략이라 가능한 일입니다. 더 잘게 분기로 보면 27개 분기 중 26개가 흑자였고, 가장 나빴던 분기도 마이너스 13.7% 정도였습니다. 거래 하나하나로 봐도 왼쪽 손실 쪽은 짧고 오른쪽 이익 쪽으로 꼬리가 깁니다. 손실은 짧게 끊고 이익은 길게 태우는 설계가 그대로 나온 겁니다.

파라미터가 칼날인가 평탄대인가

좋은 설정은 그 옆 설정도 통해야 합니다. 한 점에서만 솟으면 끼워맞춘 겁니다. 핵심 설정 7개를 무작위로 바꾼 1,000개 조합을 뿌려봤더니, 순수익과 낙폭을 같이 봤을 때 좋은 영역에 맞교환이 없었습니다. 낙폭을 더 떠안아야 수익이 오르는 게 아니라, 가장 낮은 낙폭에서 가장 높은 수익이 함께 나오고, 현재 기본값이 그 모서리에 있습니다. 그리고 1,000개 중 현재 기본값을 넘은 조합은 열아홉 개, 1.9%뿐이었습니다. 인샘플 1등을 좇는 건 과최적화라 일부러 채택하지 않았습니다.

왜 하필 비트코인 1시간봉인가

여기서 오해 하나만 풀겠습니다. 좋은 전략이면 아무 종목에서나 다 통해야 하는 것 아니냐고 하실 수 있는데, 실제론 반대입니다. 모든 시장에서 늘 통하는 마법 전략은 없습니다. 시장마다 참여자 심리도, 주로 보는 시간대도 달라서 매매 스타일 자체가 다릅니다. 비트코인은 오를 때 추세가 길게 가고, 내릴 때 반등이 잦고, 추세가 한없이 가지는 않습니다. 그래서 롱은 길게 태우고, 숏은 짧게 익절하도록 맞췄습니다. 과최적화가 한 시장 안의 우연한 잡음에 맞추는 것이라면, 특화는 그 시장의 실제 구조에 맞추는 것입니다. 가르는 기준이 안 본 데이터에서 통하느냐이고, 저희는 통했습니다.

그래도 정직하게 남길 두 가지

검증을 통과했다고 끝이 아닙니다. 첫째, 백테스트 수익률을 그대로 기대하시면 안 됩니다. 같은 데이터를 여러 번 보며 설정을 골랐기 때문에, 실제 미래 수익은 더 낮게 잡는 게 합리적입니다. 둘째, 시장 성격 자체가 변하면 어떤 전략도 영향을 받습니다. 과최적화 검증을 통과했다는 것과 미래 수익이 보장된다는 것은 완전히 다른 이야기입니다.

정리

저희가 여덟 단계로 확인한 결론은, 이 전략의 우위가 안 본 데이터에서도 다시 나타나는 실재하는 패턴이지 과거에 끼워맞춘 착시가 아니라는 것입니다. 단, 비트코인 1시간봉에 특화되어 있고, 미래 수익은 백테스트보다 낮게 잡아야 합니다. 저희가 끝까지 붙잡은 건 높은 숫자가 아니라 논리적인 진입을 유지할 수 있느냐였습니다. 그래서 착시로 벌린 수익을 스스로 반토막까지 냈던 거고요.

---

이 글은 교육 자료입니다. 위 수익률과 낙폭은 초기 시드 1만 달러, 단리(고정 비중) 기준의 과거 거래기록·백테스트 분석이며, 과거의 성과가 미래의 수익을 보장하지 않습니다. 낙폭 비율(9.1%)은 잔고 대비라 시드가 작을수록 체감이 크니 절대 금액(7,188 USDT)으로도 함께 보시길 권합니다. 선물 매매에는 청산 위험이 있고, 결과는 본인 설정값과 시장에 따라 다릅니다. 모든 판단은 본인 몫입니다.