MARKET RESEARCH
命中率與校準
全部是當天真的寫下來、之後才對答案的紀錄
目前選取的評估
每天真的寫下來,h=5;33 列,期間 2026-08-17 ~ 2026-10-14。
原始方向命中 42.4%;區間涵蓋 84.8% (名目 80%)。方向、機率、區間與交易效用各有不同評估目的,不能互相替代。
本頁整體、方向拆解及校準均受來源與天期篩選控制。 Day 1 政策進度、跨來源校準比較、live 診斷與 live h1 走勢另有固定範圍,標在各卡。
評估來源與分母對帳
source=live;h=5;期間 2026-08-17 ~ 2026-10-14;33 列/33 個預測日;模型版本 unknown
evaluation_snapshot_id:16f8d2e1f6ac5affc7ddda34562f0b029c377ad94dbb8642304d86784d1ce103
| metric_id | 有效 n | 樣本 |
|---|---|---|
| live.h5.direction_accuracy | 33 | prediction IDs2026-08-17-h5, 2026-08-20-h5, 2026-08-21-h5, 2026-08-24-h5, 2026-08-25-h5, 2026-08-26-h5, 2026-08-27-h5, 2026-08-28-h5, 2026-08-31-h5, 2026-09-01-h5, 2026-09-02-h5, 2026-09-03-h5, 2026-09-04-h5, 2026-09-07-h5, 2026-09-08-h5, 2026-09-09-h5, 2026-09-10-h5, 2026-09-11-h5, 2026-09-14-h5, 2026-09-15-h5, 2026-09-16-h5, 2026-09-17-h5, 2026-09-18-h5, 2026-09-21-h5, 2026-09-22-h5, 2026-09-23-h5, 2026-09-24-h5, 2026-09-29-h5, 2026-09-30-h5, 2026-10-01-h5, 2026-10-02-h5, 2026-10-05-h5, 2026-10-06-h5 |
| live.h5.interval_coverage | 33 | prediction IDs2026-08-17-h5, 2026-08-20-h5, 2026-08-21-h5, 2026-08-24-h5, 2026-08-25-h5, 2026-08-26-h5, 2026-08-27-h5, 2026-08-28-h5, 2026-08-31-h5, 2026-09-01-h5, 2026-09-02-h5, 2026-09-03-h5, 2026-09-04-h5, 2026-09-07-h5, 2026-09-08-h5, 2026-09-09-h5, 2026-09-10-h5, 2026-09-11-h5, 2026-09-14-h5, 2026-09-15-h5, 2026-09-16-h5, 2026-09-17-h5, 2026-09-18-h5, 2026-09-21-h5, 2026-09-22-h5, 2026-09-23-h5, 2026-09-24-h5, 2026-09-29-h5, 2026-09-30-h5, 2026-10-01-h5, 2026-10-02-h5, 2026-10-05-h5, 2026-10-06-h5 |
| live.h5.calibration | 33 | prediction IDs2026-08-17-h5, 2026-08-20-h5, 2026-08-21-h5, 2026-08-24-h5, 2026-08-25-h5, 2026-08-26-h5, 2026-08-27-h5, 2026-08-28-h5, 2026-08-31-h5, 2026-09-01-h5, 2026-09-02-h5, 2026-09-03-h5, 2026-09-04-h5, 2026-09-07-h5, 2026-09-08-h5, 2026-09-09-h5, 2026-09-10-h5, 2026-09-11-h5, 2026-09-14-h5, 2026-09-15-h5, 2026-09-16-h5, 2026-09-17-h5, 2026-09-18-h5, 2026-09-21-h5, 2026-09-22-h5, 2026-09-23-h5, 2026-09-24-h5, 2026-09-29-h5, 2026-09-30-h5, 2026-10-01-h5, 2026-10-02-h5, 2026-10-05-h5, 2026-10-06-h5 |
- 無排除
快照識別此來源與篩選後的評估內容;尚非跨檔案原子發布。unknown 代表原帳未保存版本,不推定為目前模型。
事前紀錄 Day 1(2026-08-26 起算)使用者 2026-08-26 決定今天起算,並把既有 8 筆納入
🔴 這份 prereg 是在看過既有 8 筆之後寫的——所以它自己把 written_before_any_data = false 寫在最前面。判準只能來自更早凍結的東西(晉升階梯、五折基線)或純機械推導(ECE 下限),沒有一條可以用「因為那 8 筆長這樣」當理由。
那 8 筆不構成任何證據:模型 8 次全部猜「震盪」,而 n=8 的 ECE 下限是門檻的 2.8 倍。納入它們的意義只有一個——讓計數有一個明確的起點。
| Horizon | 樣本 | 判定 | 依據 | 目前數字 |
|---|---|---|---|---|
| h=1 | 38 | ⏳ insufficient | h=1 只有 38 筆(第一次回看要 60 筆)。只報數字,不下判定——決策規則第 1 條。 | 原始 0.474;平衡 0.479;涵蓋 0.842;ECE 下限 0.1053(門檻的 2.11 倍) |
| h=3 | 35 | ⏳ insufficient | h=3 只有 35 筆(第一次回看要 60 筆)。只報數字,不下判定——決策規則第 1 條。 | 原始 0.457;平衡 0.459;涵蓋 0.829;ECE 下限 0.1260(門檻的 2.52 倍) |
| h=5 | 33 | ⏳ insufficient | h=5 只有 33 筆(第一次回看要 60 筆)。只報數字,不下判定——決策規則第 1 條。 | 原始 0.424;平衡 0.404;涵蓋 0.849;ECE 下限 0.1151(門檻的 2.3 倍) |
判準寫在 config/prereg-2026-08-26-live-day1.toml,由 tx.live_verdict 每天重算——寫在文件裡等人去讀的判準,實際判讀時會變成「看起來還不錯」。 🔴 停止規則:250 筆之後四條判準仍不過,結論是「沒有可交易的 edge」,停止投入,不換特徵重試。
校準樣本與模擬診斷(h=5;跨來源比較,來源篩選不適用)
固定預測機率、以 Bernoulli(p) 模擬結果,得到完全校準假設下的 ECE 分布。 完全校準不等於每次分類都正確;null 中位數也不是誤差下界。
| 資料來源 | 有效配對 n | raw ECE | null 中位數 | null-adjusted diagnostic | 模擬參考 |
|---|---|---|---|---|---|
| 歷史模擬(研究段) | 3,835 | 0.1243 | 0.0128 | 0.1115 | null 中位數低於門檻 |
| 凍結模型重考 | 245 | 0.1672 | 0.0515 | 0.1158 | null 中位數為門檻 1.0 倍 |
| 歷史模擬(到最新) | 4,097 | 0.1242 | 0.0128 | 0.1114 | null 中位數低於門檻 |
| 每天真的寫下來 ← | 33 | 0.0454 | 0.1151 | 0.0000 | null 中位數為門檻 2.3 倍 |
診斷量 = max(0, raw ECE − null 中位數),零不代表真實校準誤差為零。 固定 10 箱、200 次模擬、seed=0;凍結判準仍使用原始指標,未因本表調整。
🔍 這個訊號真的有用嗎(投資顧問視角)資料:事前 live 紀錄(已結算 h1 38/h3 35/h5 33 筆)——與上方切換的資料來源無關。以下是訊號窗口診斷,尚非可獨立重算的投組績效
退化檢查:預測有分布(最多的「偏多」佔 47%)
它給的範圍,有沒有比「隨手畫一條」還窄?
| 預測天期 | 它給的範圍寬度 | 隨手畫的寬度 | 倍數 | 判定 |
|---|---|---|---|---|
| 1 日 | 3.50% | 4.24% | 0.82 | ✅ 比不做窄 |
| 3 日 | 6.35% | 7.64% | 0.83 | ✅ 比不做窄 |
| 5 日 | 8.26% | 8.87% | 0.93 | ✅ 比不做窄 |
比值大於 1 代表它給的範圍,比「照過去一年的漲跌幅隨手畫一條」還寬——那再漂亮的命中比例,也只是換個好聽的方式說「我不知道」。拿近一年而不是全部歷史當比較基準,是因為它的範圍會跟著近期波動伸縮,用全歷史比會在行情特別平靜或特別亂的時候誤判。
技巧分數(相對「猜多數類」的提升)
| Horizon | n | 命中率 | 基礎率 | skill |
|---|---|---|---|---|
| 1 日 | 38 | 47% | 43% | +0.08 |
| 3 日 | 35 | 46% | 39% | +0.11 |
| 5 日 | 33 | 42% | 38% | +0.07 |
skill ≤ 0 表示不如直接猜多數類。目前每個 horizon 只有 33 筆(第一次判讀要 60 筆),這些數字尚無統計意義——列出來是為了讓它隨閉環累積,而不是現在拿來下結論。
經濟意義(扣一買一賣成本 0.010%,以最新收盤價換算;回測頁寫的 bp 是以 2010–2025 中位價換算,固定費用佔比不同,兩個數字講的是同一套成本參數)
| Horizon | 進場率 | 照訊號做的平均損益 | 一直做多 |
|---|---|---|---|
| 1 日 | 74% | +0.101% | +0.166% |
| 3 日 | 86% | +0.576% | +0.620% |
| 5 日 | 85% | +0.141% | +1.151% |
中性訊號視為空手(不進場、不計成本),所以進場率 0% 時損益恆為 0。「不虧錢」在這裡不等於「有用」——它只代表這段期間模型沒有表態。要判斷這是棄權還是正確迴避,看上方的波動情境:震盪帶被撐寬時,不進場本身就是一個合理的決定。
整體
跟事前基準比(live,h=5,同一批樣本)⚠️ 筆數很少,只能描述、不能判定;基準只用每個預測日當下已成熟的資料(tx.skill),不用測試集自己的比例。歷史段已被看過多次,這張表是診斷,不是未見資料的確認
| 上漲機率(P↑) | Brier(越低越好) | 說明 |
|---|---|---|
| 模型 | 0.2274 | 本頁選取的來源與天期 |
| 事前氣候基準 | 0.2464 | 每個預測日只用當天收盤已成熟的 h 日標籤算上漲比例(平均 37.8%;這批實際 42.4%) |
| 永遠說 50% | 0.2500 | 算術參考,不是這個事件的事前基準 |
Brier skill(相對事前氣候基準)= +7.7%(n=33)——模型的上漲機率比「每天都說歷史上漲比例」好一點(Brier skill 為正)。
| 80% 區間 | 涵蓋率 | 低於下緣 | 高於上緣 | 平均寬度 | 區間分數(越低越好) |
|---|---|---|---|---|---|
| 模型(q10–q90) | 84.8% | 0.0% | 15.2% | 8.43% | 0.0975 |
| 事前經驗分位(最近 250 筆已成熟) | 93.9% | 6.1% | 0.0% | 8.85% | 0.0899 |
| 條件涵蓋(sigma20 三分位) | n | 模型 | 基準 |
|---|---|---|---|
| 低波動 | 11 | 100.0% | 90.9% |
| 中波動 | 11 | 63.6% | 90.9% |
| 高波動 | 11 | 90.9% | 100.0% |
區間分數 基準較好(0.0975 vs 0.0899,n=33)。區間分數把寬度與漏抓一起計價:開很寬也涵蓋得到 80%,但分數會變差,所以「涵蓋率接近 80%」本身不證明能力。
這個 horizon 的彙總(h=5;要比較 1/3/5 日請用上方切換)
| Horizon | 筆數 | 方向命中率 | 區間涵蓋率 | 平均報酬 |
|---|---|---|---|---|
| 5 日 | 33 | 42.4% | 84.8% | +1.151% |
拆開看:說偏多/中性/偏空時各自準不準
| 預測方向 | 筆數 | 方向命中率 | 平均報酬 |
|---|---|---|---|
| 偏空 | 10 | 20.0% | +1.118% |
| 中性 | 5 | 80.0% | +2.136% |
| 偏多 | 18 | 44.4% | +0.895% |
隔天預測的猜對率走勢(真的寫下來的紀錄:已對答案 38 筆/38 天)
圓點 = 那天對或錯(1 或 0),虛線 = 到目前為止的平均, 實線 = 滾動平均。 只畫「隔天」這一種——五天後的難度不同,混在一起看會被「當天剛好 輪到哪一種到期」帶著跳。目前筆數還很少,任何看起來的趨勢都只是巧合: 這張圖現在的用途是確認系統每天有在累積,不是判斷模型好不好。 累積到 60 次時才用事先寫好的標準判定。
說幾成漲,就真的有幾成漲嗎
淺色 = 預測上漲機率,深色 = 實際上漲比例。 raw ECE 0.0454(既有門檻 < 0.05)|Brier 0.2274。
有效校準配對 33 筆;10 個等寬箱,200 次 Bernoulli(p) 模擬,seed=0。null 中位數 0.1151、95 分位 0.2160。null-adjusted diagnostic = 0.0000,它是模擬參考量,不能推論真實誤差為零或模型通過。
Brier 同時受校準、判別力與事件基礎率影響。固定 0.5 預測的 0.25 只是一個算術參考,
不是這個上漲事件的事前基礎率基準。校準分數不能單獨證明預測或交易能力。