Ex 2.1.5: disjoint vocabularies and more named colors

Data provenance

ex-2.1.5 · 267653a-dirty (dirty) · run 2026-07-23

via reports/m2/ex-2.1.5/arrays, reports/m2/ex-2.1.5/metrics

import%20marimo%0A%0A__generated_with%20%3D%20%220.23.16%22%0Aapp%20%3D%20marimo.App(%0A%20%20%20%20width%3D%22medium%22%2C%0A%20%20%20%20app_title%3D%22Ex%202.1.5%3A%20disjoint%20vocabularies%20and%20more%20named%20colors%22%2C%0A%20%20%20%20css_file%3D%22..%2F..%2Freport.css%22%2C%0A%20%20%20%20auto_download%3D%5B%22html%22%5D%2C%0A)%0A%0Awith%20app.setup(hide_code%3DTrue)%3A%0A%20%20%20%20import%20json%0A%20%20%20%20import%20tempfile%0A%20%20%20%20from%20pathlib%20import%20Path%0A%0A%20%20%20%20import%20marimo%20as%20mo%0A%20%20%20%20import%20matplotlib.pyplot%20as%20plt%0A%20%20%20%20import%20numpy%20as%20np%0A%0A%20%20%20%20%23%20Marimo%20puts%20the%20notebook%20directory%20on%20sys.path%2C%20so%20the%20experiment%0A%20%20%20%20%23%20definition%20is%20importable%20%E2%80%94%20refs%20and%20sweep%20constants%20can't%20drift.%0A%20%20%20%20from%20experiment%20import%20ARMS%2C%20ARRAYS_REF%2C%20CROSS_REF%2C%20METRICS_REF%2C%20SEEDS%0A%20%20%20%20from%20mini.reports%20import%20report_bundle%2C%20use_publisher%0A%20%20%20%20from%20mini.store%20import%20project_store%0A%20%20%20%20from%20mini.vis%20import%20light_dark%2C%20themed%0A%20%20%20%20from%20sca%20import%20baselines%20as%20bl%0A%20%20%20%20from%20sca%20import%20vis%20as%20sv%0A%20%20%20%20from%20sca.compute%20import%20geometry%20as%20gm%0A%20%20%20%20from%20sca%20import%20vis_probes%20as%20vp%0A%20%20%20%20from%20sca.data%20import%20mixed_vocab%20as%20mv%0A%20%20%20%20from%20sca.data.mixed_vocab%20import%20LANDMARKS%0A%0A%20%20%20%20use_publisher(report_bundle(__file__))%0A%0A%20%20%20%20def%20load_results()%20-%3E%20tuple%5Bdict%2C%20dict%5Bstr%2C%20np.ndarray%5D%5D%20%7C%20None%3A%0A%20%20%20%20%20%20%20%20%22%22%22Resolve%20metrics%20and%20stacked%20per-condition%20arrays%20from%20the%20store%2C%20or%20None%20if%20unpublished.%22%22%22%0A%20%20%20%20%20%20%20%20store%20%3D%20project_store()%0A%20%20%20%20%20%20%20%20arts%20%3D%20store.get_refs(%5BMETRICS_REF%2C%20ARRAYS_REF%5D)%0A%20%20%20%20%20%20%20%20m_art%2C%20a_art%20%3D%20arts%5BMETRICS_REF%5D%2C%20arts%5BARRAYS_REF%5D%0A%20%20%20%20%20%20%20%20if%20m_art%20is%20None%20or%20a_art%20is%20None%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20None%0A%20%20%20%20%20%20%20%20with%20tempfile.TemporaryDirectory()%20as%20d%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20m_path%2C%20a_path%20%3D%20store.get_many(%5B(m_art%2C%20Path(d)%20%2F%20%22metrics.json%22)%2C%20(a_art%2C%20Path(d)%20%2F%20%22arrays.npz%22)%5D)%0A%20%20%20%20%20%20%20%20%20%20%20%20metrics%20%3D%20json.loads(m_path.read_text())%0A%20%20%20%20%20%20%20%20%20%20%20%20with%20np.load(a_path)%20as%20z%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20arrays%20%3D%20%7Bk%3A%20z%5Bk%5D%20for%20k%20in%20z.files%7D%0A%20%20%20%20%20%20%20%20return%20metrics%2C%20arrays%0A%0A%20%20%20%20def%20load_cross()%20-%3E%20dict%20%7C%20None%3A%0A%20%20%20%20%20%20%20%20%22%22%22Cross-form%20exact%20match%20for%20the%20bridge%20condition%2C%20or%20None%20if%20it%20hasn't%20been%20scored.%0A%0A%20%20%20%20%20%20%20%20Written%20by%20%60cross_eval.py%60%2C%20which%20sits%20outside%20the%20sweep%20DAG%20%E2%80%94%20see%20H5.%0A%20%20%20%20%20%20%20%20%22%22%22%0A%20%20%20%20%20%20%20%20store%20%3D%20project_store()%0A%20%20%20%20%20%20%20%20art%20%3D%20store.get_refs(%5BCROSS_REF%5D)%5BCROSS_REF%5D%0A%20%20%20%20%20%20%20%20if%20art%20is%20None%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20None%0A%20%20%20%20%20%20%20%20with%20tempfile.TemporaryDirectory()%20as%20d%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20json.loads(store.get(art%2C%20Path(d)%20%2F%20%22cross.json%22).read_text())%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%20Ex%202.1.5%3A%20disjoint%20vocabularies%20and%20more%20named%20colors%0A%0A%20%20%20%20%2F%2F%2F%20tip%20%7C%0A%20%20%20%20%3C!--%20tl%3Bdr%20--%3E%0A%20%20%20%20Names%20and%20hex%20codes.%20Both%20sublanguages%20train%2C%20and%20each%20builds%20its%20own%20linear%20color%20geometry.%20But%20the%20two%20geometries%20resist%20being%20combined%2C%20even%20under%20pressure%20from%20a%20narrow%20residual%20stream.%20Keeping%20them%20apart%20apparently%20costs%20less%20than%20merging%20them%20would.%0A%20%20%20%20%2F%2F%2F%0A%0A%20%20%20%20Do%20two%20surface%20languages%20for%20the%20same%20domain%20converge%20on%20one%20internal%20geometry%3F%0A%0A%20%20%20%20The%20corpus%20for%20this%20experiment%20holds%20two%20sublanguages%20that%20are%20never%20seen%20together%3A%20color-mixing%20equations%20written%20with%20names%2C%20and%20the%20same%20arithmetic%20written%20as%20hex%20codes.%20For%20example%3A%0A%0A%20%20%20%20%60%60%60%0A%20%20%20%20melon%20%2B%20ultramarine%20%3D%20%E2%80%A6%0A%20%20%20%20%23e26%20%2B%20%2348a%20%3D%20%23958%0A%20%20%20%20%60%60%60%0A%0A%20%20%20%20Nothing%20directly%20ties%20a%20name%20to%20a%20hex%20value%3B%20there%20are%20no%20alias%20lines%20and%20no%20mixed-form%20equations.%20So%20if%20the%20model%20places%20both%20vocabularies%20in%20the%20same%20latent%20geometry%2C%20the%20cause%20is%20pressure%20internal%20to%20the%20network%2C%20e.g.%20capacity%20constraints.%0A%0A%20%20%20%20Graded%20concept%20labels%20would%20be%20computed%20from%20color%20values%20(see%20%5BM1%2FEx-1.7%5D)%2C%20so%20they%20can%20be%20used%20with%20either%20form.%20If%20this%20experiment%20finds%20that%20the%20two%20sublanguages%20use%20different%20latent%20representations%2C%20a%20later%20one%20could%20test%20whether%20anchoring%20the%20same%20concept%20in%20both%20forms%20pulls%20the%20geometries%20together%2C%20and%20it%20could%20quantify%20how%20many%20are%20needed.%20It%20would%20be%20remarkable%20if%20a%20single%20anchor%20aligned%20the%20whole%20cube.%0A%0A%20%20%20%20Lineage%3A%20the%20base%20language%20(ex-2.1.1%2C%202.1.2)%20bridged%20names%20and%20hex%20with%20alias%20and%20cross%20lines%2C%20and%20its%2027-name%20sub-grid%20turned%20out%20to%20be%20too%20sparse%20to%20grade%20(ex-2.1.4).%20The%20single-vocabulary%20experiments%20(ex-2.1.3%2C%202.1.4)%20removed%20hex%20entirely.%20This%20experiment%20keeps%20both%20forms%20but%20removes%20the%20bridge%2C%20and%20replaces%20the%20coarse%20named%20sub-grid%20with%20140%20real%20color%20names%20spread%20through%20the%20full%208-bit%20cube.%0A%0A%20%20%20%20%5BM1%2FEx-1.7%5D%3A%20https%3A%2F%2Fz0u.github.io%2Fex-preppy%2Fm1-color-mlp%2Fex-1.7-sparse-labels.html%23Labelling%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20_res%20%3D%20load_results()%0A%20%20%20%20mo.stop(_res%20is%20None%2C%20mo.md(%22_Results%20are%20not%20published%20yet%3B%20the%20analysis%20cells%20below%20render%20once%20they%20are._%22))%0A%20%20%20%20assert%20_res%20is%20not%20None%0A%20%20%20%20metrics%2C%20arrays%20%3D%20_res%0A%20%20%20%20cells%20%3D%20%7Bc%5B%22label%22%5D%3A%20c%20for%20c%20in%20metrics%5B%22cells%22%5D%7D%0A%20%20%20%20stats%20%3D%20metrics%5B%22corpus_stats%22%5D%0A%20%20%20%20cross%20%3D%20load_cross()%0A%0A%20%20%20%20def%20seed_mean(arm%3A%20str%2C%20set_name%3A%20str%2C%20key%3A%20str)%20-%3E%20float%3A%0A%20%20%20%20%20%20%20%20vals%20%3D%20%5Bcells%5Bf%22%7Barm%7D-s%7Bs%7D%22%5D%5B%22sets%22%5D%5Bset_name%5D%5Bkey%5D%20for%20s%20in%20SEEDS%5D%0A%20%20%20%20%20%20%20%20return%20float(np.mean(%5Bv%20for%20v%20in%20vals%20if%20v%20is%20not%20None%5D))%0A%0A%20%20%20%20def%20maps(arm%3A%20str%2C%20path%3A%20str)%20-%3E%20np.ndarray%3A%0A%20%20%20%20%20%20%20%20%22%22%22The%20seed%20mean%20of%20one%20stored%20depth%20%C3%97%20landmark%20map.%22%22%22%0A%20%20%20%20%20%20%20%20return%20np.mean(%5Barrays%5Bf%22%7Barm%7D-s%7Bs%7D%2F%7Bpath%7D%22%5D%20for%20s%20in%20SEEDS%5D%2C%20axis%3D0)%0A%0A%20%20%20%20return%20arrays%2C%20cells%2C%20cross%2C%20maps%2C%20seed_mean%2C%20stats%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Data%20(the%20language)%0A%0A%20%20%20%20First%2C%20let's%20define%20two%20RGB%20grids%20(cubes)%3A%0A%0A%20%20%20%20%7C%20Space%20%7C%20Levels%20%7C%20Hex%20digits%20%7C%20Example%20(%22cyan%22)%20%7C%20Precision%20%7C%20Colors%20%7C%0A%20%20%20%20%7C---%7C---%7C---%7C---%7C---%7C---%7C%0A%20%20%20%20%7C%20*hex%20grid*%20%7C%2016%20%7C%203%20%7C%20%60%230ff%60%20%7C%204-bit%20%7C%204%2C096%20%7C%0A%20%20%20%20%7C%20*full%20cube*%20%7C%20256%20%7C%206%20%7C%20%60%2300ffff%60%20%7C%208-bit%20%7C%2016%2C777%2C216%20%7C%0A%0A%20%20%20%20**Names.**%20The%20named%20palette%20comes%20from%20the%20%5Bxkcd%20color%20survey%5D%5Bxkcd%5D%3A%20all%20949%20names%2C%20ordered%20by%20farthest-point%20selection%20so%20that%20the%20first%20%24N%24%20form%20the%20most%20uniform%20palette%20available%20at%20that%20size.%20The%20center%20condition%20uses%20%24N%20%3D%20140%24%3B%20at%20that%20size%20the%20minimum%20and%20median%20nearest-neighbor%20distances%20are%20%E2%89%88%2041%20and%20%E2%89%88%2046%20(8-bit%20Euclidean)%2C%20against%204%20and%2027%20for%20the%20CSS%20keyword%20list.%20Names%20map%20to%20points%20on%20the%20full%20cube.%0A%0A%20%20%20%20%2F%2F%2F%20details%20%7C%20On%20not%20filtering%20by%20name%0A%20%20%20%20An%20earlier%20draft%20kept%20single-word%20names%20only%2C%20to%20avoid%20modifier%20words%20like%20%60light%60%20that%20spell%20out%20part%20of%20the%20value%3B%20but%20that%20filter%20swapped%20one%20selection%20bias%20for%20another%20and%20cost%20uniformity%20(28%2F37%20at%20the%20same%20size)%2C%20so%20the%20selection%20rule%20is%20now%20distance%20alone.%20Most%20selected%20names%20are%20multi-word%2C%20and%20the%20longest%20at%20%24N%20%3D%20140%24%20is%20%60blue%20with%20a%20hint%20of%20purple%60%2C%20so%20lines%20run%20to%20%E2%89%88%2086%20characters%20and%20the%20block%20size%20grows%20accordingly.%20If%20spelled%20modifiers%20look%20like%20they%20shortcut%20the%20name%20geometry%2C%20we%20could%20do%20a%20separate%20analysis%20of%20common%20substrings.%0A%20%20%20%20%2F%2F%2F%0A%0A%20%20%20%20%5Bxkcd%5D%3A%20https%3A%2F%2Fxkcd.com%2Fcolor%2Frgb%2F%0A%0A%20%20%20%20**Hex.**%20Hex%20operands%20are%20drawn%20from%20a%20fixed%20random%20subset%20of%20the%20hex%20grid%2C%20sampled%20point-by-point%20rather%20than%20as%20a%20regular%20sub-grid.%20The%20subset%20constrains%20operands%20only%3A%20the%20correct%20completion%20of%20a%20hex%20equation%20may%20be%20any%20point%20on%20the%20hex%20grid.%0A%0A%20%20%20%20To%20prepare%20training%20data%2C%20we%20pick%20two%20operands%20from%20one%20sublanguage%20(names%20or%20hex)%20and%20compute%20the%20result.%20The%20mix%20is%20the%20channel-wise%20round-half-up%20mean%2C%20always%20computed%20in%20the%20full%20cube%3B%20the%20two%20forms%20differ%20only%20in%20how%20values%20enter%20and%20leave%20it%3A%0A%20%20%20%20-%20Named%20colors%20already%20sit%20in%20the%20full%20cube%2C%20but%20the%20answer%20must%20be%20snapped%20to%20the%20nearest%20named%20color.%20Distance%20ties%20break%20by%20a%20coin%20flip%20seeded%20from%20the%20mix%20value.%0A%20%20%20%20-%20Hex%20operands%20are%20lifted%20to%20it%20by%20digit%20repetition%20(%60%23f80%60%20%E2%86%92%20%60%23ff8800%60)%20and%20the%20answer%20is%20snapped%20back%20to%20the%20hex%20grid.%0A%0A%20%20%20%20Two%20forms%20appear%20in%20every%20condition%20of%20the%20sweep%2C%20and%20a%20third%20only%20in%20the%20_bridge_%20arm%3A%0A%0A%20%20%20%20%7C%20Form%20%20%7C%20Example%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%7C%20Sweep%20conditions%20%7C%0A%20%20%20%20%7C-------%7C-------------------------------%7C------------------%7C%0A%20%20%20%20%7C%20named%20%7C%20%60melon%20%2B%20ultramarine%20%3D%20%3Cname%3E%60%7C%20all%20%20%20%20%20%20%20%20%20%20%20%20%20%20%7C%0A%20%20%20%20%7C%20hex%20%20%20%7C%20%60%23e26%20%2B%20%2348a%20%3D%20%23958%60%20%20%20%20%20%20%20%20%20%20%7C%20all%20%20%20%20%20%20%20%20%20%20%20%20%20%20%7C%0A%20%20%20%20%7C%20cross%20%7C%20%60melon%20%2B%20%2348a%20%3D%20%23%3Chex%3E%60%20%20%20%20%20%20%20%7C%20bridge%20arm%20%20%20%20%20%20%20%7C%0A%0A%20%20%20%20(Examples%20are%20illustrative%20until%20the%20corpus%20code%20lands.)%20Named%20equations%20always%20answer%20with%20a%20name%2C%20and%20hex%20equations%20with%20a%20hex%20code%2C%20so%20the%20answer%20form%20is%20determined%20by%20the%20prompt%20form%3B%20nothing%20about%20the%20result%20value%20changes%20which%20vocabulary%20the%20answer%20uses.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(stats)%3A%0A%20%20%20%20_st%20%3D%20stats%5B%22n140-h216%22%5D%0A%20%20%20%20_pal%20%3D%20np.array(list(_st%5B%22palette%22%5D.values())%2C%20dtype%3Dfloat)%20%2F%20255%0A%20%20%20%20_ops%20%3D%20np.array(%5Bmv.lift((int(h%5B1%5D%2C%2016)%2C%20int(h%5B2%5D%2C%2016)%2C%20int(h%5B3%5D%2C%2016)))%20for%20h%20in%20_st%5B%22hex_ops%22%5D%5D%2C%20dtype%3Dfloat)%20%2F%20255%0A%0A%20%20%20%20%40themed(%0A%20%20%20%20%20%20%20%20name%3D%22palettes%22%2C%0A%20%20%20%20%20%20%20%20alt_text%3D%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20Two%20color-cube%20panels%2C%20each%20a%20hexagonal%20silhouette%20of%20the%20RGB%20cube%0A%20%20%20%20%20%20%20%20%20%20%20%20standing%20on%20its%20black%20corner%2C%20with%20data-colored%20dots.%20Left%3A%20named%0A%20%20%20%20%20%20%20%20%20%20%20%20colors%20shown%20as%20dots%2C%20evenly%20spaced%20through%20the%20whole%20solid%20with%20no%0A%20%20%20%20%20%20%20%20%20%20%20%20two%20dots%20touching.%20Right%3A%20hex%20colors%2C%20reaching%20the%20same%20extent%20but%0A%20%20%20%20%20%20%20%20%20%20%20%20visibly%20lumpy%20at%20close%20range%20%E2%80%94%20touching%20pairs%20and%20triples%20in%20some%0A%20%20%20%20%20%20%20%20%20%20%20%20places%2C%20bare%20patches%20in%20others.%0A%20%20%20%20%20%20%20%20%22%22%22%2C%0A%20%20%20%20%20%20%20%20caption%3D%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20The%20two%20operand%20sets%20in%20the%20RGB%20cube%20(center%20corpus).%20Left%3A%20the%20140%0A%20%20%20%20%20%20%20%20%20%20%20%20named%20colors%2C%20spaced%20by%20farthest-point%20selection%3B%20right%3A%20the%20216%0A%20%20%20%20%20%20%20%20%20%20%20%20hex%20operands%2C%20a%20uniform%20draw%20from%20the%204%2C096-point%20grid.%0A%20%20%20%20%20%20%20%20%22%22%22%2C%0A%20%20%20%20)%0A%20%20%20%20def%20_plot()%20-%3E%20plt.Figure%3A%0A%20%20%20%20%20%20%20%20fig%2C%20_axes%20%3D%20plt.subplots(1%2C%202%2C%20figsize%3D(7.6%2C%204.0))%0A%20%20%20%20%20%20%20%20for%20_ax%2C%20_pts%2C%20_title%20in%20%5B(_axes%5B0%5D%2C%20_pal%2C%20%22names%20(140)%22)%2C%20(_axes%5B1%5D%2C%20_ops%2C%20%22hex%20operands%20(216)%22)%5D%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20sv.plot_rgb_cube(_ax%2C%20_pts)%0A%20%20%20%20%20%20%20%20%20%20%20%20_ax.set_title(_title)%0A%20%20%20%20%20%20%20%20return%20fig%0A%0A%20%20%20%20mo.Html(_plot())%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(arrays%2C%20stats)%3A%0A%20%20%20%20%23%20Nearest-neighbor%20spacing%20and%20worst%20coverage%20gap%2C%20in%208-bit%20units%2C%20for%20the%20two%0A%20%20%20%20%23%20operand%20sets%20and%20for%20fresh%20uniform%20draws%20of%20the%20same%20size%20%E2%80%94%20the%20reference%20that%0A%20%20%20%20%23%20says%20whether%20the%20visible%20clumping%20is%20unusual%20or%20just%20what%20uniform%20sampling%20is.%0A%20%20%20%20_grid%20%3D%20np.array(%5Bmv.lift((_r%2C%20_g%2C%20_b))%20for%20_r%20in%20range(16)%20for%20_g%20in%20range(16)%20for%20_b%20in%20range(16)%5D%2C%20dtype%3Dfloat)%0A%0A%20%20%20%20def%20_spacing(_pts%3A%20np.ndarray)%20-%3E%20tuple%5Bfloat%2C%20float%2C%20float%5D%3A%0A%20%20%20%20%20%20%20%20_dd%20%3D%20np.linalg.norm(_pts%5B%3A%2C%20None%5D%20-%20_pts%5BNone%5D%2C%20axis%3D2)%0A%20%20%20%20%20%20%20%20np.fill_diagonal(_dd%2C%20np.inf)%0A%20%20%20%20%20%20%20%20_nn%20%3D%20_dd.min(1)%0A%20%20%20%20%20%20%20%20_gap%20%3D%20np.linalg.norm(_grid%5B%3A%2C%20None%5D%20-%20_pts%5BNone%5D%2C%20axis%3D2).min(1).max()%0A%20%20%20%20%20%20%20%20return%20float(_nn.min())%2C%20float(np.median(_nn))%2C%20float(_gap)%0A%0A%20%20%20%20_ops8%20%3D%20np.array(%0A%20%20%20%20%20%20%20%20%5Bmv.lift((int(_h%5B1%5D%2C%2016)%2C%20int(_h%5B2%5D%2C%2016)%2C%20int(_h%5B3%5D%2C%2016)))%20for%20_h%20in%20stats%5B%22n140-h216%22%5D%5B%22hex_ops%22%5D%5D%2C%20dtype%3Dfloat%0A%20%20%20%20)%0A%20%20%20%20_hex%2C%20_names%20%3D%20_spacing(_ops8)%2C%20_spacing(np.array(list(stats%5B%22n140-h216%22%5D%5B%22palette%22%5D.values())%2C%20dtype%3Dfloat))%0A%20%20%20%20_draws%20%3D%20np.array(%0A%20%20%20%20%20%20%20%20%5B_spacing(_grid%5Bnp.random.default_rng(1000%20%2B%20_i).permutation(len(_grid))%5B%3A%20len(_ops8)%5D%5D)%20for%20_i%20in%20range(24)%5D%0A%20%20%20%20)%0A%20%20%20%20_typical%20%3D%20np.median(_draws%2C%20axis%3D0)%0A%20%20%20%20_better_gap%20%3D%20float((_draws%5B%3A%2C%202%5D%20%3E%20_hex%5B2%5D).mean())%0A%0A%20%20%20%20%23%20Empirical%20control%3A%20hex-dense%20draws%202048%20operands%20from%20the%20same%20grid%2C%20so%20its%20gaps%20are%0A%20%20%20%20%23%20a%20tenth%20the%20size.%20If%20the%20clumping%20shaped%20the%20hex%20geometry%2C%20the%20two%20maps%20would%20differ.%0A%20%20%20%20def%20_agreement(_t%3A%20str)%20-%3E%20tuple%5Bfloat%2C%20float%5D%3A%0A%20%20%20%20%20%20%20%20_a%20%3D%20np.mean(%5Barrays%5Bf%22center-s%7B_s%7D%2Fprobes%2Fhex%2F%7B_t%7D%2Fr2_strict%22%5D%20for%20_s%20in%20SEEDS%5D%2C%20axis%3D0)%0A%20%20%20%20%20%20%20%20_b%20%3D%20np.mean(%5Barrays%5Bf%22hex-dense-s%7B_s%7D%2Fprobes%2Fhex%2F%7B_t%7D%2Fr2_strict%22%5D%20for%20_s%20in%20SEEDS%5D%2C%20axis%3D0)%0A%20%20%20%20%20%20%20%20return%20float(np.corrcoef(_a.ravel()%2C%20_b.ravel())%5B0%2C%201%5D)%2C%20float(np.abs(_a%20-%20_b).mean())%0A%0A%20%20%20%20_corrs%20%3D%20%7B_t%3A%20_agreement(_t)%20for%20_t%20in%20(%22op1%22%2C%20%22op2%22%2C%20%22mix%22)%7D%0A%20%20%20%20_corr_lo%2C%20_corr_hi%20%3D%20min(_c%20for%20_c%2C%20_%20in%20_corrs.values())%2C%20max(_c%20for%20_c%2C%20_%20in%20_corrs.values())%0A%20%20%20%20_dmax%20%3D%20max(_d%20for%20_%2C%20_d%20in%20_corrs.values())%0A%0A%20%20%20%20mo.md(f%22%22%22%0A%20%20%20%20%2F%2F%2F%20details%20%7C%20Is%20the%20clumping%20in%20the%20hex%20panel%20a%20problem%3F%0A%20%20%20%20It%20is%20conspicuous%20next%20to%20the%20names%2C%20and%20it%20is%20exactly%20what%20the%20two%20sampling%20rules%20predict%3A%20farthest-point%20selection%20cannot%20leave%20a%20clump%2C%20and%20uniform%20sampling%20clumps%20at%20every%20scale.%20Nearest-neighbor%20distances%20in%208-bit%20units%20(closest%20pair%2C%20then%20median)%20are%20%7B_hex%5B0%5D%3A.0f%7D%20and%20%7B_hex%5B1%5D%3A.0f%7D%20for%20the%20hex%20operands%2C%20against%20%7B_names%5B0%5D%3A.0f%7D%20and%20%7B_names%5B1%5D%3A.0f%7D%20for%20the%20names%20and%20%7B_typical%5B0%5D%3A.0f%7D%20and%20%7B_typical%5B1%5D%3A.0f%7D%20for%20a%20typical%20fresh%20draw%20of%20%7Blen(_ops8)%7D%20grid%20points.%20So%20the%20local%20spacing%20of%20the%20subset%20matches%20the%20median%20draw%3B%20it%20is%20not%20an%20unlucky%20one.%20Its%20coverage%20is%20if%20anything%20better%20than%20average%3A%20the%20farthest%20any%20of%20the%204%2C096%20grid%20points%20sits%20from%20an%20operand%20is%20%7B_hex%5B2%5D%3A.0f%7D%2C%20against%20%7B_typical%5B2%5D%3A.0f%7D%20for%20the%20typical%20draw%2C%20and%20%7B_better_gap%20*%20100%3A.0f%7D%25%20of%20draws%20leave%20a%20wider%20hole.%0A%0A%20%20%20%20Whether%20that%20biases%20the%20*geometry*%20is%20answered%20by%20the%20sweep.%20The%20*hex-dense*%20condition%20draws%202%2C048%20operands%20from%20the%20same%20grid%20%E2%80%94%20a%20tenth%20of%20the%20spacing%2C%20and%20no%20visible%20clumping%20%E2%80%94%20and%20its%20hex%20probe%20map%20is%20the%20same%20map%3A%20the%20two%20conditions'%20depth%20%C3%97%20landmark%20maps%20correlate%20%7B_corr_lo%3A.2f%7D%20to%20%7B_corr_hi%3A.2f%7D%20across%20the%20three%20targets%2C%20with%20a%20mean%20absolute%20difference%20of%20at%20most%20%7B_dmax%3A.2f%7D%20in%20%24R%5E2%24.%20The%20two%20conditions%20also%20answer%20held-out%20hex%20equations%20equally%20well%20(see%20the%20density%20arms%20under%20H1).%20Nothing%20about%20the%20layout%20of%20the%20hex%20form%20appears%20to%20be%20an%20artifact%20of%20the%20216-point%20draw%2C%20so%20the%20same%20should%20hold%20for%20what%20transfers%20out%20of%20it.%0A%20%20%20%20%2F%2F%2F%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(stats)%3A%0A%20%20%20%20_cols%20%3D%20%5B%22corpus%22%2C%20%22named%22%2C%20%22hex%22%2C%20%22cross%22%2C%20%22held-out%20named%22%2C%20%22held-out%20hex%22%2C%20%22max%20line%22%2C%20%22answer%20ppl%22%2C%20%22reachable%22%5D%0A%0A%20%20%20%20def%20_row(key%3A%20str)%20-%3E%20str%3A%0A%20%20%20%20%20%20%20%20_s%20%3D%20stats%5Bkey%5D%0A%20%20%20%20%20%20%20%20_vals%20%3D%20%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%7B_s%5B'n_lines'%5D%5B'named'%5D%3A%2C%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%7B_s%5B'n_lines'%5D%5B'hex'%5D%3A%2C%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%7B_s%5B'n_lines'%5D%5B'cross'%5D%3A%2C%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%7B_s%5B'n_holdout'%5D%5B'named'%5D%3A%2C%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%7B_s%5B'n_holdout'%5D%5B'hex'%5D%3A%2C%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%7Bmax(v%5B'max'%5D%20for%20v%20in%20_s%5B'line_length'%5D.values())%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%7B_s%5B'answer_perplexity'%5D%3A.0f%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%7B_s%5B'answers_reachable'%5D%7D%22%2C%0A%20%20%20%20%20%20%20%20%5D%0A%20%20%20%20%20%20%20%20return%20f%22%3Ctr%3E%3Ctd%3E%7Bkey%7D%3C%2Ftd%3E%22%20%2B%20%22%22.join(f'%3Ctd%20class%3D%22num%22%3E%7Bv%7D%3C%2Ftd%3E'%20for%20v%20in%20_vals)%20%2B%20%22%3C%2Ftr%3E%22%0A%0A%20%20%20%20_thead%20%3D%20f%22%3Ctr%3E%3Cth%3E%7B_cols%5B0%5D%7D%3C%2Fth%3E%22%20%2B%20%22%22.join(f'%3Cth%20class%3D%22num%22%3E%7Bh%7D%3C%2Fth%3E'%20for%20h%20in%20_cols%5B1%3A%5D)%20%2B%20%22%3C%2Ftr%3E%22%0A%20%20%20%20mo.vstack(%0A%20%20%20%20%20%20%20%20%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.md(%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20Corpus%20statistics%2C%20one%20row%20per%20corpus%20(conditions%20that%20share%20names%20%C3%97%20hex%20%C3%97%20bridge%20share%20a%20corpus).%20The%20numbers%20from%20the%20design%20study%20held%20up%3A%20answer%20perplexity%20is%2086%20over%20140%20names%20with%20every%20name%20reachable%20as%20an%20answer%20(the%20250-name%20palette%20reaches%20248)%2C%20and%20the%20longest%20line%20is%2085%20characters%2C%20inside%20the%20block%20size%20of%20128.%20Line%20counts%20are%20the%20100%2C000%20lines%20of%20the%20training%20corpus%20split%20by%20form.%0A%20%20%20%20%20%20%20%20%20%20%20%20%22%22%22)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.Html(%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20'%3Cdiv%20class%3D%22report-table-scroll%22%3E%3Ctable%20class%3D%22report-table%22%3E'%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%2B%20_thead%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%2B%20%22%22.join(_row(k)%20for%20k%20in%20sorted(stats))%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%2B%20%22%3C%2Ftable%3E%3C%2Fdiv%3E%22%0A%20%20%20%20%20%20%20%20%20%20%20%20)%2C%0A%20%20%20%20%20%20%20%20%5D%0A%20%20%20%20)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Measurements%0A%0A%20%20%20%20Exact-match%20accuracy%20is%20scored%20per%20form%20on%20seen%20and%20held-out%20operand%20pairs.%20On%20a%20small%20palette%2C%20raw%20accuracy%20can%20flatter%20a%20weak%20strategy%2C%20so%20each%20number%20sits%20beside%20two%20reference%20guessers.%20One%20never%20reads%20the%20prompt%3A%20it%20always%20answers%20with%20the%20centroid%20of%20the%20training%20answers.%20The%20other%20is%20handed%20the%20neighborhood%20of%20the%20answer%20for%20free%3A%20it%20guesses%20uniformly%20among%20the%20%24k%24%20palette%20entries%20nearest%20the%20true%20mix%20(the%20irregular-palette%20version%20of%20the%20one-step-shell%20null%20in%20earlier%20reports).%20The%20model%20has%20learned%20something%20only%20where%20it%20beats%20both.%0A%0A%20%20%20%20Geometry%20is%20read%20with%20ridge%20probes%20(leave-one-out%2C%20as%20in%20%60ridge_probe_loo%60)%20fitted%20for%20operand%20and%20mix%20values%20at%20every%20layer%20and%20every%20token%20position%2C%20separately%20per%20form.%20The%20full%20scan%20replaces%20the%20hand-picked%20probe%20sites%20of%20earlier%20reports%20with%20a%20map%2C%20so%20the%20alignment%20measures%20below%20don't%20depend%20on%20us%20choosing%20the%20right%20position%20in%20advance.%0A%0A%20%20%20%20%2F%2F%2F%20admonition%20%7C%20Amendment%3A%20a%20second%20holdout%20protocol%0A%20%20%20%20The%20preregistered%20estimator%20holds%20out%20one%20*equation*%20at%20a%20time.%20But%20the%20colors%20and%20hex%20digits%20of%20the%20held-out%20equation%20still%20appear%20in%20other%20equations%20in%20the%20fit%2C%20so%20a%20probe%20can%20score%20well%20just%20by%20memorizing%20which%20token%20has%20which%20value.%20That%20is%20a%20fair%20way%20to%20ask%20whether%20a%20value%20is%20present%20at%20a%20site%2C%20and%20one%20analysis%20below%20uses%20it%20for%20that.%20But%20it's%20not%20a%20good%20test%20of%20H2%2C%20which%20is%20a%20statement%20about%20geometry.%0A%0A%20%20%20%20So%20each%20site%20now%20also%20gets%20a%20stricter%20holdout.%20To%20score%20a%20value%2C%20every%20equation%20containing%20it%20(as%20either%20operand%20or%20the%20answer)%20is%20removed%20from%20the%20fit%2C%20and%20the%20probe%20must%20place%20the%20unseen%20value%20using%20only%20the%20others.%20The%20whole-value%20holdout%20is%20needed%20because%20the%20same%20hex%20digit%20serves%20all%20three%20channels%2C%20and%20a%20color%20can%20be%20operand%201%20in%20one%20line%20and%20operand%202%20in%20another.%0A%0A%20%20%20%20Both%20scores%20are%20reported.%20The%20preregistered%20one%20decides%20H2%20(and%20it%20turns%20out%20the%20two%20agree%20at%20the%20site%20used%20for%20that%20decision%20(0.944%20against%200.941).%20We%20also%20added%20two%20landmarks%2C%20the%20spaces%20closing%20each%20operand%2C%20after%20the%20strict%20holdout%20showed%20that%20the%20value%20of%20a%20named%20operand%20sits%20on%20them%20rather%20than%20on%20the%20characters%20of%20the%20name.%0A%20%20%20%20%2F%2F%2F%0A%0A%20%20%20%20One%20subtlety%3A%20token%20positions%20don't%20naturally%20line%20up.%20Names%20vary%20in%20length%2C%20and%20hex%20expressions%20are%20shorter%20than%20named%20ones.%20Positions%20are%20therefore%20indexed%20by%20grammar%20landmarks%20(the%20last%20character%20of%20each%20operand%2C%20the%20operator%2C%20the%20pre-answer%20position%2C%20and%20answer%20characters%20counted%20from%20the%20start%20and%20end%20of%20the%20answer)%2C%20and%20the%20cross-form%20measures%20compare%20only%20at%20landmarks%20the%20two%20forms%20share.%0A%0A%20%20%20%20Alignment%20between%20the%20two%20forms%20is%20scored%20two%20ways%3A%0A%0A%20%20%20%20-%20Transfer%20ratio%20%24%5Crho%24%3A%20zero-shot%20cross-form%20%24R%5E2%24%20divided%20by%20within-form%20%24R%5E2%24%2C%20at%20the%20same%20layer%20and%20landmark.%20Zero-shot%20means%20the%20probe%20is%20fitted%20on%20the%20activations%20of%20one%20form%20and%20applied%20unchanged%20to%20the%20other.%20Two%20guards%20keep%20the%20ratio%20well-behaved.%20First%2C%20%24%5Crho%24%20is%20reported%20only%20where%20the%20within-form%20%24R%5E2%20%5Cge%200.5%24%3B%20below%20that%20the%20site%20isn't%20measuring%20geometry%2C%20and%20a%20small%20denominator%20makes%20the%20ratio%20erratic.%20Second%2C%20negative%20cross-form%20%24R%5E2%24%20clips%20to%20zero%2C%20so%20%24%5Crho%20%5Cin%20%5B0%2C%201%5D%24%20with%200%20meaning%20no%20transfer.%0A%20%20%20%20-%20Principal%20angles%20between%20the%20row-spaces%20of%20the%20fitted%20probes%20of%20the%20two%20forms%3A%20a%20graded%20measure%20of%20whether%20the%20two%20decoders%20use%20the%20same%20directions%20of%20the%20residual%20stream.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Hypotheses%0A%0A%20%20%20%20-%20**H1.**%20The%20disjoint%20language%20trains%20at%20the%20center%20condition%3A%20hex%2Bhex%20exact%20match%20on%20unseen%20pairs%20is%20comparable%20to%20the%20hex%20levels%20of%20ex-2.1.1%2C%20and%20name%2Bname%20held-out%20exact%20match%20clears%20the%20%24k%24-NN%20analogues%20of%20the%20neighborhood%20nulls.%0A%20%20%20%20-%20**H2.**%20Each%20sublanguage%20develops%20latent%20linear%20color%20geometry%2C%20with%20form-specific%20layout%3A%20name-form%20probes%20decode%20operands%20and%20mix%20with%20mix%20%24R%5E2%20%5Capprox%200.9%24%20at%20the%20pre-answer%20position%20in%20the%20last%20layer%3B%20hex-form%20answers%20assemble%20just-in-time%2C%20channel%20by%20channel%2C%20with%20pre-answer%20full-mix%20%24R%5E2%24%20staying%20low.%20An%20elevated%20pre-answer%20hex-mix%20%24R%5E2%24%20would%20instead%20be%20evidence%20of%20cross-form%20coupling%20(see%20H3).%0A%20%20%20%20-%20**H3.**%20The%20two%20latent%20geometries%20live%20apart%20in%20sweep%20conditions%20that%20have%20no%20bridging%20grammar%20and%20width%20d64%3A%20%24%5Crho%20%3C%200.2%24%2C%20and%20the%20two%20probes'%20row-spaces%20show%20large%20principal%20angles.%20(%240.2%20%3C%20%5Crho%20%3C%200.8%24%20reads%20as%20partial%20sharing%20and%20falsifies%20the%20crisp%20version%20of%20both%20H3%20and%20H5.)%0A%20%20%20%20-%20**H4.**%20Narrowing%20the%20stream%20aligns%20the%20forms%3A%20%24%5Crho%24%20and%20subspace%20overlap%20rise%20monotonically%20over%20d64%20%E2%86%92%20d32%20%E2%86%92%20d16%2C%20with%20d16-L8%20the%20most%20aligned%20condition.%0A%20%20%20%20-%20**H5.**%20Adding%20the%20cross%20form%20produces%20alignment%3A%20the%20bridge%20condition%20(d64)%20reaches%20%24%5Crho%20%3E%200.8%24.%20The%20star%20design%20tests%20this%20at%20one%20width%20only%3B%20bridge%20%C3%97%20width%20conditions%20are%20candidates%20for%20a%20follow-up%20round%20if%20H4%20shows%20width%20matters.%0A%20%20%20%20-%20**H6.**%20At%20L8%2C%20name%2Bname%20accuracy%20improves%20at%20fixed%20width%20and%20the%20mix%20crystallizes%20before%20the%20last%20layer.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20The%20sweep%0A%0A%20%20%20%20A%20star%20design%20around%20one%20center%20condition%2C%20three%20seeds%20per%20condition%3A%0A%0A%20%20%20%20%7C%20Condition%20%20%20%7C%20Names%20%7C%20Hex%20ops%20%7C%20Bridge%20%7C%20Width%20%7C%20Depth%20%7C%0A%20%20%20%20%7C-------------%7C-------%7C---------%7C--------%7C-------%7C-------%7C%0A%20%20%20%20%7C%20center%20%20%20%20%20%20%7C%20140%20%20%20%7C%20216%20%20%20%20%20%7C%20none%20%20%20%7C%2064%20%20%20%20%7C%204%20%20%20%20%20%7C%0A%20%20%20%20%7C%20L8%20%20%20%20%20%20%20%20%20%20%7C%20140%20%20%20%7C%20216%20%20%20%20%20%7C%20none%20%20%20%7C%2064%20%20%20%20%7C%208%20%20%20%20%20%7C%0A%20%20%20%20%7C%20d32%20%20%20%20%20%20%20%20%20%7C%20140%20%20%20%7C%20216%20%20%20%20%20%7C%20none%20%20%20%7C%2032%20%20%20%20%7C%204%20%20%20%20%20%7C%0A%20%20%20%20%7C%20d16%20%20%20%20%20%20%20%20%20%7C%20140%20%20%20%7C%20216%20%20%20%20%20%7C%20none%20%20%20%7C%2016%20%20%20%20%7C%204%20%20%20%20%20%7C%0A%20%20%20%20%7C%20d16-L8%20%20%20%20%20%20%7C%20140%20%20%20%7C%20216%20%20%20%20%20%7C%20none%20%20%20%7C%2016%20%20%20%20%7C%208%20%20%20%20%20%7C%0A%20%20%20%20%7C%20hex-dense%20%20%20%7C%20140%20%20%20%7C%202048%20%20%20%20%7C%20none%20%20%20%7C%2064%20%20%20%20%7C%204%20%20%20%20%20%7C%0A%20%20%20%20%7C%20palette-250%20%7C%20250%20%20%20%7C%20216%20%20%20%20%20%7C%20none%20%20%20%7C%2064%20%20%20%20%7C%204%20%20%20%20%20%7C%0A%20%20%20%20%7C%20bridge%20%20%20%20%20%20%7C%20140%20%20%20%7C%20216%20%20%20%20%20%7C%20cross%20%20%7C%2064%20%20%20%20%7C%204%20%20%20%20%20%7C%0A%0A%20%20%20%20Each%20arm%20provides%20data%20to%20score%20the%20hypotheses.%20L8%2C%20the%20width%20conditions%2C%20and%20d16-L8%20score%20H4%20and%20H6%3B%20the%20bridge%20condition%20scores%20H5.%20The%20two%20density%20arms%20attach%20to%20H1%3A%20*hex-dense*%20checks%20that%20hex%20accuracy%20and%20geometry%20aren't%20artifacts%20of%20the%20216-point%20operand%20subset%20(expected%3A%20little%20change%20%E2%80%94%20hex%20arithmetic%20in%20ex-2.1.1%20generalized%20from%20far%20sparser%20coverage)%2C%20and%20*palette-250*%20extends%20the%20density%20axis%20of%20ex-2.1.3%20to%20the%20irregular%20palette%20(expected%3A%20named%20held-out%20accuracy%20holds%20or%20improves%2C%20with%20misses%20staying%20neighbor-level).%0A%0A%20%20%20%20Attention%20is%20held%20at%208%20heads%20%C3%97%208%20dims%20in%20every%20condition%3B%20only%20the%20residual%20stream%20and%20the%20MLP%20scale%20with%20width.%20The%20ngpt-scaling%20sweep%20validated%20widths%20%7B32%2C%2064%2C%20128%7D%20under%20this%20scheme%2C%20so%20d16%20sits%20one%20step%20below%20the%20tested%20range.%20If%20the%20d16%20conditions%20train%20poorly%2C%20that%20is%20an%20architecture%20effect%20to%20report%2C%20and%20the%20width%20trend%20in%20H4%20rests%20on%20d64%20%E2%86%92%20d32.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(cells)%3A%0A%20%20%20%20_thead%20%3D%20(%0A%20%20%20%20%20%20%20%20%22%3Ctr%3E%3Cth%3Econdition%3C%2Fth%3E%22%20%2B%20%22%22.join(f'%3Cth%20class%3D%22num%22%3E%7Bh%7D%3C%2Fth%3E'%20for%20h%20in%20(%22width%22%2C%20%22depth%22%2C%20%22params%22))%20%2B%20%22%3C%2Ftr%3E%22%0A%20%20%20%20)%0A%20%20%20%20_rows%20%3D%20%22%22.join(%0A%20%20%20%20%20%20%20%20f%22%3Ctr%3E%3Ctd%3E%7B_a%7D%3C%2Ftd%3E%22%0A%20%20%20%20%20%20%20%20%2B%20f'%3Ctd%20class%3D%22num%22%3E%7BARMS%5B_a%5D%5B%22width%22%5D%7D%3C%2Ftd%3E'%0A%20%20%20%20%20%20%20%20%2B%20f'%3Ctd%20class%3D%22num%22%3E%7BARMS%5B_a%5D%5B%22depth%22%5D%7D%3C%2Ftd%3E'%0A%20%20%20%20%20%20%20%20%2B%20f'%3Ctd%20class%3D%22num%22%3E%7Bcells%5Bf%22%7B_a%7D-s0%22%5D%5B%22n_params%22%5D%3A%2C%7D%3C%2Ftd%3E'%0A%20%20%20%20%20%20%20%20%2B%20%22%3C%2Ftr%3E%22%0A%20%20%20%20%20%20%20%20for%20_a%20in%20ARMS%0A%20%20%20%20)%0A%0A%20%20%20%20mo.md(f%22%22%22%0A%20%20%20%20Parameter%20counts%20per%20condition%20(seeds%20share%20a%20count).%20The%20full%20sweep%20%E2%80%94%204%20corpora%2C%2024%20training%20conditions%2C%2024%20evals.%0A%0A%20%20%20%20%2F%2F%2F%20details%20%7C%20Runtime%0A%20%20%20%20The%20sweep%20ran%20in%20about%202.5%20hours%20of%20wall%20time%20on%20five%20L4%20containers.%20It%20would%20have%20been%20faster%2C%20but%20there%20were%20cross-region%20I%2FO%20issues.%0A%20%20%20%20%2F%2F%2F%0A%0A%20%20%20%20%3Cdiv%20class%3D%22report-table-scroll%22%3E%3Ctable%20class%3D%22report-table%22%3E%7B_thead%7D%7B_rows%7D%3C%2Ftable%3E%3C%2Fdiv%3E%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Training%0A%0A%20%20%20%20All%2024%20conditions%20converge%20smoothly%20under%20the%20shared%20100-epoch%20schedule%20%E2%80%94%20including%20the%20d16%20conditions%2C%20which%20sit%20one%20step%20below%20the%20width%20range%20validated%20by%20ngpt-scaling.%20No%20width-gated%20instability%20appeared.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(cells)%3A%0A%20%20%20%20%40themed(%0A%20%20%20%20%20%20%20%20name%3D%22loss-curves%22%2C%0A%20%20%20%20%20%20%20%20alt_text%3D%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20Eight%20small%20panels%20of%20loss%20versus%20epoch%2C%20one%20per%20sweep%20condition%2C%20each%0A%20%20%20%20%20%20%20%20%20%20%20%20with%20three%20validation%20curves%20(one%20per%20seed)%20and%20three%20fainter%0A%20%20%20%20%20%20%20%20%20%20%20%20training%20curves.%20Every%20curve%20descends%20smoothly%20and%20flattens%20within%0A%20%20%20%20%20%20%20%20%20%20%20%20the%20100-epoch%20budget%3B%20no%20panel%20shows%20divergence%20or%20oscillation.%0A%20%20%20%20%20%20%20%20%22%22%22%2C%0A%20%20%20%20%20%20%20%20caption%3D%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20Loss%20per%20epoch%20for%20every%20condition%3A%20validation%20solid%2C%20training%20faint%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20one%20line%20per%20seed.%20All%20conditions%20share%20the%20character%20vocabulary%2C%20so%0A%20%20%20%20%20%20%20%20%20%20%20%20per-token%20losses%20are%20comparable%20across%20panels.%0A%20%20%20%20%20%20%20%20%22%22%22%2C%0A%20%20%20%20)%0A%20%20%20%20def%20_plot()%20-%3E%20plt.Figure%3A%0A%20%20%20%20%20%20%20%20fig%2C%20_axes%20%3D%20plt.subplots(2%2C%204%2C%20figsize%3D(9.0%2C%204.4)%2C%20sharex%3DTrue%2C%20sharey%3DTrue)%0A%20%20%20%20%20%20%20%20_c%20%3D%20light_dark(%22%231a5f8a%22%2C%20%22%236ab0d4%22)%0A%20%20%20%20%20%20%20%20for%20_ax%2C%20_arm%20in%20zip(_axes.flat%2C%20ARMS%2C%20strict%3DTrue)%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20for%20_s%20in%20SEEDS%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20_cell%20%3D%20cells%5Bf%22%7B_arm%7D-s%7B_s%7D%22%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20_ax.plot(%5Bv%20for%20v%20in%20_cell%5B%22train_loss%22%5D%20if%20v%20is%20not%20None%5D%2C%20color%3D_c%2C%20lw%3D0.8%2C%20alpha%3D0.35)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20_ax.plot(%5Bv%20for%20v%20in%20_cell%5B%22val_loss%22%5D%20if%20v%20is%20not%20None%5D%2C%20color%3D_c%2C%20lw%3D1.0)%0A%20%20%20%20%20%20%20%20%20%20%20%20_ax.set_title(_arm%2C%20fontsize%3D9)%0A%20%20%20%20%20%20%20%20%20%20%20%20_ax.grid(alpha%3D0.3)%0A%20%20%20%20%20%20%20%20for%20_ax%20in%20_axes%5B-1%5D%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20_ax.set_xlabel(%22epoch%22)%0A%20%20%20%20%20%20%20%20for%20_ax%20in%20_axes%5B%3A%2C%200%5D%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20_ax.set_ylabel(%22loss%22)%0A%20%20%20%20%20%20%20%20return%20fig%0A%0A%20%20%20%20mo.Html(_plot())%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Exact-match%20accuracy%20(H1)%0A%0A%20%20%20%20The%20center%20condition%20answers%20held-out%20hex%20equations%20almost%20perfectly%20(0.996%20exact)%20and%20held-out%20named%20equations%20at%200.667%2C%20with%20no%20malformed%20completions%20in%20any%20of%20its%20eval%20sets.%20The%20named%20score%20sits%20far%20above%20the%20prompt-blind%20centroid%20(0.043).%20One%20null%20turned%20out%20to%20be%20simple%3A%20in%20this%20language%20the%20true%20answer%20is%20always%20the%20candidate%20nearest%20the%20mix%2C%20so%20guessing%20uniformly%20among%20the%20%24k%24%20nearest%20candidates%20scores%20exactly%20%241%2Fk%24.%20The%20hardest%20version%20is%20a%20coin%20flip%20between%20the%20two%20nearest%20candidates%2C%200.5%2C%20and%20the%20model%20clears%20that%20too%2C%20by%20a%20margin%20the%201%2C946%20held-out%20named%20pairs%20can%20resolve.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(seed_mean%2C%20stats)%3A%0A%20%20%20%20_nulls%20%3D%20stats%5B%22n140-h216%22%5D%5B%22nulls%22%5D%0A%20%20%20%20_cols%20%3D%20%5B%22eval%20set%22%2C%20%22exact%22%2C%20%22guess%20dist%22%2C%20%22floor%20dist%22%2C%20%22blind%20null%22%2C%20%222-NN%20null%22%5D%0A%0A%20%20%20%20def%20_row(_set%3A%20str)%20-%3E%20str%3A%0A%20%20%20%20%20%20%20%20_vals%20%3D%20%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%7Bseed_mean('center'%2C%20_set%2C%20'accuracy')%3A.3f%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%7Bseed_mean('center'%2C%20_set%2C%20'guess_dist')%3A.3f%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%7Bseed_mean('center'%2C%20_set%2C%20'floor_dist')%3A.3f%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%7B_nulls%5B_set%5D%5B'blind'%5D%5B'acc'%5D%3A.3f%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%7B_nulls%5B_set%5D%5B'knn'%5D%5B'k2'%5D%5B'acc'%5D%3A.3f%7D%22%2C%0A%20%20%20%20%20%20%20%20%5D%0A%20%20%20%20%20%20%20%20return%20f%22%3Ctr%3E%3Ctd%3E%7B_set.replace('_'%2C%20'%20')%7D%3C%2Ftd%3E%22%20%2B%20%22%22.join(f'%3Ctd%20class%3D%22num%22%3E%7Bv%7D%3C%2Ftd%3E'%20for%20v%20in%20_vals)%20%2B%20%22%3C%2Ftr%3E%22%0A%0A%20%20%20%20_thead%20%3D%20f%22%3Ctr%3E%3Cth%3E%7B_cols%5B0%5D%7D%3C%2Fth%3E%22%20%2B%20%22%22.join(f'%3Cth%20class%3D%22num%22%3E%7Bh%7D%3C%2Fth%3E'%20for%20h%20in%20_cols%5B1%3A%5D)%20%2B%20%22%3C%2Ftr%3E%22%0A%20%20%20%20mo.vstack(%0A%20%20%20%20%20%20%20%20%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.Html(%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20'%3Cdiv%20class%3D%22report-table-scroll%22%3E%3Ctable%20class%3D%22report-table%22%3E'%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%2B%20_thead%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%2B%20%22%22.join(_row(s)%20for%20s%20in%20(%22named_seen%22%2C%20%22named_holdout%22%2C%20%22hex_seen%22%2C%20%22hex_holdout%22))%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%2B%20%22%3C%2Ftable%3E%3C%2Fdiv%3E%22%0A%20%20%20%20%20%20%20%20%20%20%20%20)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.md(%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20Center%20condition%2C%20mean%20over%20three%20seeds.%20Distances%20are%20Euclidean%20in%20the%20unit%20cube%3A%20*guess%20dist*%20from%20the%20emitted%20answer%20to%20the%20exact%20mix%2C%20*floor%20dist*%20from%20the%20true%20answer%20to%20the%20exact%20mix%20(the%20quantization%20floor).%20The%20guesses%20sit%20near%20the%20floor%20even%20where%20exact%20match%20misses.%0A%20%20%20%20%20%20%20%20%20%20%20%20%22%22%22)%2C%0A%20%20%20%20%20%20%20%20%5D%0A%20%20%20%20)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Named%20accuracy%20is%20well%20short%20of%201%20even%20on%20pairs%20the%20model%20trained%20on%20(0.841)%2C%20which%20reads%20at%20first%20like%20a%20model%20that%20never%20learned%20the%20geometry.%20In%20contrast%2C%20ex-2.1.3%20answered%20a%20216-color%20named%20vocabulary%20at%20%E2%89%88%201.0.%0A%0A%20%20%20%20But%20the%20ex-2.1.3%20colors%20sat%20on%20a%20regular%20grid%20closed%20under%20mixing%3A%20every%20answer%20landed%20on%20a%20vocabulary%20point%2C%20and%20the%20runner-up%20was%20a%20full%20grid%20step%20away%20(0.2%20of%20the%20unit%20cube).%20Here%20the%20answer%20is%20the%20nearest%20of%20140%20irregularly%20placed%20names%2C%20and%20the%20median%20gap%20between%20the%20nearest%20name%20and%20the%20second-nearest%20is%20six%20times%20smaller.%20In%20the%20exploratory%20section%20(%22The%20named%20ceiling%20is%20a%20resolution%20limit%22)%2C%20accuracy%20tracks%20that%20gap%20prompt%20by%20prompt%2C%20and%20a%20single%20effective-precision%20number%20per%20channel%20accounts%20both%20for%20named%20accuracy%20in%20this%20experiment%20and%20for%20the%20earlier%20grids%20scoring%20near%201.%20So%20the%20geometry%20is%20present%3B%20what%20runs%20out%20is%20resolution%2C%20as%20in%20ex-2.1.3.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(arrays)%3A%0A%20%20%20%20%40themed(%0A%20%20%20%20%20%20%20%20name%3D%22miss-ranks%22%2C%0A%20%20%20%20%20%20%20%20alt_text%3D%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20Two%20bar%20panels%20of%20guess%20rank.%20For%20named%20held-out%20prompts%2C%20about%20two%0A%20%20%20%20%20%20%20%20%20%20%20%20thirds%20of%20the%20mass%20is%20at%20rank%200%20and%20most%20of%20the%20rest%20at%20ranks%201%20and%0A%20%20%20%20%20%20%20%20%20%20%20%202%2C%20with%20a%20small%20tail%20beyond%206.%20For%20hex%20held-out%20prompts%20virtually%0A%20%20%20%20%20%20%20%20%20%20%20%20all%20mass%20is%20at%20rank%200.%0A%20%20%20%20%20%20%20%20%22%22%22%2C%0A%20%20%20%20%20%20%20%20caption%3D%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20Rank%20of%20the%20emitted%20answer%20among%20the%20candidate%20vocabulary%20of%20the%20form%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20ordered%20by%20distance%20to%20the%20true%20mix%3B%20rank%200%20is%20the%20correct%20answer.%0A%20%20%20%20%20%20%20%20%20%20%20%20Center%20condition%2C%20pooled%20over%20seeds.%0A%20%20%20%20%20%20%20%20%22%22%22%2C%0A%20%20%20%20)%0A%20%20%20%20def%20_plot()%20-%3E%20plt.Figure%3A%0A%20%20%20%20%20%20%20%20fig%2C%20_axes%20%3D%20plt.subplots(1%2C%202%2C%20figsize%3D(8.0%2C%203.2)%2C%20sharey%3DTrue)%0A%20%20%20%20%20%20%20%20_cap%20%3D%206%0A%20%20%20%20%20%20%20%20for%20_ax%2C%20_set%2C%20_title%20in%20%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20(_axes%5B0%5D%2C%20%22named_holdout%22%2C%20%22named%20held-out%22)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20(_axes%5B1%5D%2C%20%22hex_holdout%22%2C%20%22hex%20held-out%22)%2C%0A%20%20%20%20%20%20%20%20%5D%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20_r%20%3D%20np.concatenate(%5Barrays%5Bf%22center-s%7B_s%7D%2Fevals%2F%7B_set%7D%2Frank%22%5D%20for%20_s%20in%20SEEDS%5D)%0A%20%20%20%20%20%20%20%20%20%20%20%20_r%20%3D%20_r%5B_r%20%3E%3D%200%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20_counts%20%3D%20np.bincount(np.minimum(_r%2C%20_cap)%2C%20minlength%3D_cap%20%2B%201)%20%2F%20len(_r)%0A%20%20%20%20%20%20%20%20%20%20%20%20_ax.bar(range(_cap%20%2B%201)%2C%20_counts%2C%20color%3Dlight_dark(%22%231a5f8a%22%2C%20%22%236ab0d4%22))%0A%20%20%20%20%20%20%20%20%20%20%20%20_ax.set_xticks(range(_cap%20%2B%201)%2C%20%5B*map(str%2C%20range(_cap))%2C%20f%22%7B_cap%7D%2B%22%5D)%0A%20%20%20%20%20%20%20%20%20%20%20%20_ax.set_title(_title)%0A%20%20%20%20%20%20%20%20%20%20%20%20_ax.set_xlabel(%22guess%20rank%20(0%20%3D%20correct)%22)%0A%20%20%20%20%20%20%20%20%20%20%20%20_ax.grid(alpha%3D0.3%2C%20axis%3D%22y%22)%0A%20%20%20%20%20%20%20%20_axes%5B0%5D.set_ylabel(%22fraction%20of%20prompts%22)%0A%20%20%20%20%20%20%20%20return%20fig%0A%0A%20%20%20%20mo.Html(_plot())%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(seed_mean%2C%20stats)%3A%0A%20%20%20%20_corpus_of%20%3D%20%7B%22center%22%3A%20%22n140-h216%22%2C%20%22hex-dense%22%3A%20%22n140-h2048%22%2C%20%22palette-250%22%3A%20%22n250-h216%22%7D%0A%20%20%20%20_thead%20%3D%20(%0A%20%20%20%20%20%20%20%20%22%3Ctr%3E%3Cth%3Econdition%3C%2Fth%3E%22%0A%20%20%20%20%20%20%20%20%2B%20%22%22.join(f'%3Cth%20class%3D%22num%22%3E%7Bh%7D%3C%2Fth%3E'%20for%20h%20in%20(%22named%20held-out%22%2C%20%22hex%20held-out%22%2C%20%22answer%20ppl%22))%0A%20%20%20%20%20%20%20%20%2B%20%22%3C%2Ftr%3E%22%0A%20%20%20%20)%0A%20%20%20%20_rows%20%3D%20%22%22.join(%0A%20%20%20%20%20%20%20%20f%22%3Ctr%3E%3Ctd%3E%7B_a%7D%3C%2Ftd%3E%22%0A%20%20%20%20%20%20%20%20%2B%20f'%3Ctd%20class%3D%22num%22%3E%7Bseed_mean(_a%2C%20%22named_holdout%22%2C%20%22accuracy%22)%3A.3f%7D%3C%2Ftd%3E'%0A%20%20%20%20%20%20%20%20%2B%20f'%3Ctd%20class%3D%22num%22%3E%7Bseed_mean(_a%2C%20%22hex_holdout%22%2C%20%22accuracy%22)%3A.3f%7D%3C%2Ftd%3E'%0A%20%20%20%20%20%20%20%20%2B%20f'%3Ctd%20class%3D%22num%22%3E%7Bstats%5B_k%5D%5B%22answer_perplexity%22%5D%3A.0f%7D%3C%2Ftd%3E'%0A%20%20%20%20%20%20%20%20%2B%20%22%3C%2Ftr%3E%22%0A%20%20%20%20%20%20%20%20for%20_a%2C%20_k%20in%20_corpus_of.items()%0A%20%20%20%20)%0A%20%20%20%20mo.vstack(%0A%20%20%20%20%20%20%20%20%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.Html(%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20'%3Cdiv%20class%3D%22report-table-scroll%22%3E%3Ctable%20class%3D%22report-table%22%3E'%20%2B%20_thead%20%2B%20_rows%20%2B%20%22%3C%2Ftable%3E%3C%2Fdiv%3E%22%0A%20%20%20%20%20%20%20%20%20%20%20%20)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.md(%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20The%20density%20arms%2C%20both%20far%20above%20their%20nulls.%20Hex%20accuracy%20is%20insensitive%20to%20the%20operand-subset%20size%2C%20as%20expected.%20At%20250%20names%20the%20mean%20named%20held-out%20accuracy%20drops%20to%200.564%2C%20in%20the%20predicted%20direction%20%E2%80%94%20the%20answer%20perplexity%20is%20153%20against%2086%20%E2%80%94%20though%20the%20three%20seeds%20span%200.47%20to%200.66%2C%20so%20the%20effect%20is%20soft.%20The%20hex-dense%20mean%20of%200.582%20looked%20at%20first%20like%20an%20unpredicted%20dip%20under%20denser%20hex%20operands%2C%20but%20it%20rests%20on%20one%20seed%20(0.39%20against%200.67%20and%200.69)%3B%20the%20other%20two%20match%20the%20center%20condition%2C%20so%20there%20is%20little%20evidence%20of%20a%20real%20hex-density%20effect%20on%20named%20accuracy.%20Three%20seeds%20is%20thin%20for%20a%20difference%20this%20size.%0A%20%20%20%20%20%20%20%20%20%20%20%20%22%22%22)%2C%0A%20%20%20%20%20%20%20%20%5D%0A%20%20%20%20)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(arrays%2C%20stats)%3A%0A%20%20%20%20%23%20Effective%20precision%20per%20condition%20and%20eval%20set%3A%20the%20single%20parameter%20of%20the%0A%20%20%20%20%23%20noise-then-snap%20reference%20in%20%60sca.baselines%60%20that%20reproduces%20the%20observed%0A%20%20%20%20%23%20exact-match%20rate.%20Shared%20by%20the%20density%20discussion%20below%20and%20by%20the%0A%20%20%20%20%23%20exploratory%20figure%20that%20checks%20the%20account%20against%20the%20margin.%0A%20%20%20%20_rng%20%3D%20np.random.default_rng(0)%0A%0A%20%20%20%20def%20_behavior(_arm%3A%20str%2C%20_corpus%3A%20str%2C%20_set%3A%20str)%20-%3E%20dict%3A%0A%20%20%20%20%20%20%20%20_pal%20%3D%20np.array(list(stats%5B_corpus%5D%5B%22palette%22%5D.values())%2C%20dtype%3Dfloat)%20%2F%20255%0A%0A%20%20%20%20%20%20%20%20def%20_stack(_key%3A%20str)%20-%3E%20np.ndarray%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20np.concatenate(%5Barrays%5Bf%22%7B_arm%7D-s%7B_s%7D%2Fevals%2F%7B_set%7D%2F%7B_key%7D%22%5D%20for%20_s%20in%20SEEDS%5D).astype(float)%20%2F%20255%0A%0A%20%20%20%20%20%20%20%20_mix%2C%20_true%2C%20_guess%20%3D%20_stack(%22mix_value%22)%2C%20_stack(%22true_value%22)%2C%20_stack(%22guess_value%22)%0A%20%20%20%20%20%20%20%20_true_idx%20%3D%20np.linalg.norm(_pal%5BNone%5D%20-%20_true%5B%3A%2C%20None%5D%2C%20axis%3D2).argmin(1)%0A%20%20%20%20%20%20%20%20_hit%20%3D%20np.all(np.abs(_guess%20-%20_true)%20%3C%201e-9%2C%20axis%3D1)%0A%20%20%20%20%20%20%20%20return%20%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22pal%22%3A%20_pal%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22mix%22%3A%20_mix%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22true_idx%22%3A%20_true_idx%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22hit%22%3A%20_hit%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22margin%22%3A%20bl.snap_margin(np.linalg.norm(_pal%5BNone%5D%20-%20_mix%5B%3A%2C%20None%5D%2C%20axis%3D2))%2C%0A%20%20%20%20%20%20%20%20%7D%0A%0A%20%20%20%20def%20fit_sigma(arm%3A%20str%2C%20corpus%3A%20str%2C%20set_name%3A%20str)%20-%3E%20dict%3A%0A%20%20%20%20%20%20%20%20%22%22%22The%20behavior%20of%20one%20condition%20on%20one%20eval%20set%2C%20with%20the%20effective%20precision%20that%20reproduces%20it.%22%22%22%0A%20%20%20%20%20%20%20%20_b%20%3D%20_behavior(arm%2C%20corpus%2C%20set_name)%0A%20%20%20%20%20%20%20%20_b%5B%22sigma%22%5D%20%3D%20bl.fit_precision(_b%5B%22pal%22%5D%2C%20_b%5B%22mix%22%5D%2C%20_b%5B%22true_idx%22%5D%2C%20_b%5B%22hit%22%5D.mean()%2C%20_rng%2C%2024%2C%2011)%0A%20%20%20%20%20%20%20%20return%20_b%0A%0A%20%20%20%20precision%20%3D%20%7B%7D%0A%20%20%20%20for%20_arm%2C%20_corpus%20in%20((%22center%22%2C%20%22n140-h216%22)%2C%20(%22palette-250%22%2C%20%22n250-h216%22))%3A%0A%20%20%20%20%20%20%20%20for%20_set%20in%20(%22named_seen%22%2C%20%22named_holdout%22)%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20_b%20%3D%20fit_sigma(_arm%2C%20_corpus%2C%20_set)%0A%20%20%20%20%20%20%20%20%20%20%20%20_b%5B%22pred%22%5D%20%3D%20bl.precision_limited_acc(_b%5B%22pal%22%5D%2C%20_b%5B%22mix%22%5D%2C%20_b%5B%22true_idx%22%5D%2C%20_b%5B%22sigma%22%5D%2C%20_rng%2C%20120)%0A%20%20%20%20%20%20%20%20%20%20%20%20precision%5B_arm%2C%20_set%5D%20%3D%20_b%0A%20%20%20%20return%20fit_sigma%2C%20precision%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(precision%2C%20stats)%3A%0A%20%20%20%20%23%20The%20counterfactual%20the%20density%20comparison%20needs%3A%20the%20250-name%20prompts%20answered%20at%0A%20%20%20%20%23%20the%20precision%20of%20the%20*center*%20condition%2C%20so%20the%20difficulty%20of%20the%20palette%20is%20held%20to%20one%20side.%0A%20%20%20%20_c%2C%20_p%20%3D%20precision%5B%22center%22%2C%20%22named_holdout%22%5D%2C%20precision%5B%22palette-250%22%2C%20%22named_holdout%22%5D%0A%20%20%20%20_standardized%20%3D%20float(%0A%20%20%20%20%20%20%20%20bl.precision_limited_acc(%0A%20%20%20%20%20%20%20%20%20%20%20%20_p%5B%22pal%22%5D%2C%20_p%5B%22mix%22%5D%2C%20_p%5B%22true_idx%22%5D%2C%20_c%5B%22sigma%22%5D%2C%20np.random.default_rng(1)%2C%20160%0A%20%20%20%20%20%20%20%20).mean()%0A%20%20%20%20)%0A%20%20%20%20_per_pair%20%3D%20%7B%0A%20%20%20%20%20%20%20%20_k%3A%20stats%5B_k%5D%5B%22n_lines%22%5D%5B%22named%22%5D%20%2F%20stats%5B_k%5D%5B%22n_seen_distinct%22%5D%5B%22named%22%5D%20for%20_k%20in%20(%22n140-h216%22%2C%20%22n250-h216%22)%0A%20%20%20%20%7D%0A%0A%20%20%20%20mo.md(f%22%22%22%0A%20%20%20%20More%20names%20and%20fewer%20correct%20answers%20is%20a%20strange%20pairing.%20Every%20condition%20in%20this%20table%20is%20d64-L4%2C%20and%20the%20250-name%20corpus%20has%20the%20same%20100%2C000%20lines%2C%20so%20neither%20capacity%20nor%20data%20volume%20changed.%20Two%20other%20things%20may%20explain%20it.%0A%0A%20%20%20%20First%2C%20answering%20correctly%20became%20harder.%20The%20median%20gap%20between%20the%20nearest%20and%20second-nearest%20name%20to%20the%20exact%20mix%20falls%20from%20%7Bnp.median(_c%5B%22margin%22%5D)%3A.3f%7D%20to%20%7Bnp.median(_p%5B%22margin%22%5D)%3A.3f%7D%20of%20the%20unit%20cube%2C%20so%20more%20prompts%20ask%20the%20model%20to%20place%20the%20mix%20inside%20a%20tighter%20boundary.%20A%20reference%20guesser%20with%20the%20precision%20of%20the%20*center*%20condition%2C%20answering%20the%20250-name%20prompts%2C%20predicts%20%7B_standardized%3A.3f%7D.%20The%20observed%20score%20is%20%7B_p%5B%22hit%22%5D.mean()%3A.3f%7D%2C%20so%20roughly%20half%20of%20the%20drop%20from%20%7B_c%5B%22hit%22%5D.mean()%3A.3f%7D%20can%20be%20attributed%20to%20the%20tighter%20precision%20demand.%0A%0A%20%20%20%20Second%2C%20each%20training%20pair%20got%20less%20supervision.%20The%20same%20%E2%89%88%2050%2C000%20named%20lines%20now%20spread%20over%20%7Bstats%5B%22n250-h216%22%5D%5B%22n_seen_distinct%22%5D%5B%22named%22%5D%3A%2C%7D%20distinct%20training%20pairs%20instead%20of%20%7Bstats%5B%22n140-h216%22%5D%5B%22n_seen_distinct%22%5D%5B%22named%22%5D%3A%2C%7D%2C%20which%20is%20%7B_per_pair%5B%22n250-h216%22%5D%3A.1f%7D%20lines%20per%20pair%20against%20%7B_per_pair%5B%22n140-h216%22%5D%3A.1f%7D.%20One%20sign%20of%20this%20is%20that%20the%20gap%20between%20seen%20and%20held-out%20accuracy%20nearly%20closes%20at%20250%20names%20(%7Bprecision%5B%22palette-250%22%2C%20%22named_seen%22%5D%5B%22hit%22%5D.mean()%3A.3f%7D%20against%20%7B_p%5B%22hit%22%5D.mean()%3A.3f%7D)%2C%20where%20the%20center%20condition%20runs%20%7Bprecision%5B%22center%22%2C%20%22named_seen%22%5D%5B%22hit%22%5D.mean()%3A.3f%7D%20against%20%7B_c%5B%22hit%22%5D.mean()%3A.3f%7D.%20Fitted%20precision%20agrees%3A%20on%20*seen*%20pairs%20it%20is%20%7Bprecision%5B%22palette-250%22%2C%20%22named_seen%22%5D%5B%22sigma%22%5D%3A.3f%7D%20at%20250%20names%2C%20the%20same%20as%20what%20the%20center%20condition%20manages%20on%20pairs%20it%20has%20never%20seen%20(%7B_c%5B%22sigma%22%5D%3A.3f%7D).%20At%20140%20names%20a%20training%20pair%20recurs%20often%20enough%20to%20be%20remembered%3B%20at%20250%20it%20barely%20does.%0A%0A%20%20%20%20Neither%20reading%20needs%20a%20capacity%20limit%2C%20and%20the%20residual%20gap%20after%20standardizing%20(%7B_p%5B%22hit%22%5D.mean()%3A.3f%7D%20against%20%7B_standardized%3A.3f%7D)%20is%20small%20enough%20that%20three%20seeds%20cannot%20separate%20a%20genuine%20precision%20cost%20from%20the%20seed%20spread.%0A%0A%20%20%20%20We'll%20look%20at%20capacity%20more%20closely%20in%20the%20width%20sweep%20(H4)%2C%20below.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Within-form%20geometry%20(H2)%0A%0A%20%20%20%20Outcome%3A%20the%20named%20form%20matches%20the%20prediction%2C%20with%20the%20mix%20decodable%20at%20%24R%5E2%20%3D%200.94%24%20at%20the%20pre-answer%20position%20in%20the%20last%20layer%2C%20and%20hex%20never%20assembles%20a%20pre-answer%20mix%20at%20all.%0A%0A%20%20%20%20The%20figure%20below%20plots%20probe%20%24R%5E2%24%20at%20every%20depth%20%C3%97%20landmark%2C%20for%20the%20two%20operands%20and%20the%20mix%2C%20per%20form%3B%20center%20condition%20of%20the%20sweep%20only.%20We%20used%20the%20stricter%20of%20the%20two%20probe%20holdout%20protocols%20described%20under%20%5BMeasurements%5D(%23measurements).%0A%0A%20%20%20%20To%20be%20concrete%20about%20what%20one%20point%20on%20a%20line%20is%3A%20each%20combination%20of%20%7Bseed%2C%20form%2C%20target%2C%20depth%2C%20landmark%7D%20is%20a%20%22site%22%2C%20and%20each%20site%20gets%20its%20own%20independently%20fitted%20ridge%20probe.%20The%20target%20is%20the%20probed%20quantity%20(operand%201%2C%20operand%202%2C%20or%20the%20mix).%20The%20probe%20inputs%20are%20the%20residual-stream%20activations%20of%20the%20N%20equations%20at%20that%20one%20token%20position%20and%20depth%20(an%20N%20%C3%97%20C%20matrix)%2C%20and%20its%20regression%20targets%20are%20the%20RGB%20triples%20of%20the%20probed%20quantity%20(N%20%C3%97%203).%20A%20probe%20never%20sees%20activations%20from%20any%20other%20depth%20or%20position%2C%20in%20fitting%20or%20in%20scoring.%20The%20height%20of%20a%20line%20is%20the%20held-out%20%24R%5E2%24%20at%20that%20site%20under%20the%20strict%20holdout%20protocol.%20The%20colored%20step-lines%20are%20the%20per-channel%20scores%20averaged%20over%20the%20three%20seeds%2C%20and%20the%20hairlines%20show%20the%20seed%20spread.%0A%0A%20%20%20%20Because%20the%20sites%20are%20independent%2C%20%24R%5E2%24%20says%20nothing%20about%20how%20probe%20directions%20relate%20across%20sites.%20A%20high%20score%20means%20a%20value-aligned%20readout%20direction%20exists%20at%20that%20site%2C%20but%20the%20score%20is%20the%20same%20whichever%20direction%20it%20is%2C%20so%20two%20sites%20can%20score%20alike%20with%20orthogonal%20readouts.%20The%20staggered%20per-channel%20bumps%20in%20the%20hex%20panels%2C%20similar%20as%20they%20look%2C%20are%20three%20separate%20fits.%20At%20the%20embedding%20they%20may%20well%20be%20one%20readout%20of%20the%20shared%20digit-embedding%20axis%20seen%20at%20three%20positions%2C%20but%20checking%20that%20would%20take%20a%20direction%20comparison%20(as%20in%20the%20principal-angle%20measure)%2C%20which%20this%20figure%20does%20not%20make.%0A%0A%20%20%20%20A%20few%20reading%20notes.%20The%20lines%20are%20stepped%20because%20each%20landmark%20is%20a%20discrete%20character%20position%3B%20a%20straight%20line%20between%20two%20would%20claim%20measurements%20that%20were%20never%20made.%20Risers%20drawn%20in%20lighter%20ink%20skip%20over%20a%20variable-length%20middle%20of%20a%20name%20(0%20to%2022%20characters%2C%20depending%20on%20the%20name)%2C%20so%20a%20named%20trace%20that%20steps%20up%20across%20one%20of%20those%20risers%20is%20the%20name%20completing%3B%20hex%20lines%20skip%20nothing%2C%20since%20all%20four%20characters%20of%20a%20hex%20operand%20are%20landmarks.%20Every%20minor%20panel%20shares%20the%20same%200%20and%201%20gridlines.%20Scores%20below%20zero%20are%20drawn%20at%20the%20floor%20(clamped%20to%20zero).%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(arrays)%3A%0A%20%20%20%20%40themed(%0A%20%20%20%20%20%20%20%20name%3D%22probe-channels%22%2C%0A%20%20%20%20%20%20%20%20alt_text%3D%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20Probe%20R%C2%B2%20traced%20across%20the%20equation%20for%20each%20RGB%20channel%2C%20stacked%0A%20%20%20%20%20%20%20%20%20%20%20%20by%20depth%2C%20with%20the%20named%20form%20on%20top%20and%20hex%20below.%20The%20named%0A%20%20%20%20%20%20%20%20%20%20%20%20panels%20are%20flat%20over%20the%20names%20themselves%20and%20rise%20at%20the%20spaces%0A%20%20%20%20%20%20%20%20%20%20%20%20that%20follow%20them%2C%20peaking%20at%20the%20pre-answer%20position%3B%20the%20hex%0A%20%20%20%20%20%20%20%20%20%20%20%20panels%20show%20each%20channel%20legible%20only%20at%20its%20own%20digit.%20Only%20named%0A%20%20%20%20%20%20%20%20%20%20%20%20brings%20all%20three%20channels%20high%20together%20at%20the%20mix.%0A%20%20%20%20%20%20%20%20%22%22%22%2C%0A%20%20%20%20%20%20%20%20caption%3D%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20Per-channel%20probe%20%24R%5E2%24%20under%20the%20strict%20holdout%2C%20center%20condition.%0A%20%20%20%20%20%20%20%20%20%20%20%20Named%20form%20on%20top%2C%20hex%20below%3B%20columns%20are%20operand%201%2C%20operand%202%2C%20and%0A%20%20%20%20%20%20%20%20%20%20%20%20the%20mix.%20Within%20a%20block%2C%20depth%20runs%20upward%20from%20the%20embedding%20and%0A%20%20%20%20%20%20%20%20%20%20%20%20the%20x%20axis%20across%20the%20grammar%20landmarks%2C%20one%20step-line%20per%20RGB%0A%20%20%20%20%20%20%20%20%20%20%20%20channel.%20The%20grey%20area%20is%20the%20three-channel%20mean%2C%20and%20the%20two%0A%20%20%20%20%20%20%20%20%20%20%20%20hairlines%20are%20the%20highest%20and%20lowest%20of%20the%20three%20seeds.%0A%20%20%20%20%20%20%20%20%22%22%22%2C%0A%20%20%20%20)%0A%20%20%20%20def%20_plot()%20-%3E%20plt.Figure%3A%0A%20%20%20%20%20%20%20%20%23%20(seed%2C%20depth%2B1%2C%20landmark%2C%203)%20per%20form%20and%20target%20%E2%80%94%20unaggregated%2C%20so%20the%20figure%20can%0A%20%20%20%20%20%20%20%20%23%20draw%20both%20the%20seed%20mean%20and%20the%20seed%20spread.%20The%20strict%20per-channel%20map%3A%20equations%0A%20%20%20%20%20%20%20%20%23%20containing%20a%20held-out%20value%20are%20removed%20from%20the%20probe%20fit%2C%20so%20a%20plateau%20here%20is%0A%20%20%20%20%20%20%20%20%23%20geometry%20rather%20than%20a%20recovered%20identity.%20Its%20per-equation%20twin%20is%20in%20the%0A%20%20%20%20%20%20%20%20%23%20exploratory%20section.%0A%20%20%20%20%20%20%20%20_stacks%20%3D%20%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20(_f%2C%20_t)%3A%20np.stack(%5Barrays%5Bf%22center-s%7B_s%7D%2Fprobes%2F%7B_f%7D%2F%7B_t%7D%2Fr2_strict_ch%22%5D%20for%20_s%20in%20SEEDS%5D)%0A%20%20%20%20%20%20%20%20%20%20%20%20for%20_f%20in%20vp.FORMS%0A%20%20%20%20%20%20%20%20%20%20%20%20for%20_t%20in%20vp.TARGETS%0A%20%20%20%20%20%20%20%20%7D%0A%20%20%20%20%20%20%20%20return%20vp.probe_trace_grid(_stacks%2C%20form_axis%3D%22row%22%2C%20width%3D10.5%2C%20panel_height%3D0.4%2C%20ylabel%3D%22probe%20R%C2%B2%20per%20depth%22)%0A%0A%20%20%20%20mo.Html(_plot())%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20**The%20named%20form%20matches%20the%20prediction.**%20The%20mix%20is%20decodable%20at%20%24R%5E2%20%3D%200.94%24%20at%20the%20pre-answer%20position%20in%20the%20last%20layer%2C%20and%20all%20three%20seeds%20land%20there%20(0.93%2C%200.95%2C%200.95)%20%E2%80%94%20for%20mix%20*values*%20the%20probe%20never%20saw%2C%20which%20is%20a%20stronger%20claim%20than%20the%20preregistered%20estimator%20makes.%20That%20estimator%20gives%200.944%20at%20the%20same%20site%2C%20so%20H2%20is%20carried%20either%20way%20and%20nothing%20turns%20on%20the%20change%20of%20protocol.%20Where%20the%20mix%20*first*%20appears%20is%20less%20settled%3A%20one%20seed%20already%20reads%20it%20at%20the%20%60%3D%60%20sign%20by%20the%20second-to-last%20layer%20while%20the%20other%20two%20stay%20near%200.3%20there%2C%20visible%20as%20the%20upper%20hairline%20lifting%20away%20from%20the%20outline%20at%20%60%3D%60.%0A%0A%20%20%20%20**The%20value%20of%20a%20named%20operand%20is%20not%20on%20its%20name.**%20At%20the%20last%20character%20of%20operand%201%20the%20strict%20probe%20scores%20%24-0.05%24%2C%20and%20operand%202%20scores%20%240.00%24%3A%20nothing.%20The%20value%20sits%20instead%20on%20the%20spaces%20that%20follow.%20It%20reads%20%240.23%24%20on%20the%20space%20closing%20operand%201%2C%20rises%20to%20%240.47%24%20across%20the%20%60%2B%60%2C%20and%20reaches%20%240.64%24%20by%20the%20pre-answer%20position.%20A%20variable-length%20name%20has%20no%20fixed%20slot%2C%20and%20the%20model%20appears%20to%20resolve%20it%20into%20the%20first%20fixed%20position%20available.%20The%20value%20could%20not%20have%20appeared%20any%20earlier%3A%20the%20model%20reads%20left%20to%20right%2C%20and%20the%20first%20characters%20of%20a%20color%20name%20do%20not%20determine%20its%20value%3A%20%60sea%20green%60%20and%20%60salmon%60%20share%20a%20prefix%20and%20nothing%20else%2C%20and%20predicting%20the%20RGB%20of%20a%20held-out%20name%20from%20the%20other%20names%20sharing%20its%20two-character%20prefix%20scores%20%24-0.21%24%2C%20below%20the%20palette%20mean.%0A%0A%20%20%20%20Part%20of%20what%20the%20closing%20space%20holds%20is%20lexical%20rather%20than%20chromatic.%2099%20of%20the%20140%20names%20are%20multi-word%20and%20the%20modifier%20words%20recur%2C%20and%20holding%20out%20whole%20word%20families%20costs%20that%20site%20%240.43%24%20more%20than%20a%20color-matched%20holdout%20of%20the%20same%20size%20does.%5B%5Ewordfam%5D%20The%20site%20after%20the%20%60%2B%60%20is%20much%20less%20lexical%2C%20so%20the%20%240.47%24%20there%20is%20the%20sturdier%20number.%20This%20is%20also%20where%20the%20preregistered%20estimator%20diverges%20most%3A%20it%20reads%20%240.75%24%20at%20the%20last%20character%20of%20the%20name.%20That%20reading%20is%20name%20recognition%20%E2%80%94%20the%20identity%20is%20recoverable%20there%2C%20but%20the%20value%20is%20not%20placed%20geometrically.%0A%0A%20%20%20%20**Hex%20relays%20its%20channels%20and%20does%20not%20retain%20them.**%20Each%20channel%20is%20legible%20at%20its%20own%20digit%20and%20near%20zero%20at%20the%20next%2C%20a%20strict%20relay%20rather%20than%20an%20accumulation.%20At%20the%20embedding%20the%20probe%20reads%20%240.42%24%20at%20the%20position%20of%20the%20digit%20itself%2C%20so%20the%2016%20digit%20embeddings%20do%20carry%20a%20real%20magnitude%20axis.%20Depth%20then%20improves%20it%2C%20rising%20to%20%240.78%24%20at%20the%20last%20digit%20of%20operand%202%20by%20the%20last%20layer.%0A%0A%20%20%20%20Hex%20reads%20nothing%20at%20the%20delimiters%20(%24-0.23%24)%2C%20which%20is%20what%20a%20form%20whose%20three%20digits%20sit%20at%20fixed%20offsets%20should%20do%2C%20because%20it%20needs%20no%20summary%20slot.%0A%0A%20%20%20%20%2F%2F%2F%20details%20%7C%20Why%20the%20preregistered%20estimator%20reads%201.00%20at%20the%20embedding%0A%20%20%20%20That%20reading%20is%20a%20ceiling%20the%20setup%20hands%20out%20rather%20than%20a%20measurement%3A%20a%20hex%20digit%20position%20holds%20one%20of%2016%20tokens%2C%20the%20held-out%20unit%20is%20an%20equation%2C%20and%2016%20points%20in%2064%20dimensions%20admit%20an%20exact%20linear%20fit%20whatever%20the%20values.%20The%20strict%20%240.42%24%20is%20the%20informative%20number%2C%20since%20under%20that%20holdout%20the%20value%20of%20the%20digit%20never%20enters%20the%20fit.%0A%0A%20%20%20%20Read%20at%20the%20*green*%20digit%2C%20the%20red%20channel%20scores%20%240.82%24%20under%20the%20preregistered%20estimator%20and%20%24-0.27%24%20under%20the%20strict%20one%3A%20red%20is%20still%20recoverable%20there%2C%20because%20attention%20reaches%20back%20to%20its%20digit%2C%20but%20it%20is%20no%20longer%20placed%20by%20value.%0A%20%20%20%20%2F%2F%2F%0A%0A%20%20%20%20**Hex%20never%20assembles%20the%20mix%2C%20and%20the%20named%20pre-answer%20site%20carries%20everything%20at%20once.**%20The%20hex%20mix%20reaches%20only%20%240.20%24%20at%20the%20pre-answer%20position%20and%20%240.55%24%20mid-answer%2C%20and%20the%20mid-answer%20reading%20sits%20where%20the%20answer%20digits%20themselves%20are%20in%20the%20input%20(see%20the%20surface-text%20caveat%20under%20Exploratory%20analyses).%20Nothing%20in%20the%20hex%20panels%20looks%20like%20a%20whole%20pre-answer%20mix%2C%20so%20the%20coupling%20signal%20that%20H2%20reserved%20judgment%20on%20did%20not%20appear.%20This%20is%20likely%20to%20matter%20for%20anchoring.%20At%20the%20named%20pre-answer%20position%20the%20mix%20reads%20%240.94%24%2C%20operand%201%20%240.64%24%2C%20and%20operand%202%20%240.62%24%2C%20so%20one%20site%20carries%20the%20whole%20equation.%20Hex%20has%20no%20such%20site%2C%20and%20a%20general%20RGB%20anchor%20needs%20one%20where%20the%20whole%20concept%20lives%2C%20even%20if%20only%20one%20color%20is%20being%20anchored.%0A%0A%20%20%20%20%5B%5Ewordfam%5D%3A%20A%20separate%20refit%20on%20the%20published%20checkpoints%2C%20since%20it%20needs%20folds%20the%20stored%20maps%20don't%20carry%3B%20the%20numbers%20are%20quoted%20here%20rather%20than%20recomputed%20in%20this%20notebook.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(arrays)%3A%0A%20%20%20%20%23%20Sites%20picked%20for%20the%20role%20they%20play%20in%20the%20claims%20above%2C%20not%20for%20the%20size%20of%20their%0A%20%20%20%20%23%20disagreement%20%E2%80%94%20ranking%20by%20the%20quantity%20on%20show%20would%20guarantee%20a%20dramatic%20table.%0A%20%20%20%20_sites%20%3D%20%5B%0A%20%20%20%20%20%20%20%20(%22named%22%2C%20%22mix%22%2C%20%22pre%22%2C%20None%2C%20%22named%20mix%2C%20pre-answer%20(decides%20H2)%22)%2C%0A%20%20%20%20%20%20%20%20(%22named%22%2C%20%22mix%22%2C%20%22eq%22%2C%20None%2C%20%22named%20mix%2C%20at%20the%20%3D%22)%2C%0A%20%20%20%20%20%20%20%20(%22named%22%2C%20%22op1%22%2C%20%22o1e0%22%2C%20None%2C%20%22named%20operand%201%2C%20its%20last%20character%22)%2C%0A%20%20%20%20%20%20%20%20(%22named%22%2C%20%22op1%22%2C%20%22plussp%22%2C%20None%2C%20%22named%20operand%201%2C%20the%20space%20after%20%2B%22)%2C%0A%20%20%20%20%20%20%20%20(%22hex%22%2C%20%22op2%22%2C%20%22o2s1%22%2C%200%2C%20%22hex%20operand%202%2C%20red%20at%20its%20own%20digit%20(embedding)%22)%2C%0A%20%20%20%20%20%20%20%20(%22hex%22%2C%20%22op2%22%2C%20%22o2e1%22%2C%200%2C%20%22hex%20operand%202%2C%20red%20at%20the%20green%20digit%22)%2C%0A%20%20%20%20%20%20%20%20(%22hex%22%2C%20%22mix%22%2C%20%22pre%22%2C%20None%2C%20%22hex%20mix%2C%20pre-answer%22)%2C%0A%20%20%20%20%5D%0A%20%20%20%20_lm%20%3D%20%7B_n%3A%20_i%20for%20_i%2C%20_n%20in%20enumerate(LANDMARKS)%7D%0A%0A%20%20%20%20def%20_val(form%3A%20str%2C%20target%3A%20str%2C%20key%3A%20str%2C%20landmark%3A%20str%2C%20ch%3A%20int%20%7C%20None%2C%20depth%3A%20int)%20-%3E%20float%3A%0A%20%20%20%20%20%20%20%20_m%20%3D%20np.mean(%5Barrays%5Bf%22center-s%7B_s%7D%2Fprobes%2F%7Bform%7D%2F%7Btarget%7D%2F%7Bkey%7D%22%5D%20for%20_s%20in%20SEEDS%5D%2C%20axis%3D0)%0A%20%20%20%20%20%20%20%20_cell%20%3D%20_m%5Bdepth%2C%20_lm%5Blandmark%5D%5D%0A%20%20%20%20%20%20%20%20return%20float(_cell%5Bch%5D%20if%20ch%20is%20not%20None%20else%20np.mean(_cell))%0A%0A%20%20%20%20_thead%20%3D%20(%0A%20%20%20%20%20%20%20%20%22%3Ctr%3E%3Cth%3Esite%3C%2Fth%3E%22%0A%20%20%20%20%20%20%20%20%2B%20%22%22.join(f'%3Cth%20class%3D%22num%22%3E%7B_h%7D%3C%2Fth%3E'%20for%20_h%20in%20(%22per-equation%22%2C%20%22strict%22%2C%20%22difference%22))%0A%20%20%20%20%20%20%20%20%2B%20%22%3C%2Ftr%3E%22%0A%20%20%20%20)%0A%20%20%20%20_rows%20%3D%20%22%22%0A%20%20%20%20for%20_f%2C%20_t%2C%20_lmk%2C%20_ch%2C%20_desc%20in%20_sites%3A%0A%20%20%20%20%20%20%20%20_d%20%3D%200%20if%20%22embedding%22%20in%20_desc%20else%204%0A%20%20%20%20%20%20%20%20_e%20%3D%20_val(_f%2C%20_t%2C%20%22r2_ch%22%2C%20_lmk%2C%20_ch%2C%20_d)%0A%20%20%20%20%20%20%20%20_s%20%3D%20_val(_f%2C%20_t%2C%20%22r2_strict_ch%22%2C%20_lmk%2C%20_ch%2C%20_d)%0A%20%20%20%20%20%20%20%20_rows%20%2B%3D%20(%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%3Ctr%3E%3Ctd%3E%7B_desc%7D%3C%2Ftd%3E%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%2B%20f'%3Ctd%20class%3D%22num%22%3E%7B_e%3A%2B.3f%7D%3C%2Ftd%3E%3Ctd%20class%3D%22num%22%3E%7B_s%3A%2B.3f%7D%3C%2Ftd%3E'%0A%20%20%20%20%20%20%20%20%20%20%20%20%2B%20f'%3Ctd%20class%3D%22num%22%3E%7B_s%20-%20_e%3A%2B.3f%7D%3C%2Ftd%3E%3C%2Ftr%3E'%0A%20%20%20%20%20%20%20%20)%0A%20%20%20%20mo.vstack(%0A%20%20%20%20%20%20%20%20%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.Html(%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20'%3Cdiv%20class%3D%22report-table-scroll%22%3E%3Ctable%20class%3D%22report-table%22%3E'%20%2B%20_thead%20%2B%20_rows%20%2B%20%22%3C%2Ftable%3E%3C%2Fdiv%3E%22%0A%20%20%20%20%20%20%20%20%20%20%20%20)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.md(%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20Sites%20where%20the%20two%20holdouts%20disagree%2C%20at%20the%20last%20layer%20except%20for%20the%20embedding%20row.%20The%20difference%20column%20is%20how%20much%20of%20a%20reading%20was%20identity%20recovery%3A%20near%20zero%20means%20the%20site%20holds%20a%20value%20the%20probe%20can%20place%20without%20having%20seen%20it%2C%20and%20a%20large%20negative%20gap%20means%20the%20probe%20was%20looking%20the%20value%20up.%20Either%20estimator%20decides%20the%20H2%20site%20the%20same%20way%2C%20so%20adopting%20the%20stricter%20one%20changes%20no%20conclusion.%0A%20%20%20%20%20%20%20%20%20%20%20%20%22%22%22)%2C%0A%20%20%20%20%20%20%20%20%5D%0A%20%20%20%20)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Cross-form%20geometry%20separation%20(H3)%0A%0A%20%20%20%20H3%20predicted%20%24%5Crho%20%3C%200.2%24%20and%20large%20principal%20angles.%20Both%20hold%20conclusively%3A%20%24%5Crho%24%20is%20**zero**%20at%20every%20cell%20where%20the%20guard%20defines%20it%2C%20in%20both%20directions%20and%20for%20all%20three%20targets.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(arrays)%3A%0A%20%20%20%20%23%20Every%20cross-form%20cell%20in%20the%20centre-condition%20scan%3A%202%20directions%20%C3%97%203%20targets%20%C3%97%203%20seeds%20%C3%97%0A%20%20%20%20%23%20depth%20%C3%97%20landmark.%20The%20extremes%20bound%20the%20whole%20claim%2C%20so%20quote%20them%20rather%20than%20a%20site.%0A%20%20%20%20_all_cross%20%3D%20np.concatenate(%0A%20%20%20%20%20%20%20%20%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20arrays%5Bf%22center-s%7B_s%7D%2Fcross%2F%7B_d%7D%2F%7B_t%7D%2Fr2%22%5D.ravel()%0A%20%20%20%20%20%20%20%20%20%20%20%20for%20_s%20in%20SEEDS%0A%20%20%20%20%20%20%20%20%20%20%20%20for%20_d%20in%20(%22hex2name%22%2C%20%22name2hex%22)%0A%20%20%20%20%20%20%20%20%20%20%20%20for%20_t%20in%20vp.TARGETS%0A%20%20%20%20%20%20%20%20%5D%0A%20%20%20%20)%0A%20%20%20%20_pre%20%3D%20LANDMARKS.index(%22pre%22)%0A%20%20%20%20_named_pre%20%3D%20float(np.mean(%5Barrays%5Bf%22center-s%7B_s%7D%2Fprobes%2Fnamed%2Fmix%2Fr2_strict%22%5D%5B4%2C%20_pre%5D%20for%20_s%20in%20SEEDS%5D))%0A%20%20%20%20_named_pre_eq%20%3D%20float(np.mean(%5Barrays%5Bf%22center-s%7B_s%7D%2Fprobes%2Fnamed%2Fmix%2Fr2%22%5D%5B4%2C%20_pre%5D%20for%20_s%20in%20SEEDS%5D))%0A%20%20%20%20_carried_pre%20%3D%20float(np.mean(%5Barrays%5Bf%22center-s%7B_s%7D%2Fcross%2Fhex2name%2Fmix%2Fr2%22%5D%5B4%2C%20_pre%5D%20for%20_s%20in%20SEEDS%5D))%0A%0A%20%20%20%20mo.md(f%22%22%22%0A%20%20%20%20Zero%20is%20a%20stronger%20statement%20than%20it%20looks.%20%24%5C%5Crho%24%20clips%20negative%20cross-form%20%24R%5E2%24%20to%20zero%2C%20so%20in%20principle%20a%20floor%20reading%20could%20hide%20a%20score%20just%20below%20break-even.%20Nothing%20here%20is%20close%3A%20all%20%7Blen(_all_cross)%3A%2C%7D%20cross-form%20cells%20in%20the%20scan%20are%20negative%2C%20and%20the%20best%20of%20them%20is%20%24%7B_all_cross.max()%3A.3f%7D%24.%20Take%20the%20pre-answer%20position%20in%20the%20last%20layer%20as%20an%20example.%20The%20mix%20probe%20fitted%20on%20the%20named%20form%20reads%20%7B_named_pre%3A.2f%7D%20there%3B%20the%20hex%20probe%20applied%20to%20the%20same%20activations%20reads%20%24%7B_carried_pre%3A.0f%7D%24.%20That%20is%20far%20worse%20than%20answering%20with%20the%20training%20mean%2C%20which%20suggests%20the%20decoder%20is%20pointing%20in%20an%20unrelated%20direction.%0A%0A%20%20%20%20The%20figure%20below%20shows%20both%20readings%20on%20the%20same%20axes%2C%20per%20form%20and%20target.%20The%20grey%20area%20is%20what%20the%20own-form%20probe%20recovers%3B%20the%20amber%20line%20is%20what%20the%20other-form%20probe%20recovers%20from%20the%20same%20activations.%20The%20amber%20fraction%20of%20the%20grey%20is%20%24%5C%5Crho%24%2C%20and%20it%20is%20zero%20everywhere.%20Note%20that%20grey%20in%20the%20hex%20row%20is%20low%20because%20the%20strict%20readings%20for%20hex%20itself%20are%20low%20(H2%20found%20it%20relays%20its%20channels%20rather%20than%20holding%20them)%2C%20so%20the%20transfer%20claim%20rests%20on%20the%20named%20row%20and%20on%20the%20magnitudes%20quoted%20above.%0A%0A%20%20%20%20%2F%2F%2F%20details%20%7C%20Which%20within-form%20estimate%20the%20denominator%20uses%0A%20%20%20%20The%20figure%20and%20the%20table%20use%20the%20**strict**%20holdout%20for%20the%20within-form%20reading%2C%20so%20the%20grey%20areas%20are%20the%20same%20quantity%20as%20in%20the%20per-channel%20H2%20figure.%20The%20preregistered%20%24%5C%5Crho%24%20used%20the%20per-equation%20estimator%20instead.%20We%20switched%20because%20the%20two%20halves%20of%20the%20ratio%20should%20be%20measured%20alike%3A%20a%20cross-form%20probe%20has%20never%20seen%20tokens%20of%20the%20target%20form%2C%20so%20it%20cannot%20recover%20a%20value%20by%20identity%20lookup%2C%20while%20the%20per-equation%20within-form%20estimate%20can.%20Mixing%20the%20two%20biases%20%24%5C%5Crho%24%20downward%2C%20which%20would%20flatter%20H3%3B%20the%20strict%20denominator%20removes%20that.%0A%0A%20%20%20%20The%20result%20is%20the%20same%20either%20way%2C%20since%20the%20numerator%20is%20what%20fails%20and%20it%20is%20unchanged%3A%20the%20preregistered%20ratios%20are%20zero%20too.%20The%20estimators%20do%20differ%20in%20which%20cells%20clear%20the%20guard%20on%20%24%5C%5Crho%24%2C%20and%20both%20are%20reported%20below.%20At%20the%20pre-answer%20site%20the%20named%20form%20reads%20%7B_named_pre%3A.2f%7D%20strict%20against%20%7B_named_pre_eq%3A.2f%7D%20per-equation%2C%20so%20the%20H3%20headline%20site%20is%20one%20of%20the%20places%20they%20agree.%0A%20%20%20%20%2F%2F%2F%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(arrays)%3A%0A%20%20%20%20%23%20Keyed%20by%20the%20form%20the%20probes%20are%20*applied*%20to%2C%20which%20is%20also%20the%20form%20whose%20landmarks%0A%20%20%20%20%23%20the%20x%20axis%20belongs%20to%20and%20whose%20within-form%20score%20is%20the%20denominator%20of%20%CF%81.%0A%20%20%20%20_applied%20%3D%20%7B%22named%22%3A%20%22hex2name%22%2C%20%22hex%22%3A%20%22name2hex%22%7D%0A%0A%20%20%20%20%40themed(%0A%20%20%20%20%20%20%20%20name%3D%22cross-form-transfer%22%2C%0A%20%20%20%20%20%20%20%20alt_text%3D%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20Six%20blocks%20of%20stacked%20step-line%20panels%2C%20two%20rows%20by%20three%20columns%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20named%20activations%20on%20the%20top%20row%20and%20hex%20on%20the%20bottom%2C%20with%20columns%0A%20%20%20%20%20%20%20%20%20%20%20%20for%20operand%201%2C%20operand%202%20and%20the%20mix.%20Each%20panel%20is%20one%20residual%0A%20%20%20%20%20%20%20%20%20%20%20%20depth%2C%20embedding%20at%20the%20bottom%2C%20plotted%20across%20the%20grammar%20landmarks.%0A%20%20%20%20%20%20%20%20%20%20%20%20A%20grey%20filled%20area%20shows%20what%20the%20own-form%20probe%20reads%20%E2%80%94%20rising%0A%20%20%20%20%20%20%20%20%20%20%20%20over%20the%20operands%20and%2C%20in%20the%20named%20mix%20panel%2C%20high%20at%20the%20pre-answer%0A%20%20%20%20%20%20%20%20%20%20%20%20position%20of%20the%20last%20layer.%20An%20amber%20line%20for%20the%20other-form%20probe%0A%20%20%20%20%20%20%20%20%20%20%20%20applied%20to%20the%20same%20activations%20lies%20flat%20on%20the%20floor%20in%20every%20panel%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20at%20every%20depth%20and%20every%20landmark.%0A%20%20%20%20%20%20%20%20%22%22%22%2C%0A%20%20%20%20%20%20%20%20caption%3Dr%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20Zero-shot%20cross-form%20transfer%20at%20the%20center%20condition%2C%20seed-averaged.%0A%20%20%20%20%20%20%20%20%20%20%20%20Rows%20are%20the%20form%20the%20probes%20are%20applied%20to%3B%20columns%20are%20the%20probe%0A%20%20%20%20%20%20%20%20%20%20%20%20target%3B%20within%20a%20panel%2C%20depth%20runs%20upward%20from%20the%20embedding%20and%0A%20%20%20%20%20%20%20%20%20%20%20%20the%20x%20axis%20across%20the%20grammar%20landmarks.%20Grey%20is%20the%20own-form%0A%20%20%20%20%20%20%20%20%20%20%20%20probe%20under%20the%20strict%20holdout%20(the%20same%20quantity%20as%20the%0A%20%20%20%20%20%20%20%20%20%20%20%20per-channel%20figure%20under%20H2)%2C%20with%20its%20three-seed%20envelope%3B%20amber%0A%20%20%20%20%20%20%20%20%20%20%20%20is%20the%20other-form%20probe%20applied%20unchanged.%20Both%20are%20floored%20at%0A%20%20%20%20%20%20%20%20%20%20%20%20zero%20for%20drawing.%0A%20%20%20%20%20%20%20%20%22%22%22%2C%0A%20%20%20%20)%0A%20%20%20%20def%20_plot()%20-%3E%20plt.Figure%3A%0A%20%20%20%20%20%20%20%20_within%20%3D%20%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20(_f%2C%20_t)%3A%20np.stack(%5Barrays%5Bf%22center-s%7B_s%7D%2Fprobes%2F%7B_f%7D%2F%7B_t%7D%2Fr2_strict%22%5D%20for%20_s%20in%20SEEDS%5D)%0A%20%20%20%20%20%20%20%20%20%20%20%20for%20_f%20in%20vp.FORMS%0A%20%20%20%20%20%20%20%20%20%20%20%20for%20_t%20in%20vp.TARGETS%0A%20%20%20%20%20%20%20%20%7D%0A%20%20%20%20%20%20%20%20_cross%20%3D%20%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20(_f%2C%20_t)%3A%20np.stack(%5Barrays%5Bf%22center-s%7B_s%7D%2Fcross%2F%7B_applied%5B_f%5D%7D%2F%7B_t%7D%2Fr2%22%5D%20for%20_s%20in%20SEEDS%5D)%0A%20%20%20%20%20%20%20%20%20%20%20%20for%20_f%20in%20vp.FORMS%0A%20%20%20%20%20%20%20%20%20%20%20%20for%20_t%20in%20vp.TARGETS%0A%20%20%20%20%20%20%20%20%7D%0A%20%20%20%20%20%20%20%20return%20vp.transfer_trace_grid(_within%2C%20_cross%2C%20width%3D10.5%2C%20panel_height%3D0.4%2C%20ylabel%3D%22probe%20R%C2%B2%20per%20depth%22)%0A%0A%20%20%20%20mo.Html(_plot())%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(arrays%2C%20cells)%3A%0A%20%20%20%20%23%20Two%20sites%2C%20neither%20chosen%20by%20%CF%81.%20The%20preregistered%20one%20maximizes%20the%20within-form%20R%C2%B2%0A%20%20%20%20%23%20of%20the%20*weaker*%20form%2C%20so%20the%20comparison%20happens%20where%20both%20probes%20work%3B%20the%20pre-answer%20site%0A%20%20%20%20%23%20is%20where%20the%20geometry%20of%20the%20named%20form%20is%20strongest%20and%20where%20the%20embedding%20baseline%20is%0A%20%20%20%20%23%20zero%20in%20both%20forms%20(see%20the%20surface-text%20caveat).%0A%20%20%20%20_stored%20%3D%20cells%5B%22center-s0%22%5D%5B%22alignment%22%5D%5B%22primary_site%22%5D%0A%20%20%20%20_lm%20%3D%20%7B_n%3A%20_i%20for%20_i%2C%20_n%20in%20enumerate(LANDMARKS)%7D%0A%0A%20%20%20%20def%20_mean(_path%3A%20str%2C%20_depth%3A%20int%2C%20_landmark%3A%20str)%20-%3E%20float%3A%0A%20%20%20%20%20%20%20%20return%20float(np.mean(%5Barrays%5Bf%22center-s%7B_s%7D%2F%7B_path%7D%22%5D%5B_depth%2C%20_lm%5B_landmark%5D%5D%20for%20_s%20in%20SEEDS%5D))%0A%0A%20%20%20%20def%20_rho(_direction%3A%20str%2C%20_into%3A%20str%2C%20_depth%3A%20int%2C%20_landmark%3A%20str%2C%20_key%3A%20str%20%3D%20%22r2_strict%22)%20-%3E%20str%3A%0A%20%20%20%20%20%20%20%20%23%20%CF%81%20per%20direction%2C%20on%20the%20seed-mean%20maps%2C%20with%20its%20own%20guard%3A%20the%20denominator%20is%20the%0A%20%20%20%20%20%20%20%20%23%20within-form%20R%C2%B2%20of%20the%20form%20the%20probe%20is%20applied%20*to*%2C%20and%20below%200.5%20it%20reports%20nothing.%0A%20%20%20%20%20%20%20%20_cross%20%3D%20np.mean(%5Barrays%5Bf%22center-s%7B_s%7D%2Fcross%2F%7B_direction%7D%2Fmix%2Fr2%22%5D%20for%20_s%20in%20SEEDS%5D%2C%20axis%3D0)%0A%20%20%20%20%20%20%20%20_within%20%3D%20np.mean(%5Barrays%5Bf%22center-s%7B_s%7D%2Fprobes%2F%7B_into%7D%2Fmix%2F%7B_key%7D%22%5D%20for%20_s%20in%20SEEDS%5D%2C%20axis%3D0)%0A%20%20%20%20%20%20%20%20_v%20%3D%20gm.rho(_cross%2C%20_within)%5B_depth%2C%20_lm%5B_landmark%5D%5D%0A%20%20%20%20%20%20%20%20return%20%22%E2%80%94%22%20if%20np.isnan(_v)%20else%20f%22%7B_v%3A.2f%7D%22%0A%0A%20%20%20%20def%20_row(_label%3A%20str%2C%20_depth%3A%20int%2C%20_landmark%3A%20str)%20-%3E%20str%3A%0A%20%20%20%20%20%20%20%20_angles%20%3D%20np.mean(%5Barrays%5Bf%22center-s%7B_s%7D%2Fangles%2Fmix%22%5D%5B_depth%2C%20_lm%5B_landmark%5D%5D%20for%20_s%20in%20SEEDS%5D%2C%20axis%3D0)%0A%20%20%20%20%20%20%20%20_vals%20%3D%20%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%7B_mean('probes%2Fnamed%2Fmix%2Fr2_strict'%2C%20_depth%2C%20_landmark)%3A.2f%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%7B_mean('probes%2Fhex%2Fmix%2Fr2_strict'%2C%20_depth%2C%20_landmark)%3A.2f%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%7B_mean('cross%2Fhex2name%2Fmix%2Fr2'%2C%20_depth%2C%20_landmark)%3A%2B.2f%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20_rho(%22hex2name%22%2C%20%22named%22%2C%20_depth%2C%20_landmark)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%7B_mean('cross%2Fname2hex%2Fmix%2Fr2'%2C%20_depth%2C%20_landmark)%3A%2B.2f%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20_rho(%22name2hex%22%2C%20%22hex%22%2C%20_depth%2C%20_landmark)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22%20%C2%B7%20%22.join(f%22%7B_a%3A.0f%7D%C2%B0%22%20for%20_a%20in%20_angles)%2C%0A%20%20%20%20%20%20%20%20%5D%0A%20%20%20%20%20%20%20%20return%20f%22%3Ctr%3E%3Ctd%3E%7B_label%7D%3C%2Ftd%3E%22%20%2B%20%22%22.join(f'%3Ctd%20class%3D%22num%22%3E%7B_v%7D%3C%2Ftd%3E'%20for%20_v%20in%20_vals)%20%2B%20%22%3C%2Ftr%3E%22%0A%0A%20%20%20%20_cols%20%3D%20(%22within%20named%22%2C%20%22within%20hex%22%2C%20%22cross%20%E2%86%92%20named%22%2C%20%22%CF%81%20%E2%86%92%20named%22%2C%20%22cross%20%E2%86%92%20hex%22%2C%20%22%CF%81%20%E2%86%92%20hex%22%2C%20%22angles%22)%0A%20%20%20%20_thead%20%3D%20%22%3Ctr%3E%3Cth%3Esite%20(mix)%3C%2Fth%3E%22%20%2B%20%22%22.join(f'%3Cth%20class%3D%22num%22%3E%7B_h%7D%3C%2Fth%3E'%20for%20_h%20in%20_cols)%20%2B%20%22%3C%2Ftr%3E%22%0A%20%20%20%20_rows%20%3D%20_row(%0A%20%20%20%20%20%20%20%20f%22depth%20%7B_stored%5B'depth'%5D%7D%2C%20%7B_stored%5B'landmark'%5D%7D%20(preregistered)%22%2C%20_stored%5B%22depth%22%5D%2C%20_stored%5B%22landmark%22%5D%0A%20%20%20%20)%20%2B%20_row(%22depth%204%2C%20pre-answer%20(clean%20ground)%22%2C%204%2C%20%22pre%22)%0A%20%20%20%20_closest%20%3D%20float(np.mean(%5Barrays%5Bf%22center-s%7B_s%7D%2Fangles%2Fmix%22%5D%5B4%2C%20_lm%5B%22pre%22%5D%5D%20for%20_s%20in%20SEEDS%5D%2C%20axis%3D0).min())%0A%0A%20%20%20%20mo.vstack(%0A%20%20%20%20%20%20%20%20%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.Html(%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20'%3Cdiv%20class%3D%22report-table-scroll%22%3E%3Ctable%20class%3D%22report-table%22%3E'%20%2B%20_thead%20%2B%20_rows%20%2B%20%22%3C%2Ftable%3E%3C%2Fdiv%3E%22%0A%20%20%20%20%20%20%20%20%20%20%20%20)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.md(f%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20The%20mix%20probe%20at%20two%20sites%2C%20seed-averaged%3B%20within-form%20readings%20use%20the%20strict%20holdout.%20The%20preregistered%20per-equation%20ratios%20give%20the%20same%20reading%3A%20%7B_rho(%22hex2name%22%2C%20%22named%22%2C%20_stored%5B%22depth%22%5D%2C%20_stored%5B%22landmark%22%5D%2C%20%22r2%22)%7D%20and%20%7B_rho(%22name2hex%22%2C%20%22hex%22%2C%20_stored%5B%22depth%22%5D%2C%20_stored%5B%22landmark%22%5D%2C%20%22r2%22)%7D%20at%20the%20preregistered%20site%2C%20%7B_rho(%22hex2name%22%2C%20%22named%22%2C%204%2C%20%22pre%22%2C%20%22r2%22)%7D%20and%20%7B_rho(%22name2hex%22%2C%20%22hex%22%2C%204%2C%20%22pre%22%2C%20%22r2%22)%7D%20at%20the%20pre-answer%20site.%0A%0A%20%20%20%20%20%20%20%20%20%20%20%20Neither%20site%20was%20picked%20using%20%24%5C%5Crho%24.%20The%20preregistered%20site%20maximizes%20the%20within-form%20%24R%5E2%24%20of%20the%20weaker%20form%2C%20so%20the%20two%20probes%20are%20compared%20where%20both%20have%20something%20to%20carry.%20The%20pre-answer%20site%20is%20where%20the%20geometry%20of%20the%20named%20form%20is%20strongest%20and%20where%20the%20answer%20text%20cannot%20contaminate%20either%20form.%20The%20two%20sites%20disagree%20about%20where%20hex%20is%20legible%3A%20at%20the%20pre-answer%20site%2C%20the%20within-form%20hex%20reading%20falls%20under%20the%20guard%20on%20%24%5C%5Crho%24%2C%20so%20the%20ratio%20into%20hex%20reports%20nothing%20there%20rather%20than%20zero.%20They%20agree%20about%20everything%20that%20bears%20on%20H3.%20The%20pre-answer%20site%20is%20also%20where%20the%20two%20mix%20decoders%20come%20closest%20to%20sharing%20a%20direction%2C%20and%20even%20there%20the%20smallest%20of%20the%20three%20principal%20angles%20is%20%7B_closest%3A.0f%7D%C2%B0.%0A%0A%20%20%20%20%20%20%20%20%20%20%20%20The%20guard%20behind%20%24%5C%5Crho%24%20turns%20out%20not%20to%20matter%20either.%20It%20reports%20a%20ratio%20only%20where%20the%20within-form%20%24R%5E2%24%20clears%200.5.%20Swapping%20the%20per-equation%20estimator%20for%20the%20strict%20one%20changes%20which%20cells%20qualify%2C%20from%2022%E2%80%9362%20of%20270%20(5%20depths%20%C3%97%2018%20landmarks%20%C3%97%203%20seeds)%20down%20to%200%E2%80%9337%3B%20the%20hex%20operand%20rows%20drop%20out%20entirely%2C%20since%20their%20strict%20readings%20never%20reach%200.5.%20The%20verdict%20is%20the%20same%20either%20way%2C%20because%20the%20numerator%20is%20negative%20in%20every%20cell%20of%20the%20map%2C%20gated%20or%20not.%20That%20settles%20the%20open%20question%20of%20whether%20the%20alignment%20measures%20should%20be%20gated%20on%20the%20stricter%20estimator%3A%20here%20it%20makes%20no%20difference.%0A%20%20%20%20%20%20%20%20%20%20%20%20%22%22%22)%2C%0A%20%20%20%20%20%20%20%20%5D%0A%20%20%20%20)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(arrays%2C%20maps)%3A%0A%20%20%20%20%23%20Two%20nulls%20for%20the%20principal%20angle%2C%20both%20needed%20because%20the%20angle%20between%20two%0A%20%20%20%20%23%203-dimensional%20subspaces%20shrinks%20as%20the%20ambient%20space%20does%20%E2%80%94%20the%20width%20sweep%20moves%0A%20%20%20%20%23%20the%20ambient%20dimension%2C%20so%20an%20unadjusted%20angle%20trend%20says%20nothing%20on%20its%20own.%0A%20%20%20%20_rng%20%3D%20np.random.default_rng(0)%0A%0A%20%20%20%20def%20_first(_wa%3A%20np.ndarray%2C%20_wb%3A%20np.ndarray)%20-%3E%20float%3A%0A%20%20%20%20%20%20%20%20return%20float(gm.principal_angles(_wa%2C%20_wb)%5B0%5D)%0A%0A%20%20%20%20def%20random_angle_null(width%3A%20int%2C%20n%3A%20int%20%3D%202000)%20-%3E%20tuple%5Bfloat%2C%20float%5D%3A%0A%20%20%20%20%20%20%20%20%22%22%22Mean%20and%20spread%20of%20the%20first%20angle%20between%20two%20random%203-planes%20in%20R%5Ewidth.%0A%0A%20%20%20%20%20%20%20%20Drawn%20as%20one%20(n%2C%202%2C%20width%2C%203)%20block%20and%20reduced%20in%20a%20single%20batched%20call.%0A%20%20%20%20%20%20%20%20The%20block%20interleaves%20the%20two%20planes%20exactly%20as%20a%20pair-at-a-time%20loop%20would%2C%0A%20%20%20%20%20%20%20%20and%20%60principal_angles%60%20batches%20without%20changing%20the%20arithmetic%2C%20so%20this%0A%20%20%20%20%20%20%20%20reports%20the%20same%20numbers%20as%20the%20loop%20it%20replaces.%0A%20%20%20%20%20%20%20%20%22%22%22%0A%20%20%20%20%20%20%20%20_pairs%20%3D%20_rng.normal(size%3D(n%2C%202%2C%20width%2C%203))%0A%20%20%20%20%20%20%20%20_a%20%3D%20gm.principal_angles(_pairs%5B%3A%2C%200%5D%2C%20_pairs%5B%3A%2C%201%5D)%5B%3A%2C%200%5D%0A%20%20%20%20%20%20%20%20return%20float(_a.mean())%2C%20float(_a.std())%0A%0A%20%20%20%20def%20angles_at(arm%3A%20str%2C%20target%3A%20str%20%3D%20%22mix%22)%20-%3E%20dict%5Bstr%2C%20float%5D%3A%0A%20%20%20%20%20%20%20%20%22%22%22Cross-form%20first%20angle%20at%20the%20clean%20pre-answer%20site%2C%20with%20both%20nulls.%0A%0A%20%20%20%20%20%20%20%20The%20seed%20control%20replaces%20the%20arbitrary%20directions%20of%20the%20random%20draw%20with%20real%0A%20%20%20%20%20%20%20%20probes%20that%20decode%20the%20same%20quantity%20in%20unrelated%20bases%3A%20three%20seeds%20train%0A%20%20%20%20%20%20%20%20in%20three%20different%20coordinate%20systems%2C%20so%20their%20named-form%20probes%20are%20as%0A%20%20%20%20%20%20%20%20unaligned%20as%20two%20probes%20can%20be%20while%20still%20being%20probes.%0A%20%20%20%20%20%20%20%20%22%22%22%0A%20%20%20%20%20%20%20%20_d%2C%20_w%20%3D%20ARMS%5Barm%5D%5B%22depth%22%5D%2C%20ARMS%5Barm%5D%5B%22width%22%5D%0A%20%20%20%20%20%20%20%20_pre%20%3D%20LANDMARKS.index(%22pre%22)%0A%20%20%20%20%20%20%20%20_wt%20%3D%20%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20(_f%2C%20_s)%3A%20arrays%5Bf%22%7Barm%7D-s%7B_s%7D%2Fprobes%2F%7B_f%7D%2F%7Btarget%7D%2Fweights%22%5D%5B_d%2C%20_pre%5D%20for%20_f%20in%20vp.FORMS%20for%20_s%20in%20SEEDS%0A%20%20%20%20%20%20%20%20%7D%0A%20%20%20%20%20%20%20%20_mean%2C%20_sd%20%3D%20random_angle_null(_w)%0A%20%20%20%20%20%20%20%20return%20%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22cross_form%22%3A%20float(np.mean(%5B_first(_wt%5B%22named%22%2C%20_s%5D%2C%20_wt%5B%22hex%22%2C%20_s%5D)%20for%20_s%20in%20SEEDS%5D))%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22seed_control%22%3A%20float(%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20np.mean(%5B_first(_wt%5B%22named%22%2C%20_a%5D%2C%20_wt%5B%22named%22%2C%20_b%5D)%20for%20_a%2C%20_b%20in%20((0%2C%201)%2C%20(0%2C%202)%2C%20(1%2C%202))%5D)%0A%20%20%20%20%20%20%20%20%20%20%20%20)%2C%20%20%23%20fmt%3A%20skip%0A%20%20%20%20%20%20%20%20%20%20%20%20%22random%22%3A%20_mean%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22random_sd%22%3A%20_sd%2C%0A%20%20%20%20%20%20%20%20%7D%0A%0A%20%20%20%20def%20rho_summary(arm%3A%20str)%20-%3E%20dict%3A%0A%20%20%20%20%20%20%20%20%22%22%22%CF%81%20at%20the%20preregistered%20site%20and%20over%20the%20whole%20scan%2C%20for%20one%20condition.%0A%0A%20%20%20%20%20%20%20%20The%20preregistered%20site%20maximizes%20the%20within-form%20%24R%5E2%24%20of%20the%20*weaker*%20form%2C%20so%20the%20two%0A%20%20%20%20%20%20%20%20probes%20are%20compared%20where%20both%20have%20something%20to%20carry%3B%20it%20is%20chosen%20without%0A%20%20%20%20%20%20%20%20reference%20to%20%CF%81%2C%20since%20a%20per-condition%20maximum%20of%20a%20noisy%20map%20rises%20with%20the%20noise%0A%20%20%20%20%20%20%20%20and%20could%20manufacture%20a%20width%20trend%20on%20its%20own.%20The%20scan%20maximum%20is%20reported%0A%20%20%20%20%20%20%20%20beside%20it%20as%20the%20upper%20bound%20on%20sharing%20anywhere%20in%20the%20condition.%0A%20%20%20%20%20%20%20%20%22%22%22%0A%20%20%20%20%20%20%20%20_wn%2C%20_wh%20%3D%20maps(arm%2C%20%22probes%2Fnamed%2Fmix%2Fr2%22)%2C%20maps(arm%2C%20%22probes%2Fhex%2Fmix%2Fr2%22)%0A%20%20%20%20%20%20%20%20_site%20%3D%20np.unravel_index(np.minimum(_wn%2C%20_wh).argmax()%2C%20_wn.shape)%0A%20%20%20%20%20%20%20%20_at%2C%20_best%2C%20_guarded%2C%20_total%20%3D%20%7B%7D%2C%20-np.inf%2C%200%2C%200%0A%20%20%20%20%20%20%20%20for%20_dir%2C%20_into%20in%20((%22hex2name%22%2C%20%22named%22)%2C%20(%22name2hex%22%2C%20%22hex%22))%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20for%20_t%20in%20vp.TARGETS%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20_r%20%3D%20gm.rho(maps(arm%2C%20f%22cross%2F%7B_dir%7D%2F%7B_t%7D%2Fr2%22)%2C%20maps(arm%2C%20f%22probes%2F%7B_into%7D%2F%7B_t%7D%2Fr2_strict%22))%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20_guarded%20%2B%3D%20int((~np.isnan(_r)).sum())%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20_total%20%2B%3D%20_r.size%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20if%20not%20np.isnan(_r).all()%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20_best%20%3D%20max(_best%2C%20float(np.nanmax(_r)))%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20if%20_t%20%3D%3D%20%22mix%22%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20_at%5B_into%5D%20%3D%20float(_r%5B_site%5D)%0A%20%20%20%20%20%20%20%20return%20%7B%22site%22%3A%20_site%2C%20%22at%22%3A%20_at%2C%20%22best%22%3A%20_best%2C%20%22guarded%22%3A%20_guarded%2C%20%22total%22%3A%20_total%7D%0A%0A%20%20%20%20return%20angles_at%2C%20rho_summary%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(rho_summary)%3A%0A%20%20%20%20_all%20%3D%20%7B_a%3A%20rho_summary(_a)%20for%20_a%20in%20ARMS%7D%0A%20%20%20%20_best%20%3D%20max(_r%5B%22best%22%5D%20for%20_r%20in%20_all.values())%0A%20%20%20%20_guarded%20%3D%20sum(_r%5B%22guarded%22%5D%20for%20_r%20in%20_all.values())%0A%20%20%20%20_total%20%3D%20sum(_r%5B%22total%22%5D%20for%20_r%20in%20_all.values())%0A%0A%20%20%20%20mo.md(f%22%22%22%0A%20%20%20%20%23%23%20Alignment%20under%20compression%20(H4)%0A%0A%20%20%20%20H4%20predicted%20that%20narrowing%20the%20residual%20stream%20would%20push%20the%20two%20forms%20together%3A%20%24%5C%5Crho%24%20and%20subspace%20overlap%20rising%20over%20d64%20%E2%86%92%20d32%20%E2%86%92%20d16%2C%20with%20d16-L8%20the%20most%20aligned%20condition%2C%20but%20that%20didn't%20happen.%20%24%5C%5Crho%24%20is%20%7B_best%3A.2f%7D%20at%20every%20one%20of%20the%20%7B_guarded%3A%2C%7D%20cells%20where%20the%20guard%20defines%20it%20across%20the%20whole%20sweep%20(%7B_total%3A%2C%7D%20cells%20before%20gating)%2C%20in%20both%20directions%20and%20for%20all%20three%20targets.%0A%0A%20%20%20%20What%20compression%20does%20instead%20is%20wear%20the%20named%20form%20down.%20The%20figure%20below%20tracks%20three%20quantities%20against%20width%3A%20how%20well%20each%20form%20answers%20held-out%20equations%2C%20how%20well%20the%20named%20mix%20can%20be%20read%20out%20of%20the%20residual%20stream%2C%20and%20how%20close%20the%20mix%20decoders%20of%20the%20two%20forms%20come%20to%20sharing%20a%20direction.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(angles_at%2C%20cells%2C%20maps)%3A%0A%20%20%20%20_widths%20%3D%20%5B16%2C%2032%2C%2064%5D%0A%20%20%20%20_by_shape%20%3D%20%7B(ARMS%5B_a%5D%5B%22width%22%5D%2C%20ARMS%5B_a%5D%5B%22depth%22%5D)%3A%20_a%20for%20_a%20in%20ARMS%20if%20not%20ARMS%5B_a%5D%5B%22bridge%22%5D%7D%0A%20%20%20%20_l4%20%3D%20%7B_w%3A%20_by_shape%5B_w%2C%204%5D%20for%20_w%20in%20_widths%7D%0A%20%20%20%20_l8%20%3D%20%7B_w%3A%20_by_shape%5B_w%2C%208%5D%20for%20_w%20in%20_widths%20if%20(_w%2C%208)%20in%20_by_shape%7D%0A%0A%20%20%20%20def%20_acc(_arm%3A%20str%2C%20_set%3A%20str)%20-%3E%20float%3A%0A%20%20%20%20%20%20%20%20return%20float(np.mean(%5Bcells%5Bf%22%7B_arm%7D-s%7B_s%7D%22%5D%5B%22sets%22%5D%5B_set%5D%5B%22accuracy%22%5D%20for%20_s%20in%20SEEDS%5D))%0A%0A%20%20%20%20def%20_within(_arm%3A%20str)%20-%3E%20float%3A%0A%20%20%20%20%20%20%20%20return%20float(maps(_arm%2C%20%22probes%2Fnamed%2Fmix%2Fr2_strict%22)%5BARMS%5B_arm%5D%5B%22depth%22%5D%2C%20LANDMARKS.index(%22pre%22)%5D)%0A%0A%20%20%20%20%40themed(%0A%20%20%20%20%20%20%20%20name%3D%22compression%22%2C%0A%20%20%20%20%20%20%20%20alt_text%3D%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20Three%20panels%20against%20residual%20width%2C%20plotted%20at%2016%2C%2032%20and%2064.%20Left%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20held-out%20exact%20match.%20The%20hex%20curve%20runs%201.00%2C%201.00%2C%200.72%20as%20the%0A%20%20%20%20%20%20%20%20%20%20%20%20stream%20narrows%3B%20the%20named%20curve%20falls%20much%20further%2C%200.67%2C%200.43%2C%200.05.%0A%20%20%20%20%20%20%20%20%20%20%20%20Middle%3A%20the%20named%20mix%20probe%20R%C2%B2%20at%20the%20pre-answer%20position%20follows%0A%20%20%20%20%20%20%20%20%20%20%20%20the%20named%20curve%20down%2C%200.94%2C%200.80%2C%200.35.%20Right%3A%20the%20first%20principal%0A%20%20%20%20%20%20%20%20%20%20%20%20angle%20between%20the%20mix%20decoders%20of%20the%20two%20forms%20falls%20from%20about%2075%C2%B0%20to%2060%C2%B0%0A%20%20%20%20%20%20%20%20%20%20%20%20to%2051%C2%B0%2C%20and%20a%20shaded%20band%20for%20random%20subspaces%20of%20the%20same%20size%20falls%0A%20%20%20%20%20%20%20%20%20%20%20%20with%20it%2C%20covering%20every%20observed%20point.%20Open%20markers%20for%20the%208-layer%0A%20%20%20%20%20%20%20%20%20%20%20%20conditions%20sit%20clearly%20above%20the%204-layer%20ones%20at%20width%2016%20and%20coincide%0A%20%20%20%20%20%20%20%20%20%20%20%20with%20them%20at%20width%2064.%0A%20%20%20%20%20%20%20%20%22%22%22%2C%0A%20%20%20%20%20%20%20%20caption%3Dr%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20Effects%20of%20narrowing%20the%20residual%20stream%2C%20across%20the%20width%20arms.%0A%20%20%20%20%20%20%20%20%20%20%20%20Filled%20%24%5Cbullet%24%20markers%20joined%20by%20lines%20are%20the%204-layer%20conditions%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20open%20%24%5Cscriptstyle%5CBox%24%20markers%20are%20the%208-layer%20conditions%2C%20dashed%0A%20%20%20%20%20%20%20%20%20%20%20%20because%20there%20is%20no%20d32-L8%20condition%20to%20run%20a%20line%20through.%20Right%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20the%20first%20principal%20angle%20between%20the%20named%20and%20hex%20mix%20decoders%20at%0A%20%20%20%20%20%20%20%20%20%20%20%20the%20pre-answer%20position%20(amber)%2C%20with%20two%20references%3A%20the%20angle%0A%20%20%20%20%20%20%20%20%20%20%20%20between%20two%20random%203-planes%20at%20that%20width%20(grey%20band%2C%20mean%20%C2%B1%201%0A%20%20%20%20%20%20%20%20%20%20%20%20s.d.)%20and%20between%20the%20named%20probes%20of%20two%20seeds%20(red).%0A%20%20%20%20%20%20%20%20%22%22%22%2C%0A%20%20%20%20)%0A%20%20%20%20def%20_plot()%20-%3E%20plt.Figure%3A%0A%20%20%20%20%20%20%20%20fig%2C%20_axes%20%3D%20plt.subplots(1%2C%203%2C%20figsize%3D(9.2%2C%202.9))%0A%20%20%20%20%20%20%20%20_named%20%3D%20light_dark(%22%231a5f8a%22%2C%20%22%236ab0d4%22)%0A%20%20%20%20%20%20%20%20_hex%20%3D%20light_dark(%22%236a4f8a%22%2C%20%22%23b79ad6%22)%0A%20%20%20%20%20%20%20%20_amber%2C%20_ref%20%3D%20vp.transfer_color()%2C%20light_dark(%22%23d1495b%22%2C%20%22%23ff6b7d%22)%0A%0A%20%20%20%20%20%20%20%20def%20_series(_ax%3A%20plt.Axes%2C%20_fn%2C%20_color%2C%20_label)%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20_ax.plot(_widths%2C%20%5B_fn(_l4%5B_w%5D)%20for%20_w%20in%20_widths%5D%2C%20%22o-%22%2C%20color%3D_color%2C%20lw%3D1.4%2C%20ms%3D5%2C%20label%3D_label)%0A%20%20%20%20%20%20%20%20%20%20%20%20_ax.plot(list(_l8)%2C%20%5B_fn(_l8%5B_w%5D)%20for%20_w%20in%20_l8%5D%2C%20%22s%3A%22%2C%20mfc%3D%22none%22%2C%20color%3D_color%2C%20lw%3D0.8%2C%20ms%3D6)%0A%0A%20%20%20%20%20%20%20%20_axes%5B0%5D.set_title(%22accuracy%22)%0A%20%20%20%20%20%20%20%20_series(_axes%5B0%5D%2C%20lambda%20_a%3A%20_acc(_a%2C%20%22hex_holdout%22)%2C%20_hex%2C%20%22hex%22)%0A%20%20%20%20%20%20%20%20_series(_axes%5B0%5D%2C%20lambda%20_a%3A%20_acc(_a%2C%20%22named_holdout%22)%2C%20_named%2C%20%22named%22)%0A%20%20%20%20%20%20%20%20_axes%5B0%5D.set(ylabel%3D%22held-out%20exact%20match%22%2C%20ylim%3D(0%2C%201.05))%0A%20%20%20%20%20%20%20%20_axes%5B0%5D.legend(fontsize%3D7%2C%20loc%3D%22center%20left%22%2C%20framealpha%3D0.6)%0A%0A%20%20%20%20%20%20%20%20_axes%5B1%5D.set_title(%22probe%22)%0A%20%20%20%20%20%20%20%20_series(_axes%5B1%5D%2C%20_within%2C%20_named%2C%20%22named%22)%0A%20%20%20%20%20%20%20%20_axes%5B1%5D.set(ylabel%3D%22named%20mix%20%24R%5E2%24%2C%20pre-answer%22%2C%20ylim%3D(0%2C%201.05))%0A%0A%20%20%20%20%20%20%20%20_axes%5B2%5D.set_title(%22rotation%22)%0A%20%20%20%20%20%20%20%20_ang%20%3D%20%7B_w%3A%20angles_at(_l4%5B_w%5D)%20for%20_w%20in%20_widths%7D%0A%20%20%20%20%20%20%20%20_mean%20%3D%20np.array(%5B_ang%5B_w%5D%5B%22random%22%5D%20for%20_w%20in%20_widths%5D)%0A%20%20%20%20%20%20%20%20_sd%20%3D%20np.array(%5B_ang%5B_w%5D%5B%22random_sd%22%5D%20for%20_w%20in%20_widths%5D)%0A%20%20%20%20%20%20%20%20_axes%5B2%5D.fill_between(_widths%2C%20_mean%20-%20_sd%2C%20_mean%20%2B%20_sd%2C%20color%3Dvp.mean_color()%2C%20alpha%3D0.2%2C%20lw%3D0)%0A%20%20%20%20%20%20%20%20_axes%5B2%5D.plot(_widths%2C%20_mean%2C%20color%3Dvp.mean_color()%2C%20lw%3D1%2C%20alpha%3D0.7%2C%20label%3D%22random%203-planes%22)%0A%20%20%20%20%20%20%20%20_series(_axes%5B2%5D%2C%20lambda%20_a%3A%20angles_at(_a)%5B%22seed_control%22%5D%2C%20_ref%2C%20%22seed%20control%22)%0A%20%20%20%20%20%20%20%20_series(_axes%5B2%5D%2C%20lambda%20_a%3A%20angles_at(_a)%5B%22cross_form%22%5D%2C%20_amber%2C%20%22named%20vs%20hex%22)%0A%20%20%20%20%20%20%20%20_axes%5B2%5D.set(ylabel%3D%22first%20principal%20angle%22%2C%20ylim%3D(0%2C%2095))%0A%20%20%20%20%20%20%20%20_axes%5B2%5D.yaxis.set_major_formatter(lambda%20_v%2C%20_p%3A%20f%22%7B_v%3A.0f%7D%C2%B0%22)%0A%20%20%20%20%20%20%20%20_axes%5B2%5D.legend(fontsize%3D7%2C%20loc%3D%22lower%20right%22%2C%20framealpha%3D0.6)%0A%0A%20%20%20%20%20%20%20%20for%20_ax%20in%20_axes%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%23%20Width%20doubles%20per%20step%2C%20so%20space%20the%20ticks%20by%20octave%3B%20the%20minor%20decade%20ticks%20a%0A%20%20%20%20%20%20%20%20%20%20%20%20%23%20log%20axis%20brings%20with%20it%20label%20the%20wrong%20scale%20entirely%20and%20collide%20with%2016%2F32%2F64.%0A%20%20%20%20%20%20%20%20%20%20%20%20_ax.set_xscale(%22log%22%2C%20base%3D2)%0A%20%20%20%20%20%20%20%20%20%20%20%20_ax.set(xlabel%3D%22residual%20width%22%2C%20xticks%3D_widths)%0A%20%20%20%20%20%20%20%20%20%20%20%20_ax.xaxis.set_minor_locator(plt.NullLocator())%0A%20%20%20%20%20%20%20%20%20%20%20%20_ax.xaxis.set_major_formatter(lambda%20_v%2C%20_p%3A%20f%22%7B_v%3A.0f%7D%22)%0A%20%20%20%20%20%20%20%20%20%20%20%20_ax.grid(alpha%3D0.1)%0A%20%20%20%20%20%20%20%20return%20fig%0A%0A%20%20%20%20mo.Html(_plot())%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(angles_at%2C%20cells%2C%20maps%2C%20rho_summary)%3A%0A%20%20%20%20_order%20%3D%20%5B_a%20for%20_a%20in%20ARMS%20if%20not%20ARMS%5B_a%5D%5B%22bridge%22%5D%20and%20ARMS%5B_a%5D%5B%22names%22%5D%20%3D%3D%20140%20and%20ARMS%5B_a%5D%5B%22hex%22%5D%20%3D%3D%20216%5D%0A%20%20%20%20_pre%20%3D%20LANDMARKS.index(%22pre%22)%0A%0A%20%20%20%20def%20_row(_arm%3A%20str)%20-%3E%20str%3A%0A%20%20%20%20%20%20%20%20_r%2C%20_g%20%3D%20rho_summary(_arm)%2C%20angles_at(_arm)%0A%20%20%20%20%20%20%20%20_fmt%20%3D%20lambda%20_v%3A%20%22%E2%80%94%22%20if%20np.isnan(_v)%20else%20f%22%7B_v%3A.2f%7D%22%20%20%23%20noqa%3A%20E731%0A%20%20%20%20%20%20%20%20_vals%20%3D%20%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%7BARMS%5B_arm%5D%5B'width'%5D%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%7BARMS%5B_arm%5D%5B'depth'%5D%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%7Bnp.mean(%5Bcells%5Bf'%7B_arm%7D-s%7B_s%7D'%5D%5B'sets'%5D%5B'named_holdout'%5D%5B'accuracy'%5D%20for%20_s%20in%20SEEDS%5D)%3A.3f%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%7Bmaps(_arm%2C%20'probes%2Fnamed%2Fmix%2Fr2_strict')%5BARMS%5B_arm%5D%5B'depth'%5D%2C%20_pre%5D%3A.2f%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20_fmt(_r%5B%22at%22%5D%5B%22named%22%5D)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20_fmt(_r%5B%22at%22%5D%5B%22hex%22%5D)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%7B_r%5B'best'%5D%3A.2f%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%7B_g%5B'cross_form'%5D%3A.0f%7D%C2%B0%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%7B_g%5B'seed_control'%5D%3A.0f%7D%C2%B0%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%7B_g%5B'random'%5D%3A.0f%7D%C2%B0%22%2C%0A%20%20%20%20%20%20%20%20%5D%0A%20%20%20%20%20%20%20%20return%20f%22%3Ctr%3E%3Ctd%3E%7B_arm%7D%3C%2Ftd%3E%22%20%2B%20%22%22.join(f'%3Ctd%20class%3D%22num%22%3E%7B_v%7D%3C%2Ftd%3E'%20for%20_v%20in%20_vals)%20%2B%20%22%3C%2Ftr%3E%22%0A%0A%20%20%20%20_cols%20%3D%20(%0A%20%20%20%20%20%20%20%20%22width%22%2C%20%22depth%22%2C%20%22named%20held-out%22%2C%20%22named%20mix%20R%C2%B2%22%2C%0A%20%20%20%20%20%20%20%20%22%CF%81%20%E2%86%92%20named%22%2C%20%22%CF%81%20%E2%86%92%20hex%22%2C%20%22%CF%81%20best%22%2C%20%22angle%22%2C%20%22seed%20control%22%2C%20%22random%22%2C%0A%20%20%20%20)%20%20%23%20fmt%3A%20skip%0A%20%20%20%20_thead%20%3D%20%22%3Ctr%3E%3Cth%3Econdition%3C%2Fth%3E%22%20%2B%20%22%22.join(f'%3Cth%20class%3D%22num%22%3E%7B_h%7D%3C%2Fth%3E'%20for%20_h%20in%20_cols)%20%2B%20%22%3C%2Ftr%3E%22%0A%0A%20%20%20%20mo.vstack(%0A%20%20%20%20%20%20%20%20%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.Html(%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20'%3Cdiv%20class%3D%22report-table-scroll%22%3E%3Ctable%20class%3D%22report-table%22%3E'%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%2B%20_thead%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%2B%20%22%22.join(_row(_a)%20for%20_a%20in%20_order)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%2B%20%22%3C%2Ftable%3E%3C%2Fdiv%3E%22%0A%20%20%20%20%20%20%20%20%20%20%20%20)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.md(%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20The%20width%20arms%2C%20seed-averaged.%20The%20two%20%CF%81%20columns%20are%20at%20the%20preregistered%20site%20(the%20depth%20%C3%97%20landmark%20where%20the%20within-form%20%24R%5E2%24%20of%20the%20weaker%20form%20is%20highest%2C%20chosen%20without%20reference%20to%20%CF%81)%2C%20and%20read%20%22%E2%80%94%22%20where%20the%20within-form%20score%20of%20that%20form%20falls%20under%20the%200.5%20guard%20on%20%CF%81.%20%22%CF%81%20best%22%20is%20the%20largest%20%CF%81%20anywhere%20in%20the%20scan%20for%20that%20condition%2C%20over%20both%20directions%20and%20all%20three%20targets.%20The%20last%20three%20columns%20are%20the%20first%20principal%20angle%20between%20the%20two%20mix%20decoders%20at%20the%20pre-answer%20position%2C%20and%20the%20two%20references%20the%20figure%20plots.%0A%20%20%20%20%20%20%20%20%20%20%20%20%22%22%22)%2C%0A%20%20%20%20%20%20%20%20%5D%0A%20%20%20%20)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(angles_at%2C%20fit_sigma%2C%20maps%2C%20rho_summary%2C%20seed_mean)%3A%0A%20%20%20%20_sig%20%3D%20%7B_a%3A%20fit_sigma(_a%2C%20%22n140-h216%22%2C%20%22named_holdout%22)%5B%22sigma%22%5D%20for%20_a%20in%20(%22center%22%2C%20%22d32%22%2C%20%22d16%22%2C%20%22d16-L8%22)%7D%0A%20%20%20%20_g%20%3D%20%7B_a%3A%20angles_at(_a)%20for%20_a%20in%20(%22center%22%2C%20%22d32%22%2C%20%22d16%22)%7D%0A%0A%20%20%20%20mo.md(f%22%22%22%0A%20%20%20%20The%20angle%20does%20fall%20as%20the%20stream%20narrows%2C%20from%20%7B_g%5B%22center%22%5D%5B%22cross_form%22%5D%3A.0f%7D%C2%B0%20at%20d64%20to%20%7B_g%5B%22d32%22%5D%5B%22cross_form%22%5D%3A.0f%7D%C2%B0%20at%20d32%20and%20%7B_g%5B%22d16%22%5D%5B%22cross_form%22%5D%3A.0f%7D%C2%B0%20at%20d16.%20That%20*looks*%20like%20the%20trend%20H4%20predicted%2C%20but%20it's%20not%3A%20two%203-dimensional%20subspaces%20drawn%20at%20random%20come%20just%20as%20close%20once%20the%20space%20they%20sit%20in%20is%20small%20enough.%20The%20same%20three%20widths%20give%20%7B_g%5B%22center%22%5D%5B%22random%22%5D%3A.0f%7D%C2%B0%2C%20%7B_g%5B%22d32%22%5D%5B%22random%22%5D%3A.0f%7D%C2%B0%20and%20%7B_g%5B%22d16%22%5D%5B%22random%22%5D%3A.0f%7D%C2%B0%20for%20a%20random%20pair.%20Every%20observed%20angle%20sits%20inside%20one%20standard%20deviation%20of%20its%20null%2C%20and%20the%20seed%20control%20(the%20*named*%20probes%20of%20two%20seeds%2C%20decoding%20the%20same%20quantity%20in%20unrelated%20bases)%20tracks%20the%20same%20curve.%20So%20the%20cross-form%20angle%20at%20every%20width%20is%20what%20two%20unrelated%20decoders%20would%20give.%0A%0A%20%20%20%20Under%20compression%20the%20two%20forms%20don't%20merge%3B%20one%20of%20them%20gives%20way%20first.%20Hex%20keeps%20its%20held-out%20accuracy%20at%20%7Bseed_mean(%22d32%22%2C%20%22hex_holdout%22%2C%20%22accuracy%22)%3A.2f%7D%20at%20d32%20and%20loses%20little%20even%20at%20d16%20(%7Bseed_mean(%22d16%22%2C%20%22hex_holdout%22%2C%20%22accuracy%22)%3A.2f%7D)%2C%20while%20named%20falls%20from%20%7Bseed_mean(%22center%22%2C%20%22named_holdout%22%2C%20%22accuracy%22)%3A.2f%7D%20to%20%7Bseed_mean(%22d32%22%2C%20%22named_holdout%22%2C%20%22accuracy%22)%3A.2f%7D%20to%20%7Bseed_mean(%22d16%22%2C%20%22named_holdout%22%2C%20%22accuracy%22)%3A.2f%7D.%20In%20terms%20of%20the%20resolution%20account%20from%20H1%2C%20the%20fitted%20precision%20%24%5C%5Csigma%24%5B%5Esigma%5D%20coarsens%20from%20%7B_sig%5B%22center%22%5D%3A.3f%7D%20of%20the%20unit%20cube%20at%20d64%20to%20%7B_sig%5B%22d32%22%5D%3A.3f%7D%20at%20d32%20and%20%7B_sig%5B%22d16%22%5D%3A.3f%7D%20at%20d16%3A%20roughly%20an%20eightfold%20loss%20of%20color%20resolution%20over%20two%20halvings%20of%20width.%20Hex%20needs%20far%20less%20resolution%2C%20because%20the%20runner-up%20to%20a%20hex%20answer%20is%20a%20whole%20grid%20step%20away%2C%20so%20a%20coarse%20read%20still%20lands%20on%20the%20right%20digit.%0A%0A%20%20%20%20So%20the%20named%20form%20clearly%20lacks%20capacity%20at%20these%20widths%2C%20yet%20even%20that%20pressure%20causes%20no%20sharing.%20Keeping%20the%20two%20representations%20apart%20apparently%20costs%20the%20model%20less%20than%20merging%20them%20would.%0A%0A%20%20%20%20%2F%2F%2F%20details%20%7C%20Whether%20d16%20is%20too%20broken%20to%20test%0A%20%20%20%20d16%20answers%20%7Bseed_mean(%22d16%22%2C%20%22named_seen%22%2C%20%22accuracy%22)%3A.2f%7D%20of%20the%20named%20equations%20it%20trained%20on%2C%20and%20its%20named%20mix%20probe%20reads%20%7Bmaps(%22d16%22%2C%20%22probes%2Fnamed%2Fmix%2Fr2_strict%22)%5B4%2C%20LANDMARKS.index(%22pre%22)%5D%3A.2f%7D%20at%20the%20pre-answer%20position%2C%20so%20there%20is%20not%20much%20named%20geometry%20left%20there%20to%20align.%20The%20sweep%20anticipated%20this%3A%20d16%20sits%20one%20step%20below%20the%20width%20range%20ngpt-scaling%20validated%2C%20and%20the%20H4%20trend%20was%20to%20rest%20on%20d64%20%E2%86%92%20d32%20if%20it%20trained%20poorly.%20It%20does%20train%2C%20with%20smooth%20loss%20curves%2C%20but%20it%20does%20not%20learn%20the%20named%20form.%20Taking%20d16%20out%20changes%20nothing%20about%20the%20verdict%2C%20since%20%CF%81%20is%20%7Brho_summary(%22d32%22)%5B%22best%22%5D%3A.2f%7D%20at%20d32%20too%2C%20where%20the%20named%20form%20still%20answers%20%7Bseed_mean(%22d32%22%2C%20%22named_holdout%22%2C%20%22accuracy%22)%3A.2f%7D%20and%20its%20mix%20reads%20%7Bmaps(%22d32%22%2C%20%22probes%2Fnamed%2Fmix%2Fr2_strict%22)%5B4%2C%20LANDMARKS.index(%22pre%22)%5D%3A.2f%7D.%20Adding%20depth%20back%20at%20d16%20recovers%20a%20good%20deal%20(%7Bseed_mean(%22d16-L8%22%2C%20%22named_holdout%22%2C%20%22accuracy%22)%3A.2f%7D%20held-out%20named%2C%20and%20%24%5C%5Csigma%24%5B%5Esigma%5D%20back%20to%20%7B_sig%5B%22d16-L8%22%5D%3A.3f%7D)%3B%20see%20H6.%0A%20%20%20%20%2F%2F%2F%0A%0A%20%20%20%20%5B%5Esigma%5D%3A%20%24%5C%5Csigma%24%20is%20the%20per-channel%20noise%20a%20guesser%20would%20need%2C%20reading%20the%20true%20mix%20and%20snapping%20to%20the%20nearest%20name%2C%20to%20match%20the%20observed%20accuracy%3B%20see%20H1.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(cross%2C%20rho_summary%2C%20stats)%3A%0A%20%20%20%20_n%20%3D%20cross%5B%22n_pairs%22%5D%0A%20%20%20%20_acc%20%3D%20%7B%0A%20%20%20%20%20%20%20%20_s%3A%20float(np.mean(%5B_c%5B%22sets%22%5D%5B_s%5D%5B%22accuracy%22%5D%20for%20_c%20in%20cross%5B%22cells%22%5D%5D))%20for%20_s%20in%20(%22cross_seen%22%2C%20%22cross_unseen%22)%0A%20%20%20%20%7D%20%20%23%20fmt%3A%20skip%0A%20%20%20%20_share%20%3D%20stats%5B%22n140-h216-bridge%22%5D%5B%22n_lines%22%5D%5B%22cross%22%5D%20%2F%20sum(stats%5B%22n140-h216-bridge%22%5D%5B%22n_lines%22%5D.values())%0A%0A%20%20%20%20mo.md(f%22%22%22%0A%20%20%20%20%23%23%20Alignment%20with%20a%20bridge%20(H5)%0A%0A%20%20%20%20H5%20predicted%20that%20a%20little%20shared%20supervision%20would%20place%20both%20forms%20in%20the%20same%20subspace%3A%20cross-form%20equations%20lifting%20%24%5C%5Crho%24%20above%200.8%20at%20d64.%20The%20%24%5C%5Crho%24%20for%20the%20bridge%20condition%20is%20%7Brho_summary(%22bridge%22)%5B%22best%22%5D%3A.2f%7D%2C%20the%20same%20as%20for%20every%20other%20condition%2C%20so%20H5%20is%20unsupported%20on%20its%20own%20terms.%0A%0A%20%20%20%20That%20would%20be%20an%20easy%20result%20to%20dismiss%20if%20the%20bridge%20had%20simply%20failed%20to%20learn%20anything%2C%20so%20let's%20check%20whether%20the%20supervision%20worked.%20Cross%20lines%20are%20%7B_share%20*%20100%3A.0f%7D%25%20of%20the%20bridge%20corpus%3A%20%7B_n%5B%22n_lines%22%5D%3A%2C%7D%20of%20them%2C%20drawn%20over%20%7B_n%5B%22seen%22%5D%3A%2C%7D%20distinct%20(name%2C%20hex)%20pairs%20out%20of%20%7B_n%5B%22seen%22%5D%20%2B%20_n%5B%22unseen%22%5D%3A%2C%7D%20possible%2C%20so%20a%20pair%20recurs%20about%20%7B_n%5B%22n_lines%22%5D%20%2F%20_n%5B%22seen%22%5D%3A.1f%7D%20times%20and%20two%20thirds%20of%20the%20cross%20space%20is%20never%20seen%20at%20all.%20The%20sweep%20doesn't%20grade%20them%2C%20because%20the%20form%20exists%20to%20supervise%20alignment%20rather%20than%20to%20be%20scored%2C%20so%20we%20decoded%20them%20afterwards%20from%20the%20published%20checkpoints.%5B%5Ecrosseval%5D%0A%0A%20%20%20%20The%20model%20does%20learn%20to%20answer%20bridge-form%20equations.%20Exact%20match%20is%20%7B_acc%5B%22cross_seen%22%5D%3A.2f%7D%20on%20cross%20pairs%20that%20appeared%20in%20training%20and%20%7B_acc%5B%22cross_unseen%22%5D%3A.2f%7D%20on%20pairs%20that%20did%20not%2C%20with%20no%20malformed%20completions%3B%20at%201.2%20lines%20per%20pair%20there%20is%20not%20much%20for%20the%20model%20to%20memorize%2C%20and%20the%20two%20numbers%20say%20it%20didn't.%20Given%20the%20unseen%20prompt%20%60pale%20lime%20%2B%20%23fc7%20%3D%20%60%2C%20all%20three%20seeds%20return%20%60%23dd7%60%2C%20which%20is%20the%20right%20answer.%20So%20the%20value%20of%20a%20color%20name%20does%20reach%20the%20hex%20answer%20path%2C%20for%20names%20and%20hex%20codes%20the%20model%20has%20never%20seen%20together.%0A%0A%20%20%20%20%5B%5Ecrosseval%5D%3A%20%60cross_eval.py%60%2C%20beside%20this%20report.%20It%20reads%20the%20sweep%20checkpoints%20and%20writes%20its%20results%20back%20to%20the%20store%2C%20so%20the%20numbers%20here%20are%20computed%20rather%20than%20transcribed.%20It%20sits%20outside%20the%20experiment%20DAG%20because%20a%20tick%20of%20%60experiment.py%60%20would%20now%20re-train%20all%2024%20conditions%3A%20the%20evidence%20scheme%20in%20%60mini%60%20has%20changed%20since%20the%20sweep%20ran%2C%20and%20a%20re-trained%20sweep%20would%20not%20reproduce%20the%20numbers%20quoted%20elsewhere%20in%20this%20report.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(angles_at%2C%20cross%2C%20maps%2C%20rho_summary%2C%20seed_mean)%3A%0A%20%20%20%20_pre%20%3D%20LANDMARKS.index(%22pre%22)%0A%20%20%20%20_cross_acc%20%3D%20%7B%0A%20%20%20%20%20%20%20%20_s%3A%20float(np.mean(%5B_c%5B%22sets%22%5D%5B_s%5D%5B%22accuracy%22%5D%20for%20_c%20in%20cross%5B%22cells%22%5D%5D))%20for%20_s%20in%20(%22cross_seen%22%2C%20%22cross_unseen%22)%0A%20%20%20%20%7D%20%20%23%20fmt%3A%20skip%0A%0A%20%20%20%20def%20_row(_arm%3A%20str)%20-%3E%20str%3A%0A%20%20%20%20%20%20%20%20_r%2C%20_g%20%3D%20rho_summary(_arm)%2C%20angles_at(_arm)%0A%20%20%20%20%20%20%20%20_fmt%20%3D%20lambda%20_v%3A%20%22%E2%80%94%22%20if%20np.isnan(_v)%20else%20f%22%7B_v%3A.2f%7D%22%20%20%23%20noqa%3A%20E731%0A%20%20%20%20%20%20%20%20_bridged%20%3D%20ARMS%5B_arm%5D%5B%22bridge%22%5D%0A%20%20%20%20%20%20%20%20_vals%20%3D%20%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%7Bseed_mean(_arm%2C%20'named_holdout'%2C%20'accuracy')%3A.3f%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%7Bseed_mean(_arm%2C%20'hex_holdout'%2C%20'accuracy')%3A.3f%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%7B_cross_acc%5B'cross_unseen'%5D%3A.3f%7D%22%20if%20_bridged%20else%20%22%E2%80%94%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%7Bmaps(_arm%2C%20'probes%2Fnamed%2Fmix%2Fr2_strict')%5B4%2C%20_pre%5D%3A.2f%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20_fmt(_r%5B%22at%22%5D%5B%22named%22%5D)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20_fmt(_r%5B%22at%22%5D%5B%22hex%22%5D)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%7B_r%5B'best'%5D%3A.2f%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%7B_g%5B'cross_form'%5D%3A.0f%7D%C2%B0%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%7B_g%5B'seed_control'%5D%3A.0f%7D%C2%B0%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%7B_g%5B'random'%5D%3A.0f%7D%C2%B0%22%2C%0A%20%20%20%20%20%20%20%20%5D%0A%20%20%20%20%20%20%20%20return%20f%22%3Ctr%3E%3Ctd%3E%7B_arm%7D%3C%2Ftd%3E%22%20%2B%20%22%22.join(f'%3Ctd%20class%3D%22num%22%3E%7B_v%7D%3C%2Ftd%3E'%20for%20_v%20in%20_vals)%20%2B%20%22%3C%2Ftr%3E%22%0A%0A%20%20%20%20_cols%20%3D%20(%0A%20%20%20%20%20%20%20%20%22named%20held-out%22%2C%20%22hex%20held-out%22%2C%20%22cross%20unseen%22%2C%20%22named%20mix%20R%C2%B2%22%2C%0A%20%20%20%20%20%20%20%20%22%CF%81%20%E2%86%92%20named%22%2C%20%22%CF%81%20%E2%86%92%20hex%22%2C%20%22%CF%81%20best%22%2C%20%22angle%22%2C%20%22seed%20control%22%2C%20%22random%22%2C%0A%20%20%20%20)%20%20%23%20fmt%3A%20skip%0A%20%20%20%20_thead%20%3D%20%22%3Ctr%3E%3Cth%3Econdition%3C%2Fth%3E%22%20%2B%20%22%22.join(f'%3Cth%20class%3D%22num%22%3E%7B_h%7D%3C%2Fth%3E'%20for%20_h%20in%20_cols)%20%2B%20%22%3C%2Ftr%3E%22%0A%0A%20%20%20%20mo.vstack(%0A%20%20%20%20%20%20%20%20%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.Html(%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20'%3Cdiv%20class%3D%22report-table-scroll%22%3E%3Ctable%20class%3D%22report-table%22%3E'%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%2B%20_thead%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%2B%20_row(%22center%22)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%2B%20_row(%22bridge%22)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%2B%20%22%3C%2Ftable%3E%3C%2Fdiv%3E%22%0A%20%20%20%20%20%20%20%20%20%20%20%20)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.md(%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20The%20bridge%20condition%20beside%20the%20center%20condition%2C%20both%20d64-L4%2C%20seed-averaged.%20The%20columns%20after%20the%20accuracies%20are%20the%20same%20measures%20as%20the%20H4%20table.%20Adding%20cross-form%20equations%20leaves%20every%20alignment%20measure%20where%20it%20was%2C%20and%20costs%20the%20two%20single-form%20tasks%20nothing%20worth%20reading.%0A%20%20%20%20%20%20%20%20%20%20%20%20%22%22%22)%2C%0A%20%20%20%20%20%20%20%20%5D%0A%20%20%20%20)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(arrays)%3A%0A%20%20%20%20_applied%20%3D%20%7B%22named%22%3A%20%22hex2name%22%2C%20%22hex%22%3A%20%22name2hex%22%7D%0A%0A%20%20%20%20%40themed(%0A%20%20%20%20%20%20%20%20name%3D%22bridge-transfer%22%2C%0A%20%20%20%20%20%20%20%20alt_text%3D%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20Six%20blocks%20of%20stacked%20step-line%20panels%2C%20two%20rows%20by%20three%20columns%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20in%20the%20same%20layout%20as%20the%20cross-form%20transfer%20figure%20under%20H3%2C%20but%0A%20%20%20%20%20%20%20%20%20%20%20%20for%20the%20bridge%20condition.%20A%20grey%20filled%20area%20shows%20what%20the%20own-form%0A%20%20%20%20%20%20%20%20%20%20%20%20probe%20reads%2C%20rising%20over%20the%20operands%20and%20peaking%20at%20the%20pre-answer%0A%20%20%20%20%20%20%20%20%20%20%20%20position%20of%20the%20named%20mix%20panel.%20The%20amber%20line%20for%20the%20other-form%0A%20%20%20%20%20%20%20%20%20%20%20%20probe%20lies%20flat%20on%20the%20floor%20in%20every%20panel%2C%20at%20every%20depth%20and%20every%0A%20%20%20%20%20%20%20%20%20%20%20%20landmark%2C%20exactly%20as%20it%20does%20without%20a%20bridge.%0A%20%20%20%20%20%20%20%20%22%22%22%2C%0A%20%20%20%20%20%20%20%20caption%3D%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20Zero-shot%20cross-form%20transfer%20at%20the%20bridge%20condition%2C%20seed-averaged%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20drawn%20exactly%20as%20the%20H3%20figure%20so%20the%20two%20can%20be%20laid%20side%20by%20side.%0A%20%20%20%20%20%20%20%20%20%20%20%20Rows%20are%20the%20form%20the%20probes%20are%20applied%20to%3B%20columns%20are%20the%20probe%0A%20%20%20%20%20%20%20%20%20%20%20%20target%3B%20grey%20is%20the%20own-form%20probe%20under%20the%20strict%20holdout%20and%0A%20%20%20%20%20%20%20%20%20%20%20%20amber%20is%20the%20other-form%20probe%20applied%20unchanged.%0A%20%20%20%20%20%20%20%20%22%22%22%2C%0A%20%20%20%20)%0A%20%20%20%20def%20_plot()%20-%3E%20plt.Figure%3A%0A%20%20%20%20%20%20%20%20_within%20%3D%20%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20(_f%2C%20_t)%3A%20np.stack(%5Barrays%5Bf%22bridge-s%7B_s%7D%2Fprobes%2F%7B_f%7D%2F%7B_t%7D%2Fr2_strict%22%5D%20for%20_s%20in%20SEEDS%5D)%0A%20%20%20%20%20%20%20%20%20%20%20%20for%20_f%20in%20vp.FORMS%0A%20%20%20%20%20%20%20%20%20%20%20%20for%20_t%20in%20vp.TARGETS%0A%20%20%20%20%20%20%20%20%7D%0A%20%20%20%20%20%20%20%20_cross%20%3D%20%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20(_f%2C%20_t)%3A%20np.stack(%5Barrays%5Bf%22bridge-s%7B_s%7D%2Fcross%2F%7B_applied%5B_f%5D%7D%2F%7B_t%7D%2Fr2%22%5D%20for%20_s%20in%20SEEDS%5D)%0A%20%20%20%20%20%20%20%20%20%20%20%20for%20_f%20in%20vp.FORMS%0A%20%20%20%20%20%20%20%20%20%20%20%20for%20_t%20in%20vp.TARGETS%0A%20%20%20%20%20%20%20%20%7D%0A%20%20%20%20%20%20%20%20return%20vp.transfer_trace_grid(_within%2C%20_cross%2C%20width%3D10.5%2C%20panel_height%3D0.4%2C%20ylabel%3D%22probe%20R%C2%B2%20per%20depth%22)%0A%0A%20%20%20%20mo.Html(_plot())%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(angles_at%2C%20cross%2C%20stats)%3A%0A%20%20%20%20_unseen%20%3D%20float(np.mean(%5B_c%5B%22sets%22%5D%5B%22cross_unseen%22%5D%5B%22accuracy%22%5D%20for%20_c%20in%20cross%5B%22cells%22%5D%5D))%0A%20%20%20%20_guess%20%3D%20float(np.mean(%5B_c%5B%22sets%22%5D%5B%22cross_unseen%22%5D%5B%22guess_dist%22%5D%20for%20_c%20in%20cross%5B%22cells%22%5D%5D))%0A%20%20%20%20_floor%20%3D%20float(np.mean(%5B_c%5B%22sets%22%5D%5B%22cross_unseen%22%5D%5B%22floor_dist%22%5D%20for%20_c%20in%20cross%5B%22cells%22%5D%5D))%0A%20%20%20%20_g%20%3D%20angles_at(%22bridge%22)%0A%20%20%20%20_lines%20%3D%20stats%5B%22n140-h216-bridge%22%5D%5B%22n_lines%22%5D%0A%20%20%20%20_share%20%3D%20_lines%5B%22cross%22%5D%20%2F%20sum(_lines.values())%0A%0A%20%20%20%20mo.md(f%22%22%22%0A%20%20%20%20So%20the%20bridge%20condition%20converts%20between%20the%20two%20vocabularies%20and%20keeps%20their%20geometries%20apart.%20Behaviorally%20the%20forms%20are%20joined%3A%20an%20unseen%20name%20and%20an%20unseen%20hex%20code%20mix%20to%20the%20right%20answer%20%7B_unseen%20*%20100%3A.0f%7D%25%20of%20the%20time%2C%20and%20the%20answers%20it%20emits%20sit%20%7B_guess%3A.3f%7D%20from%20the%20exact%20mix%20on%20average%2C%20against%20a%20quantization%20floor%20of%20%7B_floor%3A.3f%7D.%20Geometrically%20nothing%20moved%3A%20%24%5C%5Crho%24%20stays%20at%20zero%20across%20the%20whole%20scan%2C%20and%20the%20first%20principal%20angle%20between%20the%20two%20mix%20decoders%20is%20%7B_g%5B%22cross_form%22%5D%3A.0f%7D%C2%B0%20against%20a%20random-subspace%20null%20of%20%7B_g%5B%22random%22%5D%3A.0f%7D%C2%B0%20and%20a%20seed%20control%20of%20%7B_g%5B%22seed_control%22%5D%3A.0f%7D%C2%B0.%0A%0A%20%20%20%20Our%20measurement%20is%20fairly%20narrow%3A%20fit%20a%20probe%20on%20single-form%20lines%2C%20then%20apply%20it%20unchanged%20to%20lines%20of%20the%20other%20form%20at%20the%20same%20layer%20and%20grammar%20landmark.%20Suppose%20the%20model%20routes%20by%20form%2C%20with%20one%20pathway%20for%20%60melon%20%2B%20ultramarine%60%20and%20another%20for%20%60melon%20%2B%20%2348a%60%2C%20sharing%20whatever%20they%20need%20somewhere%20we%20didn't%20look.%20Such%20a%20model%20would%20answer%20cross%20equations%20well%20and%20still%20score%20zero%20on%20our%20metric.%20What%20we%20can%20say%20is%20that%20a%20bridge%20does%20not%20make%20the%20two%20single-form%20geometries%20interchangeable%20at%20matched%20sites%20%E2%80%94%20the%20property%20H5%20named%2C%20and%20a%20property%20a%20unidirectional%20anchor%20might%20want.%0A%0A%20%20%20%20We%20don't%20know%20where%20the%20conversion%20happens.%20The%20obvious%20place%20to%20look%20is%20the%20cross%20lines%20themselves%3A%20fit%20probes%20on%20those%20activations%20and%20ask%20which%20geometry%20%E2%80%94%20named%20or%20hex%20%E2%80%94%20the%20value%20of%20a%20name%20lands%20in%20once%20the%20answer%20must%20come%20out%20as%20hex.%20That%20is%20a%20new%20measurement%20rather%20than%20a%20different%20reading%20of%20this%20one%2C%20so%20it%20goes%20to%20the%20backlog%20rather%20than%20into%20this%20report.%20The%20same%20applies%20to%20a%20depth-crossed%20%24%5C%5Crho%24%2C%20which%20the%20exploratory%20section%20reaches%20the%20edge%20of.%0A%0A%20%20%20%20%2F%2F%2F%20details%20%7C%20What%20a%20stronger%20bridge%20might%20have%20done%0A%20%20%20%20Cross%20lines%20are%20%7B_share%20*%20100%3A.0f%7D%25%20of%20the%20corpus%20here%2C%20and%20the%20weight%20was%20set%20before%20we%20knew%20what%20the%20disjoint%20corpus%20would%20do.%20A%20larger%20share%2C%20or%20cross%20equations%20that%20answer%20in%20*both*%20forms%20rather%20than%20only%20in%20hex%2C%20would%20be%20a%20different%20experiment%3B%20this%20one%20shows%20that%20%7B_share%20*%20100%3A.0f%7D%25%20is%20enough%20to%20teach%20the%20conversion%20and%20not%20enough%20to%20merge%20the%20geometries.%20Whether%20those%20two%20thresholds%20are%20far%20apart%20is%20open.%20It%20is%20also%20possible%20that%20no%20amount%20of%20bridging%20merges%20them%20under%20this%20grammar%2C%20since%20the%20answer%20form%20is%20determined%20by%20the%20prompt%20form%2C%20and%20keeping%20two%20decoders%20is%20a%20perfectly%20good%20way%20to%20satisfy%20that.%0A%20%20%20%20%2F%2F%2F%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(fit_sigma%2C%20seed_mean)%3A%0A%20%20%20%20_sig%20%3D%20%7B_a%3A%20fit_sigma(_a%2C%20%22n140-h216%22%2C%20%22named_holdout%22)%5B%22sigma%22%5D%20for%20_a%20in%20(%22center%22%2C%20%22L8%22%2C%20%22d16%22%2C%20%22d16-L8%22)%7D%0A%0A%20%20%20%20mo.md(f%22%22%22%0A%20%20%20%20%23%23%20Depth%20(H6)%0A%0A%20%20%20%20H6%20had%20two%20clauses.%20Doubling%20the%20layers%20at%20fixed%20width%20should%20improve%20name%2Bname%20accuracy%2C%20and%20the%20mix%20should%20crystallize%20before%20the%20last%20layer%2C%20giving%20the%20result%20concept%20more%20than%20one%20layer%20of%20existence.%20The%20preregistration%20also%20named%20a%20live%20counter-expectation%20for%20the%20second%20clause%3A%20nothing%20in%20the%20loss%20rewards%20computing%20early%2C%20so%20the%20mix%20might%20stay%20pressed%20against%20the%20answer%20instead.%20The%20first%20clause%20fails%20at%20d64%20and%20holds%20at%20d16%3B%20the%20second%20splits%2C%20and%20which%20way%20you%20read%20it%20depends%20on%20whether%20you%20count%20layers%20or%20fractions%20of%20the%20network.%0A%0A%20%20%20%20At%20d64%20the%20extra%20layers%20buy%20nothing.%20Held-out%20named%20accuracy%20goes%20from%20%7Bseed_mean(%22center%22%2C%20%22named_holdout%22%2C%20%22accuracy%22)%3A.3f%7D%20at%20L4%20to%20%7Bseed_mean(%22L8%22%2C%20%22named_holdout%22%2C%20%22accuracy%22)%3A.3f%7D%20at%20L8%2C%20and%20accuracy%20on%20trained%20pairs%20from%20%7Bseed_mean(%22center%22%2C%20%22named_seen%22%2C%20%22accuracy%22)%3A.3f%7D%20to%20%7Bseed_mean(%22L8%22%2C%20%22named_seen%22%2C%20%22accuracy%22)%3A.3f%7D.%20Three%20seeds%20cannot%20resolve%20differences%20that%20small.%20Fitted%20precision%20agrees%3A%20%24%5C%5Csigma%24%20comes%20out%20at%20%7B_sig%5B%22center%22%5D%3A.3f%7D%20of%20the%20unit%20cube%20at%20L4%20and%20%7B_sig%5B%22L8%22%5D%3A.3f%7D%20at%20L8%2C%20the%20same%20to%20three%20decimals%2C%20so%20the%20model%20reads%20colors%20to%20the%20same%20resolution%20either%20way.%20That%20fits%20the%20H1%20account%2C%20where%20the%20named%20ceiling%20at%20d64%20is%20the%20spacing%20of%20the%20palette%20rather%20than%20anything%20the%20model%20ran%20out%20of.%20Depth%20cannot%20buy%20resolution%20the%20task%20isn't%20short%20of.%0A%0A%20%20%20%20At%20d16%20it%20buys%20a%20great%20deal.%20Held-out%20named%20accuracy%20goes%20from%20%7Bseed_mean(%22d16%22%2C%20%22named_holdout%22%2C%20%22accuracy%22)%3A.3f%7D%20to%20%7Bseed_mean(%22d16-L8%22%2C%20%22named_holdout%22%2C%20%22accuracy%22)%3A.3f%7D%2C%20and%20%24%5C%5Csigma%24%20from%20%7B_sig%5B%22d16%22%5D%3A.3f%7D%20to%20%7B_sig%5B%22d16-L8%22%5D%3A.3f%7D.%20The%20same%20eight%20layers%20that%20do%20nothing%20at%20width%2064%20recover%20about%20half%20the%20color%20resolution%20lost%20by%20narrowing%20to%20width%2016.%20So%20depth%20substitutes%20for%20width%20here%2C%20up%20to%20the%20point%20where%20the%20resolution%20ceiling%20of%20the%20task%20itself%20takes%20over.%0A%0A%20%20%20%20The%20figure%20below%20follows%20the%20named%20mix%20probe%20up%20through%20the%20stream%20at%20two%20landmarks%3A%20the%20%60%3D%60%20sign%2C%20and%20the%20pre-answer%20space%20one%20character%20later%20where%20H2%20found%20the%20mature%20mix.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(arrays)%3A%0A%20%20%20%20_cellset%20%3D%20%5B%0A%20%20%20%20%20%20%20%20(%22center%22%2C%20%22d64-L4%22%2C%20%22%231a5f8a%22%2C%20%22%236ab0d4%22%2C%20%22-%22)%2C%0A%20%20%20%20%20%20%20%20(%22L8%22%2C%20%22d64-L8%22%2C%20%22%231a5f8a%22%2C%20%22%236ab0d4%22%2C%20%22--%22)%2C%0A%20%20%20%20%20%20%20%20(%22d16%22%2C%20%22d16-L4%22%2C%20%22%236a4f8a%22%2C%20%22%23b79ad6%22%2C%20%22-%22)%2C%0A%20%20%20%20%20%20%20%20(%22d16-L8%22%2C%20%22d16-L8%22%2C%20%22%236a4f8a%22%2C%20%22%23b79ad6%22%2C%20%22--%22)%2C%0A%20%20%20%20%5D%0A%0A%20%20%20%20%40themed(%0A%20%20%20%20%20%20%20%20name%3D%22depth-profiles%22%2C%0A%20%20%20%20%20%20%20%20alt_text%3D%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20Two%20panels%20of%20named%20mix%20probe%20R%C2%B2%20against%20relative%20depth%2C%20from%20the%0A%20%20%20%20%20%20%20%20%20%20%20%20embedding%20at%200%20to%20the%20last%20layer%20at%201.%20Left%20panel%2C%20at%20the%20equals%0A%20%20%20%20%20%20%20%20%20%20%20%20sign%3B%20right%20panel%2C%20at%20the%20pre-answer%20space.%20Four%20curves%20in%20each.%20The%0A%20%20%20%20%20%20%20%20%20%20%20%20two%20width-64%20conditions%20rise%20late%20and%20steeply%2C%20ending%20near%200.6%20(4%20layers)%0A%20%20%20%20%20%20%20%20%20%20%20%20and%200.75%20(8%20layers)%20at%20the%20equals%20sign%20and%20near%200.95%20at%20the%0A%20%20%20%20%20%20%20%20%20%20%20%20pre-answer%20space%2C%20where%20the%208-layer%20curve%20reaches%20its%20ceiling%20one%0A%20%20%20%20%20%20%20%20%20%20%20%20layer%20before%20the%20end%20and%20holds%20it.%20The%20two%20width-16%20conditions%20stay%20far%0A%20%20%20%20%20%20%20%20%20%20%20%20lower%20throughout%2C%20the%208-layer%20one%20about%20twice%20as%20high%20as%20the%204-layer%0A%20%20%20%20%20%20%20%20%20%20%20%20one%20and%20flattening%20from%20mid-depth.%20Shaded%20bands%20show%20the%20seed%20spread%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20which%20is%20widest%20in%20the%20layers%20just%20before%20the%20rise%20of%20each%20curve.%0A%20%20%20%20%20%20%20%20%22%22%22%2C%0A%20%20%20%20%20%20%20%20caption%3D%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20Where%20the%20named%20mix%20becomes%20readable%2C%20at%20the%20%60%3D%60%20sign%20(left)%20and%20the%0A%20%20%20%20%20%20%20%20%20%20%20%20pre-answer%20space%20(right%2C%20the%20site%20H2%20uses).%20The%20x%20axis%20is%20depth%20as%20a%0A%20%20%20%20%20%20%20%20%20%20%20%20fraction%20of%20the%20layers%20in%20the%20condition%2C%20so%20the%204-layer%20and%208-layer%0A%20%20%20%20%20%20%20%20%20%20%20%20curves%20overlay%3B%200%20is%20the%20token%20embedding%20and%201%20the%20last%20layer.%0A%20%20%20%20%20%20%20%20%20%20%20%20Solid%20lines%20are%20the%204-layer%20conditions%20and%20dashed%20the%208-layer%20ones%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20blue%20for%20width%2064%20and%20purple%20for%20width%2016%3B%20bands%20span%20the%20three%0A%20%20%20%20%20%20%20%20%20%20%20%20seeds.%0A%20%20%20%20%20%20%20%20%22%22%22%2C%0A%20%20%20%20)%0A%20%20%20%20def%20_plot()%20-%3E%20plt.Figure%3A%0A%20%20%20%20%20%20%20%20fig%2C%20_axes%20%3D%20plt.subplots(1%2C%202%2C%20figsize%3D(8.0%2C%203.0)%2C%20sharey%3DTrue)%0A%20%20%20%20%20%20%20%20for%20_ax%2C%20_lmk%2C%20_title%20in%20%5B(_axes%5B0%5D%2C%20%22eq%22%2C%20%22at%20the%20%3D%22)%2C%20(_axes%5B1%5D%2C%20%22pre%22%2C%20%22at%20the%20pre-answer%20space%22)%5D%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20_i%20%3D%20LANDMARKS.index(_lmk)%0A%20%20%20%20%20%20%20%20%20%20%20%20for%20_arm%2C%20_label%2C%20_cl%2C%20_cd%2C%20_ls%20in%20_cellset%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20_v%20%3D%20np.stack(%5Barrays%5Bf%22%7B_arm%7D-s%7B_s%7D%2Fprobes%2Fnamed%2Fmix%2Fr2_strict%22%5D%5B%3A%2C%20_i%5D%20for%20_s%20in%20SEEDS%5D)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20_x%20%3D%20np.arange(_v.shape%5B1%5D)%20%2F%20(_v.shape%5B1%5D%20-%201)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20_c%20%3D%20light_dark(_cl%2C%20_cd)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20_ax.fill_between(_x%2C%20_v.min(0)%2C%20_v.max(0)%2C%20color%3D_c%2C%20alpha%3D0.15%2C%20lw%3D0)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20_ax.plot(_x%2C%20_v.mean(0)%2C%20_ls%2C%20color%3D_c%2C%20lw%3D1.4%2C%20label%3D_label)%0A%20%20%20%20%20%20%20%20%20%20%20%20_ax.set(title%3D_title%2C%20xlabel%3D%22relative%20depth%22%2C%20ylim%3D(-0.1%2C%201.05))%0A%20%20%20%20%20%20%20%20%20%20%20%20_ax.grid(alpha%3D0.3)%0A%20%20%20%20%20%20%20%20_axes%5B0%5D.set_ylabel(%22named%20mix%20%24R%5E2%24%22)%0A%20%20%20%20%20%20%20%20_axes%5B0%5D.legend(fontsize%3D7%2C%20loc%3D%22upper%20left%22%2C%20framealpha%3D0.6)%0A%20%20%20%20%20%20%20%20return%20fig%0A%0A%20%20%20%20mo.Html(_plot())%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(arrays%2C%20maps)%3A%0A%20%20%20%20_pre%2C%20_eq%20%3D%20LANDMARKS.index(%22pre%22)%2C%20LANDMARKS.index(%22eq%22)%0A%0A%20%20%20%20def%20_profile(_arm%3A%20str%2C%20_seed%3A%20int)%20-%3E%20np.ndarray%3A%0A%20%20%20%20%20%20%20%20return%20arrays%5Bf%22%7B_arm%7D-s%7B_seed%7D%2Fprobes%2Fnamed%2Fmix%2Fr2_strict%22%5D%5B%3A%2C%20_pre%5D%0A%0A%20%20%20%20def%20_layers_at_ceiling(_arm%3A%20str%2C%20_thresh%3A%20float%20%3D%200.9)%20-%3E%20float%3A%0A%20%20%20%20%20%20%20%20%22%22%22Mean%20number%20of%20layers%2C%20per%20seed%2C%20where%20the%20pre-answer%20mix%20clears%20*thresh*.%22%22%22%0A%20%20%20%20%20%20%20%20return%20float(np.mean(%5B(_profile(_arm%2C%20_s)%20%3E%3D%20_thresh).sum()%20for%20_s%20in%20SEEDS%5D))%0A%0A%20%20%20%20def%20_crossings(_arm%3A%20str%2C%20_thresh%3A%20float%20%3D%200.9)%20-%3E%20str%3A%0A%20%20%20%20%20%20%20%20%22%22%22The%20layer%20at%20which%20the%20pre-answer%20mix%20of%20each%20seed%20first%20clears%20*thresh*.%22%22%22%0A%20%20%20%20%20%20%20%20return%20%22%2C%20%22.join(str(int(np.argmax(_profile(_arm%2C%20_s)%20%3E%3D%20_thresh)))%20for%20_s%20in%20SEEDS)%0A%0A%20%20%20%20_c%2C%20_l%20%3D%20maps(%22center%22%2C%20%22probes%2Fnamed%2Fmix%2Fr2_strict%22)%2C%20maps(%22L8%22%2C%20%22probes%2Fnamed%2Fmix%2Fr2_strict%22)%0A%0A%20%20%20%20mo.md(f%22%22%22%0A%20%20%20%20The%20mix%20does%20crystallize%20before%20the%20last%20layer%20at%20L8%2C%20which%20is%20what%20the%20clause%20asked%20for.%20It%20reads%20%7B_l%5B6%2C%20_pre%5D%3A.2f%7D%20at%20layer%206%2C%20%7B_l%5B7%2C%20_pre%5D%3A.2f%7D%20at%20layer%207%20and%20%7B_l%5B8%2C%20_pre%5D%3A.2f%7D%20at%20layer%208%2C%20so%20the%20final%20layer%20adds%20nothing%20and%20the%20concept%20exists%20for%20two%20layers%20rather%20than%20one.%20Counting%20layers%20over%200.9%2C%20L4%20averages%20%7B_layers_at_ceiling(%22center%22)%3A.1f%7D%20of%204%20across%20seeds%20and%20L8%20%7B_layers_at_ceiling(%22L8%22)%3A.1f%7D%20of%208.%0A%0A%20%20%20%20Read%20as%20a%20fraction%20of%20the%20network%2C%20though%2C%20the%20mix%20sits%20*later*%20at%20L8%3A%20about%20%7B_layers_at_ceiling(%22center%22)%20%2F%204%3A.0%25%7D%20of%20the%20layers%20at%20L4%20falls%20to%20%7B_layers_at_ceiling(%22L8%22)%20%2F%208%3A.0%25%7D%20at%20L8.%20The%20extra%20layers%20went%20in%20front%20of%20the%20computation%20rather%20than%20after%20it%2C%20and%20the%20mature%20mix%20stayed%20where%20it%20was%2C%20up%20against%20the%20answer.%20That%20is%20the%20counter-expectation%20H6%20flagged.%20It%20is%20also%20the%20reading%20we'd%20trust%2C%20since%20it%20is%20the%20one%20that%20would%20generalize%20to%20a%20deeper%20model.%0A%0A%20%20%20%20Depth%20does%20move%20the%20mix%20earlier%20in%20the%20sequence.%20At%20the%20%60%3D%60%20sign%20the%20named%20mix%20reads%20%7B_c%5B4%2C%20_eq%5D%3A.2f%7D%20at%20L4%20and%20%7B_l%5B7%2C%20_eq%5D%3A.2f%7D%20at%20L8%2C%20so%20one%20character%20before%20the%20site%20H2%20measures%2C%20the%20deeper%20model%20has%20already%20assembled%20most%20of%20the%20answer.%20A%20head%20start%20on%20the%20token%20axis%20is%20a%20plausible%20thing%20for%20four%20extra%20layers%20to%20buy%2C%20though%20we%20haven't%20tested%20that%20reading.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Exploratory%20analyses%0A%0A%20%20%20%20Analyses%20conceived%20after%20seeing%20the%20data%20land%20here%2C%20marked%20as%20post%20hoc.%0A%0A%20%20%20%20%23%23%23%20Answer%20positions%20partly%20read%20the%20answer%20(post%20hoc)%0A%0A%20%20%20%20Under%20teacher%20forcing%20the%20answer%20tokens%20are%20part%20of%20the%20input.%20So%20a%20probe%20at%20an%20answer%20position%20may%20be%20reading%20the%20digits%20off%20the%20surface%20text%20rather%20than%20anything%20the%20model%20computed.%0A%0A%20%20%20%20The%20embedding%20row%20(depth%200)%20tells%20us%20how%20much%2C%20because%20it%20is%20the%20token%20lookup%20before%20any%20attention%20or%20MLP%20has%20run%3A%20whatever%20is%20decodable%20there%20was%20already%20in%20the%20input.%20In%20the%20hex%20form%20it%20is%20a%20lot.%20At%20the%20embedding%2C%20a%20mix%20probe%20scores%20%24R%5E2%20%5Capprox%201.00%24%20per%20channel%20at%20each%20answer%20digit%20(each%20hex%20digit%20*is*%20one%20channel%20of%20the%20answer)%2C%20and%20an%20operand%20probe%20scores%20%E2%89%88%200.48%20at%20the%20same%20positions.%20The%20answer%20digit%20is%20the%20round-half-up%20mean%20of%20the%20two%20operand%20digits%2C%20so%20knowing%20it%20pins%20about%20half%20the%20variance%20of%20each%20operand.%20Both%20operands%20echo%20at%20the%20same%20strength%2C%20consistent%20with%20mixing%20rather%20than%20one%20operand%20being%20retained.%0A%0A%20%20%20%20This%20suggests%20that%20an%20answer-position%20reading%20should%20be%20compared%20against%20its%20own%20depth-0%20value%2C%20not%20against%20zero.%20For%20example%2C%20the%20best%20channel%20mean%20of%20the%20hex%20mix%2C%200.66%20(depth%203%2C%20middle%20answer%20digit)%2C%20breaks%20down%20as%200.22%2C%200.96%2C%200.80%20per%20channel%2C%20against%20an%20embedding%20baseline%20of%200.00%2C%201.00%2C%200.00%3A%20the%20green%20channel%20is%20read%20from%20the%20input%2C%20and%20the%20blue%20is%20computed%20a%20token%20ahead.%0A%0A%20%20%20%20The%20landmarks%20that%20carry%20the%20headline%20claims%20are%20clean%3A%20at%20the%20equals%20sign%20and%20the%20pre-answer%20space%2C%20every%20probe%20scores%20%E2%88%920.003%20at%20the%20embedding%20in%20both%20forms.%20That%20is%20why%20the%20named%20mix%20result%20is%20quoted%20at%20the%20pre-answer%20space%2C%20where%20the%20last%20layer%20reaches%200.95%2C%200.94%2C%200.94.%20Compared%20at%20those%20clean%20positions%2C%20the%20two%20forms%20separate%20further%20than%20the%20mid-answer%20numbers%20suggest%3A%20the%20best%20uncontaminated%20hex%20mix%20reading%20is%200.42%20at%20the%20equals%20sign%20and%200.38%20pre-answer%2C%20against%200.94%20for%20named.%0A%0A%20%20%20%20Similarly%2C%20%24%5Crho%24%20computed%20at%20answer%20positions%20would%20be%20inflated%20in%20both%20directions%2C%20since%20the%20probes%20of%20both%20forms%20can%20read%20the%20emitted%20answer%20there.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(arrays)%3A%0A%20%20%20%20%23%20The%20depth-crossed%20subspace%20comparison%3A%20the%20named%20mix%20probe%20at%20each%20depth%20against%20the%0A%20%20%20%20%23%20hex%20mix%20probe%20at%20each%20depth.%20Computable%20from%20the%20stored%20weights%3B%20the%20matching%20transfer%0A%20%20%20%20%23%20R%C2%B2%20is%20not%2C%20since%20it%20needs%20activations%20of%20the%20other%20form%20at%20the%20other%20depth.%0A%20%20%20%20_lm%20%3D%20%7B_n%3A%20_i%20for%20_i%2C%20_n%20in%20enumerate(LANDMARKS)%7D%0A%20%20%20%20_w%20%3D%20%7B_f%3A%20np.stack(%5Barrays%5Bf%22center-s%7B_s%7D%2Fprobes%2F%7B_f%7D%2Fmix%2Fweights%22%5D%20for%20_s%20in%20SEEDS%5D)%20for%20_f%20in%20(%22named%22%2C%20%22hex%22)%7D%0A%20%20%20%20_strict%20%3D%20%7B%0A%20%20%20%20%20%20%20%20_f%3A%20np.mean(%5Barrays%5Bf%22center-s%7B_s%7D%2Fprobes%2F%7B_f%7D%2Fmix%2Fr2_strict%22%5D%20for%20_s%20in%20SEEDS%5D%2C%20axis%3D0)%0A%20%20%20%20%20%20%20%20for%20_f%20in%20(%22named%22%2C%20%22hex%22)%0A%20%20%20%20%7D%0A%20%20%20%20_n_depth%20%3D%20_w%5B%22named%22%5D.shape%5B1%5D%0A%0A%20%20%20%20def%20_first_angle(_dn%3A%20int%2C%20_ln%3A%20int%2C%20_dh%3A%20int%2C%20_lh%3A%20int)%20-%3E%20float%3A%0A%20%20%20%20%20%20%20%20return%20float(%0A%20%20%20%20%20%20%20%20%20%20%20%20np.mean(%5Bgm.principal_angles(_w%5B%22named%22%5D%5B_s%2C%20_dn%2C%20_ln%5D%2C%20_w%5B%22hex%22%5D%5B_s%2C%20_dh%2C%20_lh%5D)%5B0%5D%20for%20_s%20in%20range(3)%5D)%0A%20%20%20%20%20%20%20%20)%0A%0A%20%20%20%20_pre%20%3D%20_lm%5B%22pre%22%5D%0A%20%20%20%20_crossed%20%3D%20np.array(%5B%5B_first_angle(_dn%2C%20_pre%2C%20_dh%2C%20_pre)%20for%20_dh%20in%20range(_n_depth)%5D%20for%20_dn%20in%20range(_n_depth)%5D)%0A%20%20%20%20_off_embedding%20%3D%20_crossed%5B1%3A%2C%201%3A%5D%20%20%23%20depth%200%20is%20the%20token%20embedding%3B%20see%20below%0A%20%20%20%20%23%20The%20widest%20search%20that%20still%20asks%20the%20question%20of%20two%20probes%20that%20both%20work%3A%20every%0A%20%20%20%20%23%20depth%20%C3%97%20landmark%20pair%20where%20the%20strict%20within-form%20reading%20of%20each%20form%20clears%20a%20modest%200.3.%0A%20%20%20%20_sites%20%3D%20%7B_f%3A%20np.argwhere(_m%20%3E%3D%200.3)%20for%20_f%2C%20_m%20in%20_strict.items()%7D%0A%20%20%20%20_best%20%3D%20min(%0A%20%20%20%20%20%20%20%20(_first_angle(_dn%2C%20_ln%2C%20_dh%2C%20_lh)%20for%20_dn%2C%20_ln%20in%20_sites%5B%22named%22%5D%20for%20_dh%2C%20_lh%20in%20_sites%5B%22hex%22%5D)%2C%0A%20%20%20%20%20%20%20%20default%3Dfloat(%22nan%22)%2C%0A%20%20%20%20)%0A%20%20%20%20_hex_pre%20%3D%20_strict%5B%22hex%22%5D%5B%3A%2C%20_pre%5D%0A%0A%20%20%20%20mo.md(f%22%22%22%0A%20%20%20%20%23%23%23%20The%20forms%20compute%20at%20different%20depths%2C%20and%20%24%5C%5Crho%24%20compares%20in%20place%20(post%20hoc)%0A%0A%20%20%20%20%24%5C%5Crho%24%20as%20preregistered%20compares%20the%20same%20cell%20in%20both%20forms%3A%20same%20depth%2C%20same%20landmark.%20That%20assumes%20the%20two%20forms%20put%20the%20mix%20in%20the%20same%20place%2C%20and%20H2%20showed%20they%20do%20not.%20Named%20color%20mixes%20are%20assembled%20at%20the%20pre-answer%20position%20in%20the%20last%20layer.%20The%20best%20hex%20mix%20reading%20is%20mid-answer%2C%20a%20layer%20earlier%2C%20and%20its%20pre-answer%20column%20never%20clears%20%7B_hex_pre.max()%3A.2f%7D%20at%20any%20depth%20(%7B%22%2C%20%22.join(f%22%7B_v%3A.2f%7D%22%20for%20_v%20in%20_hex_pre)%7D%20from%20the%20embedding%20up).%20So%20the%20same-cell%20comparison%20may%20score%20the%20mature%20named%20mix%20against%20a%20hex%20representation%20that%20hasn't%20formed%20at%20that%20position%2C%20and%20a%20depth-crossed%20%24%5C%5Crho%24%20could%20in%20principle%20be%20higher.%0A%0A%20%20%20%20We%20can%20check%20half%20of%20this%20from%20the%20stored%20data.%20The%20transfer%20half%20cannot%20be%20answered%3A%20applying%20the%20hex%20depth-%7B_n_depth%20-%203%7D%20probe%20to%20the%20named%20depth-%7B_n_depth%20-%201%7D%20activations%20needs%20the%20activations%2C%20and%20only%20the%20fitted%20probes%20and%20their%20scores%20are%20stored.%20The%20subspace%20half%20can%2C%20from%20the%20probe%20weights%20alone.%20The%20first%20principal%20angle%20between%20the%20named%20mix%20probe%20at%20*any*%20depth%20and%20the%20hex%20mix%20probe%20at%20*any*%20depth%2C%20both%20at%20the%20pre-answer%20position%2C%20stays%20between%20%7B_off_embedding.min()%3A.0f%7D%C2%B0%20and%20%7B_off_embedding.max()%3A.0f%7D%C2%B0%20across%20all%20%7B_off_embedding.size%7D%20pairs.%20Widening%20the%20search%20to%20every%20depth%20%C3%97%20landmark%20pair%20where%20the%20strict%20within-form%20readings%20of%20both%20forms%20clear%200.3%20(a%20low%20bar%2C%20and%20one%20that%20admits%20the%20contaminated%20answer%20positions)%2C%20the%20closest%20the%20two%20subspaces%20come%20is%20%7B_best%3A.0f%7D%C2%B0.%0A%0A%20%20%20%20So%20the%20depth%20offset%20is%20not%20concealing%20a%20shared%20set%20of%20directions%3A%20there%20is%20no%20layer%20at%20which%20the%20hex%20mix%20decoder%20points%20where%20the%20named%20one%20does.%20A%20depth-crossed%20transfer%20%24R%5E2%24%20would%20still%20be%20a%20different%20test%20(zero-shot%20fit%20rather%20than%20subspace%20angle)%20and%20is%20cheap%20to%20add%20to%20the%20eval%20step%3B%20it%20is%20banked%20in%20todo-science%20rather%20than%20done%20here%2C%20because%20it%20is%20not%20the%20measurement%20H3%20was%20written%20against.%0A%0A%20%20%20%20One%20artifact%20in%20the%20angle%20map%3A%20At%20the%20embedding%2C%20on%20the%20space%20closing%20operand%201%2C%20the%20two%20probes%20appear%20to%20share%20a%20direction%20almost%20exactly%20(0.4%C2%B0).%20The%20space%20character%20is%20the%20same%20token%20in%20both%20sublanguages%2C%20so%20at%20depth%200%20the%20probe%20input%20is%20constant%20and%20its%20fitted%20direction%20is%20undetermined.%20The%20same%20degeneracy%20will%20show%20up%20in%20H4%20and%20H5%2C%20where%20a%20small%20angle%20would%20otherwise%20read%20as%20the%20alignment%20those%20hypotheses%20are%20looking%20for.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20The%20named%20ceiling%20is%20a%20resolution%20limit%20(post%20hoc)%0A%0A%20%20%20%20Named%20exact%20match%20tops%20out%20around%200.84%20on%20trained%20pairs%20and%200.67%20on%20held-out%20ones%2C%20while%20hex%20sits%20at%20%E2%89%88%201.0%2C%20as%20did%20the%20regular%20216-color%20ex-2.1.3%20vocabulary.%20That%20does%20not%20mean%20the%20named%20geometry%20is%20weaker%3B%20the%20two%20vocabularies%20ask%20questions%20of%20different%20precision.%0A%0A%20%20%20%20What%20varies%20is%20the%20**snap%20margin**%3A%20how%20much%20closer%20the%20correct%20name%20is%20to%20the%20exact%20mix%20than%20the%20runner-up.%20On%20a%20regular%20sub-grid%20closed%20under%20mixing%2C%20the%20answer%20lands%20on%20a%20vocabulary%20point%20and%20the%20margin%20is%20a%20constant%20(one%20grid%20step%2C%200.2%20of%20the%20unit%20cube%20at%20%60v216%60%20in%20ex-2.1.3).%20On%20an%20irregular%20palette%20it%20varies%20by%20two%20orders%20of%20magnitude%2C%20and%20its%20median%20here%20is%20about%20a%20sixth%20of%20that.%20So%20a%20raw%20accuracy%20pools%20prompts%20that%20need%200.1%20of%20positional%20accuracy%20with%20prompts%20that%20need%200.005.%0A%0A%20%20%20%20To%20separate%20resolution%20from%20everything%20else%2C%20we%20fit%20a%20one-parameter%20reference%20guesser%3A%20read%20the%20exact%20mix%20with%20isotropic%20Gaussian%20error%20of%20per-channel%20scale%20%24%5Csigma%24%2C%20then%20answer%20with%20the%20nearest%20name%20(%60baselines.precision_limited_acc%60).%20%24%5Csigma%24%20is%20fitted%20to%20the%20*overall*%20accuracy%20only%2C%20so%20the%20shape%20of%20accuracy%20versus%20margin%20is%20free%20to%20agree%20or%20not.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(precision)%3A%0A%20%20%20%20_panels%20%3D%20%5B%0A%20%20%20%20%20%20%20%20(%22center%22%2C%20%22named_seen%22%2C%20%22140%20names%20%C2%B7%20trained%20pairs%22)%2C%0A%20%20%20%20%20%20%20%20(%22center%22%2C%20%22named_holdout%22%2C%20%22140%20names%20%C2%B7%20held%20out%22)%2C%0A%20%20%20%20%20%20%20%20(%22palette-250%22%2C%20%22named_seen%22%2C%20%22250%20names%20%C2%B7%20trained%20pairs%22)%2C%0A%20%20%20%20%20%20%20%20(%22palette-250%22%2C%20%22named_holdout%22%2C%20%22250%20names%20%C2%B7%20held%20out%22)%2C%0A%20%20%20%20%5D%0A%20%20%20%20_edges%20%3D%20np.array(%5B0%2C%200.01%2C%200.02%2C%200.03%2C%200.045%2C%200.065%2C%200.09%2C%200.2%5D)%0A%0A%20%20%20%20%40themed(%0A%20%20%20%20%20%20%20%20name%3D%22snap-margin%22%2C%0A%20%20%20%20%20%20%20%20alt_text%3D%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20Four%20panels%20of%20exact-match%20rate%20against%20snap%20margin%2C%20one%20per%20palette%0A%20%20%20%20%20%20%20%20%20%20%20%20size%20and%20eval%20set.%20In%20every%20panel%20the%20observed%20rate%20climbs%20steadily%0A%20%20%20%20%20%20%20%20%20%20%20%20from%20about%200.4%20at%20the%20tightest%20margins%20to%20near%201%20at%20the%20widest%2C%20and%20a%0A%20%20%20%20%20%20%20%20%20%20%20%20line%20for%20the%20resolution-limited%20reference%20guesser%20runs%20through%20the%0A%20%20%20%20%20%20%20%20%20%20%20%20observed%20points.%20A%20faint%20histogram%20along%20the%20bottom%20shows%20most%0A%20%20%20%20%20%20%20%20%20%20%20%20prompts%20have%20small%20margins%2C%20and%20the%20250-name%20panels%20are%20shifted%0A%20%20%20%20%20%20%20%20%20%20%20%20further%20toward%20the%20tight%20end%20than%20the%20140-name%20ones.%0A%20%20%20%20%20%20%20%20%22%22%22%2C%0A%20%20%20%20%20%20%20%20caption%3D%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20Exact%20match%20against%20the%20snap%20margin%20(the%20distance%20from%20the%20exact%20mix%0A%20%20%20%20%20%20%20%20%20%20%20%20to%20the%20runner-up%20name%2C%20minus%20the%20distance%20to%20the%20correct%20one%2C%20in%0A%20%20%20%20%20%20%20%20%20%20%20%20unit-cube%20units).%20Points%20are%20the%20observed%20rate%20in%20each%20margin%20bin%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20pooled%20over%20three%20seeds%2C%20with%20binomial%20standard%20errors%3B%20the%20line%20is%0A%20%20%20%20%20%20%20%20%20%20%20%20the%20resolution-limited%20reference%20at%20the%20%24%5C%5Csigma%24%20fitted%20to%20that%0A%20%20%20%20%20%20%20%20%20%20%20%20overall%20accuracy%20of%20that%20panel%2C%20so%20its%20level%20is%20fitted%20but%20its%20slope%20is%0A%20%20%20%20%20%20%20%20%20%20%20%20not.%20The%20shaded%20profile%20along%20the%20bottom%20is%20the%20margin%20distribution.%0A%20%20%20%20%20%20%20%20%22%22%22%2C%0A%20%20%20%20)%0A%20%20%20%20def%20_plot()%20-%3E%20plt.Figure%3A%0A%20%20%20%20%20%20%20%20fig%2C%20_axes%20%3D%20plt.subplots(1%2C%204%2C%20figsize%3D(9.6%2C%202.9)%2C%20sharey%3DTrue)%0A%20%20%20%20%20%20%20%20_obs_c%20%3D%20light_dark(%22%231a5f8a%22%2C%20%22%236ab0d4%22)%0A%20%20%20%20%20%20%20%20_ref_c%20%3D%20light_dark(%22%23d1495b%22%2C%20%22%23ff6b7d%22)%0A%20%20%20%20%20%20%20%20for%20_ax%2C%20(_arm%2C%20_set%2C%20_title)%20in%20zip(_axes%2C%20_panels%2C%20strict%3DTrue)%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20_b%20%3D%20precision%5B_arm%2C%20_set%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20_mg%2C%20_hit%2C%20_pred%20%3D%20_b%5B%22margin%22%5D%2C%20_b%5B%22hit%22%5D%2C%20_b%5B%22pred%22%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20_mid%20%3D%20np.sqrt(_edges%5B%3A-1%5D%20*%20np.maximum(_edges%5B1%3A%5D%2C%201e-6))%20%20%23%20log-ish%20bin%20centre%0A%20%20%20%20%20%20%20%20%20%20%20%20_rate%2C%20_err%2C%20_ref%2C%20_x%20%3D%20%5B%5D%2C%20%5B%5D%2C%20%5B%5D%2C%20%5B%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20for%20_lo%2C%20_hi%2C%20_m%20in%20zip(_edges%5B%3A-1%5D%2C%20_edges%5B1%3A%5D%2C%20_mid%2C%20strict%3DTrue)%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20_sel%20%3D%20(_mg%20%3E%3D%20_lo)%20%26%20(_mg%20%3C%20_hi)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20if%20_sel.sum()%20%3C%2012%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20continue%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20_rate.append(_hit%5B_sel%5D.mean())%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20_err.append(np.sqrt(_rate%5B-1%5D%20*%20(1%20-%20_rate%5B-1%5D)%20%2F%20_sel.sum()))%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20_ref.append(_pred%5B_sel%5D.mean())%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20_x.append(_m)%0A%20%20%20%20%20%20%20%20%20%20%20%20%23%20Margin%20distribution%20behind%20the%20rates%2C%20scaled%20to%20the%20lower%20third%20of%20the%20panel%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%23%20it%20says%20which%20bins%20carry%20the%20prompts%2C%20and%20the%20two%20palettes%20differ%20there.%0A%20%20%20%20%20%20%20%20%20%20%20%20_share%20%3D%20np.histogram(_mg%2C%20_edges)%5B0%5D%20%2F%20len(_mg)%0A%20%20%20%20%20%20%20%20%20%20%20%20_ax.fill_between(%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20_edges%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%200%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20np.append(_share%2C%20_share%5B-1%5D)%20%2F%201.5%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20step%3D%22post%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20color%3D_obs_c%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20alpha%3Dlight_dark(0.14%2C%200.25)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20lw%3D0%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20)%0A%20%20%20%20%20%20%20%20%20%20%20%20_ax.plot(_x%2C%20_ref%2C%20color%3D_ref_c%2C%20lw%3D1.4%2C%20label%3D%22resolution-limited%22)%0A%20%20%20%20%20%20%20%20%20%20%20%20_ax.errorbar(_x%2C%20_rate%2C%20yerr%3D_err%2C%20fmt%3D%22o%22%2C%20ms%3D4%2C%20color%3D_obs_c%2C%20lw%3D1%2C%20label%3D%22observed%22)%0A%20%20%20%20%20%20%20%20%20%20%20%20_ax.set(xscale%3D%22log%22%2C%20xlim%3D(_edges%5B0%5D%20%2B%200.006%2C%20_edges%5B-1%5D)%2C%20ylim%3D(0%2C%201.05))%0A%20%20%20%20%20%20%20%20%20%20%20%20_ax.set_title(_title%2C%20fontsize%3D8)%0A%20%20%20%20%20%20%20%20%20%20%20%20_ax.set_xlabel(%22snap%20margin%22)%0A%20%20%20%20%20%20%20%20%20%20%20%20_ax.grid(alpha%3D0.3)%0A%20%20%20%20%20%20%20%20%20%20%20%20_ax.text(%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%200.95%2C%200.06%2C%20f%22%CF%83%20%3D%20%7B_b%5B'sigma'%5D%3A.3f%7D%22%2C%20transform%3D_ax.transAxes%2C%20ha%3D%22right%22%2C%20fontsize%3D8%2C%20color%3D_ref_c%0A%20%20%20%20%20%20%20%20%20%20%20%20)%0A%20%20%20%20%20%20%20%20_axes%5B0%5D.set_ylabel(%22exact%20match%22)%0A%20%20%20%20%20%20%20%20_axes%5B0%5D.legend(fontsize%3D7%2C%20loc%3D%22upper%20left%22%2C%20framealpha%3D0.6)%0A%20%20%20%20%20%20%20%20return%20fig%0A%0A%20%20%20%20mo.Html(_plot())%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(arrays%2C%20precision)%3A%0A%20%20%20%20%23%20What%20the%20same%20effective%20precision%20would%20score%20on%20the%20regular%20grids%20of%20the%20earlier%0A%20%20%20%20%23%20experiments%2C%20where%20every%20mix%20lands%20on%20a%20vocabulary%20point%20and%20the%20margin%20is%20the%20grid%20step.%0A%20%20%20%20_sigma%20%3D%20precision%5B%22center%22%2C%20%22named_holdout%22%5D%5B%22sigma%22%5D%0A%20%20%20%20_rng%20%3D%20np.random.default_rng(2)%0A%20%20%20%20_grids%20%3D%20%7B%22v216%20(ex-2.1.3%2F2.1.4)%22%3A%20(0%2C%203%2C%206%2C%209%2C%2012%2C%2015)%2C%20%22v4096%20(ex-2.1.3)%22%3A%20tuple(range(16))%7D%0A%20%20%20%20_preds%20%3D%20%7B%7D%0A%20%20%20%20for%20_name%2C%20_levels%20in%20_grids.items()%3A%0A%20%20%20%20%20%20%20%20%23%20The%20named%20equations%20in%20ex-2.1.3%20draw%20*closed*%20pairs%20only%2C%20so%20the%20answer%20is%20a%0A%20%20%20%20%20%20%20%20%23%20vocabulary%20point%20and%20the%20runner-up%20sits%20one%20grid%20step%20away.%0A%20%20%20%20%20%20%20%20_pts%20%3D%20np.array(%5B(_r%2C%20_g%2C%20_b)%20for%20_r%20in%20_levels%20for%20_g%20in%20_levels%20for%20_b%20in%20_levels%5D)%0A%20%20%20%20%20%20%20%20_idx%20%3D%20np.random.default_rng(3).integers(len(_pts)%2C%20size%3D(8192%2C%202))%0A%20%20%20%20%20%20%20%20_mix%20%3D%20(_pts%5B_idx%5B%3A%2C%200%5D%5D%20%2B%20_pts%5B_idx%5B%3A%2C%201%5D%5D%20%2B%201)%20%2F%2F%202%0A%20%20%20%20%20%20%20%20_mix%20%3D%20_mix%5Bnp.isin(_mix%2C%20np.array(_levels)).all(1)%5D%5B%3A256%5D%20%2F%2015%0A%20%20%20%20%20%20%20%20_pal%20%3D%20_pts%20%2F%2015%0A%20%20%20%20%20%20%20%20_ti%20%3D%20np.linalg.norm(_pal%5BNone%5D%20-%20_mix%5B%3A%2C%20None%5D%2C%20axis%3D2).argmin(1)%0A%20%20%20%20%20%20%20%20_preds%5B_name%5D%20%3D%20float(bl.precision_limited_acc(_pal%2C%20_mix%2C%20_ti%2C%20_sigma%2C%20_rng%2C%20120).mean())%0A%0A%20%20%20%20%23%20The%20probe%20residual%20at%20the%20site%20that%20carries%20the%20mix%2C%20for%20comparison%3A%20R%C2%B2%20is%0A%20%20%20%20%23%201%20%E2%88%92%20residual%20variance%20%2F%20target%20variance%2C%20so%20a%20residual%20scale%20falls%20out%20of%20it.%0A%20%20%20%20_target_sd%20%3D%20float(%0A%20%20%20%20%20%20%20%20np.sqrt(%0A%20%20%20%20%20%20%20%20%20%20%20%20np.var(%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20np.concatenate(%5Barrays%5Bf%22center-s%7B_s%7D%2Fevals%2Fnamed_seen%2Fmix_value%22%5D%20for%20_s%20in%20SEEDS%5D).astype(float)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%2F%20255%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20axis%3D0%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20).mean()%0A%20%20%20%20%20%20%20%20)%0A%20%20%20%20)%0A%20%20%20%20_pre%20%3D%20float(%0A%20%20%20%20%20%20%20%20np.mean(%5Barrays%5Bf%22center-s%7B_s%7D%2Fprobes%2Fnamed%2Fmix%2Fr2_strict%22%5D%5B4%2C%20LANDMARKS.index(%22pre%22)%5D%20for%20_s%20in%20SEEDS%5D)%0A%20%20%20%20)%0A%20%20%20%20_probe_sd%20%3D%20_target_sd%20*%20np.sqrt(max(0.0%2C%201%20-%20_pre))%0A%0A%20%20%20%20mo.md(f%22%22%22%0A%20%20%20%20The%20reference%20fits.%20On%20held-out%20named%20prompts%20the%20fitted%20%24%5C%5Csigma%24%20is%20%7Bprecision%5B%22center%22%2C%20%22named_holdout%22%5D%5B%22sigma%22%5D%3A.3f%7D%20of%20the%20unit%20cube%20(%7Bprecision%5B%22center%22%2C%20%22named_holdout%22%5D%5B%22sigma%22%5D%20*%20255%3A.0f%7D%20of%20255%20per%20channel)%2C%20and%20from%20that%20one%20number%20the%20reference%20tracks%20the%20observed%20rate%20across%20the%20whole%20margin%20range%2C%20including%20the%20250-name%20condition%2C%20where%20the%20same%20shape%20appears%20shifted%20toward%20the%20tight%20end.%20Trained%20pairs%20fit%20less%20well%3A%20at%20140%20names%20the%20fitted%20%24%5C%5Csigma%24%20halves%20to%20%7Bprecision%5B%22center%22%2C%20%22named_seen%22%5D%5B%22sigma%22%5D%3A.3f%7D%2C%20but%20the%20model%20beats%20the%20reference%20at%20tight%20margins%20and%20falls%20short%20of%20it%20at%20wide%20ones.%20Precision%20alone%20does%20not%20describe%20errors%20on%20pairs%20the%20model%20has%20seen%3B%20something%20more%20like%20recall%20is%20mixed%20in.%0A%0A%20%20%20%20**The%20earlier%20rungs%20are%20consistent%20with%20the%20same%20precision.**%20On%20the%20regular%20grids%20of%20ex-2.1.3%2C%20where%20a%20mix%20lands%20on%20a%20vocabulary%20point%20and%20the%20margin%20is%20the%20grid%20step%2C%20%24%5C%5Csigma%20%3D%20%7B_sigma%3A.3f%7D%24%20predicts%20%7B_preds%5B%22v216%20(ex-2.1.3%2F2.1.4)%22%5D%3A.2f%7D%20at%20%60v216%60%2C%20which%20is%20about%20what%20ex-2.1.3%20(%E2%89%88%201.0%2C%20single-token%20names)%20and%20ex-2.1.4%20(0.91%2C%20spelled%20names)%20actually%20scored.%20So%20the%20drop%20from%20%E2%89%88%201.0%20there%20to%200.67%20here%20needs%20no%20change%20in%20how%20well%20colors%20are%20represented%3B%20the%20coarser%20vocabulary%20forgives%20more.%20The%20exception%20is%20%60v4096%60%2C%20where%20the%20same%20%24%5C%5Csigma%24%20predicts%20%7B_preds%5B%22v4096%20(ex-2.1.3)%22%5D%3A.2f%7D%20against%20the%20observed%200.65%20in%20ex-2.1.3%3A%20that%20model%20read%20colors%20roughly%201.5%C3%97%20more%20finely%20than%20this%20one%2C%20plausible%20for%20a%20single-vocabulary%20corpus%20with%20single-token%20answers.%0A%0A%20%20%20%20**The%20behavior%20is%20more%20precise%20than%20the%20probe.**%20At%20the%20pre-answer%20position%20in%20the%20last%20layer%20the%20strict%20mix%20probe%20reads%20%24R%5E2%20%3D%20%7B_pre%3A.3f%7D%24.%20With%20a%20per-channel%20target%20standard%20deviation%20of%20%7B_target_sd%3A.3f%7D%2C%20that%20puts%20the%20probe%20residual%20near%20%7B_probe_sd%3A.3f%7D%2C%20roughly%20twice%20the%20%7B_sigma%3A.3f%7D%20the%20behavior%20implies.%20The%20two%20are%20different%20estimands%20(the%20error%20of%20a%20linear%20decoder%20versus%20an%20implied%20end-to-end%20resolution)%2C%20so%20only%20the%20ordering%20is%20worth%20reading%3A%20the%20linear%20probe%20recovers%20a%20coarser%20version%20of%20the%20value%20than%20the%20model%20itself%20uses.%20For%20anchor%20design%20this%20means%20a%20probe%20%24R%5E2%24%20of%200.94%20at%20a%20site%20is%20a%20floor%20on%20what%20is%20there%2C%20and%20anchor%20supervision%20is%20itself%20a%20linear%20readout%20with%20the%20same%20limitation.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Findings%0A%0A%20%20%20%20Both%20sublanguages%20train%2C%20each%20builds%20its%20own%20linear%20color%20geometry%2C%20and%20the%20two%20geometries%20stay%20separate%20under%20every%20condition%20tested.%0A%0A%20%20%20%20-%20**H1.**%20Supported%3A%20top-1%20exact%20match%20on%20held-out%20equations%20was%200.996%20for%20hex%20and%200.667%20for%20named%2C%20clearing%20the%200.5%20nearest-neighbor%20null.%0A%20%20%20%20-%20**H2.**%20Supported%3A%20the%20named%20mix%20decodes%20at%20%24R%5E2%20%3D%200.94%24%20pre-answer%3B%20hex%20assembles%20just-in-time%20with%20no%20pre-answer%20mix.%0A%20%20%20%20-%20**H3.**%20Supported%3A%20%24%5Crho%24%20is%20zero%20everywhere%20it's%20defined%2C%20and%20the%20cross-form%20principal%20angles%20match%20a%20random%20pair%20of%20subspaces.%0A%20%20%20%20-%20**H4.**%20Not%20supported%3A%20narrowing%20the%20stream%20never%20aligns%20the%20forms%20%E2%80%94%20it%20wears%20the%20named%20form%20down%20instead.%0A%20%20%20%20-%20**H5.**%20Not%20supported%3A%20the%20bridge%20supervision%20works%2C%20yet%20%24%5Crho%24%20stays%20zero.%0A%20%20%20%20-%20**H6.**%20Mixed%3A%20depth%20helps%20at%20d16%20and%20does%20nothing%20at%20d64%3B%20the%20crystallization%20clause%20depends%20on%20whether%20you%20count%20layers%20or%20network%20fraction.%0A%0A%20%20%20%20The%20separation%20is%20resilient%3A%20even%20where%20narrowing%20the%20stream%20costs%20the%20named%20form%20roughly%20an%20eightfold%20loss%20of%20color%20resolution%2C%20the%20model%20keeps%20the%20two%20geometries%20apart%2C%20so%20maintaining%20separate%20representations%20apparently%20costs%20it%20less%20than%20merging%20them%20would.%20Perhaps%20we%20would%20see%20something%20different%20at%20greater%20depths.%0A%0A%20%20%20%20The%20named%20ceiling%20is%20a%20property%20of%20the%20palette%20rather%20than%20the%20model%3A%20misses%20land%20on%20the%20immediate%20neighbors%20of%20the%20mix%2C%20and%20a%20single%20fitted%20read-noise%20parameter%20reproduces%20the%20accuracy%20across%20conditions.%0A%0A%20%20%20%20And%20the%20forms%20seem%20to%20compute%20in%20different%20places%3A%20named%20assembles%20its%20mix%20before%20the%20answer%20while%20hex%20emits%20digits%20just-in-time.%20So%20the%20separation%20is%20positional%20as%20well%20as%20directional.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0Aif%20__name__%20%3D%3D%20%22__main__%22%3A%0A%20%20%20%20app.run()%0A