← Index
Source
Data provenance
ex-2.1.10
·
63e613c
· run 2026-08-09
via reports/m2/ex-2.1.10/arrays, reports/m2/ex-2.1.10/metrics
ex-2.1.9
·
aa30757-dirty
(dirty) · run 2026-08-06
via reports/m2/ex-2.1.9/arrays, reports/m2/ex-2.1.9/metrics
import%20marimo%0A%0A__generated_with%20%3D%20%220.23.16%22%0Aapp%20%3D%20marimo.App(%0A%20%20%20%20width%3D%22medium%22%2C%0A%20%20%20%20app_title%3D%22Ex%202.1.10%3A%20A%20label%20that%20doesn't%20point%22%2C%0A%20%20%20%20css_file%3D%22..%2F..%2Freport.css%22%2C%0A%20%20%20%20auto_download%3D%5B%22html%22%5D%2C%0A)%0A%0Awith%20app.setup(hide_code%3DTrue)%3A%0A%20%20%20%20import%20json%0A%20%20%20%20import%20tempfile%0A%20%20%20%20from%20pathlib%20import%20Path%0A%20%20%20%20from%20typing%20import%20cast%0A%0A%20%20%20%20import%20marimo%20as%20mo%0A%20%20%20%20import%20matplotlib.pyplot%20as%20plt%0A%20%20%20%20import%20numpy%20as%20np%0A%0A%20%20%20%20%23%20Marimo%20puts%20the%20notebook%20directory%20on%20sys.path%2C%20so%20the%20design%20constants%20come%0A%20%20%20%20%23%20from%20the%20experiment%20module%20rather%20than%20a%20copy%20of%20them%20in%20the%20prose.%0A%20%20%20%20import%20experiment%20as%20ex%0A%20%20%20%20from%20mini.reports%20import%20report_bundle%2C%20use_publisher%0A%20%20%20%20from%20mini.store%20import%20project_store%0A%20%20%20%20from%20mini.vis%20import%20AxesGrid%2C%20figure_html%2C%20light_dark%2C%20smooth_step%2C%20smooth_step_area%2C%20themed%0A%0A%20%20%20%20use_publisher(report_bundle(__file__))%0A%0A%20%20%20%20def%20load_results()%20-%3E%20tuple%5Bdict%2C%20dict%5Bstr%2C%20np.ndarray%5D%5D%20%7C%20None%3A%0A%20%20%20%20%20%20%20%20%22%22%22Resolve%20metrics%20and%20the%20stacked%20per-run%20arrays%20from%20the%20store%2C%20or%20None%20if%20unpublished.%22%22%22%0A%20%20%20%20%20%20%20%20store%20%3D%20project_store()%0A%20%20%20%20%20%20%20%20arts%20%3D%20store.get_refs(%5Bex.METRICS_REF%2C%20ex.ARRAYS_REF%5D)%0A%20%20%20%20%20%20%20%20m_art%2C%20a_art%20%3D%20arts%5Bex.METRICS_REF%5D%2C%20arts%5Bex.ARRAYS_REF%5D%0A%20%20%20%20%20%20%20%20if%20m_art%20is%20None%20or%20a_art%20is%20None%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20None%0A%20%20%20%20%20%20%20%20with%20tempfile.TemporaryDirectory()%20as%20d%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20m_path%2C%20a_path%20%3D%20store.get_many(%5B(m_art%2C%20Path(d)%20%2F%20%22metrics.json%22)%2C%20(a_art%2C%20Path(d)%20%2F%20%22arrays.npz%22)%5D)%0A%20%20%20%20%20%20%20%20%20%20%20%20with%20np.load(a_path)%20as%20z%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20arrays%20%3D%20%7Bk%3A%20z%5Bk%5D%20for%20k%20in%20z.files%7D%0A%20%20%20%20%20%20%20%20%20%20%20%20metrics%20%3D%20json.loads(m_path.read_text())%0A%20%20%20%20%20%20%20%20return%20metrics%2C%20arrays%0A%0A%20%20%20%20def%20load_ex219()%20-%3E%20tuple%5Bdict%2C%20dict%5Bstr%2C%20np.ndarray%5D%5D%20%7C%20None%3A%0A%20%20%20%20%20%20%20%20%22%22%22Ex-2.1.9's%20published%20results%3A%20the%20carried%20baselines%2C%20the%20%CF%84%20calibration%2C%0A%20%20%20%20%20%20%20%20and%20the%20reproduction%20targets.%0A%20%20%20%20%20%20%20%20%22%22%22%0A%20%20%20%20%20%20%20%20store%20%3D%20project_store()%0A%20%20%20%20%20%20%20%20arts%20%3D%20store.get_refs(%5Bex.EX219_METRICS_REF%2C%20ex.EX219_ARRAYS_REF%5D)%0A%20%20%20%20%20%20%20%20m_art%2C%20a_art%20%3D%20arts%5Bex.EX219_METRICS_REF%5D%2C%20arts%5Bex.EX219_ARRAYS_REF%5D%0A%20%20%20%20%20%20%20%20if%20m_art%20is%20None%20or%20a_art%20is%20None%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20None%0A%20%20%20%20%20%20%20%20with%20tempfile.TemporaryDirectory()%20as%20d%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20m_path%2C%20a_path%20%3D%20store.get_many(%5B(m_art%2C%20Path(d)%20%2F%20%22metrics.json%22)%2C%20(a_art%2C%20Path(d)%20%2F%20%22arrays.npz%22)%5D)%0A%20%20%20%20%20%20%20%20%20%20%20%20with%20np.load(a_path)%20as%20z%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20arrays%20%3D%20%7Bk%3A%20z%5Bk%5D%20for%20k%20in%20z.files%7D%0A%20%20%20%20%20%20%20%20%20%20%20%20metrics%20%3D%20json.loads(m_path.read_text())%0A%20%20%20%20%20%20%20%20return%20metrics%2C%20arrays%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%20Ex%202.1.10%3A%20A%20label%20that%20doesn't%20point%0A%0A%20%20%20%20%2F%2F%2F%20tip%20%7C%0A%20%20%20%20%3C!--%20tl%3Bdr%20--%3E%0A%20%20%20%20Mellowmax%20pooling%20found%20the%20concept%20position%20on%20its%20own%20in%20ex-2.1.9%2C%20but%20every%20label%20was%20keyed%20on%20op1%2C%20so%20only%20one%20position%20ever%20carried%20the%20evidence.%20Now%20we%20label%20lines%20when%20either%20operand%20is%20*red*%2C%20and%20the%20pull%20has%20to%20find%20the%20right%20operand%20line%20by%20line.%20It%20does%2C%20with%20selectivity%20matching%20that%20of%20the%20oracle.%0A%20%20%20%20%2F%2F%2F%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Findings%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(a_op1%2C%20acc%2C%20contrast%2C%20grading_r2%2C%20m_line%2C%20pi_group_mean%2C%20retention)%3A%0A%20%20%20%20_P%20%3D%20ex.PRIMARY%0A%20%20%20%20_ctrl%20%3D%20acc(%22lam0%22).mean()%0A%20%20%20%20_lead%20%3D%20pi_group_mean(_P)%5B0%2C%200%2C%200%5D%20%20%23%20G1's%20op1%20weight%20at%20the%20embedding%3B%20G2's%20op2%20weight%20equals%20it%0A%20%20%20%20_frac%20%3D%20(m_line(_P).mean()%20-%20m_line(%22lam0%22).mean())%20%2F%20(m_line(ex.ORACLE_ARM).mean()%20-%20m_line(%22lam0%22).mean())%0A%20%20%20%20_ret%20%3D%20retention(_P)%0A%20%20%20%20assert%20_ret%20is%20not%20None%0A%20%20%20%20mo.md(rf%22%22%22%0A%20%20%20%20**H1%20(task%20cost)%20%E2%80%94%20holds.**%20The%20largest%20%60named_holdout%60%20exact-match%20gap%20from%20the%20control%20across%20the%20five%20anchored%20conditions%20is%20%7Bmax(abs(acc(c).mean()%20-%20_ctrl)%20for%20c%20in%20%5Bex.REFERENCE_ARM%2C%20*ex.EITHER_NAMES%2C%20ex.ORACLE_ARM%5D)%3A.4f%7D%2C%20against%20a%20gate%20of%20%7Bex.TASK_GATE%3Ag%7D.%0A%0A%20%20%20%20**H2%20(the%20pull%20selects%20the%20labelled%20operand)%20%E2%80%94%20holds.**%20On%20the%20primary%20(%60%7B_P%7D%60)%3A%20(a)%20at%20the%20embedding%20the%20leading%20role%20in%20each%20group%20is%20its%20own%20operand%2C%20at%20weight%20%7B_lead%3A.2f%7D%20(gate%20%E2%89%A5%20%7Bex.LEAD_GATE%3Ag%7D%3B%20uniform%20is%200.25)%2C%20in%20all%20nine%20runs%20individually%3B%20(b)%20the%20deep-slice%20between-group%20op2%20contrast%20is%20%7Bcontrast(_P).mean()%3A%2B.2f%7D%20(gate%20%E2%89%A5%20%7Bex.CONTRAST_GATE%3Ag%7D).%0A%0A%20%20%20%20**H3%20(the%20operating%20point%20survives)%20%E2%80%94%20holds.**%20On%20%60%7B_P%7D%60%3A%20containment%20%24%5Cbar%5Calpha%24%20at%20op1%20%3D%20%7Ba_op1(_P).mean()%3A.3f%7D%20(gate%20%E2%89%A4%20%7Bex.MEAN_ALIGN_GATE%3Ag%7D)%3B%20retention%20%7B_ret%3A.2f%7D%20(gate%20%E2%89%A5%20%7Bex.RETENTION_GATE%3Ag%7D%2C%20minimum%20across%20nine%20seeds)%3B%20grading%20%24r%5E2%24%20%3D%20%7Bgrading_r2(_P)%3A.2f%7D%20against%20%7Bgrading_r2(ex.REFERENCE_ARM)%3A.2f%7D%20for%20the%20reference%20arm%2C%20a%20drop%20of%20%7Bgrading_r2(ex.REFERENCE_ARM)%20-%20grading_r2(_P)%3A.3f%7D%20(gate%20%E2%89%A4%20%7Bex.GRADE_R2_DROP%3Ag%7D).%0A%0A%20%20%20%20**H4%20(selectivity%20without%20the%20pointer)%20%E2%80%94%20holds.**%20Control-subtracted%20m_line%20of%20the%20primary%20is%20%7B_frac%3A.0%25%7D%20of%20the%20value%20for%20the%20slot%20oracle%20(gate%20%E2%89%A5%20%7Bex.ORACLE_FRAC_GATE%3A.0%25%7D).%0A%0A%20%20%20%20The%20reference%20arm%20reproduced%20%60pool-t100%60%20from%20ex-2.1.9%20through%20the%20new%20labelling%20code%20path%2C%20matching%20every%20carried%20statistic%20to%20three%20decimals%20(*Reproduction*%2C%20in%20the%20H2%20section).%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%2F%2F%2F%20admonition%20%7C%20How%20to%20read%20this%20report%0A%20%20%20%20This%20report%20was%20preregistered%3A%20the%20method%2C%20hypotheses%20and%20decision%20thresholds%20were%20frozen%20before%20the%20experiment%20ran%20(commit%20%60b36a590%60).%20Results%20replaced%20the%20%60TODO%60%20placeholders%20in%20place%3B%20everything%20conceived%20after%20seeing%20the%20data%20is%20under%20*Exploratory%20analyses*%2C%20marked%20as%20post%20hoc.%0A%20%20%20%20%2F%2F%2F%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20mo.md(%0A%20%20%20%20%20%20%20%20r%22%22%22%0A%20%20%20%20Ex-2.1.9%20took%20away%20the%20position%20oracle%3A%20the%20pooled%20(mellowmax)%20anchor%20term%0A%20%20%20%20asks%20each%20labeled%20line%20to%20align%20*somewhere*%20in%20its%20span%2C%20and%20the%20pull%20put%0A%20%20%20%20%7BLEAD%7D%20of%20its%20weight%20on%20op1%20at%20the%20embedding%20without%20being%20told.%20But%20the%0A%20%20%20%20labels%20still%20pointed.%20A%20label%20is%20a%20per-visit%20Bernoulli%20draw%3A%20each%20time%20a%0A%20%20%20%20line%20is%20visited%20in%20training%2C%20it%20*draws*%20a%20label%20with%20a%20small%20probability.%0A%20%20%20%20In%20ex-2.1.9%20that%20probability%20depended%20only%20on%20the%20redness%20of%20the%20first%0A%20%20%20%20operand%2C%20so%20op1%20was%20the%20only%20position%20whose%20evidence%20ever%20justified%20a%20label%2C%0A%20%20%20%20and%20a%20pull%20that%20settled%20on%20op1%20*by%20position*%20could%20never%20be%20wrong.%20RoPE%0A%20%20%20%20never%20writes%20position%20into%20the%20stream%2C%20but%20causal%20attention%20gives%20each%20role%0A%20%20%20%20a%20different%20view%20of%20the%20line%20(e.g.%20op1%20attends%20only%20to%20itself)%2C%20so%20from%20the%0A%20%20%20%20first%20block%20on%2C%20the%20roles%20are%20distinguishable%20states%20a%20pull%20could%20latch.%0A%0A%20%20%20%20Labels%20that%20don't%20point%20are%20a%20step%20toward%20M3%2C%20which%20will%20target%20natural%0A%20%20%20%20text.%20There%2C%20labels%20arrive%20at%20the%20document%20level%20(%22this%20review%20is%0A%20%20%20%20negative%22%2C%20%22this%20tweet%20is%20obscene%22)%2C%20since%20nobody%20marks%20which%20tokens%20carry%0A%20%20%20%20the%20concept.%20A%20document-level%20label%20says%20the%20concept%20occurs%2C%20but%20not%20where.%0A%20%20%20%20This%20experiment%20widens%20our%20labels%20by%20one%20step%20in%20that%20direction%3A%20either%0A%20%20%20%20operand%20can%20draw%20the%20label%2C%20so%20a%20line%20can%20be%20labeled%20because%20of%20a%20red%20op2%0A%20%20%20%20while%20its%20op1%20is%20blue.%20The%20localization%20then%20has%20to%20vary%20per-line%3A%20on%0A%20%20%20%20op1-triggered%20lines%20the%20red%20state%20is%20at%20position%200%2C%20on%20op2-triggered%0A%20%20%20%20lines%20at%20position%202%2C%20and%20a%20pool%20that%20commits%20to%20one%20position%20for%20the%20whole%0A%20%20%20%20run%20would%20pull%20blue%20states%20onto%20the%20axis%20on%20the%20lines%20it%20got%20wrong.%0A%0A%20%20%20%20Whether%20that%20failure%20would%20even%20show%20up%20in%20the%20scores%20is%20not%20obvious%2C%0A%20%20%20%20because%20the%20span%20positions%20share%20token%20embeddings.%20Once%20red%20embeddings%20sit%0A%20%20%20%20on%20the%20axis%2C%20a%20red%20op2%20line%20has%20an%20aligned%20position%20for%20free%3A%20the%0A%20%20%20%20labeller's%20slot-symmetry%20is%20satisfied%20by%20the%20lexicon%20before%20any%20per-line%0A%20%20%20%20choice%20happens.%20It%20only%20really%20matters%20after%20attention%3A%20in%20ex-2.1.9%2C%20we%0A%20%20%20%20found%20the%20pool's%20deep-slice%20choice%20is%20winner-take-all%20*per%20run*%2C%20committed%0A%20%20%20%20by%20epoch%208.%20If%20that%20winner%20is%20global%2C%20the%20two%20label%20groups%20will%20show%20the%0A%20%20%20%20same%20weight%20profile%3B%20if%20the%20pool%20localizes%20per%20line%2C%20a%20red%20op2%20should%20carry%0A%20%20%20%20the%20weight%20on%20the%20lines%20where%20it%20is%20the%20evidence%20(H2).%20The%20selectivity%0A%20%20%20%20delivered%20to%20labeled%20lines%20is%20scored%20separately%20(H4)%2C%20since%20the%20embedding%0A%20%20%20%20give-away%20means%20the%20second%20can%20pass%20while%20the%20first%20fails.%0A%0A%20%20%20%20One%20scope%20limit%3A%20our%20mixing%20operation%20can't%20make%20the%0A%20%20%20%20answer%20redder%20than%20both%20operands%2C%20so%20%22the%20concept%20is%20only%20at%20a%20position%0A%20%20%20%20the%20labeller%20never%20sees%22%20doesn't%20exist%20in%20this%20language.%20Two%20candidate%0A%20%20%20%20positions%2C%20correlated%20with%20the%20answer%2C%20is%20as%20blind%20as%20this%20testbed%20gets%3B%0A%20%20%20%20enough%20to%20test%20per-line%20localization%3B%20a%20concept%20at%20a%20position%20the%0A%20%20%20%20labeller%20gave%20no%20hint%20of%20is%20out%20of%20reach%20here.%0A%20%20%20%20%22%22%22.replace(%22%7BLEAD%7D%22%2C%20f%22%7Bex.EX219_REFERENCE%5B'pool-t100'%5D%5B'lead_emb'%5D%3A.2f%7D%22)%0A%20%20%20%20)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%2F%2F%2F%20details%20%7C%20Glossary%0A%20%20%20%20-%20**line**%20%E2%80%94%20one%20equation%2C%20%60c1%20%2B%20c2%20%3D%20answer%60.%20Training%20samples%20lines%20from%20this%20grammar%3B%20the%20probe%20set%20enumerates%20all%205832%20of%20them.%0A%20%20%20%20-%20**span**%20%E2%80%94%20a%20line's%20four%20prompt%20positions%2C%20the%20ones%20the%20pooled%20pull%20chooses%20among.%0A%20%20%20%20-%20**role**%20%E2%80%94%20what%20a%20span%20position%20holds%3A%20op1%2C%20%60%2B%60%2C%20op2%2C%20%60%3D%60.%20The%20grammar%20is%20fixed%20in%20this%20experiment%2C%20so%20role%20and%20position%20name%20the%20same%20thing%20here.%0A%20%20%20%20-%20**slice**%20(%24%5Cell%24)%20%E2%80%94%20a%20depth%20at%20which%20the%20residual%20stream%20is%20read%3A%20the%20embedding%2C%20plus%20the%20stream%20after%20each%20of%20the%20four%20blocks.%0A%20%20%20%20-%20**alignment**%20(%24%5Calpha%24)%20%E2%80%94%20%24%5Ccos(h%2C%20%5Chat%20v)%24%2C%20a%20state's%20cosine%20to%20the%20anchor%20axis%3B%20%24%5Cbar%5Calpha%24%20is%20its%20mean%20over%20colors%20or%20lines%2C%20called%20*drift*%20when%20the%20mean%20runs%20over%20the%20unlabeled%20bulk.%0A%20%20%20%20-%20**margin**%20(%24m%24)%20%E2%80%94%20label-weighted%20minus%20unweighted%20mean%20alignment%3A%20how%20much%20closer%20the%20labeled-ish%20material%20is%20to%20the%20axis%20than%20everything%20else.%0A%20%20%20%20-%20**softmin%20temperature**%20(%24%5Ctau%24)%20%E2%80%94%20how%20sharply%20the%20pooled%20pull%20concentrates%20on%20its%20best-aligned%20position%3A%20small%20%CF%84%20approaches%20a%20hard%20min%2C%20large%20%CF%84%20approaches%20the%20span%20mean.%0A%20%20%20%20-%20**softmin%20weight**%20(%24%5Cpi%24)%20%E2%80%94%20the%20share%20of%20the%20pooled%20pull%20a%20span%20position%20receives%3B%20sums%20to%201%20over%20the%20span.%0A%20%20%20%20-%20**G1**%2C%20**G2**%20%E2%80%94%20the%20label%20groups%3A%20probe%20lines%20weighted%20by%20P(only%20op1)%20and%20P(only%20op2)%20respectively.%0A%20%20%20%20%2F%2F%2F%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Method%0A%0A%20%20%20%20Everything%20follows%20ex-2.1.9%20except%20the%20labelling%20rule%3A%20the%20word-level%20%60v216%60%20corpus%20from%20ex-2.1.3%20(216%20colors%2C%20one%20token%20each%2C%20d64-L4)%2C%20the%20same%20seeds%2C%20the%20mellowmax-pooled%20anchor%20term%2C%20the%20anchor%20schedule%2C%20and%20the%20anti-subspace%20schedule%20fixed%20at%20ex-2.1.8's%20operating%20point%20(%60end90-hold30%60)%20in%20every%20anchored%20cell.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20mo.md(%0A%20%20%20%20%20%20%20%20r%22%22%22%0A%20%20%20%20%23%23%23%20The%20labelling%20rule%0A%0A%20%20%20%20Labels%20are%20as%20they%20have%20been%20since%20ex-2.1.6%20(binary%2C%20drawn%20per%20visit%2C%0A%20%20%20%20with%20probability%20graded%20in%20redness)%2C%20except%20that%20now%20both%20operands%20draw.%0A%20%20%20%20Each%20operand%20of%20a%20line%20draws%20independently%20at%20redness%E2%81%B8%20%C3%97%20%7BSLOTRATE%7D%2C%20and%0A%20%20%20%20the%20line%20is%20labeled%20when%20either%20draws.%20The%20per-slot%20rate%20is%20half%20of%20the%0A%20%20%20%20op1%20labeller's%20%7BREDRATE%7D%2C%20which%20keeps%20the%20expected%20labeled-line%20rate%20where%0A%20%20%20%20it%20was%2C%20up%20to%20the%20tiny%20both-draw%20overlap%3B%20the%20label-budget%20check%20below%0A%20%20%20%20computes%20both.%20A%20labeled%20line's%20pulled%20positions%20are%20its%20prompt%0A%20%20%20%20span%2C%20as%20before%3A%20the%20label%20never%20says%20which%20operand%20drew.%0A%0A%20%20%20%20The%20answer%20position%20stays%20outside%20the%20span%3A%20the%20model%20has%20to%20*produce*%0A%20%20%20%20the%20mix%20there%2C%20so%20pulling%20that%20state%20toward%20red%20would%20oppose%20the%20task%20on%0A%20%20%20%20every%20labeled%20line%20whose%20answer%20isn't%20red%2C%20entangling%20the%20anchor%20with%20the%0A%20%20%20%20output%20rather%20than%20with%20the%20concept.%20The%20span%20will%20have%20to%20widen%0A%20%20%20%20eventually%3A%20in%20M3%20the%20span%20is%20the%20whole%20document%2C%20answer-analogues%0A%20%20%20%20included.%20That%20widening%20is%20its%20own%20variable%2C%20so%20it%20stays%20out%20of%20this%0A%20%20%20%20experiment%3B%20a%20full-line%20arm%20(answer%20included%2C%20a%20position%20where%20the%0A%20%20%20%20concept%20is%20diluted)%20is%20queued%20in%20todo-science%20as%20the%20intermediate%20step.%0A%20%20%20%20Lines%20whose%20operands%20are%20*both*%20reddish%20exist%20too%3B%20their%20weight%20maps%20are%0A%20%20%20%20on%20the%20exploratory%20list.%0A%0A%20%20%20%20The%20%60slot-oracle%60%20condition%20is%20the%20exception%20that%20measures%20what%20the%20label%0A%20%20%20%20withholds%3A%20it%20pulls%20only%20the%20operand(s)%20that%20actually%20drew%2C%20no%20pooling%0A%20%20%20%20needed.%20And%20the%20%60op1-labels%60%20condition%20keeps%20the%20old%20labeller%20entirely%0A%20%20%20%20(op1-keyed%20at%20%7BREDRATE%7D)%2C%20reproducing%20ex-2.1.9's%20%60pool-t100%60%0A%20%20%20%20through%20the%20new%20code%20path.%0A%0A%20%20%20%20One%20bookkeeping%20consequence%3A%20label%20draws%20are%20consumed%20per%20line%20whatever%0A%20%20%20%20the%20anchor%20weight%2C%20so%20conditions%20sharing%20a%20labeller%20see%20identical%20batches%0A%20%20%20%20and%20masks%20at%20a%20given%20seed.%20Conditions%20with%20*different*%20labellers%20consume%0A%20%20%20%20different%20draws%2C%20so%20comparisons%20across%20the%20labelling%20rules%20carry%0A%20%20%20%20corpus-draw%20noise%20on%20top%20of%20seed%20noise.%20The%20control%20runs%20the%20either-slot%0A%20%20%20%20labeller%2C%20keeping%20it%20batch-identical%20with%20the%20primary.%0A%20%20%20%20%22%22%22.replace(%22%7BSLOTRATE%7D%22%2C%20f%22%7Bex.PER_SLOT_RATE%3Ag%7D%22).replace(%22%7BREDRATE%7D%22%2C%20f%22%7Bex.RED_RATE%3Ag%7D%22)%0A%20%20%20%20)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20%23%20Joined%20with%20the%20block's%20own%20indent%20so%20every%20row%20dedents%20evenly%20under%20mo.md.%0A%20%20%20%20_rows%20%3D%20%22%5Cn%20%20%20%20%22.join(%0A%20%20%20%20%20%20%20%20f%22%7C%20%60%7Bc%5B'name'%5D%7D%60%7B'%20**(primary)**'%20if%20c%5B'name'%5D%20%3D%3D%20ex.PRIMARY%20else%20''%7D%20%7C%20%7Bc%5B'lam'%5D%3Ag%7D%20%7C%20%22%0A%20%20%20%20%20%20%20%20f%22%7B'%E2%88%9E'%20if%20np.isinf(c%5B'tau'%5D)%20else%20f'%7Bc%5B%22tau%22%5D%3Ag%7D'%7D%20%7C%20%22%0A%20%20%20%20%20%20%20%20f%22%7Bc%5B'labels'%5D%7D%20%7C%20%7B'the%20operand%20that%20drew'%20if%20c%5B'pull'%5D%20%3D%3D%20'slot'%20else%20'prompt%20span%2C%20pooled'%7D%20%7C%20%22%0A%20%20%20%20%20%20%20%20f%22%7Bc%5B'seeds'%5D%7D%20%7C%22%0A%20%20%20%20%20%20%20%20for%20c%20in%20ex.CONDITIONS%0A%20%20%20%20)%0A%20%20%20%20mo.md(%0A%20%20%20%20%20%20%20%20r%22%22%22%0A%20%20%20%20%23%23%23%20Conditions%0A%0A%20%20%20%20Six%20conditions%2C%20most%20run%20with%20three%20seeds%20each.%20The%20primary%20condition%20runs%0A%20%20%20%20with%20nine%20seeds%3A%20the%20deep-slice%20mellowmax%20in%20ex-2.1.9%20was%20one-hot%20per%20*run*%2C%0A%20%20%20%20and%20we%20can%20measure%20the%20failure%20rate%20better%20with%20more%20seeds.%20%7BNRUNS%7D%20runs%20in%0A%20%20%20%20all.%20Every%20anchored%20cell%20runs%20the%20anti-subspace%20term%20at%20the%20operating%20point%3B%0A%20%20%20%20only%20the%20labelling%20rule%20and%20%CF%84%20vary.%0A%0A%20%20%20%20%3C!--%20tau%20renders%20as%20T%20in%20this%20font%20in%20table%20headers%2C%20so%20using%20mathmode%20--%3E%0A%0A%20%20%20%20%7C%20condition%20%7C%20%24%5Clambda_a%24%20%7C%20%24%CF%84%24%20%7C%20labels%20%7C%20pulled%20positions%20%7C%20seeds%20%7C%0A%20%20%20%20%7C---%7C---%7C---%7C---%7C---%7C---%7C%0A%20%20%20%20%7BROWS%7D%0A%0A%20%20%20%20%60either-t100%60%20is%20the%20primary%3A%20the%20either-slot%20labeller%20at%20%CF%84%20%3D%200.1.%20That%0A%20%20%20%20temperature%20was%20the%20only%20rung%20ex-2.1.9%20found%20graded%20in%20every%20seed%20(latch%0A%20%20%20%20rate%200%2F3).%20The%20%CF%84%20%3D%200.5%20and%202.5%20arms%20are%20softer%2C%5B%5Etau-geo%5D%20reported%20but%20not%0A%20%20%20%20gated.%0A%0A%20%20%20%20%5B%5Etau-geo%5D%3A%20%CF%84%20is%20a%20temperature%20(the%20weight%20ratio%20between%20two%20positions%20is%0A%20%20%20%20%20%20%20%20%24e%5E%7B%5CDelta%20x%2F%5Ctau%7D%24)%2C%20so%20the%20rungs%20step%20geometrically%2C%20%C3%975.%20At%20%CF%84%20%3D%202.5%0A%20%20%20%20%20%20%20%20the%20ratios%20on%20realistic%20alignment%20spreads%20are%20~1.2%3A%20a%20pull%20with%20only%20a%0A%20%20%20%20%20%20%20%20tiny%20bias%20toward%20its%20best-aligned%20position%2C%20nearly%20the%20span%20mean%20that%0A%20%20%20%20%20%20%20%20ex-2.1.9's%20%CF%84%20%3D%20%E2%88%9E%20arm%20pinned%2C%20which%20is%20why%20no%20span-mean%20arm%20runs%20here.%0A%0A%20%20%20%20%60op1-labels%60%20re-runs%20ex-2.1.9's%20%60pool-t100%60%20verbatim%3A%20the%20reproduction%0A%20%20%20%20check%20for%20the%20new%20labelling%20code%20path%2C%20and%20the%20baseline%20the%20widened%0A%20%20%20%20labels%20are%20judged%20against.%20%60slot-oracle%60%20shows%20what%20knowing%20the%20triggering%20slot%20is%20worth%2C%0A%20%20%20%20measured%20through%20identical%20code%3A%20a%20reference%20rather%20than%20a%20strict%0A%20%20%20%20ceiling%2C%20for%20the%20same%20reason%20ex-2.1.9's%20%60op1-oracle%60%20was.%0A%20%20%20%20%22%22%22.replace(%22%7BROWS%7D%22%2C%20_rows).replace(%22%7BNRUNS%7D%22%2C%20str(sum(c%5B%22seeds%22%5D%20for%20c%20in%20ex.CONDITIONS)))%0A%20%20%20%20)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20Calibration%0A%0A%20%20%20%20A%20few%20checks%20before%20anything%20runs%2C%20computed%20from%20the%20design%20constants%20and%20the%20published%20arrays%20from%20ex-2.1.9%3A%20the%20label%20budget%2C%20the%20placement%20of%20the%20soft-%CF%84%20rungs%2C%20and%20the%20reproduction%20targets%20for%20the%20reference%20arm.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20from%20sca.colorcube%20import%20redness%20as%20_redness%0A%20%20%20%20from%20sca.data%20import%20named_colors%20as%20nc%0A%20%20%20%20from%20sca.data.colors%20import%20N_LEVELS%20as%20_N_LEVELS%0A%0A%20%20%20%20%23%20The%20ordered%20closed-pair%20universe%20the%20corpus%20draws%20from%3A%20both%20orders%20of%0A%20%20%20%20%23%20every%20distinct%20closed%20pair%2C%20plus%20the%20self-pairs%20(always%20closed%2C%20always%0A%20%20%20%20%23%20trained)%2C%20matching%20the%20probe%20set's%20216%20%C3%97%2027%20lines.%0A%20%20%20%20_levels%20%3D%20nc.GRIDS%5Bex.GRID%5D%0A%20%20%20%20_distinct%20%3D%20nc.closed_pairs(_levels)%0A%20%20%20%20_colors%20%3D%20list(nc.grid_palette(_levels).values())%0A%20%20%20%20_ordered%20%3D%20np.asarray(%5B*_distinct%2C%20*%5B(b%2C%20a)%20for%20a%2C%20b%20in%20_distinct%5D%2C%20*%5B(c%2C%20c)%20for%20c%20in%20_colors%5D%5D%2C%20dtype%3Dfloat)%0A%20%20%20%20_r1%20%3D%20_redness(_ordered%5B%3A%2C%200%5D%20%2F%20(_N_LEVELS%20-%201))%0A%20%20%20%20_r2%20%3D%20_redness(_ordered%5B%3A%2C%201%5D%20%2F%20(_N_LEVELS%20-%201))%0A%0A%20%20%20%20_p_old%20%3D%20float(np.mean(_r1**8%20*%20ex.RED_RATE))%0A%20%20%20%20_p_new%20%3D%20float(np.mean(ex.line_label_p(_r1%2C%20_r2)))%0A%20%20%20%20_g1%20%3D%20ex.p_slot(_r1)%20*%20(1%20-%20ex.p_slot(_r2))%0A%20%20%20%20_g2%20%3D%20(1%20-%20ex.p_slot(_r1))%20*%20ex.p_slot(_r2)%0A%20%20%20%20_both%20%3D%20ex.p_slot(_r1)%20*%20ex.p_slot(_r2)%0A%20%20%20%20_tot%20%3D%20float(np.mean(_g1%20%2B%20_g2%20%2B%20_both))%0A%20%20%20%20_shares%20%3D%20%5Bfloat(np.mean(x))%20%2F%20_tot%20for%20x%20in%20(_g1%2C%20_g2%2C%20_both)%5D%0A%0A%20%20%20%20mo.md(rf%22%22%22%0A%20%20%20%20**The%20label%20budget.**%20Over%20the%20closed-pair%20set%20the%20corpus%20draws%20from%2C%20the%20op1%20labeller%20labels%20%7B_p_old%3A.4f%7D%20of%20lines%20per%20visit%20and%20the%20either-slot%20labeller%20at%20the%20halved%20rate%20labels%20%7B_p_new%3A.4f%7D%2C%20a%20%7Babs(_p_new%20%2F%20_p_old%20-%201)%20*%20100%3A.1f%7D%25%20difference.%20The%20halving%20does%20keep%20the%20budget%2C%20so%20a%20margin%20change%20is%20attributable%20to%20the%20labelling%20rule%20rather%20than%20to%20more%20or%20less%20total%20pull.%20Of%20the%20either-slot%20label%20mass%2C%20%7B_shares%5B0%5D%3A.0%25%7D%20is%20op1-only%2C%20%7B_shares%5B1%5D%3A.0%25%7D%20op2-only%20and%20%7B_shares%5B2%5D%3A.1%25%7D%20both-draw.%20The%20near-even%20split%20between%20the%20one-slot%20groups%20is%20what%20H2's%20group%20weighting%20and%20H4's%20latch%20arithmetic%20lean%20on.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20_e219%20%3D%20load_ex219()%0A%20%20%20%20mo.stop(%0A%20%20%20%20%20%20%20%20_e219%20is%20None%2C%0A%20%20%20%20%20%20%20%20mo.md(%22_Ex-2.1.9's%20published%20results%20aren't%20reachable%20from%20here%3B%20the%20calibration%20cells%20need%20them._%22)%2C%0A%20%20%20%20)%0A%20%20%20%20assert%20_e219%20is%20not%20None%0A%20%20%20%20_metrics219%2C%20arrays219%20%3D%20_e219%0A%20%20%20%20return%20(arrays219%2C)%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(arrays219)%3A%0A%20%20%20%20def%20_ex219_alpha(cond%3A%20str)%20-%3E%20np.ndarray%3A%0A%20%20%20%20%20%20%20%20return%20np.mean(%5Barrays219%5Bf%22%7Bcond%7D-s%7Bs%7D%2Falpha%22%5D%20for%20s%20in%20(0%2C%201%2C%202)%5D%2C%20axis%3D0)%0A%0A%20%20%20%20_ALPHA219%20%3D%20%7Bc%3A%20_ex219_alpha(c)%20for%20c%20in%20%5B%22lam0%22%2C%20%22pool-t100%22%5D%7D%0A%0A%20%20%20%20def%20_leading_weight(alpha%3A%20np.ndarray%2C%20tau%3A%20float)%20-%3E%20np.ndarray%3A%0A%20%20%20%20%20%20%20%20%22%22%22Label-weighted%20mean%20of%20the%20leading%20softmin%20weight%2C%20per%20residual%20slice.%22%22%22%0A%20%20%20%20%20%20%20%20w%20%3D%20ex.softmin_weights(1.0%20-%20alpha%5B%3A%2C%20%3A%2C%20%3A%20ex.SPAN%5D%2C%20tau)%0A%20%20%20%20%20%20%20%20return%20np.einsum(%22lc%2Cc-%3El%22%2C%20w.max(axis%3D-1)%2C%20ex.LABEL_W)%0A%0A%20%20%20%20_taus%20%3D%20np.geomspace(0.003%2C%208.0%2C%2070)%0A%20%20%20%20_lead%20%3D%20%7Bc%3A%20np.array(%5B_leading_weight(a%2C%20t)%20for%20t%20in%20_taus%5D)%20for%20c%2C%20a%20in%20_ALPHA219.items()%7D%0A%0A%20%20%20%20%40themed(%0A%20%20%20%20%20%20%20%20name%3D%22tau-ladder%22%2C%0A%20%20%20%20%20%20%20%20alt_text%3D%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20Two%20line%20charts%20of%20leading%20softmin%20weight%20against%20temperature%20tau%20on%20a%20log%20scale%20from%200.003%20to%208.%20Left%20panel%3A%20the%20un-anchored%20control's%20alignment%20profile%20from%20ex-2.1.9%3B%20right%20panel%3A%20its%20pool-t100%20condition.%20Each%20panel%20has%20five%20curves%2C%20one%20per%20residual%20slice%2C%20descending%20from%20near%201%20at%20the%20left%20edge%20to%200.25%20at%20the%20right%20edge.%20Three%20vertical%20dashed%20lines%20mark%20tau%20%3D%200.1%2C%200.5%20and%202.5.%20At%20tau%20%3D%202.5%20every%20curve%20has%20flattened%20to%20within%20a%20few%20hundredths%20of%200.25%2C%20the%20uniform%20value%20marked%20by%20a%20faint%20horizontal%20line.%0A%20%20%20%20%20%20%20%20%22%22%22%2C%0A%20%20%20%20%20%20%20%20caption%3Dr%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20**Where%20the%20soft-%CF%84%20rungs%20land.**%20The%20check%20the%20ladder%20was%20chosen%20by%20(the%20rungs%20are%20not%20derivable%20from%20first%20principles)%3A%20the%20share%20of%20softmin%20weight%20held%20by%20the%20leading%20span%20position%2C%20as%20a%20function%20of%20%CF%84%2C%20computed%20on%20the%20stored%20alignments%20from%20ex-2.1.9%20under%20the%20un-anchored%20control%20(**left**)%20and%20under%20%60pool-t100%60%20(**right**).%20Dashed%20verticals%20mark%20the%20rungs%20chosen%20here%2C%20and%20the%20curves%20say%20what%20each%20will%20do.%20%CF%84%20%3D%200.1%20keeps%20a%20clear%20leader%20on%20the%20trained%20profile%3B%20%CF%84%20%3D%202.5%20sits%20within%20a%20few%20hundredths%20of%20uniform%20(0.25)%20on%20both%2C%20so%20it%20*is*%20the%20tiny-bias%20arm%20and%20a%20%CF%84%20%3D%20%E2%88%9E%20arm%20would%20add%20nothing%3B%20%CF%84%20%3D%200.5%20splits%20the%20gap.%20Had%20a%20rung%20landed%20on%20the%20flat%20shoulder%20next%20to%20another%2C%20we%20would%20have%20moved%20it.%0A%20%20%20%20%20%20%20%20%22%22%22%2C%0A%20%20%20%20)%0A%20%20%20%20def%20_plot()%3A%0A%20%20%20%20%20%20%20%20_grey%20%3D%20light_dark(%22%23666%22%2C%20%22%23999%22)%0A%20%20%20%20%20%20%20%20_slice_colors%20%3D%20%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20light_dark(%22%237b3fa0%22%2C%20%22%23b98ce0%22)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20light_dark(%22%231f6fb4%22%2C%20%22%235fa8dd%22)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20light_dark(%22%232a9d8f%22%2C%20%22%235fc9bd%22)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20light_dark(%22%23b4531f%22%2C%20%22%23dd8f5f%22)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20light_dark(%22%23a02040%22%2C%20%22%23d06080%22)%2C%0A%20%20%20%20%20%20%20%20%5D%0A%20%20%20%20%20%20%20%20fig%2C%20axs%20%3D%20plt.subplots(1%2C%202%2C%20figsize%3D(7.2%2C%202.7)%2C%20layout%3D%22constrained%22%2C%20sharey%3DTrue)%0A%20%20%20%20%20%20%20%20for%20ax%2C%20(cond%2C%20title)%20in%20zip(%0A%20%20%20%20%20%20%20%20%20%20%20%20axs%2C%20%5B(%22lam0%22%2C%20%22control%20profile%22)%2C%20(%22pool-t100%22%2C%20%22pooled-pull%20profile%22)%5D%2C%20strict%3DTrue%0A%20%20%20%20%20%20%20%20)%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20for%20li%20in%20range(5)%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ax.plot(_taus%2C%20_lead%5Bcond%5D%5B%3A%2C%20li%5D%2C%20color%3D_slice_colors%5Bli%5D%2C%20lw%3D1.4%2C%20label%3Df%22slice%20%7Bli%7D%22)%0A%20%20%20%20%20%20%20%20%20%20%20%20for%20t%20in%20ex.TAUS%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ax.axvline(t%2C%20color%3D_grey%2C%20ls%3D(0%2C%20(4%2C%203))%2C%20lw%3D0.8%2C%20alpha%3D0.7)%0A%20%20%20%20%20%20%20%20%20%20%20%20ax.axhline(1%20%2F%20ex.SPAN%2C%20color%3D_grey%2C%20lw%3D0.5%2C%20alpha%3D0.45%2C%20zorder%3D-1)%0A%20%20%20%20%20%20%20%20%20%20%20%20ax.set_xscale(%22log%22)%0A%20%20%20%20%20%20%20%20%20%20%20%20ax.set_xlabel(%22%CF%84%22%2C%20fontsize%3D%22x-small%22)%0A%20%20%20%20%20%20%20%20%20%20%20%20ax.set_title(title%2C%20fontsize%3D%22small%22%2C%20color%3D_grey)%0A%20%20%20%20%20%20%20%20axs%5B0%5D.set_ylabel(%22leading%20weight%22%2C%20fontsize%3D%22x-small%22)%0A%20%20%20%20%20%20%20%20axs%5B0%5D.set_ylim(0.2%2C%201.02)%0A%20%20%20%20%20%20%20%20axs%5B1%5D.legend(fontsize%3D%22x-small%22%2C%20loc%3D%22upper%20right%22%2C%20frameon%3DFalse)%0A%20%20%20%20%20%20%20%20return%20fig%0A%0A%20%20%20%20mo.Html(_plot())%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(arrays219)%3A%0A%20%20%20%20def%20_seed_mean(stat%2C%20cond%3A%20str)%20-%3E%20float%3A%0A%20%20%20%20%20%20%20%20%22%22%22Mean%20of%20the%20per-run%20statistic%20%E2%80%94%20the%20convention%20every%20result%20is%20scored%20under.%22%22%22%0A%20%20%20%20%20%20%20%20return%20float(np.mean(%5Bstat(arrays219%5Bf%22%7Bcond%7D-s%7Bs%7D%2Falpha%22%5D)%20for%20s%20in%20(0%2C%201%2C%202)%5D))%0A%0A%20%20%20%20_m9%20%3D%20_seed_mean(lambda%20a%3A%20ex.pooled_margin(a%2C%20ex.LABEL_W)%2C%20%22pool-t100%22)%0A%20%20%20%20_a9%20%3D%20_seed_mean(ex.alpha_span%2C%20%22pool-t100%22)%0A%20%20%20%20_ao9%20%3D%20_seed_mean(lambda%20a%3A%20float(a%5B%3A%2C%20%3A%2C%200%5D.mean())%2C%20%22pool-t100%22)%0A%20%20%20%20mo.md(rf%22%22%22%0A%20%20%20%20The%20ex-2.1.9%20arrays%20give%20the%20reproduction%20targets%20for%20the%20%60op1-labels%60%20arm%2C%20as%20means%20of%20per-run%20statistics%3A%20m_span%20%3D%20%7B_m9%3A.2f%7D%2C%20%E1%BE%B1_span%20%3D%20%7B_a9%3A.2f%7D%2C%20%E1%BE%B1%20at%20op1%20%3D%20%7B_ao9%3A.2f%7D.%20A%20miss%20there%20means%20the%20new%20labelling%20code%20path%20moved%20the%20numbers%2C%20and%20gets%20settled%20before%20any%20either-slot%20condition%20is%20read.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20mo.md(%0A%20%20%20%20%20%20%20%20r%22%22%22%0A%20%20%20%20%23%23%23%20Measurements%0A%0A%20%20%20%20Task%20evals%2C%20the%20readability%20profile%2C%20grading%2C%20and%20the%20trajectory%0A%20%20%20%20instrument%20are%20from%20ex-2.1.9.%20Two%20measurements%20change%20and%20two%20are%20new%2C%0A%20%20%20%20all%20on%20the%20same%20probe%20set%3A%20all%205832%20ordered%20closed%20pairs%2C%20so%20every%20color%0A%20%20%20%20appears%20both%20as%20op1%20and%20as%20op2.%20(Terms%20like%20*line*%2C%20*role*%2C%20*slice*%20and%0A%20%20%20%20*alignment*%20are%20pinned%20down%20in%20the%20Glossary%20above%3B%20alignment%20throughout%0A%20%20%20%20is%20%24%5Ccos(h%2C%20%5Chat%20v)%24%2C%20a%20state's%20cosine%20to%20the%20anchor%20axis.)%0A%0A%20%20%20%20**Per-line%20alignment%20maps.**%20The%20eval%20step%20now%20stores%20alignment%20per%20probe%0A%20%20%20%20*line*%20(slices%2C%20lines%2C%20positions)%20rather%20than%20averaged%20into%20per-color%20rows.%0A%20%20%20%20The%20per-color%20maps%20that%20earlier%20statistics%20used%20are%20recovered%20by%20averaging%0A%20%20%20%20over%20partners%2C%20so%20the%20line-keyed%20statistics%20below%20are%20computed%20from%20those.%0A%20%20%20%20Per-line%20softmin%20weights%20are%20stored%20the%20same%20way.%5B%5Edata-volume%5D%0A%0A%20%20%20%20%5B%5Edata-volume%5D%3A%20The%20volume%20stays%20small%3A%205%20slices%20%C3%97%205832%20lines%20%C3%97%20~6%20positions%0A%20%20%20%20%20%20%20%20in%20float32%20is%20%E2%89%88%200.7%20MB%20per%20array%2C%20two%20arrays%20per%20run%2C%20so%20%E2%89%88%2035%20MB%20across%0A%20%20%20%20%20%20%20%20all%20%7BNRUNS%7D%20runs.%20That%20is%20an%20order%20of%20magnitude%20over%20ex-2.1.9's%0A%20%20%20%20%20%20%20%20per-color%20arrays%20but%20nowhere%20near%20needing%20different%20processing%2C%20and%0A%20%20%20%20%20%20%20%20the%20per-role%20trajectory%20adds%20well%20under%20a%20megabyte%20per%20run.%0A%0A%20%20%20%20**m_line**%2C%20the%20selectivity%20this%20experiment%20scores%3A%20m_span%2C%20generalized%0A%20%20%20%20from%20colors%20to%20lines%2C%20to%20measure%20%22how%20much%20closer%20does%20a%20line%20sit%20to%20the%0A%20%20%20%20axis%20for%20being%20the%20kind%20of%20line%20the%20labeller%20flags%22.%5B%5Em_span%5D%20The%20max%20over%0A%20%20%20%20roles%20is%20applied%20to%20every%20condition%20and%20the%20control%20alike%2C%20so%20its%0A%20%20%20%20maximum-of-noise%20inflation%20cancels%20in%20the%20control-subtracted%20comparisons%2C%20as%0A%20%20%20%20before.%20The%20trajectory%20records%20m_line%2C%20so%20retention%20reads%20off%20it.%20m_span%20and%0A%20%20%20%20%24m_%5Ctext%7Bop1%7D%24%20are%20reported%20beside%20it%20for%20continuity.%0A%0A%20%20%20%20%5B%5Em_span%5D%3A%20To%20recap%20m_span%20(from%20ex-2.1.9)%3A%20on%20the%20per-color%20maps%2C%20take%20the%0A%20%20%20%20%20%20%20%20affinity-weighted%20mean%20alignment%20minus%20the%20plain%20mean%2C%20giving%20a%20margin%0A%20%20%20%20%20%20%20%20per%20(slice%2C%20role)%20saying%20how%20much%20closer%20red-ish%20material%20is%20to%20the%20axis%0A%20%20%20%20%20%20%20%20than%20average.%20Keep%20the%20best%20span%20role%20per%20slice%2C%20and%20average%20over%0A%20%20%20%20%20%20%20%20slices.%20m_line%20is%20the%20same%20recipe%20on%20the%20per-line%20maps%3A%20weight%20*lines*%0A%20%20%20%20%20%20%20%20instead%20of%20colors%2C%20using%20the%20labeller's%20own%20P(labeled)%20per%20line%2C%0A%20%20%20%20%20%20%20%20normalized.%20m_span%20keyed%20on%20op1%20alone%2C%20whereas%20m_line%20keys%20on%20both%0A%20%20%20%20%20%20%20%20operands.%0A%0A%20%20%20%20**Per-group%20weight%20profiles.**%20The%20localization%20instrument.%20Probe%20lines%0A%20%20%20%20are%20weighted%20into%20two%20groups%20by%20the%20labeller's%20own%20one-slot-only%0A%20%20%20%20probabilities%20(G1%20by%20P(op1%20drew%20and%20op2%20didn't)%2C%20G2%20by%20the%20reverse)%2C%20so%0A%20%20%20%20no%20redness%20threshold%20has%20to%20be%20invented%2C%20and%20both-red%20lines%20(where%20either%0A%20%20%20%20answer%20is%20defensible)%20get%20almost%20no%20say.%20Within%20each%20group%2C%0A%20%20%20%20%24%5Cbar%5Cpi_G(%5Cell%2C%20t)%24%20is%20the%20group-weighted%20mean%20softmin%20weight%20per%20slice%0A%20%20%20%20and%20role.%20Under%20per-line%20localization%20the%20two%20profiles%20should%20differ%3A%0A%20%20%20%20G1%20stepping%20at%20op1%2C%20G2%20at%20op2.%20Under%20a%20global%20winner%20they%20are%20identical%0A%20%20%20%20no%20matter%20what%3A%20if%20every%20line%20carries%20the%20same%20weight%20profile%2C%20the%20two%0A%20%20%20%20group%20means%2C%20which%20differ%20only%20in%20how%20lines%20are%20weighted%2C%20both%20return%0A%20%20%20%20that%20one%20profile.%0A%0A%20%20%20%20**Per-role%20drift%20in%20the%20trajectory.**%20Ex-2.1.9%20couldn't%20say%20*when*%20the%0A%20%20%20%20%60%2B%60%20embedding%20climbed%20to%200.30%20alignment%20because%20the%20trajectory%20recorded%0A%20%20%20%20op1%20drift%20only%3B%20it%20now%20records%20%24%5Cbar%5Calpha(%5Cell%2C%20t)%24%20over%20all%20span%20roles%0A%20%20%20%20at%20each%20measurement%2C%20which%20is%20the%20data%20that%20question%20needs.%20Report-side%0A%20%20%20%20only%3B%20nothing%20is%20gated%20on%20it.%0A%20%20%20%20%22%22%22.replace(%22%7BNRUNS%7D%22%2C%20str(sum(c%5B%22seeds%22%5D%20for%20c%20in%20ex.CONDITIONS)))%0A%20%20%20%20)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20mo.md(%0A%20%20%20%20%20%20%20%20r%22%22%22%0A%20%20%20%20%23%23%20Hypotheses%0A%0A%20%20%20%20Gates%20and%20noise%20floors%20are%20from%20ex-2.1.6%20through%20ex-2.1.9%20wherever%20the%0A%20%20%20%20statistic%20is%20unchanged%3B%20derivations%20for%20the%20new%20ones%20are%20in%0A%20%20%20%20%5Bexperiment.py%5D(.%2Fexperiment.py)%2C%20next%20to%20their%20constants.%0A%0A%20%20%20%20Throughout%2C%20%22the%20primary%22%20is%20%60%7BPRIMARY%7D%60%20(fixed%20in%20advance%2C%20marked%20in%20the%0A%20%20%20%20*Conditions*%20table).%20The%20%CF%84%20%3D%200.5%20and%202.5%20arms%20are%20reported%20beside%20it%20but%0A%20%20%20%20not%20gated.%20If%20the%20primary%20turns%20out%20task-dirty%2C%20H2%E2%80%93H4%20go%20unscored%20and%20the%0A%20%20%20%20refuted%20H1%20is%20the%20finding.%0A%0A%20%20%20%20**H1%3A%20Task%20cost.**%20Every%20condition%20is%20task-clean%3A%20%60named_holdout%60%20exact%0A%20%20%20%20match%20within%20%7BTASK%7D%20(absolute)%20of%20the%20seed%20mean%20of%20the%20in-experiment%0A%20%20%20%20control.%20No%20partial%20credit%3B%20nothing%20in%20this%20design%20adds%20task%20pressure%2C%0A%20%20%20%20and%20no%20anchored%20condition%20on%20this%20testbed%20has%20ever%20shown%20any.%0A%0A%20%20%20%20**H2%3A%20The%20pull%20selects%20the%20labelled%20operand.**%20On%20the%20primary's%20per-group%0A%20%20%20%20weight%20profiles%3A%0A%20%20%20%20**(a)**%20at%20the%20embedding%20slice%2C%20each%20group's%20leading%20role%20is%20its%20own%0A%20%20%20%20operand%20(op1%20for%20G1%2C%20op2%20for%20G2)%20with%20weight%20%24%5Cge%20%7BLEAD%7D%24%20in%20both%0A%20%20%20%20(uniform%20is%200.25)%3B%0A%20%20%20%20**(b)**%20across%20the%20four%20post-attention%20slices%2C%20the%20between-group%20contrast%20in%0A%20%20%20%20op2%20weight%2C%20%24%5Cmathrm%7Bmean%7D_%5Cell%5C%2C%5B%5Cbar%5Cpi_%7BG2%7D(%5Cell%2C%20%5Ctext%7Bop2%7D)%20-%0A%20%20%20%20%5Cbar%5Cpi_%7BG1%7D(%5Cell%2C%20%5Ctext%7Bop2%7D)%5D%24%2C%20is%20%24%5Cge%20%7BCONTRAST%7D%24.%0A%20%20%20%20Partial%3A%20(a)%20holds%20and%20(b)%20lands%20in%20%24%5B%7BCONTRASTP%7D%2C%20%7BCONTRAST%7D)%24.%0A%20%20%20%20(a)%20is%20close%20to%20forced%20by%20the%20shared%20embeddings%20*if*%20the%20pull%20aligns%20red%0A%20%20%20%20tokens%20at%20all%2C%20so%20on%20its%20own%20it%20mostly%20rules%20out%20the%20syntax%20latch.%20(b)%20is%0A%20%20%20%20the%20real%20question%3A%20ex-2.1.9's%20deep-slice%20winner-take-all%20was%20per%20*run*%2C%0A%20%20%20%20and%20(b)%20asks%20whether%20the%20winner%20can%20vary%20per%20line%20when%20the%20label%20demands%20it.%0A%20%20%20%20Contrary%20outcomes%3A%0A%20%20%20%20*global%20latch*%20%E2%80%94%20both%20groups%20lead%20at%20the%20same%20role%20(op1%2C%20or%20worse%2C%20%60%2B%60)%2C%20the%0A%20%20%20%20contrast%20sits%20near%200%2C%20and%20on%20op2-triggered%20lines%20the%20pull%20is%20dragging%0A%20%20%20%20non-red%20states%20onto%20the%20axis%2C%20which%20H3(a)%20should%20catch%20as%20%E1%BE%B1%20contamination%3B%0A%20%20%20%20*uniform*%20%E2%80%94%20the%20primary%20reaches%20%7BLEAD%7D%20in%20neither%20group%20at%20any%20slice%0A%20%20%20%20(%CF%84%20%3D%200.1%20is%20the%20sharpest%20rung%2C%20so%20if%20it%20can't%20concentrate%2C%20the%20softer%0A%20%20%20%20arms%20won't%20either)%2C%20meaning%20the%20pool%20can't%20tell%20the%20positions%20apart%20once%0A%20%20%20%20the%20label%20stops%20pointing.%0A%0A%20%20%20%20**H3%3A%20The%20operating%20point%20survives%20the%20wider%20labeller.**%20On%20the%20primary%3A%0A%20%20%20%20**(a)**%20containment%2C%20%24%5Cbar%5Calpha%20%5Cle%20%7BALPHA%7D%24%20at%20op1%20(also%20the%20contamination%0A%20%20%20%20detector%20for%20H2's%20global-latch%20outcome)%3B%0A%20%20%20%20**(b)**%20retention%2C%20every%20run%20whose%20running%20maximum%20of%20m_line%20reaches%0A%20%20%20%20%7BFLOOR%7D%20ending%20at%20%24%5Cge%20%7BRET%7D%5Ctimes%24%20that%20maximum%20(quoted%20as%20the%20minimum%0A%20%20%20%20across%20seeds)%3B%0A%20%20%20%20**(c)**%20grading%2C%20the%20primary's%20seed-mean%20op1%20response%20%24r%5E2%24%20against%0A%20%20%20%20%60sim%C2%B9%C2%B7%E2%81%B5%60%20no%20more%20than%20%7BDROP%7D%20below%20the%20%60op1-labels%60%20arm's%20(higher%20is%0A%20%20%20%20fine).%0A%20%20%20%20Partial%3A%20(a)%20and%20(b)%20hold%2C%20(c)%20misses.%0A%0A%20%20%20%20**H4%3A%20Selectivity%20holds%20without%20the%20pointer.**%20Control-subtracted%0A%20%20%20%20m_line%20of%20the%20primary%20reaches%20%24%5Cge%20%7BFRAC%7D%24%20of%20the%20control-subtracted%0A%20%20%20%20m_line%20of%20%60slot-oracle%60.%20Partial%3A%20%24%5B%7BFRACP%7D%2C%20%7BFRAC%7D)%24.%0A%20%20%20%20The%20latch%20account%20predicts%20roughly%20the%20op1-triggered%20share%20of%20the%20label%0A%20%20%20%20mass%20(~half)%20plus%20whatever%20the%20shared%20embeddings%20give%20away%2C%20so%20a%20pass%20has%0A%20%20%20%20to%20clear%20that%3B%20for%20scale%2C%20ex-2.1.9's%20pooled%20arms%20recovered%2091%E2%80%9398%25%20of%0A%20%20%20%20their%20oracle.%0A%0A%20%20%20%20Note%20that%20H4%20can%20pass%20while%20H2(b)%20fails%3A%20the%20shared%20embeddings%20can%20deliver%0A%20%20%20%20selectivity%20to%20labeled%20lines%20with%20no%20per-line%20localization%20at%20depth.%20That%0A%20%20%20%20would%20suggest%20selectivity%20from%20the%20lexicon%20rather%20than%20from%20localization.%0A%20%20%20%20%22%22%22.replace(%22%7BTASK%7D%22%2C%20f%22%7Bex.TASK_GATE%3Ag%7D%22)%0A%20%20%20%20%20%20%20%20.replace(%22%7BPRIMARY%7D%22%2C%20ex.PRIMARY)%0A%20%20%20%20%20%20%20%20.replace(%22%7BLEAD%7D%22%2C%20f%22%7Bex.LEAD_GATE%3Ag%7D%22)%0A%20%20%20%20%20%20%20%20.replace(%22%7BCONTRASTP%7D%22%2C%20f%22%7Bex.CONTRAST_PARTIAL%3Ag%7D%22)%0A%20%20%20%20%20%20%20%20.replace(%22%7BCONTRAST%7D%22%2C%20f%22%7Bex.CONTRAST_GATE%3Ag%7D%22)%0A%20%20%20%20%20%20%20%20.replace(%22%7BALPHA%7D%22%2C%20f%22%7Bex.MEAN_ALIGN_GATE%3Ag%7D%22)%0A%20%20%20%20%20%20%20%20.replace(%22%7BFLOOR%7D%22%2C%20f%22%7Bex.RETENTION_FLOOR%3Ag%7D%22)%0A%20%20%20%20%20%20%20%20.replace(%22%7BRET%7D%22%2C%20f%22%7Bex.RETENTION_GATE%3Ag%7D%22)%0A%20%20%20%20%20%20%20%20.replace(%22%7BDROP%7D%22%2C%20f%22%7Bex.GRADE_R2_DROP%3Ag%7D%22)%0A%20%20%20%20%20%20%20%20.replace(%22%7BFRAC%7D%22%2C%20f%22%7Bex.ORACLE_FRAC_GATE%3Ag%7D%22)%0A%20%20%20%20%20%20%20%20.replace(%22%7BFRACP%7D%22%2C%20f%22%7Bex.ORACLE_FRAC_PARTIAL%3Ag%7D%22)%0A%20%20%20%20)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20_res%20%3D%20load_results()%0A%20%20%20%20mo.stop(_res%20is%20None%2C%20mo.md(%22_Results%20are%20not%20published%20yet%3B%20the%20analysis%20cells%20below%20render%20once%20they%20are._%22))%0A%20%20%20%20assert%20_res%20is%20not%20None%0A%20%20%20%20metrics%2C%20arrays%20%3D%20_res%0A%20%20%20%20cells%20%3D%20%7Bc%5B%22label%22%5D%3A%20c%20for%20c%20in%20metrics%5B%22cells%22%5D%7D%0A%0A%20%20%20%20CONDS%3A%20list%5Bstr%5D%20%3D%20%5Bc%5B%22name%22%5D%20for%20c%20in%20ex.CONDITIONS%5D%0A%20%20%20%20ANCHORED%20%3D%20%5Bc%20for%20c%20in%20CONDS%20if%20c%20!%3D%20%22lam0%22%5D%0A%20%20%20%20N_SEEDS%20%3D%20%7Bc%5B%22name%22%5D%3A%20int(c%5B%22seeds%22%5D)%20for%20c%20in%20ex.CONDITIONS%7D%0A%0A%20%20%20%20def%20over_seeds(cond%3A%20str%2C%20fn)%20-%3E%20np.ndarray%3A%0A%20%20%20%20%20%20%20%20%22%22%22One%20value%20per%20run%20of%20a%20condition%2C%20in%20seed%20order%20(nine%20on%20the%20primary).%22%22%22%0A%20%20%20%20%20%20%20%20return%20np.array(%5Bfn(cells%5Bf%22%7Bcond%7D-s%7Bs%7D%22%5D)%20for%20s%20in%20range(N_SEEDS%5Bcond%5D)%5D)%0A%0A%20%20%20%20def%20acc(cond%3A%20str%2C%20set_name%3A%20str%20%3D%20%22named_holdout%22%2C%20key%3A%20str%20%3D%20%22accuracy%22)%20-%3E%20np.ndarray%3A%0A%20%20%20%20%20%20%20%20return%20over_seeds(cond%2C%20lambda%20c%3A%20c%5B%22sets%22%5D%5Bset_name%5D%5Bkey%5D)%0A%0A%20%20%20%20def%20alpha_map(cond%3A%20str)%20-%3E%20np.ndarray%3A%0A%20%20%20%20%20%20%20%20%22%22%22Seed-mean%20per-color%20alignment%20map%20for%20a%20condition%3A%20(slices%2C%20colors%2C%20roles).%22%22%22%0A%20%20%20%20%20%20%20%20return%20np.mean(%5Barrays%5Bf%22%7Bcond%7D-s%7Bs%7D%2Falpha%22%5D%20for%20s%20in%20range(N_SEEDS%5Bcond%5D)%5D%2C%20axis%3D0)%0A%0A%20%20%20%20def%20m_line(cond%3A%20str)%20-%3E%20np.ndarray%3A%0A%20%20%20%20%20%20%20%20%22%22%22Per-run%20m_line%20%E2%80%94%20the%20selectivity%20H4%20scores.%22%22%22%0A%20%20%20%20%20%20%20%20return%20over_seeds(cond%2C%20lambda%20c%3A%20c%5B%22m_line%22%5D)%0A%0A%20%20%20%20def%20m_span(cond%3A%20str)%20-%3E%20np.ndarray%3A%0A%20%20%20%20%20%20%20%20return%20over_seeds(cond%2C%20lambda%20c%3A%20c%5B%22m_span%22%5D)%0A%0A%20%20%20%20def%20a_span(cond%3A%20str)%20-%3E%20np.ndarray%3A%0A%20%20%20%20%20%20%20%20return%20over_seeds(cond%2C%20lambda%20c%3A%20c%5B%22alpha_span%22%5D)%0A%0A%20%20%20%20def%20m_op1(cond%3A%20str)%20-%3E%20np.ndarray%3A%0A%20%20%20%20%20%20%20%20return%20over_seeds(cond%2C%20lambda%20c%3A%20c%5B%22m_op1%22%5D)%0A%0A%20%20%20%20def%20a_op1(cond%3A%20str)%20-%3E%20np.ndarray%3A%0A%20%20%20%20%20%20%20%20%22%22%22Per-run%20%E1%BE%B1%20at%20op1%20%E2%80%94%20the%20containment%20statistic%20H3(a)%20reads.%22%22%22%0A%20%20%20%20%20%20%20%20return%20over_seeds(cond%2C%20lambda%20c%3A%20c%5B%22alpha_mean_op1%22%5D)%0A%0A%20%20%20%20def%20traj(cond%3A%20str%2C%20seed%3A%20int%2C%20key%3A%20str)%20-%3E%20np.ndarray%3A%0A%20%20%20%20%20%20%20%20return%20np.asarray(cells%5Bf%22%7Bcond%7D-s%7Bseed%7D%22%5D%5B%22traj%22%5D%5Bkey%5D%2C%20dtype%3Dfloat)%0A%0A%20%20%20%20return%20(%0A%20%20%20%20%20%20%20%20ANCHORED%2C%0A%20%20%20%20%20%20%20%20CONDS%2C%0A%20%20%20%20%20%20%20%20N_SEEDS%2C%0A%20%20%20%20%20%20%20%20a_op1%2C%0A%20%20%20%20%20%20%20%20a_span%2C%0A%20%20%20%20%20%20%20%20acc%2C%0A%20%20%20%20%20%20%20%20alpha_map%2C%0A%20%20%20%20%20%20%20%20arrays%2C%0A%20%20%20%20%20%20%20%20m_line%2C%0A%20%20%20%20%20%20%20%20m_op1%2C%0A%20%20%20%20%20%20%20%20m_span%2C%0A%20%20%20%20%20%20%20%20metrics%2C%0A%20%20%20%20%20%20%20%20traj%2C%0A%20%20%20%20)%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(N_SEEDS%2C%20alpha_map%2C%20arrays%2C%20metrics%2C%20traj)%3A%0A%20%20%20%20%23%20The%20probe%20lines'%20operand%20rednesses%2C%20recomputed%20from%20the%20palette%20by%20the%20same%0A%20%20%20%20%23%20loop%20the%20prep%20step%20runs%20%E2%80%94%20what%20the%20group%20weighting%20and%20m_line%20key%20on.%0A%20%20%20%20from%20sca.colorcube%20import%20redness%20as%20_redness%0A%20%20%20%20from%20sca.data%20import%20named_colors%20as%20_nc%0A%20%20%20%20from%20sca.data.colors%20import%20N_LEVELS%20as%20_NL%2C%20mix%20as%20_mix%0A%0A%20%20%20%20_levels%20%3D%20_nc.GRIDS%5Bex.GRID%5D%0A%20%20%20%20_palette%20%3D%20_nc.grid_palette(_levels)%0A%20%20%20%20_colors%20%3D%20list(_palette.values())%0A%20%20%20%20_on_grid%20%3D%20set(_levels)%0A%20%20%20%20_pairs%20%3D%20%5B(c%2C%20b)%20for%20c%20in%20_colors%20for%20b%20in%20_colors%20if%20all(v%20in%20_on_grid%20for%20v%20in%20_mix(c%2C%20b))%5D%0A%20%20%20%20R1%20%3D%20_redness(np.asarray(%5Bp%5B0%5D%20for%20p%20in%20_pairs%5D%2C%20dtype%3Dfloat)%20%2F%20(_NL%20-%201))%0A%20%20%20%20R2%20%3D%20_redness(np.asarray(%5Bp%5B1%5D%20for%20p%20in%20_pairs%5D%2C%20dtype%3Dfloat)%20%2F%20(_NL%20-%201))%0A%20%20%20%20G1W%2C%20G2W%20%3D%20ex.group_weights(R1%2C%20R2)%0A%0A%20%20%20%20def%20pi_group(cond%3A%20str%2C%20seed%3A%20int)%20-%3E%20np.ndarray%3A%0A%20%20%20%20%20%20%20%20%22%22%22One%20run's%20per-group%20weight%20profiles%20%CF%80%CC%84_G(l%2C%20t)%3A%20(group%2C%20slices%2C%20span%20roles).%22%22%22%0A%20%20%20%20%20%20%20%20w%20%3D%20arrays%5Bf%22%7Bcond%7D-s%7Bseed%7D%2Fw_line%22%5D%0A%20%20%20%20%20%20%20%20return%20np.stack(%5Bnp.einsum(%22n%2Clnt-%3Elt%22%2C%20G1W%2C%20w)%2C%20np.einsum(%22n%2Clnt-%3Elt%22%2C%20G2W%2C%20w)%5D)%0A%0A%20%20%20%20def%20pi_group_mean(cond%3A%20str)%20-%3E%20np.ndarray%3A%0A%20%20%20%20%20%20%20%20return%20np.mean(%5Bpi_group(cond%2C%20s)%20for%20s%20in%20range(N_SEEDS%5Bcond%5D)%5D%2C%20axis%3D0)%0A%0A%20%20%20%20def%20contrast(cond%3A%20str)%20-%3E%20np.ndarray%3A%0A%20%20%20%20%20%20%20%20%22%22%22Per-run%20H2(b)%20statistic%3A%20the%20between-group%20op2%20contrast%20over%20the%20four%0A%20%20%20%20%20%20%20%20post-attention%20slices%2C%20mean%20over%20slices%20of%20%CF%80%CC%84_G2(l%2C%20op2)%20%E2%88%92%20%CF%80%CC%84_G1(l%2C%20op2).%0A%20%20%20%20%20%20%20%20%22%22%22%0A%20%20%20%20%20%20%20%20pgs%20%3D%20%5Bpi_group(cond%2C%20s)%20for%20s%20in%20range(N_SEEDS%5Bcond%5D)%5D%0A%20%20%20%20%20%20%20%20return%20np.array(%5Bfloat((pg%5B1%2C%201%3A%2C%202%5D%20-%20pg%5B0%2C%201%3A%2C%202%5D).mean())%20for%20pg%20in%20pgs%5D)%0A%0A%20%20%20%20READ%3A%20np.ndarray%20%3D%20np.mean(%0A%20%20%20%20%20%20%20%20%5Bnp.asarray(metrics%5B%22readability%22%5D%5Bf%22lam0-s%7Bs%7D%22%5D%2C%20dtype%3Dfloat)%20for%20s%20in%20range(N_SEEDS%5B%22lam0%22%5D)%5D%2C%20axis%3D0%0A%20%20%20%20)%0A%20%20%20%20%23%20The%20control's%20readability%20profile%20R%C2%B2(l%2C%20t)%20for%20op1's%20redness%2C%20mean%20over%20the%0A%20%20%20%20%23%20three%20un-anchored%20seeds%20%E2%80%94%20the%20dashed%20reference%20behind%20the%20G1%20profiles.%0A%0A%20%20%20%20def%20grading_r2(cond%3A%20str)%20-%3E%20float%3A%0A%20%20%20%20%20%20%20%20%22%22%22r%C2%B2%20of%20the%20seed-mean%20per-color%20op1%20response%20against%20sim%C2%B9%C2%B7%E2%81%B5%20%E2%80%94%20H3(c)'s%20statistic.%22%22%22%0A%20%20%20%20%20%20%20%20return%20ex.r2_sim(alpha_map(cond)%5B%3A%2C%20%3A%2C%200%5D.mean(axis%3D0))%0A%0A%20%20%20%20def%20retention(cond%3A%20str)%20-%3E%20float%20%7C%20None%3A%0A%20%20%20%20%20%20%20%20%22%22%22Lowest%20final-over-peak%20m_line%20across%20the%20runs%20that%20reached%20the%20floor.%0A%0A%20%20%20%20%20%20%20%20The%20minimum%2C%20per%20%60ex.RETENTION_STAT%60%3B%20None%20when%20no%20run%20reached%20the%0A%20%20%20%20%20%20%20%20floor%20(the%20control)%2C%20leaving%20the%20criterion%20vacuous%20rather%20than%20failed.%0A%20%20%20%20%20%20%20%20%22%22%22%0A%20%20%20%20%20%20%20%20r%20%3D%20%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20t%5B-1%5D%20%2F%20t.max()%20for%20s%20in%20range(N_SEEDS%5Bcond%5D)%20if%20(t%20%3A%3D%20traj(cond%2C%20s%2C%20%22m_line%22)).max()%20%3E%3D%20ex.RETENTION_FLOOR%0A%20%20%20%20%20%20%20%20%5D%0A%20%20%20%20%20%20%20%20return%20min(r)%20if%20r%20else%20None%0A%0A%20%20%20%20return%20(%0A%20%20%20%20%20%20%20%20R1%2C%0A%20%20%20%20%20%20%20%20R2%2C%0A%20%20%20%20%20%20%20%20READ%2C%0A%20%20%20%20%20%20%20%20contrast%2C%0A%20%20%20%20%20%20%20%20grading_r2%2C%0A%20%20%20%20%20%20%20%20pi_group%2C%0A%20%20%20%20%20%20%20%20pi_group_mean%2C%0A%20%20%20%20%20%20%20%20retention%2C%0A%20%20%20%20)%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Task%20cost%20(H1)%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(CONDS%3A%20list%5Bstr%5D%2C%20acc)%3A%0A%20%20%20%20_CTRL%20%3D%20float(acc(%22lam0%22).mean())%0A%0A%20%20%20%20def%20_cell(cond%3A%20str%2C%20set_name%3A%20str%2C%20key%3A%20str%2C%20fmt%3A%20str%20%3D%20%22%7B%3A.3f%7D%22)%20-%3E%20str%3A%0A%20%20%20%20%20%20%20%20v%20%3D%20acc(cond%2C%20set_name%2C%20key)%0A%20%20%20%20%20%20%20%20return%20f%22%7Bfmt.format(v.mean())%7D%20%3Cspan%20class%3D'range'%3E%C2%B1%7B(v.max()%20-%20v.min())%20%2F%202%3A.3f%7D%3C%2Fspan%3E%22%0A%0A%20%20%20%20_rows%20%3D%20%22%22.join(%0A%20%20%20%20%20%20%20%20f%22%3Ctr%3E%3Cth%3E%3Ccode%3E%7Bc%7D%3C%2Fcode%3E%3C%2Fth%3E%22%0A%20%20%20%20%20%20%20%20f%22%3Ctd%20class%3D'num'%3E%7B_cell(c%2C%20'named_seen'%2C%20'accuracy')%7D%3C%2Ftd%3E%22%0A%20%20%20%20%20%20%20%20f%22%3Ctd%20class%3D'num'%3E%7B_cell(c%2C%20'named_holdout'%2C%20'accuracy')%7D%3C%2Ftd%3E%22%0A%20%20%20%20%20%20%20%20f%22%3Ctd%20class%3D'num'%3E%7B_cell(c%2C%20'named_holdout'%2C%20'nll')%7D%3C%2Ftd%3E%22%0A%20%20%20%20%20%20%20%20f%22%3Ctd%20class%3D'num'%3E%7B_cell(c%2C%20'open'%2C%20'guess_dist')%7D%3C%2Ftd%3E%22%0A%20%20%20%20%20%20%20%20f%22%3Ctd%20class%3D'num'%3E%7Bacc(c).mean()%20-%20_CTRL%3A%2B.4f%7D%3C%2Ftd%3E%22%0A%20%20%20%20%20%20%20%20f%22%3Ctd%3E%7B'clean'%20if%20abs(acc(c).mean()%20-%20_CTRL)%20%3C%3D%20ex.TASK_GATE%20else%20'not%20clean'%7D%3C%2Ftd%3E%3C%2Ftr%3E%22%0A%20%20%20%20%20%20%20%20for%20c%20in%20CONDS%0A%20%20%20%20)%0A%20%20%20%20_table%20%3D%20f%22%22%22%0A%20%20%20%20%3Cdiv%20class%3D%22report-table-scroll%22%3E%3Ctable%20class%3D%22report-table%22%3E%0A%20%20%20%20%20%20%3Cthead%3E%3Ctr%3E%0A%20%20%20%20%20%20%20%20%3Cth%3Econdition%3C%2Fth%3E%3Cth%20class%3D%22num%22%3Eseen%20EM%20%E2%86%91%3C%2Fth%3E%3Cth%20class%3D%22num%22%3Eholdout%20EM%20%E2%86%91%3C%2Fth%3E%0A%20%20%20%20%20%20%20%20%3Cth%20class%3D%22num%22%3Eholdout%20NLL%20%E2%86%93%3C%2Fth%3E%3Cth%20class%3D%22num%22%3E%3Ccode%3Eopen%3C%2Fcode%3E%20dist%20%E2%86%93%3C%2Fth%3E%0A%20%20%20%20%20%20%20%20%3Cth%20class%3D%22num%22%3E%CE%94%20holdout%20EM%3C%2Fth%3E%3Cth%3EH1%20gate%3C%2Fth%3E%0A%20%20%20%20%20%20%3C%2Ftr%3E%3C%2Fthead%3E%0A%20%20%20%20%20%20%3Ctbody%3E%7B_rows%7D%3C%2Ftbody%3E%0A%20%20%20%20%3C%2Ftable%3E%3C%2Fdiv%3E%0A%20%20%20%20%22%22%22%0A%20%20%20%20_caption%20%3D%20f%22%22%22%0A%20%20%20%20Behavior%20by%20condition.%20Each%20value%20is%20the%20seed%20mean%2C%20with%20half%20the%20seed%20range%20beside%20it.%20EM%20is%20exact%20match%20on%20the%20answer%20token%2C%20NLL%20its%20surprise%20in%20nats%2C%20and%20%3Ccode%3Eopen%3C%2Fcode%3E%20dist%20the%20RGB%20distance%20from%20the%20guessed%20color%20to%20the%20true%20mix%20on%20pairs%20with%20no%20named%20answer.%20%CE%94%20holdout%20EM%20is%20the%20signed%20gap%20to%20the%20in-experiment%20control%2C%20which%20the%20H1%20gate%20scores%20at%20%7Bex.TASK_GATE%3Ag%7D.%0A%20%20%20%20%22%22%22%0A%20%20%20%20mo.Html(figure_html(_table%2C%20caption%3D_caption%2C%20class_%3D%22report-figure%22))%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(CONDS%3A%20list%5Bstr%5D%2C%20acc)%3A%0A%20%20%20%20_ctrl%20%3D%20float(acc(%22lam0%22).mean())%0A%20%20%20%20_worst%20%3D%20max((c%20for%20c%20in%20CONDS%20if%20c%20!%3D%20%22lam0%22)%2C%20key%3Dlambda%20c%3A%20abs(acc(c).mean()%20-%20_ctrl))%0A%20%20%20%20mo.md(rf%22%22%22%0A%20%20%20%20**H1%20holds.**%20The%20largest%20gap%20from%20the%20control%20is%20%7Babs(acc(_worst).mean()%20-%20_ctrl)%3A.4f%7D%2C%20at%20%60%7B_worst%7D%60%2C%20against%20a%20gate%20of%20%7Bex.TASK_GATE%3Ag%7D%2C%20so%20H2%E2%80%93H4%20are%20all%20scored.%20Labels%20that%20no%20longer%20say%20which%20operand%20drew%20change%20nothing%20the%20task%20loss%20can%20see%2C%20as%20with%20every%20anchored%20condition%20on%20this%20testbed%20so%20far.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Where%20the%20weight%20went%2C%20by%20label%20group%20(H2)%0A%0A%20%20%20%20The%20%60op1-labels%60%20arm%20re-runs%20%60pool-t100%60%20from%20ex-2.1.9%20verbatim%20(same%20labels%2C%20same%20seeds%2C%20same%20draws)%20through%20the%20widened%20sampler%2C%20so%20any%20drift%20from%20the%20new%20labelling%20code%20path%20is%20visible%20before%20we%20read%20an%20either-slot%20condition.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(a_op1%2C%20a_span%2C%20m_op1%2C%20m_span)%3A%0A%20%20%20%20_stats%20%3D%20%7B%22m_span%22%3A%20m_span%2C%20%22alpha_span%22%3A%20a_span%2C%20%22m_op1%22%3A%20m_op1%2C%20%22alpha_op1%22%3A%20a_op1%7D%0A%20%20%20%20_names%20%3D%20%7B%22m_span%22%3A%20%22m%3Csub%3Espan%3C%2Fsub%3E%22%2C%20%22alpha_span%22%3A%20%22%E1%BE%B1%3Csub%3Espan%3C%2Fsub%3E%22%2C%20%22m_op1%22%3A%20%22m%3Csub%3Eop1%3C%2Fsub%3E%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22alpha_op1%22%3A%20%22%E1%BE%B1%20(op1)%22%7D%20%20%23%20fmt%3A%20skip%0A%0A%20%20%20%20def%20_row(cond%3A%20str%2C%20ref_key%3A%20str)%20-%3E%20str%3A%0A%20%20%20%20%20%20%20%20ref%20%3D%20ex.EX219_REFERENCE%5Bref_key%5D%0A%20%20%20%20%20%20%20%20tds%20%3D%20%22%22%0A%20%20%20%20%20%20%20%20for%20k%2C%20fn%20in%20_stats.items()%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20v%20%3D%20fn(cond)%0A%20%20%20%20%20%20%20%20%20%20%20%20tds%20%2B%3D%20(%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20f%22%3Ctd%20class%3D'num'%3E%7Bv.mean()%3A.3f%7D%20%3Cspan%20class%3D'range'%3E%C2%B1%7Bv.std(ddof%3D1)%3A.3f%7D%3C%2Fspan%3E%3C%2Ftd%3E%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20f%22%3Ctd%20class%3D'num'%3E%7Bref%5Bk%5D%3A.3f%7D%3C%2Ftd%3E%3Ctd%20class%3D'num'%3E%7Bv.mean()%20-%20ref%5Bk%5D%3A%2B.3f%7D%3C%2Ftd%3E%22%0A%20%20%20%20%20%20%20%20%20%20%20%20)%0A%20%20%20%20%20%20%20%20return%20f%22%3Ctr%3E%3Cth%3E%3Ccode%3E%7Bcond%7D%3C%2Fcode%3E%3C%2Fth%3E%7Btds%7D%3C%2Ftr%3E%22%0A%0A%20%20%20%20_head%20%3D%20%22%22.join(%0A%20%20%20%20%20%20%20%20f%22%3Cth%20class%3D'num'%3E%7B_names%5Bk%5D%7D%3C%2Fth%3E%3Cth%20class%3D'num'%3Eex-2.1.9%3C%2Fth%3E%3Cth%20class%3D'num'%3E%CE%94%3C%2Fth%3E%22%20for%20k%20in%20_stats%0A%20%20%20%20)%0A%20%20%20%20_table%20%3D%20f%22%22%22%0A%20%20%20%20%3Cdiv%20class%3D%22report-table-scroll%22%3E%3Ctable%20class%3D%22report-table%22%3E%0A%20%20%20%20%20%20%3Cthead%3E%3Ctr%3E%3Cth%3Econdition%3C%2Fth%3E%7B_head%7D%3C%2Ftr%3E%3C%2Fthead%3E%0A%20%20%20%20%20%20%3Ctbody%3E%7B_row(%22op1-labels%22%2C%20%22pool-t100%22)%7D%7B_row(%22lam0%22%2C%20%22lam0%22)%7D%3C%2Ftbody%3E%0A%20%20%20%20%3C%2Ftable%3E%3C%2Fdiv%3E%0A%20%20%20%20%22%22%22%0A%20%20%20%20_caption%20%3D%20%22%22%22%0A%20%20%20%20The%20reproduction%20check.%20Each%20statistic%20is%20this%20experiment's%20seed%20mean%20(%C2%B1%20seed%20standard%20deviation)%20beside%20the%20same%20statistic%20recomputed%20from%20ex-2.1.9's%20published%20arrays%20under%20the%20same%20per-run%20convention%2C%20and%20the%20difference.%20%3Ccode%3Eop1-labels%3C%2Fcode%3E%20re-runs%20%3Ccode%3Epool-t100%3C%2Fcode%3E%20through%20the%20widened%20labelling%20code%3B%20%3Ccode%3Elam0%3C%2Fcode%3E%20runs%20the%20either-slot%20labeller%2C%20so%20it%20is%20a%20new%20draw%20of%20the%20control%20rather%20than%20a%20re-run.%0A%20%20%20%20%22%22%22%0A%20%20%20%20mo.Html(figure_html(_table%2C%20caption%3D_caption%2C%20class_%3D%22report-figure%22))%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(pi_group_mean)%3A%0A%20%20%20%20_lead_emb%20%3D%20pi_group_mean(%22op1-labels%22)%5B0%2C%200%2C%200%5D%0A%20%20%20%20mo.md(rf%22%22%22%0A%20%20%20%20The%20reproduction%20is%20as%20close%20as%20the%20rounding%20in%20the%20store%20allows%3A%20every%20carried%20statistic%20lands%20within%20%C2%B10.001%20of%20its%20target%2C%20and%20the%20embedding%20lead%20weight%20(%7B_lead_emb%3A.2f%7D)%20matches%20the%20%7Bex.EX219_REFERENCE%5B%22pool-t100%22%5D%5B%22lead_emb%22%5D%3Ag%7D%20of%20ex-2.1.9.%20The%20op1-keyed%20draw%20consumes%20the%20rng%20as%20the%20old%20sampler%20did%2C%20so%20this%20is%20the%20same%20training%20trajectory%20replayed%2C%20and%20the%20either-slot%20conditions%20can%20be%20read%20against%20%60op1-labels%60%20as%20a%20like-for-like%20baseline.%0A%0A%20%20%20%20The%20gaps%20in%20the%20control%20are%20the%20size%20of%20the%20seed%20spread%2C%20a%20reminder%20that%20it%20consumes%20*different*%20draws%20(two%20per%20line%20from%20the%20either-slot%20labeller)%2C%20so%20that%20comparison%20carries%20corpus-draw%20noise%2C%20as%20the%20method%20warned.%0A%0A%20%20%20%20Both%20groups%20weight%20the%20same%205832%20probe%20lines%20by%20the%20one-slot-only%20probabilities%20of%20the%20labeller%20itself%2C%20G1%20by%20P(only%20op1%20drew)%20and%20G2%20by%20P(only%20op2%20drew).%20The%20profiles%20below%20are%20the%20group-weighted%20mean%20softmin%20weights%2C%20per%20slice%20and%20role.%20Under%20a%20global%20winner%20the%20two%20columns%20of%20each%20pair%20would%20be%20identical%3B%20under%20per-line%20localization%20they%20mirror%20each%20other.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(N_SEEDS%2C%20READ%3A%20np.ndarray%2C%20contrast%2C%20pi_group%2C%20pi_group_mean)%3A%0A%20%20%20%20_x%20%3D%20np.arange(ex.SPAN)%0A%20%20%20%20_INK%20%3D%20%7B%0A%20%20%20%20%20%20%20%20%22either-t100%22%3A%20light_dark(%22%231f6fb4%22%2C%20%22%235fa8dd%22)%2C%0A%20%20%20%20%20%20%20%20%22either-t500%22%3A%20light_dark(%22%237fb3d8%22%2C%20%22%234f7ea6%22)%2C%0A%20%20%20%20%20%20%20%20%22either-t2500%22%3A%20light_dark(%22%239ab5c8%22%2C%20%22%2341586b%22)%2C%0A%20%20%20%20%7D%0A%20%20%20%20_ALT%20%3D%20%7B%0A%20%20%20%20%20%20%20%20%22either-t100%22%3A%20%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20Ten%20small%20panels%20in%20two%20columns%20labeled%20G1%2C%20op1%20drew%2C%20and%20G2%2C%20op2%20drew%3A%20five%20residual%20slices%20per%20column%20with%20the%20embedding%20at%20the%20bottom%2C%20each%20spanning%20the%20roles%20op1%2C%20plus%2C%20op2%20and%20equals.%20In%20the%20G1%20column%20every%20slice%20shows%20a%20tall%20block%20at%20op1%20%E2%80%94%200.77%20at%20the%20embedding%2C%20near%200.9%20at%20depth%20%E2%80%94%20with%20a%20small%20step%20at%20equals%20in%20the%20embedding%20row%20only.%20The%20G2%20column%20is%20the%20mirror%20image%3A%20the%20block%20sits%20at%20op2%20at%20every%20slice%2C%200.77%20at%20the%20embedding%20rising%20to%200.95%20at%20depth.%20Nine%20per-seed%20hairlines%20hug%20the%20mean%20everywhere.%20A%20dashed%20readability%20line%20in%20the%20G1%20column%20is%20high%20at%20op1%20on%20every%20slice%3B%20at%20the%20embedding%20it%20falls%20to%20near%20zero%20at%20the%20other%20three%20roles%2C%20while%20at%20depth%20it%20dips%20at%20plus%20and%20rises%20again%20at%20equals.%0A%20%20%20%20%20%20%20%20%22%22%22%2C%0A%20%20%20%20%20%20%20%20%22either-t500%22%3A%20%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20The%20same%20ten-panel%20layout%20for%20tau%200.5.%20Both%20columns%20are%20nearly%20flat%20around%200.25%20at%20the%20embedding%20with%20a%20slight%20op1%20tilt%20in%20G1%20and%20op2%20tilt%20in%20G2%3B%20at%20depth%20the%20G2%20column's%20op2%20weight%20grows%20to%20about%200.44%20while%20the%20G1%20column%20stays%20diffuse.%20Hairlines%20stay%20close%20to%20the%20mean.%0A%20%20%20%20%20%20%20%20%22%22%22%2C%0A%20%20%20%20%20%20%20%20%22either-t2500%22%3A%20%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20The%20same%20ten-panel%20layout%20for%20tau%202.5.%20Every%20panel%20in%20both%20columns%20is%20flat%20at%20about%200.25%20with%20tilts%20of%20a%20few%20hundredths%2C%20the%20span%20mean%20in%20all%20but%20name.%0A%20%20%20%20%20%20%20%20%22%22%22%2C%0A%20%20%20%20%7D%0A%0A%20%20%20%20def%20_profile_fig(cond%3A%20str%2C%20title%3A%20str)%20-%3E%20str%3A%0A%20%20%20%20%20%20%20%20_pg%20%3D%20pi_group_mean(cond)%20%20%23%20(group%2C%20slices%2C%20roles)%0A%20%20%20%20%20%20%20%20_seeds%20%3D%20%5Bpi_group(cond%2C%20s)%20for%20s%20in%20range(N_SEEDS%5Bcond%5D)%5D%0A%20%20%20%20%20%20%20%20_con%20%3D%20contrast(cond)%0A%0A%20%20%20%20%20%20%20%20%40themed(%0A%20%20%20%20%20%20%20%20%20%20%20%20name%3Df%22group-profiles-%7Bcond%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20alt_text%3D_ALT%5Bcond%5D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20caption%3Drf%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20**%7Btitle%7D**%20%E2%80%94%20%CF%84%20%3D%20%7Bdict(zip(ex.EITHER_NAMES%2C%20ex.TAUS%2C%20strict%3DTrue))%5Bcond%5D%3Ag%7D%3B%20deep-slice%20op2%20contrast%20%7B_con.mean()%3A%2B.2f%7D%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cspan%20class%3D'range'%3E%C2%B1%7B_con.std(ddof%3D1)%3A.2f%7D%3C%2Fspan%3E.%0A%20%20%20%20%20%20%20%20%20%20%20%20%22%22%22%2C%0A%20%20%20%20%20%20%20%20)%0A%20%20%20%20%20%20%20%20def%20_plot()%20-%3E%20plt.Figure%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20from%20matplotlib.layout_engine%20import%20ConstrainedLayoutEngine%0A%0A%20%20%20%20%20%20%20%20%20%20%20%20ink%20%3D%20_INK%5Bcond%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20_grey%20%3D%20light_dark(%22%23666%22%2C%20%22%23999%22)%0A%20%20%20%20%20%20%20%20%20%20%20%20_read_ink%20%3D%20light_dark(%22%23555%22%2C%20%22%23aaa%22)%0A%20%20%20%20%20%20%20%20%20%20%20%20_hair%20%3D%20light_dark(%22%2300000055%22%2C%20%22%23ffffff55%22)%0A%20%20%20%20%20%20%20%20%20%20%20%20_gate%20%3D%20light_dark(%22%23555%22%2C%20%22%23bbb%22)%0A%20%20%20%20%20%20%20%20%20%20%20%20fig%2C%20axes%20%3D%20plt.subplots(5%2C%202%2C%20figsize%3D(3.1%2C%203.9)%2C%20sharex%3DTrue%2C%20sharey%3DTrue)%0A%20%20%20%20%20%20%20%20%20%20%20%20_engine%20%3D%20fig.get_layout_engine()%0A%20%20%20%20%20%20%20%20%20%20%20%20assert%20isinstance(_engine%2C%20ConstrainedLayoutEngine)%0A%20%20%20%20%20%20%20%20%20%20%20%20_engine.set(hspace%3D0%2C%20h_pad%3D0.01%2C%20wspace%3D0.05)%0A%20%20%20%20%20%20%20%20%20%20%20%20for%20col%2C%20gname%20in%20enumerate((%22G1%3A%20op1%20drew%22%2C%20%22G2%3A%20op2%20drew%22))%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20for%20row%20in%20range(5)%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20sl%20%3D%204%20-%20row%20%20%23%20last%20slice%20on%20top%2C%20the%20embedding%20at%20the%20bottom%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ax%20%3D%20axes%5Brow%5D%5Bcol%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20smooth_step_area(ax%2C%20_x%2C%20_pg%5Bcol%2C%20sl%5D%2C%20ramp%3D0.5%2C%20color%3Dink%2C%20alpha%3Dlight_dark(0.22%2C%200.28))%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20smooth_step(ax%2C%20_x%2C%20_pg%5Bcol%2C%20sl%5D%2C%20ramp%3D0.5%2C%20color%3Dink%2C%20lw%3D1.5)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20for%20sp%20in%20_seeds%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20smooth_step(ax%2C%20_x%2C%20sp%5Bcol%2C%20sl%5D%2C%20ramp%3D0.5%2C%20color%3D_hair%2C%20lw%3D0.5)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20if%20col%20%3D%3D%200%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%23%20The%20stored%20readability%20profile%20reads%20op1's%20redness%2C%20so%20it%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%23%20belongs%20behind%20G1%20alone%3B%20G2's%20analogue%20was%20not%20measured.%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20smooth_step(ax%2C%20_x%2C%20READ%5Bsl%5D%2C%20ramp%3D0.5%2C%20color%3D_read_ink%2C%20lw%3D1.0%2C%20ls%3D(0%2C%20(4%2C%202)))%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ax.set(ylim%3D(-0.08%2C%201.08)%2C%20xlim%3D(-0.4%2C%20ex.SPAN%20-%200.6)%2C%20yticks%3D%5B0.0%2C%200.5%2C%201.0%5D)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ax.spines%5B%3A%5D.set_visible(False)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ax.grid(axis%3D%22y%22%2C%20which%3D%22major%22%2C%20c%3D%22%23888%22%2C%20alpha%3D0.2)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ax.tick_params(axis%3D%22x%22%2C%20length%3D0%2C%20labelbottom%3DFalse)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ax.tick_params(axis%3D%22y%22%2C%20left%3DTrue%2C%20right%3DTrue%2C%20direction%3D%22in%22%2C%20labelleft%3DFalse%2C%20labelright%3DFalse)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20if%20col%20%3D%3D%200%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ax.set_ylabel(%22emb%22%20if%20sl%20%3D%3D%200%20else%20f%22%7Bsl%7D%22%2C%20fontsize%3D7.5)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20axes%5B0%5D%5Bcol%5D.set_title(gname%2C%20fontsize%3D8.5%2C%20color%3Dink)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%23%20H2(a)%20reads%20exactly%20here%3A%20the%20group's%20own-operand%20weight%20at%20the%20embedding.%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20own%20%3D%200%20if%20col%20%3D%3D%200%20else%202%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%23%20REVIEW%3A%20round%201%20drew%20the%20gate%20carets%20at%20the%20operand%20positions%20in%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%23%20data%20coords%3B%20round%202%20found%20they%20read%20as%20pointing%20beside%20the%20role%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%23%20so%20they%20now%20sit%20on%20the%20outer%20y%20axis%20of%20each%20column%20(G1%20left%2C%20G2%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%23%20right)%2C%20marking%20the%20gate%20*level*%2C%20and%20the%20weight%20annotation%20is%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%23%20anchored%20clear%20of%20the%20spine%20so%20a%20tick%20cannot%20read%20as%20a%20minus%20sign.%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20_emb%20%3D%20axes%5B4%5D%5Bcol%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20_emb.plot(col%2C%20ex.LEAD_GATE%2C%20marker%3D9%20if%20col%20%3D%3D%200%20else%208%2C%20ms%3D3%2C%20color%3D_gate%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20clip_on%3DFalse%2C%20zorder%3D6%2C%20transform%3D_emb.get_yaxis_transform())%20%20%23%20fmt%3A%20skip%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20_val%20%3D%20float(_pg%5Bcol%2C%200%2C%20own%5D)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20_emb.annotate(f%22%7B_val%3A.2f%7D%22%2C%20(own%20%2B%200.35%20if%20col%20%3D%3D%200%20else%20own%2C%20min(_val%20%2B%200.14%2C%200.92))%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ha%3D%22left%22%20if%20col%20%3D%3D%200%20else%20%22center%22%2C%20fontsize%3D7%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20color%3Dlight_dark(%22%23444%22%2C%20%22%23bbb%22))%20%20%23%20fmt%3A%20skip%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20axes%5B4%5D%5Bcol%5D.set_xticks(_x%2C%20ex.ROLES)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20axes%5B4%5D%5Bcol%5D.tick_params(axis%3D%22x%22%2C%20labelbottom%3DTrue%2C%20labelsize%3D7.5)%0A%20%20%20%20%20%20%20%20%20%20%20%20axes%5B4%5D%5B1%5D.tick_params(axis%3D%22y%22%2C%20labelright%3DTrue%2C%20labelsize%3D6.5%2C%20pad%3D2)%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20fig%0A%0A%20%20%20%20%20%20%20%20return%20_plot()%0A%0A%20%20%20%20_titles%20%3D%20%7B%22either-t100%22%3A%20%22The%20primary%22%2C%20%22either-t500%22%3A%20%22Softer%22%2C%20%22either-t2500%22%3A%20%22Near%20the%20span%20mean%22%7D%0A%20%20%20%20_body%20%3D%20%22%22.join(_profile_fig(c%2C%20_titles%5Bc%5D)%20for%20c%20in%20ex.EITHER_NAMES)%0A%20%20%20%20_caption%20%3D%20mo.md(rf%22%22%22%0A%20%20%20%20**Per-group%20weight%20profiles%20under%20the%20either-slot%20labeller.**%20Within%20each%20sub-figure%3A%20columns%20are%20the%20label%20groups%20(G1%20weights%20probe%20lines%20by%20P(only%20op1%20drew)%2C%20G2%20by%20P(only%20op2%20drew))%3B%20rows%20are%20residual%20slices%20with%20the%20embedding%20at%20the%20bottom%3B%20the%20shaded%20smooth-step%20is%20the%20seed-mean%20softmin%20weight%20%24%5Cbar%5Cpi_G(%5Cell%2C%20t)%24%20over%20the%20span%20roles%2C%20with%20per-seed%20hairlines%20(nine%20on%20the%20primary).%20The%20dashed%20line%20behind%20the%20G1%20columns%20is%20the%20un-anchored%20control's%20readability%20profile%20%24R%5E2(%5Cell%2C%20t)%24%20for%20op1's%20redness.%20On%20the%20embedding%20row%2C%20the%20caret%20on%20each%20column's%20outer%20axis%20marks%20the%20H2(a)%20gate%20level%20(%7Bex.LEAD_GATE%3Ag%7D%3B%20uniform%20is%200.25)%2C%20and%20the%20number%20above%20each%20group's%20own%20operand%20is%20the%20seed-mean%20weight%20there.%20Each%20sub-caption%20quotes%20the%20H2(b)%20deep-slice%20op2%20contrast%20(gate%20%E2%89%A5%20%7Bex.CONTRAST_GATE%3Ag%7D%2C%20scored%20on%20the%20primary%20only).%0A%20%20%20%20%22%22%22).text%0A%20%20%20%20mo.Html(figure_html(_body%2C%20caption%3D_caption%2C%20aria_label%3D%22Per-group%20softmin%20weight%20profiles%2C%20one%20sub-figure%20per%20either-slot%20condition%22))%20%20%23%20fmt%3A%20skip%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(contrast%2C%20pi_group_mean)%3A%0A%20%20%20%20_P%20%3D%20ex.PRIMARY%0A%20%20%20%20_pg%20%3D%20pi_group_mean(_P)%0A%20%20%20%20_con%20%3D%20%7Bc%3A%20contrast(c)%20for%20c%20in%20%5B*ex.EITHER_NAMES%2C%20%22op1-labels%22%5D%7D%0A%20%20%20%20mo.md(rf%22%22%22%0A%20%20%20%20**H2%20holds%2C%20and%20the%20profiles%20mirror%20each%20other.**%20(a)%20At%20the%20embedding%20the%20leading%20role%20in%20each%20group%20is%20its%20own%20operand%2C%20at%20weight%20%7B_pg%5B0%2C%200%2C%200%5D%3A.2f%7D%20(gate%20%E2%89%A5%20%7Bex.LEAD_GATE%3Ag%7D)%2C%20in%20all%20nine%20runs%20individually.%20The%20two%20groups%20take%20equal%20values%20there%20by%20construction%2C%20since%20at%20the%20embedding%20the%20state%20of%20a%20token%20cannot%20depend%20on%20its%20line.%5B%5Eemb-sym%5D%0A%0A%20%20%20%20(b)%20The%20between-group%20op2%20contrast%20over%20the%20post-attention%20slices%20is%20%7B_con%5B_P%5D.mean()%3A%2B.2f%7D%0A%20%20%20%20%3Cspan%20class%3D'range'%3E%C2%B1%7B_con%5B_P%5D.std(ddof%3D1)%3A.2f%7D%3C%2Fspan%3E%20against%20the%0A%20%20%20%20%7Bex.CONTRAST_GATE%3Ag%7D%20gate.%20The%20op2%20weight%20of%20G2%20at%20the%20last%20slice%20is%0A%20%20%20%20%7B_pg%5B1%2C%204%2C%202%5D%3A.2f%7D%2C%20so%20on%20the%20lines%20where%20op2%20was%20the%20evidence%20the%20pull%0A%20%20%20%20puts%20nearly%20everything%20there.%20The%20winner-take-all%20behavior%20of%20ex-2.1.9%0A%20%20%20%20is%20still%20in%20force%2C%20and%20the%20winner%20now%20varies%20line%20by%20line%3A%20the%20columns%0A%20%20%20%20are%20far%20from%20identical%2C%20and%20they%20do%20not%20collapse%20to%20uniform%20at%20the%20%CF%84%20of%0A%20%20%20%20the%20primary.%0A%0A%20%20%20%20%5B%5Eemb-sym%5D%3A%20The%20probe%20set%20contains%20both%20orders%20of%20every%20pair%2C%20and%20the%20span%20positions%20share%20token%20embeddings%2C%20so%20the%20G1%20and%20G2%20profiles%20are%20exact%20mirrors%20at%20the%20embedding%20slice.%20What%20the%20gate%20tests%20there%20is%20concentration%3A%20that%20the%20pool%20has%20moved%20away%20from%20uniform%2C%20and%20that%20the%20concentration%20sits%20on%20operands%20rather%20than%20syntax.%20Depth%20is%20where%20the%20groups%20can%20differ%2C%20which%20is%20why%20H2(b)%20reads%20only%20the%20post-attention%20slices.%0A%0A%20%20%20%20The%20unscored%20arms%20behave%20as%20the%20%CF%84%20ladder%20predicted.%20At%20%CF%84%20%3D%200.5%20the%20embedding%20is%20nearly%20flat%20(lead%20%7Bpi_group_mean(%22either-t500%22)%5B0%2C%200%2C%200%5D%3A.2f%7D)%20and%20the%20deep%20contrast%20reaches%20only%20%7B_con%5B%22either-t500%22%5D.mean()%3A%2B.2f%7D%3B%20at%20%CF%84%20%3D%202.5%20the%20profile%20is%20the%20span%20mean%20in%20all%20but%20name%20(contrast%20%7B_con%5B%22either-t2500%22%5D.mean()%3A%2B.2f%7D).%20A%20pull%20that%20cannot%20concentrate%20cannot%20localize%2C%20however%20good%20the%20labels%20are.%0A%0A%20%20%20%20The%20op1-keyed%20reference%20arm%20has%20a%20*measured*%20contrast%20of%20%7B_con%5B%22op1-labels%22%5D.mean()%3A%2B.2f%7D%2C%20worth%20holding%20onto%20for%20M3.%20The%20shared%20lexicon%20aligns%20red%20op2%20tokens%20for%20free%2C%20so%20a%20softmin%20read%20at%20%CF%84%20%3D%200.1%20finds%20them%20even%20though%20the%20pull%20never%20targeted%20op2.%20But%20that%20free%20contrast%20decays%20with%20depth%3A%20the%20op2%20weight%20of%20G2%20falls%20from%20%7Bpi_group_mean(%22op1-labels%22)%5B1%2C%201%2C%202%5D%3A.2f%7D%20at%20slice%201%20to%20%7Bpi_group_mean(%22op1-labels%22)%5B1%2C%204%2C%202%5D%3A.2f%7D%20at%20slice%204%2C%20where%20the%20primary%20holds%20(%7B_pg%5B1%2C%201%2C%202%5D%3A.2f%7D%20%E2%86%92%20%7B_pg%5B1%2C%204%2C%202%5D%3A.2f%7D).%20Training%20on%20the%20wider%20labels%20is%20what%20keeps%20the%20localization%20alive%20where%20the%20states%20are%20contextual.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20The%20operating%20point%20under%20the%20wider%20labeller%20(H3)%0A%0A%20%20%20%20The%20endpoint%20numbers%20say%20where%20each%20run%20finished%3B%20the%20trajectories%20show%20how%20it%20got%20there.%20In%20particular%2C%20whether%20a%20pull%20that%20has%20to%20localize%20per%20line%20attains%20its%20margin%20later%2C%20or%20holds%20it%20less%20firmly%20once%20the%20repulsion%20anneals%20away%2C%20than%20the%20op1-keyed%20reference.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(ANCHORED%2C%20N_SEEDS%2C%20retention%2C%20traj)%3A%0A%20%20%20%20_KEYS%20%3D%20(%22alpha_op1%22%2C%20%22m_line%22)%0A%20%20%20%20%23%20Seed%20means%20once%2C%20in%20the%20cell%3A%20%40themed%20calls%20the%20plot%20function%20twice.%0A%20%20%20%20_MEAN%20%3D%20%7B%0A%20%20%20%20%20%20%20%20c%3A%20%7Bk%3A%20np.mean(%5Btraj(c%2C%20s%2C%20k)%20for%20s%20in%20range(N_SEEDS%5Bc%5D)%5D%2C%20axis%3D0)%20for%20k%20in%20_KEYS%7D%20for%20c%20in%20%5B*ANCHORED%2C%20%22lam0%22%5D%0A%20%20%20%20%7D%0A%20%20%20%20_EPOCHS%20%3D%20np.mean(%5Btraj(ex.PRIMARY%2C%20s%2C%20%22epoch%22)%20for%20s%20in%20range(N_SEEDS%5Bex.PRIMARY%5D)%5D%2C%20axis%3D0)%0A%20%20%20%20_RET%20%3D%20%7Bc%3A%20retention(c)%20for%20c%20in%20ANCHORED%7D%0A%20%20%20%20%23%20The%20schedules%20on%20a%20finer%20grid%20than%20the%20recorded%20trajectory.%20All%20anchored%0A%20%20%20%20%23%20conditions%20share%20them%20at%20the%20operating%20point%2C%20so%20one%20panel%20serves%20five.%0A%20%20%20%20_SE%20%3D%20np.linspace(0.0%2C%20float(ex.SCHEDULER.epochs)%2C%20601)%0A%20%20%20%20_ANCHOR%20%3D%20ex.anchor_weight(_SE)%0A%20%20%20%20_ANTI%20%3D%20ex.anti_subspace_weight(_SE)%0A%20%20%20%20_GRID%20%3D%20%5B%5B%22op1-labels%22%2C%20%22either-t100%22%2C%20%22either-t500%22%5D%2C%20%5B%22either-t2500%22%2C%20%22slot-oracle%22%2C%20%22sched%22%5D%5D%0A%20%20%20%20_LEFT%20%3D%20(%22op1-labels%22%2C%20%22either-t2500%22)%0A%0A%20%20%20%20%40themed(%0A%20%20%20%20%20%20%20%20name%3D%22trajectories%22%2C%0A%20%20%20%20%20%20%20%20alt_text%3D%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20Five%20trajectory%20panels%20and%20one%20schedule%20panel%20in%20a%20two-by-three%20grid%20sharing%20the%20epoch%20axis%20from%200%20to%20100.%20Each%20trajectory%20panel%20plots%20mean%20alignment%20at%20op1%20as%20a%20solid%20line%20staying%20below%200.1%2C%20and%20the%20line%20margin%20as%20a%20dashed%20line%20climbing%20to%20about%200.6%20by%20epoch%2030%20and%20on%20to%20roughly%200.7%20by%20the%20end%2C%20over%20a%20flat%20grey%20control%20pair%20near%20zero.%20The%20dashed%20line%20dips%20slightly%20after%20epoch%2090%20in%20every%20panel%2C%20and%20every%20panel's%20retention%20annotation%20reads%200.96%20or%20higher.%20Faint%20ghost%20lines%20repeat%20the%20other%20conditions'%20margin%20curves%20in%20each%20panel%20and%20lie%20almost%20on%20top%20of%20the%20panel's%20own%3A%20the%20five%20trajectory%20panels%20are%20near%20copies%20of%20one%20another.%20The%20schedule%20panel%2C%20bottom%20right%2C%20shows%20the%20anchor%20weight%20ramping%20to%20a%20plateau%20and%20annealing%20after%20epoch%2090%2C%20and%20the%20repulsion%20weight%20starting%20high%2C%20crossing%20below%20the%20anchor%20around%20epoch%2060%20and%20settling%20at%20about%20a%20third%20of%20it.%0A%20%20%20%20%20%20%20%20%22%22%22%2C%0A%20%20%20%20%20%20%20%20caption%3Drf%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20**Training%20dynamics%20by%20condition.**%20Seed%20means%20of%20the%20two%20cosines%20on%20the%20anchor%20axis%2C%20on%20one%20shared%20scale%3A%20solid%20is%20%24%5Cbar%5Calpha%24%20at%20op1%20(contained%20at%20the%20filled%20caret%20%E2%96%B6%2C%20%7Bex.MEAN_ALIGN_GATE%3Ag%7D)%3B%20dashed%20is%20m_line%20(its%20retention%20floor%20of%20%7Bex.RETENTION_FLOOR%3Ag%7D%20at%20the%20open%20caret%20%E2%97%81).%20The%20grey%20pair%20is%20the%20un-anchored%20control%3B%20the%20faint%20lines%20behind%20each%20panel%20are%20the%20m_line%20trajectories%20of%20the%20other%20four%20anchored%20conditions%2C%20for%20comparison%20in%20place.%20The%20number%20in%20each%20panel%20is%20that%20condition's%20retention%20(final%20over%20peak%20m_line%2C%20minimum%20across%20seeds%3B%20gate%20%E2%89%A5%20%7Bex.RETENTION_GATE%3Ag%7D%2C%20scored%20on%20the%20primary).%20The%20trajectory%20instrument%20reads%20one%20line%20per%20color%2C%20so%20its%20level%20sits%20above%20the%20endpoint%20statistic's%2C%20which%20averages%20all%2027%20partners%3B%20retention%20compares%20within%20the%20curve%2C%20where%20the%20instrument%20is%20constant.%20Bottom%20right%3A%20the%20weight%20schedule%20every%20anchored%20condition%20trained%20under%20%E2%80%94%20anchor%20%24%5Clambda_%5Cmathrm%7B%7Ba%7D%7D%24%20in%20red%2C%20repulsion%20%24%5Clambda_%7B%7B%5Cbar%7B%7B%5Cmathrm%7B%7Bs%7D%7D%7D%7D%7D%7D%24%20in%20blue%2C%20log%20scale%20%E2%80%94%20shared%20because%20the%20anti-subspace%20term%20is%20fixed%20at%20the%20operating%20point.%0A%20%20%20%20%20%20%20%20%22%22%22%2C%0A%20%20%20%20)%0A%20%20%20%20def%20_plot()%20-%3E%20plt.Figure%3A%0A%20%20%20%20%20%20%20%20fig%2C%20axd%20%3D%20plt.subplot_mosaic(_GRID%2C%20figsize%3D(7.5%2C%204.2)%2C%20sharex%3DTrue%2C%20layout%3D%22constrained%22)%0A%20%20%20%20%20%20%20%20_grey%20%3D%20light_dark(%22%23999%22%2C%20%22%23777%22)%0A%20%20%20%20%20%20%20%20_ghost%20%3D%20light_dark(%22%2300000022%22%2C%20%22%23ffffff2e%22)%0A%20%20%20%20%20%20%20%20_gate%20%3D%20light_dark(%22%23555%22%2C%20%22%23bbb%22)%0A%20%20%20%20%20%20%20%20_ink%20%3D%20light_dark(%22%231f6fb4%22%2C%20%22%235fa8dd%22)%0A%20%20%20%20%20%20%20%20_term%20%3D%20%7B%22anchor%22%3A%20light_dark(%22%23c33%22%2C%20%22%23e66%22)%2C%20%22anti%22%3A%20light_dark(%22%2336c%22%2C%20%22%237af%22)%7D%0A%20%20%20%20%20%20%20%20_dash%20%3D%20(0%2C%20(6%2C%201))%0A%20%20%20%20%20%20%20%20_top%20%3D%20max(np.max(_MEAN%5Bc%5D%5B%22m_line%22%5D)%20for%20c%20in%20ANCHORED)%0A%20%20%20%20%20%20%20%20for%20cond%20in%20ANCHORED%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20ax%20%3D%20axd%5Bcond%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20%23%20The%20two%20gate%20carets%20are%20styled%20apart%3A%20the%20containment%20gate%20filled%0A%20%20%20%20%20%20%20%20%20%20%20%20%23%20(%E2%96%B6)%2C%20the%20retention%20floor%20open%20(%E2%97%81)%2C%20echoed%20in%20the%20caption.%0A%20%20%20%20%20%20%20%20%20%20%20%20ax.plot(0%2C%20ex.MEAN_ALIGN_GATE%2C%20marker%3D9%2C%20ms%3D3%2C%20color%3D_gate%2C%20clip_on%3DFalse%2C%20zorder%3D6%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20transform%3Dax.get_yaxis_transform())%20%20%23%20fmt%3A%20skip%0A%20%20%20%20%20%20%20%20%20%20%20%20ax.plot(1%2C%20ex.RETENTION_FLOOR%2C%20marker%3D8%2C%20ms%3D3%2C%20mfc%3D%22none%22%2C%20mec%3D_gate%2C%20mew%3D0.8%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20clip_on%3DFalse%2C%20zorder%3D6%2C%20transform%3Dax.get_yaxis_transform())%20%20%23%20fmt%3A%20skip%0A%20%20%20%20%20%20%20%20%20%20%20%20ax.plot(_EPOCHS%2C%20_MEAN%5B%22lam0%22%5D%5B%22alpha_op1%22%5D%2C%20color%3D_grey%2C%20lw%3D1.1%2C%20zorder%3D3)%0A%20%20%20%20%20%20%20%20%20%20%20%20ax.plot(_EPOCHS%2C%20_MEAN%5B%22lam0%22%5D%5B%22m_line%22%5D%2C%20color%3D_grey%2C%20lw%3D1.1%2C%20ls%3D_dash%2C%20zorder%3D3)%0A%20%20%20%20%20%20%20%20%20%20%20%20for%20other%20in%20ANCHORED%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%23%20Ghosts%20of%20the%20other%20conditions'%20margins%2C%20so%20the%20near-copy%20claim%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%23%20is%20checkable%20panel%20by%20panel%20rather%20than%20by%20eye%20across%20panels.%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20if%20other%20!%3D%20cond%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ax.plot(_EPOCHS%2C%20_MEAN%5Bother%5D%5B%22m_line%22%5D%2C%20color%3D_ghost%2C%20lw%3D0.8%2C%20zorder%3D2)%0A%20%20%20%20%20%20%20%20%20%20%20%20ax.plot(_EPOCHS%2C%20_MEAN%5Bcond%5D%5B%22m_line%22%5D%2C%20color%3D_ink%2C%20lw%3D1.4%2C%20ls%3D_dash%2C%20zorder%3D4)%0A%20%20%20%20%20%20%20%20%20%20%20%20ax.plot(_EPOCHS%2C%20_MEAN%5Bcond%5D%5B%22alpha_op1%22%5D%2C%20color%3D_ink%2C%20lw%3D1.7%2C%20zorder%3D5)%0A%20%20%20%20%20%20%20%20%20%20%20%20_r%20%3D%20_RET%5Bcond%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20assert%20_r%20is%20not%20None%0A%20%20%20%20%20%20%20%20%20%20%20%20ax.annotate(f%22%7B_r%3A.2f%7D%22%2C%20(0.97%2C%200.6)%2C%20xycoords%3D%22axes%20fraction%22%2C%20ha%3D%22right%22%2C%20fontsize%3D8%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20color%3Dlight_dark(%22%23444%22%2C%20%22%23bbb%22))%20%20%23%20fmt%3A%20skip%0A%20%20%20%20%20%20%20%20%20%20%20%20ax.set_title(%22either-t100%20(primary)%22%20if%20cond%20%3D%3D%20ex.PRIMARY%20else%20cond%2C%20fontsize%3D9.5%2C%20color%3D_ink%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20fontweight%3D%22bold%22%20if%20cond%20%3D%3D%20ex.PRIMARY%20else%20%22normal%22)%20%20%23%20fmt%3A%20skip%0A%20%20%20%20%20%20%20%20%20%20%20%20ax.set_xlim(0%2C%20ex.SCHEDULER.epochs)%0A%20%20%20%20%20%20%20%20%20%20%20%20ax.set_ylim(-0.08%2C%20_top%20*%201.08)%0A%20%20%20%20%20%20%20%20%20%20%20%20ax.tick_params(labelbottom%3Dcond%20in%20_GRID%5B1%5D%2C%20labelleft%3Dcond%20in%20_LEFT%2C%20labelsize%3D8)%0A%20%20%20%20%20%20%20%20%20%20%20%20ax.set_ylabel(%22cosine%22%2C%20fontsize%3D%22x-small%22)%20if%20cond%20in%20_LEFT%20else%20None%0A%20%20%20%20%20%20%20%20%20%20%20%20ax.set_xlabel(%22epoch%22%2C%20fontsize%3D%22x-small%22)%20if%20cond%20in%20_GRID%5B1%5D%20else%20None%0A%20%20%20%20%20%20%20%20_ax%20%3D%20axd%5B%22sched%22%5D%0A%20%20%20%20%20%20%20%20_ax.plot(_SE%2C%20_ANCHOR%2C%20color%3D_term%5B%22anchor%22%5D%2C%20lw%3D1.4)%0A%20%20%20%20%20%20%20%20_ax.plot(_SE%2C%20_ANTI%2C%20color%3D_term%5B%22anti%22%5D%2C%20lw%3D1.4)%0A%20%20%20%20%20%20%20%20_ax.set_yscale(%22log%22)%0A%20%20%20%20%20%20%20%20_ax.set_xlim(0%2C%20ex.SCHEDULER.epochs)%0A%20%20%20%20%20%20%20%20_ax.set_ylim(2e-4%2C%204)%0A%20%20%20%20%20%20%20%20_ax.set_yticks(%5B1e-3%2C%201e-2%2C%201e-1%2C%201e0%5D)%0A%20%20%20%20%20%20%20%20_ax.minorticks_off()%0A%20%20%20%20%20%20%20%20_ax.tick_params(labelsize%3D7.5)%0A%20%20%20%20%20%20%20%20_ax.set_xlabel(%22epoch%22%2C%20fontsize%3D%22x-small%22)%0A%20%20%20%20%20%20%20%20_ax.set_title(%22weights%20(all%20anchored)%22%2C%20fontsize%3D9.5%2C%20color%3D_grey)%0A%20%20%20%20%20%20%20%20for%20_xx%2C%20_yy%2C%20_txt%2C%20_k%20in%20((64%2C%200.13%2C%20r%22%24%5Clambda_%5Cmathrm%7Ba%7D%24%22%2C%20%22anchor%22)%2C%20(16%2C%200.5%2C%20r%22%24%5Clambda_%7B%5Cbar%7B%5Cmathrm%7Bs%7D%7D%7D%24%22%2C%20%22anti%22))%3A%20%20%23%20fmt%3A%20skip%0A%20%20%20%20%20%20%20%20%20%20%20%20_ax.annotate(_txt%2C%20(_xx%2C%20_yy)%2C%20fontsize%3D9%2C%20color%3D_term%5B_k%5D%2C%20va%3D%22bottom%22)%0A%20%20%20%20%20%20%20%20fig.legend(%0A%20%20%20%20%20%20%20%20%20%20%20%20%5Bplt.Line2D(%5B%5D%2C%20%5B%5D%2C%20color%3D_grey%2C%20lw%3D1.7)%2C%20plt.Line2D(%5B%5D%2C%20%5B%5D%2C%20color%3D_grey%2C%20lw%3D1.5%2C%20ls%3D_dash)%5D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%5Br%22%24%5Cbar%5Calpha%24%20at%20op1%22%2C%20%22m_line%22%5D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20fontsize%3D8.5%2C%20frameon%3DFalse%2C%20ncols%3D2%2C%20loc%3D%22lower%20center%22%2C%20bbox_to_anchor%3D(0.5%2C%201.0)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20labelcolor%3D_grey%2C%20handlelength%3D2.4%2C%0A%20%20%20%20%20%20%20%20)%20%20%23%20fmt%3A%20skip%0A%20%20%20%20%20%20%20%20return%20fig%0A%0A%20%20%20%20mo.Html(_plot())%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(ANCHORED%2C%20a_op1%2C%20retention)%3A%0A%20%20%20%20_P%20%3D%20ex.PRIMARY%0A%20%20%20%20_ret%20%3D%20retention(_P)%0A%20%20%20%20assert%20_ret%20is%20not%20None%0A%20%20%20%20_worst%20%3D%20min((r%20for%20c%20in%20ANCHORED%20if%20(r%20%3A%3D%20retention(c))%20is%20not%20None))%0A%20%20%20%20mo.md(rf%22%22%22%0A%20%20%20%20**H3(a)%20and%20(b)%20hold.**%20On%20the%20primary%2C%20%24%5Cbar%5Calpha%24%20at%20op1%20ends%20at%20%7Ba_op1(_P).mean()%3A.3f%7D%20%3Cspan%20class%3D'range'%3E%C2%B1%7Ba_op1(_P).std(ddof%3D1)%3A.3f%7D%3C%2Fspan%3E%20against%20the%20%7Bex.MEAN_ALIGN_GATE%3Ag%7D%20gate.%20That%20is%20*below*%20the%20%7Ba_op1(ex.REFERENCE_ARM).mean()%3A.3f%7D%20of%20the%20op1-keyed%20reference%2C%20so%20the%20contamination%20a%20global%20latch%20would%20leave%20(non-red%20op1%20states%20dragged%20onto%20the%20axis%20on%20op2-triggered%20lines)%20is%20absent%2C%20which%20agrees%20with%20the%20H2%20profiles.%20Op1%20now%20hosts%20less%20of%20the%20drift%2C%20perhaps%20because%20half%20the%20pull%20budget%20now%20goes%20to%20op2.%0A%0A%20%20%20%20Retention%20is%20%7B_ret%3A.2f%7D%20against%20%7Bex.RETENTION_GATE%3Ag%7D%2C%20taken%20as%20the%20minimum%20over%20nine%20seeds%2C%20a%20stricter%20read%20than%20for%20the%20three-seed%20conditions%3B%20the%20worst%20retention%20anywhere%20in%20the%20sweep%20is%20%7B_worst%3A.2f%7D.%20The%20five%20anchored%20panels%20above%20are%20near%20copies%2C%20so%20localizing%20per%20line%20neither%20delays%20the%20margin%20nor%20loosens%20its%20hold.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(CONDS%3A%20list%5Bstr%5D%2C%20alpha_map%2C%20grading_r2%2C%20m_line)%3A%0A%20%20%20%20_RESP%20%3D%20%7Bc%3A%20alpha_map(c)%5B%3A%2C%20%3A%2C%200%5D.mean(axis%3D0)%20for%20c%20in%20CONDS%7D%0A%0A%20%20%20%20def%20_fitted_target(y%3A%20np.ndarray)%20-%3E%20np.ndarray%3A%0A%20%20%20%20%20%20%20%20%22%22%22%60sim%C2%B9%C2%B7%E2%81%B5%60%20rescaled%20by%20least%20squares%20onto%20the%20response%20%E2%80%94%20the%20shape%20r%C2%B2%20scores%20against.%22%22%22%0A%20%20%20%20%20%20%20%20b%20%3D%20np.polyfit(ex.SIM_TARGET%2C%20y%2C%201)%0A%20%20%20%20%20%20%20%20return%20np.polyval(b%2C%20ex.SIM_TARGET)%0A%0A%20%20%20%20def%20_level_mean(y%3A%20np.ndarray)%20-%3E%20tuple%5Bnp.ndarray%2C%20np.ndarray%5D%3A%0A%20%20%20%20%20%20%20%20%22%22%22The%20conditional%20mean%20of%20*y*%20at%20each%20distinct%20redness%20level%20(29%20of%20them).%22%22%22%0A%20%20%20%20%20%20%20%20levels%20%3D%20np.unique(np.round(ex.REDNESS%2C%206))%0A%20%20%20%20%20%20%20%20means%20%3D%20np.array(%5By%5Bnp.round(ex.REDNESS%2C%206)%20%3D%3D%20lv%5D.mean()%20for%20lv%20in%20levels%5D)%0A%20%20%20%20%20%20%20%20return%20levels%2C%20means%0A%0A%20%20%20%20_CTRL%20%3D%20_level_mean(_RESP%5B%22lam0%22%5D)%0A%20%20%20%20_GRID%20%3D%20%5BCONDS%5B%3A3%5D%2C%20CONDS%5B3%3A%5D%5D%0A%0A%20%20%20%20%40themed(%0A%20%20%20%20%20%20%20%20name%3D%22grading%22%2C%0A%20%20%20%20%20%20%20%20alt_text%3D%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20Six%20panels%20in%20a%20two-by-three%20grid%20sharing%20both%20axes%3A%20per-color%20alignment%20at%20the%20first%20operand%2C%20from%20about%20-0.2%20to%201.2%2C%20against%20the%20redness%20of%20that%20color%20from%200%20to%201.%20Panels%20are%20the%20control%2C%20op1-labels%2C%20the%20primary%20either-t100%2C%20the%20two%20softer%20arms%20and%20the%20slot%20oracle.%20The%20control%20panel%20is%20flat%20near%20zero.%20The%20op1-labels%2C%20either-t100%20and%20slot-oracle%20panels%20each%20scatter%20216%20marks%20drawn%20in%20the%20color%20they%20stand%20for%2C%20forming%20a%20flat%20cluster%20at%20low%20redness%20and%20a%20rising%20tail%20of%20oranges%20and%20reds%20that%20tracks%20the%20dashed%20reference%20curve%20closely.%20In%20the%20either-t500%20and%20either-t2500%20panels%20the%20low-redness%20cluster%20scatters%20much%20more%20widely%2C%20from%20about%20-0.2%20to%200.5%2C%20and%20the%20conditional-mean%20line%20wanders%20around%20a%20slightly%20raised%20level%20before%20rising%2C%20hugging%20the%20reference%20less%20tightly.%0A%20%20%20%20%20%20%20%20%22%22%22%2C%0A%20%20%20%20%20%20%20%20caption%3Drf%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20**Grading%3A%20alignment%20at%20op1%2C%20per%20color.**%20%24%5Calpha_c%24%2C%20the%20mean%20over%20slices%20of%20%24%5Ccos(h%2C%20%5Chat%20v_%7B%7B%5Ctext%7B%7Bred%7D%7D%7D%7D)%24%20at%20op1%2C%20seed%20mean%2C%20against%20the%20redness%20of%20the%20color.%20One%20mark%20per%20color%2C%20drawn%20in%20that%20color%3B%20the%20thin%20dark%20line%20is%20the%20mean%20response%20at%20each%20of%20the%2029%20distinct%20redness%20levels%2C%20the%20flat%20grey%20band%20the%20same%20line%20for%20the%20control%2C%20and%20the%20dashed%20line%20%60sim%C2%B9%C2%B7%E2%81%B5%60%20rescaled%20onto%20the%20response%20by%20least%20squares%20%E2%80%94%20the%20shape%20the%20%24r%5E2%24%20statistic%20scores%20against.%20%24r%5E2%24%20is%20computed%20per%20color%2C%20with%20no%20binning%2C%20so%20scatter%20about%20the%20conditional-mean%20line%20counts%20against%20it%20even%20where%20that%20line%20tracks%20the%20reference%3B%20the%20exploratory%20section%20separates%20the%20two.%20H3(c)%20gates%20the%20primary's%20%24r%5E2%24%20at%20no%20more%20than%20%7Bex.GRADE_R2_DROP%3Ag%7D%20below%20%60op1-labels%60's%2C%20whose%20own%20%24r%5E2%24%20(%7Bgrading_r2(ex.REFERENCE_ARM)%3A.2f%7D)%20reproduces%20ex-2.1.9's%20%60pool-t100%60%20(%7Bex.EX219_REFERENCE%5B%22pool-t100%22%5D%5B%22r2%22%5D%3Ag%7D).%0A%20%20%20%20%20%20%20%20%22%22%22%2C%0A%20%20%20%20)%0A%20%20%20%20def%20_plot()%20-%3E%20plt.Figure%3A%0A%20%20%20%20%20%20%20%20fig%2C%20axes%20%3D%20plt.subplots(2%2C%203%2C%20figsize%3D(7.5%2C%205.0)%2C%20sharey%3DTrue%2C%20sharex%3DTrue%2C%20layout%3D%22constrained%22)%0A%20%20%20%20%20%20%20%20axes%20%3D%20cast(AxesGrid%2C%20axes)%0A%20%20%20%20%20%20%20%20for%20row%2C%20conds%20in%20zip(axes%2C%20_GRID%2C%20strict%3DTrue)%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20for%20ax%2C%20cond%20in%20zip(row%2C%20conds%2C%20strict%3DTrue)%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20a%20%3D%20_RESP%5Bcond%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ax.axhline(0%2C%20color%3Dlight_dark(%22%23bbb%22%2C%20%22%23555%22)%2C%20lw%3D0.8%2C%20zorder%3D0)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ax.plot(*_CTRL%2C%20color%3Dlight_dark(%22%23999%22%2C%20%22%23777%22)%2C%20lw%3D3%2C%20alpha%3D0.5%2C%20zorder%3D1%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20solid_capstyle%3D%22round%22)%20%20%23%20fmt%3A%20skip%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ax.scatter(ex.REDNESS%2C%20a%2C%20c%3Dex.GRID_RGB%2C%20s%3D18%2C%20lw%3D0.4%2C%20zorder%3D3%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20edgecolors%3Dlight_dark(%22%2300000033%22%2C%20%22%23ffffff55%22))%20%20%23%20fmt%3A%20skip%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20if%20cond%20!%3D%20%22lam0%22%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ax.plot(*_level_mean(_fitted_target(a))%2C%20color%3Dlight_dark(%22%23888%22%2C%20%22%23888%22)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20lw%3D1.0%2C%20ls%3D(0%2C%20(4%2C%202))%2C%20zorder%3D2)%20%20%23%20fmt%3A%20skip%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ax.plot(*_level_mean(a)%2C%20color%3Dlight_dark(%22%23222%22%2C%20%22%23eee%22)%2C%20lw%3D1.2%2C%20zorder%3D4)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ax.set_title(%22either-t100%20(primary)%22%20if%20cond%20%3D%3D%20ex.PRIMARY%20else%20(%22control%22%20if%20cond%20%3D%3D%20%22lam0%22%20else%20cond)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20fontsize%3D9.5)%20%20%23%20fmt%3A%20skip%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20if%20cond%20!%3D%20%22lam0%22%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ax.annotate(%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20f%22r%C2%B2%20%3D%20%7Bgrading_r2(cond)%3A.2f%7D%5Cnm_line%20%3D%20%7Bm_line(cond).mean()%3A.2f%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20(0.03%2C%200.97)%2C%20xycoords%3D%22axes%20fraction%22%2C%20va%3D%22top%22%2C%20fontsize%3D8%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20color%3Dlight_dark(%22%23444%22%2C%20%22%23bbb%22)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20)%20%20%23%20fmt%3A%20skip%0A%20%20%20%20%20%20%20%20for%20ax%20in%20axes%5B1%5D%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20ax.set_xlabel(%22redness%20of%20op1%22%2C%20fontsize%3D%22small%22)%0A%20%20%20%20%20%20%20%20for%20row%20in%20axes%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20row%5B0%5D.set_ylabel(r%22%24%5Calpha_c%24%20at%20op1%22%2C%20fontsize%3D%22small%22)%0A%20%20%20%20%20%20%20%20axes%5B0%5D%5B0%5D.set_ylim(-0.25%2C%201.25)%20%20%23%20headroom%20for%20the%20per-panel%20statistics%0A%20%20%20%20%20%20%20%20return%20fig%0A%0A%20%20%20%20mo.Html(_plot())%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(grading_r2)%3A%0A%20%20%20%20_P%20%3D%20ex.PRIMARY%0A%20%20%20%20mo.md(rf%22%22%22%0A%20%20%20%20**H3(c)%20holds.**%20The%20primary%20grades%20at%20%24r%5E2%24%20%3D%20%7Bgrading_r2(_P)%3A.2f%7D%20against%20%7Bgrading_r2(ex.REFERENCE_ARM)%3A.2f%7D%20for%20the%20reference%20arm%2C%20a%20drop%20of%20%7Bgrading_r2(ex.REFERENCE_ARM)%20-%20grading_r2(_P)%3A.3f%7D%20against%20the%20%7Bex.GRADE_R2_DROP%3Ag%7D%20tolerated.%20So%20widening%20the%20labels%20cost%20the%20response%20shape%20essentially%20nothing%20at%20the%20%CF%84%20of%20the%20primary.%0A%0A%20%20%20%20The%20softer%20arms%20fare%20worse%3A%20%7Bgrading_r2(%22either-t500%22)%3A.2f%7D%20at%20%CF%84%20%3D%200.5%20and%20%7Bgrading_r2(%22either-t2500%22)%3A.2f%7D%20at%20%CF%84%20%3D%202.5.%20The%20grading%20panels%20show%20where%20it%20goes%3B%20the%20low-redness%20response%20turns%20noisy%20and%20drifts%20off%20zero%2C%20since%20a%20diffuse%20pull%20drags%20every%20span%20position%20of%20every%20labeled%20line%2C%20red%20op1%20or%20not.%20The%20slot%20oracle%20grades%20best%20of%20all%20(%7Bgrading_r2(ex.ORACLE_ARM)%3A.2f%7D)%2C%20as%20the%20analogue%20in%20ex-2.1.9%20did.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Selectivity%20against%20the%20slot%20oracle%20(H4)%0A%0A%20%20%20%20m_line%20is%20the%20selectivity%20delivered%20to%20the%20lines%20the%20labeller%20flags%2C%20and%20the%20slot%20oracle%20%E2%80%94%20trained%20on%20the%20same%20label%20draws%2C%20told%20which%20operand%20drew%20%E2%80%94%20is%20the%20reference%20for%20what%20the%20withheld%20information%20is%20worth.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(ANCHORED%2C%20m_line)%3A%0A%20%20%20%20_CTRL%20%3D%20float(m_line(%22lam0%22).mean())%0A%20%20%20%20%23%20Control-subtracted%20per-run%20values%2C%20computed%20once%20%E2%80%94%20%40themed%20draws%20twice.%0A%20%20%20%20_M%20%3D%20%7Bc%3A%20m_line(c)%20-%20_CTRL%20for%20c%20in%20ANCHORED%7D%0A%20%20%20%20_ORACLE%20%3D%20float(_M%5Bex.ORACLE_ARM%5D.mean())%0A%0A%20%20%20%20%40themed(%0A%20%20%20%20%20%20%20%20name%3D%22h4-dots%22%2C%0A%20%20%20%20%20%20%20%20alt_text%3D%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20A%20dot%20plot%20with%20five%20condition%20rows%20against%20control-subtracted%20line%20margin%20from%200%20to%20about%200.5.%20From%20top%3A%20op1-labels%20at%200.36%2C%20either-t100%20with%20nine%20tightly%20clustered%20dots%20at%200.40%2C%20either-t500%20and%20either-t2500%20both%20near%200.46%2C%20and%20slot-oracle%20at%200.39.%20Small%20dots%20are%20individual%20runs%20and%20a%20vertical%20tick%20marks%20each%20mean%3B%20the%20seed%20spread%20within%20any%20row%20is%20a%20few%20thousandths.%20A%20dashed%20gate%20line%20at%200.29%20and%20a%20dotted%20partial%20line%20at%200.19%20sit%20well%20left%20of%20every%20row.%0A%20%20%20%20%20%20%20%20%22%22%22%2C%0A%20%20%20%20%20%20%20%20caption%3Drf%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20**Control-subtracted%20m_line%20by%20condition.**%20Small%20dots%20are%20runs%20(nine%20on%20the%20primary)%2C%20the%20tick%20their%20mean%3B%20the%20reference%20arms%20are%20greyed.%20Dashed%20caret%3A%20the%20H4%20gate%2C%20%7Bex.ORACLE_FRAC_GATE%3A.0%25%7D%20of%20the%20slot%20oracle's%20control-subtracted%20mean%20(%7B_ORACLE%3A.3f%7D)%3B%20dotted%2C%20the%20%7Bex.ORACLE_FRAC_PARTIAL%3A.0%25%7D%20partial.%20The%20latch%20account%20%E2%80%94%20a%20pull%20stuck%20on%20op1%20serving%20only%20the%20op1-triggered%20half%20of%20the%20label%20mass%20%E2%80%94%20predicts%20landing%20near%20the%20partial%20line.%0A%20%20%20%20%20%20%20%20%22%22%22%2C%0A%20%20%20%20)%0A%20%20%20%20def%20_plot()%20-%3E%20plt.Figure%3A%0A%20%20%20%20%20%20%20%20%23%20Reads%20top-to-bottom%3A%20the%20op1-keyed%20reference%2C%20the%20sweep%2C%20the%20oracle.%0A%20%20%20%20%20%20%20%20_rows%20%3D%20%5Bex.ORACLE_ARM%2C%20%22either-t2500%22%2C%20%22either-t500%22%2C%20ex.PRIMARY%2C%20ex.REFERENCE_ARM%5D%0A%20%20%20%20%20%20%20%20_grey%20%3D%20light_dark(%22%23999%22%2C%20%22%23777%22)%0A%20%20%20%20%20%20%20%20_gate%20%3D%20light_dark(%22%23555%22%2C%20%22%23bbb%22)%0A%20%20%20%20%20%20%20%20_ink%20%3D%20%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20ex.REFERENCE_ARM%3A%20_grey%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20ex.ORACLE_ARM%3A%20_grey%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22either-t100%22%3A%20light_dark(%22%231f6fb4%22%2C%20%22%235fa8dd%22)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22either-t500%22%3A%20light_dark(%22%237fb3d8%22%2C%20%22%234f7ea6%22)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22either-t2500%22%3A%20light_dark(%22%239ab5c8%22%2C%20%22%2341586b%22)%2C%0A%20%20%20%20%20%20%20%20%7D%0A%20%20%20%20%20%20%20%20fig%2C%20ax%20%3D%20plt.subplots(figsize%3D(7.2%2C%202.2)%2C%20layout%3D%22constrained%22)%0A%20%20%20%20%20%20%20%20for%20yi%2C%20cond%20in%20enumerate(_rows)%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20v%20%3D%20_M%5Bcond%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20ax.plot(v%2C%20%5Byi%5D%20*%20len(v)%2C%20%22o%22%2C%20ms%3D3.5%2C%20color%3D_ink%5Bcond%5D%2C%20alpha%3D0.55%2C%20mew%3D0)%0A%20%20%20%20%20%20%20%20%20%20%20%20ax.plot(v.mean()%2C%20yi%2C%20%22%7C%22%2C%20ms%3D18%2C%20color%3D_ink%5Bcond%5D)%0A%20%20%20%20%20%20%20%20ax.set_title(r%22m_line%20%E2%88%92%20control%22%2C%20fontsize%3D%22small%22%2C%20color%3D_grey)%0A%20%20%20%20%20%20%20%20ax.set_yticks(range(len(_rows))%2C%20%5B%22slot-oracle%22%2C%20%22either-t2500%22%2C%20%22either-t500%22%2C%20%22either-t100%20(primary)%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22op1-labels%22%5D%2C%20fontsize%3D8)%20%20%23%20fmt%3A%20skip%0A%20%20%20%20%20%20%20%20ax.set_xlim(0%2C%200.52)%0A%20%20%20%20%20%20%20%20ax.tick_params(axis%3D%22x%22%2C%20labelsize%3D8)%0A%20%20%20%20%20%20%20%20ax.axvline(_ORACLE%20*%20ex.ORACLE_FRAC_GATE%2C%20color%3D_gate%2C%20lw%3D0.9%2C%20ls%3D(0%2C%20(4%2C%203)))%0A%20%20%20%20%20%20%20%20ax.axvline(_ORACLE%20*%20ex.ORACLE_FRAC_PARTIAL%2C%20color%3D_gate%2C%20lw%3D0.9%2C%20ls%3D(0%2C%20(1%2C%202)))%0A%20%20%20%20%20%20%20%20return%20fig%0A%0A%20%20%20%20mo.Html(_plot())%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(ANCHORED%2C%20a_op1%2C%20a_span%2C%20grading_r2%2C%20m_line%2C%20m_op1%2C%20m_span)%3A%0A%20%20%20%20_CTRL%20%3D%20float(m_line(%22lam0%22).mean())%0A%20%20%20%20_ORACLE%20%3D%20float(m_line(ex.ORACLE_ARM).mean())%20-%20_CTRL%0A%0A%20%20%20%20def%20_row(c%3A%20str)%20-%3E%20str%3A%0A%20%20%20%20%20%20%20%20frac%20%3D%20f%22%7B(m_line(c).mean()%20-%20_CTRL)%20%2F%20_ORACLE%3A.0%25%7D%22%20if%20c%20!%3D%20ex.ORACLE_ARM%20else%20%22%E2%80%94%22%0A%20%20%20%20%20%20%20%20%23%20A%20row%20header%20renders%20bold%20already%2C%20so%20the%20primary%20is%20marked%20in%20words%2C%0A%20%20%20%20%20%20%20%20%23%20the%20same%20way%20the%20figure%20panel%20titles%20mark%20it.%0A%20%20%20%20%20%20%20%20head%20%3D%20f%22%3Ccode%3E%7Bc%7D%3C%2Fcode%3E%22%20%2B%20(%22%20(primary)%22%20if%20c%20%3D%3D%20ex.PRIMARY%20else%20%22%22)%0A%20%20%20%20%20%20%20%20return%20(%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%3Ctr%3E%3Cth%3E%7Bhead%7D%3C%2Fth%3E%22%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%3Ctd%20class%3D'num'%3E%7Bm_line(c).mean()%3A.3f%7D%20%3Cspan%20class%3D'range'%3E%C2%B1%7Bm_line(c).std(ddof%3D1)%3A.3f%7D%3C%2Fspan%3E%3C%2Ftd%3E%22%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%3Ctd%20class%3D'num'%3E%7Bm_line(c).mean()%20-%20_CTRL%3A.3f%7D%3C%2Ftd%3E%22%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%3Ctd%20class%3D'num'%3E%7Bfrac%7D%3C%2Ftd%3E%22%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%3Ctd%20class%3D'num'%3E%7Bm_span(c).mean()%3A.3f%7D%3C%2Ftd%3E%22%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%3Ctd%20class%3D'num'%3E%7Bm_op1(c).mean()%3A.3f%7D%3C%2Ftd%3E%22%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%3Ctd%20class%3D'num'%3E%7Ba_span(c).mean()%3A.3f%7D%3C%2Ftd%3E%22%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%3Ctd%20class%3D'num'%3E%7Ba_op1(c).mean()%3A.3f%7D%3C%2Ftd%3E%22%0A%20%20%20%20%20%20%20%20%20%20%20%20f%22%3Ctd%20class%3D'num'%3E%7Bgrading_r2(c)%3A.2f%7D%3C%2Ftd%3E%3C%2Ftr%3E%22%0A%20%20%20%20%20%20%20%20)%0A%0A%20%20%20%20_table%20%3D%20f%22%22%22%0A%20%20%20%20%3Cdiv%20class%3D%22report-table-scroll%22%3E%3Ctable%20class%3D%22report-table%22%3E%0A%20%20%20%20%20%20%3Cthead%3E%3Ctr%3E%0A%20%20%20%20%20%20%20%20%3Cth%3Econdition%3C%2Fth%3E%3Cth%20class%3D%22num%22%3Em%3Csub%3Eline%3C%2Fsub%3E%20%E2%86%91%3C%2Fth%3E%0A%20%20%20%20%20%20%20%20%3Cth%20class%3D%22num%22%3E%E2%88%92%20control%3C%2Fth%3E%3Cth%20class%3D%22num%22%3Eoracle%20frac%3C%2Fth%3E%0A%20%20%20%20%20%20%20%20%3Cth%20class%3D%22num%22%3Em%3Csub%3Espan%3C%2Fsub%3E%3C%2Fth%3E%3Cth%20class%3D%22num%22%3Em%3Csub%3Eop1%3C%2Fsub%3E%3C%2Fth%3E%0A%20%20%20%20%20%20%20%20%3Cth%20class%3D%22num%22%3E%E1%BE%B1%3Csub%3Espan%3C%2Fsub%3E%20%E2%86%93%3C%2Fth%3E%3Cth%20class%3D%22num%22%3E%E1%BE%B1%20(op1)%20%E2%86%93%3C%2Fth%3E%0A%20%20%20%20%20%20%20%20%3Cth%20class%3D%22num%22%3Er%C2%B2%3C%2Fth%3E%0A%20%20%20%20%20%20%3C%2Ftr%3E%3C%2Fthead%3E%0A%20%20%20%20%20%20%3Ctbody%3E%7B%22%22.join(_row(c)%20for%20c%20in%20ANCHORED)%7D%3C%2Ftbody%3E%0A%20%20%20%20%3C%2Ftable%3E%3C%2Fdiv%3E%0A%20%20%20%20%22%22%22%0A%20%20%20%20_caption%20%3D%20f%22%22%22%0A%20%20%20%20The%20anchored%20conditions%2C%20seed%20means%20(%C2%B1%20seed%20standard%20deviation%20on%20the%20scored%20statistic).%20Only%20the%20primary%20(so%20marked)%20is%20gated%3B%20%22oracle%20frac%22%20is%20control-subtracted%20m%3Csub%3Eline%3C%2Fsub%3E%20as%20a%20fraction%20of%20the%20slot%20oracle's%20%7B_ORACLE%3A.3f%7D.%20m%3Csub%3Espan%3C%2Fsub%3E%20and%20m%3Csub%3Eop1%3C%2Fsub%3E%20are%20carried%20for%20continuity%20with%20ex-2.1.9%20(both%20key%20their%20line%20weights%20on%20op1%20alone)%2C%20%E1%BE%B1%3Csub%3Espan%3C%2Fsub%3E%20and%20%E1%BE%B1%20(op1)%20are%20the%20drift%20statistics%2C%20and%20r%C2%B2%20repeats%20the%20grading%20track%20scored%20under%20H3.%0A%20%20%20%20%22%22%22%0A%20%20%20%20mo.Html(figure_html(_table%2C%20caption%3D_caption%2C%20class_%3D%22report-figure%22))%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(a_span%2C%20m_line)%3A%0A%20%20%20%20_P%20%3D%20ex.PRIMARY%0A%20%20%20%20_CTRL%20%3D%20float(m_line(%22lam0%22).mean())%0A%20%20%20%20_frac%20%3D%20(m_line(_P).mean()%20-%20_CTRL)%20%2F%20(m_line(ex.ORACLE_ARM).mean()%20-%20_CTRL)%0A%20%20%20%20_ref_frac%20%3D%20(m_line(ex.REFERENCE_ARM).mean()%20-%20_CTRL)%20%2F%20(m_line(ex.ORACLE_ARM).mean()%20-%20_CTRL)%0A%20%20%20%20mo.md(rf%22%22%22%0A%20%20%20%20**H4%20holds.**%20The%20primary%20delivers%20%7B_frac%3A.0%25%7D%20of%20the%20control-subtracted%20m_line%20of%20the%20oracle%2C%20against%20the%20%7Bex.ORACLE_FRAC_GATE%3A.0%25%7D%20gate.%20That%20is%20level%20with%20the%20oracle%2C%20within%20seed%20noise%20(spreads%20of%20%7Bm_line(_P).std(ddof%3D1)%3A.3f%7D%20and%20%7Bm_line(ex.ORACLE_ARM).std(ddof%3D1)%3A.3f%7D%20on%20conditions%20sharing%20the%20same%20label%20draws).%20The%20latch%20account%20predicted%20roughly%20the%20op1-triggered%20half%20plus%20the%20lexicon%20give-away%2C%20and%20it%20is%20ruled%20out%20twice%20over%3A%20by%20this%20fraction%2C%20and%20by%20the%20H2%20profiles.%0A%0A%20%20%20%20The%20prereg%20allowed%20for%20landing%20at%20or%20above%20the%20oracle%20in%20principle%2C%20since%20the%20oracle%20is%20bound%20to%20the%20operand%20that%20drew%20even%20where%20the%20concept%20has%20migrated%20at%20depth.%20At%20this%20margin%20the%20defensible%20reading%20is%20parity%3A%20knowing%20which%20slot%20triggered%20is%20worth%20nothing%20here%20that%20the%20pool%20cannot%20recover%20on%20its%20own.%0A%0A%20%20%20%20The%20op1-keyed%20arm%20reaches%20only%20%7B_ref_frac%3A.0%25%7D%20of%20the%20oracle%20on%20the%20same%20statistic%2C%20because%20its%20pull%20never%20serves%20the%20op2-triggered%20half%20of%20the%20label%20mass.%20Widening%20the%20labels%20is%20what%20closed%20the%20gap.%0A%0A%20%20%20%20The%20soft-%CF%84%20arms%20*exceed*%20everything%20on%20m_line%20(%7Bm_line(%22either-t500%22).mean()%3A.2f%7D%20at%20%CF%84%20%3D%200.5)%20while%20failing%20every%20other%20instrument%3A%20contrast%20near%20zero%20(H2)%2C%20grading%20down%20by%20~0.2%20(H3(c))%2C%20and%20span%20drift%20%E1%BE%B1_span%20at%20%7Ba_span(%22either-t500%22).mean()%3A.2f%7D%20against%20%7Ba_span(_P).mean()%3A.2f%7D%20for%20the%20primary.%20A%20diffuse%20pull%20aligns%20the%20whole%20span%20of%20labeled-ish%20lines%2C%20and%20a%20margin%20that%20takes%20the%20best%20role%20per%20slice%20rewards%20that%20spread.%20The%20number%20is%20real%2C%20but%20what%20it%20measures%20there%20is%20a%20smeared%2C%20poorly%20graded%20alignment%20rather%20than%20a%20localized%20one.%20The%20exploratory%20section%20returns%20to%20this%20trade.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Exploratory%20analyses%0A%0A%20%20%20%20Nothing%20here%20is%20preregistered%3B%20everything%20in%20this%20section%20is%20post%20hoc.%20The%20four%20questions%20below%20are%20the%20candidates%20the%20preregistration%20queued%2C%20in%20its%20order.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(N_SEEDS%2C%20traj)%3A%0A%20%20%20%20_P%20%3D%20ex.PRIMARY%0A%20%20%20%20_AR%20%3D%20np.mean(%5Btraj(_P%2C%20s%2C%20%22alpha_roles%22)%20for%20s%20in%20range(N_SEEDS%5B_P%5D)%5D%2C%20axis%3D0)%20%20%23%20(K%2C%20slices%2C%20roles)%0A%20%20%20%20_EP%20%3D%20np.mean(%5Btraj(_P%2C%20s%2C%20%22epoch%22)%20for%20s%20in%20range(N_SEEDS%5B_P%5D)%5D%2C%20axis%3D0)%0A%20%20%20%20_SE%20%3D%20np.linspace(0.0%2C%20float(ex.SCHEDULER.epochs)%2C%20601)%0A%20%20%20%20_ANTI%20%3D%20ex.anti_subspace_weight(_SE)%0A%0A%20%20%20%20%40themed(%0A%20%20%20%20%20%20%20%20name%3D%22role-drift%22%2C%0A%20%20%20%20%20%20%20%20alt_text%3D%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20Two%20panels%20sharing%20an%20epoch%20axis%20from%200%20to%20100%20and%20an%20alignment%20axis%20from%20about%20-0.1%20to%200.45%2C%20with%20the%20repulsion%20schedule%20shaded%20faintly%20behind%20each.%20Left%20panel%2C%20the%20embedding%20slice%3A%20the%20equals%20and%20plus%20curves%20rise%20to%20about%200.13%20by%20epoch%2015%2C%20hold%20flat%20to%20epoch%2035%2C%20then%20climb%20to%200.40%20and%200.28%20respectively%20by%20epoch%2090%3B%20op1%20and%20op2%20dip%20to%20about%20-0.12%20near%20epoch%208%20and%20return%20to%20within%20a%20few%20hundredths%20of%20zero.%20Right%20panel%2C%20the%20last%20slice%3A%20op1%20and%20op2%20rise%20gently%20to%200.15%20and%200.12%20while%20plus%20and%20equals%20stay%20near%20zero.%0A%20%20%20%20%20%20%20%20%22%22%22%2C%0A%20%20%20%20%20%20%20%20caption%3Dr%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20**Unweighted%20drift%20by%20role%2C%20over%20training%20(primary%2C%20seed%20mean).**%20%24%5Cbar%5Calpha(%5Cell%2C%20t)%24%20over%20all%20216%20colors%20at%20the%20embedding%20slice%20(**left**)%20and%20the%20last%20slice%20(**right**)%2C%20one%20curve%20per%20span%20role%3B%20the%20shaded%20band%20is%20the%20repulsion%20weight%20%24%5Clambda_%7B%5Cbar%7B%5Cmathrm%7Bs%7D%7D%7D%24%20on%20its%20own%20scale%2C%20for%20timing.%20The%20trajectory%20instrument%20reads%20one%20line%20per%20color%2C%20as%20in%20the%20dynamics%20figure.%0A%20%20%20%20%20%20%20%20%22%22%22%2C%0A%20%20%20%20)%0A%20%20%20%20def%20_plot()%20-%3E%20plt.Figure%3A%0A%20%20%20%20%20%20%20%20from%20mini.vis%20import%20AxesRow%0A%0A%20%20%20%20%20%20%20%20_role_ink%20%3D%20%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20light_dark(%22%23a02040%22%2C%20%22%23d06080%22)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20light_dark(%22%232a9d8f%22%2C%20%22%235fc9bd%22)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20light_dark(%22%23b4531f%22%2C%20%22%23dd8f5f%22)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20light_dark(%22%237b3fa0%22%2C%20%22%23b98ce0%22)%2C%0A%20%20%20%20%20%20%20%20%5D%0A%20%20%20%20%20%20%20%20_grey%20%3D%20light_dark(%22%23666%22%2C%20%22%23999%22)%0A%20%20%20%20%20%20%20%20fig%2C%20axes%20%3D%20plt.subplots(1%2C%202%2C%20figsize%3D(7.2%2C%202.6)%2C%20sharex%3DTrue%2C%20sharey%3DTrue%2C%20layout%3D%22constrained%22)%0A%20%20%20%20%20%20%20%20axes%20%3D%20cast(AxesRow%2C%20axes)%0A%20%20%20%20%20%20%20%20for%20ax%2C%20sl%2C%20title%20in%20zip(axes%2C%20(0%2C%204)%2C%20(%22embedding%20slice%22%2C%20%22last%20slice%22)%2C%20strict%3DTrue)%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20ax.fill_between(_SE%2C%20_ANTI%20%2F%20_ANTI.max()%20*%200.45%2C%20color%3D_grey%2C%20alpha%3D0.10%2C%20lw%3D0%2C%20zorder%3D0)%0A%20%20%20%20%20%20%20%20%20%20%20%20for%20t%20in%20range(ex.SPAN)%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20ax.plot(_EP%2C%20_AR%5B%3A%2C%20sl%2C%20t%5D%2C%20color%3D_role_ink%5Bt%5D%2C%20lw%3D1.4%2C%20label%3Dex.ROLES%5Bt%5D)%0A%20%20%20%20%20%20%20%20%20%20%20%20ax.axhline(0%2C%20color%3D_grey%2C%20lw%3D0.5%2C%20alpha%3D0.4%2C%20zorder%3D1)%0A%20%20%20%20%20%20%20%20%20%20%20%20ax.set_title(title%2C%20fontsize%3D%22small%22%2C%20color%3D_grey)%0A%20%20%20%20%20%20%20%20%20%20%20%20ax.set_xlabel(%22epoch%22%2C%20fontsize%3D%22x-small%22)%0A%20%20%20%20%20%20%20%20%20%20%20%20ax.tick_params(labelsize%3D8)%0A%20%20%20%20%20%20%20%20axes%5B0%5D.set_ylabel(r%22%24%5Cbar%5Calpha%24%20(all%20colors)%22%2C%20fontsize%3D%22x-small%22)%0A%20%20%20%20%20%20%20%20axes%5B1%5D.legend(fontsize%3D%22x-small%22%2C%20frameon%3DFalse%2C%20ncols%3D2%2C%20loc%3D%22upper%20left%22)%0A%20%20%20%20%20%20%20%20return%20fig%0A%0A%20%20%20%20mo.Html(_plot())%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(N_SEEDS%2C%20R1%2C%20R2%2C%20arrays%2C%20contrast%2C%20grading_r2%2C%20traj)%3A%0A%20%20%20%20_P%20%3D%20ex.PRIMARY%0A%20%20%20%20_AR%20%3D%20np.mean(%5Btraj(_P%2C%20s%2C%20%22alpha_roles%22)%20for%20s%20in%20range(N_SEEDS%5B_P%5D)%5D%2C%20axis%3D0)%0A%20%20%20%20_EP%20%3D%20np.mean(%5Btraj(_P%2C%20s%2C%20%22epoch%22)%20for%20s%20in%20range(N_SEEDS%5B_P%5D)%5D%2C%20axis%3D0)%0A%20%20%20%20_at%20%3D%20lambda%20e%3A%20_AR%5Bint(np.searchsorted(_EP%2C%20e))%5D%20%20%23%20noqa%3A%20E731%0A%0A%20%20%20%20%23%20Per-line%20weight%20concentration%20at%20the%20last%20slice%2C%20and%20the%20both-red%20profile.%0A%20%20%20%20_line_p%20%3D%20np.asarray(ex.line_label_p(R1%2C%20R2))%0A%20%20%20%20_LW%20%3D%20_line_p%20%2F%20_line_p.sum()%0A%20%20%20%20_pb%20%3D%20np.asarray(ex.p_slot(R1))%20*%20np.asarray(ex.p_slot(R2))%0A%20%20%20%20_BOTH%20%3D%20_pb%20%2F%20_pb.sum()%0A%20%20%20%20_lead_mass%2C%20_split_mass%2C%20_both4%20%3D%20%5B%5D%2C%20%5B%5D%2C%20%5B%5D%0A%20%20%20%20for%20_s%20in%20range(N_SEEDS%5B_P%5D)%3A%0A%20%20%20%20%20%20%20%20_w4%20%3D%20arrays%5Bf%22%7B_P%7D-s%7B_s%7D%2Fw_line%22%5D%5B4%5D%20%20%23%20(lines%2C%20roles)%0A%20%20%20%20%20%20%20%20_lead%20%3D%20_w4.max(axis%3D1)%0A%20%20%20%20%20%20%20%20_lead_mass.append(float(np.einsum(%22n%2Cn-%3E%22%2C%20_LW%2C%20(_lead%20%3E%200.9).astype(float))))%0A%20%20%20%20%20%20%20%20_ops%20%3D%20_w4%5B%3A%2C%20%5B0%2C%202%5D%5D%0A%20%20%20%20%20%20%20%20_split_mass.append(float(np.einsum(%22n%2Cn-%3E%22%2C%20_BOTH%2C%20(np.abs(_ops%5B%3A%2C%200%5D%20-%20_ops%5B%3A%2C%201%5D)%20%3C%200.2).astype(float))))%0A%20%20%20%20%20%20%20%20_both4.append(np.einsum(%22n%2Cnt-%3Et%22%2C%20_BOTH%2C%20_w4))%0A%20%20%20%20_both_emb%20%3D%20np.mean(%0A%20%20%20%20%20%20%20%20%5Bnp.einsum(%22n%2Cnt-%3Et%22%2C%20_BOTH%2C%20arrays%5Bf%22%7B_P%7D-s%7B_s%7D%2Fw_line%22%5D%5B0%5D)%20for%20_s%20in%20range(N_SEEDS%5B_P%5D)%5D%2C%20axis%3D0%0A%20%20%20%20)%0A%20%20%20%20_both_deep%20%3D%20np.mean(_both4%2C%20axis%3D0)%0A%0A%20%20%20%20mo.md(rf%22%22%22%0A%20%20%20%20**When%20the%20syntax%20embeddings%20drift%20(queued%20by%20ex-2.1.9).**%20Ex-2.1.9%20could%20see%20that%20the%20%60%2B%60%20embedding%20ended%20near%200.30%20alignment%2C%20but%20not%20when.%20The%20per-role%20trajectory%20shows%20the%20drift%20occurs%20late.%20At%20epoch%2030%20the%20two%20syntax%20embeddings%20sit%20at%20%7B_at(30)%5B0%2C%201%5D%3A.2f%7D%20(%60%2B%60)%20and%20%7B_at(30)%5B0%2C%203%5D%3A.2f%7D%20(%60%3D%60).%20The%20drift%20accrues%20through%20epochs%2030%E2%80%9390%20as%20the%20repulsion%20anneals%20toward%20the%20hold%20ratio%2C%20reaching%20%7B_at(90)%5B0%2C%201%5D%3A.2f%7D%20and%20%7B_at(90)%5B0%2C%203%5D%3A.2f%7D%2C%20and%20the%20end-of-training%20anneal%20of%20the%20anchor%20recovers%20none%20of%20it.%20So%20the%20syntax%20drift%20is%20bought%20against%20the%20*weakening*%20repulsion%2C%20and%20in%20this%20experiment%20%60%3D%60%20is%20the%20larger%20of%20the%20two%3B%20%60%3D%60%20sits%20outside%20the%20labelled%20operands%20but%20inside%20the%20pulled%20span.%0A%0A%20%20%20%20At%20depth%20the%20picture%20inverts.%20The%20operand%20roles%20carry%20the%20residual%20drift%20(%7B_at(100)%5B4%2C%200%5D%3A.2f%7D%20at%20op1%2C%20%7B_at(100)%5B4%2C%202%5D%3A.2f%7D%20at%20op2)%20and%20the%20syntax%20roles%20carry%20none%2C%20and%20that%20is%20where%20the%20containment%20gate%20of%20H3(a)%20reads%20and%20passes.%0A%0A%20%20%20%20**Is%20the%20deep%20choice%20still%20one-hot%3F%20(per-line%20weight%20entropy.)**%20Yes%2C%20per%20line.%20On%20the%20label-weighted%20probe%20mass%2C%20the%20leading%20role%20at%20the%20last%20slice%20holds%20over%200.9%20of%20the%20weight%20of%20a%20line%20on%20%7Bnp.mean(_lead_mass)%3A.0%25%7D%20of%20the%20mass%20(seed%20range%20%7Bmin(_lead_mass)%3A.0%25%7D%E2%80%93%7Bmax(_lead_mass)%3A.0%25%7D).%20The%20un-labelled%20bulk%20stays%20near%20uniform%2C%20since%20a%20flat%20alignment%20profile%20gives%20the%20softmin%20nothing%20to%20concentrate%20on.%20The%20winner-take-all%20behavior%20of%20ex-2.1.9%20survives%20the%20wider%20labels%20in%20the%20form%20H2%20requires%3A%20committed%20within%20a%20line%2C%20varying%20across%20lines.%0A%0A%20%20%20%20**The%20both-red%20lines.**%20Where%20both%20operands%20are%20red%2C%20either%20answer%20is%20defensible%2C%20and%20the%20pool%20declines%20to%20choose%3A%20at%20the%20embedding%20the%20both-draw-weighted%20profile%20splits%20%7B_both_emb%5B0%5D%3A.2f%7D%2F%7B_both_emb%5B2%5D%3A.2f%7D%20between%20the%20operands%20(forced%20by%20the%20shared%20lexicon)%2C%20and%20at%20the%20last%20slice%20it%20still%20spreads%3A%20op1%20%7B_both_deep%5B0%5D%3A.2f%7D%2C%20op2%20%7B_both_deep%5B2%5D%3A.2f%7D%2C%20%60%3D%60%20%7B_both_deep%5B3%5D%3A.2f%7D%2C%20with%20%7Bnp.mean(_split_mass)%3A.0%25%7D%20of%20the%20both-draw%20mass%20within%200.2%20of%20an%20even%20operand%20split.%20These%20lines%20are%20%7B_pb.sum()%20%2F%20_line_p.sum()%3A.1%25%7D%20of%20the%20label%20mass%2C%20so%20nothing%20above%20turns%20on%20them.%20They%20preview%20the%20M3%20case%20where%20a%20document%20holds%20the%20concept%20in%20several%20places%20at%20once.%0A%0A%20%20%20%20**The%20soft-%CF%84%20trade.**%20Across%20the%20ladder%2C%20localization%20and%20grading%20fall%20together%20while%20m_line%20rises%3A%20contrast%20%7B%22%20%E2%86%92%20%22.join(f%22%7Bcontrast(c).mean()%3A.2f%7D%22%20for%20c%20in%20ex.EITHER_NAMES)%7D%20and%20%24r%5E2%24%20%7B%22%20%E2%86%92%20%22.join(f%22%7Bgrading_r2(c)%3A.2f%7D%22%20for%20c%20in%20ex.EITHER_NAMES)%7D%20as%20%CF%84%20goes%20%7B%22%20%E2%86%92%20%22.join(f%22%7Bt%3Ag%7D%22%20for%20t%20in%20ex.TAUS)%7D%2C%20with%20m_line%20highest%20at%20the%20diffuse%20end%20(the%20H4%20table).%20A%20nearly-mean%20pull%20does%20still%20buy%20line-keyed%20*margin*%2C%20in%20that%20the%20spans%20of%20labeled%20lines%20align%20more%20than%20the%20bulk.%20But%20it%20localizes%20barely%20at%20all%20once%20the%20label%20stops%20pointing%2C%20and%20what%20it%20aligns%20is%20poorly%20graded.%20For%20M3%2C%20a%20margin%20statistic%20alone%20cannot%20distinguish%20localized%20selectivity%20from%20smeared%20selectivity%2C%20so%20it%20needs%20the%20group%20contrast%20and%20the%20grading%20track%20beside%20it.%20The%20rungs%20are%20far%20apart%2C%20though%3A%20everything%20between%20the%20first%20two%20is%20unmeasured%2C%20so%20where%20the%20trade%20turns%2C%20and%20how%20sharply%2C%20is%20open.%20A%20finer%20ladder%20near%20%CF%84%20%3D%200.1%20is%20queued%20in%20the%20science%20backlog.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(N_SEEDS%2C%20alpha_map%2C%20arrays)%3A%0A%20%20%20%20%23%20The%20grading%20statistic%20taken%20apart%2C%20for%20the%20review%20round's%20two%20questions%3A%0A%20%20%20%20%23%20does%20the%20per-color%20r%C2%B2%20score%20the%20soft%20arms%20down%20only%20because%20the%20reference%0A%20%20%20%20%23%20line%20zig-zags%2C%20and%20why%20does%20every%20response%20curve%20flatten%20near%20the%20pole%3F%0A%20%20%20%20_T%20%3D%20ex.SIM_TARGET%0A%20%20%20%20_RL%20%3D%20np.round(ex.REDNESS%2C%206)%0A%20%20%20%20_IX%20%3D%20%5Bnp.where(_RL%20%3D%3D%20_lv)%5B0%5D%20for%20_lv%20in%20np.unique(_RL)%5D%0A%20%20%20%20_QUOTED%20%3D%20%5B*ex.EITHER_NAMES%2C%20ex.REFERENCE_ARM%2C%20ex.ORACLE_ARM%5D%0A%0A%20%20%20%20def%20_r2(a%3A%20np.ndarray%2C%20b%3A%20np.ndarray)%20-%3E%20float%3A%0A%20%20%20%20%20%20%20%20return%20float(np.corrcoef(a%2C%20b)%5B0%2C%201%5D%20**%202)%0A%0A%20%20%20%20def%20_slide2(y%3A%20np.ndarray)%20-%3E%20np.ndarray%3A%0A%20%20%20%20%20%20%20%20%22%22%22Mean%20over%20a%20sliding%20window%20of%20two%20adjacent%20redness%20levels.%22%22%22%0A%20%20%20%20%20%20%20%20return%20np.convolve(np.array(%5By%5Bix%5D.mean()%20for%20ix%20in%20_IX%5D)%2C%20%5B0.5%2C%200.5%5D%2C%20mode%3D%22valid%22)%0A%0A%20%20%20%20_RESP%20%3D%20%7Bc%3A%20alpha_map(c)%5B%3A%2C%20%3A%2C%200%5D.mean(axis%3D0)%20for%20c%20in%20_QUOTED%7D%0A%20%20%20%20_SLIDE%20%3D%20%7Bc%3A%20_r2(_slide2(_y)%2C%20_slide2(_T))%20for%20c%2C%20_y%20in%20_RESP.items()%7D%0A%0A%20%20%20%20def%20_within_share(c%3A%20str)%20-%3E%20float%3A%0A%20%20%20%20%20%20%20%20%22%22%22The%20within-redness-level%20share%20of%20the%20residual%20variance%20about%20the%20affine%20sim%C2%B9%C2%B7%E2%81%B5%20fit.%22%22%22%0A%20%20%20%20%20%20%20%20_y%20%3D%20_RESP%5Bc%5D%0A%20%20%20%20%20%20%20%20_res%20%3D%20_y%20-%20np.polyval(np.polyfit(_T%2C%20_y%2C%201)%2C%20_T)%0A%20%20%20%20%20%20%20%20_win%20%3D%20sum(float(((_res%5Bix%5D%20-%20_res%5Bix%5D.mean())%20**%202).sum())%20for%20ix%20in%20_IX)%0A%20%20%20%20%20%20%20%20return%20_win%20%2F%20float(((_res%20-%20_res.mean())%20**%202).sum())%0A%0A%20%20%20%20def%20_within_r2(c%3A%20str)%20-%3E%20float%3A%0A%20%20%20%20%20%20%20%20%22%22%22How%20much%20of%20the%20reference's%20within-level%20variation%20the%20response%20tracks.%22%22%22%0A%20%20%20%20%20%20%20%20_y%20%3D%20_RESP%5Bc%5D%0A%20%20%20%20%20%20%20%20_da%20%3D%20np.concatenate(%5B_y%5Bix%5D%20-%20_y%5Bix%5D.mean()%20for%20ix%20in%20_IX%20if%20len(ix)%20%3E%201%5D)%0A%20%20%20%20%20%20%20%20_dt%20%3D%20np.concatenate(%5B_T%5Bix%5D%20-%20_T%5Bix%5D.mean()%20for%20ix%20in%20_IX%20if%20len(ix)%20%3E%201%5D)%0A%20%20%20%20%20%20%20%20return%20_r2(_da%2C%20_dt)%0A%0A%20%20%20%20def%20_seed_noise_share(c%3A%20str)%20-%3E%20float%3A%0A%20%20%20%20%20%20%20%20%22%22%22Seed%20noise%20in%20the%20seed-mean%20response%2C%20as%20a%20share%20of%20its%20residual%20variance.%22%22%22%0A%20%20%20%20%20%20%20%20_per%20%3D%20np.stack(%5Barrays%5Bf%22%7Bc%7D-s%7Bs%7D%2Falpha%22%5D%5B%3A%2C%20%3A%2C%200%5D.mean(axis%3D0)%20for%20s%20in%20range(N_SEEDS%5Bc%5D)%5D)%0A%20%20%20%20%20%20%20%20_res%20%3D%20_RESP%5Bc%5D%20-%20np.polyval(np.polyfit(_T%2C%20_RESP%5Bc%5D%2C%201)%2C%20_T)%0A%20%20%20%20%20%20%20%20return%20float(_per.var(axis%3D0%2C%20ddof%3D1).mean()%20%2F%20len(_per)%20%2F%20_res.var())%0A%0A%20%20%20%20%23%20Per-slice%20shape%20of%20the%20primary's%20response%2C%20for%20the%20flattening%20question.%0A%20%20%20%20_PS%20%3D%20alpha_map(ex.PRIMARY)%5B%3A%2C%20%3A%2C%200%5D%20%20%23%20(slices%2C%20colors)%2C%20seed%20mean%0A%20%20%20%20_ORD%20%3D%20np.argsort(-ex.REDNESS)%0A%0A%20%20%20%20def%20_top(y%3A%20np.ndarray)%20-%3E%20float%3A%0A%20%20%20%20%20%20%20%20%22%22%22Top-of-curve%20steepness%3A%20the%20three%20reddest%20colors'%20mean%20over%20the%20next%20nine's.%22%22%22%0A%20%20%20%20%20%20%20%20return%20float(y%5B_ORD%5B%3A3%5D%5D.mean()%20%2F%20y%5B_ORD%5B3%3A12%5D%5D.mean())%0A%0A%20%20%20%20mo.md(rf%22%22%22%0A%20%20%20%20**Does%20the%20per-color%20%24r%5E2%24%20score%20the%20soft%20arms%20down%20only%20because%20the%20reference%20zig-zags%3F%20(queued%20by%20the%20review%20round.)**%20No%20%E2%80%94%20what%20separates%20them%20is%20per-color%20scatter%2C%20though%20the%20conditional-mean%20reading%20does%20fit%20them%20best%3A%20smoothing%20both%20curves%20over%20a%20sliding%20window%20of%20two%20redness%20levels%20and%20correlating%20puts%20the%20soft%20arms%20ahead%2C%20at%20%24r%5E2%24%20%7B_SLIDE%5B%22either-t500%22%5D%3A.2f%7D%20and%20%7B_SLIDE%5B%22either-t2500%22%5D%3A.2f%7D%20against%20%7B_SLIDE%5Bex.PRIMARY%5D%3A.2f%7D%20for%20the%20primary%20and%20%7B_SLIDE%5Bex.ORACLE_ARM%5D%3A.2f%7D%20for%20the%20oracle%2C%20matching%20the%20conditional-mean%20lines%20in%20the%20grading%20figure.%20The%20zig-zag%20itself%20is%20unrelated%20to%20the%20frozen%20statistic%2C%20which%20is%20computed%20per%20color%20with%20no%20binning%2C%20and%20no%20condition%20recovers%20it%3A%20every%20response%20tracks%20the%20reference's%20within-level%20variation%20at%20%24r%5E2%24%20%E2%89%A4%20%7Bmax(_within_r2(c)%20for%20c%20in%20_QUOTED)%3A.2f%7D.%0A%0A%20%20%20%20What%20separates%20the%20soft%20arms%20is%20scatter%2C%20not%20the%20zig-zag%3A%20within-level%20scatter%20carries%20%7B_within_share(%22either-t500%22)%3A.0%25%7D%20and%20%7B_within_share(%22either-t2500%22)%3A.0%25%7D%20of%20their%20residual%20variance%20about%20the%20affine%20%60sim%C2%B9%C2%B7%E2%81%B5%60%20fit%2C%20against%20%7B_within_share(ex.PRIMARY)%3A.0%25%7D%20for%20the%20primary.%20Seed%20noise%20accounts%20for%20only%20%7B_seed_noise_share(%22either-t500%22)%3A.0%25%7D%20of%20that%20residual%2C%20so%20the%20deviations%20are%20stable%20properties%20of%20the%20pull%20at%20that%20%CF%84%2C%20reproducing%20across%20seeds.%0A%0A%20%20%20%20The%20two%20readings%20disagree%20because%20they%20measure%20different%20things%3A%20a%20soft%20pull%20grades%20the%20population%20of%20colors%20as%20a%20whole%20while%20giving%20individual%20colors%20alignments%20their%20redness%20does%20not%20predict.%20For%20intervention%20the%20per-color%20reading%20is%20the%20one%20that%20matters%20%E2%80%94%20a%20mis-scored%20color%20would%20respond%20to%20a%20later%20intervention%20as%20if%20it%20were%20redder%20than%20it%20is%20%E2%80%94%20so%20M3%20should%20carry%20both%3B%20only%20the%20pair%20separates%20graded-on-average%20from%20graded%20color%20by%20color.%0A%0A%20%20%20%20**Why%20every%20curve%20flattens%20near%20the%20pole%20(queued%20by%20the%20review%20round).**%20%60sim%C2%B9%C2%B7%E2%81%B5%60%20steepens%20toward%20redness%201%2C%20but%20the%20responses%20compress%20instead.%20The%20primary's%20per-slice%20profiles%20show%20where%3A%20at%20the%20embedding%20the%20response%20is%20*steeper*%20than%20the%20reference%20(three%20reddest%20colors%20%7B_top(_PS%5B0%5D)%3A.1f%7D%C3%97%20above%20the%20next%20nine%2C%20against%20%7B_top(_T)%3A.2f%7D%C3%97%20for%20%60sim%C2%B9%C2%B7%E2%81%B5%60)%3B%20in%20mid-stack%20the%20top%20of%20the%20scale%20runs%20out%20of%20cosine%20(pure%20red%20reaches%20%E2%89%88%20%7Bfloat(_PS%5B1%3A4%2C%20_ORD%5B0%5D%5D.mean())%3A.2f%7D%2C%20next%20tier%20only%20%7B_top(_PS%5B2%5D)%3A.2f%7D%C3%97%20below%20it%20where%20the%20reference%20calls%20for%20%7B_top(_T)%3A.2f%7D%C3%97)%3B%20and%20at%20the%20last%20slice%20the%20red%20state%20rotates%20partly%20away%20(%7Bfloat(_PS%5B4%2C%20_ORD%5B0%5D%5D)%3A.2f%7D)%20as%20it%20comes%20to%20encode%20the%20mix.%0A%0A%20%20%20%20Averaged%20over%20layers%20%E2%80%94%20steep%20start%2C%20saturated%20middle%2C%20rotated%20end%20%E2%80%94%20that%20is%20a%20curve%20with%20a%20compressed%20top%20(%7B_top(_PS.mean(axis%3D0))%3A.2f%7D%C3%97%20overall)%3A%20the%20flattening%20is%20the%20readout%20saturating.%20Near%20the%20pole%20there%20is%20no%20headroom%2C%20so%20colors%20pulled%20often%20enough%20land%20at%20the%20same%20ceiling%2C%20and%20whatever%20keeps%20them%20distinguishable%20for%20the%20task%20lives%20in%20directions%20orthogonal%20to%20the%20axis%20%E2%80%94%20which%20in%20%24d%20%3D%2064%24%20costs%20almost%20no%20cosine.%20That%20is%20the%20shape%20to%20expect%20of%20a%20strongly%20anchored%20top%20of%20the%20scale%2C%20and%20the%20graded%20part%20of%20the%20response%20lives%20below%20it.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Discussion%0A%0A%20%20%20%20The%20doubt%20ex-2.1.9%20could%20not%20settle%20%E2%80%94%20that%20the%20pooled%20pull's%20clean%20localization%20was%20inherited%20from%20labels%20that%20always%20pointed%20at%20op1%20%E2%80%94%20is%20settled%3A%20removing%20the%20pointer%20changed%20nothing%20an%20oracle%20could%20improve%20on%20(H4).%20So%20for%20M3%2C%20where%20document-level%20labels%20do%20not%20point%2C%20the%20burden%20of%20localization%20can%20sit%20on%20the%20loss%20side%3A%20label-side%20help%20%E2%80%94%20EM-style%20responsibilities%2C%20attention-derived%20position%20weights%20%E2%80%94%20drops%20from%20%22probably%20needed%22%20to%20a%20contingency%20for%20harder%20settings.%0A%0A%20%20%20%20The%20qualification%20is%20how%20easy%20this%20testbed%20makes%20the%20per-line%20problem%3A%20two%20candidate%20positions%2C%20a%20lexicon%20shared%20by%20both%2C%20each%20operand's%20color%20legible%20at%20its%20own%20position%20(the%20scope%20limit%20in%20the%20introduction)%2C%20and%20multi-site%20lines%20rare%20enough%20that%20nothing%20gated%20turns%20on%20them.%20Parity%20with%20the%20oracle%20therefore%20reads%20as%3A%20pooling%20suffices%20when%20the%20concept%20is%20findable%20line%20by%20line.%20That%20is%20the%20default%20M3%20should%20start%20from%3B%20the%20queued%20grammar%20extensions%20are%20what%20would%20stress%20it%20as%20documents%20get%20longer%20and%20sites%20more%20numerous.%0A%0A%20%20%20%20The%20remaining%20risk%20lives%20in%20the%20operating%20point%2C%20%CF%84.%20A%20margin-guided%20search%20over%20%CF%84%20would%20walk%20to%20the%20smeared%20end%20and%20report%20success%20(the%20soft-%CF%84%20trade%2C%20in%20Exploratory)%2C%20so%20selectivity%20in%20M3%20needs%20reading%20as%20a%20triple%20of%20margin%2C%20group%20contrast%2C%20and%20per-color%20grading%20%E2%80%94%20with%20both%20grading%20readings%20in%20the%20instrument%20set%2C%20since%20only%20the%20per-color%20one%20feels%20the%20failure%20an%20intervention%20would.%20A%20finer%20%CF%84%20ladder%20near%20the%20primary%20is%20queued%3B%20everything%20between%20the%20first%20two%20rungs%20is%20unmeasured.%0A%0A%20%20%20%20For%20D2.1%20the%20chain%20is%20now%20complete%3A%20a%20span%20pull%20broadcasts%20(ex-2.1.6)%2C%20the%20repulsion%20schedule%20sets%20a%20workable%20operating%20point%20(ex-2.1.8)%2C%20mellowmax%20pooling%20localizes%20the%20pull%20within%20a%20labeled%20span%20(ex-2.1.9)%2C%20and%20the%20localization%20does%20not%20depend%20on%20the%20labels%20saying%20where%20(this%20experiment).%20The%20close-out%20claim%20this%20leaves%20D2.1%20with%3A%20in%20the%20residual%20stream%20of%20a%20small%20transformer%2C%20anchoring%20works%20under%20labels%20that%20say%20only%20*that*%20a%20concept%20occurs%2C%20at%20no%20measurable%20task%20cost%2C%20with%20containment%2C%20retention%20and%20grading%20at%20the%20level%20of%20the%20op1-keyed%20reference%2C%20and%20at%20selectivity%20parity%20with%20an%20oracle%20told%20where%20the%20concept%20sits.%20The%20bounds%20of%20the%20claim%20are%20those%20of%20the%20testbed%3A%20one%20synthetic%20task%2C%20one%20concept%2C%20one%20architecture%20size%2C%20and%20labels%20drawn%20fresh%20at%20every%20visit.%20The%20fixed-label%20variant%20and%20the%20document-shaped%20pull%2C%20a%20span%20that%20includes%20the%20answer%2C%20are%20the%20D2.1%20items%20still%20open%20ahead%20of%20D2.2.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0Aif%20__name__%20%3D%3D%20%22__main__%22%3A%0A%20%20%20%20app.run()%0A
f9217f0b113bdcfa30d5fc6454eb0bd9