文章通过控制训练数据量和语言接触顺序，研究双语语言模型中共享语法表征的形成机制。实验采用结构启动范式，测量模型在语法结构匹配时的句子生成概率差异。研究发现：跨语言启动存在不对称性，英语作为目标语言时启动效应最强，与L1/L2状态无关；语言相似性显著影响共享表征强度，英语-荷兰语对的启动效应比英语-希腊语对强46%；模型接触第二语言600步后即出现稳定启动效应，且灾难性遗忘下相似语言对的表征共享仍可保持。这些发现揭示了跨语言迁移的认知机制边界
多语言模型通过跨语言共享表征实现知识迁移，但其形成机制尚未明确。文章提出将语言模型作为“模式生物”，通过控制训练变量探究双语表征获取过程。核心研究问题包括：跨语言结构启动的不对称性是否源于语言接触顺序？语言相似性如何影响共享语法表征的形成？模型训练动态如何反映表征获取过程？
构建16个124M参数的GPT-2双语模型，控制三个变量：语言对（英语-荷兰语/西班牙语/波兰语/希腊语）、接触顺序（英语L1或L2）、双语条件（同步或序列）。同步双语模型前半程仅训练L1，后半程混合训练L1/L2；序列双语模型后半程仅训练L2。训练数据采用去重OSCAR语料，每种语言采样20亿token。
采用心理语言学实验范式，测量语法结构匹配对目标句概率的提升效应：
\[ P_N(T_{PO}|P_{PO}) = \frac{P(T_{PO}|P_{PO})}{P(T_{PO}|P_{PO}) + P(T_{DO}|P_{PO})} \]
对比匹配启动句（如介词宾语PO结构）与不匹配启动句（如双宾语DO结构）的条件概率差异。实验涵盖三类语法交替：双宾语/介词宾语、属格结构、主动/被动语态，使用五套跨语言刺激材料。
当英语作为目标语言时，结构启动效应显著更强。在英语-荷兰语对中，匹配条件使目标句概率平均提升0.23，而荷兰语作为目标语时仅提升0.11。此现象独立于英语的L1/L2状态，表明人类实验观察到的L1→L2启动优势可能源于英语作为目标语的特性，而非习得顺序。
语言类型相似度决定共享表征强度：英语-荷兰语（相似度高）的启动效应比英语-希腊语（相似度低）强46%。在序列双语模型中，灾难性遗忘后荷兰语仍保持87%的启动效应，而希腊语完全消失。形态标记丰富的语言（如希腊语）因词序自由度更高，语法表征共享更困难。
结构启动效应在接触L2后600步（490万token）即稳定出现，与L2熟练度提升同步。同步双语模型中启动效应随BLiMP语法得分同步增长；序列双语模型虽经历L1灾难性遗忘（L1惊异值上升38%），但语言相似度高时仍保留跨语言启动能力，表明共享语法表征具有鲁棒性。
研究为跨语言迁移提供三方面启示：首先，英语作为目标语的优势效应呼吁重新解释人类双语启动实验；其次，语言相似性制约迁移效果，建议低资源语言优先选择相似语言的预训练模型；最后，小规模模型的受控实验为认知理论提供新验证途径。未来需扩展非印欧语系研究，并探索模型规模对表征共享的影响。