ASM-R · Arquitetura principal
Relational State Model
Transição contextual direta condicionada por geometria relacional. Arquitetura principal promovida para qualidade por token entre as variantes ASM.
Treinamento · 100M tokens
Métricas congeladas
Três seeds até 100M tokens; CE médio e desvio-padrão populacional. Throughput medido na seed 1. Resultados experimentais, específicos da configuração medida e não uma alegação geral.
- Parâmetros
- 83.206.400
- CE final
- 1,344538 ± 0,000561
- Perplexidade
- 3,8334–3,8382
- Throughput
- 16.573 tok/s
Vantagens e possibilidades
Onde esta variante pode fazer diferença
Aplicações potenciais são hipóteses de pesquisa. Somente itens marcados como observados foram medidos nos experimentos publicados.
Qualidade por token
Foi a variante ASM com menor CE em 100M e repetiu o resultado em três seeds.
Estado relacional persistente
Combina transição direta, métrica relacional e memória seletiva sem consultar todo o prefixo por attention.
Modelagem sequencial geral
Pode ser investigado em linguagem, séries temporais e sinais multimodais que possam ser codificados como uma sequência causal.
Presentes
Componentes ativos
- Estado persistente
- Transição contextual direta
- Naturalização por métrica
- Mixer causal
- Memória seletiva
Removidos ou substituídos
Decisões de ablação
- Campo direcional explícito
- Gates de dimensão ativa
Uso indicado
Pesquisa e avaliação controlada
Arquitetura de referência para scaling, qualidade por token e novos experimentos de CE, contexto e geração.
Não destinado a decisões de alto impacto nem apresentado como assistente pronto para produção.