ASM-C · Streaming experimental
Compact State Model
Forma de inferência streaming compacta do ASM-R. Reutiliza os mesmos pesos e limita o estado incremental a um bloco local e ao estado causal concluído.
Inferência · até 32K tokens
Streaming compacto validado
Medições CUDA na RTX 4090 com o checkpoint ASM-R seed 1 de 100M tokens; não houve novo treinamento de linguagem. Resultados experimentais, específicos da configuração medida e não uma alegação geral.
- Cache retido
- 6.144 bytes
- Pico de VRAM
- 387,53 MiB
- Throughput em 32K
- 503,4 tok/s
- Retenção 4K→32K
- 99,6%
Vantagens e possibilidades
Onde esta variante pode fazer diferença
Aplicações potenciais são hipóteses de pesquisa. Somente itens marcados como observados foram medidos nos experimentos publicados.
Streaming de custo estável
Manteve cache, pico de VRAM e throughput praticamente constantes até 32K tokens na configuração medida.
Processamento contínuo
O estado incremental não retém o prefixo completo, favorecendo fluxos potencialmente muito longos.
Áudio, vídeo e sensores longos
Com tokenização multimodal, treinamento específico e memória eficaz, poderia processar streams extensos sem guardar todos os frames ou amostras. Geração de vídeo não foi testada.
Presentes
Componentes ativos
- Pesos e transição do ASM-R
- Estado causal concluído
- Bloco local limitado
- Emitter somente no último estado
- Cache sem o prefixo completo
Removidos ou substituídos
Decisões de ablação
- Recomputação do prefixo completo
- Ativações proporcionais ao prefixo
Uso indicado
Pesquisa e avaliação controlada
Investigar inferência contínua com cache e memória operacional limitados em sequências longas.
Não destinado a decisões de alto impacto nem apresentado como assistente pronto para produção.