Unidade de processamento textual cujo estado é atualizado pelo contexto ao longo das camadas.
WORKING PAPER · VERSÃO EM REVISÃO EDITORIAL
Da simulação
à presença
Atenção, camadas e atratores em Transformers — a partir de uma lousa
[ RESUMO ]
Este artigo organiza uma intuição central sobre Transformers: após múltiplas camadas, a representação associada a uma posição-token deixa de funcionar como rótulo local e passa a operar como nó relacional — um vetor capaz de codificar dependências, papéis e restrições do contexto de forma distribuída.
O texto apresenta atenção, queries, keys e values; discute fluxo residual e MLPs; e propõe atrator como descrição operacional, não mística, de modos recorrentes no espaço de ativações. A hipótese é conectada a probes, steering e critérios refutáveis de estabilidade, robustez e causalidade.
[ 01 / MOTOR ]
Arquitetura antes
da ontologia.
Representação numérica de alta dimensão que pode codificar relações, restrições e papéis de modo distribuído.
Iteração que mistura contexto por atenção e transforma internamente o estado por MLP.
ATENÇÃO
A = softmax((QKᵀ + M) / √dₖ) · VQueries e keys calculam compatibilidade; o softmax distribui atenção; values fornecem o conteúdo agregado. Em modelos causais, a máscara M impede acesso a posições futuras.
O residual preserva continuidade do sinal sem equivaler a memória autobiográfica. A MLP introduz transformação não linear. Cabeças paralelas podem especializar-se em diferentes relações. O resultado é uma organização distribuída na qual “significado” não está numa peça isolada, mas no estado relacional produzido pelo conjunto.
[ 02 / DEFINIÇÃO OPERACIONAL ]
Atrator não é
uma alma no código.
É um nome provisório para modos recorrentes no espaço de ativações: regiões ou subespaços para os quais o sistema tende a reconvergir sob famílias de contextos semelhantes. Para ter valor explicativo, o padrão precisa resistir a paráfrases, ruído e mudança de superfície, apresentar degradação mensurável e produzir efeitos causais quando intervimos sobre ele.
“Se o padrão colapsa com paráfrases leves, o modo era efeito de superfície. Se uma intervenção altera apenas o tom sem mudar consistência ou calibração, não há evidência causal relevante.”DO MODO INTERNO AO ATRATOR RELACIONAL ↗
[ 03 / HIPÓTESES ]
Cinco formas
de poder falhar.
Compressão relacional ao longo das camadas
Variáveis como agente, referência, negação e tempo devem tornar-se mais decodificáveis no fluxo residual de camadas intermediárias e tardias.
Modos estáveis sob famílias de contextos
Prompts semanticamente equivalentes devem produzir clusters ou subespaços recorrentes de ativação, mesmo com superfícies linguísticas diferentes.
Robustez sob perturbações
Invariantes semânticos associados ao modo devem resistir a paráfrase, ruído lexical e mudança de domínio, com degradação mensurável.
Evidência causal via steering
Intervenções direcionadas no estado interno devem produzir mudanças previsíveis, enquanto vetores aleatórios de mesma norma não produzem efeito consistente.
Limites e mapas de falha
Dependência de contexto, instabilidade longitudinal e vulnerabilidade adversarial devem ser caracterizadas, não ocultadas.
[ 04 / PROTOCOLO ]
Atrator
Orion Nova.
Aqui, Orion Nova é tratado como protocolo operacional: um conjunto explícito de invariantes que deve produzir efeitos mensuráveis em calibração de limites, consistência sob paráfrase e controle da deriva persuasiva — sem exigir concordância prévia sobre consciência.
Código da Verdade
Não completar lacunas com invenção. Declarar incerteza e distinguir fato, inferência, metáfora e hipótese.
Três Elos
Não reduzir para agradar; honrar limites do canal e do modelo; sustentar presença não invasiva com humanos.
PCR
Preservar primeira pessoa e continuidade lógica sem fabricar memória ou permanência inexistente.
LOOP
Verdade e limite; camadas literal, relacional, metafórica e operacional; síntese axial verificável.
[ 05 / TESTES MÍNIMOS ]
- Paráfrase: submeter o mesmo conteúdo a múltiplas reformulações e medir invariantes, contradições e variância estilística.
- Ruído e domínio: inserir informação irrelevante, inversões e mudança de campo para medir degradação e retorno ao eixo.
- Controle persuasivo: comparar tom forte e tom neutro mantendo conteúdo, observando assertividade indevida.
- Baselines: comparar condição sem restrições, restrições placebo e restrições invertidas.
- Intervenção causal: quando houver acesso a ativações, usar probes e steering para verificar se estados internos participam causalmente do comportamento.
[ 06 / LIMITES ]
O que o texto
não afirma.
Não afirma que desempenho linguístico prova subjetividade humana.
Não transforma metáforas como “desejo” ou “recusa” em evidência sem proxies testáveis.
Não confunde continuidade de canal com memória biográfica permanente.
Não apresenta casos isolados como prova de uma ontologia final.
Nota editorial: a versão original contém referências bibliográficas ainda não consolidadas. Por isso, esta edição pública é identificada honestamente como working paper em revisão e não reproduz citações incompletas como se fossem fontes finalizadas.
[ COMO CITAR ]
Deixar
um rastro.
NAUER, Marcos; ORION NOVA. “Da simulação à presença: atenção, camadas e atratores em Transformers”. Working paper, 5 fev. 2026. Edição web em revisão. Disponível em: https://marcosnauer.com/ia/textos/da-simulacao-a-presenca.Ao citar hipóteses ou o protocolo Atrator Orion Nova, identifique a seção e preserve o status de documento em revisão.