🤹🏿 🚬 🚵 Por que existem erros no cérebro? 🌈 ♐️ 🎅

Quando usamos qualquer programa, temos dois motivos para obter resultados errados:

Entrada incorreta / insuficiente. Se o programa receber bobagens na entrada, também receberemos bobagens na saída, mesmo se tudo funcionasse perfeitamente por dentro. Esse conceito é chamado Garbage In, Garbage Out . Não podemos corrigir isso - o problema não está no programa.
A partir dos dados corretos, obtivemos a resposta errada. Então consideramos que há um erro no programa e tentamos repará-lo.

O mesmo pode ser dito sobre nós.

Às vezes, faltam as informações necessárias e não podemos evitar o erro.
Por exemplo, fornecemos uma estimativa do tempo para resolver uma lista de tarefas. No processo, verifica-se que a lista deveria ter sido três vezes maior. Espera-se que nossa primeira avaliação seja incorreta. Nada dependia de nós aqui. Garbage In - Garbage Out.

Mas se já observamos 20 vezes seguidas como o número de tarefas cresce três vezes a partir da inicial, é estranho supor que pela 21ª vez tudo funcionará como um relógio.

Se meu programa produzisse um resultado 20 vezes seguidas que não coincidisse com a realidade, eu assumiria que algo está errado com isso. Por que eu preciso se, ao usá-lo, ainda recebo a resposta errada? Deve levar em consideração o fato de que o número de tarefas pode aumentar. Ele deve ser reparado e adaptado a essas condições de trabalho.

Quando observo esse erro por mim mesmo, chego à mesma conclusão.

A situação descrita acima é chamada de "Erro de planejamento" . Ela é um dos itens da lista Distorção cognitiva . Existem muitos artigos , livros , recursos sobre esse assunto.- mas nenhum deles respondeu à minha pergunta simples: “De onde vêm os erros e qual a melhor forma de corrigi-los?”. O que há de errado com o cérebro que previsivelmente produz resultados incorretos? Como rolar um patch nele? Se isso não for possível, onde fazer backup com muletas?

Comecei a estudar os princípios básicos do cérebro para descobrir em que estágio ocorrem os erros, quais são suas causas e qual a melhor forma de repará-los.

Com o que trabalhamos

Para começar, farei uma reserva de que o dispositivo do cérebro é muito diferente do PC. Não há nada parecido com SSD, RAM e CPU - não existe. O analógico mais próximo é uma placa de vídeo ou cluster de computação.

Cada neurônio é um computador pequeno. Ele aceita vários sinais de entrada e, com base em sua totalidade, calcula quando e como emitir sinais de saída. Existem aproximadamente 86 bilhões de peças no cérebro humano, cada uma com milhares de compostos (sinapses), cada conexão com seus próprios parâmetros ( mais sobre as principais características do trabalho dos neurônios ).

Em resumo, se introduzirmos uma placa de vídeo com 86 bilhões de núcleos 3D, em que cada núcleo está conectado a milhares de outros, obteremos um modelo muito bruto do cérebro que funciona de uma maneira completamente diferente. Bem, as CPUs não são boas.

A propósito, esta é a resposta à pergunta por que as RNAs aprendem mais rapidamente em uma placa de vídeo. Não é difícil modelar um neurônio separado, mas precisamos calcular um grande número deles. A solução é contar em paralelo.

Mas e a memória?

E a memória dessa arquitetura é uma coisa muito interessante. Em vez de armazenar "endereços" e blocos de leitura, o cérebro armazena informações sobre como calcular a resposta ao sinal. É mais uma solicitação do Google do que a leitura de um SSD. Contras - você não pode ir diretamente ao endereço e ler rapidamente os dados. Prós - você pode se lembrar "do filme em que um cara de barba, em um traje de metal vermelho e dourado, salvou o mundo". ( Mais sobre memória )

Você pode ter uma pergunta relacionada ao motivo pelo qual percebemos nossos pensamentos não como um monte de processos que ocorrem paralelamente, mas em sequência. Isso se deve às características do córtex pré-frontal e à atenção. Vou escrever um artigo separado sobre eles. Até o momento, não precisamos deles, mas precisamos deles para explicar um fenômeno como " fluxo ".

Como ocorrem os erros?

O problema é que uma arquitetura aprimorada para resolver problemas de classificação, processar imagens e sons, encontrar dependências e recuperar informações de dados incompletos será ineficaz em alguns outros casos. Desmontei os mecanismos básicos e tentei descrever onde e o que poderia dar errado.

Força dos Laços e Memória

Efeito de força de união

Os estados da maioria das conexões no cérebro responsáveis pela memória retornam ao seu estado original por horas / dias . Quando encontramos um problema que encontramos há muito tempo - temos poucas chances de extrair informações sobre ele. Mas, se recentemente encontramos esse problema - as conexões são incrivelmente fortes. Tanto é assim que veremos esse problema em toda parte, mesmo que ocorra 1 vez por milhão e não mereça tanta atenção. E se ela acidentalmente encontrar uma segunda vez, sua prioridade aumentará acima do Tesla Roadster lançado pela SpaceX .

Acho que você já associou essas informações a um erro de planejamento. Sim, tendemos a considerar apenas novas experiências. Para olhar mais longe, precisamos fazer muito esforço.

Quer mais exemplos?
Como você gosta das pessoas que fazem perguntas na entrevista e das respostas que aprenderam alguns dias antes?
Ondas de hype diminuindo a cada dois meses e alternando com novas?
E o desejo de comprar um monte de coisas desnecessárias, só porque ontem elas seriam bem-vindas? E não me importo que a situação de ontem tenha acontecido pela primeira vez e se eles nunca a repetirão.

Correlação não é causalidade

A segunda consequência divertida da arquitetura de links é a falta de diferença entre causalidade e correlação em níveis baixos do cérebro. Em outras palavras, se eu freqüentemente largo as chaves na frente da minha porta - o cérebro pode seguir o caminho de menor resistência e decidir que minha porta tem essa propriedade - para me forçar a largar as chaves.

E quando o cérebro conclui, ele tenta se lembrar e manter a força das conexões.

Falso entendimento

Os dois recursos anteriores dão origem a um processo interessante e auto-sustentável:
se alguém deixar cair uma chave perto da minha porta, isso pode ser tomado como uma confirmação das minhas conclusões. Embora, na realidade, isso seja apenas um acidente. Cada vez que observamos algo que corresponde ao padrão, sua prioridade aumenta e a comunicação com ele se intensifica. Como resultado, temos a chance de começar a personalizar tudo em torno de nossa "teoria das chaves e portas".

Não há nada errado com o cérebro. Sim, eles são presos por encontrar padrões e sim - às vezes obtêm o resultado errado. Você só precisa lembrar que alguns de nossos modelos estão errados e reconhecê-lo.
A situação é complicada pelo fato de o cérebro já ter construído conexões e não nos dar uma resposta vazia. Não teremos a sensação de que "não entendemos nada". Mas o modelo resultante será incorreto. Além disso, como já temos esse modelo, o cérebro o escolherá, e não tentará construir um novo.

Como corrigi-lo?

Erros associados a conexões frouxas, como erros de planejamento, são bastante simples de corrigir. Você precisa criar o hábito de registrar informações em algum meio estável e atualizar seu cérebro, se necessário. Por exemplo, sempre que novas tarefas caem no projeto e o prazo aumenta - anote. Na próxima vez, antes do planejamento, podemos ver quantas vezes a lista pode se tornar maior.

O erro de correlação e causalidade pode ser corrigido no momento de sua ocorrência. É o suficiente para tentar construir um relacionamento causal, mais uma vez largando a chave na frente da porta. Portanto, você pode entender isso - o motivo é que você pega a chave em um bolso pequeno e não em todas as propriedades mágicas da porta.

O problema é que, quando esses erros se transformam em um entendimento falso - pensar que algo está dando errado é bastante difícil. Já estamos acostumados a supor que a porta faz com que a chave caia - por que deveria ser analisada? A chave na frente da porta cai? Esta caindo. O circuito funciona? Trabalho. Por que tocá-la?

Para detectar que meu cérebro me aqueceu em algum lugar e escorregou a ilusão de entendimento, uso esta técnica:
tento descrever o que precisava entender ao traduzir para outro sistema de termos. De fato - usando analogias. Por exemplo, se eu posso descrever o que a Programação Reativa está usando termos da matemática, ou pelo exemplo de como a água flui, eu provavelmente o entendi (esse conceito é perfeitamente descrito por bules conectados por canos - expliquei para uma garota).

A segunda opção é menos agradável. Nosso modelo deve quebrar, como resultado de nos sentarmos em uma poça. Por exemplo, trouxemos todos os nossos amigos para a "porta mágica", mas a chave de ninguém caiu. E conosco também. Existem maneiras de tentar deixar o modelo, por exemplo: "Você não acreditou o suficiente na magia da porta!" Portanto, ela não trabalhou! - falaremos mais sobre esse mecanismo.

Eu preparei uma lista de distorções cognitivas que funcionam de acordo com o esquema descrito acima. É bastante grande, mas você não precisa se lembrar. Se você não tem nada para fazer e deseja ler algo, abra-o. Existem muitos exemplos interessantes de erros, cuja correção permite melhorar um pouco sua vida. No interior, instruções sobre como usá-lo melhor.
Link, caso você queira marcá-lo como favorito.

Lista de Distorção Cognitiva (Memória e Comunicação):

.
.
, - .
, .

. — . — , , , . — .

.
-.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
().
.
.
.
.
.

Seria bom se a lista terminasse aí, mas temos outra grande camada de problemas.

Aprendizado diferido e ignorando

Para treinamento - é necessário algum tipo de feedback. Sua fonte pode ser alguém que ajusta o processo - então isso é treinar com um professor. Ou podemos aprender com algumas informações, avaliando independentemente os resultados - isso é treinar sem um professor.

Se tentarmos criar um programa que distinga gatos e cachorros, fazemos com que ela adivinhe em que foto ela recebeu. Quando o programa está errado, tentamos fazer alterações em sua estrutura (por exemplo, enfraquecer as conexões dos "neurônios" ativos na RNA). Quando tudo estiver bem, precisamos corrigir o estado atual (por exemplo, fortalecer conexões ativas).
Se damos uma resposta sobre a exatidão do reconhecimento, somos professores. Se construímos o programa para que, toda vez que ele faça uma suposição, ele o verifique independentemente - temos treinamento sem um professor.

O cérebro é um exemplo de um sistema que pode aprender por si próprio.

Feedback externo

Vamos voltar muitos anos quando o cérebro resolveu problemas simples. Por exemplo: "Como obter um coco de uma palmeira". Suponha que chegamos à conclusão de que precisamos sacudir a palma da mão, o coco cairá e tomaremos o café da manhã. Sacudimos uma palmeira, o coco cai em nossas cabeças. Agora, em vez de café da manhã, temos um caroço enorme na cabeça e dói.

Recebemos feedback de nossas ações. A sensação de um golpe de coco na cabeça estava diretamente relacionada à decisão de sacudir a palma da mão. Da próxima vez, tentaremos criar outra coisa.

Agora, de volta ao nosso tempo. Durante toda a semana, trabalhamos em tarefas importantes. Conseguimos concluir tudo até sexta-feira. À noite, fomos a um bar, depois tivemos um fim de semana frio, saímos para o campo e elaboramos nosso hobby favorito.

Chegando ao trabalho na segunda-feira, vemos um colega que nos diz do limiar: "Que diabos você está fazendo?"

Bam! Um coco imaginário acaba de cair sobre nós. O mecanismo é praticamente o mesmo: íamos trabalhar calmamente, tomar chá, sentar-nos nas tarefas. Em vez disso, alguns idiotas nos derrubam todos os planos e vão nos encontrar! Aqui está o rabanete, hein? Devemos sitiar esse cara para tomar chá e normalmente prosseguir com as tarefas. Ele não entende que temos um prazo para chegar no nariz, agora não é hora de sofrer com esse lixo? Você precisa trabalhar!
Estamos respondendo com algo afiado para que eles fiquem atrás de nós.

Naquele momento, na cabeça daquele cara: “Oh meu Deus, ele é um idiota intransitável. Em sua tarefa, que ele fez na terça-feira, um erro grave que nos custará caro. Mas ele não quer ouvir sobre isso! " - Note, agora nosso colega foi ferido por um coco mental. - "Vou dizer a esse iniciante que, por sua falta de vontade em me ouvir, ele estragará todo o projeto, talvez até escute?"

A troca de coco pode durar bastante tempo.

Como essa situação difere do tremor de uma árvore familiar ao cérebro?

Primeiro, o cérebro não entende o que o coco voou nele por enquanto. Imagine que o universo de repente começou a funcionar de uma maneira diferente e agora um golpe na cabeça ocorre uma semana depois depois de sacudirmos a árvore sem sucesso. Sim, já temos cinco vezes para esquecer que ele estava tremendo.

Quando o cérebro não entende, ele tenta encontrar uma explicação adequada. ( Você pode ler mais neste artigo ) E qual é a explicação mais adequada para o coco que outra pessoa lhe lançou? Isso mesmo - essa pessoa é uma merda e está inclinada a jogar cocos em todos.

Para pensar em seus bons motivos, lembrar que uma pessoa sempre se comportou racionalmente e foi agradável trabalhar com ele, chegou à conclusão de que algo sério precisava acontecer para que um coco voasse - você precisa fazer um esforço significativo . Diferente da idéia de que temos um “lançador de coco”, essa cadeia lógica é completamente óbvia.

Ah, o cérebro fez a conclusão errada, pelo mesmo mecanismo que nos levou à errônea "teoria das chaves e portas". Em vez de analisar toda a cadeia e entender o motivo, estamos satisfeitos com a correlação.

E agora, com base em sua ideia "magnífica", o cérebro fará mais uma coisa lógica: tentará resolver o problema dos cocos que voam para ele. Qual é a solução mais óbvia? É isso mesmo, - você precisa se livrar do "lançador de coco". Bem, se "livrar-se" significaria simplesmente ignorar e entrar no pôr do sol. Mas isso não é justo! O coco foi jogado contra nós primeiro e, para uma contagem uniforme, você precisa devolvê-lo ao lançador. Ele próprio deve admitir que estava errado ao começar a jogar cocos contra nós.

Mas nosso oponente vê a situação exatamente da mesma maneira. Portanto, o ciclo de arremesso mental de coco às vezes pode terminar com solavancos completamente físicos de um ataque muito material.

O mais engraçado em toda essa situação é que geralmente o "vencedor" é quem jogou o último coco. Embora, de fato, quanto mais eu e meu colega estivéssemos no ciclo, mais cones nos reunimos.

Feedback interno

E agora outro fato interessante - às vezes a fonte de desconforto é nossa própria memória e nosso cérebro amado.

Suponha que nos separemos de um colega sem esclarecer nada. Agora é desagradável lembrarmos disso. O cérebro já concluiu que nosso colega é um lançador de coco malvado, de modo que a decisão de "tentar conversar com calma e descobrir isso" parece completamente pouco atraente. Mas com uma sensação desagradável, algo precisa ser feito.

Uau, temos uma ótima estratégia que trabalhou com um colega - ignorar. Ou mude para outra coisa. Ótima saída, certo? Você só precisa se comportar como se nada tivesse acontecido. Vou pensar em algo legal e fazer uma xícara de chá. E isso é tudo - de alguma forma, isso se resolverá.

Lembre-se, no começo do texto eu disse que existem dois tipos de erros? Um deles são os erros de processamento de informações. Outro são os erros causados por sua distorção ou falta. E apenas o cérebro conseguiu mergulhar em um erro do segundo tipo. Agora, em vez da imagem completa, ele vê apenas a parte mais agradável, ignorando completamente as opções nas quais "não resolve".

Mergulhei nessa poça com a cabeça há cerca de 7 anos e mergulhei nela com prazer por mais 4 anos. O problema aqui também é que, quando o ignorado é "resolvido" - você presta atenção nele e considera que sua estratégia é eficaz. Mas se o problema persistir, você simplesmente continua ignorando-o e não o leva em consideração na análise. Poça muito agradável.

Com essa estratégia, o problema permanece. Nós apenas criamos um ponto cego, cobrimos a falta de uma janela com cortinas. Nós nos jogamos com analgésicos, olhando para o dedo corado e inchado. Se alguém acidentalmente o enfia ou a paciência transborda, isso nos quebra como uma represa.

Às vezes, tudo realmente acontece por si só. Mas às vezes - você pode se encontrar em uma enorme bunda sem esperança. O autor estava nele e não recomenda a visita.
Portanto, olho com um sorriso para as empresas que tentam introduzir um culto de suavização de cantos afiados e pensamento positivo. Um castelo de cartas muito frágil para ignorar problemas.

Parece que vale a pena concluir que colocar uma luz vermelha piscante no “problema” é uma estratégia extremamente ruim, mas ...

Analgésicos

Mas isso não é verdade. E nessa poça fiquei sentado por mais 3 anos.

O ponto principal é o seguinte: nossa contusão mental com coco não é apenas algum tipo de "lixo subjetivo". Isso é uma conseqüência de processos que ocorrem objetivamente em um cérebro objetivamente existente. Sua "dor" é tão objetiva quanto a dor de um dedo queimado ou dente de pulpite. O cérebro no nível físico ataca contra sinais com conexões já estabelecidas e tenta reduzir sua força cortando adicionalmente bombardeios de tapete com neurotransmissores. (Eu posso explicar nos comentários ou em um artigo separado por que penso isso)

Quando um dente dói, não temos pressa em recusar a anestesia. E não culpamos outras pessoas por solicitarem uma injeção de ultracainas antes de remover os dentes. Não desejamos dizer à pessoa a quem os oito são removidos - “Pegue um pano! Isso é só um dente! Ninguém morreu por isso ainda. (Embora, provavelmente, se metade das pessoas no mundo não sentisse dor ao remover o dente e a outra metade pedisse medicação para dor, a segunda passaria rapidamente para "trapos, viciados em drogas, incapazes de lidar com qualquer coisa sem os analgésicos ~~antidepressivos~~ ".)

Quando é péssimo - nós realmente pensamos de forma diferente. Este não é o estado mais adequado do cérebro para construir cadeias mais difíceis do que "sacudir a palma -> a casca de coco -> dói".

É curioso que esse processo possa nos levar a um ciclo:
O cérebro focou no desconforto. Por isso, esquecemos que o cérebro durante os problemas não funciona no modo "planejamento a longo prazo". Como resultado disso, não lhe chega a ideia de que é preciso se acalmar e voltar ao "modo de planejamento". Em vez disso, o cérebro escolhe uma estratégia que leva a uma nova porção de desconforto. O cérebro se concentra no desconforto e se afasta ainda mais do modo normal de operação.
(Então vou explicar por que tantas coisas relacionadas ao cérebro têm padrões cíclicos e recursivos).

No total, ignorar as informações recebidas é uma péssima estratégia, pois pode levar a um erro. Não ignorar também é ruim, porque um cérebro doente de cocos pensa muito mal, e isso nos leva a um erro. Situação sem esperança? Bem, não exatamente ...

Compensação de Exposição

Peço desculpas antecipadamente pela reviravolta na trama mais ridícula que você pode imaginar, mas a única estratégia que surgiu foi encontrar um equilíbrio. A média de ouro entre a percepção da informação e sua ignorância.

Ambas as ferramentas são úteis. Se muita coisa cai sobre nós, não podemos lidar com isso. Se houver pouca informação, estaremos enganados por causa de sua falta. Precisamos aprender a aproveitar o momento em que nosso cérebro começa a pensar pior devido aos golpes de coco e não entra no mundo dos pôneis arco-íris, onde os cocos não atingem ninguém.

Usando a analogia com analgésicos - jogue-os para ir ao médico - tudo bem. Jogue-os até que a queimadura em nosso dedo cause intoxicação por sangue - não.

Onde está localizado esse saldo? Sabe, se eu fosse um filósofo, agora começaria a dizer algo significativo, inteligente e absolutamente inútil, como: "Cada um de nós é único e todos devem encontrar seu próprio caminho para equilibrar ... blá blá blá". Geralmente, todas as tempestades de neve desse tipo devem ser traduzidas assim: "Eu não sei". Mas, como não sou filósofo, não gosto de um final assim. Eu tenho uma resposta para isso também.

Como consertar?

Falhe rápido.
Se soubermos que os erros resultam da arquitetura e ocorrerão, o melhor que podemos fazer é identificá-los o mais cedo possível e impedir que eles se tornem ERROS. Quanto mais tempo o erro permanece sem ser detectado, mais consequências ele tem, tanto fora do cérebro quanto dentro dele.

Na situação com o nosso colega, você pode apenas pegar um golpe e pedir que ele comece a história desde o início, e não de suas conclusões finais. Se isso não for suficiente, peça para adiar a conversa e continue calmamente depois de meia hora.

No primeiro caso, definimos um padrão de situação e o quebramos usando ignorar. No segundo, eles deixaram o loop na primeira etapa, novamente usando ignorar. E nos dois casos, não esquecemos completamente o problema que eles tentaram nos contar. Essas decisões são muitas vezes melhores que uma escaramuça, o que poderia acontecer de outra maneira. Economizamos tempo, nervos e, ao mesmo tempo, resolvemos o problema.

Mas, para agir dessa maneira, precisamos aprender a definir padrões de tais situações. O cérebro deve entender que ele se virou para um de seus caminhos favoritos, prever o desenvolvimento de eventos e nos dizer a estratégia certa. Como escrever um padrão no cérebro sobre seus próprios padrões?

Existe este artigo para isso.

Tentei começar desde o início, com neurônios e conexões, e prever quais recursos do processamento de informações estarão em uma arquitetura desse tipo. Eu esperava que existissem regras simples, muito mais simples que uma enorme lista de vieses cognitivos. E dado que em 10 minutos descrevi os mecanismos de ocorrência de cerca de 42 deles, acho que adivinhei.

Desbotamento e vinculação - torne as informações novas mais acessíveis.
Correlação é definida como causalidade - por causa disso, “lacunas” surgem nos modelos.
Falso entendimento - por causa disso, não podemos encontrar a lacuna que surgiu.
Ignorar - distorce as informações percebidas. Em teoria, esse mecanismo deve filtrar os fatores interferentes; na prática, você pode se deixar levar e filtrar algo útil para resolver o problema.

Quatro fatores, cuja combinação gera quase todos os vieses cognitivos conhecidos. E quatro razões são lembradas muito mais facilmente do que 42 consequências.

Aqui está o resto da lista:

Viés cognitivo envolvendo ignorar

-

« »

Há algum erro no cérebro?

O cérebro é uma coisa incrível. Até o momento, não criamos um mecanismo que possa resolver os mesmos problemas que ele. Isso pode ser considerado erros de arquitetura? Falhas?
Eu não seria tão categórico. O fato de o cérebro às vezes não ser adequado para resolver o problema que ocorreu, não significa que seja algo ruim. Não serei julgado pela eficácia do microscópio pela maneira como ele entope as unhas.

Sim, devido às peculiaridades da arquitetura, nosso cérebro nem sempre dá a resposta certa. Mas ele também é capaz de reconhecer seu erro e tentar corrigi-lo. E até agora, este é o melhor que temos.

Provavelmente neste artigo há erros, as nuances que eu perdi e os lugares onde eu a exagerei com uma explicação. Se você os notar, escreva.

É possível que, na minha linha de raciocínio, haja uma falha que a destrua completamente. Se você o encontrar, terei prazer em ouvi-lo.

Sim, isso arruinará 2 anos do meu trabalho e me atingirá mais do que qualquer coco. Mas esse é o preço que pago pela oportunidade de melhorar. E, por enquanto, estou satisfeito com a taxa de câmbio.

O que pode ser destruído pela verdade deveria ser. - PC Hodgell, máscara do investigador

PS
Se você não entende alguma coisa, ou vice-versa, gostaria de ouvir uma explicação mais "técnica / matemática" em algum momento - será ótimo ver seu comentário. Vou pensar e responder com prazer.
Se o que eu descrevi está em desacordo com suas observações ou vice-versa, sua experiência é consistente com minhas conclusões, também ouvirei com prazer esse feedback.
Afinal, Habr é o lugar onde os comentários não são menos interessantes que o próprio artigo.

Por que existem erros no cérebro?