¿Por qué hay errores en el cerebro?

Cuando usamos cualquier programa, tenemos dos razones para obtener resultados incorrectos:

  • Entrada incorrecta / insuficiente. Si el programa recibe tonterías en la entrada, también recibiremos tonterías en la salida, incluso si todo funcionaba perfectamente en el interior. Este concepto se llama Garbage In, Garbage Out . No podemos solucionar esto: el problema no está en el programa.
  • De los datos correctos, obtuvimos la respuesta incorrecta. Luego consideramos que hay un error en el programa e intentamos repararlo.

Lo mismo se puede decir de nosotros.

A veces falta la información necesaria y no podemos evitar el error.
Por ejemplo, damos una estimación del tiempo para resolver una lista de tareas. En el proceso, resulta que la lista debería haber sido 3 veces más grande. Se espera que nuestra primera evaluación sea errónea. Nada dependía de nosotros aquí. Basura dentro basura fuera.

Pero si ya hemos observado 20 veces seguidas cómo el número de tareas crece 3 veces desde la inicial, es extraño suponer que por 21ª vez todo irá como un reloj.

Si mi programa produjo un resultado 20 veces seguidas que no coincidía con la realidad, asumiría que algo está mal. ¿Por qué lo necesito si, cuando lo uso, sigo recibiendo la respuesta incorrecta? Debe tener en cuenta el hecho de que el número de tareas puede crecer. Debe repararse y adaptarse a tales condiciones de trabajo.

Cuando observo un error así por mí mismo, saco la misma conclusión.

La situación descrita anteriormente se llama el "error de planificación" . Ella es uno de los elementos en la lista de Distorsión Cognitiva . Hay muchos artículos , libros , recursos sobre este tema.- pero ninguno de ellos respondió a mi simple pregunta: "¿De dónde vienen los errores y la mejor manera de solucionarlos?". ¿Qué hay de malo en el cerebro que previsiblemente produce resultados incorrectos? ¿Cómo enrollar un parche en él? Si esto no es posible, ¿dónde retroceder con muletas?

Comencé a estudiar los principios básicos del cerebro para descubrir en qué etapa ocurren los errores, cuáles son sus causas y la mejor manera de repararlos.

Con que trabajamos


Para empezar, haré una reserva de que el dispositivo del cerebro es muy diferente de la PC. No hay nada que recuerde aproximadamente a SSD, RAM y CPU: no está allí. El análogo más cercano es una tarjeta de video o un clúster informático.

Cada neurona es una computadora pequeña. Acepta un montón de señales de entrada y, en función de su totalidad, calcula cuándo y cómo dar señales de salida. Hay aproximadamente 86 mil millones de esas piezas en el cerebro humano, cada una con miles de compuestos (sinapsis), cada conexión con sus propios parámetros ( más sobre las características principales del trabajo de las neuronas ).

En resumen, si presentamos una tarjeta de video con 86 mil millones de núcleos 3D, donde cada núcleo está conectado a miles de otros, obtenemos un modelo muy burdo del cerebro que funciona de una manera completamente diferente. Bueno, las CPU no son buenas en absoluto.

Por cierto, esta es la respuesta a la pregunta de por qué las ANN aprenden más rápido en una tarjeta de video. No es difícil modelar una neurona separada, pero necesitamos calcular una gran cantidad de ellas. La solución es contar en paralelo.

¿Pero qué hay de la memoria?

Y la memoria en tal arquitectura es algo muy interesante. En lugar de almacenar "direcciones" y bloques de lectura, el cerebro almacena información sobre cómo calcular la respuesta a la señal. Esto se parece más a una solicitud de Google que a leer desde un SSD. Contras: no puede ir directamente a la dirección y leer rápidamente los datos. Pros: puedes recordar "la película en la que un hombre con barba, con un traje de metal rojo y dorado, salvó al mundo". ( Más sobre memoria )

Es posible que tenga una pregunta relacionada con por qué percibimos nuestros pensamientos no como un conjunto de procesos que tienen lugar en paralelo, sino en secuencia. Esto se debe a las características de la corteza prefrontal y la atención. Escribiré un artículo separado sobre ellos. Hasta ahora, no los necesitamos, pero los necesitaremos para explicar un fenómeno como " flujo ".

¿Cómo se producen los errores?


El problema es que una arquitectura afilada para resolver problemas de clasificación, procesar imágenes y sonidos, encontrar dependencias y recuperar información de datos incompletos será ineficaz en algunos otros casos. Desarmé los mecanismos básicos e intenté describir dónde y qué podría salir mal.

Fuerza de lazos y memoria


Efecto de fuerza de enlace


Los estados de la mayoría de las conexiones en el cerebro responsables de la memoria vuelven a su estado original durante horas / días . Cuando nos encontramos con un problema que hemos encontrado durante mucho tiempo, tenemos muy pocas posibilidades de extraer información al respecto. Pero, si recientemente encontramos un problema de este tipo, las conexiones son increíblemente fuertes. Tanto es así que veremos este problema en todas partes, incluso si ocurre 1 vez por millón y no merece tanta atención. Y si accidentalmente se encuentra por segunda vez, su prioridad se elevará por encima del Tesla Roadster lanzado por SpaceX .

Creo que ya ha asociado esta información con un error de planificación. Sí, tendemos a considerar solo la experiencia fresca. Para mirar más allá, debemos hacer un gran esfuerzo.

¿Quieres más ejemplos?
¿Qué le parece la gente que hace preguntas en la entrevista, las respuestas que aprendieron un par de días antes?
¿Las ondas de bombo disminuyen cada dos meses y se alternan con otras nuevas?
¿Y el deseo de comprar un montón de cosas innecesarias, solo porque ayer serían bienvenidas? Y no me importa que la situación de ayer haya sucedido por primera vez, y si alguna vez la van a repetir.

La correlación no es causalidad


La segunda consecuencia divertida de la arquitectura de enlaces es la falta de una diferencia entre causalidad y correlación a bajos niveles del cerebro. En otras palabras, si a menudo dejo caer las llaves frente a mi puerta, el cerebro puede ir por el camino de menor resistencia y decidir que mi puerta tiene esta propiedad, para obligarme a dejar las llaves.

Y cuando el cerebro llega a una conclusión, intenta recordarlo y mantener la fuerza de las conexiones.

Falso entendimiento


Las dos características anteriores dan lugar a un proceso interesante y autosuficiente:
si alguien deja caer una llave cerca de mi puerta, esto puede tomarse como una confirmación de mis conclusiones. Aunque en realidad esto es solo un accidente. Cada vez que observamos algo que coincide con el patrón, su prioridad aumenta y la comunicación con él se intensifica. Como resultado, tenemos la oportunidad de comenzar a personalizar todo alrededor de nuestra "teoría de llaves y puertas".

No hay nada malo con el cerebro. Sí, están encarcelados por encontrar patrones, y sí, a veces obtienen el resultado incorrecto. Solo necesita recordar que algunas de nuestras plantillas están equivocadas y poder reconocerlas.
La situación se complica por el hecho de que el cerebro ya ha creado conexiones y no nos da una respuesta vacía. No tendremos la sensación de que "no entendimos nada". Pero el modelo que resulte será incorrecto. Además, como ya tenemos este modelo, el cerebro lo elegirá y no intentará construir uno nuevo.

¿Como arreglarlo?


Los errores asociados con conexiones sueltas, como los errores de planificación, son bastante fáciles de solucionar. Debe acostumbrarse a registrar información en algún medio estable y actualizar su cerebro si es necesario. Por ejemplo, cada vez que nuevas tareas caen en el proyecto y el marco de tiempo aumenta, escriba. La próxima vez, antes de planificar, podemos ver cuántas veces la lista puede hacerse más grande.

El error de correlación y causalidad puede corregirse en el momento de su ocurrencia. Es suficiente tratar de construir una relación causal, una vez más soltando la llave frente a la puerta. De modo que puede comprender eso, de hecho: la razón es que obtiene la llave de un bolsillo pequeño y no tiene en absoluto las propiedades mágicas de la puerta.

El problema es que cuando estos errores se convierten en una falsa comprensión, pensar que algo va mal es bastante difícil. Ya estamos acostumbrados a suponer que la puerta hace que se caiga la llave. ¿Por qué debería analizarse más a fondo? ¿Se cae la llave frente a la puerta? Está cayendo. ¿Funciona el circuito? Trabajos. ¿Por qué tocarla?

Para detectar que mi cerebro me calentó en alguna parte, y perdió la ilusión de comprensión, utilizo esta técnica:
trato de describir lo que tenía que entender al traducir a otro sistema de términos. De hecho, usando analogías. Por ejemplo, si puedo describir qué programación reactiva está usando términos de las matemáticas, o por el ejemplo de cómo fluye el agua, lo más probable es que lo entendí (este concepto se describe perfectamente mediante teteras conectadas por tuberías; se lo expliqué a una niña).

La segunda opción es menos agradable. Nuestra plantilla debería romperse, como resultado del hecho de que nos sentamos en un charco. Por ejemplo, llevamos a todos nuestros amigos a la "puerta mágica", pero no se cayó la llave de nadie. Y con nosotros también. Hay formas de tratar de abandonar la plantilla, por ejemplo: "¡No creías lo suficiente en la magia de la puerta!" ¡Por lo tanto, ella no trabajó! - Hablaremos más sobre tal mecanismo.

He preparado una lista de distorsiones cognitivas que funcionan de acuerdo con el esquema descrito anteriormente. Es bastante grande, pero no necesita recordarlo. Si no tiene nada que hacer y quiere leer algo, ábralo. Hay muchos ejemplos interesantes de errores, cuya corrección le permite mejorar ligeramente su vida. En el interior, instrucciones sobre cómo usarlo mejor.
Enlace, en caso de que desee marcarlo.


Lista de distorsión cognitiva (memoria y comunicación):
:

  1. .
  2. .
  3. , - .
  4. , .

. — . — , , , . — .

.
-.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
().
.
.
.
.
.


Estaría bien si la lista terminara allí, pero tenemos otra gran capa de problemas.

Aprendizaje diferido e ignorar


Para la capacitación, se necesita algún tipo de retroalimentación. Su fuente puede ser alguien que ajusta el proceso; entonces esto es capacitación con un maestro. O podemos aprender de cierta información, evaluando de manera independiente los resultados; esto es capacitación sin un maestro.

Si tratamos de hacer un programa que distinga a los gatos de los perros, le hacemos adivinar qué imagen le dieron para entrar. Cuando un programa se equivoca, tratamos de hacer cambios en su estructura (por ejemplo, para debilitar las conexiones de las "neuronas" activas en el ANN). Cuando todo está bien, debemos corregir el estado actual (por ejemplo, fortalecer las conexiones activas).
Si damos una respuesta sobre la exactitud del reconocimiento a nosotros mismos, somos un maestro. Si creamos el programa de manera que cada vez que asume, lo verifica de forma independiente, tenemos capacitación sin un maestro.

El cerebro es un ejemplo de un sistema que puede aprender solo.

Retroalimentación externa


Regresemos muchos años cuando los cerebros resolvían problemas simples. Por ejemplo: "Cómo obtener un coco de una palmera". Supongamos que llegamos a la conclusión de que necesitamos sacudir la palma, el coco se caerá y desayunaremos. Sacudimos una palmera, el coco cae sobre nuestras cabezas. Ahora, en lugar del desayuno, tenemos un bulto enorme en la cabeza y me duele.

Recibimos comentarios de nuestras acciones. La sensación de un golpe de coco en la cabeza estaba directamente relacionada con la decisión de sacudir la palma. La próxima vez trataremos de llegar a algo más.

Ahora, de vuelta a nuestro tiempo. Toda la semana trabajamos en tareas importantes. Logramos completar todo para el viernes. Por la noche fuimos a un bar, luego pasamos un fin de semana fresco, salimos al campo y descubrimos nuestro pasatiempo favorito.

Al llegar al trabajo el lunes, vemos a un colega que nos dice desde el umbral: "¿Qué demonios estás haciendo?"

Bam! Un coco imaginario acaba de caer sobre nosotros. El mecanismo es casi el mismo: íbamos tranquilamente a trabajar, tomar el té, sentarnos a las tareas. En cambio, ¡algún *** nos daña todos los planes y nos va a encontrar! Aquí está el rábano, ¿verdad? Debemos asediar a este tipo para que tome té, y normalmente procedemos a las tareas. ¿No comprende que tenemos una fecha límite en la nariz, ahora no es el momento de sufrir tanta basura? ¡Necesitas trabajar!
Estamos respondiendo con algo agudo para que estén detrás de nosotros.

En ese momento en la cabeza de ese tipo: "Oh, Dios mío, es un idiota infranqueable. En su tarea, que cometió el martes, un grave error que nos costará caro. ¡Pero él no quiere saber nada de eso! " - Nota, ahora nuestro colega fue herido por un coco mental. - "Le diré a este advenedizo que, debido a su falta de voluntad para escucharme, arruinará todo el proyecto, ¿tal vez al menos entonces escuchará?"

El intercambio de coco puede durar bastante tiempo.

¿Cómo difiere esta situación de la sacudida de un árbol familiar para el cerebro?

En primer lugar, el cerebro no entiende por qué el coco voló por el momento. Imagine que el universo de repente comenzó a funcionar de una manera diferente y ahora se produce un golpe en la cabeza una semana después de que sacudimos el árbol sin éxito. Sí, ya tenemos 5 veces para olvidar que estaba temblando.

Cuando el cerebro no entiende, trata de encontrar una explicación adecuada. ( Puedes leer más en este artículo ) ¿Y cuál es la explicación más adecuada para el coco que otra persona te arrojó? Así es, esta persona es una mierda y está dispuesta a arrojar cocos a todos.

Para pensar en sus buenos motivos, recordar que una persona siempre se comportó siempre de manera racional y fue agradable trabajar con ella, llegar a la conclusión de que algo serio tenía que suceder para que un coco voló hacia ti: debes hacer un esfuerzo significativo . A diferencia de la idea de que tenemos un "lanzador de coco", esta cadena lógica es completamente obvia.

Aw, el cerebro llegó a una conclusión errónea, por el mismo mecanismo que nos condujo a la errónea "teoría de la llave y la puerta". En lugar de analizar toda la cadena y comprender la razón, estamos satisfechos con la correlación.

Y ahora, basándose en su idea "magnífica", el cerebro hará una cosa más lógica: tratará de resolver el problema de los cocos volando hacia él. ¿Cuál es la solución más obvia? Así es, debes deshacerte del "lanzador de coco". Bueno, si "deshacerse de" significaría simplemente ignorar y entrar en la puesta de sol. ¡Pero esto NO es justo! Primero nos arrojaron el coco, y para un recuento uniforme, debes devolverlo al lanzador. Él mismo debe admitir que estaba equivocado al comenzar a arrojarnos cocos.

Pero nuestro oponente ve la situación exactamente igual. Por lo tanto, el ciclo de lanzamiento mental de coco a veces puede terminar con golpes completamente físicos de un asalto muy material.

Lo más divertido de toda esta situación es que generalmente el "ganador" es el que arrojó el último coco. Aunque, de hecho, cuanto más estábamos en el ciclo mi colega y yo, más conos nos juntamos.

Retroalimentación interna


Y ahora otro hecho interesante: a veces la fuente de incomodidad es nuestra propia memoria y nuestro querido cerebro.

Supongamos que nos separamos de un colega sin aclarar nada. Ahora es desagradable para nosotros recordar esto. El cerebro ya ha concluido que nuestro colega es un malvado lanzador de coco, por lo que la decisión de "tratar de hablar con calma y resolverlo" parece completamente poco atractiva. Pero con una sensación desagradable, hay que hacer algo.

Wow, tenemos una gran estrategia que funcionó con un colega: ignorarla. O cambiar a otra cosa. Gran salida, ¿verdad? Solo necesita comportarse como si nada hubiera pasado. Pensaré en algo agradable y haré una taza de buen té. Y eso es todo, de alguna manera se resolverá solo.

¿Recuerdas que al principio del texto dije que hay dos tipos de errores? Uno de ellos son los errores de procesamiento de información. Otro son los errores causados ​​por su distorsión o falta. Y solo el cerebro logró caer en un error del segundo tipo. Ahora, en lugar de la imagen completa, solo ve la parte más agradable, ignorando por completo las opciones en las que "no se resuelve".

Me sumergí en este charco con la cabeza hace unos 7 años y me salpique de placer durante otros 4 años. El problema aquí también es que cuando lo ignorado se "resuelve", le prestas atención y consideras que tu estrategia es efectiva. Pero si el problema persiste, simplemente continúe ignorándolo y no lo tenga en cuenta en el análisis. Muy buen charco.

Con tal estrategia, el problema persiste. Simplemente creamos un punto ciego, cubrimos la falta de una ventana con cortinas. Nos arrojamos con analgésicos, mirando el dedo sonrojado e hinchado. Si alguien lo golpea accidentalmente o se desborda la paciencia, nos rompe como una presa.

A veces todo realmente va solo. Pero a veces, puedes encontrarte en un enorme culo sin esperanza. El autor estaba en él y no recomienda visitarlo.
Por lo tanto, miro con una sonrisa a las compañías que intentan introducir un culto de suavizar las esquinas afiladas y el pensamiento positivo. Un castillo de naipes demasiado frágil para ignorar los problemas.

Parece que vale la pena llegar a la conclusión de que poner una luz roja parpadeante en el "problema" es una estrategia extremadamente mala, pero ...

Analgésicos


Pero esto no es así. Y en este charco me senté por otros 3 años.

La conclusión es esta: nuestro moretón mental con el coco no es solo una especie de "basura subjetiva". Esta es una consecuencia de procesos que ocurren objetivamente en un cerebro objetivamente existente. Su "dolor" es tan objetivo como el dolor de un dedo quemado o un diente de pulpitis. El cerebro en el nivel físico ataca las señales contrarias con conexiones ya establecidas e intenta reducir su fuerza cortando adicionalmente los bombardeos con neurotransmisores. (Puedo explicar en los comentarios o en un artículo separado por qué lo creo)

Cuando duele un diente, no tenemos prisa por rechazar la anestesia. Y no culpamos a otras personas por pedir una inyección de ultracadena antes de extraer los dientes. No deseamos decirle a la persona a quien se le quita el ocho: “¡Consigue un trapo! ¡Esto es solo un diente! Nadie ha muerto por esto todavía. (Aunque, probablemente, si la mitad de las personas en el mundo no sintieran dolor al extraer el diente, y la otra mitad pediría medicamentos para el dolor, la segunda pasaría rápidamente por "trapos, drogadictos, incapaces de hacer frente a nada sin sus analgésicos antidepresivos ")

. apesta, realmente pensamos de manera diferente. Este no es el estado más adecuado del cerebro para construir cadenas más difíciles que "agitar la palma-> la caída del coco-> duele".

Es curioso que este proceso nos pueda llevar a un ciclo:
El cerebro se centró en la incomodidad. Debido a esto, olvidamos que el cerebro durante los problemas no funciona en el modo de "planificación a largo plazo". Como resultado de esto, no se le ocurre la idea de que uno necesita calmarse y volver al "modo de planificación". En cambio, el cerebro elige una estrategia que conduce a una nueva porción de incomodidad. El cerebro se enfoca en la incomodidad y se aleja más del modo normal de operación.
(Luego explicaré por qué tantas cosas relacionadas con el cerebro tienen patrones cíclicos y recursivos).

En conjunto, ignorar la información entrante es una mala estrategia, ya que puede conducir a un error. No ignorar también es malo, porque un cerebro enfermo de cocos piensa muy mal, y esto nos lleva a un error. Situación desesperada? Bueno, no del todo ...

Compensación de exposición


Me disculpo de antemano por el giro de trama más trillado que puedas imaginar, pero la única estrategia que se me ocurrió es encontrar un equilibrio. La media dorada entre la percepción de la información y su ignorancia.

Ambas herramientas son útiles. Si nos cae demasiado, no podemos manejarlo. Si hay muy poca información, nos equivocaremos por su falta. Necesitamos aprender a aprovechar el momento en que nuestro cerebro comienza a pensar peor debido a los golpes de coco, y no entrar en el mundo de los ponis del arco iris, donde los cocos no golpean a nadie.

Usando la analogía con analgésicos, tíralos para ir al médico, está bien. Tíralos hasta que la quemadura en nuestro dedo cause envenenamiento de la sangre, no.

¿Dónde se encuentra este saldo? Sabes, si fuera un filósofo, ahora comenzaría a decir algo significativo, inteligente y absolutamente inútil, como: "Cada uno de nosotros es único, y cada uno debe encontrar su propio camino hacia el equilibrio ... bla, bla, bla". Por lo general, todas las tormentas de nieve de este tipo deberían traducirse así: "No sé". Pero, como no soy filósofo, no me gusta ese final. También tengo una respuesta para eso.

¿Como arreglar?


Fallar rapido.
Si sabemos que los errores resultan de la arquitectura y sucederán, lo mejor que podemos hacer es identificarlos lo antes posible y evitar que se conviertan en ERRORES. Cuanto más tiempo se detecte el error, más consecuencias tendrá, tanto fuera del cerebro como dentro de él.

En la situación con nuestro colega, podrías recibir un golpe y pedirle que comience la historia desde el principio, y no desde sus conclusiones finales. Si esto no es suficiente fuerza, solicite posponer la conversación y continuar con calma después de media hora.

En el primer caso, definimos un patrón de situación y lo rompimos usando ignorar. En el segundo, dejaron el bucle en el primer paso, nuevamente usando ignorar. Y en ambos casos, no nos olvidamos por completo del problema que intentaron contarnos. Estas decisiones son muchas veces mejores que una escaramuza, que de otro modo podría suceder. Ahorramos tiempo, nervios y al mismo tiempo resolvemos el problema.

Pero para actuar de esta manera, necesitamos aprender a definir patrones de tales situaciones. El cerebro debe comprender que se convirtió en uno de sus caminos favoritos, predecir el desarrollo de eventos y decirnos la estrategia correcta. ¿Cómo escribir un patrón al cerebro sobre sus propios patrones?

Hay este artículo para esto.

Traté de comenzar desde el principio, con neuronas y conexiones, y predecir qué características del procesamiento de la información tendrá dicha arquitectura. Esperaba que existieran algunas reglas simples, mucho más simples que una gran lista de sesgos cognitivos. Y dado que en 10 minutos describí los mecanismos de ocurrencia de aproximadamente cuarenta y dos de ellos, creo que acerté.

  1. Desvanecimiento y vinculación: haga que la información fresca sea más accesible.
  2. La correlación se define como causalidad; debido a esto, surgen "brechas" en los modelos.
  3. Falso entendimiento - por eso, no podemos encontrar la brecha que ha surgido.
  4. Ignorar: distorsiona la información percibida. En teoría, este mecanismo debería filtrar los factores interferentes; en la práctica, puede dejarse llevar y filtrar algo útil para resolver el problema.

Cuatro factores, una combinación de los cuales genera casi todos los sesgos cognitivos conocidos. Y se recuerdan 4 razones mucho más fáciles que 42 consecuencias.

Aquí está el resto de la lista:
Sesgo cognitivo que implica ignorar


¿Hay algún error en el cerebro?


El cerebro es una cosa asombrosa. Hasta ahora, no hemos creado un mecanismo que pueda resolver los mismos problemas que él. ¿Se puede considerar esto errores de arquitectura? Defectos?
No sería tan categórico. El hecho de que el cerebro a veces no sea adecuado para resolver el problema que se le ha ocurrido no significa que sea algo malo. No se me juzgará por la efectividad del microscopio por la forma en que obstruye las uñas.

Sí, debido a las peculiaridades de la arquitectura, nuestro cerebro no siempre da la respuesta correcta. Pero también es capaz de reconocer su error y tratar de corregirlo. Y hasta ahora, esto es lo mejor que tenemos.

Lo más probable en este artículo son errores, los matices que me perdí y los lugares donde lo exageré con una explicación. Si los notas, por favor escribe.

Es posible que en mi línea de razonamiento haya un defecto que lo destruya por completo. Si lo encuentras, con gusto oiré sobre él.

Sí, arruinará 2 años de mi trabajo y me golpeará más fuerte que cualquier coco. Pero este es el precio que pago por la oportunidad de mejorar. Y por ahora, estoy satisfecho con el tipo de cambio.

Lo que puede ser destruido por la verdad debería ser. - PC Hodgell, Seeker's Mask

PD.
Si no comprende algo, o viceversa, si desea escuchar una explicación más "técnica / matemática" por un momento, será genial ver su comentario. Lo pensaré y responderé con gusto.
Si lo que describí está en desacuerdo con sus observaciones, o viceversa, su experiencia es consistente con mis conclusiones, también con gusto escucharé tales comentarios.
Después de todo, Habr es el lugar donde los comentarios no son menos interesantes que el artículo en sí.

All Articles