Las teorías neurobiológicas de la conciencia
© Carlos López Marbán
Publicado en El Catoblepas
Crítica de las teorías neurobiológicas de la conciencia, entendiendo que son incapaces, por su fisicalismo grosero, de dar cuenta de lo que pretenden explicar
Resulta un tópico muy socorrido en círculos científicos definir el siglo XXI como «el siglo del cerebro». Se defiende que el estudio de su estructura y funcionamiento debe aportar datos fundamentales para la comprensión no sólo del comportamiento humano (es común hablar de «las bases neurológicas de la conducta») sino además, y particularmente, del fenómeno de la conciencia. Se buscan de este modo bases neurológicas para dar cuenta de cuestiones consideradas hasta ahora parte del campo de estudio de otras categorías, como la psicología, las ciencias sociales o las ciencias humanas. La búsqueda pasa a considerarse, además, tema central e imprescindible para un correcto cierre de estas disciplinas, llamadas genéricamente neurociencias (o neurociencia, en claro intento unificador{1}):
«Dilucidar el origen biológico de la conciencia parece ser un tema crucial de las neurociencias, a tal punto que puede sostenerse que mientras no se esclarezca la génesis de la autognosis, de la conciencia, del “yo”, la neurobiología parecerá trunca e indefinida.» Dr. Sergio Ferrer Ducaud. Academia de Medicina de Chile. [1]
Estas posiciones científicas se ofrecen como materialistas (por oposición a otras tachadas de espiritualistas o metafísicas) aunque en realidad no suelen superar un fisicalismo reduccionista y simple. El materialismo que defienden es decididamente monista y precisamente por ello, como veremos, incapaz de dar cuenta cabal del problema de que se trata. Un destacado neurocientífico, Rodolfo Llinás, afirma que para comprender la naturaleza de la conciencia el requisito primordial es disponer de una perspectiva apropiada:
«así como la sociedad occidental, sumida en el pensamiento dualista, debe cambiar de orientación para captar las premisas elementales de la filosofía monista, también es necesario un cambio fundamental de perspectiva para abordar la naturaleza neurobiológica de la mente».[2]
Lo cierto es que el tema se ha convertido en recurrente y ha trascendido el ámbito estrictamente científico, constituyéndose como lugar común en todo tipo de publicaciones, tertulias, programas divulgativos, &c. Un ejemplo que desarrolla lo que decimos, extraído de un portal generalista de Internet, es el siguiente:
«La conciencia humana se genera en la parte posterior del córtex cerebral. Descubiertos los mecanismos neuronales que permiten al cerebro darse cuenta del entorno y de los procesos subjetivos. El córtex es la región del cerebro que genera la conciencia del entorno y de uno mismo, según una investigación que describe por vez primera los mecanismos neuronales del psiquismo humano. Aunque la investigación sobre la formación de la conciencia está aún en un estado primitivo, sus autores consideran que las facultades de nuestro cerebro pueden explicarse totalmente por la interacción de las células nerviosas.» [3]
Como se puede apreciar, se considera la conciencia una facultad del cerebro, cuya explicación puede encontrarse, en última instancia, en la interacción de sus neuronas.
Verdad es que la información se codea con otras de la talla de: «la ciencia ya experimenta con híbridos que son mitad hombres, mitad animales»; «las comunidades de insectos generan sus propios estados policiales» o «el Universo inicial era líquido». Pero esto no supone tanto un menoscabo a la validez de las teorías neurobiológicas de la conciencia cuanto la evidencia de que han pasado a formar parte del acervo «científico» popular.
La perspectiva neurobiológica parece haberse convertido en el acercamiento idóneo para aquellas personas que, no admitiendo ya enfoques religiosos o mentalistas, buscan una explicación «científica» a las realidades humanas «más profundas». Todo lo cual viene a ofrecerse, por supuesto, en consonancia con el «espíritu laicista» propio de los tiempos que corren. Se ha sustituido, en alguna medida, la creencia religiosa por una ingenua fe en la Ciencia, de modo que no puede sino confiarse en ella para que descubra las causas últimas de la conducta, la subjetividad o la conciencia.
Los modelos de los científicos
Francis Crick –premio Nobel en 1962 por su descubrimiento, junto a James Watson, de la estructura del ADN– a la manera habitual de otros científicos que alcanzan éxito en sus respectivos campos de estudio, pretende resolver «de un plumazo» cuestiones que llevan siglos siendo debatidas. Tras años de dedicación a tareas experimentales y empíricas decide, ya jubilado, «resolver científicamente» el problema de la conciencia, para lo cual se ve obligado a trabajar con ella de un modo grosero y reduccionista.{2}
En su libro La hipótesis sorprendente. La búsqueda científica del alma,[4] Crick afirma que «la conciencia es una banal fusión de neuronas del cerebro». Además, recuerda al lector que «tú, tus alegrías y tus penas, tus recuerdos y tus ambiciones, tu sentido de identidad personal y libre albedrío, no son de hecho más que el comportamiento de un gran agregado de células nerviosas y las moléculas que se les asocian». La conciencia no se entiende como algo propio de la persona, ni siquiera del organismo, sino exclusivamente del cerebro: un epifenómeno, un producto que brota de una determinada arquitectura neuronal. Se considera una propiedad emergente, que no puede ser explicada únicamente por las partes cerebrales, ni siquiera por su interacción, sino sólo por la estructura total del sistema. No es el funcionamiento el que la genera (la mente no es función del cerebro) sino el orden espacial que alcanzan los componentes del sistema nervioso humano en un momento dado de su evolución. Lo que parece obviarse o preterirse, es que esa misma evolución del sistema nervioso sólo ha sido posible por el funcionamiento del organismo como un todo.
La conciencia se entiende entonces como conocimiento (por ejemplo, de «tus alegrías, tus penas», &c.) pero éste, desde la perspectiva reduccionista neurológica de Crick, sólo puede entenderse a su vez como un conjunto de procesos de aferencia sensorial que dan lugar a actos motores, así como sus correspondientes patrones neurales jerárquicos donde quede «representado». Esto es lo que defiende también la psicología cognitiva: el conocimiento no es una acción, directa y necesariamente ligada a sus consecuencias (para uno mismo y para otros) sino un proceso que ocurre a nivel neurológico. El conocimiento es algo diferente y previo a su manifestación, entendiendo que puede comprobarse verdaderamente su existencia con técnicas de neuroimagen; en otras palabras: mediante la observación de una pantalla digital donde diferentes zonas encefálicas cambian de color en función de lo que hace un sujeto.
Observando la conciencia
De modo que la conciencia (el conocimiento) se intenta explicar (y medir{3}), por sus correlatos cerebrales, aunque sea obvio que los cambios que ocurren a este nivel se producen tanto al conocer algo como al des-conocerlo (o conocerlo de modo erróneo). El cerebro nunca deja de «hacer cosas» y la más profunda ignorancia acerca de cualquier cuestión requiere también de sus correspondientes transformaciones neuronales; perseverar en el error, de modo contumaz, también supone una ardua labor neuronal (con sus correspondientes «patrones neurales») sin que esto nos permita afirmar que quien actúa de modo repetidamente erróneo esté aprendiendo. Tan consciente se es, por otra parte, de algo real como de una ilusión o una alucinación. Se produce aquí una confusión entre procesos apotéticos, que requieren distancia con los objetos (e implican relaciones alotéticas, es decir, relaciones de otros sujetos con las mismas o similares situaciones) y procesos paratéticos. Porque si el conocimiento tiene sentido, lo tiene en cuanto que aquello que se conoce es también conocido por otros. Los cambios neuronales que ocurren cuando realizamos cualquier aprendizaje son precisamente los que no se pueden compartir con los demás (sin perjuicio de que ellos mismos, a su vez, puedan convertirse en objeto de conocimiento común).
Las teorías de Gerald Edelman, por su parte, se presentan como dotadas de una complejidad de la que carecen las de Crick. Las diferencias fundamentales serían, por un lado, la introducción de la interacción, con la que intenta superarse la explicación emergentista y, por otro, el concepto de mapa. Para el filósofo John Searle, de la Universidad de Berkeley, la teoría neurobiológica de Edelman es la más profunda y completa por su idea de «mapa neuronal»: «la primera idea esencial para Edelman es la noción de mapa. Un mapa es una capa de neuronas del cerebro, los puntos de la cual están vinculados sistemáticamente con los puntos correspondientes de una capa de células receptoras, como la superficie de la piel o la retina del ojo. Los mapas pueden también vincularse con otros mapas.» [5] Sin embargo, Crick ya hablaba de circuitos en los que las neuronas entran en contacto, formando patrones más o menos estables de intercambio electro-químico. Aunque la idea de mapa parece más flexible, menos estructural, lo cierto es que también Crick afirmaba que la sincronía neuronal es temporal, no de estructuras. De modo que la supuesta diferencia entre ambas teorías es más bien una similitud constante en este tipo de enfoques: su carácter representacional.
Edelman parte de sus trabajos sobre inmunología, por los que recibió el Nobel de Medicina en 1972, en los que defiende que el funcionamiento del sistema inmunológico no depende de un repertorio fijo de anticuerpos sino de una selección de aquellos que mejor se adaptan a la estructura de los cuerpos extraños: los seleccionados se replicarán en la cantidad necesaria para combatirlos. El sistema se presenta entonces como selectivo, en el sentido darwiniano del término. Su teoría de la selección del grupo de neuronas (TNGS) [6] concibe el funcionamiento del cerebro del mismo modo selectivo-evolutivo, a tres niveles: en el desarrollo biológico, conforme se completan las conexiones neuronales más básicas, que garantizan y regulan las funciones fisiológicas necesarias para la existencia (troncoencéfalo y sistema límbico); mediante la experiencia, que permitiría incorporar nuevas conexiones (corteza y tálamo); y en la dimensión de re-entrada o comunicación en ambos sentidos.
El primer nivel hace referencia a una selección primaria, que consolidaría una codificación genética determinada, sólo posible por lo que Edelman denomina lucha topobiológica (lucha de especies por «ocupar el espacio») y que no es sino otra forma de decir «lucha por la vida». La segunda sería una selección secundaria de los grupos neuronales, que llevaría a la formación de mapas o patrones en los que se «dibuja» la memoria, de modo flexible, mediante sincronizaciones neuronales temporales (se trata, en suma, de apelar a la plasticidad sináptica y de hacer referencia a la ontogénesis en vez de la filogénesis del nivel anterior). La re-entrada, por último, sería un proceso dinámico en el que la constante interacción entre sistemas (límbico y tálamo-cortical) permitiría categorizar las nuevas percepciones y modificar los mapas, siempre a partir de la memoria de valor, que impondría unos límites{4}.
El aprendizaje se explicaría por la consolidación de algunos de estos patrones, lo que sólo es posible en la medida en que la información del medio permanezca estable, ya que de otro modo los patrones mismos habrían de variar. La posibilidad misma de aprendizaje está determinada por la regularidad de la estimulación ambiental, de modo que los «mapas» son copias o representaciones del exterior, a pesar de la apelación a los circuitos autoorganizativos, las re-entradas, &c. El problema de los modelos interaccionistas es que intentan superar el fisicalismo simple (la conciencia se explica por leyes físico-químicas, de orden neuronal) introduciendo la idea de interacción con el mundo físico externo al cerebro, pero para ello necesitan postular un representacionismo que duplica el mundo, mediante los «mapas neuronales». El mundo ha de representarse de algún modo para que el cerebro pueda trabajar con él, de manera que se cae de nuevo en el dualismo externo/interno típico del mentalismo (contra el que se construyen precisamente estos modelos) pero sustituyendo ahora la mente por el cerebro.
De modo que la interacción se vuelve fundamental para Edelman porque con ella intenta superar el emergentismo simple de Crick (la conciencia emerge, como epifenómeno, al llegar a cierto nivel de organización cerebral). Pero al introducirla, lo único que hace es «recordarnos» que el cerebro «está» en el cuerpo (pero el cerebro no «está», sino que «es» cuerpo) y éste, a su vez, inmerso en su medio ambiente (aunque más que inmerso en el medio, diríamos que él mismo es medio para otros cuerpos y éstos, a su vez, para él), operando los tres de forma integrada. Habría entonces un intercambio constante entre la información de los sentidos corporales –a través de los cuales se «accede» al mundo– y todo aquello que es recordado e imaginado (y que está en el cerebro en forma de «mapa»). Ahora bien, la conciencia misma sólo es posible, según Edelman, gracias a las interacciones reentrantes entre el tálamo y la corteza.
De modo que se introduce el entorno y el cuerpo pero la explicación recae de nuevo en el sistema nervioso. El mundo entorno parece más bien una excusa para el desarrollo de la capacidad cerebral de autoorganización y reconocimiento de patrones; mientras que el cuerpo se ofrece casi como una extensión ortopédico-biológica del cerebro hipostasiado, necesaria sin duda para que éste pueda manipular el medio. Frente a todo esto, habría que decir que es más bien el cuerpo, en su integridad, el que actúa y el que se hace consciente en su actividad, de modo que la conciencia es siempre operatoria. No se niega, por supuesto, la importancia del sistema nervioso en esta actividad, pero puesto que los neurocientíficos son tan amantes de las metáforas, quizá habría que comenzar a presentar el cerebro más bien a la manera de una centralita telefónica automática que como un director ejecutivo que tomara decisiones.
Edelman diferencia también, frente a Crick, entre conciencia primaria y conciencia superior. La primera sería propia de los animales{5}: conciencia de «escenas» o experiencias concretas, sin sucesión temporal; mientras la segunda sería específicamente humana, sustentada en su capacidad simbólica (que incluye el lenguaje y la conciencia de sí). La conciencia superior requeriría del desarrollo del aparato laríngeo de fonación y de las áreas del lenguaje del hemisferio izquierdo (Wernicke y Broca). Pero Edelman reduce la explicación de esta conciencia a un nuevo circuito interactivo, ahora entre las áreas que realizan la conversión simbólica (las ya referidas del lenguaje) y las preexistentes de la conciencia primaria, [7] de modo que no se evita el dualismo ya referido y el «yo» se entiende, no de un modo operatorio, sino como otra representación cerebral, esta vez conceptual, narrativa, posible porque el «mapa» neuronal no es ahora únicamente espacial o jerárquico («escenas») sino también temporal o sincrónico («narraciones»). En palabras de Vicente M. Simón, ahora se tiene la capacidad de «construir modelos de la realidad que permitan su manejo conceptual sin requerir la presencia de la realidad misma. La posibilidad de trabajar con estos modelos fuera del tiempo real (sic) es lo que hace posible escapar a la tiranía del presente recordado a la que se hallan sometidos aquellos seres que sólo poseen conciencia primaria». [8] Pero esta temporalidad o «emancipación de la tiranía» de la «realidad en tiempo real», no se consigue por la recursividad de las operaciones de un yo socialmente constituido, sino gracias a la sincronicidad de la circuitería neuronal.
Representacionismo
Desde una perspectiva monista y representacional, defendiendo también la interacción y la sincronicidad neuronal como mecanismos explicativos, Rodolfo Llinás afirma que el cerebro es la estructura que interactúa con la «información del medio», captándola, almacenándola, transformándola y transmitiéndola en diversas formas, desde movimientos hasta emociones. Este autor defiende que la conciencia existe ya en los organismos biológicos más primitivos (lo que viene a coincidir con las ideas de Teilhard de Chardin) por lo que la conciencia específicamente humana sería resultado de la evolución filogenética del sistema nervioso. La conciencia no surge del cerebro tras alcanzar éste una determinada estructura, sino que, en realidad, es el sistema nervioso mismo (todo organismo con sistema nervioso la tiene). La respuesta de contracción de una esponja a una estimulación directa sería ya una forma de conciencia. La conciencia humana sería más compleja únicamente porque es más complejo su sistema nervioso. La conciencia se puede entender entonces de una manera geológica, con diferentes capas; o como una ciudad, construida con diversos materiales a través de las épocas. Su arqueología incluiría una capa prehistórica, una capa medieval, una capa renacentista, etc. Desde estas perspectivas neo-teilhardianas cada uno de nosotros llevaría dentro de su sistema nervioso la historia entera de la biología del planeta. Este es el frívolo mecanismo explicativo que subyace a argumentos que presentan desde la psicopatía hasta la violencia doméstica como causadas por un supuesto «cerebro reptiliano».
Estas teorías y otras, como las de Howard Bloom{6}, se convierten en deudoras de las concepciones espiritualistas de Teilhard de Chardin y de las ideas de noosfera o esfera humana: esfera de reflexión y de invención consciente. Pero estos autores amplían de modo generoso el concepto, extendiéndolo a todos los niveles de complejidad de la materia viva, en defensa de una «conciencia planetaria» o «mente de la Tierra» (cuando el biólogo Francisco Varela conoció a Humberto Maturana, con el que trabajó durante años, le señaló que su interés era «el psiquismo del universo», a lo que Maturana respondió: «Muy bien, has llegado al lugar correcto. Comencemos por el ojo de la paloma») [9]. En realidad, estas teorías se ofrecen en lógica consonancia con otras que consideran el planeta como un ser vivo: si vive y respira, ¿por qué no va a tener también conciencia? El caso de Maturana y Varela{7} tampoco es diferente, no sólo por que sus ideas están teñidas de un espiritualismo panteísta muy latinoamericano, sino porque tampoco superan los problemas ya reseñados de las teorías de Edelman. Así, aunque Varela dirija atinadas críticas hacia otras teorías representacionistas (a las que acusa de kantianas) y solipsistas (donde podríamos encajar, por ejemplo, la de Crick) [10] sus propias teorías intentaron superar estos límites con conceptos como el de «clausura operacional del sistema nervioso», cuyo mayor «mérito» es introducir la acción como determinante del estado particular del sistema nervioso en cada momento. La (casi) siempre preterida conducta del organismo se recupera, poniéndola al mismo nivel que el estado mental o cerebral, de modo que ambos se co-determinan (sujeto y mundo se co-determinan, dice también la psicología cognitivista de Bandura). Pero esta co-determinación, que se ofrece pretenciosamente con el término enacción, tomado de la filosofía, no es sino otra forma de nombrar la interacción: al fin y al cabo, el conocimiento sigue estando en el cerebro, aunque éste se vincule circularmente a la acción. El sujeto de conocimiento sigue siendo el cerebro hipostasiado, no la persona o el organismo como un todo.
El «último grito» en concepciones fisicalistas de la conciencia y que pretende ir más allá (o, para ser exactos, más abajo) del nivel neurobiológico, son las teorías que buscan la explicación de la conciencia en la mecánica cuántica. El autor más conocido de este enfoque es Roger Penrose, físico famoso por sus trabajos junto a Stephen Hawking sobre la relatividad general, en los que desarrollaron los teoremas de las singularidades espacio-temporales. Al modo ya referido de Crick y otros científicos, no duda en proponer una explicación de la conciencia desde su propio campo de estudio, la física cuántica.
Afirma Penrose que no podemos hallar la respuesta al problema de la conciencia en el nivel de las neuronas porque éstas son demasiado grandes: son ya objetos explicables mediante la física clásica. Como ésta no resuelve el «problema fuerte» de la neurociencia (como pasar de las conexiones neuronales a la experiencia de la conciencia) decide buscar aún más adentro: debemos escrutar el interior de la neurona y encontrar allí una estructura denominada citoesqueleto, que mantiene unida la célula y es el sistema de control para su funcionamiento.
El citoesqueleto contiene diminutas estructuras llamadas microtúbulos, los cuales desempeñan un papel decisivo en el funcionamiento de las sinapsis. La hipótesis que propone es la siguiente: «según el modo de ver que provisionalmente propongo, la conciencia sería alguna manifestación de este estado citoesquelético interno, cuánticamente trabado, y de su participación en la interacción entre niveles de actividad cuánticos y clásicos.» [11] Los microtúbulos fueron un hallazgo del anestesista Stuart Hameroff y otros investigadores de la Universidad de Arizona. En estas microestructuras «se detecta una anulación de la actividad ordinaria cuando los pacientes son anestesiados. Los microtúbulos contienen proteínas cuyo tamaño sí entraría dentro de lo que es la escala en la cual se producen fenómenos cuánticos. De modo que tales fenómenos serían amplificados por los microtúbulos a la escala (biológica, no física, y menos cuántica) de las neuronas.» [12] Las consideraciones de Penrose a favor de estas entidades celulares como factores explicativos de la conciencia se apoyan en pseudo-argumentos del siguiente jaez: [13]
- Estas entidades existen en todo tipo de células, con lo que habría una explicación para los comportamientos «complejos» de seres «simples» sin sistema nervioso desarrollado (el paramecio, por ejemplo)
- Puesto que cada neurona contiene una cantidad enorme de microtúbulos, el poder de computación del cerebro se incrementaría en un factor de 10 a la 13
- Dentro del microtúbulo podría existir un estado especialmente ordenado del agua (agua «vicinal») que podría ayudar a mantener el estado de coherencia cuántica buscado.
- La acción de los anestésicos generales podría interferir en la actividad microtubular, hipótesis apoyada por el hecho de que estos anestésicos también actúan sobre seres simples como amebas o paramecios.
Como recuerdan Robles y Caballero, Penrose piensa en la «alternativa cuántica» al «descubrir» que los procesos cerebrales no pueden ser replicados por ningún ordenador. Pero, en realidad, no se explica muy bien qué tiene que ver todo este entramado con la conciencia. En realidad, el modelo cuántico peca de los mismos errores que los anteriores: el dualismo y el fisicalismo más reduccionista y simple: todo, incluso la conciencia, puede ser explicado mediante leyes físicas (aunque sean las de la física cuántica).
El empeño de Penrose (y el de tantos otros investigadores de la neurociencia) se asemeja al de un obrero que cayera con su pala en un gran agujero. El hombre no sabe como salir de allí y la pala no le ayudará a conseguirlo, pero es la única herramienta que tiene a su alcance y además sabe usarla con destreza, de modo que comienza a cavar con ella. Cuanto más cava más se hunde, pero aún piensa ilusionado que si sigue intentándolo conseguirá su objetivo. Los neurocientíficos trabajan con sus herramientas, convencidos de que si aún no han explicado la conciencia (con sus propias herramientas y en sus propios términos) es porque sus investigaciones están todavía en los primeros estadios. Por suerte para ellos, parece que ya no se puede «cavar más abajo» de los microtúbulos.
Todos estos modelos parten de un error habitual y común, que resulta de considerar el cerebro como la base de la conciencia. El mejor ejemplo de esta falacia son las teorías de Searle, que defiende de modo tajante que «deberían darse por sentados los fenómenos mentales [...] de la misma manera que uno da por sentados los fenómenos digestivos en el estómago».[14] Este autor considera que la diferencia mente/cuerpo no es ontológica sino epistemológica (conocimiento en primera persona frente a conocimiento en tercera persona). La mente no es sino una cualidad o propiedad del cerebro, producto de su microestructura; pero aunque causada por mecanismos «micro» (impulsos electroquímicos, por ejemplo) no puede ser explicada en términos de esos mismos mecanismos. Se pretende buscar una explicación científica de la conciencia (considera muy importantes las teorías de Edelman) pero a la vez se rechaza que la objetividad científica pueda decir nada interesante respecto a ella. Se busca una objetividad diferente (frente a la científica) para explicar el reino de la mente, que sería el de la subjetividad y la apariencia: esto es así debido a que la ontología de los estados mentales es una ontología de primera persona, distinta a la del resto de hechos físicos. De modo que aunque los estados mentales son, en última instancia, físicos, no pueden estudiarse del mismo modo pues su realidad consiste en su apariencia: son como a cada uno le parece que son. El resto de los hechos físicos, en cambio, se presentarían con una diferencia entre la realidad de lo que se percibe y su apariencia. Como no se puede acceder científicamente a esos estados mentales, puesto que son subjetivos (no pueden ser científicamente objetivables) ha de hacerse por métodos indirectos: observando las conductas apropiadas y buscando los registros fisiológicos subyacentes, para atribuir al sujeto los correspondientes estados mentales. En resumidas cuentas, lo que llevan haciendo los enfoques reduccionistas (neurológicos, neurobiológicos, cognitivos, &c.) desde hace mucho tiempo. Las teorías de Searle son un buen soporte filosófico (con su correspondiente carga ideológica) para este tipo de pseudoexplicaciones cientifistas.
Contra todo ello habría que decir que:
- como es habitual en explicaciones que se pretenden monistas, no se demuestra en ningún caso que «lo macro» sea un rasgo de lo «micro» o que emerja de él
- aunque se rechaza el fisicalismo, afirmando que la conciencia no puede explicarse por leyes físicas, no se da una alternativa válida para entenderla; así que, en realidad, a pesar de la importancia que se le concede, no se explica
- aunque se niegue, la supuesta diferencia epistemológica primera/tercera persona esconde un dualismo de dos ontologías diferentes (físico/mental)
- la pretensión de estudiar de modo objetivo el ámbito de la subjetividad sería en cualquier caso descabellada, pues si la realidad subjetiva fuese la pura apariencia perceptiva, no puede analizarse en términos objetivos, que se fundamentan precisamente en verdades en las que el sujeto queda anulado
- el ámbito de la subjetividad y la conciencia no puede entenderse formado por percepciones puras, previas, sobrevenidas e indubitables sino como operatorio, que trabaja a nivel de fenómenos (y apariencias)
La alternativa a Searle –y con él a todas las concepciones neurobiológicas que hemos visto– pasa por considerar la conciencia como operatoria; la operación como corporal, sobre todo de tipo manual y fonético (no reducible, pues, al cerebro o al sistema nervioso); y al cuerpo mismo como formando parte de una totalidad de cuerpos. La conciencia es entonces necesariamente relacional, evitándose de este modo las falsas relaciones:
percepción/apariencia → mundo físico
percepción=apariencia → «mundo mental».
Se puede afirmar ahora que la percepción subjetiva no es apariencia sino conocimiento verdadero y que sólo se convierte en apariencia en tanto lo que se percibe obstaculiza el conocimiento de lo que se conoce, tal como es conocido por otros sujetos. «Las apariencias implican la relación de un sujeto a más de dos objetos o disposiciones objetivas. El concepto de apariencia implica un componente práctico (obstrucción o facilitación) en relación a un sujeto operatorio, al margen del cual el concepto de apariencia se desvanece». Los fenómenos, por el contrario, «implican la relación de un objeto o disposición de objetos a más de un sujeto».[15] De modo que la conciencia no es una manifestación, epifenómeno o rasgo del sistema neuronal sino una operación, en todo caso, de una totalidad corpórea que actúa junto, frente, a través o en contra de otras.
Otras maneras de decir conciencia
Desde aproximaciones neurobiológicas puede entenderse también la conciencia, con pretensiones explicativas más modestas, como «alerta» o «vigilancia». Se alude entonces al grado de activación córtico-reticular o «arousal», que se despliega en una escala que va desde la vigilancia («estar despierto») hasta el sueño, pasando por distintos niveles intermedios (somnolencia). Por supuesto, el paso de un «estado de conciencia» a otro (alerta-sueño) es un hecho repetido y común a lo largo de la vida de una persona, convirtiéndose en problemático cuando deja de producirse (insomnio, narcolepsia{8}) o no lo hace con la suficiente fluidez. Lo cierto es que lo importante aquí es «estar alerta», independientemente de aquello ante lo que se está alerta (abstrayendo el medio).
También se utiliza desde esta perspectiva el término «lucidez», definido como la capacidad general de percibir el entorno y responder a él, pero también en ocasiones como «claridad de ideas» o «claridad de juicio», ofreciéndose entonces como su contrario la llamada «confusión mental». Su valor de uso (desde parámetros exclusivamente neurobiológicos) ha de residir en su sentido de adecuada percepción y respuesta al mundo entorno, mientras que la apelación a ideas claras o juicios correctos nos remite ya a otros planos explicativos de la conciencia{9}. La «lucidez» puede aceptarse si se ofrece como la necesaria contrapartida biológica (funcional-adaptativa) de la activación neurológica («alerta»), pero de ningún modo como «claridad de ideas», ya que el salto entre ambas concepciones no es meramente cuantitativo.
La lucidez implica de algún modo la luz, que ilumina los objetos a distancia con los que actuar (el entorno al que adaptarse) y ante los que se pone en marcha la alerta o vigilancia{10}, es decir, supone ver y actuar con claridad; no tanto pensar o juzgar con acierto. Tener «ideas claras», en cambio, requiere operaciones con conceptos, lo que supone un mundo social y culturalmente organizado, que no puede ser reducido a la escala neurobiológica.
En este sentido de percepción y respuesta al entorno se ofrecen los diferentes «estados confusionales» que recoge la investigación psicopatológica al uso, en una escala entre la lucidez y el coma:
- Lucidez: conciencia normal
- Estado oniroide: la persona está despierta pero le cuesta diferenciar entre lo real y lo imaginado
- Estado crepuscular: se actúa de modo automático, sin poder dar cuenta de lo que se está haciendo
- Torpor: dificultad para razonar y contestar con claridad, sin que haya sueño
- Estupor: la persona está despierta pero no contesta (mutismo) ni se mueve (acinesia)
- Obnubilación: sólo se reacciona ante estímulos fuertes
- Sopor: la capacidad de reacción es ya muy pequeña
- Coma: sólo hay actividad vegetativa, no cortical
En el estado oniroide, la respuesta se ve entorpecida por la influencia de estímulos imaginados (oníricos), de modo que, aunque se reacciona al medio, éste aparece «contaminado» por dichos estímulos. El llamado estado crepuscular, habitual en epilépticos, no es un constructo unívoco, ya que se utiliza para dar cuenta de un nivel de conciencia que puede fluctuar desde una total desconexión del medio hasta cierta capacidad de respuesta parcial. Pero en general suele referirse a niveles de conciencia prácticamente normales, en los que sólo llama la atención el cambio de comportamiento, que se convierte en extraño o extravagante{11}. Las conductas y movimientos automáticos y las acciones que, tras las crisis, se describen como involuntarias, se vuelven habituales. En cualquier caso, aunque en la epilepsia se producen déficit a nivel neuronal{12}, lo relevante es que estos comportamientos no resultan adaptativos, no hay lucidez y se presenta confusión y desorientación, así como lentitud en las respuestas verbales y en la ejecución de órdenes sencillas.
Los conceptos de conciencia usados hasta ahora nos sitúan, entonces, en la dimensión organísmica (individual) y lo hacen de un modo complementario. En otras palabras, el concepto de alerta (vigilancia) pone el énfasis en la activación nerviosa (componente «neuro») necesaria para una correcta o adaptada responsividad del organismo al medio (lucidez), que sería el componente «bio» del par neurobiológico{13}. Sin perjuicio de que puedan ofrecerse ambos por separado (abstrayendo el otro término del par) aunque tampoco debe llegarse a la conclusión de que lo neurológico es la base de lo biológico: la funcionalidad adaptativa del organismo en su medio es la que determina el desarrollo del sistema nervioso, tanto a nivel filogenético como ontogenético. Una explicación en términos neuronales de la conciencia como lucidez resultaría errónea, aunque sólo fuera por insuficiente.
El problema de estos conceptos es que resultan tautológicos. Se define la conciencia como «estar despierto» o «darse cuenta del entorno» pero esos términos no son sino formas diferentes de afirmar que el sujeto es o está consciente. Lo que habría que cuestionar entonces es la necesidad de denominar como conciencia, de manera confusa, lo que ya se rotula de otras maneras.
La autoconciencia como conciencia objetiva
Otro término que suele utilizarse desde perspectivas de corte neurobiológico, entendiéndolo como una dimensión de conciencia diferente a las anteriores, es el de autoconciencia o «conciencia de uno mismo». El asunto es que si se entiende como tal autoconciencia una adecuada capacidad de reacción al «mundo interno», no hay entonces entre este mundo y el «externo» más que una diferencia de localización de los estímulos: la autoconciencia sería una forma de lucidez o reactividad. Un animal que pone en marcha unas pautas de búsqueda de alimento ante señales propioceptivas de hambre está siendo consciente (reaccionando con lucidez). Un bebé que responde llorando ante este mismo tipo de señales está reaccionando también conscientemente. Este tipo de conciencia no nos sitúa, pues, ante un significado diferente, sino que nos remite al que ya hemos calificado de tautológico («conciencia es darse cuenta de las cosas»).
Intentando establecer una concepción de conciencia (autoconciencia) que sea exclusiva de la sensación interna, sin que se pueda hablarse de reacción o respuesta, el profesor de filosofía del MIT Ned Block (94, 95) [16] [17] distingue entre conciencia-P (P-consciousness) y conciencia-A (A-consciousness o conciencia de acceso). Defiende que la primera es una conciencia estrictamente fenoménica o experiencial{14} («la conciencia-P es la experiencia») mientras la segunda tendría ya una funcionalidad, al integrarse en la relación del sujeto con el mundo. Pero lo que no explica Block es de qué modo podemos conocer la existencia de esta conciencia si no es precisamente a través de dicha relación. Aun más (utilizando el ejemplo anterior) si sabemos que el animal tiene hambre, no es porque leamos en su interior (intus-legere){15} ni porque intentemos percibir la situación como él, situándonos en su «campo fenoménico», sustituyéndole de algún modo al proyectar sobre él nuestra propia subjetividad operatoria{16}, sino porque percibimos el conjunto de sus operaciones:
«Es la construcción de una exterioridad: cuando percibo el movimiento de un animal como un “zarpazo”, no penetro en su interior, sino que inserto el segmento percibido de su movimiento en una trayectoria de conjunto.» Bueno (80) [19]
El «campo fenoménico» en el que nos situamos no es el del animal (o el bebé) sino que es el mundo mismo, el mundo construido a escala operatoria humana en el que el término hambre tiene significado. La cuestión es que si existiese esa conciencia «pura», entendida como «pura percepción» o «pura experiencia» sin funcionalidad, sería inaccesible.
«…no hay posibilidad de separar el orden sensible del orden inteligible, las percepciones de los pensamientos o, si se quiere, las intuiciones de los conceptos. Toda intuición contiene a la vez un concepto y todo concepto contiene una percepción.» Bueno, op. cit. [20]
Así pues, la «autoconciencia», entendida como «lucidez» o responsividad a estímulos corporales internos, requiere, en realidad, de una construcción «desde fuera», apotética. Los «estímulos internos» se hacen conscientes cuando se ofrecen a distancia: sea la distancia entre diferentes partes del cuerpo, sea la distancia a que se ofrecen las operaciones para el observador.{17} En cambio, los procesos paratéticos del organismo (celulares, neuronales, &c.) se dan precisamente a nivel automático, inconsciente. Por ello, como dijimos, los procesos neurológicos resultan insuficientes por sí mismos para explicar la percepción y respuesta adecuada al entorno (incluyendo en él lo que hay «bajo la piel»). El «mundo interno» de la sensaciones estimulares corporales no puede presentarse, entonces, como un modo diferente de conciencia.
Sin embargo, cuando se habla de autoconciencia, el sentido que se suele utilizar es diferente, haciendo hincapié no tanto en uno mismo como fuente de estimulación, sino más bien en el conocimiento de lo que uno hace y lo que uno es: «conciencia sobre la propia conciencia». El propio Block (1994, pág. 213) la define como «la posesión de un concepto de yo (self) y la habilidad para utilizar este concepto para pensar acerca de uno mismo»{18}. Las anteriores «dimensiones de conciencia» son, por decirlo así, basales, en el sentido de que si se ven alteradas, se verá alterado el comportamiento en su conjunto, pero esto no significa que la autoconciencia pueda ser explicada por ellas. Esta dimensión hace referencia ya a operaciones verbales, específicamente humanas (lenguaje doblemente articulado) que suponen una equivalencia funcional entre los conceptos y las situaciones (y otras operaciones no-verbales). Al modo como la conciencia, entendida como lucidez, no puede entenderse sin el entorno (no puede explicarse por el sistema nervioso, aunque lo suponga), la autoconciencia no puede reducirse a las anteriores dimensiones de conciencia, ya que requiere de un mundo organizado socialmente, que es el que proporciona precisamente el significado de las operaciones verbales. En este sentido, la autoconciencia puede entenderse como la forma de conciencia específicamente humana, la forma misma en que «se manifiesta como activo el ser social del hombre…» (Bueno, op. cit., pág. 85)
En una crisis epiléptica que curse con un estado crepuscular, se ofrece como alterada la autoconciencia, pero esto no nos obliga a afirmar que la epilepsia sea un problema de comprensión del «yo» o un trastorno psicológico (un error cognitivo, una inadecuada conducta verbal) sino más bien que la capacidad de dar cuenta de lo que uno hace requiere, como cualquier otra conducta, de un adecuado funcionamiento general del sistema nervioso; sin que ello signifique que el buen funcionamiento pueda, por sí mismo, explicar dicha capacidad (o cualquier otra conducta). Al modo como, por ejemplo, una lesión nerviosa puede causar parálisis en una mano, sin que eso nos diga nada acerca de la «parálisis del guante» que podía «sufrir» una histérica, cuyo sistema nervioso funcionaba perfectamente.
En este sentido, «el trastorno mental se vería [...] como el despliegue de una serie de acciones recíprocas entre diversos actores y no [...] como algo debido al presunto disfuncionamiento de algún mecanismo interno. Se entiende que los trastornos mentales presuponen una cultura que organiza tanto el funcionamiento normal de la vida como el mal funcionamiento cuando sea el caso» (Marino Pérez Álvarez, La contingencia generalizada-discriminada como drama.) [21]
Podemos establecer, pues, tres modos diferentes de decir la conciencia, que serían los siguientes:
- Capacidad de alarma (arousal): atención, alerta, exhibida por animales con sistema nervioso, con aprendizaje (conductas aprendidas) o sin él.
- Lucidez (awareness): darse cuenta del entorno, mostrada por animales con sistema nervioso desarrollado, pero no por animales con conductas innatas, sin aprendizaje.
- Autoconciencia (consciousness): darse cuenta del Mundo y percibir las propias conductas, integradas en él. Requiere lenguaje doblemente articulado.
Pero la cuestión, entonces, es que el funcionamiento de esta autoconciencia, nos remite a la cultura que será la que determine su buen funcionamiento, y nos aleja radicalmente de cualquier posible explicación reduccionista de corte neurobiológico.
Si utilizáramos aquí una escala figurada de autoconciencia, su extremo sería el insight o «toma de conciencia», entendido, no a la manera de la Gestalt, como un descubrimiento súbito{19} sino a la manera freudiana, como una interpretación, aunque el «material a interpretar» no haya que buscarlo en las profundidades del psiquismo sino en la profundidad del mundo (a lo lejos). Pero este material se presenta ya organizado y la propia interpretación (o interpretaciones) está dada socialmente, por lo que no puede depender de la estructura (o la función) del cerebro ni de la mera adaptación biológica a un nicho ecológico, sino que descansa en un mundo social previamente organizado (grupos, clases, instituciones). La autoconciencia, como conciencia específicamente humana, no puede ser entendida ya de un modo subjetivo, sino trascendiendo lo individual; es, en suma, una «conciencia objetiva»:
«[...] el concepto de “conciencia objetiva” (conciencia social, supraindividual, no en el sentido de una conciencia sin ‘sujeto’, sino en el sentido de una conciencia que viene impuesta al sujeto en tanto éste está siendo moldeado por otros sujetos del grupo social). Y debe ser desconectado del concepto de conciencia subjetiva, que nos remite a una conciencia individual, perceptual, distinta y opuesta a la conciencia objetiva.» [22]
En el otro extremo de la escala no estarían las conductas automáticas del epiléptico (o del sonámbulo), ni la incapacidad básica de sentir dolor o ver un objeto{20} (todo ello depende del funcionamiento correcto de otros niveles de conciencia) sino más bien la incapacidad para comprender el funcionamiento general de las cosas, la pérdida del contacto con el sentido común (el sentido de los otros), la idiotez moral. Por ello resulta tan absurdo pretender explicar lo que trasciende los cuerpos individuales, lo que está más allá de la piel, desde perspectivas reduccionistas que miran hacia dentro de ella, incluso cuando se ofrece la interacción como contrapartida.
Las explicaciones, no ya de corte neurobiológico, sino incluso las psicológicas, en el sentido estrictamente conductual-funcional del término (no en el psico-histórico) resultan insuficientes para explicar la conciencia (específica) humana, por lo que se hace necesaria una explicación que tenga en cuenta su carácter supra-individual. La conciencia se da en el conocimiento compartido con otros, es un «saber con» (cum-scire), como la define Ferrater Mora en su Diccionario de Filosofía[23]. Saber compartido y moldeado por otros incluso cuando se da «dentro de una sola persona, con referencia a los diversos hechos o actos de su vida» (ibídem). Precisamente, este carácter de la conciencia supraindividual que «se vuelve hacia dentro», hacia uno mismo, es el que nos permite hablar de conciencia psicológica y de conciencia moral (la voz de la conciencia) pero sólo porque se reflexiona sobre los propios actos en cuanto que se ajustan mejor o peor a modelos genéricos culturales de comportamiento (psicología) o a patrones de normas y valores propios de grupos específicos (moral), sin perjuicio de que ambos tipos de reflexión puedan interseccionar o confundirse entre sí. La razón para el auge de la neurociencia o ciencia cognitiva quizá haya que buscarlo entonces en motivaciones de tipo ideológico, que escapan ya al objetivo de este trabajo. [Puede verse al respecto el artículo de Robles y Caballero anteriormente citado.]
De modo que el «concepto de yo (self) y la habilidad para utilizar este concepto para pensar acerca de uno mismo» al que hacía referencia Block, es un producto social, fruto además de una cultura muy determinada, la cultura moderna occidental. Lo que nos dota de una identidad individual, de la conciencia de uno mismo, del yo reconocible, claro y distinto, es precisamente, por decirlo con términos de la psicología conductista, el refuerzo de los otros. La identidad misma es el refuerzo social. Pero también lo social nos enfrenta a otros y, de ese modo, a nosotros mismos, en tanto que integrados y moldeados por grupos diferentes, en cuanto que sometidos irremediablemente a planos con
tradictorios, a trayectorias contrapuestas, a desajustes, a conflictos. La conciencia no ha de entenderse entonces de un modo correlacional, como propia de un sujeto, un organismo (o un cerebro hipostasiado) que es «consciente del entorno que le rodea», sino en un sentido relacional, entendiendo a la persona enclasada en grupos que lo someten a conflicto de modo inevitable:
«La conciencia se nos define entonces, por tanto, como ese mismo conflicto, cuando en un punto individual, se llegan a hacer presentes los desajustes o las inconmensurabilidades [...] asociados a diversos grupos, de los cuales los individuos forman parte. La conciencia es algo así como una percepción de diferencias y, por tanto, es siempre conciencia práctica (operatoria).» [24]
—
Referencias
[1] http://www.uchile.cl/instituto/medicina/boletin/boletinxxxv
[2] Rodolfo Llinás (2003), El cerebro y el mito del yo. El papel de las neuronas en el pensamiento y el comportamiento humanos, Editorial Norma, Bogotá.
[3] http://www.tendencias21.net/index.php?action=article&id_article=67982
[4] Francis Crick (2003), La hipótesis sorprendente. La búsqueda científica del alma, Editorial Debate.
[5] John R. Searle, «Los misterios de la mente I y II», artículos publicados en la revista Vuelta, nº 231 y nº 232, febrero y marzo 1996, México.
[6] G. M. Edelman (1990), Bright air, brilliant fire. On the matter of mind, Basic Books, Nueva York. Este libro es una sistematización de las teorías de este autor, recogidas en tres libros anteriores: Neural darwinism (1987); Topobiology (1988) y The remembered present (1989).
[7] Traducción de Carlos Muñoz Gutiérrez del capítulo 10 de Wider than the sky, (2004), «The phenomenal gift of consciousness». Yale University Press. http://serbal.pntic.mec.es/~cmunoz11/index.html
[8] Vicente M. Simón (2000), «La conciencia humana: integración y complejidad», Psicothema, vol. 12, nº 1, págs. 15-24
[9] Francisco Aboitiz, «Sincronía, conciencia y el “problema duro” de la neuro-ciencia»:, Rev. Chil. Neuro-Psiquiat., 2001; 39: 281-5.
[10] Francisco Varela (1990), Las ciencias cognitivas: tendencias y perspectivas, Editorial Gedisa, Barcelona.
[11] R. Penrose (1996), Las sombras de la mente, Crítica, Barcelona.
[12] F. J. Robles & V. Caballero, «Mentalismo mágico y sociedad telemática», Cuaderno de materiales, nº 18.
http://www.filosofia.net/materiales/num/num18/Mentalismo1.htm
[13] R. Penrose, op. cit.
[14] John R. Searle (1996), El redescubrimiento de la mente, Crítica, Barcelona.
[15] http://symploke.trujaman.org/index.php?title=Apariencia
[16] N. Block (1994), «Consciousness», En S. Guttenplan (Comp.), A Companion to the Philosophy of Mind, Blackwell, Oxford.
[17] N. Block (1995), «On a confusion about a function of consciousness», Behavioral and Brain Sciences, 18, 227-247.
[18] T. Nagel (1974), «What Is It Like to Be a Bat?», Philosophical Review, 83 (4) 435-450. En N. Block, O. Flanagan y G. Güzeldere (comps.), The Nature of Consciousness, MIT Press, Cambridge, MA.
[19] Gustavo Bueno (1980), El individuo en la historia. Comentario a un texto de Aristóteles, Poética, 1451b. Discurso inaugural del Curso 1980-81, Universidad de Oviedo, pág. 79.
[20] Gustavo Bueno, Op. cit., págs. 60-61.
[21] http://www.metapsicologia.com/articles.php?do=viewart&id=9&cat=10
[22] Pelayo García Sierra, Diccionario filosófico [297]
[23] José Ferrater Mora (1976), Diccionario de filosofía, Alianza Editorial, Madrid.
[24] Pelayo García Sierra, Diccionario filosófico [302]
—
Notas
{1} Carlos Muñoz Gutiérrez, en un artículo en el que comenta las teorías de Edelman dice: «podemos entonces decir que una ciencia nueva ha colonizado el ámbito del saber, ha colocado a sus gentes en instituciones y ha creado hogares donde habitar. Desde muchas direcciones, a través de muchos caminos se llega a esta nueva ciudad que se ha llamado neurociencia o ciencia cognitiva. http://aparterei.com
{2} James Watson no le va a la zaga: en una entrevista en la BBC de Londres afirmó, sin rastro de ironía, que la estupidez humana es una enfermedad y que algún día logrará ser curada.
{3} Se postula un factor genético de inteligencia (G de Spearman) o una «inteligencia fluida», frente a otra «cristalizada» o cultural (Cattell). Pero, si existiera inteligencia tal ¿cómo podría accederse a ella? Se habla de test libres de influencias culturales (matrices de Raven, por ejemplo) como si el mero hecho de responder a un test no fuese ya algo cultural. La inteligencia debe entenderse como algo normativo, relacionado siempre con diversos niveles de acceso a patrones culturales por parte de distintas personas.
{4} Edelman le confiere a este sistema básico una «memoria de valor», entendiendo así que la configuración primaria «recuerda» aquello que es bueno para el mantenimiento vital del organismo. La percepción se categoriza entonces (buena/mala) antes de pasar a modificar el mapa.
{5} También la del hemisferio cerebral derecho del hombre: si se realizara una callosotomía, debería presentar una conciencia inmediata y sucesiva, que es supuestamente la conciencia de un animal.
{6} Para este autor, hay un «cerebro global» que no es sólo humano sino que está tejido entre todas las especies. Una masa mental que anuda los continentes, los océanos y los cielos.
{7} Varela impulsó un paradigma de investigación llamado «neurofenomenología», en el que intentó conciliar la investigación neurobiológica y su experiencia relacionada con la práctica budista.
{8} Personas con lesiones en la formación reticular pueden llegar a dormir durante días.
{9} Salvo que entendamos que un animal que se adapta adecuadamente hace ‘juicios’ o tiene ‘ideas’.
{10} Muchos animales no necesitan, obviamente, de la luz para desarrollar sus conductas adaptativas, pero se entiende que el concepto está construido a la escala funcional humana.
{11} De hecho, suele ser habitual en crisis epilépticas, pero es fácil que en ocasiones se diagnostique como un trastorno psiquiátrico.
{12} En concreto, una hipersincronización neuronal, que extiende la actividad nerviosa de unas neuronas a otras, como una mancha de aceite.
{13} Se entiende que las situaciones de falta de lucidez o alerta son ‘normales’ y se presentan en muchas situaciones (tras un sueño profundo, una comida copiosa o un shock momentáneo) pero se ofrecen como patológicas cuando se hacen estables, cuando se convierten en verdaderos ‘estados de conciencia’.
{14} En palabras de Nagel: «lo-que-se-siente» (what-it’s-like) (Nagel, 1974) [18]
{15} Lo que sería mentalismo.
{16} El concepto de ‘empatía’ de la psicología humanista.
{17} Incluso cuando el observador es uno mismo: los métodos introspeccionistas de la psicofísica requerían de la comunicación verbal de lo sentido y sus resultados estaban viciados por el entrenamiento previo.
{18} Aunque considera que cae dentro del ámbito de las explicaciones del conexionismo, la neurociencia cognitiva, &c.
{19} Un cambio perceptivo, a partir de un cambio neurológico, fruto a su vez de un cambio físico en el entorno, en función todo ello de un isomorfismo universal postulado ad-hoc precisamente para justificar el insight
{20} V.g.: en el blindshigt o visión ciega, producida por lesiones en el área visual primaria, se pierde la conciencia de percepción visual, aunque queda cierta capacidad de discriminación no consciente.
Un espacio para dudar. Ateos, agnósticos, escépticos. Reflexión, ensayo, debate. Arte y literatura. Humanismo secular.
Por Fernando G. Toledo » Blog Razón Atea
Enlázanos!! :)
