Realism: Neural Networks and Representation
 
 

                                    Alberto Carreras
 
 
 
 
 

       ASTRACT
              This paper is based on various experimental studies carried out within
              the ambit of the cognitive sciences and sets out to reinforce the realist
              theory of mental representation.

              As against various doctrines of phenomenological origin, which
              continue to adopt an ironic attitude towards the existence of a
              represented reality, in this paper I defend its objectivity, that is to
              say, a correspondence between the representing system and the
              represented system, specifying the form which this correspondence
              takes. Further, this realism is extended to the process of
              categorization.

              The theoretical horizon of this realism is a moderated constructivism,
              which I have dealt with in part on earlier occasions. It postulates the
              one probabilist correspondence between a mental system of
              differences and another external system of differences which
              conditions it.

              The experimental basis of this paper rests on various studies with
              Neural Networks carried out at the University of Zaragoza, which
              have recently been synthesized by Prof. Bonifacio Martin.
              Specifically, work has been carried out within various environements
              using Kohonem Maps or SOFM (Self-Organizing Feature Maps ),
              which are non-supervised learning networks with a competitive
              dynamic.

              Following a process of competitive and unsupervised learning, the
              neurons of the Map (or exit layer) defined by their synaptic weights,
              a) become specialised in such a way that each is activated when faced
              with a particular pattern of sensorial space or with patterns which are
              similar to it, and b) group together in such a way that the neurons
              with similar synaptic weight matrices are brought close together, so
              that the more different their synaptic weights, the further apart they
              are from one another.

              The similarities or differences between the synaptic weights of the
              neurons of the computational layer (the Map) are not arbitrary; rather,
              they correspond to the similarities and differences of the external
              environment or universe.

              The final result is that each neuron is activated by each external unit
              or each data pattern. This correspondence depends on two systems:
              first, that of the vectors of the synaptic weights of the neurons in the
              interior of the network and, secondly, the system of differences
              between the patterns, the parameters or the units of the environment,
              whether these be the rivers within a river basin or the banks of a
              nation. An isolated neuron is not significant, nor is an isolated
              external unit. There is no reason for relating these two except as parts
              of their respective systems. Thus, it is the system of neural
              relationships which represents another system of relationships with
              which it corresponds.

              If another treatment layer is added, then we obtain a hierarchical map.
              Each neuron of this second computing layer is correlated with a group
              of neurons from the first layer and, as a consequence, with a group of
              typified external patterns.

              In this way, a process of categorization or typification, with a
              hierarchy in different levels of abstraction, is produced in an
              automatic and simple manner.

              Here we can also see the correspondence both between the layers and
              between these layers and the environment. This correspondence will
              depend, on the one hand, on the characteristics of the Network
              (sensorial layer and computational layer), but it will also depend on
              the characteristics of the environment which is captured and
              categorised. We take the view that this is sufficient in order to be able
              to speak of a projection of the external universe in the network or of
              a representation of the same. It is this very aspect which is rejected
              by certain phenomenological currents of thought, such as the 2nd.
              order cybernetics of H. Maturana or the theory of enaction advanced
              by F. Varela, who have unilateraly taken the subjective aspect of H.
              von Foerster's epistemology to its extreme.
 

       La presente comunicación nace de la intersección de dos series de trabajos de
       ámbitos diferentes siendo también doble su propósito. Pretende por un lado
       informar sobre unos trabajos experimentales que considero de interés dentro
       del ámbito de las ciencias cognitivas. Versan sobre redes neuronales
       artificiales y han sido sintetizados recientemente por el Profesor Bonifacio
       Martín (1). Por otro lado deseo continuar varios trabajos epistemológicos en
       los que he intentado defender un tipo de realismo (estadístico y
       diferencialista), que me gusta calificar como constructivismo realista.

       En el concepto de representación confluyen ambas líneas de trabajo. Me
       referiré a la representación mental proponiendo una analogía entre la forma
       de representación de las redes neuronales y la nuestra; entendiendo por tal
       tanto la representación sensible del mundo como otras formas de
       categorizarlo (imágenes mentales, ideas, teorías, etc.).

       Algunas críticas al concepto de representación provienen del campo del
       realismo y aun del materialismo, como es la de Gustavo Bueno desde un
       constructivismo que reivindica el componente objetivo de nuestro
       conocimiento (2). Pero las críticas a las que quiero responder y a las que ya
       me he referido en otras ocasiones provienen del campo idealista. A través de
       la Fenomenología estas posturas reaparecen en diversas variantes
       subjetivistas del constructivismo (3).

       Su fundamento epistemológico no supera mucho (salvo en la terminología
       científica utilizada) los planteamientos de Descartes o de Locke contra el
       realismo ingenuo, desde que definieran el conocimiento como conocimiento
       de ideas subjetivas, poniendo de relieve que no podemos tener acceso
       directo a los objetos y siendo por ello imposible comparar lo objetivo
       extramental con las ideas. En resumen, el constructivismo cibernético de
       Maturana y el enactivismo de Varela niegan la representación porque para
       hablar de ella es necesario postular dos realidades (el mundo objetivo y el
       subjetivo o mental) y establecer un nexo entre ambas. Consecuentes con su
       filiación fenomenológica estos investigadores prohiben hablar del mundo
       objetivo, cuya existencia ponen ambiguamente en duda. Lo que existen son
       realidades cognitivas distintas que nada nos permiten inferir acerca del
       mundo objetivo (Maturana), o bien mundos enactuados (puestos en escena)
       por nosotros mismos (Varela).
 

       Constructivismo realista

       Frente a ellos he abogado en otras ocasiones (4) por un constructivismo
       realista, en el que el papel constructor del sujeto no anule la referencia al
       objeto. Afirmando que todos hacemos parte de un solo mundo y que no
       existen tantos mundos como sujetos, el realismo que allí expongo es

       a) probabilista: la parcial correspondencia entre el mundo extramental y el
       representado es sólo probable en cada momento, pero suficiente para la
       totalidad de la experiencia (ley de los grandes números).

       b) diferencialista: tomo la diferencia a la vez como unidad de conocimiento
       y como unidad ontológica. Evito de este modo partir de percepciones,
       ideas..., que son unidades muy complejas del conocimiento; y de las
       sustancias, cualidades, cosas, etc., que, son construcciones nuestras más
       elaboradas. Resulta más neutro y es más operativo hablar de diferencias.

       En resumen, la línea argumentativa partía de la existencia óntica de
       diferencias físicas, pues sólo si hay diferencias de potencial son posibles los
       procesos de intercambio energético. Para que podamos existir además es
       preciso que se estabilicen temporalmente algunos sistemas u organizaciones
       de estos procesos. Como condición pues de nuestra existencia podemos
       afirmar que la realidad no es indeferenciada o caótica sino que presenta
       diferencias, que éstas originan procesos y que hay un cierto orden en estos
       procesos. No conocemos la cosa en sí pero ya hemos dicho algo acerca de
       ella.

       Tomando la diferencia también como unidad cognitiva a todos los niveles he
       postulado una correspondencia estadística (5) entre esos dos órdenes de
       diferencias que son el mental y el extramental. El objeto de la presente
       comunicación es volver a hablar de esta correspondencia entre lo percibido y
       "lo percibido".

       Además, gracias a los procesos de categorización o de tipificación se produce
       una jerarquía de niveles en el orden mental, a partir de la percepción,
       apareciendo imágenes e ideas cada vez más abstractas. El realismo
       probabilista afirma que la correspondencia entre los dos tipos de órdenes
       incluye también a los niveles más abstractos del conocimiento. Aunque
       lógicamente el peso de los factores objetivos vaya disminuyendo a lo largo
       de la ascención (6).

       Otra forma de mostrar esta correspondencia, alternativa al uso de las
       probabilidades, es la de comparar lo que sucede en nuestro sistema cognitivo
       con su simulación artificial. Es el caso de las redes neuronales, que se
       presentan como la mejor simulación de la mente en la actualidad, habiendo
       sido ya relegados para esta tarea los ordenadores secuenciales y algorítmicos
       con los que comenzó la Inteligencia Artificial.
 
 

       Representación y categorización en sistemas neuronales
       artificiales (ANS)

       En las artificiales como en las naturales, la unidad básica de las redes es la
       neurona, célula que se caracteriza por su capacidad de conexión con otras a
       través de sinapsis, gracias a sus miles de receptores (dentritas) y salidas
       (axón).

       Su conectividad la hace idónea para formar redes. En éstas la información no
       está troceada o almacenada en partes dentro de las neuronas. Está codificada
       y almacenada en términos de conexiones sinápticas, por las que las neuronas
       se activan e inhiben mutuamente.

       La capacidad que cada neurona tiene para activar o inhibir a cada una de las
       otras va variando a lo largo del aprendizaje, modificando así (y siendo
       dependiente de) el conjunto de la red. En sistemas neuronales artificiales se
       utiliza el afortunado término peso sináptico (w) para hablar y cuantificar
       esta capacidad, que tiene su correlato en neurología, aunque ahí se aducen
       diferentes mecanismos moleculares para dar cuenta de ella.

       Desde Hebb se admite comúnmente que la variación de la capacidad,
       probabilidad, frecuencia o tendencia que una neurona tiene para activar a
       otra es también la base de todo aprendizaje; el cual consiste en asociar y
       disociar estímulos y respuestas. Según su principio (7) cuando se estimulan
       conjuntamente dos neuronas aumenta la probabilidad de que vuelvan a
       hacerlo simultáneamente. Se refuerzan sus sinapsis, modificándose el sistema
       sináptico de la red, ya que el aumento de unas probabilidades conlleva la
       disminución de otras.


 

    Veamos estas nociones en los ANS. Para una neurona i como la de la figura
       1, el peso sináptico wij representa la intensidad de interacción o
       probabilidad de ser activada por la neurona presináptica j .

       La neurona tiene un número n de sinapsis o entradas provenientes de otras
       neuronas (xn ), cada una con su peso sináptico w (n es el número de otras
       neuronas con las que está conectada suponiendo una sola sinapsis entre dos
       neuronas). El potencial postsináptico de la neurona i vendrá dado por la
       suma ponderada de los productos de las entradas xj (8) por su peso
       sináptico Wij . La salida Yi de la neurona es una función de esa suma
       ponderada, según la fórmula que aparece en la figura 1, siendo qi el umbral.

       La arquitectura de la red varía según el número de capas; según que las
       neuronas intermedias estén o no conectadas entre sí además de con las capas
       de entrada; según sea el flujo unidireccional (de una neurona presináptica a
       otra postsináptica) o en ambas direcciones (realimentadas o recurrentes), etc.
       Aunque hay redes monocapas o de dos capas como el histórico Perceptrón de
       Rosenblatt, en general tienen varias capas: la de entrada, cuyas neuronas no
       tienen sinapsis entrantes, la capa o capas ocultas, cuyas neuronas tienen
       entradas y salidas que sinapsan con otras neuronas, y la capa de salida.

       Las redes presentan ciertas características que les dan una superioridad para
       muchos usos sobre cualquier otra máquina de computación. Tienen un
       procesamiento masivo y en paralelo, incomparablemente más rápido que el
       secuencial; tienen la información distribuida por toda la red, por lo que son
       resistentes a errores, fallos y averías de algunas neuronas o grupos de
       neuronas; pero tienen sobre todo la capacidad de adaptarse y de aprender a
       partir de ejemplos. Sus operaciones no se programan con reglas y
       algoritmos; basta con dotarles de un mecanismo de aprendizaje.

       Hay diferentes tipos o algoritmos de aprendizaje, casi todos ellos basados en
       la regla de Hebb: corrección de errores, reforzado, hebbiano diferencial,
       competitivo, etc. Algunos de ellos son supervisados (el experto enseña a la
       red modificando los pesos de sus neuronas en función de los resultados) y
       otros no supervisados (autoaprendizaje). En este caso la red se organiza sola
       a partir de ejemplos que se le dan (o por su propia experiencia, en el caso de
       los robots).

       Los mapas autorganizados (SOFM) o de Kohonen (9) son un tipo de estas
       redes que autoaprenden. Más concretamente su aprendizaje no supervisado
       está basado en dos mecanismos o funciones: la competitividad y la vecindad.
       Gracias a ellas vamos a poder visualizar en la red las relaciones que existen
       entre los pesos sinápticos de las diversas neuronas. Y con ello apreciar la
       correspondencia que existe entre la red y su universo o entorno. Es decir nos
       permiten visualizar cómo la red representa los datos que capta o que recibe.

       Los SOFM tienen una arquitectura unidireccional de dos capas, como se ve
       de forma simplificada en la figura 2. La capa de entrada debe tener tantas
       neuronas al menos como variables y sus neuronas distribuyen la información
       del entorno a las de la segunda capa o de procesamiento, que forma el mapa
       de rasgos. Generalmente esta capa tiene la forma rectangular como la de las
       figuras 3 y 4, aunque pueda tener una sola línea o pueda realizarse en tres
       dimensiones. Todas sus neuronas están interconectadas entre sí y con todas
       las neuronas de la capa de entrada.

       El aprendizaje competitivo se corresponde con lo que G.M. Edelman ha
       denominado el darwinismo neuronal del cerebro o lo que J-P. Changeux ha
       definido como estabilización selectiva de las sinapsis (10). Ambos
       investigadores proponen una teoría azarosa y selectiva del aprendizaje o de la
       construcción del orden mental. No se trata de que las neuronas combatan
       entre sí por la supervivencia, sino de la existencia de una inexorable
       competencia entre la fuerza de unas sinapsis contra otras. Resumiendo sus
       teorías diremos que del indefinido número de combinaciones sinápticas que
       pueden darse al azar, algunas de ellas se van reforzando por el ejercicio,
       mientras que se extinguen o disminuyen aquellas que nunca se ejercitan, o lo
       hacen en pocas ocasiones o con poca intensidad.

       La competición en los SOFM tiene el siguiente mecanismo: cada una de las
       neuronas del mapa está definida, como se sabe, por el vector de sus pesos
       sinápticos, el cual tiene una configuración más o menos parecida a los
       diversos vectores de entradas. Al presentarse un determinado patrón de
       entrada se activa aquella neurona cuyo vector de pesos le es más similar. Al
       hacerlo modifica además sus pesos en el sentido de ajustarse más a él, de
       manera que cuando éste vuelva a aparecer la neurona responderá ante él con
       mayor intensidad.

       Podemos partir de un reparto azaroso de los pesos sinápticos. Después de un
       número suficiente de presentaciones, cada neurona del mapa va sintonizando
       con un determinado patrón de datos del espacio sensorial (o entorno) sin que
       los patrones de éste hayan sido predefinidos de antemano. El resultado final
       es que cada neurona se activa ante un patrón distinto. Se establece así una
       correspondencia entre el patrón de entrada (definido por un vector) y
       aquella neurona cuyo vector de pesos le es más semejante. Pero esta
       correspondencia depende de dos sistemas: uno, el de los vectores de los pesos
       sinápticos de las neuronas en el interior de la red y, otro, el sistema de las
       diferencias entre los patrones del entorno. Ni una neurona aislada es
       significativa, ni lo es un patrón de datos que combina varios parámetros. No
       hay ninguna razón para establecer la correspondencia entre ellos si no es en
       el seno de sus respectivos sistemas. Porque es el sistema de relaciones
       neuronales el que re-presenta a otro sistema de relaciones.

       En los SOFM se establece también una función de vecindad, cuyo paralelo
       neurológico debemos buscarlo en el hecho natural de que las neuronas
       establecen entre sí un número mayor de sinapsis cuanto más cercanas están,
       con lo que se refuerzan los pesos sinápticos entre neuronas contiguas. Como
       esto no se da en una red neuronal artificial (sólo hay una sinapsis entre cada
       dos neuronas y todas están igualmente conectadas) se define dicha función de
       vecindad. Por ella, y ante cada patrón exterior, no sólo se refuerzan los
       pesos de la neurona más semejante (la ganadora) sino los de las más
       próximas a ella.

       El resultado es que las neuronas quedan agrupadas topológicamente en
       función de su similitud de pesos, quedando próximas las que tienen matrices
       de pesos sinápticos semejantes, y resultando por contra tanto más alejadas
       unas de otras cuanto más diferentes sean sus pesos sinápticos.

       De esta forma se constituye un mapa parcelado en zonas de semejanzas.
       Quedan representados en dos dimensiones (habitualmente) los patrones de
       datos que difieren entre sí en un número bastante más elevado de
       dimensiones o de parámetros (figuras 3 y 4).

       Del mismo modo que un cubo tridimensional queda representado
       bidimensionalmente en el mapa, (figura 5), así sucede con cualquier sistema
       de diferencias. Sean las letras del alfabeto, la demanda eléctrica de una
       ciudad según horas y días, tipos de armamento militar o entidades bancarias.
       Este fue el primer caso trabajado en Zaragoza (11) y lo ponemos como
       ilustración.

       La figura 3 muestra un mapa de 14 x 14 células al que se le han introducido
       repetidas veces parámetros y ratios correspondientes a 66 bancos españoles
       durante la crisis de 1979-85. Las células han quedado sintonizadas con los
       bancos, representados aquí por números. En la zona oscura han quedado
       situados casi todos los que quebraron, los solventes en la derecha. En la
       figura 4 (esquemática) se aprecian otras agrupaciones en función del
       volumen del banco (los 7 grandes), de su rentabilidad, liquidez, etc.

       Cada zona del mapa equivale a un conjunto de patrones de entrada semejantes
       o una categoría de entidades del universo de la red. Esta categorización o
       parcelación la realiza habitualmente el observador, pero puede ser
       explicitada por la misma red. En efecto, Martín del Brío añadió al SOFM
       una (también pueden ser varias) nueva capa de tratamiento, consiguiendo así
       un mapa en cascada o jerárquico, como en la figura 6. El vector de pesos de
       las neuronas del primer mapa se convierte en una entrada para las neuronas
       del 2º mapa, que los agruparán en función de su similitud y, por tanto, de su
       vecindad. Cada neurona del segundo mapa se correlacionará con un grupo de
       neuronas del primero, precisamente aquellas que tienen pesos parecidos y se
       hallan por tanto en la misma zona. Representará un agrupamiento o
       categoría.

       Se produce así de forma automática y sencilla un proceso de categorización o
       de tipificación, con una jerarquía en los niveles de abstracción. Este proceso
       es mucho más sencillo que los descritos hasta ahora.

       La correspondencia que se establece entre los dos mapas computantes y entre
       éstos y las entradas es suficiente para que se pueda hablar de una
       representación a distintos niveles del universo externo (entorno) sobre la
       red.
 
 

       Extrapolación

       Para concluir quiero hacer algunas aclaraciones sobre las representaciones
       mentales desde el modelo de los sistemas neuronales artificiales (ANS).

       1. En nuestra cabeza no hay inscrita una reproducción del mundo a escala.
       Pero, como en los experimentos con ANS, apreciamos dos sistemas de
       diferencias: el del mundo en si y el del mundo de cada uno, el elaborado
       por su mente. El sistema nervioso y el cerebro no sólo nos sirven para actuar
       en el primero sino que elaboran representaciones del mismo a partir de su
       interacción con él. Estas representaciones se van coordinando en busca de
       congruencia; a medida que su adecuación al mundo va siendo confirmada por
       la experiencia se afianza nuestra confianza en ellas.

       2. Lo que denominamos visiones, audiciones, sensaciones táctiles, etc.,
       pertenecen al segundo sistema; son representaciones de un mundo que
       percibimos a nuestra manera y según nuestras capacidades. Igual que son
       representaciones mentales también (aunque de un nivel de elaboración
       superior) el mundo que imaginamos o el que conceptualizamos en ideas y
       teorías.

       Las ilusiones sensoriales, las alucinaciones, los efectos de la anestesia, la
       estimulación artificial de neuronas y los recientes trabajos en realidad virtual
       muestran el estatus subjetivo o neuronal de nuestra percepción del mundo.
       Más cargadas de subjetividad que las sensaciones lo estarán las imaginaciones
       y las teorizaciones.

       3. Desde el punto de vista conexionista se describe el cerebro como una red
       de neuronas definidas por vectores de pesos sinápticos diferentes. De manera
       que las sensaciones, las imágenes mentales, los conceptos, etc., vienen a ser
       grafos o estados de una red. Pero éste no es un sistema formal; la materia o
       los contenidos psicológicos vendrán dados por las capas neuronales
       primarias (propioceptivas, visuales, auditivas...etc.) .

       Igual que en las redes artificiales, en el cerebro podemos encontrar estas
       capas externas o sensoriales. Las constituyen las áreas primarias de la
       corteza (visual, auditiva, cinestésica, etc.) correlacionadas con los órganos de
       los sentidos y con todas las vísceras y músculos del cuerpo. De tal forma que
       los efectos de color, sonido, sabor, dolor, presión, etc., son producidos por
       las neuronas de estas capas, cuya activación o inhibición puede provocarse
       artificialmente. Estas sensaciones son organizadas y tipificadas por las
       siguientes capas neuronales.

       4. Al estar esta red en contacto con el resto del organismo y con el mundo
       externo, algunas de las diferencias que caracterizan a éstos vendrán a
       correlacionarse con distintos grafos y grupos neuronales; igual que en los
       SOFM. Gracias a esta correspondencia podemos hablar de representación.
       Está basada en la coordinación de experiencias o aprendizaje, y por eso tiene
       las limitaciones de éste y las de la arquitectura de la red. Es una
       corespondencia parcial y probable. Quizás podamos afirmar poco más acerca
       de la correlación entre nuestro conocimiento y el mundo objetivo; pero
       tampoco hay que decir menos como le gusta al subjetivista o al
       fenomenólogo.

       Considero que el paralelo establecido entre el cerebro y los ANS es legítimo,
       puesto que los mecanismos y algoritmos descritos (refuerzo hebbiano,
       competitividad, vecindad) tienen muy probablemente sus correlatos en el
       cerebro. Y también útil, ya que el modelo nos proporciona conceptos
       precisos y diseños experimentales para hablar de la representación mental.

       Una consecuencia de esta correspondencia es la congruencia de nuestras
       percepciones e ideas a lo largo del tiempo (a pesar de los cambios y
       excepciones) así como la fundamental congruencia de las representaciones de
       unos hombres con las otros (a pesar de las diferencias), aunque estén
       distanciados en el espacio físico y cultural.

       Existe una gran correlación entre las diferencias que percibimos por distintas
       vías, y en distintos tiempos, y muchos sujetos

       La causa de esta gran correlación es probablemente la realidad
 
 

                                        NOTAS

       1. En su tesis doctoral Procesamiento neuronal con Mapas
       Autoorganizados: Arquitecturas Digitales, Bonifacio Martín del Brío
       (Departamento de Ingeniería Eléctrica e Informática), junto con otras
       aportaciones, ha sintetizado varios trabajos de los años 93-95, individuales y
       colectivos, cuya importancia había sido ya reconocida con varios premios. El
       profesor B. Martín es colaborador del Seminario Interdisciplinar de la
       Universidad de Zaragoza.

       2. G. Bueno rechaza hablar de representaciones por motivos contrarios a los
       de los idealistas. En primer lugar y desde posiciones próximas al
       conductismo cuestiona la legitimidad y utilidad del enfoque cognitivista (el
       ordenador como modelo de la mente), que conduce a una fisiologización de
       la psicología. En el dominio epistemológico su constructivismo considera la
       indisoluble mezcla de lo objetivo y lo subjetivo, siendo por tanto imposible
       decir que éste sea representación de aquél. Sin entrar aquí en detalles pienso
       que la contundente crítica de Bueno al formalismo y al idealismo
       minusvalora el estatus de las construcciones mentales, en las que no
       encuentra suficiente materialidad. Ver BUENO, G.: "Imagen símbolo y
       realidad", en rev. El Basilisco, 1ª época, enero 1980, pp. 57-74; G.
       BUENO: "Para un análisis gnoseológico de la psicología cognitiva" en rev.
       Estudios de Psicología, nº 25, 1985, pp. 103-113.

       3. Las encuentro constantemente en el campo de la psicología, sobre todo
       sistémica, pero también se han extendido a las ciencias sociales. Fundamentan
       la evasión y la impotencia al convertir en subjetivos todos los problemas del
       mundo. Se trata de la original 2ª cibernética o "cibernética de la observación
       de sistemas" de H. Maturana, quien afirma que el conocimiento está
       determinado únicamente por el sujeto, oponiendo a la realidad la existencia
       de mundos cognitivos diferentes. O la teoría de la enacción de F. Varela
       quien se propone con ella desterrar de la ciencia las representaciones
       superando así el paradigma conexionista. Ver Maturana, H.R.: "Strategies
       cognitives" en E.Morin y M. Piattelli-Palmarini (edrs.): L'unité de
       l'homme, 2. Le cerveau humain, Paris, Editions du Seuil, 1974; Maturana,
       H.R.: y VARELA,F.J.(1984): El arbol del conocimiento, reedición cast. en
       Ed. Debate; VARELA, F.J.: Cognitive Science. A Cartography of Current
       Ideas, 1988 [trad. cast. en Gedisa, 1990); y VARELA, THOMPSON &
       ROSCH: The Embodied Mind. [trad. cast. en Gedisa, 1992).

       4. Ver A. CARRERAS: "La perspectiva diferencialista" en Encuentro de
       Lógica y Filosofía de la Ciencia. R. Carnap y H. Reichenbach in memoriam,
       Madrid, 1991, pag.187- 193 y A. CARRERAS: "Las diferencias y mis
       diferencias con el constructivismo subjetivo" en A. CARRERAS (ed.):
       Conocimiento, ciencia y realidad, Zaragoza, MIRA Editores / SIUZ, 1993.
       También A. CARRERAS: "Aar y caos. Unas premisas" en A.CARRERAS y
       otros (eds.): Azar, caos e indeterminismo, Zaragoza, PUZ, 1988. Aunque el
       realismo no pueda ser demostrado sí que puede mostrarse que es coherente y
       que incurre en menos problemas que otras teorías contrarias.

       5. Digo estadística porque la realidad objetiva (mundo exterior, cuerpo...)
       no determina ni totalmente ni de forma igual en cada momento el estado del
       sistema nervioso. Sin embargo lo condiciona junto con otros factores. Si
       nuestro sistema nervioso no es por naturaleza tramposo, es decir si no lo
       consideramos como una versión de "genio maligno" que sistemáticamente
       nos engañe, la influencia de ese factor objetivo se dejará notar en mayor o
       menor cantidad en cada momento a lo largo de nuestra vida. No podemos
       precisar en qué medida, ni cuando influye más o cuando menos que otros
       factores; pero en su conjunto, a lo largo del tiempo y según la ley de los
       grandes números, el mundo objetivo habrá condicionado parcialmente
       nuestras percepciones y mentalidades. Aunque en casos concretos
       prevalezcan otros factores subjetivos.

       6. Un realismo probabilista habla de grados de objetividad y de
       subjetividad, no del todo o nada.

       7. HEBB, D.: The organization of Behaviour, Wiley, New York, 1949.
       Aunque no sea el único condicionante de la variación de la conectividad, este
       principio ha sido corroborado en diferentes experimentos, presentándose
       diversas hipótesis para explicar su base molecular.

       8. Dependiendo del diseño de la red, las entradas xn serán números
       digitales (1,0, según estén o no activadas las neuronas presinápticas) o bien
       cantidades continuas, correspondientes a sus potenciales o intensidades. En
       cualquier caso siempre pueden ser positivas (activadoras) o negativas
       (inhibidoras).

       9. Self-Organizing Feature Maps, conocidos también por el nombre de su
       creador Teuvo Kohonen, que los ha desarrollado desde 1982. Puede verse
       KOHONEM, T.; "Self-organized formation of topologically correct feature
       maps" en Biological Cybernetics, nº 43, 1982, pp. 59-69, KOHONEM, T.:
       Self-Organization and Associative Memory, 3 ed., Springer-Verlag, 1989,
       y KOHONEM, T.: "Physiological interpretation of the self-organizing map
       algorithm", en Neural Networks nº 6,7, 1993, pp. 895-905

       10. Ver, por ejemplo G. M. Edelman: Neural Darwinism: The Theory of
       Neuronal Group Selection, Basic Books, New York, 1987; G. M.
       Edelman:Brigth Air, Brilliant Fire: On the Matter of Mind, Basic Books,
       1992; J-P. CHANGEUX: L'homme neuronal, Fayard, 1983 [trad. cast. en
       Espasa Calpe, 1985. ).

       11. Ver Serrano-Cinca, C., y Martin-del-Brio, B. (1993). "Predicción de la
       quiebra bancaria mediante el empleo de Redes Neuronales Artificiales", en
       Revista Española de Financiación y Contabilidad, vol. XXII, 74, pp.
       153-176; Martin del Brio, B., y Serrano-Cinca, C.:"Self-organizing neural
       networks for the analysis and representation of data: some financial cases",
       en Neural Computing & Applications, 1, pp. 193-206, London, 1993