Inteligencia Artificial, la vía negativa y el estatus computacional de la persona

metyper_13_3

J. Martín Castro-Manzano
UPAEP, México
josemartin.castro@upaep.mx

Inteligencia Artificial, la vía negativa y el estatus computacional de la persona

Resumen

Una de las preguntas más interesantes que la inteligencia artificial y la filosofía de la computación han hecho nacer es la pregunta por nuestro estatus computacional como personas humanas. En este trabajo discutimos dicho estatus mostrando la argumentación por vía negativa de Bringsjord para justificar que somos entidades computacionales sui generis. Para discutir el estatus computacional revisamos el concepto de “inteligencia artificial” y su relación con la Tesis de Church-Turing. Posteriormente comentamos la discusión Lucas vs Bringsjord para concluir por qué se dice que somos hipermáquinas.

Palabras clave: inteligencia artificial, persona, Tesis de Church-Turing, máquina de Turing, hipermáquina

Artificial intelligence, the negative way and the computational status of persons

Abstract

One of the most interesting questions that artificial intelligence and philosophy of computing have generated is the question about the computational status of human persons. In this paper we discuss the computational status of human persons by showing Bringsjord’s negative way argumentation in order to justify that we are sui generis computational entities. As a means to discuss the computational status we review the concept of “artificial intelligence” and its relation with the Church-Turing Thesis. Then we comment on the Lucas vs Bringsjord discussion for the purpose of concluding why it is said that we are hypermachines.

Keywords: artificial intelligence, person, Church-Turing Thesis, Turing machine, hypermachine

Recepción del original: 17/01/15
Aceptación definitiva: 08/06/15


Para venir a lo que no eres
has de ir por donde no eres

San Juan de la Cruz

Introducción

La pregunta por el estatus computacional de las personas humanas es la versión formal de la pregunta informal: ¿Somos máquinas? Esta pregunta es importante de suyo, pero también lo es por sus consecuencias en metafísica, antropología y ética, pues el estatus computacional de las personas humanas se relaciona con la naturaleza de las personas humanas, su lugar en el mundo y sus relaciones mutuas en el contexto tecnológico contemporáneo.

Dada esta importancia, en este trabajo discutimos el estatus computacional de las personas humanas, mostrando la argumentación por vía negativa de Selmer Bringsjord para justificar que somos entidades computacionales sui generis.

Para discutir el estatus computacional revisamos brevemente el concepto de “inteligencia artificial” (IA) y su relación con la Tesis de Church-Turing (Sección 2). Posteriormente comentamos la discusión Lucas vs Bringsjord para exponer en qué sentido se dice que somos hipermáquinas (Sección 3). Por último, terminamos con un resumen de la discusión y una exposición de nuestra postura (Sección 4).1

2. Inteligencia artificial

El objetivo del siguiente recorrido (2.1) no es definir qué es la IA (2.2), sino explicar el origen de la Tesis de Church-Turing y su relación con nuestro estatus computacional como personas.

2.1 Detalles de la historia de la IA

Como desiderátum, la IA se puede rastrear en varios momentos que, por razones de espacio, únicamente mencionamos, pero que proporcionan una idea general de lo que la IA pretende: en la Biblioteca de Apolodoro,2 la máquina de Antikythera,3 la silogística de Aristóteles,4 el Popol-Vuh,5 el legendario medieval alrededor del Golem,6 el homúnculo renacentista de Paracelso y de Fausto,7 el Ars Magna de Llull,8 la roue pascaline,9 el razonamiento según Hobbes,10 el calculus ratiocinator y la mathesis universalis de Leibniz,11 el álgebra de Boole,12 los diagramas de Venn,13 el piano lógico de Jevons,14 Frankenstein de Shelley,15 la máquina diferencial de Babbage,16 Begriffsschrift de Frege,17 R.U.R. de Capek,18 el cálculo de Church,19 las máquinas de Post,20 los autómatas de Turing,21 la representación neuronal de McCulloch y Pitts22 y el teorista lógico de Simon, Newell y Shaw.23

Todos estos proyectos e ideales de exteriorización y mecanización del razonamiento recibieron un denominador común cuando la IA nació como disciplina formal en la conferencia de Dartmouth de 1956,24 y generaron, por sus supuestos y sus implementaciones, dos programas de investigación: uno más atento a los abstracta25 (en la tradición de John McCarthy) y otro más dedicado a los concreta (en la línea de Rodney Brooks).26 El primero culminó en la Hipótesis del Sistema Físico de Símbolos (HSFS), y el segundo, en la Hipótesis de la Incorporación. De estas dos hipótesis, la primera ha sido más influyente por su generalidad y porque se conecta directamente con la cuestión de nuestro estatus computacional.

La HSFS afirma, en palabras de sus desarrolladores, Newell y Simon, que:

A physical symbol system has the necessary and sufficient means for general intelligent action. By necessary, we mean that any system that exhibits general intelligence will prove upon analysis to be a physical symbol system. By sufficient we mean that any physical symbol system of sufficient size can be organized further to exhibit general intelligence.27

Lo relevante de esta hipótesis es que el concepto de “sistema físico de símbolos” no está restringido a sistemas artificiales, pues, en esencia, un sistema físico de símbolos es cualquier entidad que se puede traducir a una máquina de Turing.28 Así, en A Basis for a Mathematical Theory of Computation, John McCarthy, el padre de la IA, nos dice que:

We know that any intellectual process that can be carried out mechanically can be performed by a general purpose digital computer.29

E introduce una relación de traducibilidad entre los procesos inteligentes que llevamos a cabo las personas humanas y las máquinas de Turing haciendo uso de la Tesis de Church-Turing,30 la cual, en palabras del propio Turing, en su tesis doctoral, Systems of Logic Based on Ordinals, establece que:

[A] function is effectively calculable if its values can be found by some purely mechanical process. We may take this literally, understanding that by a purely mechanical process one which could be carried out by a machine. It is possible to give a mathematical description, in a certain normal form, of the structures of these machines.31

Y por tanto, cualquier proceso que pueda definirse de forma algorítmica puede traducirse a una máquina de Turing, o en términos de Church, a expresiones del cálculo  que, a su vez, son equivalentes a un conjunto de funciones recursivas.

2.2 Definiciones operacionales de IA

Ahora, como ciencia, la IA se dedica al estudio, el diseño y la implementación de artefactos computacionales con cierta finalidad. Esta finalidad, siguiendo a Russell y Norvig, puede entenderse en cuatro sentidos (Tabla 1):

Finalidad Pensar Actuar
Racionalmente S132 S233
Humanamente S334 S435

Tabla 1.Sentidos de la IA según Russell y Norvig36

Bajo la Tesis de Church-Turing y el paradigma de la HSFS, la IA es un caso de S1 (S2) que ha logrado llevar a buen término el proyecto de exteriorización y mecanización del razonamiento,37 lo cual ha dado origen a la pregunta crucial del computacionalismo (¿Los sistemas de IA pueden pensar?), pero también ha abierto la cuestión simétrica sobre nuestro estatus computacional: si cualquier proceso que puede definirse de manera algorítmica (como el razonamiento) puede traducirse a una máquina de Turing, y viceversa, ¿somos (reducibles a) máquinas?

3. La vía negativa

La IA en el sentido S1 da lugar a la tesis de que somos máquinas (de Turing) y por ello, la IA ha sido criticada por diferentes argumentos que pretenden encontrar casos de S3 (S4) que no pueden traducirse (o reducirse) a casos de S1 (S2). Así, por ejemplo, el dictum de Ada Lovelace pretende socavar las nociones de autonomía y creatividad de la IA aludiendo a que éstas son propiedades bona fide de S3 (S4) que son imposibles en S1 (S2);38 Searle critica la semántica y la intencionalidad de la IA argumentando que son imposibles en S1 (S2) pero que son naturales en S3 (S4);39 Dreyfus apela a la falta de corporalidad en S1 (S2) para justificar que hay propiedades de S3 (S4) que son necesariamente corporales;40 y Penrose y Lucas aprovechan las limitaciones intrínsecas de los sistemas formales para sostener que tales limitaciones son propias de S1 (S2), pero no de S3 (S4). En este trabajo ponemos atención a la discusión generada por estos últimos argumentos.

Así, a continuación exponemos el argumento de Lucas (3.1) y, después, la respuesta de Bringsjord (3.2) para, posteriormente, hacer un balance de la discusión y explicar en qué sentido se dice que nuestro estatus computacional es el de hipermáquinas (3.3).

3.1 El argumento de Lucas

En Minds, Machines and Gödel, Lucas nos informa que:

Gödel’s theorem seems to me to prove that Mechanism is false, that is, that minds cannot be explained as machines.41

Lucas interpreta la IA en el sentido S1, por lo que no sorprende que su respuesta a la pregunta por el estatus computacional de las personas humanas sea negativa. De manera más precisa, la razón por la cual Lucas sostiene que no podemos ser máquinas es porque cree encontrar un ejemplo de S3 (S4) que no puede reducirse a S1 (S2) apelando a una interpretación del Teorema VI de Über formal unentscheidbare Sätze der Principia Mathematica que afirma que:

Satz VI: Zu jeder ω-widerspruchsfreien rerkursiven Klasse k von Formeln gibt es rekursive Klassenzeichen r, so daß weder v Gen r noch Neg (v Gen r) zu Flg(k) gehört (wobei v die freie Variable aus r ist).42

A partir de una interpretación peculiar de las consecuencias de este teorema, Lucas cree encontrar un caso de S3 (S4) que no se puede reducir a S1 (S2); sin embargo, no parece claro cómo se puede llegar a semejante conclusión a partir de la lectura directa del teorema anterior. Por ello mostramos un par explicaciones, una informal y otra (más o menos) formal, para detallar el argumento de Lucas.

Para ofrecer una explicación informal, exponemos una versión de Rucker.43 Supongamos que existe la MVU, la Máquina de la Verdad Universal, por sus siglas. La MVU es una máquina (de Turing) capaz de decidir, para cualquier proposición, si dicha proposición es verdadera o no. Sea G la proposición:

La MVU no puede afirmar que G es verdad.

Si la MVU afirma que G es verdad, entonces es inconsistente. Pero no puede ser inconsistente porque sólo puede afirmar verdades. Pero entonces debe ser el caso que la MVU no puede afirmar que G es verdad. Pero entonces la MVU es incompleta porque hay por lo menos una proposición verdadera que no puede afirmar. En consecuencia, si la MVU afirma que G es verdad, se contradice; pero si es imposible que se contradiga, entonces es incompleta. Por tanto, ya sea que la MVU afirme G o no afirme G, es inconsistente o incompleta. Y por tanto, la MVU no puede decidir algo que nosotros sí, a saber, que es verdad que la MVU no puede afirmar que G es verdad. Lucas lo resume así:

Gödel’s theorem must apply to cybernetical machines, because it is of the essence of being a machine, that it should be a concrete instantiation of a formal system. It follows that given any machine which is consistent and capable of doing simple arithmetic, there is a formula which it is incapable of producing as being true – i.e., the formula is unprovable-in-the-system-but which we can see to be true. It follows that no machine can be a complete or adequate model of the mind, that minds are essentially different from machines.44

Para desarrollar este argumento de manera semi-formal, consideremos la versión del argumento gödelinano de Penrose.45 Sea C(n) un cómputo que se aplica para cada natural n. Así, C(n) será la acción de una máquina de Turing sobre n, que es la entrada a partir de la cual la máquina trabaja. La cuestión a resolver es si dicha máquina se detendrá o no, lo cual es una versión del halting problem o problema del paro.

Para encontrar la respuesta a dicha interrogante, es necesario otro procedimiento (el algoritmo A, que es también una máquina de Turing) que contiene todas las entradas posibles para demostrar que C(n) no se detendrá, es decir, que:

Si A se detiene, C(n) no se detiene.

Si se denomina A(q,n) a la ejecución del algoritmo A sobre el cómputo Cq(n), obtenemos que:

Si A(q,n) se detiene, entonces Cq(n) no se detiene.

Sobre esta proposición se aplica el principio de diagonalización y se toma q=n:

Si A(n,n) se detiene, entonces Cn(n) no se detiene.

Pero resulta que A(n,n)=Cn(n), por el mismo proceso de diagonalización, de modo que:

Si A(n,n) se detiene, entonces A(n,n) no se detiene.

Este resultado es una contradicción y bien podría significar, en términos gödelianos, que existe una proposición verdadera que no se puede demostrar; o en términos cantorianos, que existe un número real que no se puede encontrar en la lista de todos los números reales.

Por tanto, concluye esta argumentación, como el algoritmo A es incapaz de determinar que Cn(n) no se detiene cuando de hecho nosotros sabemos que no se detiene, resulta que los humanos, a diferencia de los sistemas inteligentes artificiales basados en la Tesis de Church-Turing, tienen algo que es no-computacional, algo en S3 (S4) que no se puede reducir a S1 (S2), pues de no ser así, seríamos incapaces de salir de la contradicción producida por el proceso de diagonalización. En consecuencia, las mentes humanas no pueden reducirse a máquinas, no son máquinas.

3.2 El argumento de Bringsjord

Bringsjord y Arkoudas, siguiendo la definición de hipercómputo de Copeland,46 proponen un argumento brillante para justificar, no que seamos máquinas de Turing, sino que somos hipermáquinas.47 El argumento es todavía más fuerte: si Lucas (como Penrose) está en lo correcto, las personas humanas no serían máquinas; serían hipermáquinas.

En el ahora clásico Elements of the Theory of Computation Lewis y Papadimitriou sugieren dos versiones del teorema de imposibilidad de las máquinas de Turing:

Theorem 6.1.5 a) There is no algorithm that can determine, given a Turing machine m and an input string w, whether m accepts w. b) For a certain fixed Turing machine m0, there is no algorithm that can determine, given an input string w, whether m0 accepts w48

El argumento modal de Bringsjord comienza representando la versión b) del teorema anterior modalmente:

{\forall}m{\exists}w{\neg}{\diamondsuit}Dmm_{0}w

y supone, por reducción al absurdo, que somos máquinas de Turing, por la Tesis de Church-Turing:

{\forall}p{\exists}mp=m

de esto se sigue que:

{\forall}p{\exists}w{\neg}{\diamondsuit}Dpm_{0}w

sin embargo, dado que existen seres humanos:

{\forall}p{\forall}w{\diamondsuit}Dpm_{0}w

y por tanto:

{\exists}m{\forall}w{\diamondsuit}Dmm_{0}w

lo cual es contradictorio. Por tanto, la suposición de que somos máquinas debe rechazarse porque implica una contradicción; no obstante, continúan Bringsjord y Arkoudas, dado que sabemos que los humanos somos, entre otras cosas, seres que procesan información (y que de hecho hacemos las veces de máquinas de Turing49), se sigue que debemos ser más fuertes que las máquinas de Turing, lo cual, por vía negativa,50 nos deja una sola alternativa: que somos hipermáquinas.

3.3 Balance de los argumentos

Aunque parece que la conclusión del argumento de Bringsjord y Arkoudas coincide con la respuesta negativa de Lucas y Penrose, es falso que se correspondan. Michael Arbib lo ha dejado claro:

Gödel’s theorems limits a human as much as a machine; if a human closes his mind to new information, then there is much he cannot know. He can know much more if he continually modifies his ideas on the basis of comparing deductions from his own ideas with observations of the real world. So, any really adequate cybernetic theory of thought must contain a full understanding of growing inductive machines that continually change their internal structure as a result of interacting with the external environment.51

El punto de Bringsjord y Arkoudas, como el de Arbib, es que los argumentos gödelianos al estilo de Lucas y Penrose no sólo no funcionan porque no son casos legítimos de S3 (S4) irreducibles a S1 (S2), sino que, inadvertidamente, ofrecen una respuesta positiva al problema sobre el estatus computacional de las personas humanas como entidades computacionales sui generis.

Por tanto, en nuestra opinión, el argumento de Bringsjord y Arkoudas resulta ganador por dos razones: una de forma y otra de contenido. En términos de forma, porque cancela la conclusión del argumento gödeliano de Lucas (y Penrose) mostrando su invalidez;52 y en términos de contenido, porque provee una respuesta a la pregunta por nuestro estatus computacional por vía negativa, aceptando el movimiento argumentativo de Lucas: si, como quiere Lucas, no somos máquinas, no se sigue que no somos máquinas: se sigue que somos hipermáquinas o supramáquinas y, como tales, computamos funciones que una máquina de Turing no puede resolver, como el mismo problema del paro, pues podemos simular programas para un número infinito de pasos, y decidir si los programas se detienen. Ejemplos de estos sistemas los podemos encontrar en las Máquinas de Zeus,53 las Máquinas Oráculo,54 que el mismo Turing había vislumbrado, y en las Máquinas de Turing Inductivas55 como a las que se refiere Arbib.

4. Conclusión

Una de las preguntas más interesantes que la IA y la filosofía de la computación56 han hecho nacer es la pregunta por nuestro estatus computacional como personas humanas: ¿Somos (reducibles a) máquinas? Después de la revisión del concepto de IA bajo la Tesis de Church-Turing y la HFSH tendríamos que responder, siguiendo la solución de Bringsjord y Arkoudas, que no lo somos; pero tampoco podríamos afirmar que no lo somos, pues en esta solución el sentido de las negaciones no es la privación. Por tanto, entraríamos en el contexto de una tradición apofática en la que nos quedaría una alternativa por vía negativa: sostener que somos hipermáquinas o supramáquinas.

Bajo esta argumentación, los versos de San Juan de la Cruz con los que hemos iniciado este trabajo resuenan con nuevos matices y dan luz sobre nuestro estatus computacional.

Notas del Autor

1 El autor agradece a los árbitros anónimos sus amables comentarios, sus precisas correcciones y sus útiles sugerencias.

2 Apolodoro, Biblioteca, Madrid: Gredos, 2002, I, 1.9.23.

3 Price, D. De S., “Gears from the Greeks. The Antikythera Mechanism: A Calendar Computer from ca. 80 B. C.” en Transactions of the American Philosophical Society, New Series 64 (7): 1-70, 1974.

4 Aristóteles, “Primeros Analíticos”, en Tratados de Lógica, Madrid: Gredos, 1998.

5 Negrete, J., “El Popol-Vuh. Un experimento gedanke” en Negrete, J., González, E. De la filosofía a la inteligencia artificial, México: Noriega Editores, 1992.

6 Scholem, G., “The Idea of the Golem”, en On the Kabbalah and Its Symbolism, trad. Manheim, R., New York: Schocken, 1965.

7 Campbell, M. B., “Artificial Men: Alchemy, Transubstantiation, and the Homunculus”, en Republics of Letters: A Journal for the Study of Knowledge, Politics, and the Arts, 1, núm. 2, 2010.

8 Selected Works of Ramon Llull, (1232-1316), ed. y trad. Bonner, A., vol. 2, Princeton, N.J.: Princeton University Press, 1985, pp. 317-646.

9 Marguin, J., Histoire des instruments et machines à calculer, trois siècles de mécanique pensante, 1642-1942, Hermann,‎ 1994.

10 Hobbes, Th., Leviathan: Or the Matter, Forme, and Power of a Common-Wealth Ecclesiasticall and Civill, ed. Shapiro, I., Yale University Press, 2010.

11 Leibniz, G.W., “Lengua universal, característica y lógica”. Obras filosóficas y científicas, 5. Comares, Granada, 2013., Couturat, L., La logique de Leibniz d’après de documents inédits, Hildesheim, 1962.

12 Boole, G., The Mathematical Analysis of Logic, Being an Essay Towards a Calculus of Deductive Reasoning, Oxford: Basil Blackwell, 1951. Boole, G., An Investigation of The Laws of Thought on Which are Founded the Mathematical Theories of Logic and Probabilities, Dover, 1958.

13 Venn, J., “On the Diagrammatic and Mechanical Representation of Propositions and Reasonings”, en Dublin Philosophical Magazine and Journal of Science, 9 (59): 1-18, 1880.

14 Barrett, L., Connell, M., “Jevons and the Logic ‘Piano’ ”, en The Rutherford Journal, vol. 1, Issue 1, 2006.

15 Shelley, M., Frankenstein; or, The Modern Prometheus, New York: Pearson Longman, 2007.

16 Lindgren, M., Glory and Failure: The Difference Engines of Johann Müller, Charles Babbage, and Georg and Edvard Scheutz, trad. McKay, C.G., Cambridge, Massachusetts: MIT Press, 1990.

17 Frege, G., Begriffsschrift: eine der arithmetischen nachgebildete Formelsprache des reinen Denkens, Halle, 1879. Frege, G. “Concept Script”, trad. Bauer-engelberg, S., en van Heijenoort, J., From Frege to Gödel: A Source Book in Mathematical Logic, 1879-1931. Harvard University Press, 1967.

18 Capek, K., R.U.R., trad. Selver, P., Playfair, N., Dover, 2001.

19 Church, A., “A set of postulates for the foundation of logic” en Annals of Mathematics, Series 2, 33:346–366, 1932.Church, A., “An unsolvable problem of elementary number theory” en American Journal of Mathematics, Volume 58, No. 2., 1936, pp. 345-363. Church, A., “A Formulation of the Simple Theory of Types” en Journal of Symbolic Logic 5: 1940.

20 Post, E. L., “Finite Combinatory Processes. Formulation I” en Journal of Symbolic Logic, 1, pp. 103-105, 1936.

21 Turing, A.M., “Intelligent Machinery” reimpreso en Evans, C., R, Robertson, A.D.J., Cybernetics: Key Papers, Baltimore: University Park Press, 1968. p. 31. La primera versión de las máquinas de Turing se encuentra en Turing, A.M. “On computable numbers, with an application to the Entscheidungsproblem” en Proceedings, London Mathematical Society, 2, 42 pp. 230-265, y no. 43, pp. 544-546, 1936.

22 McCulloch, W.S., Pitts, W., “A Logical Calculus of the Ideas Immanent in Nervous Activity” en Bulletin of Mathematical Biophysics, Vol 5, pp 115–133, 1943.

23 Newell, A., Simon, H.A., The Logic Theory Machine. A Complex Information Processing System, The Rand Corporation, 1956.

24 McCarthy, J., Minsky, M., Rochester, N., Shannon, C., A proposal for the Dartmouth Summer Research Project on Artificial Intelligence 1955. Cf. Crevier, D., AI: The Tumultuous Search for Artificial Intelligence, New York: BasicBooks, pp. 44–46, 1993.

25 Genesereth, M.R., Nilsson, N. J., Logical foundations of artificial intelligence Palo Alto, CA.: Morgan Kauffman, 1988.

26 Brooks, R.A., “Elephants Don’t Play Chess” en Maes, P., Designing Autonomous Agents: Theory and Practice from Biology to Engineering and Back, MIT Press, 1994, pp. 3-15. En este trabajo, que puede leerse como un manifiesto de la nouvelle AI frente a la IA tradicional, Brooks considera que la HSFS es errónea y sugiere, en su lugar, una IA basada en lo que llama la physical grounding hypothesis.

27 Newell, A., Simon, H.A., “Computer science as empirical inquiry: symbols and search” en Communications of the ACM 19 (3): 113–126, 1976.

28 Una máquina de Turing M se define como una 7-tupla M=Q,,b,,,q0,F donde Q es un conjunto finito no-vacío de estados,  es un conjunto finito no-vacío de símbolos de alfabeto, b denota el símbolo vacío, –{b} es el conjunto de entradas, q0Q es el estado inicial, FQ es el conjunto de estados de paro y  es una función tal que :(Q–F)xQxx{I,D}, donde I y D son movimientos a la izquierda o a la derecha, respectivamente. Cf. Hopcroft, J., Ullman, J., Introduction to Automata Theory, Languages, and Computation, Reading, Mass.: Addison–Wesley, 1979, p. 148.

29 McCarthy, J., “A Basis for a Mathematical Theory of Computation” en Braffort, P., Hirshberg, D., Computer Programming and Formal Systems, North-Holland, 1963, p. 1.

30 Kleene, S., Mathematical Logic, New York: Wiley, 1967, p. 237.

31 Turing, A.M., Systems of Logic Based on Ordinals, tesis doctoral, Princeton University, 1939, p. 8.

32 Haugeland, J., Artificial intelligence: the very idea, Cambridge: MIT Press, 1985.

33 Charniak, E., McDermott, D., Introduction to Artificial Intelligence, Reading, Mass.: Addison-Wesley, 1985.

34 Kurzweil, R., The Age of Intelligent Machines, Cambridge, MA: MIT Press, 1990.

35 Schalkoff, R.J., Artificial Intelligence: An Engineering Approach, Michigan: McGraw-Hill, 1990.

36 Russell, S., Norvig, P., Artificial Intelligence: A Modern Approach, Saddle River, NJ: Prentice Hall, 1994.

37 Con respecto a este proyecto nos parece interesante mencionar, como dice Carter, que: “Given our current conceptual understanding of the mind and technical understanding of the computational wetware of the brain which gives rise to it, by far the simplest way to create something which has the capacity for embodied experience and which is ceteris paribus guaranteed to develop a mind in the same sense that we have a mind is still the old-fashioned biological way–to create and raise a human being”. Carter, M., Minds and computers. An introduction to the philosophy of artificial intelligence, Edinburgh University Press, 2007, p. 206.

38 Lovelace, A., “Translator’s notes to L. F. Menabrea’s `Sketch of the analytical engine invented by Charles Babbage, Esq.’” en Bowden, B. V., Faster than Thought: A Symposium on Digital Computing Machines, New York: Pitman Publishing Co., 1953, 362-408.

39 Searle, J., Mind, language and society, New York: Basic Books, 1999.

40 Dreyfus, H.L., What Computers Still Can’t Do. A Critique of Artificial Reason, Cambridge, MA.: MIT Press, 1992.

41 “Teorema VI: Para cada clase recursiva primitiva y ω-consistente de K FÓRMULAS hay un SIGNO DE CLASE r tal que ni v Gen r ni Neg(v Gen r) pertenecen a Flg(K)”. Gödel, K., “Minds, Machines and Gödel” en Philosophy, 36: 112-127, 1961.

42 Dreyfus, H.L., “Über formal unentscheidbare Sätze der Principia Mathematica und verwandter Systeme, I” en Monatshefte für Mathematik und Physik 38: 173–98, 1931, p. 187. Cf. Gödel, K. Obras completas, trad. Mosterín, J., Madrid: Alianza, 1989, p. 53.

43 Rucker, R., Infinity and the Mind: The Science and Philosophy of the Infinite, Princeton, N.J.: Princeton University Press, 1982.

44 Lucas, J. R., “Minds, Machines and Gödel”, p.2.

45 Penrose, R., Shadows of the Mind, Oxford: Oxford, 1994, pp. 74–75.

46 Copeland, B.J., “Even Turing Machines can compute uncomputable functions” en Casti, J., Unconventional models of computation, London: Springer, 1998.

47 Bringsjord, S., Arkoudas, K., “The modal argument for hypercomputing minds” en Theoretical Computer Science 317 (2004) 167-190.

48 Lewis, H.R., Papadimitrou, C.H., Elements of the Theory of Computation, Michigan: Prentice Hall, 1998, p. 278.

49 “A man provided with paper, pencil, and rubber, and subject to strict discipline, is in effect a universal machine”. Turing, A.M. , “Intelligent Machinery”, p. 9.

50 Cuando el Pseudo-Dionisio explica que algunos de los nombres divinos son negaciones y que tales negaciones son más propias de Dios que las afirmaciones, distingue a las negaciones de las privaciones. En la discusión Lucas vs Bringsjord ocurre un fenómeno similar. Cf. “La Théologie Mystique” en Pseudo-Denys l’Aréopagite. Oeuvres complètes. Traduction, préface et note, Paris: Aubier, 1980.

51 Arbib, M., Minds, machines and mathematic, Springer, 1987.

52 Bringsjord, S., Xiao, H., “A refutation of Penrose’s Gödelian case against artificial intelligence” en J. Exp. Theoret. Artificial Intelligence 12, 2000, 307-329.

53 Boolos, G.S., Jeffrey, R.C., Computability and Logic, Cambridge: Cambridge University Press, 1989.

54 van Melkebeek, D., Randomness and Completeness in Computational Complexity, LNCS, 1950, Springer, 2000, p. 43.

55 Burgin, M., “Inductive Turing Machines” en Notices of the Academy of Sciences of the USSR, v. 270, No. 6, 1983, pp. 1289-1293.

,

56 Floridi, L., Philosophy and computing, An introduction, New York: Routledge, 1999.