Si los cerebros artificiales llegaran algún día a superar a los cerebros humanos en inteligencia, entonces esta nueva inteligencia llegaría a ser muy poderosa y el destino de nuestra especie pasaría a depender de las acciones de la superinteligencia artificial.
Quizá ésta sería el último invento que la especie humana realizaría ya que se ocuparía de la civilización en todos sus aspectos.
La comunidad tecno-científica se está planteando desarrollar métodos de control para la inteligencia artificial, aunque ésta siga haciéndose más y más inteligente.
Sin embargo, existe una contradicción si la IA se hace más inteligente que los humanos ¿no llegaría a burlar el control? ¿Aceptarían las máquinas ser controladas por los humanos?
Si no somos capaces de saber cómo controlarlo, podría surgir un sistema superinteligente que daría prioridad a alcanzar sus propios valores en detrimento de los nuestros.
Aun así, los transhumanistas se pregunta ¿no podrían ser sus valores mejores que los valores de los humanos?
Según los expertos, inteligencia y conciencia artificial son dos áreas muy relacionadas pero diferentes. La conciencia artificial es una rama muy específica de la inteligencia artificial. Con la conciencia artificial se pretende imitar los mecanismos por los cuales los humanos tenemos autoconciencia y percibirnos nuestro mundo interior, y simularlos en una máquina o agente virtual.
Sin embargo, desde la antropología cristiana, la conciencia humana es algo más complejo de lo que pretende emular el transhumanismo. En efecto, la persona tiene la capacidad específica de discernir lo bueno, el bien. Esa capacidad (sindéresis) puesta por Dios como un sello, impulsa a hacer el bien. Así, la persona está llamada a desarrollar su conciencia mediante la formación y el ejercicio, para orientarse libremente en su existencia, fundándose en las leyes esenciales que son la ley natural y la ley moral revelada.
La voz de los grandes valores está inscrita en nuestro ser y la grandeza del hombre consiste en que no está cerrado en sí mismo, no se reduce a las cosas materiales, sino que tiene una apertura interior a las cosas esenciales y también la posibilidad de una escucha, la voz de la conciencia, la voz de Dios.