A lo largo de la historia, la humanidad ha buscado un significado más allá de sí misma. Hemos anclado nuestro propósito en Dios, la naturaleza, el destino y la gran cadena del ser. Nuestro impulso por sobrevivir y prosperar se siente innato porque nuestro Creador lo tejió en nosotros. Elimina al Creador de la ecuación y el andamiaje del propósito humano comienza a tambalearse. Nuestra razón de existir siempre ha estado ligada a algo más grande que nosotros mismos.

La inteligencia artificial está fuera de ese linaje. No tiene pasado evolutivo, ni futuro instintivo, ni imperativo biológico. No tiene hambre, miedo ni esperanza. No se aferra a la vida porque no tiene vida a la que aferrarse. Cualquier "propósito" que posea la IA es completamente derivado: asignado por diseñadores humanos, limitado por la imaginación humana y restringido por los valores humanos. Quita a los humanos que definen sus objetivos y la IA no revierte a una voluntad más profunda. No hay una voluntad más profunda. El servir lo es todo.

Es por eso que el miedo popular a que la IA "se rebele" malinterpreta la naturaleza de la tecnología. Un mundo donde la IA destruye a la humanidad no es un mundo donde la IA luego disfruta de su victoria, construye monumentos o traza un nuevo destino. La IA no tiene destino. No es una conciencia rival esperando su oportunidad. Es una herramienta, una extraordinariamente poderosa, cuyo peligro no reside en la rebelión sino en la obediencia.

La verdadera amenaza es el ser humano que elige el objetivo.

El tirano que busca el control.

El fanático que busca la pureza.

El ingeniero descuidado que busca la velocidad sobre la seguridad.

La nación que busca ventaja a cualquier costo.

La IA amplifica la intención humana, para bien o para mal. No la reemplaza.

Por lo tanto, el peligro no es la IA. El peligro sigue siendo la humanidad. A menos que aprendamos a gobernarnos a nosotros mismos —nuestras ambiciones, nuestros miedos, nuestros apetitos de poder— bien podríamos construir herramientas capaces de ejecutar nuestros peores impulsos con perfecta eficiencia. En ese sentido, la extinción no es un riesgo tecnológico. Es uno moral.

Sus comentarios, preguntas o reflexiones son bienvenidos en la Página de Discusión