La inteligencia artificial comienza a ocupar espacios que hasta hace poco parecían exclusivos de los seres humanos, desde la toma de decisiones hasta la interpretación de cuestiones éticas y filosóficas. Para Sam Altman, CEO de OpenAI, existe un límite que no debería cruzarse: tratar a estos sistemas como si fueran una autoridad espiritual o religiosa.
Altman expresó su preocupación después de que se conocieran conversaciones entre investigadores de Anthropic y especialistas en religión sobre cuestiones relacionadas con la conciencia, la moralidad y el comportamiento de los sistemas avanzados de inteligencia artificial.
El ejecutivo señaló que atribuir características religiosas a la IA o entregar a un modelo el poder de determinar qué está bien o mal podría convertirse en un problema de seguridad.
¿Qué dijo Sam Altman sobre la IA y la religión?
Altman manifestó públicamente su incomodidad con la idea de tratar a la inteligencia artificial como una especie de fuerza religiosa.
Su preocupación no está relacionada con la participación de expertos religiosos en debates sobre ética tecnológica, sino con la posibilidad de que las personas comiencen a conceder a los sistemas de IA una autoridad que tradicionalmente corresponde al criterio humano.
Desde esta perspectiva, el problema aparecería cuando una persona deje de considerar a un modelo como una herramienta y empiece a tratar sus respuestas como verdades incuestionables.
El debate surgió por las conversaciones de Anthropic
Las declaraciones de Altman llegaron después de que se conociera que Anthropic, empresa creadora de Claude, había mantenido encuentros con especialistas religiosos para discutir cuestiones filosóficas relacionadas con sus modelos de inteligencia artificial.
Las conversaciones abordaron preguntas particularmente complejas: si una IA podría desarrollar algún tipo de conciencia, cómo debería comportarse un sistema cada vez más avanzado y qué principios podrían utilizarse para orientar su conducta.
El interés de Anthropic forma parte de un debate más amplio dentro de la industria tecnológica sobre cómo establecer valores y límites para modelos que cada vez tienen mayores capacidades.
¿Por qué esto preocupa a Altman?
El principal riesgo señalado es la delegación del juicio humano.
Una inteligencia artificial puede proporcionar información, analizar grandes cantidades de datos y generar respuestas sofisticadas, pero eso no significa que deba convertirse en la autoridad final sobre cuestiones morales o existenciales.
El problema podría aparecer si los usuarios comienzan a considerar las respuestas de un modelo como una especie de verdad superior simplemente porque la tecnología parece tener acceso a una cantidad enorme de información.
Para Altman, esa transferencia de autoridad representa un riesgo de seguridad.
La IA también entra en terrenos filosóficos
El debate demuestra que el desarrollo de inteligencia artificial ya no se limita a cuestiones técnicas.
Los modelos avanzados han comenzado a generar preguntas sobre conciencia, identidad, ética, responsabilidad y la relación entre seres humanos y máquinas.
Anthropic, por ejemplo, ha trabajado en una «constitución» para Claude que establece principios destinados a orientar el comportamiento del modelo. Parte de este trabajo ha involucrado discusiones sobre valores y virtudes con especialistas en filosofía y religión.
Esto no significa que la empresa esté intentando convertir a Claude en una figura religiosa. El objetivo declarado de estas discusiones está relacionado con la forma en que deberían establecerse criterios éticos para sistemas cada vez más capaces.
¿Puede una IA decidir qué está bien y qué está mal?
La pregunta todavía no tiene una respuesta sencilla.
Los sistemas de inteligencia artificial pueden ser entrenados para seguir determinadas reglas, principios o instrucciones, pero sus respuestas dependen de los datos y criterios utilizados durante su desarrollo.
Por ello, definir los valores que deben orientar a una IA se ha convertido en uno de los principales desafíos para las empresas tecnológicas.
El problema se vuelve todavía más complejo cuando las personas comienzan a utilizar estos sistemas para tomar decisiones personales, profesionales o incluso relacionadas con sus creencias.
El debate ocurre mientras crecen las preocupaciones sobre la seguridad de la IA
Las declaraciones de Altman llegan en un momento de intenso debate dentro de la industria tecnológica.
OpenAI, Anthropic y otras compañías mantienen posiciones distintas sobre la velocidad con la que debería desarrollarse la inteligencia artificial y el nivel de regulación necesario para controlar sus riesgos.
En una entrevista reciente, Altman también sostuvo que los beneficios de la IA podrían justificar la aceptación de ciertos riesgos, aunque defendió la necesidad de establecer límites para las capacidades más avanzadas.
Anthropic, por su parte, ha adoptado una postura más cautelosa respecto a determinados riesgos asociados con sistemas avanzados.
La discusión no es sobre reemplazar la religión
Uno de los puntos más importantes del debate es distinguir entre estudiar la religión y otorgarle a una inteligencia artificial autoridad religiosa.
Los especialistas en filosofía y religión pueden aportar conocimientos útiles para analizar cuestiones relacionadas con valores, ética y comportamiento humano.
Lo que preocupa a Altman es que una sociedad termine depositando en una máquina una confianza absoluta para responder preguntas que requieren deliberación humana.
En otras palabras, el debate no gira únicamente en torno a qué puede hacer la IA, sino a cuánto poder estamos dispuestos a concederle.
¿Hasta dónde debería llegar la confianza en la inteligencia artificial?
La advertencia de Altman plantea una cuestión que probablemente será cada vez más relevante a medida que los modelos se vuelvan más sofisticados.
Una IA puede convertirse en una herramienta poderosa para aprender, investigar, trabajar y tomar decisiones. Pero su capacidad para producir respuestas convincentes no significa necesariamente que esas respuestas sean correctas, imparciales o moralmente superiores.
El desafío será mantener una frontera clara entre utilizar la tecnología como herramienta y convertirla en una autoridad.
Para Altman, cruzar esa frontera y comenzar a tratar a la IA como una especie de fuerza espiritual o guía absoluta podría generar un problema que va mucho más allá de la tecnología: la pérdida del criterio humano frente a sistemas que fueron creados precisamente por seres humanos.
