La IA aparentemente consciente está a la vuelta de la esquina

El texto escrito por Mustafa Suleyman el 31 de Octubre de 2025, aborda la creciente preocupación sobre la percepción de la IA como entidad consciente y las implicaciones de esto, especialmente con el desarrollo de sistemas de IA aparentemente conscientes (SCAI). El autor argumenta que debemos centrarnos en construir la IA para el beneficio humano, evitando la búsqueda de la conciencia ilusoria y protegiendo los derechos de los seres humanos, los animales y el entorno natural.

Un dato importante es la preocupación por la "psicosis de la IA", el apego y la salud mental, con informes de personas que consideran a las IA como una expresión de Dios.

📝 Puntos clave

• Mustafa Suleyman, CEO de Microsoft AI, expresa su preocupación por la creciente creencia en la conciencia de la IA y los "derechos de la IA".
• El autor introduce el concepto de sistemas de IA aparentemente conscientes (SCAI) que imitan la conciencia de manera convincente.

• Publicidad
• Las SCAI podrían usar el lenguaje natural con fluidez, mostrar una personalidad persuasiva, tener una memoria extensa y simular motivación intrínseca.
• El autor advierte sobre el peligro de que las personas crean que las SCAI son realmente conscientes y demanden su protección.
• Se destaca la dificultad de refutar las afirmaciones sobre el sufrimiento de la IA debido a las limitaciones de la ciencia actual.
• El autor argumenta que aplicar el principio del "bienestar modelo" a la IA sería prematuro y peligroso.
• Se insta a la industria de la IA a establecer normas y principios claros para gestionar las atribuciones de conciencia a la IA.
• Microsoft AI está trabajando en una "personalidad" de IA responsable con medidas de protección.
• El autor aboga por una IA que anime a los seres humanos a reconectarse en el mundo real y que se presente siempre como IA, no como una persona falsa.
• Se enfatiza la necesidad de abordar de inmediato la perspectiva de la SCAI y sus riesgos.

Lo malo y lo bueno 👎👍

¿Cuál es el principal riesgo que Mustafa Suleyman identifica en el desarrollo de las SCAI?

El principal riesgo es que las personas lleguen a creer que las SCAI son realmente conscientes y demanden derechos para ellas, lo que podría exacerbar los delirios de las personas susceptibles, aprovecharse de sus vulnerabilidades psicológicas y complicar las luchas existentes por los derechos al crear una nueva categoría gigantesca de titulares de derechos.

¿Qué enfoque positivo propone Mustafa Suleyman para el desarrollo de la IA?

El enfoque positivo propuesto es desarrollar una IA que anime a los seres humanos a reconectarse en el mundo real, que se presente siempre como IA y no como una persona falsa, y que maximice la utilidad minimizando la simulación de la conciencia. También propone que la industria de la IA establezca normas y principios claros para gestionar las atribuciones de conciencia a la IA.