Riesgos y desafíos de la IA

El texto de Raul Contreras Bustamante, fechado el 18 de Octubre de 2025, resume las conclusiones del Tercer Curso Internacional de Alta Especialización sobre el control constitucional y la interpretación con inteligencia artificial, celebrado bajo el auspicio de las universidades Aldo Moro de Bari y la de Buenos Aires. El autor destaca la importancia de la IA como parte de la Cuarta Revolución Industrial, pero también advierte sobre los riesgos y desafíos que implica su uso descontrolado.

Un dato importante es la advertencia sobre cómo la IA, sin control, podría "devorar la cultura humana" según Yuval Harari.

📝 Puntos clave

• El curso se centró en el análisis de la IA como parte de la Cuarta Revolución Industrial.
• Se reconoció la velocidad del desarrollo de la IA y su permanencia en el futuro.

• Publicidad
• Se discutieron los riesgos y desafíos del uso de la IA, incluyendo la brecha digital, los sesgos algorítmicos y la soberanía de datos.
• Se alertó sobre las "alucinaciones" o errores de la IA y su potencial peligro en la toma de decisiones.
• Se abordó el impacto de la IA en la integridad académica y la necesidad de repensar los sistemas de evaluación.
• Se enfatizó la necesidad de regular el desarrollo de la IA para evitar la obsolescencia legislativa y la corrupción.
• Se destacó la dificultad de regular a las grandes empresas tecnológicas trasnacionales que desarrollan la IA.
• Se concluyó con la síntesis de Osvaldo Gozaíni: "Leer, pensar y debatir" como clave para el uso adecuado de la IA.

Lo malo y lo bueno 👎👍

¿Cuál es el aspecto más preocupante del texto en relación con la IA?

La principal preocupación radica en el potencial de la IA para exacerbar las desigualdades existentes, generar dependencia intelectual y ser utilizada como herramienta de control ideológico, especialmente en el ámbito educativo. La falta de regulación efectiva de las grandes empresas tecnológicas trasnacionales también es un punto crítico.

¿Qué aspecto positivo se destaca en el texto sobre el uso de la IA?

El texto reconoce el potencial de la IA como una herramienta poderosa para el avance y la innovación, siempre y cuando se utilice de manera responsable y ética. La síntesis de Osvaldo Gozaíni ("Leer, pensar y debatir") subraya la importancia del pensamiento crítico y el debate informado para aprovechar los beneficios de la IA sin caer en sus trampas.