Peligros de la IA

Este texto, escrito por Miriam Hinojosa Dieck el 5 de diciembre de 2024, analiza los riesgos de la inteligencia artificial (IA) y su potencial para exacerbar las desigualdades existentes, particularmente las de género. El texto se centra en la necesidad de una regulación específica para evitar que la IA reproduzca y amplifique las injusticias del mundo tangible.

Resumen:

• Agustín Fernández Mello, físico, señala que el principal riesgo de la IA reside en el marco legal, ya que la protección legal de la IA podría dificultar su control y generar consecuencias negativas para quienes intenten regularla. Sin embargo, el texto argumenta que existen riesgos más preocupantes.
• Fernando Rey, jurista español, destaca que un derecho neutral en un contexto de desigualdad no es una decisión neutral. La falta de regulación en la IA permitirá que quienes dominan el mundo tangible (basado en recursos económicos, educación y género) también controlen el mundo intangible generado por la IA.
• El acceso a los beneficios de la IA estará determinado por factores como el dinero, la educación y el género, reproduciendo y amplificando las desigualdades existentes. La exclusión y la violencia del mundo real podrían intensificarse en el ámbito de la IA.

• Publicidad
• Se presenta el caso de un exalumno del Instituto Politécnico Nacional procesado por usar IA para manipular fotos de sus compañeras y venderlas en redes sociales, ilustrando cómo la IA puede facilitar la violencia de género.
• El texto advierte sobre la posibilidad de que la IA perpetúe el patriarcado a través de sesgos en el lenguaje (uso del genérico masculino) y la brecha digital, que afecta desproporcionadamente a las mujeres.
• El texto concluye que los riesgos de la IA son más amplios que los identificados por Fernández Mello y que todos estos riesgos presentan un sesgo de género.

Conclusión:

• La regulación de la IA es crucial para evitar que reproduzca y amplíe las desigualdades sociales, especialmente las de género.
• Es necesario un enfoque proactivo para mitigar los riesgos de la IA y asegurar un acceso equitativo a sus beneficios.
• La lucha contra la discriminación y la violencia de género debe extenderse al ámbito de la IA.
• Se requiere una mayor conciencia sobre los sesgos de género inherentes a la IA y su potencial para perpetuar las injusticias sociales.