Prompteo, luego existo

El texto de la Columna Invitada del 28 de Agosto de 2025, escrito por Christian Paredes González, Coordinador de la Comisión de Tecnologías de la Información y Derechos Digitales de la BMA, aborda la creciente dependencia de los abogados en la inteligencia artificial, específicamente en los Large Language Models (LLM), y las implicaciones éticas y profesionales que esto conlleva. El autor advierte sobre los riesgos de confiar ciegamente en estas herramientas, ilustrando su argumento con la reciente sentencia del High Court británico en los casos Ayinde vs Haringey y Al-Haroun vs Qatar National Bank.

El High Court británico advierte sobre las consecuencias de confiar ciegamente en los Large Language Models (LLM).

📝 Puntos clave

• La dependencia excesiva en la IA puede llevar a la negligencia profesional.
• Los LLM no "comprenden" el derecho, sino que replican patrones lingüísticos.

• Publicidad
• Las "alucinaciones" de la IA son una característica inherente de estos sistemas.
• La responsabilidad profesional no puede delegarse a algoritmos.
• Los colegios de abogados, como la American Bar Association, están estableciendo directrices para el uso de la IA.
• Es crucial mantener el criterio jurídico humano y verificar la información generada por la IA.
• La eficiencia tecnológica sin supervisión humana es negligencia.
• Se debe usar la IA como amplificador de capacidades, no como sustituto del razonamiento.

Lo malo y lo bueno 👎👍

¿Cuál es la principal preocupación planteada en el texto sobre el uso de la IA en la práctica legal?

La principal preocupación es la excesiva confianza en los LLM sin una verificación rigurosa, lo que puede llevar a la presentación de información falsa o inexistente ante los tribunales y, por ende, a la negligencia profesional. Los casos Ayinde vs Haringey y Al-Haroun vs Qatar National Bank sirven como ejemplos de esta problemática.

¿Qué aspecto positivo destaca el autor sobre el uso de la IA en el ámbito legal?

El autor destaca que la IA puede ser una herramienta poderosa para amplificar las capacidades de los abogados, siempre y cuando se utilice de manera transparente, supervisada y verificada. La clave está en encontrar un equilibrio entre la potencia artificial y la sabiduría humana.