El impacto de la inteligencia artificial generativa en la docencia universitaria de las disciplinas jurídicas y sociales

Argumentación, Derecho e Inteligencia Artificial 33 jurídica no equivale, en modo alguno, a una «solución matemática» exacta. Si bien los mar- cos teóricos pueden orientar la interpretación y aplicación del Derecho, siempre existirá un margen de discrecionalidad inherente, sustentado en las premisas valorativas adoptadas por el operador jurídico, quien no está exento de sesgos personales o culturales. En este contexto, y a los efectos de esta comunicación, se adoptará una definición funcional de sistema de in- teligencia artificial entendida como «un software que puede, para un conjunto determinado de objetivos definidos por seres humanos, generar información de salida en forma de conte- nidos, predicciones, recomendaciones o decisiones que influyen en los entornos con los que interactúa» 5 . Dentro del abanico de herramientas disponibles para los profesionales del Derecho, des- tacan especialmente aquellas aplicaciones orientadas a la automatización de tareas legales rutinarias, así como las que permiten una búsqueda más ágil y eficiente de normativa y jurisprudencia relevante. Estas tecnologías, sin duda, enriquecen las estrategias profesionales, mejoran la productividad y abren nuevas oportunidades en la práctica jurídica contemporá- nea. Sin embargo, su implementación no está exenta de desafíos, siendo el más significativo la necesidad de una supervisión humana rigurosa. La revisión crítica y constante por parte de operadores jurídicos capacitados es imprescindible para garantizar que el uso de estas herramientas no comprometa los principios de justicia, equidad y transparencia que deben regir toda actuación jurídica. Entre las preocupaciones que generan el uso de los LLM en el ámbito jurídico, parti- cularmente relevante es la posibilidad de que introduzcan errores o sesgos. En primer lugar, la producción de errores o inconsistencias en casos jurídicos complejos vuelve imperativa la intervención humana para asegurar la corrección del error y la calidad de la respuesta jurídica dada. En segundo lugar, pueden reflejar o amplificar diversas categorías de sesgos 6 . Estos últi- mos, aplicados en escritos jurídicos o documentos legales, podrían acabar impactando en las decisiones judiciales. Las herramientas de IA dependen de las aportaciones e instrucciones hu- manas para funcionar y evolucionar y estas pueden incluir información inexacta, sesgada, con- ducir a resultados discriminatorios o premisas valorativas partidistas. En este escenario, resulta imperativo que los estudiantes de derecho integren el uso de la IA en el panorama jurídico con responsabilidad, siendo conscientes de los parámetros y usos que aconsejan su adopción en las soluciones jurídicas, documentos legales y decisiones judiciales. A los efectos de ejemplificar esta pretensión, pondremos como ejemplo la asignatura de Derecho procesal civil. En el Derecho procesal, el uso de la IA generativa (en concreto, su uso en los litigios y resolución de conflictos) tiene el potencial de contribuir a su eficiencia y eficacia cuando es utilizada como una herramienta en la gestión de los mismos 7 . Sin embargo, en la adopción de las decisiones judiciales, se ponen en evidencia una gran cantidad de riesgos que deben ser 5 Artículo 3 del Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de inteligencia artificial). 6 Crawford, «Deconstructing Gender Prediction in NLP», en Conference on Neural Information , 2017. 7 Idea que me limito a mencionar, pues escapa del objeto de esta presentación su comprobación en la práctica.