Neurotecnología e Inteligencia Artificial: Fronteras legales y de gobernanza

64 Neurotecnología e Inteligencia Artificial: Fronteras legales y de gobernanza namiento mental “normal”, incentivando la medicalización o estandarización del rendimiento neurológico. Además, podría consolidar brechas entre quienes acceden a mejoras cognitivas y quienes no, generando nuevas formas de exclusión. La publi- cación aboga por establecer límites normativos claros sobre qué formas de aumento son legítimas y en qué contextos pueden aplicarse, con criterios de justicia distributi- va y no discriminación. 2.2.4. Sesgo y discriminación algorítmica Los algoritmos de IA utilizados en neurotecnología pueden incorporar sesgos sociales preexistentes, como los basados en raza, género o nivel socioeconó- mico, al entrenarse con datos históricamente desbalanceados. Si estos sesgos afectan sistemas que interactúan directamente con la mente, los resultados pueden amplificarse sin que los usuarios lo perciban, afectando procesos como el diagnóstico médico, la selección de personal o el acceso a servicios. Esta opacidad algorítmica dificulta el control ciudadano y erosiona la con- fianza en los sistemas tecnológicos. El grupo sugiere involucrar a poblaciones vulnerables en el diseño y evaluación de estas tecnologías, así como estable- cer mecanismos institucionales para auditar y corregir sesgos desde las fases iniciales del desarrollo. 3. LOS NEURODERECHOS 3.1. Propuestas doctrinales de neuroderechos Las cuatro áreas de riesgo identificadas justifican la formulación de una nueva ge- neración de derechos fundamentales ,los llamados neuroderechos, orientados a pro- teger la integridad de la mente humana frente a los riesgos derivados del uso de neurotecnologías y sistemas de IA aplicados al cerebro. Su aparición responde a la necesidad de ampliar los marcos clásicos de los derechos humanos, que resultan insuficientes ante la posibilidad real de acceder, interpretar, modificar o explotar los procesos mentales mediante tecnologías invasivas o no invasivas. Como han adverti- do tanto la doctrina académica como organismos internacionales, esta convergencia tecnológica pone en cuestión principios esenciales como la privacidad, la autonomía, la identidad y la dignidad de la persona.