Alrededor del 16% de la población mundial (1.300 millones de personas) experimenta actualmente una discapacidad significativa, incluidos casi 240 millones de niños. En 2023, 101 millones de personas, o el 27% de la población de la Unión Europea (UE) mayor de 16 años, tenía algún tipo de discapacidad. La proporción de mujeres con discapacidad era mayor que la de hombres en todos los estados miembros de la UE.
La innovación y la tecnología pueden ser herramientas poderosas para la inclusión. Al mejorar el acceso a la información, la educación o el mercado laboral, la tecnología tiene un gran potencial para transformar vidas y crear un mundo más inclusivo y accesible para todas y todos.
Este potencial aún no se ha aprovechado para muchos. En 2022, la OMS y UNICEF señalaron que más de 2.500 millones de personas necesitan uno o más productos de asistencia, como sillas de ruedas, audífonos o aplicaciones que favorezcan la comunicación y la cognición. Sin embargo, a casi mil millones se les niega el acceso, en particular en los países de ingresos bajos y medianos.
Abordar el poder de la tecnología y la innovación puede ayudarnos a hacer realidad los derechos de las personas con discapacidad. Heba Hagrass, Relatora Especial de las Naciones Unidas sobre los derechos de las personas con discapacidad, subrayó la importancia de la innovación accesible:
“Uno de los asuntos urgentes es cómo la inteligencia artificial cambiará nuestro mundo. Un mundo para todos. Cuando llegaron las computadoras y luego Internet, la gente no se dio cuenta de que tener computadoras e Internet, en lugar de crear un refugio para todos, ha creado muchos obstáculos y barreras infranqueables para muchas discapacidades. Nos llevó al menos entre 10 y 15 años combatir esto. El problema es convencer a las personas que ofrecen esos programas para que los hagan accesibles”.
¿Cuáles son las oportunidades?
En su informe sobre la IA y los derechos de las personas con discapacidad, Gerard Quinn, ex Relator Especial de las Naciones Unidas sobre los derechos de las personas con discapacidad, explica que los sistemas habilitados por IA ofrecen nuevas oportunidades para la inclusión de la discapacidad. Pueden abordar necesidades individuales específicas y ampliar las posibilidades de que las personas con discapacidad vivan de forma independiente. Al mejorar las tecnologías de asistencia, la IA puede mejorar la movilidad personal, por ejemplo, ayudando a identificar rutas accesibles. La IA hace posible la comunicación a través de software de seguimiento ocular y reconocimiento de voz, lo que permite a las personas con discapacidad acceder a información y educación. Los asistentes digitales, el software de conversión de voz a texto, los subtítulos de video y las descripciones de imágenes generados automáticamente, los avatares en lenguaje de señas, las prótesis de miembros e incluso el apoyo a la salud mental son solo algunos ejemplos de cómo la IA puede ayudar a promover los derechos de las personas con discapacidad. Pero también existen riesgos importantes. Algunas herramientas de IA facilitan la vida cotidiana, mientras que otras pueden perpetuar los prejuicios y crear nuevas barreras.
¿Cuáles son los riesgos?
El informe de Gerard Quinn destaca que las tecnologías de inteligencia artificial utilizadas por las autoridades pueden cambiar la relación entre el Estado y las personas con discapacidad. Supongamos que estos sistemas se vuelven decisivos en procesos como el empleo o el acceso a los servicios.
En ese caso, los algoritmos sesgados pueden discriminar a grupos de personas con discapacidad que ya son vulnerables. Las herramientas de inteligencia artificial pueden excluir a los candidatos durante la contratación porque pueden tener dificultades para comprender diferentes formas de hablar o malinterpretar el lenguaje corporal. Los sistemas de inteligencia artificial solo reconocen patrones de comportamiento preprogramados, lo que significa que estas tecnologías tienen una capacidad limitada para interactuar con la diversidad humana. Por ejemplo, pueden extraer inferencias incorrectas sobre las personas con autismo que pueden expresarse de manera diferente. Además, los chatbots pueden ser inaccesibles para alguien que use un lector de pantalla.
Los algoritmos se basan en un promedio estadístico. Esto significa que las personas con discapacidad, que no encajan en el promedio, pueden ser discriminadas en múltiples áreas, como la contratación, la educación, la banca o los servicios de seguridad. Por ejemplo, los algoritmos pueden malinterpretar la desfiguración facial de un candidato durante el proceso de contratación.
La IA y los riesgos interseccionales
Como menciona el Organismo Belga de Igualdad UNIA, los sistemas de IA pueden tomar decisiones que impliquen discriminación interseccional basada en una combinación de diferentes características protegidas, como género, raza, edad, orientación sexual, etnia o discapacidad. La interacción de distintos criterios de discriminación puede hacer que alguien sea más vulnerable que otros en el mismo contexto. Además, las herramientas de IA no son transparentes sobre qué características son las más importantes en la toma de decisiones.
Las regulaciones de la IA no deben dejar a nadie atrás
El anterior Relator Especial de la ONU, Quinn, señaló que la Convención sobre los Derechos de las Personas con Discapacidad (CDPD) impone a los Estados la obligación jurídica de no discriminar por motivos de discapacidad a ninguna persona, organización o empresa privada. Por lo tanto, los Estados son responsables de regular el sector privado en términos del desarrollo y uso de la IA.
Las Naciones Unidas están trabajando activamente en la regulación de la IA para garantizar que su desarrollo y uso se ajusten a los derechos humanos y la equidad. En 2023, el Secretario General de las Naciones Unidas, António Guterres, estableció el Órgano Consultivo de Alto Nivel sobre IA, con el fin de formular recomendaciones para la gobernanza internacional de la IA.
En septiembre de 2024, durante la Cumbre del Futuro, los líderes mundiales adoptaron un Pacto para el Futuro que incluye un Pacto Digital Mundial. Su objetivo es crear un espacio digital seguro que respete, proteja y promueva los derechos humanos, incluidos los de las personas con discapacidad.
A nivel europeo, la Ley Europea de Inteligencia Artificial (Ley de IA) entró en vigor el 1 de agosto de 2024 y la mayoría de sus normas comenzarán a aplicarse el 2 de agosto de 2026. Es la primera regulación integral del mundo sobre inteligencia artificial que supervisa el desarrollo responsable de la inteligencia artificial y la implementación de tecnologías basadas en IA en la UE. Es especialmente importante para las personas con discapacidad y otros grupos marginados, ya que la Ley de IA busca prevenir daños como la discriminación, el trato injusto o la pérdida de privacidad. La UE, como signatario de la CDPD, tiene la obligación legal de proteger a las personas con discapacidad contra la discriminación y de garantizar la igualdad de acceso a las tecnologías de la información y la comunicación.
Un futuro inclusivo para la IA
Los sistemas de IA inaccesibles pueden excluir a las personas con discapacidad de la participación social, reforzar las barreras existentes y crear otras nuevas. Por lo tanto, es fundamental mitigar los riesgos del impacto negativo de la IA en los derechos de las personas con discapacidad.
Los Estados deben garantizar que las medidas para combatir la discriminación y proteger los derechos humanos se integren en sus regulaciones nacionales que rigen el desarrollo y la implementación de la IA. Además, el sector privado debe incorporar estándares de transparencia en sus operaciones de IA, evaluar el impacto de los sistemas de IA en las personas con discapacidad y rectificar las prácticas discriminatorias.
Más información: