¿Podemos asegurar la inclusión de la inteligencia artificial (IA)? ¿Qué significará la IA para nuestras economías o mercados laborales? ¿Cómo podemos asegurarnos de que la IA no empeore las desigualdades actuales o introduzca nuevas? El debate de la Inteligencia Artificial en la ONU.
«La IA debe beneficiar a todos, incluido el tercio de la humanidad que todavía no tiene acceso a Internet», en palabras del Secretario General de las Naciones Unidas, António Guterres, durante la Cumbre Global «AI for Good» en julio de 2023, donde la ONU exploró el uso de la IA para lograr los Objetivos de Desarrollo Sostenible (ODS).
La IA está presente en la vida cotidiana, desde reservar vuelos y solicitar préstamos hasta predecir pandemias o ayudar a crear entornos inclusivos para personas con discapacidades. La IA tiene el poder de transformar a la humanidad si se utiliza de manera responsable y se hace accesible para todos.
La semana pasada, durante su conferencia en la Real Biblioteca de Bélgica, el Subsecretario General de las Naciones Unidas y Rector de la Universidad de las Naciones Unidas, el Profesor Tshilidzi Marwala, habló sobre los desafíos de gobernanza de la IA. A medida que los sistemas de IA se vuelven más capaces y autónomos, debemos considerar cómo regular su diseño, entrenamiento y uso para que se alineen con los valores humanos y eviten daños no deseados.
¿Qué tenemos en mente cuando hablamos de IA?
Según la Organización Mundial de la Propiedad Intelectual (OMPI), la IA se considera generalmente un campo dentro de la informática que tiene como objetivo desarrollar máquinas y sistemas capaces de realizar tareas que normalmente requieren inteligencia humana, como percepción, interacción con el lenguaje o resolución de problemas. La IA se basa en algoritmos, que se traducen en código informático que contiene instrucciones para el análisis rápido y la transformación de datos en conclusiones, información u otros resultados.
Uno de los ejemplos de IA de una herramienta de procesamiento de lenguaje natural es Chat GPT. Permite a los usuarios interactuar con el modelo GPT-3 (Generative Pre-trained Transformer 3) utilizando lenguaje natural. El modelo se entrena con una gran cantidad de datos, lo que le permite generar respuestas similares a las humanas a diversas entradas.
Sin embargo, estas tecnologías aún tienen limitaciones, como respuestas incorrectas, una huella de carbono alta, falta de información actualizada y la necesidad de acceso a Internet. No obstante, están ganando popularidad: lanzada en noviembre de 2022, la plataforma ChatGPT-3 de Open AI alcanzó los 100 millones de usuarios en enero de 2023, convirtiéndose en la aplicación de consumo de mayor crecimiento en la historia.
Impacto positivo de la IA: acelerador de los ODS
La IA tiene el potencial de impulsar el progreso en los 17 ODS, ofreciendo soluciones a desafíos globales apremiantes. Sus aplicaciones permiten la innovación, mejoran la evaluación y planificación de riesgos y facilitan el intercambio de conocimientos más rápido. El 26 de octubre de 2023, el Secretario General de las Naciones Unidas lanzó el nuevo Cuerpo Asesor de la ONU, compuesto por 39 expertos de todo el mundo, que buscarán aprovechar la IA para el bien común. Harán recomendaciones a finales de año sobre los ámbitos de la gobernanza internacional de la IA, la comprensión compartida de los riesgos y desafíos, y las oportunidades clave para aprovechar la IA y acelerar los ODS.
La IA ya ofrece posibilidades increíbles. A continuación, hemos incluido algunas de las áreas clave donde la IA ha demostrado un progreso significativo y la capacidad de generar cambios transformadores.
Salud: La IA tiene el potencial de fortalecer la prestación de servicios de salud a poblaciones desatendidas; mejorar la vigilancia de la salud pública; avanzar en la investigación de la salud y el desarrollo de medicamentos; apoyar la gestión de sistemas de salud y permitir a los profesionales clínicos mejorar la atención al paciente; y realizar diagnósticos médicos complejos. Por ejemplo, la IA es más precisa cuando se trata de diseñar tratamientos personalizados o predecir ataques cardíacos. Cuando la IA se combina con el diagnóstico humano, la tasa de error es solo del 0,5 por ciento, en comparación con el 3,5 por ciento de los médicos humanos. Según la Organización Mundial de la Salud, las enfermedades no transmisibles causan aproximadamente el 89 por ciento de las muertes prematuras en la región europea, por lo que mejores diagnósticos podrían ayudar a salvar millones de vidas.
Medio Ambiente: La IA puede desempeñar un papel en abordar los desafíos ambientales, desde el diseño de edificios más eficientes en el consumo de energía hasta la vigilancia de la deforestación, la optimización de la implementación de energías renovables o el cálculo de la huella ambiental de los productos.
Ayuda Humanitaria: La IA puede facilitar el análisis e interpretación de conjuntos de datos humanitarios vastos y complejos para mejorar las proyecciones y la toma de decisiones. Las aplicaciones móviles, los chatbots y las redes sociales pueden crear bucles de retroalimentación inmediata con las personas afectadas por crisis humanitarias. Los chatbots se utilizan para comprender las necesidades de los refugiados en diferentes idiomas. El dinero digital puede proporcionar asistencia rápida y flexible. La biometría puede ayudar a establecer identidades digitales y reconectar a las familias.
Educación: La IA tiene el potencial de abordar algunos de los desafíos más grandes en la educación actual, así como innovar en prácticas de enseñanza y aprendizaje. La IA se puede utilizar para ayudar a los estudiantes a aprender nuevos idiomas o para apoyar a niños con discapacidades proporcionándoles recursos personalizados.
Agricultura: La IA podría transformar los sistemas agroalimentarios y ayudar a poner fin al hambre. Las tecnologías de producción más eficientes tienen el potencial de proporcionar ingresos estables a las poblaciones rurales al tiempo que garantizan el uso responsable de los recursos ambientales.
Sin embargo, las tecnologías de IA existentes y emergentes se están implementando rápidamente sin una comprensión completa de cómo pueden funcionar dichos sistemas de IA. Al igual que cualquier tecnología, la IA tiene promesas… pero también riesgos.
Desafíos de gobernanza de la IA
En el lanzamiento del Alto Grupo Asesor sobre Inteligencia Artificial, el Secretario General de las Naciones Unidas enumeró los posibles daños de la IA, expresando preocupación por la desinformación y la información falsa, el afianzamiento del sesgo y la discriminación, la vigilancia y la invasión de la privacidad, el fraude y otras violaciones de los derechos humanos. Dijo: «Sin entrar en una serie de escenarios apocalípticos, ya está claro que el uso malicioso de la IA podría socavar la confianza en las instituciones, debilitar la cohesión social y amenazar la democracia misma».
Mientras hablaba en la Real Biblioteca de Bélgica, el profesor Tshilidzi Marwala, quien también es miembro del Consejo Asesor Científico de las Naciones Unidas y exvicecanciller de la Universidad de Johannesburgo, compartió ideas sobre los marcos éticos, los estándares técnicos y las intervenciones políticas necesarias para orientar la IA en una dirección responsable. Como desafíos potenciales, mencionó:
- Cálculo (Un proceso en el que una máquina de cálculo aprende algoritmos, lo cual es costoso y tiene una gran huella de carbono, por ejemplo, capacitar a ChatGPT cuesta 100 millones de dólares)
- Ética
- Flujo transfronterizo de datos (La circulación de datos durante una pandemia o en relación con el cambio climático debería circular libremente, para que podamos estar mejor preparados)
- Acceso a datos
- Datos sintéticos (Para interpretarse correctamente, es importante que los datos se recojan de manera uniforme)
- Sensores (Ayudan a procesar señales y su resistencia es importante para nuestra infraestructura)
- Guerras (La IA puede ayudar a predecir conflictos)
- Verdad (¿Cómo abordar el problema del software que aprende a engañar?)
- Desafíos de los derechos humanos (La tecnología debería usarse para avanzar en la cultura de los derechos humanos)
Límites éticos Algunos de los principales problemas éticos de la IA mencionados por el Profesor Marwala incluyen: privacidad y vigilancia; sesgo y discriminación; transparencia y explicabilidad; desplazamiento de empleo; seguridad; responsabilidad; regulación y supervisión. La tecnología de IA tiene importantes beneficios en muchas áreas, pero sin límites éticos, puede amenazar los derechos humanos y las libertades fundamentales, por ejemplo, los generadores de imágenes y las manipulaciones de videos representan un desafío importante para la preservación de la integridad de la información. La IA y la automatización también pueden tener un mayor impacto en los empleos en ciudades más pequeñas y podrían profundizar las desigualdades dentro de las sociedades al eliminar algunas funciones.
A prueba de futuro
En un mundo donde la mitad de la población todavía no puede contar con una conexión a internet estable, «debemos trabajar juntos para lograr una IA que reduzca las divisiones sociales, digitales y económicas, en lugar de alejarnos más», dijo el Secretario General de las Naciones Unidas en sus declaraciones durante el Debate del Consejo de Seguridad sobre la IA en julio de 2023. La IA tiene el potencial de avanzar en el logro de los Objetivos Globales. Sin embargo, debemos establecer un consenso sobre la regulación que guíe el desarrollo y la implementación de la IA. Esta regulación debe garantizar que la IA beneficie a toda la humanidad, fomente la equidad y minimice las disparidades y los sesgos.
Enlaces y lecturas complementarias:
