Inteligencia artificial para el bien

• En los últimos años, la Inteligencia Artificial (IA) ha avanzado a un ritmo exponencial. Las máquinas con inteligencia artificial son capaces de exami​nar e interpretar cantidades masivas de datos procedentes de distintas fuentes para llevar a cabo tareas muy diversas.
• Por ejemplo, la capacidad de la IA para analizar imágenes de alta resolución procedentes de satélites, drones o escáneres médicos puede mejorar las respuestas a emergencias humanitarias, aumentar la productividad agrícola y ayudar a los médicos a identificar el cáncer de piel u otras enfermedades.
• Sin embargo, el poder transformador de la IA también conlleva problemas, que oscilan desde cuestiones de transparencia, confianza y seguridad, hasta inquietudes relativas a la pérdida de empleos y exacerbación de las desigualdades.
• Cuando la IA se aprovecha para el bien, garantizando que es segura y beneficiosa para todos, puede acelerar rápidamente el cumplimiento de los 17 Objetivos de Desarrollo Sostenible (ODS) de las Naciones Unidas.

En los últimos años el software se ha vuelto considerablemente más inteligente.

La actual expansión de la IA es el resultado de los adelantos en el campo denominado aprendizaje automático. El aprendizaje automático implica la utilización de algoritmos que permiten a los computadores aprender por sí mismos examinando datos y realizando tareas basadas en ejemplos, en lugar de basarse en la programación explícita por un ser humano.[1]

La técnica de aprendizaje automático llamada aprendizaje profundo, inspirada en las redes neuronales biológicas, consiste en encontrar y recordar patrones en grandes volúmenes de datos. Los sistemas de aprendizaje profundo realizan tareas teniendo en cuenta ejemplos, generalmente sin ser programados, y superan a los algoritmos tradicionales de aprendizaje automático.[2]

Los macrodatos, es decir, los conjuntos de datos extremadamente grandes que pueden ser analizados por computador para revelar patrones, tendencias y relaciones [3], junto con el poder de la IA y la computación de alto rendimiento, están generando nuevas formas de información y conocimiento con un enorme potencial para superar los mayores retos de la humanidad.

A continuación figuran algunos ejemplos de cómo puede aplicarse la IA para el bien:

• La productividad agrícola puede incrementarse mediante la digitalización y el análisis de imágenes captadas por drones y satélites automatizados.
• La mejora de la recopilación, el procesamiento y la difusión de datos e información sanitarios puede mejorar el diagnóstico y el tratamiento de pacientes, especialmente para los habitantes de zonas rurales y remotas. Una mejor información sobre las condiciones climáticas y ambientales también puede ayudar a los gobiernos a predecir mejor los brotes de malaria, controlar la propagación de la enfermedad y desplegar los recursos médicos de manera más eficiente.
• La IA puede utilizarse para evaluar la capacidad de aprendizaje de los estudiantes y ayudarles a desarrollar la confianza para dominar las asignaturas.
• La IA puede ayudar a las personas con discapacidades o necesidades especiales de muchas maneras. Ya está mejorando en la traducción de texto a voz, así como en la traducción de voz a texto, por lo que podría ayudar a las personas con discapacidad visual o auditiva a utilizar las tecnologías de la información y la comunicación (TIC).
• La AI también está ayudando a crear ciudades inteligentes y sostenibles.
• El análisis de datos sobre el cambio climático y la elaboración de modelos climáticos basados en IA permite predecir los problemas y catástrofes climáticos.
• El reconocimiento de patrones permite rastrear la migración de la vida marina, las concentraciones de vida bajo el mar y las actividades pesqueras para mejorar los ecosistemas marinos sostenibles y evitar la pesca ilegal.

Aparte de las excelentes oportunidades que ofrece, la IA también entraña riesgos.

Los conjuntos de datos y los algoritmos pueden reflejar o reforzar los prejuicios de género, raciales o ideológicos[4] . Cuando los conjuntos de datos (alimentados por personas) en los que se basa la IA están incompletos o sesgados, pueden llevar a conclusiones de IA sesgadas.

Los seres humanos utilizan cada vez más las tecnologías de aprendizaje profundo para decidir quién obtiene un préstamo o un trabajo. Pero el funcionamiento de los algoritmos de aprendizaje profundo es opaco y no permite al ciudadano comprender por qué la IA llega a ciertas asociaciones o conclusiones, cuándo pueden producirse fallos y cuándo y cómo la IA puede estar reproduciendo sesgos.[5]

La IA puede exhacerbar las desigualdades al automatizar tareas rutinarias y afectar al empleo.

El software, incluyendo el que hace funcionar los teléfonos celulares, las cámaras de seguridad y las redes eléctricas, puede tener fallos de seguridad [6], que pueden dar lugar a robos de dinero e identidad, o a fallos de Internet y del suministro eléctrico.

Los adelantos tecnológicos en la inteligencia artificial también pueden generar nuevos peligros para la paz y la seguridad internacionales. Por ejemplo, el aprendizaje automático puede utilizarse para generar videos y audio falsos que influyan en las elecciones, la formulación de políticas y la gobernanza.[7]

La elaboración y adopción de normas internacionales pertinentes y la disponibilidad de software de código abierto proporcionarán un lenguaje común y un instrumento de coordinación que facilitarán la participación de muchas partes independientes en el desarrollo de aplicaciones de IA. Esto contribuirá a llevar los beneficios de los adelantos de IA al mundo entero, mitigando, a su vez, sus efectos negativos.

De hecho, resulta indispensable que diversos agentes establezcan pautas de diseño, desarrollo y aplicación de los sistemas de IA. Para que la IA llegue a conclusiones precisas y representativas necesita conjuntos de datos que sean a su vez precisos y representativos de todos. Además, es fundamental establecer salvaguardias para promover el uso legal, ético, privado y seguro de la IA y de los macrodatos.

Una mayor transparencia en la IA, con el objetivo de informar acerca de la adopción de decisiones legales o médicas, permitirá a los ciudadanos entender por qué la IA está llegando a ciertas asociaciones o conclusiones. Esto, a su vez, animará a las personas a utilizar sus conocimientos, experiencia e intuición para validar las conclusiones de la máquina o tomar una decisión diferente a la propuesta por ésta. Aunque las máquinas analizan y llegan a conclusiones a una velocidad y precisión mucho mayor que antes, son las personas quienes tienen la potestad de cuestionar las conclusiones de las máquinas y tomar decisiones definitivas.

A fin de llegar a un equilibrio entre las repercusiones de la IA en el empleo y las nuevas oportunidades de empleo que ofrece la IA, es esencial crear entornos favorables a la adquisición de competencias digitales, ya sea a través de la educación oficial o de la formación en el empleo. En particular, la IA ofrecerá oportunidades de empleo a quienes posean las competencias digitales avanzadas necesarias para crear, gestionar, probar y analizar las TIC.

Deben desplegarse esfuerzos para proteger la seguridad, la privacidad, la identidad, el dinero y las posesiones del usuario final con el fin de resolver los problemas de seguridad de la IA en esferas tan diversas como las finanzas electrónicas, el gobierno electrónico, las ciudades inteligentes sostenibles y los automóviles conectados.

Facilitar una política y una reglamentación propicias

En su calidad de organismo especializado en tecnologías de la información y la comunicación, la UIT reúne a distintas partes interesadas, que representan a gobiernos, industrias, instituciones académicas y asociaciones de la sociedad civil de todo el mundo, con el fin de mejorar la comprensión del incipiente campo de la IA para el bien.

Tras el éxito de la primera Cumbre Mundial de IA para el bien, de la UIT, la Cumbre de 2018 colaboró con 32 organismos de las Naciones Unidas y otros interesados del mundo con objeto de determinar estrategias para garantizar que las tecnologías de IA se desarrollen de manera fiable, segura e inclusiva, con un acceso equitativo a sus beneficios. La Cumbre dio lugar a más de 30 propuestas de proyectos pioneros de «IA para bien» destinados a ampliar y mejorar la asistencia sanitaria, mejorar la vigilancia de la agricultura y la biodiversidad mediante imágenes satelitales y desarrollar la urbanización inteligente y la confianza en la IA.

La UIT mantiene un repositorio de IA en el que cualquier persona que trabaje en el campo de la inteligencia artificial puede aportar información fundamental sobre cómo aprovechar la IA para el bien. Este es el único repositorio mundial de proyectos, iniciativas de investigación, grupos de reflexión y organizaciones relacionados con la IA cuyo objetivo es acelerar el cumplimiento de los 17 Objetivos de Desarrollo Sostenible (ODS) de las Naciones Unidas.

La UIT reúne periódicamente a los jefes de organismos reguladores de las TIC de todo el mundo para intercambiar puntos de vista y novedades sobre la IA y otras cuestiones reglamentarias apremiantes, abordar cuestiones de gobernanza e intensificar la colaboración para utilizar la IA para el bien.

En el futuro, las normas internacionales, es decir, las especificaciones técnicas y los requisitos que la IA y otras tecnologías tendrán que cumplir para funcionar debidamente, pueden ayudar a soslayar los riesgos de la IA mediante un aprendizaje automático que sea ético, previsible, fiable y eficiente.

El Grupo de reflexión de la UIT sobre el aprendizaje automático para redes futuras, las 5G inclusive, ha examinado la forma en que la normalización técnica puede dar soporte a las nuevas aplicaciones del aprendizaje automático en campos como el análisis de macrodatos y la seguridad y la protección de datos en la próxima era de la 5G. El Grupo elaborará especificaciones para que las redes de TIC y sus componentes puedan adaptar su comportamiento de forma autónoma en aras de la ética, la eficiencia, la seguridad y una experiencia de usuario óptima.

La Cumbre Mundial de AI para el bien de 2018 culminó con un llamamiento a aumentar la normalización en el campo de la salud, a través del recién creado Grupo Temático sobre Inteligencia Artificial para la Salud (FG-AI4H), que tiene como objetivo, entre otras cosas, crear puntos de referencia normalizados para evaluar los algoritmos de inteligencia artificial utilizados en las aplicaciones de asistencia sanitaria.