Intelixencia artificial, información, desinformación e formación
Eladio Dapena González [1]Decano e profesor da Facultade de Enxeñería e Tecnoloxía Empresarial da Universidade Intercontinental de la Empresa
La sociedad global está experimentando un momento sin precedentes en la historia, no solo en lo que respecta al desarrollo tecnológico en sí, sino también en cuanto a la rapidez con la que las personas están percibiendo su existencia. En torno a este último aspecto, y centrándonos especialmente en el conocimiento que la ciudadanía tiene sobre las tecnologías disruptivas vinculadas a la inteligencia artificial, se enfoca este artículo. En general, los conceptos y las ideas relacionadas con la IA se expresan en un lenguaje común para entornos académicos y científicos. Estos términos suelen aparecer de manera similar en documentos dirigidos al público en general, pero que no siempre son fáciles de comprender. En este texto, inicialmente, se presentan ideas respaldadas por referencias contrastadas junto con la experiencia y los trabajos previos del propio autor. En un primer apartado titulado “Acerca de la IA”, se comparten conceptos, clasificaciones y tipos de inteligencia artificial. Mientras muchos autores se basan en aspectos técnicos y especializados para clasificar y definir los tipos de IA, lo cual es de gran utilidad para un grupo reducido de expertos, estos enfoques pueden resultar confusos e incomprensibles para la mayoría de los ciudadanos. En un segundo apartado relacionado con la desinformación y que denominamos “¿IA para quién?”, se presenta un nuevo criterio de clasificación de la inteligencia artificial desde la perspectiva de quien la utiliza, es decir, usuarios y consumidores. Esta perspectiva de categorización es con frecuencia omitida o referenciada tangencialmente en la mayoría de las publicaciones vinculadas con la IA. A partir de este criterio, se desarrollan perfiles de personas usuarias o consumidoras de sistemas basados en IA, junto con sus principales conocimientos y habilidades. Finalmente, se aborda la conceptualización de la formación en IA, así como los compromisos que debe asumir la sociedad en su conjunto para fortalecer las habilidades y conocimiento de los usuarios de la IA, y, en especial, con personas consumidoras consideradas como más vulnerables.
Un elemento clave de la inteligencia artificial con el que comenzamos este artículo es la capacidad de razonamiento de los seres humanos. En este sentido, es imprescindible referenciar como antecedentes los trabajos monográficos sobre la lógica algebraica del matemático inglés George Boole y, en particular, An investigation of the laws of thought on which are founded the mathematical theories of logic and probabilities, publicado por primera vez en 1854, en donde relaciona el razonamiento lógico y la posibilidad de sintetizarse de manera similar a como se resuelve un sistema de ecuaciones[1].
Por otra parte, es ampliamente aceptado entre los expertos que el término inteligencia artificial fue acuñado por primera vez por el matemático John McCarthy durante la conferencia celebrada en la universidad Dartmouth College, en Hanover, Estados Unidos, en 1956. McCarthy utilizó el término inteligencia artificial en una propuesta de subvención previa a la mencionada conferencia, que formaría parte de una revisión posterior por diez expertos, basada en la conjetura de que cualquier aspecto del aprendizaje o cualquier otro rasgo de la inteligencia puede, en principio, ser descrito de manera tan precisa que una máquina pueda simularlo[2].
El término inteligencia artificial se encuentra definido de diversas maneras en distintas fuentes, como artículos, textos, blogs especializados o generalistas, sitios web, etc. Estas definiciones varían según los intereses científicos, académicos e incluso políticos y, en ocasiones, cada una de sus perspectivas puede considerarse como una definición de la IA en contextos particulares. Una de estas definiciones es la propuesta por el Parlamento Europeo en su sitio web, que la describe como “la capacidad de una máquina para poseer habilidades similares a las de los seres humanos, como el razonamiento, el aprendizaje, la creatividad y la planificación”[3].
Más allá de la definición anterior de IA, este artículo se refiere a los denominados sistemas inteligentes o sistemas de inteligencia artificial, cuya definición actualizada hemos recogido parcialmente de un documento de la propia Comisión Europea, que los cataloga como una disciplina científica y que define del siguiente modo:
Los sistemas de inteligencia artificial (IA) son sistemas de software (y posiblemente también hardware) diseñados por seres humanos que, dado un objetivo complejo, actúan en la dimensión física o digital al percibir su entorno mediante la adquisición de datos, interpretando los datos recopilados, ya sean estructurados o no estructurados, razonando sobre el conocimiento o procesando la información derivada de estos datos y decidiendo la mejor acción o acciones a tomar para lograr el objetivo dado[4].
En este contexto, para el desarrollo de sistemas inteligentes se requieren conocimientos avanzados, además de en las denominadas profesiones CTIM (ciencia, tecnología, ingeniería y matemáticas), en una amplia variedad de áreas o disciplinas de la IA, como la representación del conocimiento, el razonamiento, la planificación, el aprendizaje, el procesamiento del lenguaje natural, tanto escrito como hablado, la visión artificial, la búsqueda de soluciones a problemas complejos, la inteligencia colectiva, los sistemas autónomos y la computación inteligente, entre muchas otras[5]. Estas áreas, a su vez, están conformadas por otras subáreas y técnicas que muestran la intrincada complejidad que subyace en un sistema inteligente. Un ejemplo de ello es la IA generativa, que combina el aprendizaje automático (machine learning) con el procesamiento del lenguaje natural, en el caso de sistemas para la generación de texto; con el área de la visión artificial para la generación de imágenes y videos, o con sistemas de procesamiento de señales para la generación de sonido y voz. Para lograrlo emplea, entre otras herramientas, modelos, arquitecturas, técnicas de aprendizaje profundo (deep learning) y grandes volúmenes de datos para su entrenamiento. La inteligencia generativa también está causando un impacto considerable en el desarrollo de software como herramienta para la generación automática de código de programación. El aprendizaje automático ha experimentado un rápido desarrollo en los últimos años y alcanzó una popularidad sin precedentes a finales de 2022 con el lanzamiento de la aplicación de IA generativa ChatGPT por parte de la empresa OpenAI. ChatGPT, en su versión gratuita, constató un uso masivo al atraer a más de cien millones de usuarios en menos de dos meses desde su lanzamiento. Actualmente registra más de 1500 millones de visitas mensuales.
La IA puede ser clasificada según diversos criterios. Uno de ellos se basa en el tipo de inteligencia que la máquina demuestra y, en este contexto, se identifican tres categorías de inteligencia: cognitiva, emocional y social. Siguiendo estas categorías, los diferentes tipos de IA se dividen en analítica, inspirada en el ser humano y humanizada.
Otro criterio que se suele utilizar consiste en categorizar la inteligencia artificial según su nivel de desarrollo, lo que nos ofrece tres tipos principales: IA estrecha, IA general y superinteligencia. Este criterio en particular aparece en una cantidad importante de publicaciones en diferentes contextos.
La superinteligencia artificial, denominada ASI (artificial superintelligence), se refiere a un nivel de inteligencia artificial que supera significativamente la inteligencia humana en todos sus aspectos. Esta forma de IA sería capaz de resolver problemas complejos, tomar decisiones óptimas en cualquier dominio y, posiblemente, superar las capacidades cognitivas humanas. La IA es un concepto especulativo y futurista que plantea importantes cuestiones éticas y de seguridad, ya que su desarrollo podría tener profundas implicaciones en la sociedad. Una referencia reconocida a estos niveles de la inteligencia, y en particular a la superinteligencia artificial, se puede encontrar en el texto de Nick Bostrom Superintelligence: paths, dangers, strategies[6].
El problema fundamental es que quienes utilizan estos sistemas denominados inteligentes, es decir, la mayoría de los consumidores de estas tecnologías, siguen estando parcial o totalmente desinformados sobre su alcance, riesgos e, incluso, sobre su correcta utilización. En este apartado se presenta un nuevo criterio para la clasificación de la inteligencia artificial desde el punto de vista de su utilización, identificando las siguientes categorías: especialista en IA, especialista en aplicaciones de la IA, usuario de la IA y consumidor de la IA[7].
Especialista en IA. Alguien especialista en inteligencia artificial es un profesional con una alta cualificación y experiencia en el ámbito la tecnología. Posee un conjunto particular de habilidades y conocimientos relacionados con la concepción, desarrollo e implementación de sistemas inteligentes en diferentes áreas y utilizando técnicas de IA. El perfil de un especialista en IA puede variar según la organización y la función que desempeña, aunque por lo general engloba características como una formación académica en campos relacionados con las ciencias de la computación, la ingeniería de datos, las matemáticas, la estadística y otras áreas afines. Concentra también competencias y habilidades para el pensamiento crítico y computacional, la programación en lenguajes Python, Java, C++, R, etc., y experticia en herramientas de computación en la nube, como los servicios ofrecidos por AVS, Azure, GCP, etc. Finalmente, cuenta con conocimientos avanzados en una o más áreas específicas de la IA y, en particular, en las diferentes formas de representar el conocimiento, razonar y planificar de las máquinas. También se espera que esté en actualización permanente en los avances y desarrollos tecnológicos.
Especialista en aplicaciones de IA. Este profesional debe disponer de una formación y conocimiento sólido en un ámbito específico, es decir, es quien conoce el negocio y su gestión, que se complementa con conocimientos en matemáticas, estadística y tecnologías de la información (TIC). Como especialista, debe ser capaz de identificar en las organizaciones oportunidades de incorporación de la IA en todos sus ámbitos. Su función es conocer los requisitos y objetivos específicos de la organización o del cliente para seleccionar la o las técnicas y aplicaciones de la IA necesarias que se adapten al problema que se quiere resolver. Algunas habilidades que se esperan de las y los especialistas incluyen la capacidad para identificar, evaluar, seleccionar, adaptar y poner en funcionamiento la tecnología o aplicación inteligente más adecuada para atajar un problema o mejorar los procesos en las organizaciones.
Persona usuaria de la IA. Quien usa la IA es un individuo, empresa u organización que utiliza productos o servicios basados en soluciones que involucran total o parcialmente técnicas de inteligencia artificial. Estos productos y servicios van desde aplicaciones móviles personales hasta aplicaciones de gestión empresarial, sistemas de automatización industrial, etc., por lo que su uso puede ser tanto comercial como personal. En general, este tipo de usuarios de la IA busca obtener ventajas o beneficios a partir de la capacidad que ofrecen estas soluciones para procesar grandes cantidades de datos, realizar análisis complejos, detectar patrones y tendencias y, en última instancia, tomar decisiones más informadas y precisas. En esta categoría se pueden encontrar empresas que buscan optimizar procesos y mejorar la eficiencia; profesionales de la investigación que utilizan modelos de aprendizaje automático para desarrollar nuevas soluciones y productos, y personas que utilizan asistentes virtuales y otras aplicaciones para facilitar sus tareas diarias. Estos usuarios suelen tener conocimiento del alcance y consecuencias del uso de estas aplicaciones.
Persona consumidora de IA. En esta categoría entran dos tipos de usuarios de la IA: quienes utilizan aplicaciones de IA sin el entrenamiento adecuado y quienes utilizan aplicaciones sin conocer que sus respuestas están basadas en la inteligencia artificial. En esta categoría se ubica la mayor parte de la sociedad y son, además, las personas más vulnerables.
Durante la presentación de la empresa xIA, Elon Musk señaló: “Creo que hay un peligro significativo en entrenar a una IA para que sea políticamente correcta o, en otras palabras, entrenarla para que no diga lo que realmente piensa que es verdad”[8]. Esto presagia que vendrán tiempos muy complejos para las agencias de supervisión de la IA. Tendrán que encontrar la frontera entre la verdad, lo políticamente correcto o lo que la sociedad en su conjunto cree, con las implicaciones éticas que esto conlleva. El desafío para los estados, las organizaciones y la sociedad es encontrar el equilibrio entre el desarrollo de la tecnología, la competitividad y la salvaguardia de los derechos ciudadanos, sin correr el riesgo de descolgarse del avance de la humanidad.
La creciente relevancia de la inteligencia artificial en la sociedad demanda una comprensión adecuada y un enfoque en la formación que se adapte a las necesidades de las distintas categorías de usuarios presentadas en los párrafos anteriores.
En España, según constata la ANECA[9], la formación especializada es la que ofrece la mayoría de las oportunidades de capacitación en IA y, en especial, en titulaciones universitarias oficiales y no oficiales en los niveles de máster y doctorado. Además, en programas de doctorado en informática y algunas ingenierías, se han estado leyendo tesis en distintas áreas de la IA desde hace más de veinte años. Por su parte, la oferta de formación especializada temprana en IA, es decir, en titulaciones de grado, es más limitada y reciente. La importancia y necesidad creciente de formación de profesionales especializados para el desarrollo tecnológico está plenamente justificada, sin embargo, se limita a un muy reducido sector de la sociedad.
Es el momento de los datos y, gracias a su volumen y disponibilidad, la IA comienza a ofrecer soluciones de uso generalizado en torno a una inteligencia de contexto. Los avances se producen a gran velocidad, pero aún falta un buen tiempo para que estos sistemas consigan alcanzar el nivel de la inteligencia humana.
En la actualidad, los sistemas inteligentes son dependientes de los datos que se utilizan en su entrenamiento, cuya selección puede comprometer su transparencia con riesgos significativos de prejuicios, discriminación, dilemas éticos, injusticias o seguridad, entre otros.
[1] Boole, G. (1854). An investigation of the laws of thought on which are founded the mathematical theories of logic and probabilities. Dover Publications.
[2] Redacción. (2 de diciembre de 2020). Breve historia visual de la inteligencia artificial. National Geographic. https://bit.ly/45OYwO2
[3] Noticias Parlamento Europeo. (8 de septiembre de 2020). ¿Qué es la inteligencia artificial y cómo se usa? Parlamento Europeo. https://bit.ly/3FBbdBn
[4] High-Level Expert Group on Artificial Intelligence. (2019). A definition of AI: main capabilities and scientific disciplines. European Commission. https://bit.ly/3QzQtjL
[5] Norvig, S. J. (2010). Artificial intelligence: a modern approach (3.ª ed.). Prentice Hall.
[6] Bostrom, N. (2014). Superintelligence: paths, dangers, strategies. Oxford University Press.
[7] Dapena González, E. (29 de marzo de 2023). Una reflexión sobre la inteligencia artificial. En N. Capeáns (Moderador), La formación en IA. Cómo desde las instituciones tanto públicas como privadas se forma a los especialistas en IA. Mesa redonda llevada a cabo en la jornada Aesia, A Coruña.
[8] Agencia EFE. (17 de xullo de 2023). Musk guarda el misterio sobre su inteligencia artificial y solo dice que no será entrenada para ser “políticamente correcta”. 20 minutos. https://bit.ly/3Q7XDu8
[9] LA ANECA (Agencia Nacional de Evaluación de la Calidad y Acreditación) es el órgano encargado de realizar actividades de evaluación, certificación y acreditación del sistema universitario español.
[1] Las ideas expresadas por el autor no representan necesariamente las de la institución en la que presta sus servicios en la actualidad.