¿Cuáles son los desafíos, las promesas y los problemas de la inteligencia artificial?
En este artículo, el filósofo y docente de la UNQ Daniel Busdygan reflexiona sobre el futuro de esta tecnología que presenta ilusiones y esconde dilemas éticos y políticos.
![Créditos: Unión CDMX.](https://agencia.unq.edu.ar/wp-content/uploads/2024/08/limites-de-la-inteligencia-artificial.jpg)
Por Daniel Busdygan*
No es noticia que la inteligencia artificial (IA) está revolucionando progresivamente diferentes ámbitos de la vida humana. Solo para mencionar algunos de ellos, podemos hablar de educación, salud, economía, planificación y seguridad. En cada caso, con los cambios aparece conjuntamente la proyección de un rosario de promesas de transformaciones positivas que se darían de forma acelerada. No cabe duda que grandes modificaciones ya se realizaron. De hecho, el filósofo Éric Sadin habla sobre un quiebre en la historia de la civilización, a la vez que advierte sobre algunas de las sombras que vienen con estos cambios. Por eso, vale la pena preguntar: ¿todo lo que brilla siempre es oro?
Solo por tomar un ejemplo, hay aspectos de la IA en el ámbito de la educación que son notables, que cambiaron prácticas y que seguramente lo seguirán haciendo, de formas nuevas y en el corto plazo, en todos los niveles educativos. Estos sistemas tienen la capacidad de adaptar los métodos de enseñanza a las necesidades individuales de cada estudiante, trabajar en las dudas que tengan los estudiantes durante todo el tiempo que precise y lo requiera, personalizando así el proceso.
Además, la inteligencia artificial puede producir textos con una notable corrección y articular conversaciones de las cuales podemos aprender mucho. Entre las herramientas que provee la IA a la educación se halla también la capacidad de proporcionar evaluaciones en tiempo real y con retroalimentación inmediata, lo que permite tanto a los docentes como a la tecnología identificar rápidamente las áreas que necesitan mayor atención.
Cuál es el costo
Entre muchos de estos avances se hallan preocupaciones éticas significativas vinculadas con la privacidad de los datos de los estudiantes, además de la potencial deshumanización en la relación educativa. Si alguien presenta dudas, problemas y desconocimiento sobre cuestiones de estadísticas, la IA puede ser de ayuda como tutor incansable que permita resolverlas, ayudarnos a aprender mejor algunos conceptos propios de esa materia, ejercitar y poder avanzar como estudiantes.
No obstante, en esa relación con la IA entregamos información sobre nosotros mismos. Entonces, esta herramienta está al tanto de todo lo que sabemos y también lo que no sabemos, nuestras potenciales debilidades. A la vez, estos asuntos pueden vincularse con otros aspectos de la vida donde no somos estudiantes, sino potenciales consumidores. ¿Este es el precio?
Es claro que la inteligencia artificial se enfoca en la eficiencia y la optimización, y que esto no se limita al ámbito educativo, pues su injerencia puede ir más allá. En su racionalidad instrumental, la tecnología busca mejorar y optimizar sus procesos, y para ello, puede hacer que nos convirtamos en objetos.
¿La usamos o nos usa?
La información que vertemos sobre nosotros mismos a las empresas de IA puede ser usada para construir ofertas más eficaces que se conecten con nosotros como consumidores. Lo que hacemos en las redes y lo que dejamos de hacer es leído en el magma de datos para perfilarnos cada vez más.
La educación, una actividad intrínsecamente humana, y las necesidades educativas se transforman en un proceso técnico y despersonalizado. En la educación, cuando las plataformas de IA recopilan y analizan datos de los estudiantes para ajustar los métodos de enseñanza, existe el peligro de que los estudiantes sean reducidos a patrones de datos.
Esta lógica puede trasladarse a otros campos y no son claros los provechos que pueden venir de la mano de la inteligencia artificial. A diferencia de otras herramientas inventadas por los humanos, la IA nos puede usar a nosotros mientras nosotros la usamos a ella. Cada promesa tecnológica conlleva desafíos éticos y políticos que no deben ser desestimados y que deben poseer las regulaciones normativas que se precisen porque se están generando transformaciones radicales al interior de los mundos de la vida de las personas.
Debemos atender que la recopilación y el análisis de grandes cantidades de datos personales pueden perpetuar formas de pensar y actuar, a la vez que pueden plantearnos problemas serios sobre nuestra privacidad, autonomía y consentimiento. Además, la implementación de inteligencia artificial puede perpetuar sesgos existentes si los datos utilizados para entrenar los algoritmos no son representativos o están sesgados.
* Filosofo, investigador y docente de la Universidad Nacional de Quilmes y la Universidad Nacional de La Plata.