¿Salvavidas o 'mataempleos'? Por qué herramientas de IA como ChatGPT son tan polarizantes

"¿Salvavidas o asesino? Por qué herramientas de IA como ChatGPT son tan polarizantes"

Bombo y platillo en el último boom de la industria tecnológica

______________________


Si hacemos caso a sus defensores, la inteligencia artificial está a punto de revolucionar a mejor casi todas las facetas de la vida. Una marea de nuevas herramientas de vanguardia ya está derribando barreras lingüísticas, automatizando tareas tediosas, detectando el cáncer y consolando a los solitarios.

Mientras tanto, un coro cada vez más numeroso de agoreros está de acuerdo en que la IA está a punto de revolucionar la vida, pero para peor. Afirman que está absorbiendo y reflejando los peores prejuicios de la sociedad, amenazando el sustento de artistas y trabajadores de cuello blanco y perpetuando estafas y desinformación.

La última oleada de IA tiene en vilo a la industria tecnológica y a sus detractores. Las llamadas herramientas de IA generativa, como ChatGPT, Replika y Stable Diffusion, que utilizan programas informáticos especialmente entrenados para crear textos, imágenes, voces y vídeos similares a los humanos, parecen estar desdibujando rápidamente los límites entre el ser humano y la máquina, la verdad y la ficción.

Mientras sectores tan diversos como la educación, la sanidad, los seguros o el marketing se plantean cómo la IA podría reconfigurar sus negocios, un crescendo de exageraciones ha dado lugar a esperanzas descabelladas y temores desesperados. Ambos se alimentan de la sensación de que las máquinas se están volviendo demasiado inteligentes, demasiado rápido, y algún día podrían escapar a nuestro control. "Lo que las armas nucleares son para el mundo físico", proclamó recientemente el experto en ética tecnológica Tristan Harris, "la IA es para todo lo demás".

Las ventajas y los inconvenientes son reales, dicen los expertos. Pero a corto plazo, las promesas y los peligros de la IA generativa pueden ser más modestos de lo que los titulares hacen parecer.

"La combinación de fascinación y miedo, o de euforia y alarma, es algo que ha acompañado a todas las nuevas oleadas tecnológicas desde el primer ordenador totalmente digital", afirma Margaret O'Mara, profesora de Historia de la Universidad de Washington. Al igual que con anteriores cambios tecnológicos, añadió, los modelos actuales de IA podrían automatizar ciertas tareas cotidianas, obviar algunos tipos de trabajos, resolver algunos problemas y agravar otros, pero "no va a ser la fuerza singular que lo cambie todo".

Ni la inteligencia artificial ni los chatbots son algo nuevo. Diversas formas de IA ya impulsan el feed "Para ti" de TikTok, las listas de reproducción de música personalizadas de Spotify, los sistemas de conducción Autopilot de Tesla, el desarrollo de medicamentos farmacéuticos y los sistemas de reconocimiento facial utilizados en investigaciones criminales. Los chatbots informáticos sencillos existen desde la década de 1960 y se utilizan ampliamente para la atención al cliente en línea.

Lo nuevo es el fervor en torno a la IA generativa, una categoría de herramientas de IA que se nutre de océanos de datos para crear sus propios contenidos -arte, canciones, ensayos, incluso código informático- en lugar de limitarse a analizar o recomendar contenidos creados por humanos. Aunque la tecnología que hay detrás de la IA generativa lleva años gestándose en los laboratorios de investigación, las nuevas empresas y compañías acaban de empezar a ponerla a disposición del público.

Herramientas gratuitas como el chatbot ChatGPT de OpenAI y el generador de imágenes DALL-E 2 han cautivado la imaginación de la gente, que comparte nuevas formas de utilizarlas y se maravilla con los resultados. Su popularidad ha hecho que los gigantes del sector, como Microsoft, Google y Facebook, se apresuren a incorporar herramientas similares a algunos de sus productos más populares, desde motores de búsqueda a procesadores de texto.

Sin embargo, parece que por cada éxito hay una pesadilla.

La facilidad de ChatGPT para redactar mensajes de correo electrónico con sonido profesional y gramaticalmente correctos lo ha convertido en un ahorrador de tiempo diario para muchas personas que tienen dificultades para leer y escribir. Sin embargo, la Universidad de Vanderbilt utilizó ChatGPT para redactar un mensaje de correo electrónico en el que se ofrecían condolencias genéricas en respuesta al tiroteo en Michigan State, lo que enfureció a los estudiantes.

ChatGPT y otras herramientas de lenguaje de IA también pueden escribir código informático, idear juegos y extraer información de conjuntos de datos. Pero no hay garantía de que el código funcione, los juegos tengan sentido o las conclusiones sean correctas. Ya se ha demostrado que el robot de inteligencia artificial Bing de Microsoft da respuestas falsas a las consultas de búsqueda, y las primeras iteraciones incluso se volvieron combativas con los usuarios. Un juego aparentemente inventado por ChatGPT resultó ser una copia de un juego que ya existía.

GitHub Copilot, una herramienta de codificación de IA de OpenAI y Microsoft, se ha convertido rápidamente en indispensable para muchos desarrolladores de software, prediciendo sus próximas líneas de código y sugiriendo soluciones a problemas comunes. Sin embargo, sus soluciones no siempre son correctas y puede introducir código defectuoso en los sistemas si los desarrolladores no tienen cuidado.

Gracias a los sesgos de los datos con los que fue entrenado, los resultados de ChatGPT pueden ser no sólo inexactos, sino también ofensivos. En un ejemplo infame, ChatGPT compuso un breve programa de software que sugería que una forma fácil de saber si alguien sería un buen científico era simplemente comprobar si era blanco y varón. OpenAI afirma que trabaja constantemente para corregir estos errores y mejorar su modelo.

Stable Diffusion, un sistema de conversión de texto en imagen de la start-up londinense Stability AI, permite a cualquiera producir imágenes visualmente impactantes en una amplia gama de estilos artísticos, independientemente de su habilidad artística. Blogueros y profesionales del marketing lo adoptaron rápidamente, al igual que otras herramientas similares, para generar ilustraciones de actualidad para artículos y sitios web sin necesidad de pagar a un fotógrafo o comprar arte de archivo.

Pero algunos artistas han alegado que Stable Diffusion imita explícitamente su trabajo sin crédito ni compensación. Getty Images demandó a Stability AI en febrero, alegando que violaba los derechos de autor al utilizar 12 millones de imágenes para entrenar sus modelos, sin pagar por ellas ni pedir permiso.

Stability AI no respondió a la solicitud de comentarios.

Las empresas emergentes que utilizan IA para pronunciar textos con voces parecidas a las humanas apuntan a usos creativos como los audiolibros, en los que se podría dar a cada personaje una voz distintiva acorde con su personalidad. El actor Val Kilmer, que perdió su voz por un cáncer de garganta en 2015, utilizó una herramienta de IA para recrearla.

Ahora, los estafadores utilizan cada vez más una tecnología similar para imitar las voces de personas reales sin su consentimiento, llamando a los familiares del objetivo y fingiendo necesitar dinero de emergencia.

Ante una nueva e influyente tecnología, existe la tentación de tomar partido, centrándose en los beneficios o en los perjuicios, afirma Arvind Narayanan, profesor de informática de la Universidad de Princeton. Pero la IA no es un monolito, y quien diga que todo es bueno o todo es malo está simplificando demasiado. En este momento, no está claro si la IA generativa se convertirá en una tecnología transformadora o en una moda pasajera.

"Dada la rapidez con la que se desarrolla la IA generativa y la frecuencia con la que nos enteramos de nuevas capacidades y riesgos, mantener los pies en la tierra al hablar de estos sistemas parece un trabajo a tiempo completo", afirma Narayanan. "Mi principal sugerencia para la gente corriente es que se sienta más cómoda aceptando que, sencillamente, no sabemos con seguridad cómo van a desarrollarse muchos de estos avances emergentes"

La capacidad de una tecnología para ser utilizada tanto para el bien como para el mal no es exclusiva de la IA generativa. Otros tipos de herramientas de IA, como las utilizadas para descubrir nuevos fármacos, tienen sus propios lados oscuros. El año pasado, los investigadores descubrieron que los mismos sistemas eran capaces de idear unas 40.000 nuevas armas biológicas potencialmente letales.

Otras tecnologías más conocidas, como los algoritmos de recomendación, las redes sociales o los drones con cámara, son igualmente susceptibles de aplicaciones inspiradoras y perturbadoras. Pero la IA generativa está suscitando reacciones especialmente fuertes, en parte porque puede hacer cosas -componer poemas o crear arte- que durante mucho tiempo se consideraron exclusivamente humanas.

La lección no es que la tecnología sea intrínsecamente buena, mala o incluso neutra, afirma O'Mara, profesor de Historia. La forma en que se diseña, despliega y comercializa a los usuarios puede afectar al grado en que algo como un chatbot de inteligencia artificial se presta a daños y abusos. Y el "exagerado" bombo que se ha dado al ChatGPT, con gente que declara que transformará la sociedad o conducirá a "señores robot", corre el riesgo de nublar el juicio tanto de sus usuarios como de sus creadores.

"Ahora tenemos esta especie de carrera armamentística de la IA, esta carrera por ser el primero", dijo O'Mara. "Y ahí es donde está mi preocupación. Si empresas como Microsoft y Google se pelean entre sí por ser la empresa que tiene la búsqueda con IA, si se intenta avanzar muy rápido para conseguirlo, es cuando las cosas se rompen".