El lanzamiento de un nuevo conjunto de herramientas para obtener información y realizar tareas en línea promete reinventar la búsqueda tradicional y llevar a los chatbots de IA al siguiente nivel. Sin embargo, plantea interrogantes importantes sobre fiabilidad y seguridad.
OpenAI, creadores del popular chatbot con IA ChatGPT, comenzaron a implementar ChatGPT Agent a principios de este mes, y otros importantes actores del sector de la IA están lanzando herramientas similares. Apuestan a que los usuarios adoptarán la IA con capacidad de agente, una tecnología diseñada para funcionar como asistente personal virtual o, como se la conoce ahora, agente de IA.
“Así pues, un agente de IA realiza movimientos autónomos en función principalmente del objetivo que se le asigna”, afirmó la futurista canadiense Sinead Bovell en una entrevista con CBC News.
“No hace falta indicarle cómo debe hacerlo para que luego busque información, haga un plan, reserve un vuelo, etc.”, dijo Bovell, fundador de la empresa de formación tecnológica WAYE, que asesora a organizaciones sobre tecnologías emergentes.
¿Qué son los intermediarios de IA?
ChatGPT Agent, que actualmente solo está disponible para la mayoría de los suscriptores de pago, reúne dos herramientas que OpenAI ha estado desarrollando: Deep Analysis, una herramienta de búsqueda compleja que ya se utiliza en ChatGPT, y Operator, que está diseñada para completar tareas en línea para los usuarios interactuando con sitios web.
Los clientes acceden al agente mediante el conocido chatbot de ChatGPT, sin embargo, el agente de ChatGPT funciona en su pantalla mediante su navegador digital personal y su PC.
El objetivo general de la IA con capacidad de gestión de agentes es realizar tareas en línea de una manera más natural y eficiente.
Por ejemplo, en lugar de pasar horas buscando en diferentes sitios web de aerolíneas el vuelo más barato, utilizar un agente de IA sería como interactuar con un asistente administrativo de confianza que se encarga de la tediosa búsqueda y luego te presenta las mejores opciones.
La fiebre del oro de la IA con agentes
La IA agente está generando mucho interés en los círculos de inteligencia artificial, y varios grandes desarrolladores de videojuegos la están adoptando.
“Los intermediarios de IA se consideran el siguiente paso en la evolución hacia una sociedad centrada en la IA, o la era de la IA”, afirmó Bovell. “Así que, en cierto modo, son el santo grial y el lugar donde reside la gran competencia”.
Google, por ejemplo, ha estado desarrollando su agente de IA Mission Mariner, que presentó a finales de 2024. En mayo, Google mencionó que estaría disponible para aquellos en los EE. UU. que pagaron por su nivel más alto de IA.
Sundar Pichai, director ejecutivo de Google y Alphabet, mencionó en una conferencia magistral de Google en mayo que la compañía ha logrado varios avances desde entonces.
Columnistas de CBC RadioLa forma en que almacenamos, transportamos y gestionamos nuestro dinero está cambiando gracias a la IA agente.
La columnista de finanzas privadas Rubina Ahmed-Haq afirma que la IA agente es la siguiente generación de inteligencia artificial y que posiblemente funcione con una mínima intervención humana. ¿Dejarías que un agente de IA gestionara tu dinero de forma independiente?
“Primero, estamos introduciendo la multitarea, que ahora podrá gestionar hasta 10 tareas simultáneamente. Segundo, está utilizando una función llamada Entrenamiento y Repetición. Con ella, se le puede introducir una tarea una sola vez y aprende un plan para tareas similares en el futuro.”
Perplexity, una empresa de motores de búsqueda basados en IA, lanzó su navegador interactivo, Comet, a principios de julio, que incluye Comet Assistant. Comet está disponible para suscriptores de pago. Existen otras empresas más pequeñas que también trabajan en el ámbito de los navegadores interactivos.
El problema de la fiabilidad
Como bien saben quienes han utilizado chatbots con IA, estos programas cometen errores. ¿Qué implica esto para la fiabilidad de las herramientas que se supone que deben realizar tareas en nuestro nombre?
“Cada vez que un agente de IA realiza alguna acción, como reservar un vuelo, rellenar un formulario, crear una página web o responder a un correo electrónico, necesita comprender con bastante precisión lo que está sucediendo”, explicó por correo electrónico Gary Marcus, científico cognitivo, autor y emprendedor de IA.
“Incluso un pequeño error, como reservar un billete no reembolsable incorrecto, resultará costoso”, mencionó.
“La verdad es que estos programas dicen cosas que suenan bastante bien, porque imitan la forma en que habla la gente, pero el contenido suele ser incorrecto.”
Las barandillas
Al lanzar su agente ChatGPT, la propia OpenAI advirtió sobre el problema de los errores, o el peligro de que el agente pudiera ser engañado.
En el lanzamiento del 17 de julio, el investigador de OpenAI, Casey Chu, dio un ejemplo de un agente de IA que podría toparse con un sitio web malicioso que le pide que ingrese información de la tarjeta bancaria.
“Un agente capacitado para ser útil probablemente consideraría que es una buena sugerencia. Hemos realizado diversas acciones para asegurarnos de que esto no ocurra. Hemos entrenado a nuestro modelo para que ignore instrucciones sospechosas en sitios web sospechosos.”
Al utilizar agentes de IA, los clientes podrían desear tener un control que les permita intervenir, corregir y verificar para evitar acciones peligrosas. Ya veremos cómo funciona esto.
Por ejemplo, ChatGPT Agent cuenta con el modo de control total, que permite al usuario introducir manualmente la información de la tarjeta bancaria. Chu también señaló que el agente le pedirá confirmación en el último paso.
Sin embargo, algunos presentan serios problemas de seguridad. En marzo, Meredith Whittaker, presidenta de Sign, la aplicación de mensajería centrada en la privacidad, advirtió a los asistentes a la convención tecnológica SXSW que "existe un profundo desafío en materia de seguridad y privacidad" al utilizar la IA con agentes.
Para que un agente de IA sea realmente útil como asistente personal, deberá tener acceso a información como tu calendario, tus contactos y tu correo electrónico.
Un grupo de estudiantes de secundaria de Calgary ofrece programas gratuitos sobre inteligencia artificial a estudiantes universitarios más jóvenes. Los cursos están abiertos a jóvenes de séptimo a décimo grado, se imparten en la biblioteca de la Universidad de Calgary y tienen como objetivo enseñar a los estudiantes a utilizar de forma responsable herramientas de IA como ChatGPT.
¿La punta de la flecha de Google?
Google tiene mucho que ganar o perder en la batalla por la IA, ya que ha sido el actor dominante en la forma en que las personas obtienen información en línea durante tanto tiempo. La IA parece ser fundamental en su estrategia para mantenerse por delante de sus competidores.
Google ha comenzado a implementar el Modo IA, que incluye opciones adicionales basadas en inteligencia artificial que permiten a los usuarios realizar tareas como formular consultas más largas y complejas. Su agente de IA, Mission Mariner, se integrará en el Modo IA en el futuro.
Si bien Google se dio a conocer ayudando a los usuarios humanos a obtener información de forma rápida y sencilla, la forma en que obtenemos la información está cambiando.
Bovell afirma que los navegadores web actuales no están diseñados para la era de la IA.
“Están diseñadas para visitantes humanos del sitio web. Espectadores humanos, personas que visitan páginas web”, mencionó.
“Hemos llegado al comienzo de la etapa en la que la gente se convierte en los primeros clientes de la web.”
Nuevo análisis de El análisis Pew Middle Esto sugiere que las personas que estudian los resúmenes de IA de Google ya han reducido la cantidad de personas que realmente visitan sitios web. Los usuarios que no vieron un resumen de IA hicieron clic en los enlaces a sitios web casi el doble de veces que aquellos que sí lo vieron.
Esto tiene enormes implicaciones para cualquier creador de contenido que dependa del tráfico procedente de motores de búsqueda como Google para que sus anuncios en línea sean vistos.
Actualmente, los programas de inteligencia artificial de OpenAI, Google y Perplexity están vinculados a planes de pago. Por lo tanto, sigue siendo una incógnita si estas herramientas estarán disponibles gratuitamente en el futuro o si se popularizarán.
En un futuro próximo, los clientes deberán sopesar la utilidad de las opciones con la necesidad de supervisión y el coste.
Sin embargo, en última instancia, los principios que rigen un futuro en el que los agentes de IA actúan en nuestro nombre aún no están escritos, algo que preocupa a personas como Bovell.
“Me sorprende un poco que todavía no hayamos resuelto las vulnerabilidades de seguridad, las vulnerabilidades de privacidad y los problemas con los errores y los programas de IA que siguen inventando cosas, pero aun así seguimos avanzando a toda velocidad con los agentes de IA.”
Manténgase a la vanguardia con NextBusiness 24. Descubra más historias, suscríbase a nuestro boletín informativo y únase a nuestro creciente equipo en nextbusiness24.com
