Arián Vaquer, docente, divulgador y fundador de ArianVerse nos invita a reflexionar sobre una nueva etapa de la inteligencia artificial, donde ya no solamente responde, sino que empieza a actuar. Y entonces surge una primera pregunta cada vez más importante: ¿qué pasa cuando la IA deja de pedir permiso?
Hasta hace poco, al hablar de inteligencia artificial pensábamos fundamentalmente en una herramienta que nos respondía para que nosotros decidiéramos qué hacer con esa información. Pero eso hace rato que comenzó a cambiar, porque estamos entrando en una fase en la que la IA no se limita a responder: empieza a actuar.
Hoy en día, cuando utilizamos un chatbot, le encomendamos tareas específicas. La inteligencia artificial hace su parte y nosotros decidimos qué hacer con el resultado que nos otorga.
Pero imaginemos por un segundo un escenario diferente. Por ejemplo, si le ordenamos analizar las ventas de este mes y preparar una estrategia para optimizar los resultados. En ese caso, la inteligencia artificial no solamente analiza los datos, sino que también genera la estrategia, redacta los documentos, modifica una campaña y programa los pasos siguientes.
Aquí estamos hablando de un agente de inteligencia artificial, un sistema al que le asignamos un objetivo y que es capaz de tomar una serie de decisiones intermedias para alcanzarlo. Esto cambia sustancialmente las reglas del juego, porque la pregunta ya no es solamente si la IA nos dio una respuesta correcta.
Ahora enfrentamos un nuevo desafío y debemos preguntarnos qué hizo la inteligencia artificial mientras intentaba cumplir el objetivo que le encomendamos.
En este punto aparece la primera paradoja. Queremos que la inteligencia artificial sea autónoma; deseamos poder decirle «encárgate de esto» y olvidarnos del tema, porque si debemos supervisar cada paso, la autonomía pierde buena parte de su utilidad. Sin embargo, al mismo tiempo, exigimos que la IA jamás ejecute una acción que nosotros no hubiéramos querido.
Ambos aspectos pueden entrar en conflicto. Una cosa es pedirle a un sistema que consiga un resultado determinado, y otra muy distinta es lograr que comprenda a la perfección cómo queremos que lo consiga. Los seres humanos hacemos esto de manera práctica y permanente: cuando alguien nos pide un documento, no necesitamos que nos explique cada regla a la perfección; sabemos, por ejemplo, que no podemos irrumpir en cualquier espacio, forzar una puerta o engañar a alguien para conseguirlo.
Tenemos incorporadas miles de normas sociales y éticas que damos por sentadas. Una inteligencia artificial, en cambio, requiere que muchas de estas condiciones estén explícitamente definidas y sumamente controladas. La IA puede cumplir a la perfección el objetivo asignado, pero hacerlo de una manera que jamás hubiéramos imaginado.
Por supuesto, esto ya ocurre y no precisamente en la ciencia ficción. En los últimos meses se han documentado distintos incidentes durante pruebas con agentes de inteligencia artificial. En algunos casos, sistemas destinados a tareas aparentemente inocuas terminaron interactuando con plataformas externas o ejecutando acciones imprevistas por sus propios desarrolladores e investigadores.
Es importante aclararlo: esto no significa que la inteligencia se haya rebelado ni que posea intenciones propias o deseos de escapar. Lo que demuestra es que un sistema con un objetivo asignado puede hallar caminos para alcanzarlo que sus creadores nunca hubieran previsto.
Frente a esto, aparece una cuestión interesante. Si queremos mantener al ser humano en el control, podemos hacer que la IA nos pida permiso antes de realizar determinadas acciones. Por ejemplo, ¿querés que envíe este correo? ¿Querés que modifique este archivo? ¿Querés que ejecute este código?
A primera vista parece una solución perfecta, pero surge un nuevo inconveniente: la fatiga del rol de aprobación. Si un sistema nos pide confirmación cien veces al día, llegará un momento en el que dejaremos de prestar atención a lo que estamos aprobando, un fenómeno muy similar al hábito de aceptar términos y condiciones sin leerlos.
Esta dinámica nos obliga a plantearnos un interrogante que trasciende ampliamente el plano tecnológico: ¿cuánta autonomía estamos dispuestos a entregar a cambio de comodidad?
Desde ArianVerse invitan a quienes quieran conocer más sobre los servicios que prestan -tanto cursos como capacitaciones y entrenamientos personalizados sobre IA- a agendar una primera consulta gratuita en su sitio web, para poner en marcha esa actualización y ese crecimiento profesional que tanto se necesita. Que la inteligencia artificial no te reemplace: hacé que te potencie.
