Microsoft se pone manos a la obra y espera solucionar los riesgos de seguridad de la IA en Windows 11
La compañía estadounidense ensaya con asistentes capaces de actuar por su cuenta, mientras intenta evitar que se conviertan en un problema de seguridad
Microsoft lleva años impulsando el uso de inteligencia artificial en Windows 11. Sin embargo, una de sus últimas ideas podría ser el salto cualitativo que muchos estaban esperando: la llegada de agentes capaces de ejecutar tareas por su cuenta dentro del propio sistema. La idea, como comprenderás, es ambiciosa, pero también delicada. La propia compañía reconoce que estos asistentes introducen nuevos riesgos, sobre todo si pueden ser manipulados.
La IA autónoma aterriza en Windows, pero con ciertos interrogantes
La nueva función, conocida como Copilot Actions, ya está disponible en modo experimental para los usuarios del programa Insider, según la información publicada en la página web de Microsoft. El sistema operativo de la empresa estadounidense busca convertirse en una plataforma donde las tareas menos agradecidas sean realizadas de manera autónoma. El resumen sería que se buscan menos clics y más libertad. Pero, ¿a qué precio?
Lo que Microsoft pretende implementar en nuestros ordenadores son agentes, similares a los de otros modelos de inteligencia artificial. Este tipo de agente sería el ayudante digital que siempre hemos querido tener y se encargaría de recibir una orden compleja, descomponerla en una serie de pasos y ejecutarla sin que el usuario tenga que hacer nada más. El problema es que estos agentes no son del todo fiables y podrían dejar una puerta abierta a terceros no deseados.
Con el fin de evitar males mayores. Microsoft ha ideado un plan que resulta bastante bien pensado. Cada agente tendrá una cuenta de usuario independiente, con permisos limitados y un escritorio propio que no interfiere con el del usuario. Todo lo que hace queda registrado y es visible. Además, el usuario tiene que aprobar cada petición de datos sensibles. Sin embargo, por muy bien calibrado que esté el plan, aún quedan dudas por resolver.
Estos agentes podrán leer y escribir en el disco duro y también podrán interactuar con aplicaciones instaladas en los equipos. Pero lo más preocupante es que Microsoft ya ha admitido que estos agentes pueden ser vulnerables a cierto tipo de ataques. Imagina un malware, camuflado en una página web, en una ventana o en un documento, que sea capaz de alterar las órdenes del agente y provocar el robo de información personal o la instalación de puertas traseras.
De momento, por precaución, este sistema experimental está desactivado por defecto y puede anularse por completo. Veremos si la función llega como una futura novedad de Windows 11 o acaba por ser descartada por su potencial riesgo. Está claro que todos queremos que la IA nos eche una mano en las tareas más tediosas, pero por encima de ese deseo está la necesidad de estar protegidos en nuestro propio entorno digital. ¿Será Windows 12 el sistema operativo en el que todas las pruebas realizadas hasta el momento se materialicen de manera práctica y segura? Tendremos que esperar a verlo.