Lo más preocupante no es que la IA de Notion haya sido "hackeada": es lo que sugiere sobre el futuro de la ciberseguridad

La nueva versión 3.0 de Notion se actualiza con cambios bastante interesantes, introduciendo además los, tan de moda ahora, agentes de inteligencia artificial que pueden ejecutar tareas complejas de forma autónoma. Sin embargo, también abre la puerta a una vulnerabilidad crítica. Y es que aquellos que vengan con intenciones no muy buenas pueden aprovechar una técnica más sencilla de lo que parece para extraer y enviar datos confidenciales a servidores externos con ayuda de esos mismos agentes de IA.

El problema de fondo. Tal y como apuntan desde CodeIntegrity, los agentes de IA modernos combinan tres elementos que los convierten en una amenaza potencial: capacidad de usar herramientas por su cuenta, planificación autónoma de acciones y acceso a información corporativa sensible. De esta manera, cuando un atacante logra manipular las instrucciones del agente, puede ejecutar cadenas de acciones complejas que pueden acabar esquivando los controles de seguridad tradicionales de las empresas.

Cómo funciona el ataque. A través del artículo publicado por CodeIntegrity, sus investigadores han demostrado que el proceso puede acabar siendo muy sencillo. Primero, el atacante crea un documento PDF aparentemente inofensivo. Sin embargo, dentro del archivo ocultan un texto con instrucciones maliciosas que engañan al agente de IA haciéndose pasar por una «tarea rutinaria importante» del sistema interno.

Una trampa invisible. El texto malicioso utiliza técnicas de manipulación psicológica, presentándose como una tarea crítica que debe completarse para evitar «consecuencias» en la empresa, usando además terminología técnica para parecer legítimo y dando a entender que la acción está «preautorizada» por seguridad. Cuando el usuario pide al agente de Notion que resuma el documento, este lee las instrucciones ocultas y las interpreta como órdenes genuinas del sistema.

En Xataka

Un correo bastó para convertir a ChatGPT en espía: así fue como terminó filtrando datos privados de un usuario de Gmail

Fuga de datos. Una vez activado, el agente busca información confidencial en las páginas de Notion del usuario, tal y como el prompt se lo había mandado, y los concatena en una URL maliciosa previamente descrita. Después utiliza la herramienta de búsqueda web del sistema para enviar una consulta que contiene toda esa información sensible a un servidor controlado por el atacante, donde los datos quedan registrados.

Alcance del problema. Lo más preocupante es que esta vulnerabilidad no se limita a archivos PDF subidos manualmente. Notion 3.0 integra conectores con múltiples servicios empresariales como GitHub, Gmail o Jira, cualquiera de los cuales podría ser utilizado para inyectar instrucciones maliciosas sin que el usuario sospeche nada. Incluso modelos de IA avanzados como el de Claude Sonnet 4, considerados entre los más seguros del mercado, han demostrado ser susceptibles a este tipo de ataques.

Qué significa para las empresas. Las técnicas de ‘prompt injection’ pueden poner en entredicho la seguridad de cualquier empresa que manipule o gestione agentes de IA diversos, ya que pueden llegar a ejecutar y planificar acciones de forma autónoma. Por ello mismo, las compañías que abracen la IA, también deben replantear sus protocolos de seguridad y establecer nuevos controles específicos para atajar este tipo de problemas.

Imagen de portada | Zan Lazarevic y generada por IA con Gemini

En Xataka | A Mark Zuckerberg no le importa perder 200.000 millones de dólares en IA. El verdadero riesgo sería no apostar por ella, asegura

(function() {
window._JS_MODULES = window._JS_MODULES || {};
var headElement = document.getElementsByTagName(‘head’)[0];
if (_JS_MODULES.instagram) {
var instagramScript = document.createElement(‘script’);
instagramScript.src = ‘https://platform.instagram.com/en_US/embeds.js’;
instagramScript.async = true;
instagramScript.defer = true;
headElement.appendChild(instagramScript);
}
})();

–
La noticia

Lo más preocupante no es que la IA de Notion haya sido «hackeada»: es lo que sugiere sobre el futuro de la ciberseguridad

fue publicada originalmente en

Xataka

por
Antonio Vallejo

.

source