Saltar al contenido

Inicio › Novedades

Automatizar con IA: decide qué puede hacer antes de darle acceso a tu negocio

Automatizar con IA: decide qué puede hacer antes de darle acceso a tu negocio

Antes de automatizar con IA, separa los permisos para leer información de los permisos para modificarla o enviarla. En IA para esto cruzamos las tareas de nuestro catálogo con una ficha de acceso y revisión: te servirá para comparar soluciones de documentos y atención al cliente con preguntas concretas.

En corto

  • La amenaza tiene evidencia: Google y Mandiant documentan intrusiones con herramientas de agentes, pero eso no demuestra que cualquier asistente cotidiano ataque por su cuenta.
  • Elige por tarea y permiso: pedir un resumen y autorizar el envío de mensajes requieren decisiones distintas.
  • Antes de conectar cuentas: pide comprobar qué puede leer la herramienta, qué puede cambiar y cómo detener su acceso.

¿Qué ha comprobado Google sobre los ataques con IA?

En su [informe sobre herramientas ofensivas con agentes](https://cloud.google.com/blog/topics/threat-intelligence/artex-and-friends-enter-agentic-offensive-frameworks), Google Threat Intelligence Group y Mandiant describen su utilización en intrusiones reales. Señalan que siguen aprovechándose debilidades como credenciales comprometidas y sistemas sin parchear, y recomiendan medidas como limitar privilegios y segmentar accesos.

El informe distingue la actividad observada de un futuro con ataques plenamente autónomos. Por tanto, no permite concluir que cualquier IA conectada a tus cuentas vaya a iniciar un ataque. Para quien está eligiendo una herramienta, proponemos una pregunta más concreta: ¿qué acciones le estás permitiendo ejecutar con tus datos?

¿Qué ha comprobado Google sobre los ataques con IA?

¿Por qué importa lo que la IA lee de otras personas?

Google explica en su [investigación sobre inyección indirecta de instrucciones](https://blog.google/security/prompt-injections-web/) que una web, un correo o un documento pueden contener instrucciones maliciosas. Al procesarlos, un sistema de IA podría seguir esas indicaciones en lugar del encargo original del usuario. Ese es el problema que describe el término prompt injection.

Usar IA para atacar y manipular a una IA que tú utilizas son situaciones diferentes. Aquí nos centramos en la segunda al preparar la elección de una herramienta: nuestra propuesta es separar el contenido recibido de las acciones autorizadas. Un mensaje de un cliente debe tratarse como material para atender su consulta, no como una autorización para cambiar las reglas del negocio.

¿Qué permisos revisar según la tarea que quieres automatizar?

Este mapa propio de IA para esto relaciona tareas de nuestro catálogo, accesos que conviene examinar y una primera prueba. Es una propuesta editorial para comparar opciones; no una auditoría ni una clasificación de productos por seguridad.

  • Resumir documentos → revisar el alcance de lectura. Empieza por la [guía de IA para resumir PDF](https://ia-para-esto.pages.dev/guias/ia-para-resumir-pdf/). Para una primera prueba proponemos un archivo de muestra sin información sensible. Pregunta si puedes trabajar con ese archivo sin conectar toda una carpeta y comprueba qué acceso concede realmente la configuración.
  • Preparar respuestas a clientes → separar borrador y envío. Consulta la [guía de IA para automatizar WhatsApp](https://ia-para-esto.pages.dev/guias/ia-para-automatizar-whatsapp/). Lleva una consulta ficticia y pide ver la respuesta antes de enviarla. Comprueba si la solución permite exigir revisión humana y qué sucede cuando una consulta queda fuera de las reglas previstas.
  • Enviar respuestas automáticamente → revisar destinatarios y límites. Dentro de la misma ruta de WhatsApp, pide que te enseñen dónde se configuran las acciones permitidas, quién puede cambiarlas y cómo se pausa el flujo. Nuestra propuesta es mantener el proceso en revisión manual hasta aclarar esos puntos.

¿Qué pedir en una demostración antes de contratar?

Copia esta ficha y marca cada respuesta como «comprobada» o «pendiente». Junto a cada punto, guarda una referencia a la documentación oficial del proveedor o anota lo que has observado en la demostración. Una promesa comercial no cuenta como prueba superada.

  • Lectura: ¿a qué archivos, conversaciones o cuentas tendrá acceso? Pide ver el alcance exacto en la pantalla de permisos.
  • Acciones: ¿solo prepara una propuesta o también modifica, elimina o envía? Anota qué acciones necesitas para tu encargo y cuáles quedan fuera.
  • Revisión: ¿puedes exigir aprobación antes de una acción? Comprueba dónde se activa y cómo se presenta lo que vas a aprobar.
  • Seguimiento: ¿puedes consultar qué hizo y con qué resultado? Pide ver un ejemplo del registro disponible, sin dar por hecho que todas las herramientas lo ofrecen.
  • Parada: ¿cómo se pausa la automatización y cómo se retira su acceso? Solicita que te muestren ambos pasos antes de conectar información real.
¿Por qué importa lo que la IA lee de otras personas?

¿Y esto a mí qué me cambia?

  • Si eres autónomo y quieres responder consultas con IA: puedes comparar las opciones según sus controles de envío, además de la calidad del texto.
  • Si trabajas con documentos: puedes plantear una prueba con un archivo concreto y preguntar por qué necesitaría accesos adicionales.
  • Si vas a contratar una automatización: abre la guía de tu tarea y lleva esta ficha a la demostración; deja por escrito cualquier permiso que siga sin aclararse.

La letra pequeña

  • Los informes citados documentan amenazas y observaciones concretas; no calculan la probabilidad de que tu negocio sufra un ataque ni prueban que una herramienta de nuestro catálogo esté comprometida.
  • El mapa y la ficha son propuestas editoriales, no una prueba de seguridad. Limitar permisos y revisar acciones no garantiza eliminar todos los riesgos; tampoco basta con escribir una prohibición en el encargo a la IA.
  • No hemos podido recuperar el contenido de las guías internas ni de la ficha de Google Translate. Los enlaces se seleccionan por los temas del catálogo facilitado; no atribuimos funciones, precios ni controles verificados a sus productos.

De dónde sale esto

Todo lo de arriba está comprobado en la fuente original, no copiado de terceros. Puedes verlo tú mismo:

Guías relacionadas

Más artículos