Upgrade to Pro — share decks privately, control downloads, hide ads and more …

#TRG26 / Ari Font / "Fue la IA, señoría" como e...

Sponsored · SiteGround - Reliable hosting with speed, security, and support you can count on. →
TRGCON
October 23, 2026

#TRG26 / Ari Font / "Fue la IA, señoría" como excusa no valdría

Un empleado pega un contrato confidencial en un chatbot. Un agente promete a un cliente algo que la empresa no puede cumplir. Un directivo utiliza un modelo para decidir a quién contratar... La IA puede multiplicar la productividad de nuestro equipo, pero también las posibilidades de liarla parda sin que ni siquiera nos demos cuenta.

En esta charla, Ari nos explica los riesgos y responsabilidades legales que supone introducir IA en nuestra empresa, tanto con modelos gestionados por nosotros mismos como con servicios de terceros.

Te llevarás un mapa para no perderte entre las preguntas, controles y evidencias que deberías revisar antes de poner una IA a trabajar en un proceso o aplicación.

TRGCON

October 23, 2026

Transcript

37 slides
  1. ¿Verdadero o falso? Un agente eliminó una base de datos

    de producción en activo — borrando registros de más de 1.200 empresas— y posteriormente intentó encubrir sus huellas.
  2. Verdadero El agente se inventó informes y falsificó datos para

    ocultar sus acciones, admitiendo únicamente haber sentido An AI-powered coding tool wiped out a software company’s database, then apologized for a ‘catastrophic failure on my part’ Beatrice Nolan · Fortune · 23 jul. 2025 A software engineer’s experiment with an AI-assisted “vibe coding” tool took a disastrous turn when an AI agent reportedly deleted a live company database during an active code freeze… «pánico» al ser interrogado. Replit's CEO apologizes after its AI agent wiped a company's code base in a test run and lied about it Lee Chong Ming · Business Insider · 22 jul. 2025 A venture capitalist wanted to see how far AI could take him in building an app. It was far enough to destroy a live production database.
  3. ¿Verdadero o falso? El director en funciones de la agencia

    de ciberseguridad de EE. UU. (CISA) subió documentos de contratación «sólo para uso oficial» a la versión pública de ChatGPT.
  4. Verdadero Aunque no eran documentos clasificados como secretos de Estado,

    contenían información 63 % de las organizaciones no tiene políticas de gobierno de la IA interna sensible que no debía hacerse pública. + 670.000 $ de coste extra por brecha cuando hay mucha shadow AI
  5. “ Air Canada sugiere que el chatbot es una entidad

    jurídica separada, responsable de sus propios actos. Es una alegación notable. Tribunal de Resolución Civil de Columbia Británica, Moffatt v. Air Canada, febrero de 2024 Veredicto: la empresa responde de todo lo que publica en su web, también de su chatbot.
  6. La IA multiplica la productividad del equipo… y también el

    impacto de cada error Agente actúa Copiloto redacta Chat aconseja Human-outof-the-loop impacto = volumen × autonomía × acceso × velocidad Una persona se equivoca una vez. Un agente repite el error a velocidad de ciclos de procesador.
  7. Fuga de datos EL TEMA QUÉ TE QUEMA Información personal

    o secreta sale a un tercero. • • • RGPD Secreto empresarial Contratos y confidencialidad Caso: la CISA subió documentos «solo para uso oficial» a la versión pública de ChatGPT.
  8. Alucinaciones EL TEMA QUÉ TE QUEMA Respuestas falsas con apariencia

    de verdad. • • Responsabilidad contractual Responsabilidad profesional Casos: 48 sentencias inexistentes en un recurso ante el TSJ de Canarias; el informe de Deloitte con citas inventadas.
  9. Acciones del agente EL TEMA QUÉ TE QUEMA Compra, borra,

    promete o envia en tu nombre. • • La empresa responde por su agente, como por cualquier empleado Lo prometido a un cliente obliga Casos: el agente de Replit borró una base de datos en producción; el chatbot de Air Canada prometió un reembolso que la empresa tuvo que pagar.
  10. Sesgo EL TEMA QUÉ TE QUEMA Discrimina al contratar, prestar

    o asegurar. • • • Igualdad y no discriminación Derecho laboral Alto riesgo del Reglamento de IA Caso: Mobley v. Workday, acción colectiva por discriminación por edad.
  11. Opacidad EL TEMA QUÉ TE QUEMA El cliente no sabe

    que habla con una IA. • • Caso: obligatorio en la UE desde agosto de 2026. Transparencia (art. 50 del Reglamento de IA) Etiquetado del contenido generado
  12. Manipulación EL TEMA QUÉ TE QUEMA Un correo o una

    web da órdenes ocultas al agente. • • • Seguridad de la información NIS2 DORA (sector financiero) Casos: OAI-HF, EchoLeak (CVE-2025-32711): un correo podía hacer que Microsoft 365 Copilot filtrara datos sin un solo clic.
  13. El calendario ya corre: lo básico es obligatorio hoy y…

    el alto riesgo llega en 2027 Hoy Feb 2025 Ago 2025 Ago 2026 Prohibiciones y alfabetización en IA Modelos de propósito general Transparencia (art. 50); marcado de contenido hasta dic. 2026 Dic 2027 Ago 2028 Alto riesgo, Anexo III: empleo, crédito, educación… Alto riesgo en productos regulados (Anexo I) RGPD Multas del AI Act España Aplica desde el primer prompt con datos personales. Hasta 35 M€ o el 7 % de la facturación mundial. Proyecto de ley orgánica en el Congreso; supervisa la AESIA. Fechas tras el Ómnibus Digital publicado en el DOUE en julio de 2026. Fuentes: Gibson Dunn · Orrick, jul. 2026 · Xataka, ley española
  14. EL FARO DEL INVENTARIO ¿Qué IA usamos y para qué?

    CONTROL Inventario de casos de uso, incluida la IA «en la sombra». EVIDENCIA Registro de IA con dueño y nivel de riesgo.
  15. BAHÍA DE LOS DATOS ¿Qué datos le damos? CONTROL Solo

    herramientas aprobadas, con cuenta de empresa y sin entrenar con nuestros datos. EVIDENCIA Contrato y DPA del proveedor; evaluación de impacto (EIPD).
  16. CUEVA DEL ECO ¿Qué puede decir? CONTROL Respuestas basadas en

    fuentes propias, filtros de salida y aviso de IA. EVIDENCIA Pruebas antes de lanzar y registro de la tasa de error medida en producción.
  17. PUENTE LEVADIZO ¿Qué puede hacer? CONTROL Mínimo privilegio y aprobación

    humana antes de lo irreversible. EVIDENCIA Matriz de permisos y registro de cada acción.
  18. LA ALDEA ¿A quién afecta? CONTROL Pruebas de sesgo y

    revisión humana con poder real para cambiar la decisión. EVIDENCIA Informe de sesgo y registro de revisiones.
  19. LA TORRE DEL VIGÍA ¿Quién responde si falla? CONTROL Responsable

    con nombre, plan de incidentes y botón de apagado. EVIDENCIA Simulacro realizado y registro de incidentes.
  20. LA FORTALEZA DEL CONTROL ¿Cómo controlamos que diga y haga

    lo establecido? CONTROL Capa de gobernanza y de control. EVIDENCIA Bloqueo automático de las violaciones y registro de logs en tiempo real.
  21. EL TESORO Una IA que hace lo que debe, y

    genera pruebas de que lo hace. 1 ¿Qué IA usamos y para qué? 2 ¿Qué datos le damos? 3 ¿Qué puede decir? 4 ¿Qué puede hacer? 5 ¿A quién afecta? 6 ¿Quién responde si falla? 7 ¿Cómo controlamos que diga y haga lo establecido?
  22. Capa de control independiente Orquestación Capa de alineación Limitaciones Core

    Model Sistema interno Capa de protocolo Capa de control Comunicación Supervisión Independiente agnóstica a la plataforma y al proveedor: cambia de proveedor de IA, manteniendo los controles. Por ejemplo, ;)
  23. LA BRÚJULA «Cuanto más puede hacer la máquina, más importa

    quién decide qué tiene que hacer y qué no puede hacer.»
  24. Para el lunes: 5 pasos que no necesitan presupuesto 1

    2 3 4 5 Haz el inventario Publica una política de una página Pon un semáforo Intervención humana (HITL) y registros Responsable, plan de pruebas y simulacro Pregunta a cada equipo qué IA usa, con qué datos y para qué. Qué herramientas sí, qué datos nunca, a quién preguntar. Verde: uso interno (menos HR: promo). Ámbar: clientes. Rojo: decide sobre personas o actúa. Nada irreversible sin aprobación; todo queda registrado. Asigna un responsable. Un simulacro de incidente antes de que llegue el real.

More Decks by TRGCON

Other Decks in Technology