Alucinación de IA
Fenómeno por el cual un modelo de inteligencia artificial generativa produce información falsa, inventada o sin fundamento real, presentándola con la misma confianza y formato que la información veraz. En el ámbito legal y forense, las alucinaciones de IA plantean riesgos graves: sentencias inexistentes citadas en escritos judiciales, informes periciales con datos fabricados, y pruebas digitales generadas artificialmente.
¿Qué es una alucinación de IA?
Una alucinación de inteligencia artificial es un fenómeno en el que un modelo de IA generativa (como ChatGPT, Claude, Gemini, Llama o Mistral) produce información falsa, inventada o sin base factual, presentándola con la misma confianza y estructura formal que la información veraz. El término “alucinación” es una analogía con las alucinaciones humanas: el modelo “percibe” y comunica algo que no existe en la realidad.
Este fenómeno no es un error esporádico ni un fallo técnico puntual. Es una característica inherente al funcionamiento de los modelos de lenguaje de gran tamaño (LLM, por sus siglas en inglés). Estos modelos no “saben” ni “verifican” hechos: generan secuencias de texto estadísticamente probables en función de los patrones aprendidos durante el entrenamiento. Cuando el modelo se enfrenta a una pregunta cuya respuesta no está bien representada en sus datos de entrenamiento, puede fabricar una respuesta plausible pero completamente ficticia.
Riesgo real para el ámbito jurídico
Las alucinaciones de IA han provocado sanciones judiciales reales: multas a abogados por presentar sentencias inexistentes, inadmisión de pruebas y daños reputacionales graves. En el ámbito forense, un informe pericial que incorpore datos alucinados por IA sin verificación puede ser impugnado, anulado y generar responsabilidad profesional para el perito.
Por qué las IA generativas alucinan
Para entender las alucinaciones, es necesario comprender cómo funcionan los LLM:
| Concepto | Explicación | Relación con alucinaciones |
|---|---|---|
| Predicción de tokens | Los LLM predicen la siguiente palabra (token) más probable dada una secuencia anterior | Si la secuencia más probable no es factualmente correcta, el modelo la genera igualmente |
| Datos de entrenamiento | El modelo aprende de billones de palabras de texto (internet, libros, artículos) | Si los datos contienen errores, el modelo los reproduce. Si falta información, la inventa. |
| Mecanismo de atención | Permite al modelo relacionar partes distantes del texto | Limitaciones en ventanas de contexto pueden causar pérdida de coherencia |
| Temperatura | Parámetro que controla la aleatoriedad de las respuestas | Temperaturas altas generan respuestas más creativas pero más propensas a alucinaciones |
| RLHF | Reinforcement Learning from Human Feedback — entrenamiento con feedback humano | Puede incentivar al modelo a “complacer” al usuario generando respuestas aparentemente útiles aunque incorrectas |
| Ausencia de grounding | Los LLM no tienen acceso en tiempo real a bases de datos verificadas | No pueden verificar si una sentencia existe, si un dato es correcto o si una cita es real |
Analogía técnica:
Pregunta: "¿Cuál es la sentencia del Tribunal Supremo sobre
phishing bancario de 2024?"
Proceso interno del LLM:
1. "Tribunal Supremo" → Contexto judicial español [correcto]
2. "phishing bancario" → Estafas por internet [correcto]
3. "sentencia 2024" → Buscar patrón en datos de entrenamiento
4. Si no encuentra sentencia real → Genera una plausible:
"La STS ####/2024 de 15 de mayo establece que..."
↑ Número plausible, fecha plausible, contenido plausible
↑ PERO ESA SENTENCIA NO EXISTE (número enmascarado a propósito)Tipos de alucinaciones
| Tipo | Descripción | Ejemplo | Riesgo jurídico |
|---|---|---|---|
| Factual | Datos, cifras o hechos inventados | ”España tuvo 47.000 ciberdelitos en Q1 2025” (dato inventado) | Informe pericial con estadísticas falsas |
| De citas | Referencias bibliográficas inexistentes | ”Según García-López (2023), Ciberseguridad Forense, ed. Aranzadi” (libro que no existe) | Bibliografía falsa en informes o escritos |
| Legal | Sentencias, artículos de ley o jurisprudencia inexistente | ”La STS ####/2024 de 15 de mayo…” (ejemplo de cita inventada, número enmascarado) | Escritos judiciales con jurisprudencia falsa |
| De código | Funciones, APIs o librerías que no existen | ”Usar la función forensic_hash() de la librería pyforensics” (no existe) | Herramientas forenses citadas incorrectamente |
| De identidad | Expertos, instituciones u organizaciones inventadas | ”El Dr. Antonio Rodríguez, catedrático de Ciberderecho de la UCM” (persona inventada) | Citar expertos ficticios como autoridad |
| Narrativa | Historias coherentes pero completamente ficticias | Descripción detallada de un caso judicial que nunca existió | Casos precedentes falsos |
| Temporal | Eventos asignados a fechas incorrectas | «El RGPD entró en vigor el 15 de marzo de 2018» — falso por partida doble: el Reglamento entró en vigor en 2016 y solo es aplicable desde el 25 de mayo de 2018 (art. 99), y el «15 de marzo de 2018» no es ninguno de esos dos hitos | Cronologías incorrectas en informes |
| Mixta | Combinación de hechos reales con detalles inventados | Sentencia real con ratio decidendi alterado | La más peligrosa: difícil de detectar |
La alucinación mixta es la más peligrosa
Las alucinaciones mixtas combinan elementos verificables (un tribunal real, una fecha plausible, un tema jurídico existente) con detalles fabricados (el número de sentencia, el contenido del fallo, la ratio decidendi). Son extremadamente difíciles de detectar sin verificación exhaustiva, porque el contexto correcto genera una falsa sensación de credibilidad.
Impacto en procedimientos judiciales
Casos internacionales de alucinaciones legales
Mata v Avianca (EE. UU., 2023)
El caso que puso las alucinaciones de IA en el centro del debate jurídico mundial:
| Dato | Detalle |
|---|---|
| Tribunal | Tribunal del Distrito Sur de Nueva York |
| Caso | Roberto Mata v. Avianca, Inc. (22-cv-1461) |
| Fecha | Escrito de oposición: 1 de marzo de 2023 · Sanción: 22 de junio de 2023 |
| Abogados | Peter LoDuca y Steven Schwartz (Levidow, Levidow & Oberman) |
| Qué ocurrió | Schwartz investigó la jurisprudencia con ChatGPT y LoDuca presentó un escrito con 6 sentencias citadas como precedentes |
| El problema | Las 6 sentencias eran completamente inventadas por ChatGPT |
| Sentencias falsas | Varghese v. China Southern Airlines, Shaboon v. Egyptair, Petersen v. Iran Air, Martinez v. Delta Airlines, Estate of Durden v. KLM, Miller v. United Airlines |
| Descubrimiento | El juez Kevin Castel pidió copias de las sentencias; no existían en ninguna base de datos |
| Sanción | Multa solidaria de 5.000 dólares a ambos abogados y al bufete |
| Criterio del tribunal | Subrayó que corresponde al profesional verificar la autenticidad de las citas, sea cual sea la herramienta empleada |
Lecciones del caso Mata v Avianca:
ChatGPT no es una base de datos jurídica: Los LLM no tienen acceso a repositorios jurídicos verificados. Generan texto que “suena como” jurisprudencia pero puede no serlo.
La responsabilidad es del profesional: El tribunal dejó claro que la responsabilidad de verificar la autenticidad de las citas recae enteramente en el abogado, independientemente de la herramienta utilizada.
Verificar siempre en fuentes primarias: toda sentencia citada debe comprobarse en la base de datos oficial del tribunal que la dictó. En España, el CENDOJ, que es gratuito y de acceso público; en la Unión Europea, EUR-Lex y el buscador del TJUE. Y se comprueba por el identificador —ECLI o ROJ—, no por el número de resolución: son series distintas y una cita puede tener el número correcto y el identificador inventado.
Declarar el uso de IA: Algunos tribunales ya exigen que los abogados declaren si han utilizado IA generativa en la preparación de sus escritos.
Otros casos internacionales
| Caso | País | Año | Qué ocurrió |
|---|---|---|---|
| Park v. Kim, 91 F.4th 610 | EE. UU. (2.o Circuito) | 30-ene-2024 | La abogada Jae S. Lee citó una resolución inexistente generada con ChatGPT. Remisión al Grievance Panel, sin multa económica. |
| Harber v. HMRC [2023] UKFTT 1007 (TC) | Reino Unido (First-tier Tribunal, Tax) | 2023 | Una litigante sin abogado aportó nueve citas fabricadas. El tribunal aceptó que desconocía que lo fueran. |
| Ayinde v. Haringey y Al-Haroun v. Qatar National Bank | Reino Unido (High Court) | 2025 | Escritos con resoluciones inexistentes —18 en uno de ellos (§74)—. Remisión a los reguladores profesionales (SRA/BSB), no de todos los letrados implicados. |
| Garner v. Kadince | EE. UU. (Apelaciones de Utah) | 2025 | Los letrados citaron el caso inexistente Royer v. Nelson. Costas y 1.000 USD de donación benéfica. |
Casos en España
Ya no es un riesgo teórico: tribunales españoles han impuesto ya tres multas a abogados por citar jurisprudencia inventada por una IA, de dos tribunales distintos: Canarias y Galicia.
| Resolución | Qué se citó | Multa |
|---|---|---|
| TSJ de Navarra (2026) | Sentencias del Tribunal Supremo que no figuraban en el CENDOJ, en un recurso presentado en octubre de 2025 | Sin multa. La Sala de lo Social archivó la propuesta de sanción; el CGPJ advirtió en marzo de 2026 de que fabricar jurisprudencia con IA es mala fe procesal sancionable |
| TSJ de Canarias, Sala de lo Civil y Penal, 10 de febrero de 2026 | 48 citas de sentencias del Supremo y un supuesto informe del CGPJ, ninguna existente | 420 euros |
| TSJ de Galicia, Sala de lo Social, 7 de julio de 2026 | 24 citas falsas atribuidas al Supremo, al Constitucional y al TJUE, que el ponente calificó de «libérrima creatividad jurídica» | 1.800 euros — la mayor de las tres recogidas aquí. Nota del CGPJ |
| TSJ de Canarias, Sala de lo Civil y Penal, 9 de julio de 2026 | Al menos 25 sentencias del Supremo y del Constitucional citadas entre comillas y resaltadas como si fueran auténticas | 840 euros |
La base legal en el orden civil es el artículo 247 de la Ley de Enjuiciamiento Civil, cuyo apartado 3 permite multas de 180 a 6.000 euros —sin superar la tercera parte de la cuantía del litigio— por conculcar las reglas de la buena fe procesal. En el asunto gallego, que se resolvió en el orden social, el tribunal se apoyó específicamente en el artículo 75.4 de la Ley reguladora de la jurisdicción social, que fija su multa entre 600 y 6.000 euros. No hace falta dolo: la negligencia basta.
Y conviene fijarse en cómo cuantifican los tribunales estas multas, porque el mensaje es deliberado: las calculan sobre lo que cuesta hacerlo bien. Canarias tomó como referencia el precio de una suscripción anual a una herramienta de IA jurídica profesional e impuso la mitad. Galicia recordó que las bases de datos jurisprudenciales verificadas cuestan entre 1.500 y 3.000 euros al año y que comprobar una cita en el CENDOJ no cuesta nada.
Ese es el punto que conviene retener, y vale igual para un dictamen pericial que para un recurso: la verificación es gratis y la alucinación sale cara. El marco institucional ya existía: la Instrucción 2/2026 del CGPJ, aprobada el 28 de enero de 2026, regula el uso de IA en la actividad jurisdiccional.
Otras tipologías de riesgo en la práctica española
No se recogen aquí casos identificados, sino tipologías de riesgo que conviene vigilar:
| Situación | Contexto | Tipo de riesgo |
|---|---|---|
| Informes periciales con datos sospechosos | Peritos que presentan estadísticas inverificables sobre ciberdelincuencia | Que el informe se apoye en cifras sin fuente comprobable |
| Demandas con doctrina inventada | Escritos que citan “doctrina mayoritaria” con autores inexistentes | Que un escrito se funde en autoridades que no existen |
| Traducciones judiciales incorrectas | Uso de IA para traducir documentos con errores jurídicos graves | Que se introduzcan errores jurídicos en la traducción |
La Instrucción CGPJ 2/2026
El Consejo General del Poder Judicial aprobó la Instrucción 2/2026, de 28 de enero BOE-A-2026-2205, que fija nueve principios para el uso de IA por jueces y magistrados. Dos de sus reglas explican por qué la alucinación es aquí un problema disciplinario y no solo técnico: prohíbe incorporar contenidos sin validación crítica personal y prohíbe delegar o automatizar la decisión judicial. Conviene precisar lo que no dice, porque se le atribuye a menudo: no impone declarar en la resolución que se ha usado IA. Exige validar, que es más.
Detección de alucinaciones de IA
Métodos de detección
| Método | Descripción | Eficacia | Limitaciones |
|---|---|---|---|
| Verificación factual manual | Comprobar cada afirmación en fuentes primarias | Muy alta | Lento, requiere conocimiento del área |
| Herramientas de detección de IA | Software que analiza patrones estadísticos del texto | Media-alta | Falsos positivos, evolución de modelos |
| Análisis de perplejidad | Medir la “predecibilidad” estadística del texto | Media | No distingue IA de texto formulario |
| Análisis de burstiness | Medir variabilidad en la complejidad de las frases | Media | Los humanos también pueden escribir uniformemente |
| Verificación de citas | Comprobar que las fuentes citadas existen realmente | Muy alta para alucinaciones de citas | Solo detecta alucinaciones de citas |
| Análisis de metadatos | Examinar metadatos del documento (autor, software, fecha) | Variable | Fácil de falsificar metadatos |
| Análisis estilométrico | Comparar estilo con escritos previos del supuesto autor | Alta | Requiere corpus de comparación |
| Watermarking | Marcas invisibles insertadas por el modelo de IA | Alta (cuando disponible) | Solo funciona con modelos que lo implementan |
Herramientas de detección
| Herramienta | Desarrollador | Tecnología | Precisión reportada | Idioma español |
|---|---|---|---|---|
| GPTZero | GPTZero, Inc. | Análisis de perplejidad + burstiness | Autodeclarada | Sí (menor fiabilidad) |
| Originality.ai | Originality.ai | ML + fingerprinting | Autodeclarada | Sí (menor fiabilidad) |
| Copyleaks | Copyleaks, Ltd. | ML multimodelo | Autodeclarada | Sí |
| Turnitin AI Detection | Turnitin | Integrado en plataforma anti-plagio | Autodeclarada | Sí |
| Sapling AI Detector | Sapling | ML basado en transformers | Autodeclarada | Limitado |
| ZeroGPT | ZeroGPT | Análisis multiparámetro | Autodeclarada | Sí |
| GLTR | Harvard/MIT | Análisis de probabilidad de tokens | Herramienta académica, no comercial | No optimizado |
Sobre las tasas de acierto: los porcentajes que publican estos fabricantes salen de sus propias pruebas, con sus propios corpus. Existen evaluaciones académicas independientes, pero sus resultados dependen del detector, de su versión y del corpus, y no equivalen a validar las cifras comerciales actuales ni a demostrar la autoría de un documento concreto. El dato más elocuente del sector es otro: OpenAI retiró su propio clasificador en 2023 por baja fiabilidad. En un dictamen, la salida de estas herramientas se trata como indicio a contrastar, nunca como conclusión, y se declara siempre qué herramienta y qué versión se usó.
Limitaciones de las herramientas de detección
| Limitación | Impacto | Implicación forense |
|---|---|---|
| Falsos positivos | Texto humano clasificado como IA | No se puede afirmar categóricamente que un texto es de IA |
| Sensibilidad al idioma | El rendimiento varía según el idioma y el corpus | Comprobar la detección en el idioma del documento; no dar por hecho un rendimiento peor en español |
| Texto editado | Si un humano edita el output de IA, la detección baja drásticamente | Textos mixtos (IA + humano) son difíciles de clasificar |
| Evolución de modelos | Cada nuevo modelo de IA elude detectores anteriores | Las herramientas quedan obsoletas rápidamente |
| Longitud del texto | Textos cortos (menos de 250 palabras) son difíciles de clasificar | FAQs, resúmenes y extractos pueden no ser analizables |
| Estilo formulario | Textos técnicos, legales o científicos tienen estructura similar a IA | Alto riesgo de falsos positivos en textos jurídicos |
| Parafraseo | Herramientas de parafraseo pueden eludir la detección | Atacantes pueden usar parafraseadores automáticos |
Ninguna herramienta es prueba definitiva
Los detectores de IA proporcionan indicios probabilísticos, no pruebas definitivas. Un perito informático forense debe usar múltiples herramientas, complementar con verificación factual, y expresar sus conclusiones en términos de probabilidad (“es consistente con generación por IA” o “presenta características compatibles con texto generado artificialmente”), nunca con certeza absoluta.
Análisis forense de contenido generado por IA
Cuando se sospecha que un documento, escrito judicial, informe pericial o prueba digital ha sido generado total o parcialmente por IA, el perito informático forense puede realizar un análisis sistemático.
Metodología de análisis forense
Preservación del documento: Obtener el documento original en formato nativo (Word, PDF, etc.) con metadatos intactos. Calcular hash SHA-256 inmediatamente. Documentar la cadena de custodia.
Análisis de metadatos: Examinar los metadatos del documento buscando: software de creación, fecha y hora de creación vs. modificación, autor registrado, historial de revisiones, comentarios ocultos. Herramientas: ExifTool, FOCA y la inspección del XML interno del documento .docx (carpeta docProps).
Análisis con herramientas de detección: Ejecutar el texto a través de múltiples herramientas de detección de IA (GPTZero, Originality.ai, Copyleaks, ZeroGPT). Documentar los resultados de cada herramienta con capturas de pantalla y hashes.
Verificación factual exhaustiva: Comprobar cada afirmación verificable del texto contra fuentes primarias. Para sentencias: buscar en CENDOJ. Para estadísticas: verificar en la fuente original citada. Para citas bibliográficas: comprobar en catálogos bibliotecarios.
Análisis estilométrico: Si se dispone de textos anteriores del supuesto autor, comparar el estilo de escritura: vocabulario, longitud de frases, uso de conectores, estructura argumentativa. Las diferencias significativas pueden indicar que no es el autor habitual.
Análisis de coherencia interna: Buscar contradicciones, inconsistencias o errores que son típicos de alucinaciones: datos que no cuadran entre secciones, nombres que cambian, fechas inconsistentes, niveles de detalle desiguales.
Análisis de patrones lingüísticos de IA: Los LLM tienen patrones reconocibles: uso frecuente de “es importante destacar que”, “cabe señalar que”, “en este sentido”, listas exhaustivas, estructura extremadamente organizada, ausencia de coloquialismos o marcas de estilo personal.
Prueba de reproducibilidad: Si se sospecha que el texto fue generado por un LLM específico, intentar reproducir un texto similar con el mismo prompt. La similitud estructural (no textual) puede orientar, pero no es una prueba de autoría ni una metodología de atribución validada.
Elaboración del informe pericial: Documentar todos los hallazgos, expresar conclusiones en términos probabilísticos, y adjuntar las evidencias con sus hashes. El informe debe distinguir claramente entre indicios y certezas.
Indicadores de texto generado por IA
Ningún indicador aislado prueba autoría por IA. Los valores de la última columna son orientativos —criterio del perito, no una escala pericial validada— y solo cobran sentido combinados entre sí y contrastados con verificación factual.
| Indicador | Descripción | Valor orientativo |
|---|---|---|
| Uniformidad estilística excesiva | Todas las frases tienen longitud y complejidad similar | Medio |
| Ausencia de errores | Texto largo sin erratas, faltas o imprecisiones estilísticas | Bajo (un autor puede ser meticuloso) |
| Estructura perfecta | Organización impecable con transiciones fluidas | Bajo-medio |
| Expresiones recurrentes de IA | ”Es importante destacar”, “En este contexto”, “Cabe mencionar” | Medio-alto |
| Citas inverificables | Referencias que no existen en bases de datos | Muy alto (para alucinaciones de citas) |
| Datos estadísticos sin fuente verificable | Cifras precisas sin fuente comprobable | Alto |
| Exceso de matizaciones | ”Sin embargo”, “no obstante”, “por otro lado” en cada párrafo | Medio |
| Conocimiento anacrónico | Información precisa hasta una fecha y errores después (fecha de corte del modelo) | Alto |
| Respuestas demasiado completas | Cobertura exhaustiva de todos los aspectos de un tema | Medio |
| Ausencia de opiniones personales | Texto descriptivo sin posicionamiento del supuesto autor | Medio |
Análisis de metadatos como evidencia
| Metadato | Qué revela | Herramienta |
|---|---|---|
| Autor del documento | Si coincide con el supuesto redactor | ExifTool, propiedades del archivo |
| Software de creación | Word, LibreOffice, Google Docs, o un editor de texto plano | ExifTool, FOCA |
| Fecha de creación | Si es coherente con el plazo de elaboración | ExifTool |
| Historial de revisiones | Si hay múltiples versiones o fue creado de una sola vez | Word (track changes), Google Docs (historial) |
| Tiempo de edición | Minutos totales de edición del documento | Word (propiedades avanzadas) |
| Plantilla utilizada | Si usa plantilla estándar de un generador de IA | Análisis del código XML del documento |
| Comentarios ocultos | Notas del proceso de redacción | Análisis del documento en formato XML |
Ejemplo de análisis de metadatos sospechoso:
Documento: escrito-oposicion.docx
Autor: "Abogado X"
Software: Microsoft Word 365
Fecha creación: 15/03/2026 09:12:00
Fecha modificación: 15/03/2026 09:14:32
Tiempo de edición: 3 minutos ← SOSPECHOSO
Páginas: 28 ← 28 páginas en 3 minutos
Palabras: 12.847 ← Imposible escribir en 3 minutos
Revisiones: 1 ← Sin historial de edición
Indicio (no conclusión): el tiempo de edición registrado es
anormalmente bajo para 28 páginas. Obliga a revisar el origen y el
historial del archivo; por sí solo no prueba que se pegara ni que lo
generara una IA (el metadato mide el tiempo entre aperturas y guardados).El tiempo de edición como indicio clave
Uno de los indicios más reveladores es la relación entre el tiempo de edición registrado en los metadatos del documento y su extensión. Un escrito de 30 páginas con un tiempo de edición de 5 minutos justifica revisar a fondo el origen y el historial del archivo: es un tiempo anormalmente bajo para esa extensión. Por sí solo no demuestra que el contenido se pegara, se redactara fuera de Word o lo generara una IA —el metadato TotalEditingTime mide el tiempo entre aperturas y guardados, no las pulsaciones—; combinado con otros indicios, orienta el análisis forense.
Riesgos específicos para el ámbito forense
Informes periciales con contenido alucinado
El uso de IA generativa para elaborar informes periciales plantea riesgos específicos:
| Riesgo | Ejemplo | Consecuencia |
|---|---|---|
| Estadísticas falsas | ”Según el INE, el 78% de los ciberdelitos en España…” (dato inventado) | Informe impugnable, pérdida de credibilidad del perito |
| Herramientas inexistentes | ”Se utilizó la herramienta ForensicAnalyzer Pro v4.2” (no existe) | Cuestionamiento de toda la metodología |
| Normas técnicas mal citadas | ”Según la ISO 27037:2012, apartado #.#.#…” (ejemplo enmascarado de apartado inexistente) | Informe no conforme con normativa real |
| Casos precedentes falsos | ”En el caso peritado por el Dr. Fernández (2023)…” (caso inventado) | Pérdida total de credibilidad |
| Descripciones técnicas incorrectas | Explicaciones de procesos forenses con pasos inventados | Metodología impugnable |
Pruebas digitales generadas por IA
| Tipo de prueba | Riesgo de IA | Detección forense |
|---|---|---|
| Capturas de pantalla | IA puede generar capturas realistas de conversaciones, emails o webs | Análisis de píxeles, metadatos EXIF, consistencia de renderizado |
| Conversaciones de WhatsApp | IA puede generar hilos completos de chat | Verificación con la base de datos del dispositivo, análisis de timestamps |
| Emails | IA puede generar emails completos con cabeceras plausibles | Verificación de cabeceras reales, SPF/DKIM/DMARC, logs del servidor |
| Documentos | IA puede generar contratos, facturas, escritos | Análisis de metadatos, tipografía, consistencia con plantillas reales |
| Audio/vídeo | Deepfakes de voz y vídeo generados por IA | Análisis espectral, detección de artefactos, inconsistencias temporales |
| Código fuente | IA puede generar código que “parece” pertenecer a un proyecto | Análisis de estilo, comparación con repositorio real, historial de commits |
Integridad de la evidencia digital en la era de la IA
La existencia de IA generativa capaz de crear contenido indistinguible de la realidad plantea un desafío fundamental para la evidencia digital:
| Desafío | Descripción | Respuesta forense |
|---|---|---|
| Duda razonable generalizada | ”Cualquier prueba digital podría ser generada por IA” | Cadena de custodia robusta, hash desde el momento de adquisición |
| Impugnación de pruebas legítimas | Parte contraria alega que una prueba real fue generada por IA | Análisis forense que demuestre autenticidad (metadatos, logs, correlación) |
| Fabricación de pruebas | Uso de IA para crear pruebas falsas convincentes | Análisis de artefactos de IA, verificación cruzada con fuentes independientes |
| Manipulación parcial | Modificación con IA de pruebas reales (ej: alterar fecha de un email) | Análisis de integridad, comparación con copias del servidor |
Marco legal y regulatorio
Regulación de la IA en España y Europa
| Norma | Estado (2026) | Relevancia para alucinaciones |
|---|---|---|
| AI Act (Reglamento UE 2024/1689) | En vigor (aplicación progresiva) | Clasifica los sistemas de IA por riesgo. Incluye entre los de alto riesgo determinados sistemas de apoyo a la administración de justicia, según su finalidad y las condiciones del art. 6 y del anexo III. |
| Instrucción CGPJ 2/2026 | En vigor | Directrices sobre uso de IA en el ámbito judicial español. Obligación de verificación. |
| RGPD | En vigor | Derecho a no ser sometido a decisiones automatizadas (art. 22). |
| Ley Orgánica 3/2018 (LOPD-GDD) | En vigor | Complementa RGPD en España. |
| Código Deontológico de la Abogacía | En vigor | Obligación de diligencia y veracidad en escritos judiciales. |
| LEC art. 247 | En vigor | Sanciones por mala fe procesal y actuaciones contrarias a la buena fe. |
AI Act y sistemas de alto riesgo
El Reglamento Europeo de Inteligencia Artificial (AI Act) incluye entre los sistemas de alto riesgo determinados usos —según su finalidad prevista y las condiciones del artículo 6 y del anexo III—, no un sector entero por serlo. Entre esos ámbitos:
| Ámbito | Ejemplos | Obligaciones |
|---|---|---|
| Administración de justicia | Sistemas de apoyo a la decisión judicial | Supervisión humana obligatoria, transparencia, trazabilidad |
| Fuerzas de seguridad | Sistemas de investigación policial, reconocimiento facial | Evaluación de impacto, registro de actividad |
| Migración y asilo | Análisis automatizado de solicitudes | No discriminación, explicabilidad |
| Empleo | Sistemas de selección de personal | Auditoría de sesgos, transparencia |
Responsabilidad profesional
| Profesional | Obligación | Consecuencia de usar IA sin verificar |
|---|---|---|
| Abogado | Veracidad de citas y argumentos (art. 247 LEC) | Sanción por mala fe procesal (180-6.000€), responsabilidad disciplinaria |
| Perito informático | Exactitud técnica del informe pericial | Impugnación del informe, exclusión como perito, responsabilidad civil |
| Procurador | Verificación de la documentación presentada | Responsabilidad disciplinaria según su intervención en la presentación |
| Juez/magistrado | Fundamentación correcta de resoluciones | Nulidad de la resolución, expediente disciplinario |
| Fiscal | Exactitud de los hechos y fundamentos jurídicos | Responsabilidad disciplinaria |
El perito como guardián de la veracidad
En un mundo donde la IA puede generar contenido indistinguible de la realidad, el papel del perito informático forense como verificador de autenticidad es más relevante que nunca. El perito puede analizar si un texto, imagen, audio o vídeo fue generado por IA, si unas pruebas digitales son auténticas, o si un informe contiene datos fabricados.
Cómo prevenir alucinaciones en el uso profesional de IA
Para abogados y profesionales jurídicos
| Práctica | Descripción |
|---|---|
| Verificar SIEMPRE | Toda sentencia, artículo de ley o dato citado por la IA debe verificarse en la fuente primaria (CENDOJ, BOE, bases de datos oficiales) |
| No copiar directamente | Usar la IA como punto de partida para investigación, nunca como fuente final |
| Pedir referencias reales | Solicitar a la IA que indique las fuentes de sus afirmaciones y verificarlas |
| Contrastar con bases de datos jurídicas | Comprobar la resolución original en el CENDOJ o en una base documental (Aranzadi, La Ley, vLex). Si se usa el asistente generativo integrado de un proveedor, verificar también sus citas: las herramientas jurídicas basadas en IA también alucinan |
| Documentar el uso de IA | Registrar internamente cuándo y cómo se utilizó IA en la preparación de escritos |
| Formación continua | Entender las limitaciones de la IA para no sobrevalorar sus capacidades |
Para peritos informáticos
| Práctica | Descripción |
|---|---|
| Verificar datos y estadísticas | Toda cifra incluida en el informe debe tener una fuente verificable |
| Comprobar herramientas citadas | Verificar que las herramientas forenses mencionadas existen realmente y funcionan como se describe |
| Validar normas técnicas | Confirmar que las ISO, RFC o estándares citados existen y dicen lo que se afirma |
| No inventar casos | No incluir “casos similares” sin verificar que existieron |
| Citar fuentes primarias | Siempre que sea posible, citar la fuente original, no lo que la IA dice que dice la fuente |
| Revisión por pares | Antes de entregar un informe pericial, someterlo a revisión de otro profesional |
Técnicas de prompting para reducir alucinaciones
| Técnica | Ejemplo de prompt | Efecto |
|---|---|---|
| Pedir solo hechos verificables | ”Lista solo sentencias que puedas verificar con número real” | Reduce (no elimina) alucinaciones factuales |
| Solicitar incertidumbre | ”Si no estás seguro de un dato, indícalo explícitamente” | El modelo indica “no puedo verificar…” |
| Grounding con documentos | Proporcionar el texto legal real y pedir análisis sobre él | La IA trabaja sobre datos proporcionados, no inventados |
| Chain of thought | ”Explica paso a paso tu razonamiento antes de dar la respuesta” | Reduce errores en razonamiento complejo |
| Temperatura baja | Configurar temperatura a 0.0-0.3 | Respuestas más conservadoras y menos creativas |
| RAG (Retrieval Augmented Generation) | Conectar la IA a una base de datos verificada | Las respuestas se basan en datos reales recuperados |
Alucinaciones de IA y deepfakes: convergencia de riesgos
La amenaza combinada
Las alucinaciones de texto y los deepfakes de imagen, audio y vídeo representan dos manifestaciones del mismo problema fundamental: la IA generativa puede crear contenido falso indistinguible del real.
| Tipo de contenido | Alucinación de IA | Deepfake | Convergencia |
|---|---|---|---|
| Texto | Sentencias falsas, datos inventados | — | Informes periciales con análisis de pruebas deepfake alucinados |
| Imagen | Descripciones de imágenes inexistentes | Fotos generadas por IA | IA describe una foto deepfake como “real” |
| Audio | Transcripciones de conversaciones inventadas | Clonación de voz | Transcripción alucinada de un audio deepfake |
| Vídeo | Descripciones de vídeos inexistentes | Vídeos generados por IA | Análisis alucinado de un vídeo deepfake |
| Documentos | Datos y citas falsos | Documentos visualmente falsificados | Documento deepfake validado por análisis alucinado |
Impacto en la cadena de evidencias
ESCENARIO DE RIESGO MÁXIMO:
1. Atacante genera un deepfake de vídeo (prueba falsa)
2. Abogado usa IA para analizar la "prueba"
3. La IA alucina un análisis que "confirma" la autenticidad
4. Se presenta al tribunal como prueba con "análisis técnico"
Resultado: Prueba falsa + análisis falso = doble engaño
ESCENARIO CORRECTO:
1. Se presenta la prueba (potencialmente deepfake)
2. Perito humano analiza con herramientas forenses verificadas
3. El perito detecta artefactos de generación por IA
4. Informe pericial documenta los hallazgos con evidencias
Resultado: El perito humano es la barrera contra ambos riesgosEl futuro de las alucinaciones de IA
Tendencias tecnológicas (2026-2028)
| Tendencia | Descripción | Impacto en alucinaciones |
|---|---|---|
| RAG mejorado | Modelos con acceso en tiempo real a bases de datos verificadas | Reduce alucinaciones factuales, no las elimina |
| Modelos con citación | IA que vincula cada afirmación a una fuente verificable | Facilita la verificación, pero las fuentes pueden ser mal interpretadas |
| Watermarking obligatorio | Legislación que exija marcar el contenido generado por IA | Permite identificar texto de IA pero es eludible |
| Modelos más pequeños y especializados | LLMs entrenados específicamente en un dominio (derecho, medicina) | Menos alucinaciones en su dominio, más en otros |
| Detección multimodal | Herramientas que analizan texto + metadatos + estilo simultáneamente | Mejor detección de contenido de IA |
| Estándares de transparencia | AI Act exigirá trazabilidad de sistemas de alto riesgo | Mayor responsabilidad de proveedores de IA |
Implicaciones para el sistema judicial
| Escenario futuro | Probabilidad | Preparación necesaria |
|---|---|---|
| Obligación de declarar uso de IA | Muy alta | Formularios de declaración en escritos judiciales |
| Verificación automática de citas | Alta | Integración de CENDOJ con herramientas de verificación |
| Peritos especializados en IA | Alta | Formación de peritos en análisis de contenido generado |
| Presunción de autenticidad debilitada | Media | Nuevas reglas probatorias para evidencia digital |
| IA como herramienta oficial del tribunal | Media | Protocolos de uso con verificación humana obligatoria |
El perito informático como garantía de autenticidad
En la era de la IA generativa, el perito informático forense se convierte en un garante de autenticidad: puede verificar si un texto fue generado por IA, si una prueba digital es auténtica, si una imagen o vídeo es un deepfake, y si un informe contiene datos fabricados. Esta función es cada vez más demandada por tribunales, abogados y empresas.
Guía práctica: verificación de jurisprudencia en España
Para cualquier profesional jurídico que utilice IA como herramienta de investigación, es fundamental verificar toda la jurisprudencia citada. Esta guía proporciona un proceso sistemático.
Proceso de verificación
Identificar la cita: Anotar el número de sentencia, tribunal, fecha y sala que la IA proporciona. Ejemplo: “STS ####/2024 de 15 de mayo, Sala 1.ª”.
Buscar en CENDOJ: Acceder a la base de datos del CENDOJ (poderjudicial.es/search) e introducir los datos de la sentencia. Si no aparece, es probablemente una alucinación.
Verificar en bases de datos jurídicas: Si no se encuentra en CENDOJ, buscar en Aranzadi (Westlaw), La Ley (Wolters Kluwer) o vLex. Estas bases de datos son más completas.
Comprobar la ratio decidendi: Si la sentencia existe, verificar que el contenido que la IA atribuye a la sentencia (ratio decidendi, obiter dicta, fallo) coincide con el texto real.
Verificar vigencia: Comprobar que la sentencia no ha sido anulada, modificada o superada por jurisprudencia posterior.
Documentar la verificación: Registrar el resultado de la verificación para cada cita, con fecha de consulta y base de datos utilizada.
Señales de alerta en jurisprudencia generada por IA
| Señal | Ejemplo | Qué hacer |
|---|---|---|
| Número de sentencia muy redondo | ”STS 500/2024” | Verificar en CENDOJ |
| Fecha demasiado conveniente | La sentencia es exactamente del tema preguntado | Verificar existencia |
| Ponente desconocido | Nombre de magistrado que no existe en la Sala | Verificar en la composición del tribunal |
| Ratio decidendi perfecta | La sentencia dice exactamente lo que el abogado necesita | Verificar el texto real |
| Sala incorrecta | Sala Penal resolviendo tema civil | Error de IA en la asignación de sala |
| Múltiples sentencias en la misma dirección | La IA proporciona 5 sentencias que apoyan exactamente la misma tesis | Probable fabricación en serie |
| Ausencia de jurisprudencia contraria | La IA no menciona sentencias en contra | Sesgo de confirmación algorítmico |
Estadísticas sobre alucinaciones de IA
Tasas de alucinación por modelo y tipo
Los fabricantes no publican tasas de alucinación jurídica de sus propios modelos. Lo que sí existe es investigación académica independiente, y sus cifras son mucho peores que cualquier estimación de la industria.
Modelos generalistas — Large Legal Fictions: Profiling Legal Hallucinations in Large Language Models, de Dahl, Magesh, Suzgun y Ho (Stanford RegLab e Institute for Human-Centered AI, publicado en el Journal of Legal Analysis). El estudio ejecutó más de 800.000 consultas —más de 200.000 por modelo— sobre jurisprudencia federal estadounidense, con métodos distintos según la tarea:
| Modelo | Tasa de alucinación en consultas jurídicas |
|---|---|
| GPT-4 | 58 % |
| GPT-3.5 | 69 % |
| Llama 2 | 88 % |
Herramientas jurídicas especializadas — Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools, del mismo equipo (Journal of Empirical Legal Studies), sobre las herramientas comerciales tal como estaban en mayo de 2024:
| Herramienta | Tasa de alucinación |
|---|---|
| Lexis+ AI | 17 % |
| Westlaw AI-Assisted Research | 33 % |
| GPT-4 (como referencia) | 43 % |
El dato que importa para un peritaje: incluso las herramientas construidas sobre bases de datos jurídicas propias —las que se venden como «libres de alucinaciones»— fallan entre una de cada seis y una de cada tres veces.
Nota importante: Estas tasas dependen del modelo, de su versión, de la jurisdicción (los estudios citados analizan jurisprudencia federal estadounidense) y de la complejidad de la pregunta. No deben trasladarse sin más al derecho español, a modelos posteriores ni al rendimiento de un perito.
Impacto económico y legal
El recuento de casos judiciales con citas alucinadas no lo lleva ningún organismo oficial, sino una base de datos abierta: AI Hallucination Cases, mantenida por Damien Charlotin, que registra resoluciones de todo el mundo en las que un tribunal ha constatado citas fabricadas por IA, con la jurisdicción, la fecha y la sanción de cada una.
Se enlaza el registro en vivo en lugar de congelar un total: crece cada semana, y cualquier cifra que se escriba aquí quedará corta antes de que la leas. Las sanciones concretas y comparables están en la tabla de resoluciones de más arriba, cada una con su tribunal y su cuantía.
Conclusión
Las alucinaciones de inteligencia artificial representan uno de los riesgos más significativos de la integración de IA generativa en el ámbito jurídico y forense. No son errores esporádicos sino una característica inherente al funcionamiento de los modelos de lenguaje, que generan texto estadísticamente plausible sin verificar su veracidad.
Los casos de Mata v Avianca, las multas de los tribunales españoles (Canarias y Galicia) y la creciente regulación europea (AI Act, Instrucción CGPJ 2/2026) demuestran que este riesgo es real y tiene consecuencias tangibles: sanciones económicas, inadmisión de pruebas, daño reputacional y, potencialmente, responsabilidad penal.
Para el perito informático forense, las alucinaciones de IA presentan una doble dimensión: por un lado, el riesgo de incorporar datos alucinados en sus propios informes; por otro, la oportunidad de ofrecer un servicio cada vez más demandado: la verificación de autenticidad de contenido potencialmente generado por IA. En un mundo donde la IA puede generar texto, imágenes, audio y vídeo indistinguibles de la realidad, el perito humano que verifica, analiza y certifica la autenticidad del contenido digital se convierte en un profesional imprescindible.
La prevención requiere una combinación de tecnología (herramientas de detección, RAG, watermarking) y disciplina profesional (verificación exhaustiva, uso de fuentes primarias, transparencia sobre el uso de IA). Ni la tecnología sola ni la voluntad humana sola son suficientes: la respuesta efectiva a las alucinaciones de IA exige ambas.
¿Tienes un caso con evidencia digital de por medio?
Una valoración previa dice qué evidencia existe, en qué estado está y si es técnicamente preservable, antes de invertir en el procedimiento.
Referencias y fuentes
Mata v. Avianca, Inc., No. 22-cv-1461 (PKC) (S.D.N.Y. 2023) — Orden de sanciones del juez P. Kevin Castel, de 22 de junio de 2023, sobre citación de jurisprudencia inexistente generada por ChatGPT: multa solidaria de 5.000 dólares a los abogados Peter LoDuca y Steven Schwartz y a su bufete. Opinion and Order on Sanctions (PDF)
Reglamento (UE) 2024/1689 (AI Act) — Reglamento Europeo de Inteligencia Artificial. Clasificación de sistemas de alto riesgo y obligaciones de transparencia. Disponible en: eur-lex.europa.eu
Dahl, M., Magesh, V., Suzgun, M. y Ho, D. E. (2024). Large Legal Fictions: Profiling Legal Hallucinations in Large Language Models. Stanford RegLab e Institute for Human-Centered AI. Más de 800.000 consultas sobre jurisprudencia federal estadounidense; las tasas de alucinación varían según el modelo, la tarea y la versión evaluada (véanse las tablas del artículo). No deben trasladarse al derecho español, a modelos posteriores ni al rendimiento de un perito.
Instrucción 2/2026, de 28 de enero, del Pleno del CGPJ, sobre la utilización de sistemas de inteligencia artificial en el ejercicio de la actividad jurisdiccional. BOE-A-2026-2205
INCIBE — catálogo de guías para empresas, donde el organismo publica sus materiales sobre riesgos de la IA generativa y pueden buscarse por título.
Ley 1/2000, de 7 de enero, de Enjuiciamiento Civil — Artículo 247 sobre buena fe procesal y sanciones.
GPTZero — Documentación técnica sobre detección de texto generado por IA. Disponible en: gptzero.me
Originality.ai — detector comercial de texto generado por IA. Disponible en: originality.ai
Anthropic — índice de publicaciones de investigación sobre alineamiento y comportamiento de los modelos.
OpenAI — GPT-4 Technical Report (2023), §5, sobre limitaciones y fiabilidad: «it still is not fully reliable».
CENDOJ — Centro de Documentación Judicial. Base de datos de jurisprudencia del Consejo General del Poder Judicial. Disponible en: poderjudicial.es/search
Tribunal Superior de Justicia de Navarra — La Sala de lo Social archivó sin multa una pieza por citas inventadas incluidas en un recurso de octubre de 2025; comunicado por el CGPJ en marzo de 2026: nota de prensa.
ENISA — catálogo de publicaciones sobre IA y ciberseguridad.
Ley Orgánica 10/1995, de 23 de noviembre, del Código Penal — Artículos aplicables a falsedad documental y fraude procesal.
Última actualización: 18 de agosto de 2026 Categoría: Técnico Código: TEC-060
Preguntas Frecuentes
¿Qué es una alucinación de IA?
Una alucinación de IA se produce cuando un modelo de inteligencia artificial generativa (como ChatGPT, Claude, Gemini o Llama) genera información que parece plausible pero es falsa o inventada. Puede fabricar citas de libros inexistentes, sentencias judiciales que nunca se dictaron, datos estadísticos sin base real o referencias académicas ficticias. El modelo presenta esta información con el mismo nivel de confianza que la información correcta.
¿Por qué las IA alucinan?
Las IA generativas predicen la siguiente palabra más probable en función de patrones estadísticos aprendidos durante el entrenamiento. No 'entienden' ni 'verifican' los hechos: generan texto plausible. Las causas principales son: datos de entrenamiento incompletos o erróneos, limitaciones del mecanismo de atención, parámetros de temperatura altos que favorecen respuestas creativas, y ausencia de acceso a bases de datos actualizadas.
¿Pueden las alucinaciones de IA afectar a un juicio?
Sí, y ya ha ocurrido. En el caso Mata v Avianca (2023), un abogado estadounidense presentó un escrito con 6 sentencias completamente inventadas por ChatGPT. En España ya hay tres multas impuestas: 420 euros (TSJ de Canarias, febrero de 2026), 1.800 euros (TSJ de Galicia, julio de 2026) y 840 euros (TSJ de Canarias, julio de 2026), todas por citar jurisprudencia inexistente generada por IA. El riesgo afecta también a informes periciales, pruebas digitales y documentos probatorios elaborados con ayuda de IA.
¿Cómo se detecta si un texto ha sido generado por IA?
Existen varias aproximaciones: herramientas de detección como GPTZero, Originality.ai, Copyleaks y Turnitin que analizan patrones estadísticos del texto; análisis de perplejidad y burstiness (los textos de IA tienden a ser más uniformes); verificación factual de las afirmaciones (las fuentes citadas existen realmente); y análisis de metadatos del documento. Ninguna herramienta es 100% fiable.
¿Puede un perito informático demostrar que un texto fue generado por IA?
Un perito informático puede realizar un análisis forense del texto que incluya: análisis con múltiples herramientas de detección de IA, verificación de fuentes y citas, análisis de metadatos del documento (fecha de creación, software utilizado), análisis de consistencia estilística, y comparación con el estilo de escritura habitual del supuesto autor. El resultado se expresa en términos de probabilidad, no de certeza absoluta.
¿Es legal usar IA para redactar escritos judiciales en España?
No existe una prohibición legal explícita de usar IA como herramienta de apoyo en la redacción de escritos judiciales. Sin embargo, el abogado o procurador es responsable de la veracidad de todo lo que presenta ante el tribunal. Si la IA genera citas falsas o jurisprudencia inexistente, la responsabilidad recae plenamente sobre el profesional. La Instrucción CGPJ 2/2026 establece directrices sobre el uso de IA en el ámbito judicial.
¿Qué tipos de alucinaciones de IA existen?
Los principales tipos son: alucinaciones factuales (datos inventados presentados como hechos), alucinaciones de citas (referencias bibliográficas inexistentes), alucinaciones legales (sentencias o artículos de ley que no existen), alucinaciones de código (funciones o APIs inexistentes), alucinaciones de identidad (la IA inventa expertos o instituciones), y alucinaciones narrativas (historias coherentes pero completamente ficticias).
¿Qué pasó en el caso Mata v Avianca?
El 1 de marzo de 2023, el abogado Peter LoDuca presentó ante el Tribunal del Distrito Sur de Nueva York un escrito que incorporaba 6 sentencias obtenidas por su compañero Steven Schwartz con ChatGPT. El juez descubrió que las 6 eran completamente inventadas y, el 22 de junio, impuso una multa solidaria de 5.000 dólares a ambos abogados y al bufete. El caso sentó un precedente mundial sobre los riesgos de usar IA sin verificación en procedimientos judiciales.
¿Las herramientas de detección de IA son fiables como prueba pericial?
Las herramientas de detección tienen limitaciones: riesgo de falsos positivos, sensibilidad reducida con textos editados por humanos, resultados que varían según el idioma y que deben comprobarse en el idioma del documento, y evolución constante de los modelos de IA que las hacen obsoletas rápidamente. Un perito debe usar múltiples herramientas, complementar con análisis factual, y expresar conclusiones en términos probabilísticos.
¿Qué consecuencias tiene presentar contenido alucinado por IA en un tribunal español?
Las consecuencias pueden incluir: sanción por mala fe procesal (art. 247 LEC) con multas de 180 a 6.000 euros, inadmisión de la prueba, responsabilidad disciplinaria del abogado ante el colegio profesional, posible responsabilidad penal si hay ánimo de engaño al tribunal, y daño reputacional significativo. Canarias y Galicia ya han impuesto multas; el asunto del TSJ de Navarra recogido en este glosario terminó sin sanción pecuniaria.
¿Necesitas un peritaje forense?
Si necesitas ayuda profesional con análisis forense digital, estoy aquí para ayudarte.
Solicitar Consulta Gratuita