PJ Santa Fe Capacitación en IA
Recursos

Lecturas, glosario y FAQ

Material complementario del programa. No obligatorio, pero recomendado para profundizar.

📚 Lecturas recomendadas

Marco regulatorio

  • Unión Europea, AI Act (2024) — texto completo en EUR-Lex. Referencia obligada para entender el enfoque basado en riesgo.
  • OC-192/2008 — Corte IDH, caso Castillo Páez vs. Perú. Sobre el deber de fundamentación de las decisiones judiciales.
  • Acordada 31/2021 del TSJ de Santa Fe — sobre expediente digital.
  • Decreto 431/2023 — Plan Nacional de Inteligencia Artificial (Argentina).

Casos de estudio

  • COMPAS (EE.UU., 2016): ProPublica demostró sesgo racial en scoring de reincidencia. Lectura: Machine Bias.
  • Amazon hiring tool (2018): sesgo de género en screening de CVs. Documento interno de Reuters.
  • SyRI (Países Bajos, 2020): sistema de detección de fraude declarado ilegal por tribunal holandés.
  • Samsung ChatGPT leak (2023): caso de estudio clave sobre privacidad en uso corporativo de IA.

Doctrina nacional

Libros y papers

  • Los algoritmos y la justicia — varios autores (Ed. Ad-Hoc, 2023).
  • Acordadas y protocolos del TSJ de Santa Fe sobre uso de IA en el Poder Judicial (cuando se dicten).

📖 Glosario

Términos técnicos que vas a encontrar durante el programa. Diseñados para no técnicos.

IA (Inteligencia Artificial)
Sistema computacional que recibe input en lenguaje natural o datos, produce output (texto, decisión, recomendación), y fue entrenado con grandes volúmenes de datos. En este programa, nos referimos típicamente a modelos de lenguaje grandes (LLMs).
LLM (Large Language Model)
Modelo de lenguaje entrenado con enormes corpus de texto. Ejemplos: GPT-4, Claude, Gemini, Llama. Son la base de los chatbots y asistentes IA actuales.
Agente de IA
Sistema de IA que, además de responder, puede tomar acciones en sistemas externos (buscar en una BD, guardar un archivo, consultar una API). En este programa, usamos un swarm de agentes especializados en tareas judiciales.
Swarm
Conjunto de agentes especializados que colaboran, cada uno con su responsabilidad y sus propios gates de seguridad. En este programa, el swarm _judicial tiene 4 roles principales.
Gate
Regla de seguridad que controla si una acción puede ejecutarse. En el swarm _judicial, los gates J1, J2, J3 rigen las salidas.
Alucinación
Cuando la IA inventa datos que no existen (leyes derogadas citadas como vigentes, jurisprudencia ficticia, datos del expediente que no están). Es el riesgo principal que mitiga el gate J2.
Human-in-the-loop
Patrón de diseño donde la IA opera pero cada decisión pasa por un humano antes de tener efecto. Es el principio del gate J1.
Audit trail / trazabilidad
Registro de cada acción: timestamp, usuario, input, output, decisión humana, gate. Es la Regla de Oro operacional del Poder Judicial: trazabilidad obligatoria.
PII (Personally Identifiable Information)
Datos personales identificables: DNI, CUIT, nombre, domicilio, teléfono, email. En el PJ, son especialmente sensibles. Nunca deben enviarse a IA pública sin anonimizar.
NNA
Niñas, Niños y Adolescentes. La Convención sobre los Derechos del Niño (CDN) y la ley 26.061 los protegen especialmente. Toda decisión del swarm que involucre NNA tiene alertas automáticas.
CPCCSF
Código Procesal Civil y Comercial de la Provincia de Santa Fe. Es el código procesal de referencia en la mayoría de los casos civiles y de familia en la provincia.
CPCCSF art. 67
Artículo sobre requisitos de admisibilidad. Lo invoca el Rol A cuando falta el comprobante de pago de tasa de justicia.
Regla de Oro
Conjunto de 3 principios operacionales del swarm: J1 (control humano), J2 (prohibición de alucinación), J3 (la IA nunca firma). No son opcionales. Están hard-coded.
Prompt
El input que le das a un modelo de IA. En el contexto del swarm, los prompts están estructurados: contexto + pregunta + jurisdicción + período + tipo de fuente + formato esperado.

❓ Preguntas frecuentes

¿Necesito saber programar para hacer este curso?

No. El programa está diseñado para perfiles con formación en Derecho. La parte técnica se aborda en términos conceptuales. Los magistrados operan el swarm con triggers en español (ej. checklist rol-a FAM-2024-001); no tocan código.

¿La IA va a reemplazar a los secretarios?

No. El secretario es un auxiliar del juez con responsabilidad funcional: firma, asiste a audiencias, maneja la oficina. La IA no tiene personería jurídica, no se la puede sancionar, no tiene la formación ni la responsabilidad. La IA asiste tareas mecánicas. El secretario sigue siendo insustituible.

¿La IA firma las resoluciones?

Nunca. El gate J3 está hard-coded en el swarm: la IA no emite los verbos "FIRMO" o "DESPACHO" en imperativo propio. Si los intenta emitir, el sistema falla y escala. La firma es exclusivamente humana, con la responsabilidad del magistrado.

¿Qué pasa si la IA inventa una ley o un fallo?

El gate J2 enforced: la IA no emite output sin fuente explícita. Si la IA no puede verificar una cita (URL, expediente, fecha), no la incluye. Y la Regla de Oro exige al magistrado verificar cada cita antes de usar el output.

¿Puedo usar ChatGPT directamente con un escrito de demanda real?

No, nunca. Los servicios públicos de IA usan los inputs para entrenar modelos. Tu escrito de demanda (con PII de las partes) terminaría en los datos de entrenamiento. Es lo que le pasó a Samsung en 2023. La capacitación cubre este punto en detalle en el Módulo 2.

¿Y si uso un servicio "on-premise" o en nube privada del PJ?

Ahí el riesgo es distinto. Si el PJ tiene un contrato con un vendor auditado y los datos no salen de la infraestructura del PJ, el escenario es diferente. Pero la Regla de Oro (audit trail, fuente explícita, IA no firma) se mantiene igual. La capacitación cubre los criterios para evaluar servicios.

¿Cómo me inscribo?

El programa es gratuito para magistrados, secretarios y funcionarios del Poder Judicial de Santa Fe. Ver información de inscripción.

¿Y si tengo un caso real durante la capacitación?

El programa usa casos sintéticos del fuero de familia. Si en la práctica real querés aplicar lo aprendido, la Regla de Oro y los gates aplican igual. Y recordá: la capacitación es en modo training; el modo production (con datos reales) se activa después, en v1.1, con mayor rigurosidad.