Equipo de Noticias Latinas
El Ministerio Público Fiscal de la Nación estableció un marco obligatorio para regular el uso de inteligencia artificial dentro del organismo. La decisión, aprobada por el procurador general Eduardo Casal, alcanza a todo su personal y establece restricciones específicas para proteger información judicial, garantizar la intervención humana y evitar que sistemas automatizados sustituyan el criterio jurídico.
La normativa introduce además obligaciones de capacitación, evaluación de riesgos, auditoría y seguridad, al tiempo que impulsa el desarrollo de herramientas tecnológicas propias para disminuir la dependencia de plataformas abiertas.
Datos de causas y víctimas no podrán cargarse en sistemas públicos
Una de las restricciones más relevantes afecta directamente al uso cotidiano de herramientas como ChatGPT, Gemini o Copilot.
El personal no podrá introducir en aplicaciones de inteligencia artificial abiertas al público información reservada, datos pertenecientes a causas en trámite ni información personal o sensible, mientras no existan reglas específicas que autoricen y regulen esos tratamientos.
La protección alcanza especialmente a información relacionada con causas judiciales, víctimas y testigos.
El reglamento considera que la seguridad y confidencialidad de esos datos constituye una condición indispensable para incorporar inteligencia artificial al trabajo del organismo.
La IA podrá asistir, pero no decidir
Otro de los límites centrales es la prohibición de fundamentar decisiones judiciales o administrativas exclusivamente en resultados producidos por inteligencia artificial.
“Los sistemas de inteligencia artificial pueden asistir el análisis y la clasificación de datos, pero no reemplazan el juicio jurídico ni la toma de decisiones sobre conflictos humanos”, establece el documento.
Cada resultado deberá quedar sujeto a revisión, comprobación y supervisión humana.
Esto significa que la IA podrá funcionar como herramienta auxiliar, pero la responsabilidad sobre las decisiones continuará correspondiendo a las personas que intervienen en cada procedimiento.
Además, los resultados deberán contrastarse con fuentes oficiales y documentación institucional, especialmente cuando sean utilizados como apoyo para tareas jurídicas.
El 93,3% apoya una incorporación regulada de la IA
La decisión estuvo precedida por una encuesta interna que alcanzó aproximadamente al 40% del personal del Ministerio Público Fiscal.
Los resultados revelaron un elevado nivel de aceptación de estas tecnologías: el 93,3% se manifestó favorable a una incorporación regulada de inteligencia artificial, siempre que existan controles humanos, garantías de privacidad y reglas claras respecto de qué puede y qué no puede hacerse con estos sistemas.
Entre quienes ya utilizan inteligencia artificial, ChatGPT aparece como la herramienta dominante, con el 90,2%.
Le siguen Gemini, con 40,6%, y Copilot, con 16,7%.
Otro dato significativo es la modalidad de acceso: el 73% utiliza versiones gratuitas, mientras que un 23% paga suscripciones con dinero propio.
Las herramientas se emplean principalmente para búsquedas doctrinarias, corrección de textos, traducciones y generación de imágenes.
Advertencia sobre las respuestas generadas por IA
El reglamento también advierte sobre un problema especialmente sensible para el ámbito jurídico: un modelo de inteligencia artificial no debe confundirse con una base profesional de jurisprudencia o doctrina ni con un buscador oficial.
Según señala el documento, estos sistemas no necesariamente obtienen sus respuestas de fuentes verificadas y pueden priorizar la probabilidad lingüística por encima de la exactitud jurídica.
Por esa razón, una respuesta aparentemente convincente no podrá considerarse suficiente para sustentar una actuación oficial.
La validación contra documentación y fuentes confiables pasa a convertirse en una obligación para quienes utilicen estas tecnologías.
Capacitación permanente para fiscales y personal
La nueva política no se limita a establecer prohibiciones.
La Dirección General de Capacitación y Escuela del Ministerio Público Fiscal, conjuntamente con la Secretaría de Coordinación Institucional, deberá implementar un programa permanente de formación práctica en inteligencia artificial.
Entre los contenidos previstos estarán la elaboración correcta de instrucciones para interactuar con los sistemas, la comprobación de resultados y la identificación y reducción de posibles sesgos.
De esta manera, el organismo busca que el uso de IA no dependa simplemente del conocimiento individual que cada trabajador haya adquirido por su cuenta.
El Ministerio Público desarrollará sus propias herramientas
Otra parte de la estrategia apunta a crear entornos tecnológicos institucionales.
La Dirección General de Desarrollo Organizacional y Nuevas Tecnologías tendrá la responsabilidad de avanzar en herramientas propias que cumplan estándares de seguridad y protección de datos.
El objetivo es reducir progresivamente la dependencia de servicios abiertos y conservar un mayor control sobre la información utilizada dentro del Ministerio Público Fiscal.
Diez principios para regular la inteligencia artificial
El reglamento establece diez principios destinados a orientar la utilización y futura incorporación de sistemas de IA.
Entre los ejes principales aparecen la legalidad y el respeto de los derechos humanos, lo que obliga a adecuar cualquier utilización tecnológica a las leyes argentinas y a los tratados internacionales aplicables.
También se exige justicia y equidad, con especial atención a la prevención de sesgos y tratamientos discriminatorios.
La incorporación de una herramienta deberá responder además a una finalidad pública: utilizar inteligencia artificial solo tendrá sentido cuando contribuya efectivamente a mejorar el servicio de justicia.
La supervisión humana será permanente y las personas calificadas deberán poder aceptar, modificar o rechazar los resultados producidos por los sistemas.
A ello se suman la protección de datos personales y privacidad, la transparencia, la posibilidad de explicar y auditar el funcionamiento de los sistemas y la responsabilidad institucional de quienes los utilicen.
Incluso cuando una herramienta sea desarrollada por una empresa externa, la responsabilidad por su utilización no podrá trasladarse automáticamente al proveedor.
Antes de utilizar IA habrá que demostrar que realmente es necesaria
La regulación incorpora otro criterio significativo: no todo problema debe resolverse mediante inteligencia artificial.
Antes de implementar un sistema será necesario identificar con precisión qué problema se pretende solucionar y determinar si la IA constituye realmente la alternativa adecuada o si existen mecanismos más simples y con menores riesgos.
También deberán identificarse las fuentes de los datos utilizados, evaluar su calidad y excluir información personal o confidencial cuando no pueda anonimizarse correctamente.
Sistemas de “riesgo inaceptable” quedarán prohibidos
Todo proyecto deberá atravesar además un análisis de impacto y riesgos antes de recibir autorización.
La clasificación obtenida determinará qué controles y auditorías serán necesarios.
Cuando una tecnología sea considerada de “riesgo inaceptable”, su utilización quedará directamente prohibida. Entre los ejemplos contemplados aparecen tecnologías que puedan involucrar formas de vigilancia masiva.
Si el Ministerio Público desarrolla una herramienta propia, deberá garantizar que pueda ser auditada internamente.
Cuando se trate de sistemas contratados a terceros, los proveedores deberán ofrecer garantías sobre confidencialidad, tratamiento de información y posibilidades de control incluso después de que la tecnología haya comenzado a utilizarse.
El marco toma como referencia estándares y recomendaciones internacionales elaborados por organismos como la Organización de los Estados Americanos (OEA), UNESCO y OCDE, adaptándolos al funcionamiento institucional argentino.
Auditorías incluso después de implementar los sistemas
La autorización inicial tampoco significará que una herramienta pueda continuar funcionando indefinidamente sin controles.
El reglamento exige mantenimiento, supervisión periódica, actualización y comunicación inmediata de incidentes.
La Unidad de Auditoría Interna tendrá a su cargo controles posteriores para determinar la eficacia de los sistemas, revisar las medidas implementadas y formular recomendaciones destinadas a corregir posibles problemas.
La responsabilidad individual ocupa también un lugar central.
“El manejo responsable de la información sensible en causas judiciales es una obligación indelegable de cada operador y operadora”, establece la normativa.
Con estas disposiciones, el Ministerio Público Fiscal busca incorporar una tecnología que ya está siendo utilizada ampliamente por su personal, pero bajo un principio que atraviesa toda la regulación: la inteligencia artificial puede asistir al sistema judicial, pero no reemplazar a quienes tienen la responsabilidad de investigar, evaluar y decidir.
El objetivo final queda resumido en una frase del propio documento: garantizar “que la tecnología esté al servicio de la justicia y no viceversa”.
