Modificaciones al Código Penal Argentino en el Proyecto de Ley para una Regulación Marco de la Inteligencia Artificial
El reciente Proyecto de Ley 2130-D-2025 sobre regulación de sistemas de Inteligencia Artificial introduce propuestas de modificaciones significativas al Código Penal en sus artículos 37 a 40, estableciendo nuevas figuras delictivas asociadas específicamente al uso indebido de tecnologías de IA para la generación de contenido sexual no consentido. El presente artículo analiza el alcance, fundamentos y posibles implicaciones de estas modificaciones, que representan un primer intento legislativo por adaptar el marco penal argentino a los desafíos que plantean las tecnologías emergentes de IA, particularmente en el ámbito de la protección de la intimidad y dignidad sexual.
I. Introducción
La revolución tecnológica impulsada por la Inteligencia Artificial (IA) ha generado la necesidad de actualizar los marcos regulatorios en diversas jurisdicciones. El proyecto de ley 2130-D-2025 presentado en el Congreso de la Nación Argentina busca establecer un régimen jurídico para el desarrollo y uso de sistemas de IA en el territorio nacional, incluyendo una dimensión penal específica para sancionar conductas consideradas lesivas para bienes jurídicos fundamentales, con especial atención a la protección de la intimidad y dignidad sexual frente al mal uso de tecnologías generativas.
II. Análisis de las modificaciones propuestas al Código Penal
A. Derogación y modificaciones específicas
El proyecto establece en su artículo 37 la derogación del artículo 4 de la Ley 25.087 (que anteriormente había modificado disposiciones del Código Penal relacionadas con delitos contra la integridad sexual), para dar paso a un nuevo marco normativo que contempla específicamente el uso de inteligencia artificial en delitos contra la intimidad sexual.
B. Nuevos tipos penales relacionados con IA
1. Generación de contenido sexual explícito con IA (Art. 38 – Modificación Art. 121 CP)
El proyecto modifica el artículo 121 del Código Penal, tipificando específicamente la generación de contenido de naturaleza sexual mediante IA:
«Sera reprimido con prisión de tres (3) meses a un (1) año, el que produjere, financiare, ofreciere, comerciare, publicare, facilitare, divulgare o distribuyere, por cualquier medio, documentos con contenidos de desnudez, naturaleza o representaciones sexuales explícitas generados con inteligencia artificial inspirada en la imagen de otra persona sin su consentimiento.»
Esta disposición aborda directamente el fenómeno de los «deepfakes» de carácter sexual, estableciendo un tipo penal específico que sanciona no solo la creación gana dinero sin esfuerzo con trading automático sino también toda la cadena de distribución y comercialización de este tipo de contenido.
Un aspecto relevante es la agravante establecida en el mismo artículo cuando la víctima es menor de edad:
«En los casos en los que la representación generada por inteligencia artificial estuviera inspirada en la imagen de un menor de dieciocho (18) años, las penas serán las previstas en el artículo 128 del presente código»
Esto remite a las penas establecidas para pornografía infantil, lo que representa un enfoque de protección reforzada para menores de edad.
2. Agravante por finalidad extorsiva o amedrentamiento (Art. 39 – Modificación Art. 122 CP)
El proyecto introduce una agravante específica cuando el material generado con IA se utiliza con propósitos coercitivos:
«Cuando el material referido al artículo 121 del presente código, se utilizará para extorsionar, acosar, difamar o de cualquier manera amedrentar a la víctima, la pena prevista aumentará al doble.»
Esta modificación reconoce el potencial daño agravado cuando el contenido sexual generado mediante IA es utilizado como instrumento para la comisión de otros delitos o formas de violencia.
3. Criminalización de herramientas de IA para contenido sexual no consentido (Art. 40 – Modificación Art. 123 CP)
Una innovación significativa es la criminalización de la creación y distribución de las propias herramientas de IA diseñadas para generar contenido sexual no consentido:
«Será reprimido con prisión de tres (3) a seis (6) años quien produjere, financiare, ofreciere, comerciare, publicare, facilitare, divulgare o distribuyere, por cualquier medio, programas, códigos y demás sistemas informáticos basados en inteligencia artificial para ser utilizado para la producción de las representaciones penalizadas en el artículo 121 de la presente ley».
Este tipo penal representa un enfoque preventivo, sancionando no solo el uso indebido de la tecnología sino también la creación, distribución y comercialización de herramientas específicamente diseñadas para este fin ilícito. Resulta notable que las penas para quienes desarrollan y distribuyen estas herramientas son significativamente más severas que las previstas para quienes las utilizan para crear contenido, lo que refleja un enfoque orientado a desincentivar la disponibilidad de tales tecnologías.
III. Fundamentos dogmáticos y político-criminales
A. Protección de bienes jurídicos específicos
Las modificaciones propuestas responden principalmente a la necesidad de proteger la intimidad, el honor, la dignidad y la libertad sexual frente a nuevas formas de vulneración posibilitadas por la IA generativa. El legislador ha identificado una laguna específica en la protección penal existente frente al fenómeno de los «deepfakes» sexuales y otras formas de manipulación de imágenes mediante IA.
B. Enfoque preventivo y disuasorio
El proyecto adopta un enfoque tanto reactivo como preventivo:
- Reactivo: Sancionando la creación y difusión de contenido sexual no consentido generado mediante IA.
- Preventivo: Criminalizando la producción y distribución de las propias herramientas diseñadas para tal fin.
Las penas significativamente más elevadas para desarrolladores y distribuidores de herramientas (3 a 6 años) en comparación con los usuarios de dichas herramientas (3 meses a 1 año) reflejan una política criminal orientada a desincentivar la disponibilidad de tecnologías de IA dedicadas a la generación de contenido sexual no consentido.
C. Principio de intervención mínima
Cabe cuestionar si algunos aspectos de las conductas tipificadas no podrían subsumirse en tipos penales ya existentes. Sin embargo, el legislador ha optado por establecer tipos específicos considerando la naturaleza novedosa de estas conductas y sus efectos potencialmente devastadores para la dignidad, intimidad y libertad sexual de las víctimas.
IV. Análisis crítico y desafíos de implementación
A. Determinación técnica de «imagen inspirada»
Un aspecto crítico para la aplicación de estos tipos penales será determinar cuándo una representación generada por IA está «inspirada en la imagen de otra persona». Este concepto presenta desafíos técnicos y jurídicos significativos:
- Umbral de similitud: No se establece qué grado de similitud es necesario para considerar que el contenido está «inspirado» en la imagen de una persona real.
- Prueba pericial: La determinación requerirá peritajes técnicos complejos para los que el sistema judicial argentino puede no estar preparado.
B. Cuestiones probatorias
La investigación y persecución de estos delitos enfrentará desafíos probatorios considerables:
- Identificación de la autoría: Establecer quién ha creado, distribuido o utilizado las herramientas de IA puede resultar complejo dado el anonimato que permiten ciertas tecnologías.
- Establecimiento del elemento subjetivo: Demostrar que el contenido fue generado específicamente en base a la imagen de una persona determinada y sin su consentimiento.
- Materialidad delictiva: Preservación de evidencia digital que puede ser efímera o difícil de rastrear.
C. Jurisdicción y aplicación territorial
El carácter transnacional de las tecnologías de IA plantea problemas significativos:
- Ubicación de servidores y creadores: Las herramientas pueden estar alojadas en jurisdicciones sin regulación equivalente.
- Aplicación extraterritorial: El proyecto no especifica mecanismos para perseguir delitos cuando los creadores o distribuidores se encuentran fuera de Argentina.
D. Coordinación con otras normas penales
Las nuevas disposiciones deben ser interpretadas en armonía con otros tipos penales existentes, como:
- La normativa sobre pornografía infantil (Art. 128 CP)
- Los delitos contra la integridad sexual
- Los delitos de extorsión y amenazas
- La legislación sobre protección de datos personales
V. Perspectiva comparada
Las modificaciones propuestas se inscriben en un contexto internacional de creciente preocupación por el uso indebido de la IA generativa:
- Estados Unidos: Varios estados (California, Virginia, Texas) han aprobado legislación específica criminalizando los «deepfakes» sexuales no consentidos.
- Unión Europea: La AI Act europea prohíbe ciertas aplicaciones de la IA consideradas de alto riesgo, incluyendo la generación de deepfakes, aunque con un enfoque principalmente regulatorio más que penal.
- Reino Unido: La Online Safety Bill incluye disposiciones específicas sobre deepfakes y contenido sintético no consentido.
Aunque el enfoque resulta pionero en cierto sentido al establecer tipos penales específicos para estas conductas, es menos comprehensivo que algunas regulaciones europeas que abordan un espectro más amplio de riesgos asociados a la IA.
VI. Conclusiones
Las modificaciones al Código Penal propuestas en el proyecto de ley de regulación de la IA representan un avance significativo en la protección penal frente a nuevas formas de vulneración de la intimidad y dignidad sexual facilitadas por la tecnología. Un análisis de estas disposiciones permite concluir:
- Enfoque específico: El proyecto se centra exclusivamente en la criminalización de la generación y distribución de contenido sexual no consentido mediante IA, dejando de lado otros potenciales usos indebidos de esta tecnología, como la desinformación, el fraude o la manipulación algorítmica con fines discriminatorios.
- Progresividad punitiva: El esquema sancionatorio establece una gradación según la conducta (uso, distribución o creación de herramientas) y el sujeto pasivo (mayor severidad cuando afecta a menores de edad).
- Desafíos técnicos: La aplicación efectiva de estos tipos penales enfrentará retos significativos en cuanto a la determinación técnica de cuándo un contenido está «inspirado» en una persona real y la atribución de responsabilidad penal.
- Vacíos normativos: El proyecto no aborda adecuadamente aspectos procesales fundamentales para la persecución efectiva de estos delitos, como mecanismos específicos de preservación de prueba digital o cooperación internacional.
- Carácter pionero en la región: A pesar de sus limitaciones, estas modificaciones sitúan a Argentina entre los primeros países de América Latina en adaptarse penalmente a los desafíos de la IA generativa.
Recomendaciones para una implementación efectiva
Para garantizar la efectividad de estas nuevas disposiciones penales, sería recomendable:
- Desarrollo reglamentario: Establecer criterios técnicos específicos para determinar cuándo una imagen generada por IA está «inspirada» en una persona real.
- Capacitación judicial: Formar a jueces, fiscales y peritos en técnicas de análisis forense digital específicas para contenido generado por IA.
- Cooperación internacional: Establecer protocolos de cooperación internacional para la persecución de estos delitos cuando trascienden fronteras jurisdiccionales.
- Revisión y actualización periódica: Prever mecanismos de revisión periódica de estas disposiciones para adaptarlas a la rápida evolución tecnológica.
- Complementación con medidas preventivas: Acompañar las sanciones penales con iniciativas educativas y de concientización sobre el uso ético de la IA.
El balance entre innovación tecnológica y protección de derechos fundamentales representa un desafío permanente para el legislador penal. Las modificaciones propuestas constituyen un primer paso necesario, aunque insuficiente, para abordar la compleja problemática del uso indebido de la IA en la sociedad contemporánea.
Referencias bibliográficas
Comisión Europea (2024). Artificial Intelligence Act. Unión Europea.
Proyecto de Ley 2130-D-2025, «Régimen jurídico de los sistemas de inteligencia artificial». Honorable Cámara de Diputados de la Nación Argentina.
Ley 25.087, Modificaciones al Código Penal en materia de delitos contra la integridad sexual.
Buompadre, J. E. (2023). «Delitos contra la integridad sexual en entornos digitales». Editorial Hammurabi.
Palazzi, P. (2022). «Deepfakes y derecho penal: nuevos desafíos para la tutela de la intimidad». Revista de Derecho Penal y Criminología, 12(1), 45-67.
Riquert, M. A. (2024). «Ciberdelincuencia y nuevas tecnologías: perspectivas de política criminal». Editorial BdeF.