Por Gabriel Gaburro*

El texto plantea con contundencia una estrategia escolar para construir una cultura digital basada en el consentimiento.

Sucede que alguien sube una foto a Instagram y automáticamente se devela una cara, un patio, un uniforme, una sonrisa que dura tres segundos. Un “otro” la copia con un toque de pantalla y la pasa por una aplicación que promete desnudar. En varios segundos existe una imagen de algo que esa persona nunca hizo, no dijo y nunca autorizó.

Aquí empieza la avalancha del daño, y lo que sigue ya no depende de la tecnología. Sin embargo, si depende de una cadena interminable compuesta por un grupo de WhatsApp, una carpeta compartida, un pack con precio. Cuando el cuerpo falso llega a la pantalla de los compañeros, la víctima que quizás sea la última persona en saberlo, ya perdió el control de su propia imagen. Y lo perdió en el lugar donde pasa sus mañanas o sus tardes entre compañeros, entre quienes la conocen.

Números que hablan

La Defensoría del Pueblo de la Ciudad de Buenos Aires consultó a adolescentes de 12 a 19 años y el panorama es inequívoco. El 43% recibió alguna vez imágenes o videos manipulados con inteligencia artificial y el 13% conoce casos dentro de su escuela. Pero acá se surge la “Alerta roja”, solo el 1% se declara víctima directa, esta es una cifra muy baja que inquieta porque nadie sabe cuántas víctimas callan. Y según lo exprese anteriormente en varias ocasiones, los adolescentes entrevistados han concluido que “Callar duele más” , frase que aun resuena en el alma.

Hay otros dos datos que pretenden mayor solidez. Apenas el 35% de los adolescentes verifica si lo que recibe es auténtico. Y cuando el daño ocurre, tan solo el 26% recurre a un adulto o a las autoridades escolares. A sabiendas que, el 82% reconoce que estas situaciones tienen efectos negativos en la salud mental de quien las padece.

El fenómeno excede a nuestro país, Argentina. Una investigación de Unicef, ECPAT e Interpol en 11 países estima que al menos 1,2 millones de niños y niñas vieron manipuladas sus imágenes con contenido sexual explícito durante el último año. En Estados Unidos, el Center for Democracy and Technology halló que el 15% de los estudiantes conocía, en el ciclo 2023-2024, un deepfake sexual de alguien de su escuela.

El daño es real aunque la imagen sea falsa

De las palabras propias de Unicef se desprende directamente que aunque las imágenes sean falsas, “el daño que causan es absolutamente real”. Una alumna que ve su rostro sobre un cuerpo ajeno quizás no distingue entre lo verdadero y lo verosímil. Tampoco lo hace el resto del curso que lo naturaliza en forma de broma.

A su vez, en el plano legal, la Ley 27.736, conocida como Ley Olimpia, incorporó en octubre de 2023 la violencia digital a la Ley 26.485 e incluye, entre las conductas contra las mujeres en entornos digitales, la difusión sin consentimiento de material digital real o editado, íntimo o de desnudez. En la provincia de Córdoba, un joven fue procesado por crear con inteligencia artificial imágenes sexuales falsas de compañeras y publicarlas con sus nombres, y la causa avanza hacia juicio.En estos días se conoce la agresión física y digital que recibió una adolescente de la provincia de Catamarca en su viaje de egresados por parte de sus compañeros que de forma impune publican por los medios jactándose de su sufrimiento, aquí la justicia interviene pero llega tarde a igual que la escuela y las familias, el daño mental y la autolesión ya se produjo. Así mismo, los fundamentos de proyectos presentados en la Cámara de Diputados admiten una zona gris cuando la imagen es generada por completo. La ley va detrás de la tecnología, como casi siempre. La escuela no puede esperarla. Todos llegan tarde.

Propuesta de cinco decisiones para cualquier escuela

Esta demostrado que “Prohibir” el celular no resuelve el problema, porque la agresión ocurre en el teléfono de otro, de noche, probablemente en un grupo que el colegio nunca verá dado el poder de viralización es ilimitado. Lo que sí puede hacer la escuela es modificar lo que cada estudiante considera normalizado, sé que es una tarea titánica, pero es posible porque es cultural. Aquí van las “Cinco decisiones” que están ordenadas de lo cultural a lo operativo.

A. Convertir el consentimiento en norma de convivencia. Acá la  regla es corta: ninguna imagen de otra persona se edita, se reenvía ni se publica sin su permiso, sea real o sintética. Conviene incorporarla a los acuerdos institucionales de convivencia, pero solo después de discutirla con los estudiantes. Una norma que se impone dura hasta el próximo recreo. Una que se discute tiene más chances de sobrevivir en el grupo de WhatsApp. Una que se hace parte de la Cultura institucional perdura.

B. Enseñar la pausa. Antes de reenviar, practicar la regla de los diez segundos y preguntar ¿quién la subió, de dónde sale, qué se gana con compartirla? . Con apenas un 35% de adolescentes que verifica estas sugerencias, ese hábito mínimo deja un margen enorme de mejora. Puede trabajarse en cualquier materia, en especial “construcción de la ciudadanía” o en los espacios destinados para la ESI, con ejemplos de imágenes falsas que circulan a diario.

C. Formar al testigo. En esta violencia digital hay una víctima y cientos de espectadores. Mirar, reaccionar con un emoji o reenviar “para que lo vean” sostiene el circuito y los constituye en cómplices del daño. Los estudiantes necesitan tres gestos bien concretos que se derivan en “ no reenviar, no comentar y avisar a un adulto”. Que tan solo el 26% lo haga hoy indica que ese gesto todavía no se planteó ni se enseñó. Los adolescentes también necesitan saber qué acciones pueden evitar, como descargar o guardar la imagen, porque Unicef considera que las imágenes sexualizadas de menores manipuladas con IA constituyen material de abuso sexual infantil. Alcanza con anotar dónde, cuándo y quién la difundió, sin copiar el archivo.

D. Escribir el protocolo de las primeras 24 horas. Cuando ocurre, la improvisación hiere y se torna ineficiente. El protocolo de actuación debe estar escrito y socializado, ser conocido por docentes y familias, y ordenar las prioridades según sea: proteger a la víctima antes que investigar al autor, avisar a las familias, solicitar la baja del contenido a las plataformas, realizar la denuncia ante las autoridades competentes y garantizar acompañamiento psicológico. En la Argentina, la línea 102 atiende consultas sobre derechos de niñas, niños y adolescentes. El CDT advierte que muchas escuelas se concentran en lo punitivo y descuidan la prevención y el apoyo a las víctimas. La sanción debe ser clara y debe llevar a la reflexión común. También lo es la reparación con sentido pragmático, y nunca a costa de volver a exponer a la víctima.

E. Abrir la conversación en casa. Según la Defensoría del pueblo e investigaciones sobre el fenómeno del Ciberbullying, alrededor de 2 de cada 10 adolescentes no tienen un espacio familiar para hablar de problemas digitales ni para comunicar sus sufrimientos. La escuela no reemplaza a la familia, pero puede convocarla y armar red, una reunión anual con el mismo guion que se usa en el aula, tres preguntas para la mesa y un único mensaje para los adultos. Si algo sale mal, antes de preguntar quién fue, preguntar cómo estás.

La pregunta que falta

La tecnología ya aprendió a imitar un rostro. Lo que todavía no hace es pedir permiso. Esa tarea sigue siendo humana y empieza en un aula, en un patio, en una conversación a tiempo.

La pregunta para cada escuela no es si algo así le va a pasar. Es si, cuando pase, los estudiantes sabrán qué hacer y los adultos sabrán por dónde empezar.

Fuentes consultadas

Deepfakes en escuelas porteñas: el 43% de los adolescentes recibió alguna vez imágenes o videos hechos con IA. Cita el informe de la Defensoría del Pueblo de CABA y la investigación de Unicef, ECPAT e Interpol. https://chequeado.com/el-explicador/deepfakes-en-escuelas-portenas-el-43-de-los-adolescentes-recibio-alguna-vez-imagenes-o-videos-hechos-con-ia/

Unicef Argentina. Los abusos cometidos mediante deepfake siguen siendo abusos https://www.unicef.org/argentina/comunicados-prensa/los-abusos-cometidos-mediante-deepfake-siguen-siendo-abusos

Center for Democracy and Technology (2024). In Deep Trouble: Surfacing Tech-Powered Sexual Harassment in K-12 Schools. https://cdt.org/insights/report-in-deep-trouble-surfacing-tech-powered-sexual-harassment-in-k-12-schools/

Ley 27.736, Ley Olimpia (Boletín Oficial, 23/10/2023). https://ciberseguridad.uncoma.edu.ar/wp-content/uploads/2024/09/Ley-27736-Olimpia.pdf

Deepfake en escuelas: el caso del joven que irá a juicio por crear con IA imágenes pornográficas falsas de sus compañeras. https://chequeado.com/?p=96988

Honorable Cámara de Diputados de la Nación. Proyecto de ley 3684-D-2025 (modificación de la Ley 27.736). https://www4.hcdn.gob.ar/dependencias/dsecretaria/Periodo2025/PDF2025/TP2025/3684-D-2025.pdf

*Diplomado en Ciencias Sociales con mención en Educación (FLACSO). Doctorando en Ciencias de la Educación (USAL).