Día de Internet Segura 2025, "¿Demasiado bueno para ser verdad? Protegiéndote a ti mismo y a otros de las estafas on-line", es más pertinente que nunca a medida que la era de la Inteligencia Artificial (IA) se afianza.
Continuamos descubriendo el impacto de los Grandes Modelos de Lenguaje (LLM) en los entornos de aprendizaje K12, sin embargo, en el caso de las estafas on-line, hay motivos para preocuparse.
Abordar los desafíos que enfrentan los jefes de estudio, administradores de TI y maestros, así como la mejor manera de educar a los estudiantes sobre las amenazas que existen on-line, requiere un cierto grado de comprensión y una comunicación clara de los problemas que se enfrentan.
Lo que implican, las formas en que pueden presentarse y cómo lidiar con ellos. Simplemente crear conciencia de su posibilidad no es toda la historia.
Proporcionar puntos de acción que puedan usarse para asegurar que podamos mitigar su posibilidad de ocurrencia y asegurar que estemos lo más seguros posible on-line es un segundo paso importante.
Simplemente instigar miedo y preocupación en los estudiantes aumenta la ansiedad y no ayuda a lidiar con los problemas en cuestión. El conocimiento en este caso es un primer paso importante, sin embargo, el verdadero poder proviene de saber cómo lidiar con estas situaciones y comprender la capacidad de uno para enfrentar estos desafíos.
Como educador, estudiante y como padre.
Hemos reunido 3 tipos clave de estafas on-line que deberían ser motivo de preocupación:
- Estafas de phishing y suplantación de identidad
- Amplificación de información errónea y desinformación (Fake-News)
- Ingeniería social y captación de menores impulsadas por IA
Este no es otro blog sobre cómo la generación de imágenes con IA crea fotos distorsionadas, aunque tocaremos ese tema.
Aprenderá más sobre estos posibles tipos de estafas y las formas en que los educadores y estudiantes pueden encontrarlas.
Estafas de phishing y suplantación de identidad
Las estafas de suplantación de identidad y phishing son tan antiguas como el comercio mismo.
Antes de Internet, y antes de cualquier tecnología moderna, para el caso, siempre hemos estado sujetos a prácticas engañosas que se esfuerzan por engañar a las personas, obtener acceso a su información personal y robarles.
La IA contribuye al problema
En la forma moderna de IA de esta táctica antigua, ahora tenemos que lidiar con tales estafas con material que se desarrolla mucho más fácil y rápidamente a escala, casi sin fin.
La IA, o los LLM en este caso, pueden generar correos electrónicos, mensajes y "deepfakes" de audio e incluso video de phishing realistas que se hacen pasar por personas de confianza con una desafortunada cantidad de facilidad y una precisión cada vez mayor.
Estos podrían ser padres, maestros, líderes escolares, administradores…, la lista continúa.
Los estudiantes jóvenes, especialmente, pueden ser engañados por estas estafas sofisticadas.
Los tipos de estafas que se basan en esto son:
- Correos electrónicos escolares falsos
- Suplantación de identidad de maestros o personal
- Suplantación de identidad de padres
- Phishing a través de plataformas educativas
El papel de la IA en esto
Los algoritmos de IA pueden analizar y procesar cantidades inmensas, casi inconcebibles de datos para desarrollar estas estafas. Esto se suma aún más al grado de realismo y la medida en que pueden ser altamente convincentes.
La tecnología Deepfake puede crear videos y grabaciones de audio realistas que son cada vez más difíciles de identificar y evitar ser manipulados o engañados por ellos.
¿Qué pueden hacer los maestros y los padres?
Saber sobre estos problemas es una cosa, pero ¿cómo podemos combatirlos?
Educar a los estudiantes es un primer paso importante, saber que la información se puede falsificar fácilmente es el primer paso hacia la conciencia de la existencia de los problemas.
El segundo es cómo asegurar que la información recibida sea correcta.
Mucha información, imágenes y videos creados por IA tienen inconsistencias e inexactitudes. Ya sean dedos adicionales, dedos de los pies fuera de lugar o rasgos faciales desproporcionados.
Otro indicador puede ser la consistencia de la iluminación en una imagen generada por IA, donde no todas las sombras son consistentes en toda la imagen, lo que es más difícil de precisar, pero crea una sensación de incomodidad al mirar dicha imagen.
En el contexto de los correos electrónicos falsos, las sutilezas son más difíciles de identificar, especialmente si el remitente suplantado tiene un perfil on-line prolífico. Las IA pueden ser entrenadas en el estilo de escritura de la persona y pueden crear mensajes fácilmente para imitarlos basándose en esta información.
Se debe informar a los estudiantes que consideren los mensajes que se les envían y que consideren si realmente tienen un libro de la biblioteca pendiente o cualquier frente o consulta que se solicite.
Información errónea y desinformación
Una de las principales habilidades de la IA es la creación de contenido, ya sea texto, imágenes o video, como mencionamos anteriormente.
Las IA con las que muchos de nosotros interactuamos son LLM, que están esencialmente diseñados para siempre dar una respuesta a su pregunta. Es posible que haya experimentado esto usted mismo en las solicitudes que realiza, independientemente del contexto o la precisión de la información disponible y cuán incorrecta pueda ser, el modelo producirá un resultado.
Esto puede llevar a información y respuestas totalmente incorrectas, y sin una mayor interrogación de la información proporcionada, pueden engañar a los estudiantes.
Sin embargo, esto está en el contexto de solicitudes honestas de los modelos. En el caso de personas que generan intencionalmente información errónea y desinformación, los modelos son totalmente capaces de generar grandes cantidades de información que son totalmente engañosas e incorrectas.
Diseñados para responder
Hay algunos casos en los que pueden estar perplejos o sus datos de entrenamiento preceden al evento sobre el que se pregunta, sin embargo, la respuesta general es que la información se arroje a la consulta recibida.
Esto crea una situación en la que se puede solicitar y crear fácilmente mucha información errónea, con actores maliciosos que buscan motivar su causa, creando información incorrecta para engañar y persuadir a las personas que leen esta información.
La velocidad a la que la IA puede crear esta información, en forma de artículos, publicaciones en redes sociales, videos, etc., es increíble y permite la proliferación de información que es simplemente incorrecta o engañosa.
Ejemplos de este tipo de acciones incluyen:
- Noticias falsas sobre políticas escolares
- Rumores y ciberacoso
- Imágenes y videos manipulados
- Propaganda dirigida a los estudiantes
Las habilidades de pensamiento crítico y discernimiento sobre lo que está leyendo y consumiendo on-line son más importantes que nunca ahora en el mundo de la IA. Evaluar la fuente de la información, quiénes son, cuáles pueden ser sus motivaciones y cómo esta información se relaciona con cualquier posible motivo que puedan tener como organización debe ser considerado.
Verificación de información en la era de la IA
La habilidad de la lectura académica es más importante que nunca para discernir si la información presentada al lector es legítima o intencionalmente engañosa.
Además de esto, los maestros pueden enseñar a los estudiantes la importancia de verificar la información que consumen antes de transmitirla, para validarla y asegurar que sea fáctica.
Enseñar a los estudiantes a considerar múltiples fuentes, preferir fuentes confiables y de confianza, y verificar y contrastar la información es un método importante para consumir información.
Estrategias de mitigación: Habilidades de pensamiento crítico
Aprender habilidades de pensamiento crítico es de gran importancia en el mundo moderno, como cubrimos anteriormente, identificar estafas, información falsa e información intencionalmente cargada de emotividad.
Aprender a interrogar la información encontrada y separarse de los desencadenantes intencionalmente emotivos utilizados requiere un grado de discernimiento que se mejora a través del desarrollo de habilidades de pensamiento crítico.
Educar a los estudiantes sobre la importancia de identificar contenido sensacional y emocionalmente cargado puede marcar una gran diferencia en su grado de compromiso con la información.
Identificar el tono del contenido, cómo se sienten en respuesta a lo que están leyendo y qué pasos se pueden tomar para procesar completamente la información antes de reaccionar y compartir información que podría ser incorrecta es importante, y una habilidad que requiere un trabajo constante.
Los estudiantes deben aprender a tener habilidades de pensamiento adaptables y flexibles y ser capaces de interactuar fácilmente con nuevos desafíos e información única sobre la marcha sin tener que apoyarse demasiado en la entrada externa (o consultar a una IA para obtener ayuda).
Este es un conjunto de habilidades importante para desarrollar con el fin de convertirse en un pensador independiente, una habilidad requerida para desarrollar habilidades de pensamiento creativo e innovador. Esto se aplica tanto al contenido on-line como a los intentos de estafa on-line.
Los estafadores intentarán aprovechar un tema cargado de emoción para tratar de desencadenar una reacción, en lugar de considerar completamente lo que se nos pide o lo que se desencadena dentro de nosotros. Ya sea insistiendo en que un miembro de la familia está herido o desaparecido, o que están siendo amenazados y requieren asistencia inmediata.
Asegurar que podamos comprender completamente la situación en cuestión y considerar la respuesta emocional que busca ...el estafador, simplemente identificar esto puede ayudar a prevenir otros pasos que puedan poner en peligro a uno.
Este artículo de Walden University describe cómo enseñar pensamiento crítico en la educación primaria, y este artículo de Edutopia describe cómo ayudar a los estudiantes de K12 a perfeccionar estas habilidades.
Ingeniería social y captación de menores
Un tema más ominoso e incómodo en el ámbito de la IA es el de la ingeniería social y la captación de menores, y el grado en que esto se ve afectado por las herramientas generativas on-line con las estafas de desinformación y phishing destacadas anteriormente, la IA permite la creación y distribución de perfiles falsos más fácilmente y posiblemente más completos que nunca.
Los chatbots de IA pueden simular conversaciones humanas e interactuar en plataformas de redes sociales o plataformas de juegos on-line para imitar a un compañero estudiante o personalidad on-line para sonsacar información de víctimas desprevenidas que pueden ser utilizadas en beneficio del actor malicioso.
Y los LLM que pueden crear imágenes y videos basados en indicaciones, proporcionan a los estafadores los medios para crear videos para perpetrar su estafa.
Primer paso: Conciencia
Como con todas estas preocupaciones, la conciencia es un primer paso importante para educar a los estudiantes sobre estos desafíos.
Algunos tipos de estafas podrían incluir:
- Ataques de phishing personalizados
- Amigos falsos generados por IA
- Llamadas de audio y video Deepfake
Pero como ya he mencionado, simplemente informar a los estudiantes no es suficiente, y más allá de eso, aunque queremos que los estudiantes sean conscientes de estas preocupaciones, crear grandes cantidades de paranoia de cada interacción y fragmento de información on-line es una lente desafortunada para ver el mundo a través de ella.
Enseñar a los estudiantes a abordar la información on-line con una mentalidad crítica puede tener beneficios positivos a largo plazo.
A medida que los estudiantes desarrollan su capacidad para interpretar y analizar información, podrán comprender mejor los motivos y el tono del contenido on-line, y tomar decisiones informadas.
Comportamiento proactivo
A medida que los estudiantes desarrollan la capacidad para identificar información que desencadena emociones, y las preguntas que implican que el que pregunta busca más información de la que parece, son excelentes desencadenantes para que los estudiantes desarrollen estas habilidades.
Aunque el contexto de las estafas, el phishing, la ingeniería social, etc., debe ser traído a la atención de los estudiantes, tenerlo como el frente intimidante y aterrador de todo on-line puede causar angustia en el desarrollo de la cosmovisión que los estudiantes están desarrollando.
El escepticismo es una habilidad importante y esto presenta un tono y un enfoque diferentes al mundo que uno de miedo y desconfianza.
Además, el Centro de Internet Seguro del Reino Unido proporciona más recursos educativos para ayudar a guiar a los estudiantes, padres y maestros a navegar por estos desafíos.
Intervención como medida preventiva
En combinación con todos estos medios para equipar a los estudiantes con discernimiento y fomentar la habilidad del pensamiento crítico, las escuelas requieren medidas proactivas para cuando el discernimiento de los estudiantes y maestros falle.
Asegurar que se implementen medidas para evitar compartir fácilmente información de los estudiantes on-line, que el acceso a sitios de phishing conocidos y sospechosos esté completamente bloqueado, y que las plataformas de juegos con reputaciones turbias no sean accesibles ayuda mucho a asegurar que los estudiantes permanezcan seguros y protegidos on-line.
Plataformas como Mobile Guardian ofrecen las herramientas que las escuelas K12 requieren para asegurar que sus estudiantes permanezcan seguros on-line.
A través de características como la gestión de aplicaciones, el filtrado web más seguro, el filtrado web basado en categorías y el filtrado basado en la ubicación, la exploración que los estudiantes pueden realizar on-line puede ser limitada.
Más cobertura de IA en K12
Más allá de estos problemas con el impacto que la IA está destinada a jugar en las estafas y los intentos de phishing en todo el mundo, se debe considerar más a fondo el comportamiento de la IA.
Hemos discutido esto en otros blogs, como el uso de la Inteligencia Artificial en la Educación, los efectos negativos de la IA en la educación y cómo gestionar las aplicaciones de IA en el aula.
Estos blogs abordan los problemas de los sesgos en los datos de entrenamiento de las herramientas de IA generativa, cómo limitar o restringir su uso en entornos de aprendizaje digital y cómo obtener lo mejor de los programas de aprendizaje digital en general.