El crecimiento acelerado de la inteligencia artificial dentro de los entornos educativos abrió un debate que va mucho más allá de la innovación tecnológica. Mientras escuelas, universidades y docentes incorporan plataformas inteligentes para mejorar la enseñanza, especialistas advierten que el tratamiento de los datos personales, la privacidad de los estudiantes y el uso ético de la inteligencia artificial representan algunos de los principales desafíos que deberá enfrentar la educación durante los próximos años.
Actualmente, millones de estudiantes utilizan diariamente herramientas como ChatGPT, Microsoft Copilot, Google Gemini, NotebookLM y otras plataformas basadas en inteligencia artificial para resolver dudas, elaborar resúmenes, organizar apuntes o complementar sus actividades académicas. Sin embargo, detrás de cada consulta realizada existe un importante intercambio de información que muchas veces pasa desapercibido para los usuarios. Las plataformas de inteligencia artificial procesan grandes volúmenes de datos para generar respuestas personalizadas.
Dependiendo de la herramienta utilizada, pueden almacenar conversaciones, analizar patrones de uso e interpretar información proporcionada por los usuarios. Si bien las empresas tecnológicas implementan políticas de privacidad y mecanismos de protección, especialistas sostienen que resulta fundamental que estudiantes y docentes comprendan cómo se gestionan esos datos y cuáles son los derechos que poseen sobre su información personal. La Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) publicó en 2023 las **"Directrices para el uso de la Inteligencia Artificial Generativa en la Educación y la Investigación"**, donde destaca que las instituciones educativas deben garantizar un uso transparente, seguro y responsable de estas tecnologías. El organismo sostiene que la inteligencia artificial ofrece enormes oportunidades para mejorar el aprendizaje, pero advierte que su implementación debe respetar principios relacionados con la privacidad, la protección de datos, la equidad y los derechos humanos. Uno de los principales riesgos identificados por los especialistas está relacionado con la recopilación de información personal.
En muchas ocasiones, los estudiantes utilizan plataformas digitales sin conocer qué datos son almacenados, durante cuánto tiempo permanecen disponibles o con qué finalidad pueden ser utilizados posteriormente. Esta situación llevó a diversos organismos internacionales a recomendar que las instituciones educativas desarrollen políticas claras sobre el uso de herramientas basadas en inteligencia artificial. En Argentina, la protección de los datos personales se encuentra regulada por la Ley N.º 25.326 de Protección de los Datos Personales. Aunque esta normativa fue sancionada antes del desarrollo de la inteligencia artificial generativa, continúa estableciendo principios fundamentales relacionados con el tratamiento responsable de la información personal. Diversos especialistas consideran que el crecimiento de estas tecnologías hace necesaria una actualización permanente del marco regulatorio para responder a los nuevos desafíos digitales.
Otro aspecto que genera preocupación es la transparencia de los algoritmos. Los modelos de inteligencia artificial producen respuestas a partir del análisis de enormes cantidades de información, pero normalmente no explican con precisión cómo llegaron a una determinada conclusión. Este fenómeno, conocido como "caja negra algorítmica", puede dificultar la identificación de errores, sesgos o información incorrecta, especialmente cuando los estudiantes utilizan estas herramientas como fuente principal de consulta. La investigadora Joy Buolamwini, fundadora de la organización Algorithmic Justice League e investigadora del MIT, demostró mediante diversos estudios que algunos sistemas de inteligencia artificial presentan sesgos al procesar información relacionada con género, edad o características físicas. Sus investigaciones impulsaron un debate internacional sobre la necesidad de desarrollar algoritmos más transparentes, equitativos y representativos de la diversidad social. En el ámbito educativo, estos desafíos adquieren una relevancia particular. Si una herramienta inteligente reproduce información sesgada, incompleta o incorrecta, existe el riesgo de afectar el aprendizaje de los estudiantes. Por esta razón, numerosos especialistas coinciden en que la inteligencia artificial nunca debe reemplazar completamente el criterio docente ni el análisis crítico de las fuentes de información.
Otro tema que comenzó a debatirse es la autoría de los trabajos académicos. La facilidad para generar textos, imágenes, códigos de programación o presentaciones mediante inteligencia artificial obliga a redefinir criterios relacionados con la originalidad, la integridad académica y el uso responsable de estas herramientas. Lejos de prohibir su utilización, muchas universidades comenzaron a elaborar reglamentos que establecen cuándo y de qué manera los estudiantes pueden emplear inteligencia artificial dentro de sus actividades. La Universidad de Harvard, el Instituto Tecnológico de Massachusetts (MIT) y numerosas universidades europeas impulsan actualmente políticas que promueven un uso transparente de estas tecnologías.
En la mayoría de los casos se recomienda que los estudiantes indiquen expresamente cuándo utilizaron herramientas de inteligencia artificial como apoyo para la elaboración de trabajos, de manera similar a la citación de fuentes bibliográficas tradicionales. La formación docente también ocupa un lugar central dentro de este escenario. No solo resulta necesario aprender a utilizar plataformas inteligentes, sino también comprender sus implicancias éticas, legales y pedagógicas. Diversos programas impulsados por la UNESCO y por universidades de distintos países incluyen actualmente módulos específicos sobre ética de la inteligencia artificial, privacidad de los datos y ciudadanía digital. Especialistas coinciden en que la alfabetización digital del siglo XXI ya no puede limitarse al manejo de dispositivos tecnológicos.
Comprender cómo funcionan los algoritmos, identificar posibles sesgos, proteger la información personal y evaluar críticamente las respuestas generadas por sistemas inteligentes se convirtió en una competencia esencial para cualquier ciudadano. La Organización para la Cooperación y el Desarrollo Económicos (OCDE) también sostiene que los sistemas educativos deberán incorporar progresivamente contenidos relacionados con ética digital e inteligencia artificial responsable. Según el organismo, preparar a los estudiantes para convivir con estas tecnologías implica enseñar no solo cómo utilizarlas, sino también cómo cuestionarlas, comprender sus limitaciones y analizar su impacto sobre la sociedad. A medida que la inteligencia artificial continúa expandiéndose dentro de las aulas, el debate sobre la privacidad, la ética y la protección de datos adquiere una importancia creciente.
La innovación tecnológica ofrece oportunidades inéditas para mejorar los procesos educativos, pero también exige construir marcos normativos y pedagógicos capaces de garantizar un desarrollo responsable. El futuro de la educación dependerá no solo de las herramientas tecnológicas disponibles, sino también de la capacidad de docentes, estudiantes e instituciones para utilizarlas con criterio, responsabilidad y transparencia. Formar ciudadanos digitalmente competentes significa enseñar a aprovechar el enorme potencial de la inteligencia artificial sin perder de vista los valores fundamentales que deben guiar toda práctica educativa: el respeto por las personas, la protección de sus derechos y el compromiso con un uso ético de la tecnología.
Fuentes consultadas: • UNESCO – Guidance for Generative AI in Education and Research. • UNESCO – Recomendación sobre la Ética de la Inteligencia Artificial. • Organización para la Cooperación y el Desarrollo Económicos (OCDE). • Ley N.º 25.326 de Protección de los Datos Personales (Argentina). • Joy Buolamwini – Massachusetts Institute of Technology (MIT) y Algorithmic Justice League. • Harvard University – Artificial Intelligence Guidance. • Massachusetts Institute of Technology (MIT).