Una universidad utilizó una IA para cazar a los estudiantes que la utilizaban. El resultado fue un desastre predecible. – Desde dentro

¿Qué pasó? ellos cuentan futurismo que la Universidad Católica Australiana acusó a unos 6.000 estudiantes de mala conducta académica en 2024. Al menos el 90% de los casos estaban relacionados con el uso de IA para cometer fraude. Lo llamativo es que la propia universidad utilizó una IA para realizar estas acusaciones, muchas de las cuales eran falsas.

Por qué es importante. Es otro ejemplo de cómo la IA todavía no es confiable. Lo vemos todo el tiempo con resultados falsos y alucinaciones. La universidad australiana no es la única que confía en la IA para cobrar a sus estudiantes, es una práctica bastante a menudo y habia otros casos similares. La realidad es que los detectores de texto con IA también son IA y, al menos por ahora, Son imperfectos.

Turnitín. Es un software de detección de plagio cuya primera versión fue lanzada en el año 1997 y es muy utilizado en universidades y centros educativos. En 2023 añadió un Herramienta para reconocer textos creados con IA y es el que usaron en la Universidad Católica Australiana. La propia empresa afirma en su Instrucciones de uso que el detector de IA no siempre es preciso y no debe utilizarse como única fuente para culpar a un estudiante. Sin embargo, según ABC Australiala universidad lo utilizó como única prueba al publicar sus registros de mala conducta.

La versión universitaria. Las acusaciones sobre el uso de IA incluían obras generadas por IA, referencias inventadas (alucinaciones) y el uso de herramientas de IA para citar y traducir contenido. Según la universidad, al menos una cuarta parte de todas las acusaciones fueron retiradas tras una investigación. También rechazaron aquellos donde la única evidencia era la propia IA y dejaron de utilizar ese software en marzo de este año.

El dilema. La aparición de herramientas de IA plantea desafíos para el sector educativo. heno Voces a favor de una prohibiciónmientras que otros Defienden la integración y promover buenas prácticas. La UNESCO publicó un Guía para utilizar la IA generativa en la educación En él fijan reglas y obligaciones, como la protección de la privacidad, límites de edad y un enfoque que garantice el uso ético y seguro de estas herramientas.

Imagen | Turnitín

En | Un profesor corrigió un examen final creado con ChatGPT, pero otra IA lo calificó de manera diferente, exponiendo el dilema