Sistema de IA en la escuela confunde bolsa de Doritos con arma de fuego

Una situación extraña en Baltimore

Imagina que estás en la escuela y simplemente llevas una bolsa de Doritos contigo. ¿Qué podría salir mal? Bueno, para Taki Allen, un estudiante de la escuela secundaria Kenwood en el condado de Baltimore, Maryland, esto se convirtió en una pesadilla. Su bolsa de patatas fritas fue confundida con un arma de fuego por un sistema de seguridad de IA.

Cómo sucedió

Según informes, Taki se llevó el susto de su vida mientras caminaba con una bolsa de patatas fritas en la mano. Dijo a la cadena local WBAL que simplemente no podía creerlo. “Solo sostenía una bolsa de Doritos con dos manos y un dedo extendido. Y aun así, dijeron que parecía un arma”, dijo Taki.

Las consecuencias

Lo que siguió no fue nada divertido. Taki fue tirado al suelo, con las manos atadas a la espalda. ¿Te imaginas solo querer comerte tu merienda y en cambio tener que arrodillarte mientras te ponen esposas? Esa no es realmente la forma ideal de pasar tu día escolar.

El papel de la tecnología

Este incidente plantea interrogantes sobre la fiabilidad de estos sistemas de IA. Por supuesto, la tecnología puede ayudarnos a mejorar la seguridad en las escuelas, pero cuando comete errores tan graves, uno tiene que preguntarse si no hace más daño que bien.

¿Y si hubiera sido un arma?

Podrías decir: “Sí, pero ¿y si hubiera sido un arma de fuego?”. Ese es un punto válido. La seguridad escolar es súper importante, y si la tecnología puede ayudar a detectar armas, no tiene nada de malo. Pero la línea entre seguridad y reacción exagerada es delgada. La pregunta es ahora: ¿cómo podemos estar seguros de que tales sistemas funcionen correctamente sin perjudicar a estudiantes inocentes?

El impacto en los estudiantes

Este tipo de incidentes puede tener un gran impacto en los estudiantes. Puede generarles ansiedad y falta de confianza en la tecnología, cuando precisamente lo que desean es un entorno de aprendizaje seguro. La experiencia de Taki sin duda también hará reflexionar a sus compañeros sobre cómo la tecnología influye en sus vidas.

¿Qué pasa?

¿Qué va a pasar ahora con este sistema de IA? ¿Van a modificarlo o incluso eliminarlo por completo? Parece que las escuelas tienen la responsabilidad de asegurarse de que la tecnología no las deje atrás, especialmente cuando se trata de la seguridad de sus alumnos.

Conclusie

Este incidente es un claro ejemplo de cómo la tecnología puede sorprendernos, tanto para bien como para mal. Esperemos que se aprendan lecciones de esta experiencia, para que los estudiantes puedan estar seguros en el futuro sin tener que preocuparse por una bolsa de patatas fritas que les cause problemas.

Bron: techcrunch.com