Imagina que est\u00e1s en la escuela y simplemente llevas una bolsa de Doritos contigo. \u00bfQu\u00e9 podr\u00eda salir mal? Bueno, para Taki Allen, un estudiante de la escuela secundaria Kenwood en el condado de Baltimore, Maryland, esto se convirti\u00f3 en una pesadilla. Su bolsa de patatas fritas fue confundida con un arma de fuego por un sistema de seguridad de IA.<\/p>\n
Seg\u00fan informes, Taki se llev\u00f3 el susto de su vida mientras caminaba con una bolsa de patatas fritas en la mano. Dijo a la cadena local WBAL que simplemente no pod\u00eda creerlo. \u201cSolo sosten\u00eda una bolsa de Doritos con dos manos y un dedo extendido. Y aun as\u00ed, dijeron que parec\u00eda un arma\u201d, dijo Taki.<\/p>\n
Lo que sigui\u00f3 no fue nada divertido. Taki fue tirado al suelo, con las manos atadas a la espalda. \u00bfTe imaginas solo querer comerte tu merienda y en cambio tener que arrodillarte mientras te ponen esposas? Esa no es realmente la forma ideal de pasar tu d\u00eda escolar.<\/p>\n
Este incidente plantea interrogantes sobre la fiabilidad de estos sistemas de IA. Por supuesto, la tecnolog\u00eda puede ayudarnos a mejorar la seguridad en las escuelas, pero cuando comete errores tan graves, uno tiene que preguntarse si no hace m\u00e1s da\u00f1o que bien.<\/p>\n
Podr\u00edas decir: \u201cS\u00ed, pero \u00bfy si hubiera sido un arma de fuego?\u201d. Ese es un punto v\u00e1lido. La seguridad escolar es s\u00faper importante, y si la tecnolog\u00eda puede ayudar a detectar armas, no tiene nada de malo. Pero la l\u00ednea entre seguridad y reacci\u00f3n exagerada es delgada. La pregunta es ahora: \u00bfc\u00f3mo podemos estar seguros de que tales sistemas funcionen correctamente sin perjudicar a estudiantes inocentes?<\/p>\n
Este tipo de incidentes puede tener un gran impacto en los estudiantes. Puede generarles ansiedad y falta de confianza en la tecnolog\u00eda, cuando precisamente lo que desean es un entorno de aprendizaje seguro. La experiencia de Taki sin duda tambi\u00e9n har\u00e1 reflexionar a sus compa\u00f1eros sobre c\u00f3mo la tecnolog\u00eda influye en sus vidas.<\/p>\n
\u00bfQu\u00e9 va a pasar ahora con este sistema de IA? \u00bfVan a modificarlo o incluso eliminarlo por completo? Parece que las escuelas tienen la responsabilidad de asegurarse de que la tecnolog\u00eda no las deje atr\u00e1s, especialmente cuando se trata de la seguridad de sus alumnos.<\/p>\n
Este incidente es un claro ejemplo de c\u00f3mo la tecnolog\u00eda puede sorprendernos, tanto para bien como para mal. Esperemos que se aprendan lecciones de esta experiencia, para que los estudiantes puedan estar seguros en el futuro sin tener que preocuparse por una bolsa de patatas fritas que les cause problemas.<\/p>\n