La ciudad de Baltimore está evaluando el uso de detección de armas artificiales en las escuelas secundarias. La tecnología se encuentra actualmente en 27 escuelas y procesa alrededor de 14.000 entradas cada mañana. Las escuelas públicas de la ciudad de Baltimore comenzaron a utilizar Evolv en 2024. El año pasado, no se descubrieron armas, dijeron funcionarios escolares. Este año se ha encontrado una pistola de aire comprimido. Pero los líderes están preocupados después de enterarse de problemas con el programa en todo el país. A Conway le preocupa que el precio de 5 millones de dólares no valiera la pena. En una audiencia el martes, él y otros líderes de la ciudad cuestionaron el sistema Evolv de las escuelas. Se produce después de un acuerdo de la FTC sobre si la IA es realmente capaz de distinguir las armas de la propiedad personal después de casos documentados en todo el país de armas faltantes del programa y de marcar objetos comunes. «Eficiencia en ese sentido con estos sistemas», dijo Conway. City Schools dijo que utiliza IA para detección y no para vigilancia o reconocimiento facial. Hasta ahora, creen que está funcionando al hacer que los estudiantes crucen las puertas más rápido, actuando como elemento disuasivo y asegurándose de que puedan localizar de dónde viene una advertencia, lo que a su vez ayuda a los estudiantes a sentirse más seguros». Ningún sistema de detección de armas es perfecto, por lo que debe asegurarse de tener una manera de mantener sus escuelas lo más seguras posible. Disuadir a los estudiantes de venir a la escuela es algo que realmente dijimos: disuadir a los estudiantes de venir a la escuela». Perkins-Cohen, jefa de personal de las escuelas públicas de la ciudad de Baltimore. En promedio, alrededor del 30% de las entradas activan alertas, y casi todas son artículos benignos, como computadoras portátiles y estuches para anteojos, dijeron los funcionarios. Los miembros del consejo dijeron que continuarán dando seguimiento a sus inquietudes. «A medida que la IA llegue a la ciudad de Baltimore y al estado de Maryland, tendremos las medidas que queremos cumplir y que queremos cumplir con la población más joven», dijo la concejal de la ciudad de Baltimore, Phylicia Porter, demócrata del Distrito 10. El sistema escolar dijo que continuará monitoreando el sistema y capacitando al personal. El contrato se extiende hasta 2027. Conway dijo que le pidieron a Evolv que asistiera a la audiencia del martes, pero no pudieron.
La ciudad de Baltimore está evaluando el uso de detección de armas artificiales en las escuelas secundarias.
La tecnología se encuentra actualmente en 27 escuelas y procesa alrededor de 14.000 registros cada mañana.
Las escuelas públicas de la ciudad de Baltimore comenzaron a utilizar Evolv en 2024. El año pasado, no se descubrieron armas, dijeron funcionarios escolares. Este año se ha encontrado una pistola de aire comprimido. Sin embargo, los gerentes están preocupados después de enterarse de problemas con el programa en todo el país.
«Actualmente se utilizan como detectores de metales glorificados», dijo el concejal de la ciudad de Baltimore, Mark Conway, demócrata del Distrito 4.
Cada mañana, en las 27 escuelas secundarias de la ciudad, los estudiantes pasan por un sistema de detección de armas mediante IA. A Conway le preocupa que el precio de 5 millones de dólares no valiera la pena. En una audiencia el martes, él y otros líderes de la ciudad cuestionaron el sistema Evolv de las escuelas.
Se produce después de un acuerdo de la FTC sobre si la IA es realmente capaz de distinguir las armas de fuego de la propiedad personal después de casos documentados en todo el país en los que al programa le faltaban armas y marcaba objetos comunes.
«En el caso de que tengamos un sistema que en realidad no hace lo que dice que puede hacer, me preocupa que estemos abriendo una lata de gusanos y potencialmente poniendo en peligro la seguridad o eficacia de esos sistemas», dijo Conway.
City Schools dijo que utiliza IA para detección y no para vigilancia o reconocimiento facial. Hasta ahora, creen que funciona al hacer que los estudiantes crucen las puertas más rápido, actuando como un elemento disuasivo y garantizando que puedan identificar de dónde viene una advertencia, lo que a su vez ayuda a los estudiantes a sentirse más seguros.
«Ningún sistema de detección de armas es perfecto, por lo que debes asegurarte de tener una manera de mantener tus escuelas lo más seguras posible. Disuadir a los estudiantes de traer armas a la escuela es algo realmente importante», dijo Alison Perkins-Cohen, jefa de personal de las Escuelas Públicas de la ciudad de Baltimore.
En promedio, alrededor del 30% de los artículos activan alertas, y casi todos son artículos benignos, como computadoras portátiles y estuches para anteojos, dijeron los funcionarios.
Los miembros del consejo dijeron que continuarán dando seguimiento a sus inquietudes.
«A medida que la inteligencia artificial llega a la ciudad de Baltimore y al estado de Maryland, queremos asegurarnos de tener esas salvaguardas y las medidas de cumplimiento que puedan proteger a nuestra población más joven», dijo la concejal de la ciudad de Baltimore, Phylicia Porter, demócrata del Distrito 10.
El sistema escolar dijo que continuará monitoreando el sistema y capacitando al personal. El contrato se extiende hasta 2027.
Conway dijo que le pidieron a Evolv que asistiera a la audiencia del martes, pero no pudieron.
