22 декабря. ПРАВМИР. В одной из средних школ штата Флорида (США) сработала система экстренной безопасности после ошибки алгоритма видеоаналитики.
Искусственный интеллект, встроенный в камеры наблюдения школы Лоутон-Чайлз, принял кларнет в руках ученика за огнестрельное оружие, из-за чего в учебном заведении немедленно ввели режим изоляции.
Как сообщили изданию Futurism в полиции, сигнал тревоги поступил автоматически, и у администрации школы не было возможности проигнорировать предупреждение. Учебное заведение перешло на «красный код», однако вскоре выяснилось, что угрозы нет.
«Режим изоляции был введен исключительно в целях предосторожности. Детям ничего не угрожало», — подчеркнули правоохранители.
Директор школы доктор Мелисса Лаудани в обращении к родителям пояснила, что в округе действует многоуровневая система безопасности, основанная в том числе на автоматическом выявлении потенциальных угроз.
При этом в произошедшем она обвинила самого ученика, отметив, что он держал музыкальный инструмент «так, будто это было оружие».
«Хотя опасности для кампуса не существовало, я прошу вас обсудить с детьми риски, связанные с имитацией оружия на территории школы», — написала Лаудани.
Инцидент вызвал критику в адрес используемой технологии. Система не смогла отличить кларнет от огнестрельного оружия, что поставило под сомнение точность и надежность подобных решений.
Издание также напомнило о недавнем случае в Балтиморе, где алгоритм школьного видеонаблюдения ошибочно распознал небольшой пакет чипсов Doritos как пистолет. Это привело к жесткому задержанию 16-летнего подростка, в котором участвовали как минимум восемь вооруженных полицейских.
Компания Omniilert, чья система фигурировала в балтиморском инциденте, ранее заявляла, что её технология «работала так, как задумано», отдавая приоритет безопасности и предполагая быструю проверку человеком.
Случаи во Флориде и Балтиморе вновь подняли вопрос о том, насколько готовы системы видеонаблюдения на основе искусственного интеллекта к массовому внедрению в школы. Ошибки такого рода могут быть не менее опасны, чем ситуации, когда реальную угрозу система не распознает вовсе.
